Власть роботов. Как подготовиться к неизбежному - стр. 5
Даже если не рассматривать полное исчезновение рабочих мест вследствие автоматизации, то технологии уже влияют на рынок труда в других отношениях, которые должны встревожить нас. Существует опасность того, что на рабочие места, традиционно занимаемые представителями среднего класса, станут требоваться менее квалифицированные исполнители. Низкооплачиваемый работник, слабая подготовка которого компенсируется технологиями, сможет занять должность, которая прежде предполагала более высокий размер оплаты труда. Люди все чаще трудятся под контролем алгоритмов, которые следят за работой или задают ее темп, фактически превращая их в виртуальных роботов. Многие новые рабочие места создаются в гиг-экономике, в условиях которой трудящиеся обычно имеют непредсказуемый режим работы и доходы. Все это усиливает неравенство и в будущем может обернуться унижающими человеческое достоинство условиями труда для все большей доли работников.
Помимо негативного влияния на рынок труда и экономику, развитие искусственного интеллекта повлечет за собой множество других неприятных последствий. Наиболее явная из них – угроза нашей безопасности в целом. Имеются в виду кибератаки с использованием ИИ на физическую инфраструктуру и важнейшие системы, которые все в большей степени становятся взаимосвязанными, а также угрозы демократическому процессу и общественному устройству. Приписываемое России вмешательство в президентские выборы 2016 года является относительно безобидной демонстрацией того, что может ждать нас в будущем. Искусственный интеллект со временем способен стать источником еще более совершенных «фейковых новостей», поскольку позволяет фабриковать фотографии, аудио- и видеозаписи, практически неотличимые от настоящих, а армии по-настоящему продвинутых ботов когда-нибудь оккупируют социальные сети, будут сеять смуту и, потенциально, формировать общественное мнение.
В мире – особенно в Китае – системы слежения, использующие распознавание лиц и другие технологии на основе ИИ, применяются для колоссального увеличения власти и влияния авторитарных правителей и уничтожения неприкосновенности частной жизни. В Соединенных Штатах были случаи, когда системы распознавания лиц демонстрировали предвзятость по расовому или гендерному признаку, как и алгоритмы, использующиеся для отбора резюме и даже предоставления рекомендаций судьям в системе уголовного правосудия.
Пожалуй, самая пугающая и близкая угроза – это разработка полностью автономного оружия, способного убивать без обязательного участия человека, санкционирующего его применение. Такое оружие в принципе может применяться против целых народов, и от него будет крайне трудно защититься, особенно если оно попадет в руки террористов. Многие представители сообщества исследователей ИИ являются убежденными противниками такого развития событий, и в ООН выдвинута инициатива по запрету подобных систем вооружений.