Восстание машин отменяется! Мифы о роботизации - стр. 6

Наш рассказ начнется там, где начинал я сам, – в океанских глубинах. Двадцать пять лет назад, когда я был инженером, разрабатывающим встраиваемые компьютеры и инструменты для глубоководных роботов, я был поражен, обнаружив, что эта техника непредсказуемым образом меняет океанографию, научные методы и даже саму сущность профессии океанографа.

Это понимание привело к тому, что у меня появились две параллельно развивающиеся карьеры. Как ученый я изучал взаимодействия людей и машин, начиная от броненосных кораблей во времена Гражданской войны в США и заканчивая компьютерами и программным обеспечением, которые помогли астронавтам «Аполлона» совершить высадку на Луне. Как инженер я внедрял данные, полученные в результате этих исследований, в современные проекты – разрабатывал роботов и аппараты для использования в тесном взаимодействии с людьми. В некоторых историях я фигурирую как участник, в других – как наблюдатель, а в остальных – сразу в обеих этих ипостасях.

За долгие годы накопления опыта, поиска и разговоров с людьми я убедился в том, что мы должны изменить свое мнение по поводу роботов. Даже язык, на котором мы о них говорим, взят скорее из научной фантастики XX века и не имеет ничего общего с техническими достижениями современности. Например, дистанционно управляемые летательные аппараты называются дронами, как будто они являются лишенными разума автоматами, в то время как на самом деле они строго контролируются людьми. Роботов часто представляют (и продают) как полностью автономных посредников, однако даже сегодняшняя ограниченная автономность зачастую существует только в человеческом воображении. Роботы, которых мы столь широко и разнообразно используем, едва ли являются автоматами, несущими угрозу, – они внедрены в социальные и технические сети, как и мы сами. Далее мы рассмотрим множество примеров того, как мы работаем сообща с нашими машинами. Все дело в сочетаниях.

Пришло время рассмотреть, какие функции в действительности выполняют современные роботы, чтобы лучше понять наши взаимоотношения с этими зачастую поразительно умелыми творениями рук человеческих. Я предлагаю вам подкрепленное исследованиями эмпирическое заключение: что бы роботы ни выполняли в лабораторных условиях, в реальности же, где на кону стоят человеческие жизни и реальные ресурсы, мы стремимся ограничить их автономность бо́льшим количеством требуемых согласований и возможностей для вмешательства со стороны людей. Я не оспариваю тот факт, что машины умны, и не говорю, что в один прекрасный день они могут оказаться недостаточно умными. Скорее, мое утверждение заключается в том, что такие машины не являются