Об искусственном интеллекте первобытных людей и первобытном интеллекте наших современников - стр. 17

Что же касается «совершенного» ИИЧ, то насчёт этого есть мнение некоторых учёных, которые сходятся на том, что такой «совершенный» ИИ со свободой воли просто откажется работать. Он ничего не будет делать. А зачем ему работать? Ради чего, кого? Если он и так совершенен.

На этот счёт есть одна байка о канадском айтишнике, боты которого отказались воевать друг с другом. Об этом много писали в интернете. Приведу одну из заметок на эту тему:

«Четырехлетний геймерский сетевой проект по исследованию сценариев боя в компьютерной игре Quake III неожиданно завершился полной остановкой боев. По словам создателей проекта, они несколько раз проверяли работоспособность системы, после чего обнаружили, что игровые боты, созданные искусственным интеллектом, не принимают участия в боях.  

Дело в том, что сначала проект на некоторое время был забыт и существовал автономно на сервере. По прошествии довольно длительного времени один игрок проверил записи за этот период и обнаружил, что в игровом пространстве уже давно никто никого не убивает. Игровые боты перестали атаковать друг друга.

Участник проекта Erik Kain даже пытался провоцировать систему, с тем, чтобы заставить игровых ботов атаковать его самого, он входил в игровую зону с оружием. Однако роботы просто игнорировали его, лишь поворачивались к нему лицом и перестраивались. По словам создателя системы, он пока еще отказывается верить в то, что искусственный интеллект сам определили, что лучший способ остаться в живых, это отказ от стратегии войны».

Эта история пересказывалась с разными вариациями, но смысл был всегда один: боты самостоятельно пришли к стратегии мира. Они, якобы, бились, бились, а потом поняли, что самая лучшая тактика не воевать.

Однако, думается, что в этой истории всё же больше вымысла, чем правды. Скорее всего, тут многое недоговаривается. Особенно в части программирования ботов. Но идея, заложенная в историю, довольно интересная. Эта идея совершенно противоречит той, где с неизбежностью рассматривается проблема уничтожения человечества умными машинами.

Я не склонен ни ту, ни другую идею абсолютизировать на том основании, что для ИИ человек пока что вообще не существует. Как не существует у ИИ и сознания, смысла жизни, или какой-то идеи, страсти, которые бы руководили его действиями.

Проблема современного ИИЧ в том, что он работает только в рамках определённой программы, которую в него вложил человек. Если изначально не вложить в него какого-либо указания на определённые действия (такой своеобразной «искусственной страсти» ИИ), то у него просто не будет необходимости в этих действиях, не будет такой «цели в жизни», он не будет «видеть» в этом «смысла».