Пять эссе на темы этики - стр. 12
5. По всем этим и еще по иным причинам война не напоминает больше, как напоминали войны прежних времен, формулу «серийного» искусственного интеллекта. Война ближе к формуле «параллельного» искусственного интеллекта.
«Серийный» искусственный разум, тот, например, который привлекается для создания машин, способных делать переводы, или для получения выводов из комплекса информационных данных, – этот разум получает от программиста такие инструкции, чтобы принимать, на основании конечного набора правил, последующие решения, каждое из которых зависит от решения, принятого на предыдущей фазе, по схеме дерева, посредством серии бинарных дизъюнкций. Старинная стратегия войны имела ту же конфигурацию: если неприятель двигал свои армии на восток, можно было предвидеть, что впоследствии он захочет повернуть на юг; в этом случае, следуя той же самой логике, я направлял свои войска на северо-восток и неожиданно перегораживал ему дорогу. Правила противника были в то же время и нашими правилами, и каждый мог принимать решения поступательно, по одному за раз, как в шахматной партии.
«Параллельный» искусственный разум, напротив, передоверяет отдельным ячейкам сети все решения, как им следует сложиться в окончательную конфигурацию, исходя из распределения «загрузок», которое оператор не способен ни рассчитать, ни предвидеть заранее, поскольку эта сеть порождает для себя правила, которые не были в нее заложены, и эта сеть сама себя модифицирует в поисках оптимального решения, и эта сеть не знает различия между правилами и данными. Правда, и систему подобного рода (называемую неоконнективной или системой нейтральных сетей) можно регулировать, сверяя полученный ответ с ожидаемым ответом и изменяя загрузки в зависимости от практики. Но для этого требуется: а) чтобы у оператора имелось время; б) чтобы не было двух операторов, находящихся в конкуренции и передвигающих загрузки во взаимно противоречивом режиме, и, наконец, в) чтобы отдельные ячейки сети вели себя и мыслили, как положено ячейкам, а не как положено операторам, то есть не принимали бы решений, основанных на анализе поведения операторов, а самое главное – не преследовали бы интересов, посторонних по отношению к логике сети.
Однако в ситуации разрознения властей каждая ячейка как раз и преследует именно личные интересы, которые не совпадают с интересами операторов и ничего не имеют общего с самодвижущими тенденциями той сети, куда ячейки входят. Следовательно, если (метафорический пример) войну представить себе в виде неоконнективной системы, она будет развиваться и самобалансироваться независимо от желания обоих тяжущихся. Примечательно, что, объясняя устройство нейтральных сетей, Арно Пензиас (в книге «Идеи и информация. Как жить в мире high-tech») прибегает как раз к военной метафоре. Он пишет: «Известно, что отдельные нейроны становятся электроактивными („стреляют“) в результате стимуляции через каналы инпута (так называемые дендриты), тончайшим образом разветвленные. В мгновение „выстрела“ нейрон выпускает электрические сигналы по каналам аутпута (так называемым аксонам) (…) Поскольку „выстрел“ каждого нейрона зависит от активности множества других нейронов, не существует никакого простого способа рассчитать, что и когда должно произойти (…) В зависимости от конкретного расположения синаптических сцеплений (коннексий) любая стимуляция нейтральной сети из сотни нейронов даст, в качестве возможных равновесных результатов, тысячу миллиардов миллиардов миллиардов вариантов (1030)».