The Question. Будущее - стр. 28

Для меня в детстве главной загадкой было то, как вся эта возня с числами превращается в картинки, звук и так далее. Трюк в том, чтобы все описывать через числа – «кодировать» информацию. Например, обозначить числом высоту ноты, пронумеровать буквы в алфавите и цвета на палитре. Компьютер манипулирует огромным количеством таких чисел, представляющих информацию, с огромной скоростью. Он выполняет действия, которые заложили в него инженеры и программисты, которые придумали, как именно выразить информацию в числах и как манипулировать этими числами, так чтобы изменять закодированную ими информацию.

Первым «компьютером» часто называют американский ЭНИАК. В нем использовались электронные лампы, которые делали его весьма большим по размерам и требовали различных инженерных ухищрений, чтобы не ломаться слишком часто, ведь выход из строя даже одной нарушал логику работы машины. Когда нужно было задать последовательность действий, которые должен был проделать ЭНИАК, чтобы решить задачу, инженеры физически переключали соединения его частей, на что уходило очень много времени. Исходные числа для подсчетов вводились в компьютер на перфокартах. В отличие от более поздних моделей, ЭНИАК все еще оперировал числами в десятичной системе, подобно механическим счетным машинам до него.

Сегодня многие люди этим обеспокоены. Инженеры компании Google создают алгоритмы безопасного обеспечения искусственного интеллекта. Существуют даже специальные фонды, куда вкладываются большие средства для реализации программ по развитию искусственного интеллекта. Так что сейчас профессионалы делают все, чтобы свести вероятность так называемого восстания машин к нулю и предотвратить возможность возникновения проблемы.

С другой стороны, мы должны понимать, что любое действие, не предписанное определенным алгоритмом, требующее морального усилия, лежит в плоскости свободы воли, свойственной только существам разумным. Проблема восстания машин – это проблема соотношения между каузальным порядком, детерминированностью событий и свободным самоопределением. На представлениях о свободе воли построено представление о личности и ответственности. Волюнтаризм Шопенгауэра предполагает волю как «вещь в себе», недоступную для познания и не подчиняющуюся принципу причинности.

Что касается искусственного интеллекта, то так или иначе – это рациональная система, поддающаяся прогнозированию и программированию. Вследствие этого любое отклонение от детерминизма будет являться не проявлением свободы воли, а системной ошибкой. Вероятно, подобные ошибки могут понести за собой плачевные для человека последствия: технологические катастрофы, транспортные бедствия.