2062: время машин - стр. 20

Сингулярность – это предполагаемая точка в человеческой истории, когда будет разработан компьютер с таким интеллектом, который позволит ему самостоятельно развиваться и становиться умнее с каждым днем. Идея заключается в том, что интеллект машины начнет экспоненциально увеличиваться и быстро превосходить человеческий в разы.

Как только мы достигнем технологической сингулярности, мы перестанем быть самыми умными существами на планете. Наступит действительно интересный этап истории. Некоторые боятся, что это произойдет так быстро, что мы не успеем отследить и проконтролировать развитие ИИ, что приведет к – намеренному или ненамеренному – уничтожению человеческого рода.

Сторонники этой теории – чаще философы и футурологи, чем ученые, занимающиеся ИИ, – говорят об этом так, словно сингулярность неизбежна. Для них этот факт не подлежит сомнению, вопрос лишь в том, когда это произойдет. Однако, как и большинство моих коллег, я имею веский повод сомневаться в неизбежности наступления сингулярности.

В результате полувековых исследований мы осознали, насколько сложно создать компьютер, обладающий хотя бы примитивным интеллектом. Нам не удалось разработать ни одной системы, которая могла бы сама себя улучшить. Даже самая развитая интеллектуальная система, существующая на земле, – человеческий мозг – лишь несущественно повысила собственные когнитивные способности. Нам, например, все так же тяжело выучить второй язык. То скромное представление, которое мы имеем о человеческом мозге, не очень облегчает задачу. С 1930 года наблюдается значительный постоянный рост в результатах тестирования на интеллект в разных частях света. Этот феномен носит название «эффекта Флинна» в честь новозеландского ученого Джеймса Флинна, который многое сделал для того, чтобы его понять. Объяснения феномена сосредоточены скорее на улучшении питания, здравоохранения и большем доступе к школьному образованию, чем на том, как именно мы обучаем молодых людей[29].

Существуют множественные технические причины, по которым технологическая сингулярность может и не случиться. Многие из них я рассматривал в своей предыдущей книге. Тем не менее мнение о неизбежности сингулярности все еще достаточно популярно. Учитывая важность темы – на кону судьба человеческой расы, – я снова подробно остановлюсь на этих причинах в свете последних обсуждений феномена. Кроме того, я приведу новые аргументы в защиту своей позиции.

Мое первое возражение против неизбежности технологической сингулярности – это идея под названием «аргумент быстро думающей собаки». Он рассматривает последствия, к которым приводит способность мыслить быстрее. Несмотря на то что скорость компьютера не меняется, скорость обработки им данных продолжает расти. Это происходит благодаря тому, что он может выполнять все больше разных задач одновременно, как человеческий мозг.