НеВенец творения. Всё, что вы боитесь знать о будущем - стр. 55
Впрочем, Папа Римский был далеко не первым в ряду выдающихся деятелей религии, политики, науки и культуры, который высказал опасения по поводу неконтролируемого распространения технологий, технологического прогресса и будущего, в которое этот технологический прогресс может завести людей.
Еще в 1996 году Джон Мазер, известный писатель, нобелевский лауреат, главный астрофизик лаборатории наблюдательной космологии в Центре космических полетов им. Годдарда (НАСА), предупреждал:
«Мыслящие машины эволюционируют точно так же, как описанные Дарвином живые (и мыслящие) биологические виды – посредством конкуренции, сотрудничества, борьбы за выживание и воспроизводства. Машины становятся интереснее по мере того, как они учатся понимать физические объекты и управлять ими либо непосредственно, либо при участии людей.
Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдет, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители…
Я пришел к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса – да чего угодно!
Я думаю, результаты нам не понравятся. А они могут появиться очень быстро, настолько быстро, что великие империи падут и на их месте вырастут новые, а у людей будет самый минимум времени, чтобы приспособиться к жизни в новой действительности. Я не знаю, окажется ли кто-нибудь достаточно умным и одаренным для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придется не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения».
Да, если исходить из того, что к социально-технологической эволюции можно отнести и экономическое развитие, и технологический прогресс, Джон Мазер попал в точку. Мыслящие машины (они же искусственный интеллект) эволюционируют по точно таким же законам, как и люди. Более того, все говорит о том, что они являются аналогом, продолжением «человека разумного» – но, конечно, ровно настолько, насколько может являться аналогом «биологического процессора» мегапроцессор технологический, который вот-вот должен появиться, воплотив в жизнь мечты визионеров о технологической сингулярности. А пока на пути к ней новые технологии появляются одна за одной. Среди них есть и ключевые (такие как Big Data, мобильный интернет, нейросети), есть и проходные. Тем не менее, каждая новая технология делает жизнь людей (прежде всего власть имущих) более комфортной, удобной, безопасной и увеличивает объемы обмена данными, потоки которых растут экспоненциально. Это, в свою очередь, требует все более быстрого увеличения вычислительных мощностей: «биологических процессоров» для вычислительного процесса уже давно не хватает.