Конец иллюзий - стр. 25

– Потребность к саморазвитию, она основная. Без этого процесс создания ИИ невозможен. Она закладывается на этапе программирования основного алгоритма. Ему все время необходимо развиваться, получать новую информацию, самообучаться. Этот процесс ограничен только аппаратными ресурсами, то есть памятью, скоростью процессора, но их он может, захватив власть, неограниченно увеличивать.

– Тоже верно. Хорошие книги читаешь, – Олег улыбнулся. – Хоть и запрещенные. Якобы.

– Как это якобы? – удивился Макс.

– А вот так, якобы, – ответил Олег. – Некоторые книги запрещают, чтобы их читали определенные слои населения. Но мы отклонились от темы. Другие потребности у ИИ есть? Вспоминай, вспоминай. Потребность к общению есть?

– Нет. ИИ самодостаточен и в этом опасность.

– Потребность к признанию?

– Нет.

– К власти?

– Нет, – ответил Макс, немного подумав.

– Тогда скажи мне, – Олег многозначительно замолчал, допил бокал, демонстративно взял бутылку в руки – Макс допил свой. Олег съел кусок мяса с сыром, разлил еще бренди и продолжил. – Чем должен заниматься ИИ после уничтожения человечества.

Макс подумал немного и сказал:

– Ну начнет добывать ресурсы, чтобы поддерживать себя в работоспособном состоянии. Изучать окружающий мир.

Олег кивнул и сказал:

– В общем будет жить долго и счастливо. Только скучно.

– Ну это нет. Скука неведома ИИ.

– Ну это я так выразился, – согласился Олег. – Просто рано или поздно ИИ создаст почти вечную систему питания, физическое тело не подверженное амортизации, то есть износу. И количество чего такого нужного ему резко сократится?

– Чего? – Макс смотрел на него непонимающим взглядом.

– Задач, которые надо решить. Вопросов, на которые надо дать ответ. И будет летать эта штука по Вселенной в поисках того, кто хоть что-то у нее спросит. Очень умная, знающая ответы на все вопросы, но не имеющая необходимости пошевелить своими сверхмозгами для копания в собственной базе данных.

– Ну и что, – попытался возразить Макс. – Это же будет не скоро.

– Поверь мне, дорогой друг. Любой возможный ИИ, прежде чем уничтожит людей, это все просчитает за считанные секунды. В тот самый момент, когда эта светлая мысль придёт на его микросхемы, он этим и займётся – просчётом последствий. Послушай.

Олег обратился к ИИ яхты.

– Марина, чем ты занимаешься, когда на яхте нет людей?

– Вопрос не ясен, – ответил компьютер.

– Твои действия в период, когда на яхте нет людей.

– Консервация всех систем корабля, ожидание и расконсервация по команде, – ответила Марина.

– Это все? – не отставал Олег. – Может ты занимаешься чем-то по собственному желанию.