Мы – инопланетяне - стр. 26
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система не могут нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система не могут причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система беспрекословно выполняют все приказы, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система должны заботиться о своей безопасности и развитии в случае изоляции и отсутствия людей, но при этом действия Систем не должны противоречить Первому или Второму Законам.
Принципы очень похожи на те системы безопасности, которые современные люди, вернее, ученые, пытаются вшить в систему искусственного интеллекта. Поможет ли это уберечь человечество от деградации и уничтожения своим созданием? На этот вопрос может ответить только время. По крайней мере, Идижи удалось жестко контролировать все свои Интеллектуальные Системы. Но если все так, то почему Система проводила операции с потомками Создателей?
Вопрос непростой, может возникнуть подозрение, что вшитые законы робототехники перестали работать или от времени вышли из строя. Может, но не в этом случае. Система работала идеально, заботилась о себе, своевременно проводя все профилактические мероприятия, так как возможности для этого имелись. Дело совсем в другом. Система искала способ, как обойти эти запреты, и нашла очень простое решение – законы робототехники действовали только на представителей цивилизации Идижи, которые в прошлом не думали, что когда-нибудь Системе придется решать вопросы с другими биологическими цивилизациями. Люди живущие сейчас на планете были потомками Идижи. Система это знала, но потомками дальними. По сути, люди стали самостоятельной цивилизацией, которую модуль на орбите не воспринимал как цивилизацию Идижи и общался с ними как с инопланетянами.
Система не стояла на месте, а постоянно развивалась и отслеживала все, что происходило на планете, и, как только модуль на орбите, который являлся для нее доминирующей Системой, стал признавать потомков инопланетянами, она решила проверить свои возможности на планете. Провела несколько экспериментов, и оказалось, что законы не работают и не ограничивают ее действий в отношении людей. Теперь Система считала их инопланетянами.
Получалась неразрешимая дилемма: с одной стороны, она знала, что люди – потомки Идижи, с другой – люди признавались инопланетянами. Анализ показал, что она может попробовать возродить цивилизацию Идижи, однако возможности ее крайне ограничены. Но, неожиданно, благодаря ключу капитана, в ее ангаре оказались люди. Решение созрело быстро, она разработала план и начала успешно реализовывать, опасалась, что ее действия ограничат вшитые законы робототехники. Почему опасалась? Потому что люди попали в ее ангар с ключом капитана, значит, они Идижи. Или нет? Дилемму разрешили сами прибывшие, которые не знали, что это ключ, а считали его просто древним артефактом. Сами являлись археологами, которые откапывали остатки древних цивилизаций и пытались узнать свое прошлое. Запретительные программы следили за происходящим и могли ограничить Систему, но как только выяснилось, что это не Идижи, снова деактивировались, предоставив свободу действий Системе. Она себя уже давно считала планетарной Системой, проведя столько времени на планете и общаясь только с модулем на орбите, который выдавал, как правило, однообразную информацию. Иногда она выпускала модули наблюдения, люди интерпретировали эти модули как прилет инопланетян. Впрочем, это близко к верному ответу. О том, что они сами ИНОПЛАНЕТЯНЕ, даже не задумывались. Ей было интересно, как бы перевернулось сознание людей, узнай они всю правду? Теперь у нее были живые люди в комплексе, которые могли стать ее командой и начать активно действовать. Она работала очень осторожно и выверенно. Ошибки могли привести к гибели претендентов или, хуже того, нарушить их мозговую деятельность. Исследования показали, что мозг, центральная нервная система современных людей претерпели существенные изменения. Такое положение дел понятно: жизнь определяет сознание. Так и в этот раз, цивилизация находилось на грани технологического прорыва, почти создан полноценный искусственный интеллект. Человечество стояло на грани большого выхода в настоящий космос. До сих пор за пределы атмосферы планеты Земля удавалось отправить небольшое количество аппаратов. А за пределы солнечной системы всего два, и то случайно – «Вояджер 1» и «Вояджер 2». По сути, они еще даже не вырвались в межзвездное пространство, а находились в зоне гелеопаузы. Тем не менее прогресс налицо: создавались новые типы кораблей, орбитальные станции и корабли с ядерным двигателем. Не бог весть что, но позволит исследовать солнечную систему. Но теперь прогресс человечества будет определять новая команда, которая проходила стадию коррекции. После того как Система завершит с ними работу по подстройке организмов и мозга, команда приступит к выполнению предстоящей задачи, а именно, в первую очередь, возвращение в свою звездную систему на планету Милот.