Океан - стр. 23
– Нет. Воспитание – это только часть. Я говорю про весь комплекс: опыт, общество, воспитание, моральные установки, инстинкты и так далее. А то, что я хочу поэкспериментировать – так, безделица, хотя и интересная.
– Но ты же говоришь, что есть самообучающиеся программы.
– Ты видишь у нас на борту опытных программистов или психологов? – он развел руками. Металлическая выглядела особенно эффективно. Есть коллективы, которые пишут такие программы, но у нас на борту таких нет.
– А не боишься, что, твой эксперимент выйдет из-под контроля, станет слишком умным и перебьет нас всех? Ведь, человечество всегда очень опасалось таких сценариев, вспомним еще с этого…как его, – Игорь поморщил лоб – а, Франкенштейна или доктора Моро.
– А ты не боишься, что Лада выйдет из под контроля или какой-то Юнга? Они точно не глупее нашего и умеют анализировать и делать прогнозы лучше человека.
– Тут ты прав, – согласился Игорь и замолчал.
– А вот помнишь, – продолжил геолог, – древнего писателя Азимова? И три закона робототехники. Нельзя такие табу поставить в мет-мозгу?
– Азимов и прочие сейчас можно читать только как лёгкие рассуждения на тему. Да, для своего времени это был прорыв, да и сейчас философские вопросы, поднимаемые там, довольно любопытны. А что касается конкретики, – Аркадий бросил взгляд на Эмиля, как самого эрудированного и многопрофильного специалиста среди присутствующих, – сам подумай. Ведь, чтобы понять, грозит или нет человеку опасность, сам робот должен быть таким умным, уж не меньше, чем человек. Не меньше, а на самом деле – гораздо более умным.
– А как же наша Лада, – вмешался Семен. Она же смотрит за показаниями всего экипажа и сообщает, если существует опасность.
– Да там другая же система, – вмешался Руслан, поигрывая своими впечатляющими бицепсами. Она просто постоянно отслеживает, а у Азимова роботы анализировали и делали вывод – опасно или нет. И мало того, самостоятельно предпринимали действия для предотвращения. Если, например, у кого-то из нас опасно повысится температура, она даст знать об этом Семену и капитану, – он обернулся на врача, который согласно кивнул. Если никого не будет, она, в крайнем случае, направит Юнгу, чтобы он сделал укол. Но это прямая и явная угроза. А если кто-то наставит оружие на человека?
– Она не среагирует, – тихо закончил Игорь.
– Правильно. Потому, что все показатели в норме и непосредственной опасности нет. Лада будет просто наблюдать.
Аркадий тяжело вздохнул и потер глаза.
– В общем… Не стоит полностью полагаться на машины. Кто знает, помогут они тебе или нет. Это хороший инструмент, как топор или прокатный стан, но в сложных вещах, которые подразумевают выбор, от них толку не больше, чем от палки.