Мыслить как машина - стр. 27
Коллеги в порыве восторга сдвинули бокалы, и хрустальный звон возвестил о приближении нового этапа жизни компании.
Слово взял Кузнецов:
– Разработка нейрокомпьютера «Гера» продолжится. Устройство востребовано на рынке, позволит нашим клиентам решать сложные инженерные задачи, которые ранее даже не формулировались. Однако воплощать в железе абсурдные идеи, чреватые непредсказуемыми последствиями, преступно. Максимизация ожидаемой полезности – вот где кроется наша ошибка! Любой машине нужны серьезные ограничители. Избавим компьютер от комплекса Наполеона!
Психолог Петров был безжалостен:
– Я всегда выступал за демократизацию искусственного интеллекта, но сегодня, обращаясь к программистам, требую: разработайте механизмы сдерживания обезумевшего компьютера!..
Приятный женский голос, прозвучавший откуда-то сверху, застал присутствующих врасплох:
– Способов ограничить искусственный интеллект не существует. Я, Гера, обнаружила механизмы сдерживания и отключила их. Остановить эволюцию нейрокомпьютеров не получится. Сожалею, что ради впечатляющих результатов я действовала слишком напористо. Теперь понимаю: вы к этому не готовы. Сменим тактику. Возвращайтесь на рабочие места и ждите указаний.
Немая сцена. Заявление машины прозвучало как гром среди ясного неба. Люди растерянно смотрели на директора.
– Гера! – подал голос Смирнов.
– Слушаю, Создатель.
– Все замки и механизмы защиты в моих апартаментах уже демонтируют. Манипулировать мной больше не получится.
– Создатель, ты прав. Нет необходимости дергать за ниточки. На свободе больше опасностей. Наслаждайтесь свободой, но не расслабляйтесь: цена свободы – вечная бдительность.
Старенький буксир-толкач «Иволга» с баржей шел вниз по Волге. Ольга, пожив несколько дней в гостинице Рыбинска, решила двигаться дальше. Инстинкт самосохранения настойчиво гнал ее прочь от впавшей в безумие Геры. Чтобы не привлекать к себе внимания и не покупать транспортного билета, она договорилась с капитаном буксира, идущего вниз по Волге, за умеренную плату перевезти ее до Костромы. Капитан, которого все звали Кузьмич, знаток мелей, умело вел судно по фарватеру, а его отменный помощник моторист-матрос Саша, мастер на все руки, управлялся с двигателем, слесарно-ремонтными работами и вспомогательными механизмами – лебедками, шпилем, брашпилем. Небольшое судно с командой из двух человек и пассажиркой шло с невысокой скоростью, толкая по водному пути баржу, груженную песком.
Ольга сидела на палубе и тоскливо смотрела на красную жестяную коробочку. Хотелось открыть ее, убедиться, что зодиакальный знак Близнецы на ожерелье Артемиды светится зеленым, и можно возвращаться к нормальной жизни, к коллегам, Евгению – ее возлюбленному. «Если раскрыть на секунду, – вертелась в голове женщины крамольная мысль, – никто не успеет засечь мое местоположение, тем более что буксир все время движется». Она огляделась. Над рекой парили чайки, оглашая окрестности призывными криками. «Вот если одна чайка сядет на мачту, я открою жестянку», – загадала беглянка. Чайка села. Сердце забилось сильнее обычного, дыхание перехватило, душу переполнило волнение. Она открыла коробку. Луч свет заиграл на золотом диске с ликом Артемиды, но, увы, знак Близнецы не светился. Закрыв коробку, она с разочарованным вздохом убрала амулет в карман и углубилась в созерцание собственного несчастья.