Проект «Кракен» - стр. 33

– Есть предположения, почему Шепард сбежала?

– Не особенно, за исключением того, что взрыв был вызван сбоем программы, которую она разрабатывала.

– Что же тогда произошло?

– Плот опустили в большой испытательный резервуар, заполненный жидким метаном, что имитировало море на Титане. Программа заставила манипулятор просверлить отверстие в стенке резервуара, и это привело к взрыву.

– Есть предположения, почему программа так себя повела?

Локвуд сглотнул:

– Мы не уверены, поскольку программный код исчез вместе с главным программистом. Вполне возможно, это обыкновенный сбой. Или саботаж. Или грубая небрежность. Мы не знаем.

– Понятно.

– Мы поговорили с другими программистами, – продолжил Стэнтон. – Похоже, эта компьютерная программа симулирует нечто вроде бестелесного человеческого разума. Она обладает воображением. Она умна. Ее запрограммировали симулировать эмоции, такие как страх, стремление избежать опасности, бегство от негативных раздражителей, а также любопытство, смелость и находчивость. Одно из предположений заключается в том, что программа запаниковала, переключилась в аварийный режим и таким образом вызвала несчастный случай.

– Зачем нужна такая программа искусственного интеллекта, да еще и снабженная эмоциями?

– Понимаете, это не настоящие эмоции. Просто программный код, который симулирует чувства. Дело в том, что эмоции полезны. Например, страх стимулирует осторожность, планирование и здравый смысл. Не менее полезно любопытство – оно должно было побуждать «Эксплорер» к исследованию аномальных или необычных явлений. В человеческих эмоциях заложен глубокий смысл – они помогают выживать и действовать эффективно. То же самое относится и к плоту, который находится на расстоянии миллиарда миль от Земли и не может обмениваться информацией с центром управления в режиме реального времени. По крайней мере, так объяснили нам инженеры из НАСА.

И тут заговорил президент. Он наклонился вперед, опираясь на локти, и его низкий голос заполнил комнату:

– Проблема вот в чем: эта программа искусственного интеллекта – нечто абсолютно новое. У нее громадный военный и разведывательный потенциал. Громадный. Поразительно, что НАСА разработало ее самостоятельно, не осознав ее ценности для обороны и не поделившись своим открытием с Пентагоном. Эти люди из НАСА создали угрозу национальной безопасности.

Форд сглотнул. Известно, что президент сокращал бюджет НАСА, ни в чем не отказывая Пентагону.

Локвуд откашлялся:

– Справедливости ради следует отметить, что в НАСА никто, даже сама Шепард, похоже, не понимал более широких последствий прорыва в создании искусственного интеллекта. Или всех возможностей этой программы.