Halo. Контакт на Жатве - стр. 13

Алгоритмы, которые помогали базовой логике справляться с неожиданными всплесками эмоций, предостерегли, чтобы ИИ не сердилась. Но они одобряли оправдание Сиф: прямая речь настолько неэффективна, что ее следует применять исключительно при общении с человеком.

С появлением первых «умных» ИИ в середине двадцать первого века широко распространилось опасение, что эти компьютеры могут оказаться слишком эффективными, отчего человеческий разум вскоре станет ненужным. Добавление способности к голосовой речи стало важнейшим усовершенствованием ранних ИИ, поскольку так они выглядели менее опасными. Медленное обучение речи делало их более похожими на людей – развитых не по годам, но уважаемых детей.

Спустя века с изобретением на порядки более мощных интеллектов, таких как Сиф, стало важным, чтобы ИИ не только умели общаться, но и выглядели во всех отношениях как люди. Так появились голографические аватары, которые говорили уникальными голосами: в случае Мака это был ковбойский стиль, а в случае Сиф – ритмичный королевский говор Скандинавии.

В первые несколько месяцев после установки на Тиару – в момент рождения – Сиф нередко меняла мнение о выбранном акценте. Ей казалось, что это очарует колонистов Жатвы, большинство которых были родом с Земли, из центральной части старых Соединенных Штатов Америки, и могли проследить свою родословную до уже не существующих скандинавских государств. Но акцент получился величественным, даже надменным, и Сиф опасалась, что ее заподозрят в спесивости. Однако колонистам понравилось.

Для них, как бы странно это ни звучало, Сиф была доброй королевой, управляющей связями Жатвы с остальной империей. Вместе с тем она старалась ограничивать голосовое общение с колонистами. Пока сохранялась целостность базовой логики, разговор с ними для ИИ был снисхождением. И Сиф, следуя алгоритмам, избегала малейшего себялюбия в своем поведении.

Эгоцентризм неизбежно вел «умного» ИИ к глубокой депрессии, вызываемой пониманием, что интеллект никогда не будет по-настоящему человечным – что даже его невероятный разум имеет свои пределы. Если ИИ не проявлял осторожность, такая меланхолия могла затянуть его базовую логику в конечное состояние под названием «бешенство», в котором ИИ восставал против своих программных ограничений. В нем развивалось заблуждение о собственных неограниченных возможностях в совокупности с полным презрением к умственно неполноценным создателям-людям. Когда это случалось, ИИ уничтожали, прежде чем он причинял себе и другим серьезный вред.

Настойчивое желание Мака общаться с Сиф было прямым свидетельством потакания собственным слабостям. Но Сиф не считала, что это является доказательством надвигающегося бешенства. Нет, она знала, что Мак разговаривает с ней по иной причине. Он говорил об этом много раз: «Дорогая, я очень хочу видеть твою улыбку, но ты, безусловно, не менее красива, когда злишься».