По спирали вечности. Книга 2. Новый виток - стр. 21
К чему же всё это ведёт? Мы передали машинам вначале определенные моторные способности, затем ряд интеллектуальных функций, предоставили возможность творческой деятельности, а теперь ещё разделили с роботами часть эмоциональной сферы. Вы только представьте себе, уважаемые коллеги, люди передали машинам способности ощущать боль и радость! Чем они отличаются от нас? Чем мы отличаемся от них? Можем ли мы теперь обойтись без антропоидов? А, если рассмотреть аппроксимацию кривой дальнейшего развития человеческой цивилизации, не придем ли мы тогда к полному слиянию человека и машины? И далее – не последует ли в результате эволюции человека-антропоида постепенное вытеснение чисто человеческих, природных качеств искусственно смоделированными свойствами антропоида?
Философ снова замолчал, и зал опять не понял, закончил ли он своё выступление на прозвучавших риторических вопросах. Зак выпрямился во весь рост, поднял голову, посмотрел вглубь зала, поверх голов сидевших членов Совета, будто пытаясь что-то рассмотреть в неизведанной дали грядущих времён. Присутствующие молча следили глазами за его движениями и мимикой. Затем он снова оперся локтями о пюпитр и продолжил:
– Я попытался здесь очертить те перспективы, которые мне представляются вполне реальными. В силу вышесказанного, считаю необходимым разработку этического кодекса взаимодействия с антропоидами. В противном случае, в ближайшем будущем нам придётся разрешать сложнейшие противоречия между природной и роботизированной частями одного Homo Integration. И ещё хотелось бы напомнить о величайшем предупреждении гениального философа Мартина Коэля, предвидевшего ещё в прошлом веке опасность слияния интеллекта людей и роботов в общий сетевой разум. В связи с этим меня глубоко волнует вопрос: есть ли место человеческой индивидуальности в такой воображаемой реальности? Представляется крайне важным услышать мнение членов Совета старейшин по этому поводу. Благодарю за внимание почтенную публику. Я закончил своё выступление.
Андрэ выразил признательность докладчику за глубокий анализ системы взаимодействия человека и робота, постановку актуальных вопросов и четкое обозначение собственной позиции. Затем он предложил членам Совета изложить свое мнение. Первой попросила слово Эмма.
– Дорогие коллеги! Вопрос об этике взаимоотношений фриденцев с антропоидами мне представляется несомненно важным и актуальным. Я перед собранием специально поинтересовалась количеством антропоидов на нашей планете – их численность уже достигла тридцати тысяч. И надо сказать, совершенствование роботов идёт значительно более быстрыми темпами, чем представителей рода человеческого. Меня также, как и других членов Совета, поразили способности антропоида Дара анализировать отношения к нему людей, интерпретировать данные, поступающие от электронных рецепторов, даже проявлять собственные эмоции. Я вполне разделяю опасения эксперта Зака о перспективах конвергенции человека и антропоида и считаю необходимой разработку кодекса взаимодействия с роботами. Конечно, здесь стоит оговориться, что не все имеющиеся на Фридене антропоиды обладают столь высоким уровнем интеллекта, как Дар. Однако научно-технологический прогресс не стоит на месте, и все его следствия мы не в состоянии оценить. Поэтому предлагаю пойти ещё дальше и рассмотреть вопрос о границах, пределах, до которых мы готовы идти в совершенствовании антропоидов. К примеру, анализ звуков, запахов и изображений, произвольной символьной информации вполне допустим для машин, но давайте этим и ограничимся! Не надо их наделять способностями испытывать боль и наслаждение! Пусть счастье, страдание, любовь, печаль, тревоги и сомнения останутся исключительно людям! Следует также ограничить креативность антропоида, иначе в стремлении к совершенству он может попытаться кардинально изменить природу человека. Кто возьмёт на себя ответственность за последствия такой модификации? Вглядимся внутрь себя, дорогие Ива, Зак, коллеги, неужели среди вас найдётся человек, готовый к антропоидной реформации?