Теория и практика общественно-научной информации. Выпуск 21 - стр. 16

1. Дать эффективную дескрипцию характерных особенностей самого агента.

2. Предоставить отчет о том добре и зле, которые могут принести с собой искусственные агенты.

3. Объяснить, как и почему можно считать искусственных агентов морально вменяемыми, даже если они «не имеют ума» и, соответственно, лишены ментальных состояний.

Поскольку человеческое существо является парадигмальным примером агента, характеристики последнего должны соответствовать человеческим. Кроме того, они также должны подходить софт-ботам, роботам и другим искусственным агентам, вроде названных выше виртуальных сообществ, организаций, корпораций и правительств. Разработанные ими характеристики включают три критерия, которым сущность должна соответствовать, чтобы быть агентом.

1. Интерактивность: агент и его окружение должны взаимодействовать друг с другом.

2. Автономность: агент должен быть способен изменять свое собственное состояние независимо от интеракций с данной средой. Таким образом, агент должен иметь по меньшей мере два состояния и быть в некоторых пределах отсеченным от своего окружения.

3. Адаптивность: интеракции агента со средой должны быть в состоянии модифицировать правила, благодаря которым он может менять свое состояние. То есть способность агента изменять свои собственные состояния должна развиваться на основе его собственных прошлых интеракций. О человеческих же существах или животных можно сказать, что они «учатся на своем опыте».

При этом чтобы определить, является ли данная сущность агентом, необходимо специфицировать уровень абстракции, на котором рассматривается первая, так как нечто на одном уровне может рассматриваться как агент, а на другом уровне абстракции – нет. Например, какая-либо личность несомненно выступает в качестве агента (если принять во внимание наше понимание того, что есть человеческая личность), но, рассматриваемая как физический объект, расположенный в фиксированной части пространства-времени, эта персона на таком уровне абстракции агентом не является.

Флориди и Сандерс следующим образом определяют понятие «моральный агент»: «Какое-либо действие может морально квалифицироваться, если и только если оно может причинять моральное благо или зло. Какой-либо агент может называться моральным, если и только если он способен к морально квалифицированному действию». Термин «действие» для Флориди и Сандерса не предполагает, что его агент имеет ментальные состояния вроде намерений или верований, не говоря уже о «свободе воли» (во всех традиционных значениях этого слова). «Действие» для них – это просто активность, в результате которой какой-либо агент вызывает некое следствие. Например, агент, являющийся компьютерным «червем», которого кто-либо заслал в компьютерную сеть атомной станции, где он вырабатывает и исполняет решение, вызывая катастрофу, ангажирован в морально злую акцию, – несмотря на свою полную «безмозглость» и отсутствие намерений или знания.