Эффект фрейминга. Как управлять вниманием потребителя в цифровую эпоху? - стр. 13
Давайте рассмотрим недостатки компьютера в той области, где его достижения превозносят больше всего: в настольных играх. Даже люди, хорошо знакомые с событиями в ней, обычно извлекают из них ложный урок.
В 2018 году подразделение Google под названием DeepMind показало систему AlphaZero, научившуюся побеждать в шахматы, го и сёги исключительно путем игры против себя самой. Она не получила от человека никаких навыков или информации, кроме правил игры. Всего через девять часов, в течение которых система сыграла с собой 44 миллиона партий в шахматы, она обыгрывала самую сильную программу в мире Stockfish. Когда с ней играли гроссмейстеры, они поражались ее чуждой, незнакомой тактике. Больше ста лет шахматные мастера придерживались единой точки зрения относительно основных идей и стратегий игры, например об относительной ценности фигур и позиций на доске. AlphaZero делала непривычные ходы, явно предпочитая мобильность позиционному преимуществу и будучи всегда готовой к жертвам. Казалось, она создала новую стратегию шахматной игры.
Проблема заключалась только в том, что это не так.
Система с искусственным интеллектом не способна создать представление о чем-либо. Она не может строить ментальные модели. Она не может ни обобщать, ни объяснять. AlphaZero представляет собой черный ящик как для нас, так и для себя самой. Люди, а не искусственный интеллект были способны взглянуть на ходы и перейти к концепциям «позиции на доске» или «жертвы». Люди дают фрейм действиям AlphaZero, делая их объяснимыми и применяя их обобщенным образом. Люди становятся умнее, поскольку мы способны дать абстрактное выражение достижениям искусственного интеллекта. Оценить урок и применить его в будущем – вот то, чего искусственный интеллект сам по себе не может.
Как рационалисты, так и сторонники чувств и интуиции совершенно верно чувствуют некоторое уникальное свойство, присущее человеческому сознанию. Но оба пути заканчиваются тупиком. Ни один из них не дает удовлетворительного ответа на трудные вопросы, стоящие перед нашей цивилизацией. Но и от их синтеза мы вряд ли можем ожидать многого. Попытка слить воедино два подхода, построенных на ущербных основаниях, в лучшем случае приведет к сохранению хрупкой напряженности между ними без всякой надежды на действительный прогресс.
В этой ситуации критически важен вывод, что наш выбор не сводится к двум вариантам. Не обязательно выбирать между расчеловечивающей сингулярностью и цунами популистского террора – или пытаться слить их в коктейль сомнительной пригодности. В нашем распоряжении есть другая стратегия, иная человеческая способность, на которую до настоящего момента не обращали внимания: фрейминг. Умение применять, оттачивать и заново создавать ментальные модели дает нам инструмент для решения наших проблем без того, чтобы полагаться на машину или принимать волю толпы.