2062: время машин - стр. 22

Возможно, действительно существует некий уровень интеллекта, который станет такой переломной точкой, но этот уровень может быть любым. Вряд ли он находится ниже уровня человеческого мышления. Если бы это было так, мы бы уже создали подобную машину и запустили процесс ее бесконечного совершенствования.

Вероятно, эта переломная точка располагается где-то на уровне человеческого разума или выше. Естественно, она может находиться намного выше. Однако если нам для этого нужно создать компьютер, в разы превосходящий человека, то встает вопрос: достаточно ли мы для этого умны?

Третий мой аргумент, направленный против идеи неизбежности технологической сингулярности, затрагивает проблему метаинтеллекта. Как я уже отмечал ранее, понятие разума включает в себя множество различных способностей. Например, умение не только воспринимать мир, но и рефлексировать над этим миром, а также множество других навыков, таких как креативность.

Утверждение, что сингулярность неизбежна, сталкивает две разные способности интеллекта: это умение выполнять задачи и умение совершенствоваться в выполнении этих задач. Мы можем создать ИИ, который развивает свою способность выполнять конкретные задачи и выполняет их лучше нас. Например, Baidu создали Deep Speech 2, алгоритм машинного обучения, который лучше, чем люди, переводит с китайского. Однако Deep Speech 2 не развивается. Ему необходимо столько же времени на то, чтобы понять, как перевести с китайского, сколько и раньше. Его сверхчеловеческая способность переводить с китайского никак не улучшила суть алгоритма глубинного обучения. Чем больше люди учатся, тем лучше они начинают это делать. С Deep Speech 2 все иначе.

Совершенствование алгоритмов глубинного обучения происходит по-старому: люди долго и напряженно размышляют над тем, как это сделать. Пока мы не создали машины, способные развиваться самостоятельно. Нельзя быть уверенным, что это вообще когда-нибудь произойдет.

Четвертый аргумент – закон убывающей отдачи. Даже если бы машины могли бесконечно себя совершенствовать, это вовсе не означает, что мы бы получили бесконечное их улучшение. Закон убывающей отдачи работает во многих областях человеческой деятельности. Например, мы не раз увеличивали топливную эффективность двигателей автомобилей, но чем дальше, тем меньше это приносит результатов, в то время как показатель продолжает увеличиваться.

Предположим, мы сначала создадим машину с интеллектом на уровне среднестатистического представителя нашего вида. По умолчанию ее IQ будет равен ста. Также допустим, что IQ этого искусственного интеллекта будет с каждым новым поколением увеличиваться на пятьдесят процентов от разницы с предыдущим поколением. IQ – не самый лучший показатель интеллекта, но это не главное. Второе поколение таких машин будет иметь IQ в размере ста пятидесяти – довольно впечатляющая цифра. Однако пока она, возможно, даже не обогнала вас. Коэффициент третьего поколения будет равен ста семидесяти пяти, четвертого – ста восьмидесяти семи с половиной и т. д. IQ этих машин никогда не преодолеет отметку в двести, как бы долго они ни просуществовали.