2062: время машин - стр. 35
Один из способов не принимать в расчет будущее – с помощью коэффициента дисконтирования[40]. Предположим, мы обесцениваем будущее счастье на два процента в год по нынешнему курсу инфляции во многих развитых экономиках. Из этого следует, что быть счастливым через год – это всего 98 % от цены сегодняшнего счастья. Нам придется еще раз воспользоваться утилитарной точкой зрения и подсчитать сумму счастья всего населения. Подарить двум людям одинаковую радость в два раза ценнее, чем подарить эту радость одному человеку.
Ради аргумента предположим, что население планеты продолжит расти в том же темпе, что и сейчас. В следующем году оно будет на 1,1 % больше, чем сегодня. Так как коэффициент дисконтирования больше, чем темпы роста населения, будущие поколения (даже бесконечные) не будут так же счастливы.
Через шестьдесят три года нынешнее население планеты удвоится. Однако коэффициент дисконтирования счастья таков, что люди, которые будут жить в это время, получат лишь его четверть. Счастье всего мира через шестьдесят три года будет лишь половиной сегодняшнего счастья. Поэтому важнее обрести его сейчас, а не через столько времени.
Через сто двадцать шесть лет население увеличится в четыре раза. По коэффициенту дисконтирования их радость будет составлять всего одну шестнадцатую от сегодняшней. Всеобщее счастье, в свою очередь, составит лишь четверть от сегодняшнего показателя. И снова представляется очевидным тот факт, что сегодняшнее счастье гораздо весомее будущего.
Даже небольшой коэффициент дисконтирования заставляет нас сосредоточиться на настоящем. Более актуальных проблем, по поводу которых имеет смысл волноваться, в мире предостаточно. Эти проблемы нанесут нам вред гораздо быстрее, чем сверхинтеллект. Несомненно, эта книга – предостережение по поводу некоторых реальных угроз, исходящих от ИИ и возникающих уже сейчас. Однако большинство из них касается исключительно того примитивного искусственного интеллекта, который мы имеем на сегодняшний день, а не того, который появится через пятьдесят или сто лет.
Никогда не говори «никогда»
Разумеется, нельзя уверенно говорить о том, что сверхинтеллект не представляет никакой опасности для человечества. История уже много раз учила нас никогда не говорить «никогда».
Мой коллега Стюарт Рассел любит вспоминать, что один из самых авторитетных физиков своего времени, Эрнест Резерфорд, утверждал, что извлечение энергии из атома невозможно. Эта его цитата была опубликована в статье в газете The Times 12 сентября 1933 года. На следующий день Лео Силарду пришла в голову идея ядерной цепной реакции, которая породила ядерную бомбу и атомную энергию