НеВенец творения. Всё, что вы боитесь знать о будущем - стр. 69
Иными словами, при принятии решения о тех или иных рекомендациях судьям, искусственный интеллект основывается на закономерностях, которые он выводит исходя из полученных данных. Нейросети обучаются на массивах Big Data, а эти данные зачастую позволяют сделать статистический вывод о том, что представители социально незащищенных слоев более склонны к уголовным преступлениям и насилию, нежели выходцы из обеспеченных и благополучных семей.
И действительно, если алгоритм видит, что, например, низкий доход прямо коррелирует с высоким рецидивом преступлений, он может дать на этом основании ошибочную рекомендацию судье, посчитав, что именно низкий доход способствовал преступлению. На самом же деле причинно-следственные связи могут быть совершенно иными.
Многие правозащитники указывают, что использование искусственного интеллекта в уголовном процессе закрепляет социальное неравенство и приводит к обвинительному уклону в отношении представителей социально неблагополучных слоев населения значительно чаще, нежели чем в отношении среднего класса и обеспеченных граждан. А это уже прямой путь к возрождению классовых, а возможно и расовых предрассудков.
С одной стороны, кажется, что большинству стран мира до полноценной цифровизации и внедрения искусственного интеллекта еще далеко. С другой стороны, людям постепенно нужно привыкать к тому, что в преддверии технологической сингулярности в их повседневную жизнь все больше будет входить искусственный интеллект, и не всегда это будет происходить комфортно и безболезненно.
Это понимают, кстати, власти многих стран мира. Например, бывший российский премьер-министр Дмитрий Медведев высказывался о цифровизации предельно конкретно. «[Цифровая] революция – это и углубление неравенства и между людьми, и между странами, и всплеск безработицы, и вторжение в частную жизнь человека», – отмечал он в своем выступлении на саммите АТЭС в 2019 году, добавляя при этом, что данная революция является «абсолютным благом с точки зрения общественного развития». В другой раз Дмитрий Анатольевич сравнил масштабы изменений, ожидающие общество при цифровизации, с крушением Союза Советских Социалистических Республик.
Да, общество ждут изменения, причем колоссальные. Помимо беспилотников на дорогах, повсеместного распознавания лиц, 100 % безналичных платежей и электронного документооборота в скором времени могут стать реальностью и беспристрастный «алгоритмический» суд, и супермаркеты без обслуживающего персонала, и даже наделение машин статусом «субъектов права» (по аналогии с физическими и юридическими лицами). И это не шутка. Как писали российские СМИ, сегодня по инициативе экспертов нацпроекта «Цифровая экономика» ведется разработка кодекса прав машин и искусственного интеллекта (сейчас это называется «Федеральный закон, регулирующий правоотношения в сфере киберфизических систем». В рамках этого национального проекта обсуждают и создание Федерального агентства по робототехнике и искусственному интеллекту и даже внедрение «машиночитаемого права и автоматического правоприменения» в сфере действия не только, например, Правил дорожного движения, но и других кодексов.