Аннотация
Книга "Искусственный интеллект, его риски и непредсказуемость" представляет собой глубокий анализ существующих технологий и возможных последствий развития искусственного интеллекта. В первой части книги обсуждается концепция недооценки рисков и ошибок в прогнозировании, включая различные виды ошибок при оценке вероятностей и надежности различных проектов и технологий. Автор также поднимает вопрос о распространенности алармистских предупреждений и их влиянии на реакцию на реальные угрозы.
Во второй части книги рассматривается концепция невычислимости и ее связь с трудностями определения правильности теорий в условиях отсутствия экспериментальной проверки. Обсуждаются различные методы прогнозирования и когнитивные искажения, которые могут повлиять на интерпретацию прогнозов.
Третья часть книги посвящена технологической сингулярности, предполагающей резкое изменение мира благодаря развитию новых технологий. Ученые рассматривают возможность появления универсального искусственного интеллекта, способного к самосовершенствованию, и возможные изменения в области нанотехнологий, биологии и т.д. Вопросы о бесконечном росте искусственного интеллекта, возможных ограничениях и различных точках зрения на концепцию сингулярности также рассматриваются.
В заключительной части книги обсуждаются три основных сингулярности в физике, исторические аспекты прогресса, связанные с идеей линейного времени и законом Мура, а также возможные последствия позитивной и негативной сингулярности. Автор подчеркивает необходимость готовности к изменениям, связанным с развитием искусственного интеллекта, и необходимость анализа рисков и возможных сценариев.
