Несмотря на прозвучавший по всему миру предупредительный выстрел — открытое письмо, подписанное сотнями лидеров индустрии, в котором искусственный интеллект объявляется экзистенциальной угрозой для человечества, — новый опрос более 2700 экспертов в области ИИ рисует не столь мрачную картину будущего.
Всеобъемлющий опрос «Влияние ИИ», проведенный с помощью исследователей из университетов Оксфорда, Беркли и Бонна, задал исследователям ИИ вопросы о темпах прогресса в этой области и потенциальном влиянии передовых систем ИИ. Несмотря на широкий спектр мнений, лишь около 5 % опрошенных считают, что существует высокая вероятность вымирания человечества от ИИ.
Это резко контрастирует с настроениями широкой общественности.
Опрос, проведенный в августе 2023 года, показал, что 61 % американцев считают ИИ угрозой для человечества. Эту обеспокоенность поддержали и лидеры индустрии, подписавшие письмо Центра безопасности ИИ, в котором говорится, что «снижение риска вымирания от ИИ должно стать глобальным приоритетом».
Пол Кристиано, бывший руководитель отдела согласования в OpenAI, оценил вероятность того, что ИИ закончится «катастрофой», в 50 %. Многие объявили ИИ угрозой наравне с ядерной войной или глобальной пандемией.
Несмотря на эти широко освещаемые пессимистические прогнозы, ИИ продолжает развиваться. Компании наперегонки разрабатывают более совершенные системы, а генеральный директор OpenAI Сэм Альтман выступает за принятие нормативных актов наряду с тестированием границ технологии.
Что касается возможностей ИИ, то многие респонденты прогнозировали, что в течение 10 лет ИИ достигнет основных творческих успехов: например, создаст с нуля целый платежный сайт или создаст песни, неотличимые от современных хитов. Но для таких задач, как математическое доказательство теорем, сроки оказались более растянутыми.
Более того, вероятность того, что машинный интеллект высокого уровня (HLMI) станет реальностью, стала ближе на 13 лет: вероятность успеха в 50 % прогнозируется к 2047 году. Аналогично, горизонт полной автоматизации труда (FAOL) — одно из спорных предсказаний Элона Маска — сдвинулся на 48 лет раньше, до 2116 года.
Когда исследователей спросили, сможет ли ИИ сравняться со всеми человеческими способностями, они ответили, что вероятность этого составит 50 % к 2047 году. Это на 13 лет раньше, чем в аналогичном опросе в 2022 году.
Респонденты разделились во мнении о том, более быстрый или более медленный прогресс принесет человечеству больше пользы.
Интересно, что, хотя ожидается, что системы ИИ в 2043 году смогут находить неожиданные способы достижения целей, исследователи меньше верят в способность человека объяснить такие действия. Такая неоднозначность в принятии решений ИИ подчеркивает необходимость приоритетного исследования безопасности ИИ — это мнение поддержали 70 % респондентов.
Мнения о том, можно ли будет доверить ИИ в 2028 году объяснять свои собственные рассуждения, разделились.
Существенную озабоченность вызывают также такие риски, как дезинформация, неравенство и массовая слежка с помощью ИИ.
Хотя в целом исследователи настроены осторожно оптимистично, около 40 % считают, что вероятность вымирания человечества в результате развития ИИ минимальна (а не нулевая). Поэтому, хотя роботы-убийцы не являются неизбежными, изучение этики и безопасности ИИ остается крайне важным.
