Опасности генеративного ИИ вновь стали темой обсуждения на высоком уровне среди мировых лидеров, а Генеральный секретарь ООН присоединился к растущему хору голосов, призывающих к регулированию этой технологии.
«Тревожные звонки по поводу новейшей формы искусственного интеллекта, генеративного ИИ, звучат все громче, и громче всего они раздаются со стороны разработчиков, которые его создали», — заявил Антониу Гутерриш на пресс-конференции в понедельник. «Ученые и эксперты призвали мир к действиям, объявив ИИ экзистенциальной угрозой для человечества наравне с риском ядерной войны. «
«Мы должны серьезно отнестись к этим предупреждениям», — сказал Генеральный секретарь ООН.
Комментарии Гутерриша прозвучали в тот же день, когда ООН выпустила доклад «Целостность информации на цифровых платформах», в котором подчеркивается необходимость ответственного использования ИИ и предупреждается об использовании глубоких подделок в зонах конфликтов.
Также сегодня Европейский парламент принял, по его словам, «первое в мире законодательство в области ИИ».
Творим историю, формируя наше будущее.
Именно в этом заключается смысл сегодняшнего революционного голосования по первому в мире AIзаконодательству.
Речь идет о том, чтобы Европа стала лидером в области цифровых инноваций. pic.twitter.com/jICNwcX9hy
— Roberta Metsola (@EP_President) June 14, 2023
W
Хотя искусственный интеллект является важнейшей проблемой для Гутерриша, Генеральный секретарь сказал, что появление ИИ не должно отвлекать от того вреда, который цифровые технологии уже наносят всему миру, учитывая рост ненависти и дезинформации в Интернете.
«Распространение ненависти и лжи в цифровом пространстве наносит серьезный глобальный ущерб, — сказал он, — Оно разжигает конфликты, смерть и разрушения. Оно угрожает демократии и правам человека. Сейчас она подрывает здоровье населения и действия по защите климата».
Гутерриш заявил, что он создаст и назначит членов консультативного совета по ИИ, который будет заниматься инициативами, связанными с ИИ. В совет войдут эксперты по искусственному интеллекту и ученые ООН из Международного союза электросвязи (МСЭ) и Организации по вопросам образования, науки и культуры (ЮНЕСКО).
Генеральный секретарь также сказал, что он был бы за создание агентства по искусственному интеллекту по примеру Международного агентства по атомной энергии.
Основанное в 1957 году, Международное агентство по атомной энергии (МАГАТЭ) является органом Организации Объединенных Наций, которому поручено наблюдение за глобальной ядерной деятельностью.
«Преимущество МАГАТЭ в том, что это очень солидный институт, основанный на знаниях, и в то же время, пусть и в ограниченном объеме, он обладает некоторыми регулирующими функциями», — сказал Гутерриш. «Поэтому я считаю, что такая модель может быть очень интересной».
Генеральный директор OpenAI Сэм Альтман, давая показания в Комитете по судебной системе Сената США, также призвал к созданию государственного ведомства, отвечающего за установление стандартов развития искусственного интеллекта.
«Я бы создал новое агентство, которое лицензирует любые усилия, превышающие определенный масштаб возможностей, и которое может отобрать эту лицензию и обеспечить соблюдение стандартов безопасности», — сказал Альтман, добавив, что это потенциальное агентство должно требовать независимого аудита любых технологий ИИ.
Но хотя Генеральный секретарь выступает за создание нового международного агентства, он признал недостаток инвестиций ООН в государственное управление, а это означает, что любые действия потребуют инициативы государств-членов и доброй воли вовлеченных сторон.
«Сегодня мы чувствуем, как трудно государствам и международным организациям конкурировать с научно-технической точки зрения с платформами, которые в промежутке между этим приобрели огромный потенциал и огромные знания», — сказал Гутерриш.
После запуска OpenAI GPT-4 в марте, онлайн-петиция Института будущего жизни призвала сделать шестимесячную паузу в обучении систем ИИ. Письмо подписали известные деятели технологической индустрии, включая генерального директора Tesla Элона Маска и соучредителя Apple Стива Возняка.
