Группа выдающихся технологов, исследователей и других влиятельных лиц призывает OpenAI нажать кнопку паузы в обучении своего искусственного инструмента ChatGPT.
Ведущие деятели ИИ, включая Элона Маска, Стива Возняка и Эндрю Янга, подписали открытое письмо, призывающее взять шестимесячную паузу в разработке систем ИИ, более мощных, чем GPT-4, текущая версия генеративного инструмента, впервые запущенная в ноябре 2022 года.
В письме авторы утверждают, что если частная компания не прекратит обучение своего ИИ сверх текущей реализации GPT4, то «правительства» должны заставить решить этот вопрос.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Эта пауза должна быть публичной и проверяемой, и включать всех ключевых участников. Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий», — говорится в письме.
В настоящее время письмо подписали более 1100 человек. Однако некоторые сомневаются, что все известные личности действительно подписали письмо. Среди них лауреат премии Тьюринга Йошуа Бенгио, Стюарт Рассел, директор Центра интеллектуальных систем, генеральный директор Stability AI Эмад Мостак и соучредитель Ripple Крис Ларсен.
Представитель проекта сообщил, что самые ранние подписи были перепроверены, но показ имен был приостановлен из-за высокого спроса.
«Все первые лица, подписавшие список, прошли независимую проверку», — сказал TCN вице-президент Future of Life Institute Энтони Агирре. Он добавил: «Сделать это для всего списка (который сейчас насчитывает более 30 000 человек) превышает наши возможности».
Заметка на сайте гласила: «В связи с высоким спросом мы продолжаем сбор подписей, но приостановили их появление в письме, чтобы наши процессы проверки могли наверстать упущенное».
Маск, один из соучредителей OpenAI, вышел из состава совета директоров в 2018 году, но, как сообщается, инвестировал в проект 100 миллионов долларов.
Появление GPT4 две недели назад вызвало как волнение — некоторые называют его появление более важным, чем появление огня, — так и тревогу среди людей, обеспокоенных тем, что без контроля он может уничтожить человечество.
В письме утверждается, что системы ИИ с интеллектом, сопоставимым с человеческим, представляют значительную опасность для общества и человечества. В нем утверждается, что необходимо сосредоточиться на том, чтобы сделать существующие системы более точными, безопасными, прозрачными, надежными и заслуживающими доверия, одновременно ускоряя разработку систем управления ИИ.
«Человечество может наслаждаться процветающим будущим с ИИ», — говорится в документе, отмечая, что «общество взяло паузу в отношении других технологий с потенциально катастрофическими последствиями для общества. Мы можем сделать это и здесь. Давайте наслаждаться долгим летом ИИ, а не бросаться без подготовки в осень».
В ответ на твит о петиции Маск ответил: «Ведущие разработчики [искусственного интеллекта] не прислушаются к этому предупреждению, но по крайней мере оно было сказано. «
Лидирующие разработчики искусственного интеллекта не прислушаются к этому предупреждению, но по крайней мере это было сказано
— Элон Маск (@elonmusk)29 марта 2023
W
OpenAI пока не ответила на просьбу о комментарии.
