Група от видни технолози, изследователи и други влиятелни личности призовават OpenAI да натисне бутона за спиране на обучението на своя изкуствен инструмент ChatGPT.
Най-големите фигури в областта на изкуствения интелект – включително Елон Мъск, Стив Возняк и Андрю Янг – очевидно са подписали отворено писмо, в което призовават за шестмесечна пауза в разработването на системи за изкуствен интелект, по-мощни от GPT-4, настоящата версия на генеративния инструмент, която за първи път е пусната през ноември 2022 г.
В писмото авторите твърдят, че ако частната компания не успее да спре обучението на своя ИИ отвъд сегашната реализация на GPT4, „правителствата“ трябва да наложат това.
„Призоваваме всички лаборатории за изкуствен интелект незабавно да преустановят поне за 6 месеца обучението на системи за изкуствен интелект, които са по-мощни от GPT-4. Тази пауза трябва да бъде публична и проверима и да включва всички ключови участници. Ако такава пауза не може да бъде въведена бързо, правителствата трябва да се намесят и да въведат мораториум“, се казва в писмото.
Понастоящем писмото е подписано от над 1100 души. Някои обаче поставиха под въпрос дали всички подписали се известни личности действително са подписали писмото. Сред известните имена са носителят на наградата „Тюринг“ Йошуа Бенгио, Стюарт Ръсел, директор на Центъра за интелигентни системи, главният изпълнителен директор на Stability AI Емад Мостаке и съоснователят на Ripple Крис Ларсен.
Говорител на проекта заяви, че най-ранните подписи са били двойно проверени, но че показването на имената е било спряно поради голямото търсене.
„Всички водещи подписали се в списъка са независимо проверени“, заяви вицепрезидентът на Института за бъдещето на живота Антъни Агире пред TCN. Той добави: „Да направим това за целия списък (който вече е доста над 30 000) надхвърля възможностите ни.“
Бележка на сайта гласи: „Поради голямото търсене все още събираме подписи, но спираме появата им в писмото, за да могат процесите ни на проверка да наваксат.“
Мъск, един от съоснователите на OpenAI, се оттегли от борда на директорите през 2018 г., но според съобщенията е инвестирал 100 млн. долара в проекта.
Появата на GPT4 преди две седмици предизвика както вълнение – като някои обявиха появата му за по-важна от появата на огъня, така и тревога сред хората, които се опасяват, че без контрол той може да унищожи човечеството.
В писмото се твърди, че системите за изкуствен интелект с интелигентност, конкурентна на човешката, представляват значителен риск за обществото и човечеството. В него се твърди, че фокусът трябва да бъде поставен върху това съществуващите системи да станат по-точни, безопасни, прозрачни, стабилни и надеждни, като същевременно се ускори разработването на системи за управление на ИИ.
„Човечеството може да се радва на процъфтяващо бъдеще с ИИ“, се казва в доклада, като се отбелязва, че „обществото е направило пауза по отношение на други технологии с потенциално катастрофални последици за обществото. Можем да го направим и тук. Нека се насладим на дългото лято на ИИ, а не да се втурнем неподготвени към есента.“
В отговор на туит за петицията Мъск отговори: „Водещите разработчици на [изкуствен интелект] няма да се вслушат в това предупреждение, но поне беше казано.“
Водещите разработчици на AGI няма да се вслушат в това предупреждение, но поне беше казано
– Elon Musk (@elonmusk) March 29, 2023
OpenAI все още не е отговорила на искането за коментар.
