Елон Мъск, Стив Возняк и още над 1000 предприемачи, учени и професори са подписали петиция на Института за бъдещето на живота за временно спиране на разработването на изкуствени интелекти като чатбота GPT-4. Какви са причините за тези опасения?
Има ли Елон Мъск желание да спре разработването на изкуствен интелект (ИИ)?
Елон Мъск, Стив Возняк и други предприемачи, учени и професори са подписали петиция, предложена от Института за бъдещето на живота, в която се призовава за временно спиране на развитието на изкуствения интелект:
Призоваваме лабораториите за изкуствен интелект да спрат временно обучението на мощни модели!
Присъединете се към призива на FLI заедно с Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & над 1000 други, които са се подписали: https://t.co/3rJBjDXapc
Кратко за това защо призоваваме за това – (1/8)
– Future of Life Institute (@FLIxrisk) Март 29, 2023
Към момента на изготвяне на настоящия документ са събрани общо 1377 подписа. Целта на това писмо е да се спре поне за шест месеца обучението на системи като GPT-4, новата версия на известния чатбот от OpenAI, компания, съоснована от Илон Мъск.
Основният проблем е мястото на човека във връзка с тези разработки. В този смисъл се повдигат няколко въпроса, като например алгоритмите, които могат да решават какво виждаме в различните социални мрежи, автоматизацията на различни операции и разработването на умове, които са по-интелигентни от човешките същества:
Такива решения не трябва да се делегират на неизбрани технологични лидери. Мощните системи за изкуствен интелект трябва да се разработват само след като сме сигурни, че ефектът от тях ще бъде положителен, а рисковете – управляеми. Тази увереност трябва да бъде добре обоснована и да нараства с мащаба на потенциалните ефекти на системата. „
От друга страна, петицията призовава развитието на ИИ да бъде пренасочено към технологични области, които са „безопасни, тълкуваеми, прозрачни, стабилни, съгласувани, заслужаващи доверие и справедливи“.
Има ли реална опасност от ИИ?
Както всяка технологична иновация, ИИ повдига въпроси. Още в епохата на Индустриалната революция хората са поставяли под въпрос потенциалната си замяна с машини, а художествени произведения като „Терминатор“ отприщват страстите за възможен сценарий на Страшния съд, но дали наистина сме на прага на сингулярността? Въпросът е противоречив.
Тези въпроси не изчакаха да се появи неотдавнашният скок на популярността на изкуствения интелект в социалните мрежи.
Въпреки това наистина има етични въпроси, които трябва да бъдат подчертани, особено по отношение на начина, по който тези системи се обучават. Подобно на всички наши действия в мрежата, всяко взаимодействие с изкуствен интелект му дава информация за нас, а ние захранваме алгоритмите на частни компании безплатно.
Ето защо е интересно да се запитаме как тези данни се използват и ще се използват от тези компании, което в момента може да представлява по-рационална опасност от фантазията за напълно автономен супер ИИ.
Що се отнася до заместването на хората, както и в други области на технологиите, макар че ИИ наистина може да премахне някои работни места, успоредно с това той ще създаде други. Накратко, той е морално неутрален инструмент, чиито опасности или ползи зависят от начина, по който се използва.
