Геофри Хинтън, пионер в областта на изкуствения интелект, известен като един от „кръстниците на изкуствения интелект“, подаде оставка от позицията си в Google, за да може открито да изрази опасенията си за това как изкуственият интелект може да причини значителни вреди на света.
В интервю за „Ню Йорк Таймс“ Хинтън признава, че сега отчасти съжалява за работата на живота си. Въпреки полезните приложения на изкуствения интелект, Хинтън се опасява, че технологията може да бъде използвана безотговорно и да доведе до непредвидени последици.
Хинтън се опасява, че конкуренцията между технологични гиганти като Google и Microsoft за създаване на най-модерните изкуствени интелекти ще доведе до глобална надпревара, която няма да спре без някаква форма на световно регулиране. Въпреки това, той също така беше категоричен, че според него Google е действала отговорно в своите изследвания:
В днешния брой на NYT Кейд Мец намеква, че съм напуснал Google, за да мога да го критикувам. Всъщност напуснах, за да мога да говоря за опасностите от изкуствения интелект, без да се съобразявам как това се отразява на Google. Google постъпи много отговорно.
– Geoffrey Hinton (@geoffreyhinton) 1 май 2023
Хинтън е известен с популяризирането на теоретичната разработка на невронните мрежи през 1986 г. и със създаването на мрежа, способна да разпознава изображения, през 2012 г. Неговата работа е от решаващо значение за разработването на настоящите генеративни модели на изкуството като Stable Diffusion и MidJourney и полага основите на предстоящите усилия на OpenAI да направи GPT-4 способен да взаимодейства с изображения.
Мнозина го сравняват с Дж. Робърт Опенхаймер, професор по физика, на когото се приписва създаването на атомната бомба.
Рискът от изкуствения интелект
Един от непосредствените проблеми, които Хинтън изтъква, е разпространението на фалшиви изображения, видеоклипове и текстове онлайн, което може да направи истината все по-трудно разпознаваема за обикновения човек. Тъй като генеративният изкуствен интелект продължава да се усъвършенства, създателите на фалшиво и манипулативно съдържание биха могли да използват тези инструменти, за да заблуждават и объркват хората.
Хинтън е загрижен и за това как изкуственият интелект може да повлияе на работните места в бъдеще. Макар че чатботове като ChatGPT в момента допълват човешките работници, в крайна сметка те биха могли да заменят тези, които се занимават с рутинни задачи, като лични асистенти, счетоводители и преводачи. Въпреки че ИИ може да облекчи някои монотонни дейности, той може да премахне повече работни места, отколкото се очаква, и да наруши социалното равновесие.
В дългосрочен план Хинтън се опасява, че бъдещите версии на технологията представляват заплаха за човечеството поради неочакваното поведение, което те могат да научат от големите обеми данни, които анализират. Това се превръща в проблем, когато на системите с изкуствен интелект се позволи да генерират и изпълняват свой собствен код.
Тази дългосрочна гледна точка придоби особена актуалност и когато други ключови фигури в областта на изкуствения интелект започнаха да предупреждават за възможността за сценарий „фуум“ – при който изкуственият интелект далеч надминава човешкия – и за въздействието, което това може да окаже върху развитието на обществото.
Хинтън е само един от хилядите технологични лидери и изследователи, разтревожени от експоненциалния напредък на разработките на ИИ за различни области (от еротични чатове до медицинска диагностика). Миналия месец популярност придоби отворено писмо, в което лидерите призоваха за спиране на развитието на ИИ, докато не се установи адекватен контрол. Хинтън не го подписа.
Еволюцията на позицията на Хинтън по отношение на изкуствения интелект отразява нарастващото осъзнаване на рисковете и предизвикателствата, свързани с бързо развиващите се технологии. За Хинтън подаването на оставка от работата на живота му е важно, за да се предотврати сценарий, който според него изглежда все по-близък с всеки изминал ден.
„Вижте как беше преди пет години и как е сега“, казва той пред The New York Times. „Вземете разликата и я разпространявайте напред. Това е страшно. „
