Grupa wybitnych technologów, badaczy i innych influencerów wzywa OpenAI do wstrzymania treningów swojego sztucznego narzędzia, ChatGPT.
Czołowi przedstawiciele AI – w tym Elon Musk, Steve Wozniak i Andrew Yang – podpisali list otwarty wzywający do sześciomiesięcznej pauzy w rozwijaniu systemów AI silniejszych niż GPT-4, obecna wersja generatywnego narzędzia, które po raz pierwszy wystartowało w listopadzie 2022 roku.
W liście autorzy zapewniają, że jeśli prywatna firma nie zaprzestanie szkolenia swojej AI poza obecną implementacją GPT4, „rządy” powinny wymusić tę kwestię.
„Wzywamy wszystkie laboratoria AI do natychmiastowego wstrzymania na co najmniej 6 miesięcy szkolenia systemów AI potężniejszych niż GPT-4. Ta pauza powinna być publiczna i weryfikowalna oraz obejmować wszystkich kluczowych aktorów. Jeśli taka pauza nie może być uchwalona szybko, rządy powinny wkroczyć i ustanowić moratorium” – napisano w liście.
List ma obecnie ponad 1,100 podpisów. Niektórzy kwestionowali jednak, czy wszystkie znane nazwiska rzeczywiście podpisały list. Godne uwagi nazwiska to m.in. laureat Nagrody Turinga Yoshua Bengio, Stuart Russell, dyrektor Center for Intelligent Systems, dyrektor generalny Stability AI Emad Mostaque oraz współzałożyciel Ripple Chris Larsen.
Rzecznik projektu powiedział, że najwcześniejsze podpisy zostały podwójnie sprawdzone, ale wyświetlanie nazwisk zostało wstrzymane ze względu na duże zapotrzebowanie.
„Wszyscy czołowi sygnatariusze na liście zostali niezależnie zweryfikowani” – powiedział TCN wiceprezes Future of Life Institute Anthony Aguirre. Dodał: „Robienie tego dla całej listy (która obecnie wynosi dobrze ponad 30.000) przekracza nasze możliwości”.
W notatce na stronie czytamy: „Ze względu na wysoki popyt nadal zbieramy podpisy, ale wstrzymujemy ich pojawienie się na liście, aby nasze procesy lustracji mogły nadrobić zaległości”.
Musk, jeden ze współzałożycieli OpenAI, zrezygnował z zarządu w 2018 roku, ale podobno zainwestował w projekt 100 milionów dolarów.
Pojawienie się GPT4 dwa tygodnie temu wywołało zarówno podniecenie – z niektórymi zwiastującymi jego przybycie jako ważniejsze niż pojawienie się ognia – jak i alarm wśród osób zaniepokojonych tym, że niekontrolowane, może unicestwić ludzkość.
W liście twierdzono, że systemy AI o inteligencji konkurencyjnej wobec człowieka stanowią istotne zagrożenie dla społeczeństwa i ludzkości. Przekonywał, że należy skupić się na uczynieniu istniejących systemów bardziej dokładnymi, bezpiecznymi, przejrzystymi, solidnymi i godnymi zaufania, jednocześnie przyspieszając rozwój systemów zarządzania AI.
„Ludzkość może cieszyć się kwitnącą przyszłością z AI”, powiedział, zauważając, że „społeczeństwo uderzyło w pauzę w przypadku innych technologii o potencjalnie katastrofalnych skutkach dla społeczeństwa. Możemy to zrobić również tutaj. Cieszmy się długim latem AI, a nie spieszmy się nieprzygotowani do upadku”.
W odpowiedzi na tweeta o petycji, Musk odpowiedział: „Czołowi twórcy [sztucznej inteligencji] nie posłuchają tego ostrzeżenia, ale przynajmniej zostało ono wypowiedziane. „
Wiodący deweloperzy AGI nie wysłuchają tego ostrzeżenia, ale przynajmniej zostało ono powiedziane
– Elon Musk (@elonmusk) 29 marca 2023
OpenAI nie odpowiedziało jeszcze na prośbę o komentarz.
