Un gruppo di importanti tecnologi, ricercatori e altri influencer chiede a OpenAI di mettere in pausa l’addestramento del suo strumento artificiale, ChatGPT.
Figure di spicco dell’AI, tra cui Elon Musk, Steve Wozniak e Andrew Yang, hanno firmato una lettera aperta in cui chiedono una pausa di sei mesi sullo sviluppo di sistemi di AI più potenti del GPT-4, la versione attuale dello strumento generativo lanciato per la prima volta nel novembre 2022.
Nella lettera, gli autori affermano che se l’azienda privata non smette di addestrare la propria IA oltre l’attuale implementazione del GPT4, “i governi” dovrebbero imporre la questione.
“Chiediamo a tutti i laboratori di IA di mettere immediatamente in pausa per almeno 6 mesi l’addestramento di sistemi di IA più potenti del GPT-4. Questa pausa dovrebbe essere pubblica e verificabile e includere tutti gli attori chiave. Se tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria”, si legge nella lettera.
La lettera ha attualmente più di 1.100 firme. Alcuni hanno messo in dubbio che tutti i grandi nomi firmatari abbiano effettivamente sottoscritto la lettera. Tra i nomi di spicco figurano il vincitore del Premio Turing Yoshua Bengio, Stuart Russell, direttore del Center for Intelligent Systems, il CEO di Stability AI Emad Mostaque e il co-fondatore di Ripple Chris Larsen.
Un portavoce del progetto ha dichiarato che le prime firme sono state controllate due volte, ma che la visualizzazione dei nomi è stata messa in pausa a causa dell’elevata richiesta.
“Tutti i principali firmatari della lista sono stati verificati in modo indipendente”, ha dichiarato a TCN il vicepresidente del Future of Life Institute Anthony Aguirre. E ha aggiunto: “Farlo per l’intera lista (che ora supera di gran lunga i 30.000) supera le nostre capacità”.
Una nota sul sito recita: “A causa dell’elevata richiesta stiamo ancora raccogliendo le firme, ma stiamo sospendendo la loro apparizione sulla lettera in modo che i nostri processi di controllo possano recuperare”.
Musk, uno dei co-fondatori di OpenAI, si è dimesso dal consiglio di amministrazione nel 2018 ma, secondo quanto riferito, ha investito 100 milioni di dollari nel progetto.
L’arrivo di GPT4, due settimane fa, ha creato sia eccitazione – con alcuni che ne hanno preannunciato l’arrivo come più importante dell’avvento del fuoco – sia allarme tra le persone preoccupate che, se non controllato, potrebbe annientare l’umanità.
La lettera sostiene che i sistemi di IA con intelligenza competitiva umana pongono rischi significativi per la società e l’umanità. La lettera sostiene che l’attenzione dovrebbe essere rivolta a rendere i sistemi esistenti più precisi, sicuri, trasparenti, robusti e affidabili, accelerando al contempo lo sviluppo di sistemi di governance dell’IA.
“L’umanità può godere di un futuro florido con l’IA”, si legge nel documento, sottolineando che “la società ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici sulla società. Possiamo farlo anche in questo caso. Godiamoci una lunga estate dell’IA, non precipitiamoci impreparati in un autunno”.
In risposta a un tweet sulla petizione, Musk ha risposto: “I principali sviluppatori [di intelligenza artificiale] non daranno retta a questo avvertimento, ma almeno è stato detto. “
I principali sviluppatori di AGI non daranno ascolto a questo avvertimento, ma almeno è stato detto
– Elon Musk (@elonmusk) 29 marzo 2023
OpenAI non ha ancora risposto a una richiesta di commento.
