Ma perché gli utenti dovrebbero preoccuparsi della trasparenza dell’IA?
“Una minore trasparenza rende più difficile per le altre aziende capire se possono costruire in sicurezza app basate su modelli di business; per i ricercatori condurre ricerche basate su modelli di business; per i politici creare politiche significative per limitare questa potente tecnologia; e per i consumatori comprendere i limiti dei modelli o chiedere un risarcimento per i danni causati”, si legge nel documento della Stanford University.
Per risolvere questo problema, Bomasani e un team di Stanford, MIT e Princeton stanno sviluppando il Fundamental Model Transparency Index (FMTI). Questo indice valuta una serie di argomenti al fine di tracciare un quadro completo della trasparenza con cui le aziende progettano i loro modelli di intelligenza artificiale. La classifica tiene conto di aspetti quali il modo in cui le aziende costruiscono i loro modelli fondamentali, la disponibilità dei set di dati, il loro funzionamento e il loro ulteriore utilizzo.
I risultati non sono ideali. Su una scala da 0 a 100, i punteggi più alti sono compresi tra 47 e 54, con Metas Llama 2 solo al secondo posto. Il punteggio di trasparenza di OpenAI è stato del 47%, quello di Google del 41% e quello di Anthropic del 39%.
Fonte: Stanford University Foundation Center for Pattern Studies
La trasparenza è una priorità assoluta per molti decisori nell’UE, ma anche negli Stati Uniti, nel Regno Unito, in Cina, in Canada, nei Paesi del G7 e in molti altri governi”, ha dichiarato Bomasani.
Le implicazioni più ampie di questi risultati sono chiare. Man mano che i modelli di IA vengono sempre più integrati in diversi settori, la trasparenza diventa fondamentale. E non solo per ragioni etiche, ma anche per applicazioni pratiche e affidabilità.
