Maar waarom zouden gebruikers zich zorgen moeten maken over AI-transparantie?
“Minder transparantie maakt het moeilijker voor andere bedrijven om te begrijpen of ze veilig apps kunnen bouwen die vertrouwen op bedrijfsmodellen; voor onderzoekers om onderzoek te doen dat vertrouwt op bedrijfsmodellen; voor beleidsmakers om zinvol beleid te creëren om deze krachtige technologie te beperken; en voor consumenten om de beperkingen van modellen te begrijpen of verhaal te zoeken voor de veroorzaakte schade,” stelt het document van Stanford University.
Om dit probleem aan te pakken, ontwikkelen Bomasani en een team van Stanford, MIT en Princeton de Fundamental Model Transparency Index (FMTI). De index beoordeelt een breed scala aan onderwerpen om een uitgebreid beeld te krijgen van hoe transparant bedrijven zijn over hun AI-modellen. De ranglijst kijkt naar aspecten zoals hoe bedrijven hun fundamentele modellen opbouwen, de beschikbaarheid van datasets, hoe ze werken en het latere gebruik ervan.
De resultaten waren niet ideaal. Op een schaal van 0 tot 100 varieerden de hoogste scores van 47 tot 54, met Meta’s Llama 2 op een verre tweede plaats. De transparantiescore van OpenAI was 47%, die van Google slechts 41% en die van Anthropic 39%.
Bron: Stanford University Foundation Center for Pattern Studies
Voor veel beleidsmakers in de EU, maar ook in de Verenigde Staten, het Verenigd Koninkrijk, China, Canada, de G7-landen en vele andere regeringen is transparantie een topprioriteit”, aldus Bomasani.
De bredere implicaties van deze bevindingen zijn duidelijk. Nu AI-modellen steeds meer worden geïntegreerd in verschillende domeinen, wordt transparantie essentieel. En niet alleen om ethische redenen, maar ook voor praktische toepassingen en betrouwbaarheid.
