Uma equipa de investigação da Universidade de Stanford afirma que a transparência dos principais modelos de inteligência artificial, como o ChatGPT, Claude, Bard e LlaM-A-2, está a diminuir.
O novo estudo foi realizado pelo Stanford Centre for Research on Core Models (
Mas porque é que os utilizadores se devem preocupar com a transparência da IA?
“A redução da transparência tornará mais difícil para outras empresas compreenderem se podem criar aplicações com segurança com base nos seus modelos de negócio, para os investigadores realizarem investigação com base nos seus modelos de negócio, para os políticos criarem políticas significativas que restrinjam esta poderosa tecnologia, para os consumidores compreenderem as limitações dos seus modelos ou para procurarem reparação pelos danos causados. ou para procurarem reparação pelos danos causados”. – lê-se no documento publicado em Stanford.
Para resolver esta questão, Bomasani e a sua equipa da Universidade de Stanford, do MIT e da Universidade de Princeton estão a desenvolver o Fundamental Model Transparency Index (FMTI). O índice avalia uma série de tópicos para traçar um quadro holístico da transparência com que as empresas concebem os seus modelos de inteligência artificial. A classificação tem em conta aspectos como a forma como as empresas constroem os seus modelos fundamentais, a disponibilidade de conjuntos de dados, o seu funcionamento e a sua utilização subsequente.
Os resultados não são os ideais: numa escala de 0 a 100, com uma pontuação máxima de 47 a 54, a Metas Llama 2 está em segundo lugar; a pontuação de transparência da OpenAI foi de 47%, a da Google de 41% e a da Anthropic de 39%.
Fonte: Centro de Estudos de Padrões da Fundação da Universidade de Stanford
A transparência é uma prioridade para os decisores não só na UE, mas também nos EUA, no Reino Unido, na China, no Canadá, nos países do G7 e em muitos outros governos”, afirma Bomasani.
As implicações mais vastas destas conclusões são claras: à medida que os modelos de inteligência artificial são cada vez mais integrados em diferentes sectores, a transparência torna-se fundamental. Não só por razões éticas, mas também para aplicações práticas e credibilidade.
