Исследовательская группа Стэнфордского университета утверждает, что прозрачность основных моделей искусственного интеллекта, таких как ChatGPT, Claude, Bard и LlaM-A-2, снижается.
Новое исследование было проведено Стэнфордским центром исследований основных моделей (
Но почему пользователей должна волновать прозрачность ИИ?
«Снижение прозрачности затруднит другим компаниям понимание того, могут ли они безопасно создавать приложения на основе своих бизнес-моделей, ученым — проводить исследования на основе своих бизнес-моделей, политикам — создавать осмысленную политику, ограничивающую эту мощную технологию, потребителям — понимать ограничения своих моделей или добиваться возмещения причиненного вреда. или добиваться возмещения причиненного вреда», — говорится в документе, опубликованном в Стэнфорде. — говорится в документе, опубликованном в Стэнфорде.
Для решения этой проблемы Бомасани и его коллеги из Стэнфордского университета, Массачусетского технологического института и Принстонского университета разрабатывают индекс прозрачности фундаментальных моделей (Fundamental Model Transparency Index, FMTI). Индекс оценивает ряд тем, чтобы составить целостную картину прозрачности, с которой компании разрабатывают свои модели искусственного интеллекта. В рейтинге учитываются такие аспекты, как способ построения фундаментальных моделей, доступность наборов данных, принцип их работы и последующее использование.
Результаты не идеальны: по шкале от 0 до 100, с максимальным баллом 47-54, Metas Llama 2 находится на втором месте; оценка прозрачности OpenAI составила 47%, Google — 41%, Anthropic — 39%.
Источник: Центр изучения стандартов Фонда Стэнфордского университета
Прозрачность является приоритетом для лиц, принимающих решения, не только в ЕС, но и в США, Великобритании, Китае, Канаде, странах «Большой семерки» и многих других государствах», — говорит Бомасани.
Более широкие последствия этих выводов очевидны: по мере того как модели искусственного интеллекта все больше интегрируются в различные отрасли, прозрачность становится ключевым фактором. Не только по этическим соображениям, но и для практического применения и обеспечения достоверности.
