Die Bemühungen der britischen Regierung, im Bereich der künstlichen Intelligenz auf dem Laufenden zu bleiben, schreiten mit der am Donnerstag bekannt gegebenen Ernennung von Spitzenberatern aus der Industrie für die KI-Taskforce zügig voran.
Die im Ministerium für Wissenschaft, Innovation und Technologie angesiedelte KI-Taskforce wurde erstmals im Juni angekündigt und mit 100 Millionen Pfund (125 Millionen Dollar) finanziert.
Nun hat die neu benannte Frontier AI Taskforce, die der Vorsitzende Ian Hogarth als „Start-up innerhalb der Regierung“ bezeichnete, einen Beirat, der sich aus Experten für KI-Forschung und nationale Sicherheit zusammensetzt.
Zu den Mitgliedern gehören der Turing-Preisträger Yoshua Bengio, der frühere OpenAI-Forscher Paul Christiano und die Direktorin des britischen Geheimdienstes GCHQ, Anne Keast-Butler.
Ein Eliteteam hochrangiger KI-Spezialisten wurde als Berater für die Frontier AI Taskforce rekrutiert.
Die Taskforce soll vor Risiken schützen, auf britischen Fähigkeiten aufbauen & öffentliche Dienstleistungen verbessern. @MichelleDonelan traf Ian Hogarth @soundboy, Vorsitzender der Taskforce, um pic.twitter.com/KAZurJkKSK
– Department for Science, Innovation and Technology (@SciTechgovuk) September 7, 2023
„Wir haben massive Investitionen in die Verbesserung der KI-Fähigkeiten gesehen, aber nicht annähernd genug Investitionen in den Schutz der Öffentlichkeit, sei es in Bezug auf die KI-Sicherheitsforschung oder in Bezug auf die Governance, um sicherzustellen, dass KI zum Nutzen aller entwickelt wird“, sagte Bengio.
„Mit dem bevorstehenden globalen KI-Sicherheitsgipfel und der Frontier AI Taskforce hat die britische Regierung die dringend benötigte Führungsrolle übernommen, um die internationale Koordinierung im Bereich der KI voranzutreiben, insbesondere in der Frage der Risiken und der Sicherheit.“
Der erste Fortschrittsbericht der Taskforce, der ebenfalls am Donnerstag veröffentlicht wurde, verweist auf eine Reihe weiterer Ernennungen und Kooperationen, darunter die Einstellung des Downing Street-Mitarbeiters Ollie Ilott als Direktor des Programms. Hogarth sagte, Ilott bringe eine „General Groves“-Energie in die Arbeit ein und bezog sich dabei auf den Mann, der die Entwicklung des Manhattan-Projekts überwachte.
Die britische Regierung arbeitet mit der KI-Industrie zusammen
Seit ihrer Gründung hat die Regierungs-Taskforce erklärt, dass sie mit KI-Giganten wie Googles DeepMind (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) und Anthropic (Claude AI, Constitutional AI) zusammenarbeiten wird.
Am Donnerstag erklärte die Regierung in ihrer Ankündigung, dass diese Unternehmen sich verpflichtet haben, Forschern tiefen Zugang zu ihren KI-Modellen zu gewähren.
Außerdem wurden Partnerschaften mit mehreren führenden technischen Organisationen bekannt gegeben, wobei Forscher verschiedener Unternehmen und gemeinnütziger Organisationen dem Projekt beitreten, um die Risiken und Chancen der KI zu bewerten.
Eine davon ist Heidy Khlaaf, technische Leiterin des Beratungsunternehmens Trail of Bits, die die Arbeit zu den Risiken an der Schnittstelle zwischen Cybersicherheit und KI-Systemen leiten wird.
„Nachdem wir an der Bewertung von Codesynthesemodellen gearbeitet haben, unabhängig von ihren Fähigkeiten oder ihrer Korrektheit, war es unklar, wie gut sie bei offensiven Cyberfähigkeiten helfen und Sicherheitsrisiken erhöhen“, schrieb sie auf X, früher bekannt als Twitter. „Wir freuen uns, unsere Arbeit für die britische KI-Taskforce ankündigen zu können, um genau das zu bewerten!“
In der Zwischenzeit werden Saffron Huang und Divya Siddarth, Mitbegründer des Collective Intelligence Project, Möglichkeiten entwickeln, um zu messen, ob KI zum Wohle der Allgemeinheit eingesetzt wird
