US-Beamte wollen frühzeitigen Zugang zu fortschrittlicher KI, und die großen Unternehmen haben zugestimmt.
Microsoft, Google DeepMind und Elon Musks xAI haben der US-Regierung angeboten, vor der allgemeinen Veröffentlichung Zugang zu neuen KI-Modellen zu gewähren. Dies leitet eine neue Phase in dem oft angespannten Verhältnis zwischen dem Silicon Valley und der US-Regierung ein, die aufgrund ihrer Angst vor KI-Bedrohungen eine neue Phase fürchtet. Ein aktueller Bericht enthüllt, dass KI-Unternehmen US-Beamten im Namen der Sicherheitsüberprüfung Modelle anbieten., in der Hoffnung, dass Regierungsanalysten zukunftsweisende KI-Systeme auf Sicherheitsbedrohungen wie Cyberangriffe und militärische Nutzung überprüfen können, bevor sie der Öffentlichkeit zugänglich gemacht werden – und damit unweigerlich auch jenen, die eigentlich keinen Zugang zu einem bewaffneten KI-Modell haben sollten.
Die Überprüfungen werden vom Center for AI Standards and Innovation (CAISI) des US-Handelsministeriums durchgeführt, das angibt, dass das Unternehmen Zusammenarbeit mit Google DeepMind, Microsoft und xAI Dadurch erhält es die Möglichkeit, KI-Modelle in der Phase vor der Implementierung zu prüfen, Forschung in bestimmten Bereichen zu betreiben und sie nach der Markteinführung zu überprüfen.
Das mag langweilig klingen, ist es aber nicht. Die Regierung fordert hier, dass die Motorhaube geöffnet wird, bevor das Auto auf die Straße kommt, und diese Motorhaube erhitzt sich von Tag zu Tag.
Es bleibt abzuwarten, aber es besteht eine verständliche Befürchtung, dass hochentwickelte KI Cyberkriminellen helfen wird, ihre Verbrechen noch effektiver auszuführen. „US-Beamte beäugen die aufkommenden Spitzenmodelle in ihren frühen Entwicklungsstadien mit Misstrauen und Besorgnis und stellen fest, dass einige von ihnen den Stresspegel höchster Regierungsbeamter erhöht haben“, schrieb Reuters.
Eines der KI-Tools, das die größten Bedenken hervorgerufen hat, ist Mythos von Anthropics, ein kürzlich vorgestelltes Modell. Das Problem besteht nicht darin, dass KI Sicherheitslücken aufdecken könnte, die Menschen nicht erkennen. Vielmehr liegt es darin, dass ein einziges Tool es Sicherheitsexperten ermöglichen könnte, Sicherheitslücken zu finden, und dass auch Angreifer diese Lücken ausnutzen könnten.
Microsoft hat sich in die KI-Debatte eingeschaltet. Laut Pressemitteilung hat Microsoft zugesagt, „mit Wissenschaftlern in den USA und Großbritannien zusammenzuarbeiten, um unbeabsichtigte Folgen von KI-Modellen zu identifizieren und abzumildern sowie zur Entwicklung gemeinsamer Datensätze und Bewertungsmethoden für die Sicherheit und Leistungsfähigkeit von Modellen beizutragen“.
Ein Beispiel für diese Art der Zusammenarbeit ist Microsoft hat diesen Monat eine Vereinbarung mit dem britischen Institut für KI-Sicherheit unterzeichnet. Die Zusammenarbeit mit Beamten beider Länder zur gemeinsamen Bewältigung von KI-Risiken deutet darauf hin, dass dieses Thema auch außerhalb der amerikanischen Hauptstadt relevant ist.
CAISI fängt nicht bei null an. Die Behörde gibt an, bereits über 40 Bewertungen durchgeführt zu haben, darunter auch solche von hochmodernen, noch unveröffentlichten Modellen. Entwickler teilen mitunter Versionen mit reduziertem oder eingeschränktem Schutz, um die schlimmsten nationalen Sicherheitsrisiken aufzudecken. Ja, das klingt beunruhigend, und das soll es auch sein; schließlich prüft man die Wirksamkeit eines Schlosses nicht einfach dadurch, dass man die Tür zum Schließen auffordert.
Darüber hinaus erweitern die neuen Abkommen den bisherigen Zugang der Regierungen zu Modellen, die von OpenAI und Anthropic bereitgestellt wurden; separat. OpenAI übergab der US-Regierung GPT-5.5 zur Evaluierung im Kontext der nationalen Sicherheit.Laut Chris Lehane von OpenAI ergibt sich durch die Kombination dieser Elemente ein klares Bild: Die leistungsfähigsten KI-Labore werden bereits vor der Markteinführung ihrer Technologien einem staatlichen Prüfverfahren unterzogen.
Hier spielen sich interessante (und komplexe) politische Verwicklungen ab. Die Trump-Regierung hat ihre KI-Strategie größtenteils auf Beschleunigung, Deregulierung und die Dominanz der USA auf der Weltbühne ausgerichtet. Doch jede zukunftsorientierte KI-Strategie muss sich auch mit der komplexen Realität auseinandersetzen, dass innovative Modelle nicht nur Produktivitätswerkzeuge sind.
Die Trump-Administration Amerikas KI-Aktionsplan Das Hauptziel ist die Förderung von Innovationen, der Aufbau der dafür notwendigen Infrastruktur und die Stärkung der US-amerikanischen Führungsrolle in der internationalen KI-Diplomatie und -Sicherheit. Letzteres trägt die Hauptlast.
Auch der Verteidigungsaspekt darf nicht außer Acht gelassen werden. Nur wenige Tage vor Bekanntgabe dieser Modellüberprüfungsvereinbarungen schloss das Pentagon laut Berichten Verträge mit führenden KI- und Technologieunternehmen ab, um Zugang zu den besten Systemen in klassifizierten Netzwerken zu erhalten. Die Bemühungen der Streitkräfte, kommerzielle KI in Regierungsabläufe zu integrieren.
Der Einsatz von KI in militärischen Arbeitsabläufen bringt eine Reihe neuer Herausforderungen und Konsequenzen mit sich. Ein Fehler muss nicht zwangsläufig ein Fehler sein; eine fehlerhafte Ausgabe kann weit mehr als nur ärgerlich sein. Sie kann den Betrieb beeinträchtigen und hohe Kosten verursachen.
Das Problem besteht natürlich darin, dass dies Innovationen behindern könnte. Technologieunternehmen werden argumentieren, sie bräuchten Handlungsspielraum; und sie haben sicherlich Recht, dass die KI-Entwicklung derzeit einem harten Konkurrenzkampf gleicht, mit schnellen Iterationen, aggressivem Wettbewerb, enormen Kosten für die Recheninfrastruktur und einer globalen Herausforderung für China.
Wenn jedes neue KI-Modell monatelang zurückgehalten wird, bevor es eingeführt werden kann, werden US-amerikanische Technologieunternehmen Washington sicherlich vorwerfen, unseren Gegnern ein Geschenk mit einer großen Verbeugung zu machen.
Man kann jedoch sagen, dass die USA es vermeiden möchten, dass die erste aussagekräftige öffentliche Demonstration einer besonders bedrohlichen oder gefährlichen Fähigkeit der KI eine öffentliche Freigabe ist, da man so am Ende durch Entschuldigung regiert.
Die Evaluierung vor der Einführung und Veröffentlichung wird nicht aufregend sein und wahrscheinlich für einige oder alle ärgerlich, was in der Regel ein gutes Zeichen dafür ist, dass die Regulierung irgendwo in der Mitte liegt.
Die Herausforderung wird darin bestehen, den Fokus zu behalten. Jede einzelne Chatbot-Veröffentlichung zu überprüfen, wäre nicht sinnvoll, aber die fortschrittlichsten Modelle, insbesondere solche mit militärischen, Cyber-, Bio- oder Chemie-Implikationen, genauestens zu untersuchen, ist eine andere Sache.
Hier geht es nicht um einen Regierungsbeamten, der Ihre Autovervollständigung genehmigt, sondern eher um einen Ingenieur, der die Rakete vor dem Start überprüft. Es ist vielleicht nicht ganz so dramatisch, aber ähnlich.
Es besteht hier auch ein Vertrauensproblem. Die Technologiekonzerne haben den Regulierungsbehörden erklärt, sie könnten sich selbst regulieren, während diese den Technologieunternehmen vorgeworfen haben, mit der rasanten technologischen Entwicklung nicht Schritt gehalten zu haben.
Das Ergebnis ist dieser unsichere Mittelweg, auf dem Unternehmen frühzeitig Zugang zu KI-Modellen gewähren, staatliche Forscher unabhängige Tests durchführen und alle hoffen, dass das Verfahren die schlechtesten Ergebnisse herausfiltert, aber nicht in Bürokratie erstickt wird.
Man kann sich des Eindrucks nicht erwehren, dass dieser Moment unausweichlich war. Sobald KI-Modelle ein Niveau erreicht hatten, auf dem sie leistungsfähig genug waren, um Bereiche wie Cybersicherheit, nationale Sicherheit und Infrastruktur zu beeinflussen, war es für diese Unternehmen nie sinnvoll, ihre Modelle auf ewig allein zu testen.
Der Durchschnittsbürger kennt vielleicht nicht die Feinheiten eines Benchmarks oder eines Red-Team-Berichts, aber er ist sich sicherlich bewusst, dass die bloße Fähigkeit dieser Systeme, konkreten Schaden anzurichten, eine genaue Prüfung rechtfertigt, bevor sie auf den Markt kommen.
Und während die großen Technologiekonzerne immer noch einen Wettlauf nach vorn machen wollen und Washington immer noch vermeiden möchte, unvorbereitet getroffen zu werden, haben sich die beiden Seiten zumindest vorläufig auf eine praktikable Vorgehensweise geeinigt: KI-Modelle öffnen, bevor der Motor aufheult.
Wie ist Ihre Reaktion?
Das könnte Sie auch interessieren
