Frontier-KI: Wer will welche Regeln für die leistungsfähigsten Modelle?

European Commission · Verpflichtende Sicherheitsprüfungen

Artikel 55 verpflichtet Anbieter von Allzweck-KI-Modellen mit systemischem Risiko zu Modellprüfungen nach dem Stand der Technik, einschließlich dokumentierter adversarialer Tests. Das sind verbindliche Pflichten und nicht lediglich ein freiwilliger Code.

perform model evaluation in accordance with standardised protocols and tools reflecting the state of the art

European Commission · Verpflichtende unabhängige Audits

Artikel 92 erlaubt dem AI Office eigene Evaluationen und der Kommission, unabhängige Fachleute einzusetzen; Anbieter müssen angeforderten Zugang gewähren. Wird das Instrument genutzt, ist die Mitwirkung verpflichtend, doch der AI Act schreibt nicht für jedes systemrisikobehaftete Modell ein regelmäßiges unabhängiges Dritt-Audit vor.

The Commission may decide to appoint independent experts to carry out evaluations on its behalf

European Commission · Freiwillige Schutzregeln als primärer Ansatz

Die Kommission bezeichnet den GPAI Code of Practice als freiwilliges Instrument zum Nachweis der Compliance. Die zugrunde liegenden Pflichten des AI Act für Modelle mit systemischem Risiko sind jedoch verbindlich und seit August 2026 vollständig durchsetzbar. Freiwillige Schutzregeln sind damit nicht das primäre Regime.

U.S. White House · Verpflichtende Sicherheitsprüfungen

Executive Order 14409 ordnet einen staatlichen Benchmarking-Prozess an, weist die Behörden aber an, einen freiwilligen Rahmen zu schaffen, über den Entwickler erfasste Frontier-Modelle vor Veröffentlichung bereitstellen können. Eine verpflichtende Sicherheitsprüfung durch die Entwickler wird damit nicht geschaffen.

U.S. White House · Staatliche Freigabe vor Veröffentlichung

Abschnitt 3(c) stellt klar, dass die Frontier-Bestimmungen nicht als Ermächtigung für verpflichtende staatliche Lizenzierung, Vorabfreigabe oder Genehmigung der Entwicklung oder Veröffentlichung neuer KI-Modelle einschließlich Frontier-Modellen verstanden werden dürfen.

Nothing in this section shall be construed to authorize the creation of a mandatory governmental licensing, preclearance, or permitting requirement

U.S. White House · Freiwillige Schutzregeln als primärer Ansatz

Executive Order 14409 beauftragt die Bundesbehörden, mit Entwicklern einen freiwilligen Rahmen für Frontier-Einstufung, sicheren Vorabzugang und Zusammenarbeit mit vertrauenswürdigen Partnern aufzubauen, statt ein verbindliches Freigaberegime einzuführen.

UK Government · Verpflichtende Sicherheitsprüfungen

Die Regierung berichtet, dass AISI bereits 30 Frontier-Modelle getestet hat und Frontier-Modelltests als zentrale Sicherheitsfunktion finanziert. AISI bezeichnet die aktuelle Zusammenarbeit mit führenden Entwicklern zugleich als freiwillig; außerdem hat die Regierung angekündigt, Risiken der leistungsfähigsten Modelle gesetzlich zu regeln.

UK Government · Verpflichtende unabhängige Audits

AISI ist institutionell von den Entwicklern getrennt und evaluiert Frontier-Modelle, doch die geprüfte Quelle beschreibt diese Kooperationen als freiwillig. Die angekündigte Gesetzgebung enthält in den geprüften Materialien bislang keine regelmäßig verpflichtende Dritt-Auditpflicht.

ongoing voluntary collaborations with Anthropic and OpenAI

UK Government · Freiwillige Schutzregeln als primärer Ansatz

Die gegenwärtige AISI-Zusammenarbeit ist freiwillig, doch die Regierung hat angekündigt, kritische Risiken der nächsten Generation der leistungsfähigsten Modelle gesetzlich zu adressieren. Damit ist das Vereinigte Königreich ein Mischfall und kein rein freiwilliges Regime.

State of Illinois · Verpflichtende Sicherheitsprüfungen

SB 315 verpflichtet große Frontier-Entwickler, einen Frontier-AI-Rahmen zu implementieren und einzuhalten, der Katastrophenrisiko-Bewertung und Gegenmaßnahmen umfasst, sowie Zusammenfassungen solcher Bewertungen für erfasste Veröffentlichungen offenzulegen. Verstöße können mit Zivilstrafen geahndet werden.

State of Illinois · Verpflichtende unabhängige Audits

Ab 2028 müssen große Frontier-Entwickler jährlich einen unabhängigen Dritten beauftragen, die Einhaltung der Anforderungen des Frontier-AI-Rahmens zu auditieren; das Gesetz regelt dabei Unabhängigkeit und Zugangsrechte des Prüfers.

shall annually retain a third party to perform an independent audit

State of Illinois · Freiwillige Schutzregeln als primärer Ansatz

SB 315 schreibt Frontier-AI-Rahmen, Risikoffenlegung, Meldung kritischer Vorfälle und Dritt-Audits verbindlich vor und hinterlegt sie mit Zivilstrafen. Freiwillige Branchenpraktiken können ergänzen, ersetzen die Kernpflichten aber nicht.

Anthropic · Verpflichtende Sicherheitsprüfungen

Anthropics Advanced AI Framework schlägt Pflichten für Entwickler der leistungsfähigsten Modelle vor: Sie sollen definierte Katastrophenrisiken testen, Ergebnisse veröffentlichen und einer staatlichen Stelle mit Eingriffsbefugnissen Rechenschaft ablegen.

Anthropic · Verpflichtende unabhängige Audits

Der Rahmen sieht vor, dass erfasste Frontier-Entwickler ihre Risikoarbeit qualifizierten unabhängigen Prüfern vorlegen. Unabhängige Evaluation soll damit zum regulären Teil des Governance-Systems werden und nicht bei interner Selbstprüfung verbleiben.

Anthropic · Staatliche Freigabe vor Veröffentlichung

Anthropic schlägt eine gesetzliche Befugnis vor, Veröffentlichungen mit erheblichem Katastrophenrisiko zu blockieren oder abzuschrecken, samt Mechanismus dafür. Der geprüfte Rahmen verlangt jedoch nicht eindeutig, dass jedes erfasste Modell vor Veröffentlichung eine staatliche Lizenz oder Freigabe erhalten muss.

government should have the legal authority to block or deter its deployment

Anthropic · Freiwillige Schutzregeln als primärer Ansatz

Anthropic fordert ausdrücklich staatliches Handeln, verbindliche Entwicklerpflichten und Durchsetzungsbefugnisse. Freiwillige Unternehmensschutzmaßnahmen bleiben relevant, das vorgeschlagene Primärregime ist jedoch gesetzliche Regulierung mit unabhängiger Kontrolle.

OpenAI · Verpflichtende Sicherheitsprüfungen

OpenAIs Bundesrahmen sieht vor, dass die leistungsfähigsten Frontier-Modelle verpflichtend von CAISI evaluiert werden, sobald die Behörde über ausreichende Kapazitäten verfügt und bevor die Modelle öffentlich veröffentlicht werden.

OpenAI · Verpflichtende unabhängige Audits

Der Rahmen fordert, dass große Frontier-Entwickler jährlich einen unabhängigen Dritten mit der Compliance-Prüfung beauftragen und erfasste Modelle zusätzlich durch zertifizierte unabhängige Stellen technisch bewerten lassen.

OpenAI · Staatliche Freigabe vor Veröffentlichung

Das vorgeschlagene CAISI soll Frontier-Modelle evaluieren und Gegenmaßnahmen empfehlen, während die Entwickler für Veröffentlichungsentscheidungen verantwortlich bleiben. Der Rahmen sagt ausdrücklich, CAISI solle Veröffentlichungen weder genehmigen noch blockieren.

not to approve or block deployments

OpenAI · Freiwillige Schutzregeln als primärer Ansatz

Der Rahmen fordert einen verbindlichen nationalen Ordnungsrahmen, verpflichtende Evaluationen, unabhängige Audits und durchsetzbare Konsequenzen. Freiwillige Unternehmensregeln allein gelten damit als unzureichend.

Google · Verpflichtende unabhängige Audits

Googles US-Governance-Vorschlag sieht für die leistungsfähigsten Frontier-Modelle eine bundesstaatlich beaufsichtigte, von der Branche getragene Stelle vor, die Sicherheitsstandards setzt und unabhängige freiwillige Audits verifiziert. Das bleibt klar unterhalb einer Pflicht.

independent, voluntary audits

Google · Freiwillige Schutzregeln als primärer Ansatz

Für Frontier-KI schlägt Google eine unabhängige, bundesstaatlich beaufsichtigte und von der Branche getragene Organisation vor, die Sicherheitsstandards setzt und freiwillige Audits verifiziert, statt in dem geprüften Vorschlag ein verbindliches Lizenz- oder Auditregime zu fordern.

Yoshua Bengio · Verpflichtende Sicherheitsprüfungen

In seiner Rede vor dem UN-Sicherheitsrat im September 2026 fordert Bengio, dass Entwickler die Sicherheit von Systemen vor Training und Einsatz nachweisen müssen. Er formuliert dies als gemeinsame Governance-Regel und nicht als freiwillige Praxis.

Yoshua Bengio · Verpflichtende unabhängige Audits

Sein Vorschlag weist den Sicherheitsnachweis ausdrücklich unabhängigen Fachleuten zu. Externe Kontrolle wird damit Teil der geforderten Schwelle für Training und Einsatz.

Yoshua Bengio · Staatliche Freigabe vor Veröffentlichung

Bengio schlägt eine Lizenzierung von Frontier-KI vor und vergleicht sie mit regulierten Bereichen wie Medizin, Luftfahrt und Kernenergie. Das ist die klarste Befürwortung eines formalen Freigaberegimes in dieser Matrix.

Frontier AI should be licensed like other critical technologies

Yoshua Bengio · Freiwillige Schutzregeln als primärer Ansatz

Sein Vorschlag nutzt verpflichtende Formulierungen für unabhängige Sicherheitsnachweise, Vorfallmeldungen und Lizenzierung. Freiwillige Selbstverpflichtungen der Entwickler bilden damit nicht sein bevorzugtes Governance-Modell.