Quasselstrippe

Auf EU-Ebene,
ist der AI Act von 2024 (Einheitliche Regeln für Künstliche Intelligenz in der EU) bereits in Kraft und verfolgt einen risikobasierten Ansatz: KI-Systeme, die EU-Grundwerte verletzen oder inakzeptable Risiken bergen, sind größtenteils verboten, Hochrisiko-Anwendungen unterliegen strengen Auflagen.

Aktuell brisant
Die EU-Kommission hat im November 2025 ein Digital-Omnibus”-Paket vorgeschlagen, das AI Act und DSGVO vereinfachen soll. Menschenrechtsorganisationen wie das Deutsche Institut für Menschenrechte warnen hier vor einer schleichenden Aufweichung der Schutzstandards zugunsten von Wettbewerbsfähigkeit – die Verhandlungen dazu laufen noch.

Auf UN-Ebene
Die UN hat 2026 eine globale KI-Governance-Initiative gestartet. Annalena Baerbock betonte als Präsidentin der UN-Generalversammlung dabei Sicherheitsstandards, Entwickler-Rechenschaftspflicht und Menschenrechtsschutz als Prioritäten. Konkret in Arbeit: ein “AI Child Safety Pledge” (Verpflichtung zur Sicherheit von Kindern im Bereich KI), der Unternehmen zu nachweisbarer Kindersicherheit verpflichten soll, sowie eine erneuerte Forderung nach einem völkerrechtlichen Verbot autonomer Waffensysteme.
Der UN-Kinderrechtsausschuss gab im Januar 2026 eine gemeinsame Erklärung zu KI und Kinderrechten ab.

Handlungsfähigkeit des Rechtsstaats
Die EU hat mit dem AI Act und dem Digital Services Act bereits Regelwerke geschaffen, die genau in diese Richtung zielen – Transparenzpflichten, Risikoklassifizierung von KI-Systemen, Durchgriffsrechte gegen große Plattformen. Praktiker weisen aber auf ein reales Vollzugsproblem hin: Behörden fehlt oft das technische Know-how und Tempo, um mit der Entwicklungsgeschwindigkeit der Konzerne mitzuhalten. Gesetze zu erlassen ist das eine, sie durchzusetzen etwas anderes.

Zur Bindung an UN-Menschenrechte
Hier gibt es einen Zielkonflikt, den Befürworter wie Kritiker unterschiedlich gewichten. Menschenrechtsbasierte Leitplanken (z. B. Diskriminierungsverbote bei Trainingsdaten, Meinungsfreiheit bei Content-Moderation) sind ein sinnvoller normativer Anker. Kritiker wenden ein, dass die UN-Menschenrechtscharta rechtlich nicht direkt einklagbar ist und nationale/regionale Gesetzgeber sie erst in konkretes, durchsetzbares Recht übersetzen müssen – sonst bleibt es bei Absichtserklärungen. Zudem gibt es die Sorge, dass zu strikte Regulierung vor allem europäische/kleinere Anbieter träfe, während die großen US- und chinesischen Konzerne eigene Wege finden, Vorgaben zu umgehen oder Standorte zu verlagern.
Der Digital Omnibus zur KI-Verordnung ist inzwischen abgeschlossen und in Kraft – folgend der aktuelle Stand:

Zeitlicher Ablauf
* 19. November 2025: Kommissionsvorschlag
* 29. Juni 2026: Formelle Annahme durch den Rat
* 24. Juli 2026: Veröffentlichung im EU-Amtsblatt als Verordnung (EU) 2026/1744
* 27. Juli 2026: Inkrafttreten
* 02. August 2026: Die allgemeine Geltung des AI Act beginnt.
Der ursprüngliche Grundtermin bleibt bestehen, nur einzelne Pflichten wurden verschoben.

Was verschoben wurde
Die Pflichten für eigenständige Hochrisiko-KI-Systeme nach Anhang III wurden um 16 Monate verschoben, vom 2. August 2026 auf den 2. Dezember 2027. Für in Produkte eingebettete Hochrisiko-Systeme nach Anhang I gilt sogar erst der 2. August 2028. Die Anforderungen wurden dabei nicht verschärft, sondern in wesentlichen Bereichen deutlich abgeschwächt – gleichzeitig wurde aber die europäische KI-Aufsicht gestärkt.

Was sofort gilt (seit 2. August 2026)
Die Transparenzpflicht bei direkter Interaktion mit KI-Systemen greift unverändert – Chatbots, Voicebots und KI-gestützte Kundendialoge sind unmittelbar betroffen.
Ab diesem Datum kann die EU-Kommission bzw. das AI Office ihre Durchsetzungsbefugnisse vollständig ausüben – Auskunftsverlangen, Modellzugang für Evaluierungen, Anordnungen.

Ein Punkt, der zu deinem ursprünglichen Anliegen passt: Der Digital Omnibus untersagt gleichzeitig ausdrücklich bestimmte KI-Praktiken – insbesondere die Erzeugung nicht einvernehmlicher intimer oder sexueller Inhalte (sog. “Nudifier-Apps”) sowie Material zu sexuellem Kindesmissbrauch. Das ist tatsächlich eine konkrete gesetzliche Grenze für Tech-Konzerne mit direktem Menschenrechtsbezug.

Die Kontroverse
Kritiker (siehe Institut für Menschenrechte, Sandra Wachter) sehen im Omnibus eine Aufweichung mühsam erkämpfter Schutzstandards zugunsten der Wettbewerbsfähigkeit. Befürworter argumentieren, der ursprüngliche Zeitplan sei für Unternehmen und Aufsichtsbehörden praktisch nicht umsetzbar gewesen – die zusätzliche Zeit diene der Qualität der Umsetzung, nicht ihrer Verwässerung.