Zur künstlichen Intelligenz im Rahmen der Koalitions­verhandlungen: ein Zwischenstand

Seit dem 13. März 2025 führen CDU/CSU und SPD Koalitionsverhandlungen, die auf dem Sondierungspapier vom 8. März 2025 basieren. Seit dem Kick-Off der Parteivorsitzenden finden die Koalitionsverhandlungen in einzelnen, thematisch untergliederten Arbeitsgruppen statt. Der Umgang mit künstlicher Intelligenz („KI“) beschäftigt vor allem die Arbeitsgruppe 3 („Digitales“), die von Manuel Hagel (CDU), Reinhard Brandl (CSU) und Armand Zorn (SPD) geleitet wird. Inzwischen sind Verhandlungsergebnisse der Arbeitsgruppe 3 publik geworden, anhand derer sich die rechtspolitischen Schwerpunkte und die künftige nationale Regulierung von KI deutlich konkreter festmachen lassen. Die wesentlichen Ergebnisse mit Stand vom 22. März stellen wir im Folgenden vor. Dass die Verhandlungen weiterhin im Fluss sind, zeigt sich etwa daran, dass die Verhandler sich ursprünglich auf die Schaffung eines Bundesdigitalministeriums geeinigt hatten, was nunmehr aber wohl doch nicht mehr geplant ist.

A. Umsetzung der europäischen KI-Verordnung

Zwingend erforderlich und damit auch Gegenstand der Koalitionsverhandlungen ist die Umsetzung der europäischen KI-Verordnung (Verordnung (EU) 2024/1689), die am 1. August 2024 in Kraft getreten ist. Diese Verordnung schafft erstmalig einen europäischen verbindlichen Rahmen für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI. Nationale Gesetzgeber müssen bis zum 2. August 2025 ein entsprechendes Durchführungsgesetz verabschieden. Das Bundesministerium für Wirtschaft und Klimaschutz (BMWK) sowie das Bundesjustizministerium haben bereits einen Referentenentwurf für ein KI-Marktüberwachungsgesetz („KIMÜG-Entwurf“) vorgelegt. Ob und inwiefern dieser durch die neue Bundesregierung angepasst wird, ist eine wesentliche Frage, mit der sich Union und SPD derzeit im Rahmen der Koalitionsverhandlungen beschäftigen.

I. Absage an „gold plating“

Die Arbeitsgruppe 3 erwägt – mit Stand vom 22. März ist dieser Punkt scheinbar noch umstritten –, ein „gold plating“ explizit abzulehnen, also die regulatorische „Veredelung“ der (Minimal-)Vorgaben des europäischen Rechts, die (europäische) Unternehmen vor Herausforderungen stellt, weil sie de facto zu einer regulatorischen Fragmentierung des Binnenmarkts führt. Mit einer solcher Absage wäre durchaus eine Richtungsentscheidung im Bereich der KI-Regulierung verbunden. Die Arbeitsgruppe 3 knüpft erkennbar an den von der EU-Kommission in Auftrag gegebenen und von dem ehemalige EZB-Präsident Mario Draghi erstellten Report zu „The future of European competitiveness“ aus dem September 2024 (siehe dazu hier) an. In dem Bericht heißt es:

„As in global AI competition ‘winner takes most’ dynamics are already prevailing, the EU faces now an unavoidable trade-off between stronger ex ante regulatory safeguards for fundamental rights and product safety, and more regulatory light-handed rules to promote EU investment and innovation, e.g. through sandboxing, without lowering consumer standards. This calls for developing simplified rules and enforcing harmonised implementation of the GDPR in the Member States, while removing regulatory overlaps with the AI Act [as detailed in the Governance Chapter]. This would ensure that EU companies are not penalised in the development and adoption of frontier AI.“

Die Arbeitsgruppe befürwortet in diesem Sinne nunmehr explizit eine innovationsfreundliche und bürokratiearme Umsetzung der KI-Verordnung. Wie weit diese angestrebte Zurückhaltung geht, bleibt abzuwarten, etwa in Bezug auf Art. 2 Abs. 11 KI-VO: Danach hindert die KI-Verordnung die Union oder die Mitgliedstaaten nicht daran, Rechts- oder Verwaltungsvorschriften beizubehalten oder einzuführen, die für die Arbeitnehmer im Hinblick auf den Schutz ihrer Rechte bei der Verwendung von KI-Systemen durch die Arbeitgeber vorteilhafter sind, oder die Anwendung von Kollektivvereinbarungen zu fördern oder zuzulassen, die für die Arbeitnehmer vorteilhafter sind. Jedenfalls hat man sich mit Stand vom 22.03. darauf verständigt, u. a. die Gewerkschaften bei der Umsetzung der KI-Verordnung angemessen zu berücksichtigen.

II. Zuständige Aufsichtsbehörden

Im KIMÜG-Entwurf wird insbesondere geregelt werden müssen, welche Behörde(n) die Anwendung der KI-Verordnung überwachen sollen (vgl. Art. 70 Abs. 1 Satz 1 KI-VO). Mit den Argumenten, besonders sachnah zu sein und schon jetzt im Bereich des Datenschutzrechts den Markt zu überwachen, hatten sich in der Vergangenheit die Datenschutzbehörden als Überwachungsbehörden wiederholt angeboten. Damit wäre die Marktüberwachung föderal ausgestaltet, was aus Sicht von Unternehmen die Gefahr divergierender Rechtsauslegung und -umsetzung birgt. Dem KIMÜG-Entwurf zufolge sind die Behörden, die in vollharmonisierten Bereichen der Produktregulierung bereits zuständige Marküberwachungs- und notifizierende Behörde sind, zugleich im Bereich der KI-Verordnung zuständige Behörde. In Bereichen, in denen es derartige Zuständigkeiten nicht gibt, soll die Bundesnetzagentur Marktüberwachungs- und notifizierende Behörde werden.

Auf diese Lösung deutet nunmehr auch der Ergebnisentwurf der Arbeitsgruppe 3 hin. Die Verhandler von Union und SPD fordern, eine Zersplitterung der Marktaufsicht zu vermeiden.

III. KI-Reallabore

Auch in Bezug auf KI-Reallabore hat sich die Arbeitsgruppe 3 positioniert. KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme zu erleichtern. Die Bundesnetzagentur soll nach dem KIMÜG-Entwurf zuständig für Einrichtung und den Betrieb der KI-Reallabore sein. Nach Art. 57 KI-VO ist mindestens ein KI-Reallabor einzurichten, es können aber auch mehrere KI-Reallabore eingerichtet werden. Das vorläufige Ergebnis der Beratungen in Arbeitsgruppe 3 hebt die Bedeutung von Reallaboren gerade im KI-Bereich hervor. Diese seien ein wichtiges Instrument, besonders KMUs und Startups zu unterstützen. Das Konzept der KI-Reallabore fügt sich nahtlos in die Bemühungen der (bisherigen) Bundesregierung ein, bessere Rahmenbedingungen für die Erprobung von Innovationen in Reallaboren und zur Förderung des regulatorischen Lernens zu schaffen. Es ist daher wahrscheinlich, dass in Zukunft nicht nur ein KI-Reallabor umgesetzt wird.

B. Änderung des KI-Verordnung und europäische KI-Haftungsrichtlinie?

Aus dem Ergebnisentwurf der Arbeitsgruppe 3 ergibt sich zudem, dass die künftigen Koalitionäre erwägen, sich auf EU-Ebene für eine Anpassung der KI-Verordnung einzusetzen, ihn aber jedenfalls „weiterentwickeln“ möchten. Dieser Punkt scheint aber noch strittig zu sein.

Ebenfalls noch umstritten ist, ob sich eine Koalition auf europäischer Ebene für eine KI-Haftungsrichtlinie einsetzen möchte. Die Verhandler erwägen dies jedenfalls.

C. Einsatz von KI im öffentlichen Sektor

Ein weiterer wichtiger Diskussionspunkt der Verhandlungen ist der Einsatz von KI im öffentlichen Sektor. Die Verhandler haben hier ambitionierte Ziele. Die Arbeitsgruppe 3 gibt als Leitbild eine vorausschauende, vernetzte, leistungsfähige und nutzerzentrierte Verwaltung aus. Die künftigen Koalitionäre haben sich nicht weniger als eine „Verwaltungsrevolution“ vorgenommen. Hierfür soll ein „Deutschland-Stack“ errichtet werden, der KI, Cloud-Dienste und Basiskomponenten integriert und so die Grundlage einer vernetzten und digitalen Verwaltung bildet. Insbesondere die Förderung von Schlüsseltechnologien, wie KI, und die Ausnutzung der Potenziale von Automatisierung und KI seien essenzielle Grundlage für eine solche Verwaltungstransformation. Darüber hinaus soll die Deutsche Verwaltungscloud (DVC) durch Schaffung souveräner Standards realisiert werden.

Zu den Verwaltungsbereichen, in denen CDU bzw. SPD bereits nach ihren Wahlprogrammen spezielle Anwendungspotenziale für KI sehen, gehören das Gesundheitswesen, Arbeitsvermittlung, Asyl, Sicherheit und Justiz. Die Grenzen zwischen Forderungen nach Digitalisierung im Allgemeinen und KI-Nutzung im Besonderen verlaufen in den Wahlprogrammen wie auch den bisherigen Verhandlungsergebnissen allerdings fließend. Klar ist, dass – wie auch bereits im Sondierungspapier verankert – die Verwaltung künftig sowohl durch Digitalisierung, aber auch durch Automatisierung von Verwaltungsprozessen effizienter gestaltet werden soll.

Wir möchten Cathrine Crämer für ihren Beitrag zu dieser Veröffentlichung danken.

 

Dieser Artikel erscheint im Rahmen unserer Bundestagswahl Insights. Alle Bundestagswahl Insights und mehr Informationen zur Bundestagswahl und deren Auswirkungen auf Industrie und Wirtschaft finden Sie auf unserem Election Hub (hier).