KI-Haftungs­richtlinie: Studie des Europäischen Parlaments zur Haftung für KI

Am 19. September 2024 hat der Wissenschaftliche Dienst des Europäischen Parlaments eine Studie zur Gestaltung der KI-Haftungsrichtlinie veröffentlicht. Mit der geplanten KI-Haftungsrichtlinie sollen europaweit einheitliche Regeln zur außervertraglichen Haftung für Schäden durch den Einsatz von künstlicher Intelligenz eingeführt werden. Die Studie untersucht die vorgeschlagenen rechtlichen Instrumente und empfiehlt verschiedene Ausweitungen der Haftungsvorschriften, die nun im parlamentarischen Gesetzgebungsprozess diskutiert werden.

Entwurf der KI-Haftungsrichtlinie

Der Vorschlag für die KI-Haftungsrichtlinie wurde im September 2022 von der Europäischen Kommission veröffentlicht. Die KI-Haftungsrichtlinie soll spezielle Vorschriften für die außervertragliche zivilrechtliche Haftung für Schaden, die durch künstliche Intelligenz verursacht wurden, festlegen. Nach dem Entwurf ist der Betreiber eines KI-Systems nach den hergebrachten verschuldensabhängigen Schadensersatznormen des nationalen Rechts verantwortlich (z.B. § 823 BGB). Die Richtlinie sieht jedoch zwei Erleichterungen für Geschädigte vor:

• Zum einen soll eine Offenlegungspflicht dem Phänomen der „Black Box“ bei künstlicher Intelligenz begegnen. Geschädigte können die Herausgabe von Informationen zu dem KI-System verlangen, um potenzielle Ansprüche und Anspruchsgegner zu ermitteln und das KI-System auf Fehler oder Sicherheitslücken zu untersuchen. Um den Offenlegungsanspruch (auch gerichtlich) geltend zu machen, muss ein möglicher Anspruch lediglich plausibel dargelegt werden.
• Zum anderen sieht die KI-Haftungsrichtlinie eine widerlegliche Kausalitätsvermutung vor, die der Komplexität von KI-Systemen Rechnung trägt. Wenn der Anbieter bei der Entwicklung oder Anwendung der KI gegen eine Sorgfaltspflicht (z.B. nach der KI-Verordnung) verstoßen hat und durch diese KI anschließend ein Schaden eintritt, wird grundsätzlich vermutet, dass die Pflichtverletzung für den Schaden kausal war.

Der Entwurf der KI-Haftungsrichtlinie wurde 2022 in einem Paket mit der KI-Verordnung und der Überarbeitung der Produkthaftungsrichtlinie vorgelegt und ist eng mit diesen verzahnt. Während die letzteren beiden Gesetzgebungsvorhaben mittlerweile erfolgreich abgeschlossen sind, ist der Prozess bei der KI-Haftungsrichtlinie ins Stocken geraten und steht bis heute noch am Anfang des formellen Verfahrens. Mehrere Mitgliedstaaten und Parlamentarier haben Zweifel geäußert, ob die Regelungen neben der überarbeiteten Produkthaftungsrichtlinie notwendig und gerechtfertigt sind.

Vorschläge der Studie

Der Rechtsausschuss des Europäischen Parlaments hatte die Studie in Auftrag gegeben, um die Bedenken gegen die KI-Haftungsrichtlinie zu untersuchen. Die Studie präsentiert dazu ein eindeutiges Ergebnis und enthält außerdem einige Hinweise auf mögliche Änderungen und Erweiterungen der Haftungsregelungen:

• Die Studie betont, dass die KI-Haftungsrichtlinie neben der Produkthaftungsrichtlinie notwendig ist und einen eigenen Anwendungsbereich hat, insbesondere für Schäden durch Diskriminierung, bei Verletzung von Persönlichkeits- oder IP-Rechten und bei rein wirtschaftlichen Schäden.
• Bei den Haftungsregelungen solle der Gesetzgeber für bestimmte KI-Systeme eine verschuldensunabhängige Haftung in Betracht ziehen. Diese Option hatte die Europäische Kommission bei ihrem Entwurf 2022 als ineffiziente Lösung verworfen. Gerade mit Blick auf den Gesetzesentwurf SB 1047 in Kalifornien – dem Heimatmarkt der großen KI-Unternehmen –, der eine (beschränkte) verschuldensunabhängige Haftung der KI-Anbieter vorschlägt, hat dieses Konzept nun erneut politische Aufmerksamkeit erlangt.
• Die erfassten KI-Systeme sollten laut der Studie präziser und in enger Abstimmung mit der KI-Verordnung definiert werden. Hierzu schlägt die Studie unter anderem vor, neben KI-Systemen auch KI-Modelle mit allgemeinem Verwendungszweck (z.B. GPT-4 von OpenAI) explizit in die KI-Haftungsrichtlinie einzubeziehen. KI-Modelle waren – vor dem Hintergrund des Aufkommens von ChatGPT – im Trilog in die KI-Verordnung aufgenommen worden und sollen nun auch in der KI-Haftungsrichtlinie ergänzt werden.
• Um eine echte Harmonisierung der Schadensersatzansprüche trotz der national sehr unterschiedlich gestalteten zivilrechtlichen Haftungsregime zu erreichen, schlägt die Studie vor, die KI-Haftungsrichtlinie als unmittelbar anwendbare europäische Verordnung zu erlassen. Dann wäre keine Umsetzung im nationalen Recht durch die Mitgliedstaaten erforderlich.
• Zudem wirft die Studie den Gedanken auf, die KI-Haftungsrichtlinie deutlich breiter zu gestalten und zu einem umfassenden Instrument für die Haftung für (jegliche) Software-Fehler zu machen. Die Studie argumentiert, dass moderne Software auch ohne KI eine Komplexität mit sich bringt, der die allgemeine Produkthaftungsrichtlinie nicht gerecht wird. Bei Schäden durch Software können sich insbesondere die gleichen Beweisschwierigkeiten ergeben wie bei Schäden durch KI. Die Anwendung der Offenlegungspflicht und der Kausalitätsvermutung sei daher auch bei normaler Software gerechtfertigt und solle nicht auf KI beschränkt werden.

Ausblick

Die KI-Haftungsrichtlinie ist ein weiterer Baustein in dem umfassenden Rechtsrahmen für künstliche Intelligenz, der derzeit auf europäischer Ebene geschaffen wird. Die Richtlinie adressiert die komplexen Herausforderungen, vor denen Anbieter und Geschädigte stehen, wenn KI-Systeme einen Schaden verursachen. Die nun veröffentlichte Studie könnte dem Gesetzgebungsverfahren neuen Schwung verleihen. Das Europäische Parlament wird im Oktober erneut über die KI-Haftungsrichtlinie beraten. Zwar hat die aktuelle ungarische Ratspräsidentschaft bislang kein Interesse an dem Thema gezeigt, das könnte sich aber schon Anfang 2025 mit der kommenden polnischen Ratspräsidentschaft ändern.