Cyber­sicherheit in der Liefer­kette: Besonder­heiten bei KI-Systemen

Dem Einsatz von Künstlicher Intelligenz (KI) in Unternehmen zur Beschleunigung von Arbeitsprozessen kommt zunehmende Bedeutung zu. Bei der Integration der KI in ihre IT-Infrastruktur und IT-Systeme ist es seitens der Unternehmen unvermeidlich, ein besonderes Augenmerk auf dadurch entstehenden Cybersicherheitsrisiken zu legen und sich vertraglich abzusichern.

Dies gilt im Besonderen (aber natürlich nicht nur) für Unternehmen, die künftig dem Anwendungsbereich des deutschen Umsetzungsrechtsakts (NIS-2-Umsetzungs- und Cybersicherheitsstärkungsgesetz – NIS2UmsuCG) zur Network-and-Information-Security-Richtlinie 2.0 (NIS2-Richtlinie) unterfallen werden, welches nach derzeitigem Entwurfsstand das Gesetz über das Bundesamt für Sicherheit in der Informationstechnik (BSIG-E) novellieren wird.

Integration von Cybersicherheitsanforderungen in der Lieferkette

Als zwingende Risikomanagementmaßnahme gilt für Unternehmen die Sicherheit in der Lieferkette, die sicherheitsbezogene Aspekte in den Beziehungen zwischen den Unternehmen und ihren unmittelbaren Anbietern von Dienstleistungen umfasst.

Eine Konkretisierung dieser Anforderungen bietet gegenwärtig bereits der sich noch in der Entwurfsfassung befindliche Anhang des Durchführungsrechtsaktes der Europäischen Kommission im Sinne von § 30 Abs. 3 BSIG-E bzw. Art. 21 Abs. 5 NIS2-Richtlinie (NIS2-DRA-E). Unternehmen werden nach Ziffer 5 NIS2-DRA-E eine unternehmensinterne Richtlinie einführen müssen, welche Kriterien zur Auswahl von Anbietern und welche spezielle Vorgaben an die inhaltliche Gestaltung von Verträgen, etwa in Form von Service-Level-Agreements, einzuhalten sind.

Insbesondere sollen Verträge – soweit im Einzelfall angemessen – mit Anbietern gemäß Ziffer 5.4 NIS2-DRA-E klare Cybersicherheitsanforderungen spezifizieren, einschließlich Schulungen, Hintergrundüberprüfungen und Pflichten zur Meldung und Behebung von Sicherheitsvorfällen. Vorzusehen sind darüber hinaus Regelungen zu Audits, Fehlerbehebungszeiten, Untervergabe und zu den Pflichten des Anbieters bei Vertragsende (Exitmanagement).

In Bezug auf KI-Anwendungen wird zu klären sein, welche vertraglichen Regelungen für deren Einsatz im Unternehmen in der Lieferkette vorzuhalten sind. Orientierung hierfür bietet die kürzlich in Kraft getretene Verordnung 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO), welche ihrerseits einen Rechtsrahmen für KI-Anwendungen zur Verfügung stellt.

Als gesetzliche Vorgaben stellen Art. 13 Abs. 3 lit. b (ii) sowie 15 KI-VO Vorgaben für die Konzeption und Entwicklung von Hochrisiko-KI-Systemen auf, wonach diese ein angemessenes Maß an Cybersicherheit sicherzustellen haben, und hierzu Informationen in ihrer Betriebsanleitung enthalten müssen. Nach Art. 55 Abs. 1 lit. d KI-VO sind hierzu ebenso Anbieter von KI-Anwendungen mit allgemeinem Verwendungszweck mit systemischem Risiko verpflichtet. Speziell die Einhaltung dieser Vorgaben sollte vertraglich abgesichert werden.

Aber auch unabhängig von spezifischen gesetzlichen Vorgaben ist Unternehmen anzuraten, bei Einsatz von KI-Anwendungen sich vertraglich abzusichern. Es gibt keine „one size fits all“-Lösung, und je kritischer die KI-Anwendung ist, desto detaillierter sollten die Cybersicherheitsanforderungen sein.

Einräumung von Informationsrechten und Prüfrechte

Um nicht dem Vorwurf ausgesetzt zu sein, eine „Black Box“ gekauft zu haben, sollten sich beschaffende Unternehmen darüber hinaus zumindest Informationsrechte über die Funktionsweise einer KI-Anwendung gegenüber ihrem Vertragspartner einräumen lassen.

Dies ermöglicht eine fundierte Risikoanalyse und Bewertung der besonderen Risiken der jeweiligen KI-Anwendung. Vor allem mit Hinblick auf die Novellierung des digitalen Gewährleistungsrechts für Waren und digitale Produkte und der gerade erst in Kraft getretenen KI-VO gibt es weitere zu regelnde Bereiche. Insbesondere, dass aufgrund des nun bestehenden dynamischen Gewährleistungszeitraums eine ständige Neubewertung der Vertragskonformität vorgenommen werden muss. Im Hinblick auf den neuen Rechtsrahmen ist erforderlich, dass die entsprechenden KI-Anwendungen den jeweiligen Cybersicherheitsanforderungen genügen. Dies kann jedoch nur mit einer genauen Ausgestaltung der für die Vertragsparteien bestehenden Informationsrechte im Zuge der Vertragsgestaltung und -durchführung gelingen.

Verpflichtung auf Industriestandards

Anbieter von KI-Anwendungen verpflichten sich bereits gegenwärtig häufig zur Einhaltung bestimmter Standards. Anzutreffen in der Praxis sind Industriestandards, die nur auf einen relevanten Leistungsbereich zugeschnitten sind. Oftmals werden auch nur abstrakte Formulierungen wie Maßnahmen „nach dem Stand der Technik“ in Verträge aufgenommen.

Unternehmen sollten bei der Beschaffung von KI-Anwendungen hier besondere Sorgfalt walten lassen, da entsprechende abstrakte Bestimmungen oft nicht ausreichen werden, um im Falle von Cybersicherheitsvorfällen belastbare Ansprüche zugunsten des Unternehmens zu begründen. Zumindest stellen sie aufgrund ihrer Mehrdeutigkeit ein Einfallstor für Rechtsunsicherheit dar, was oftmals zu Konflikten mit der anderen Vertragspartei führt.

Angemessener Umfang der Vertragsgestaltung und ständiges Monitoring der Sicherheitsmaßnahmen

Für die Komplexität und den Umfang der ausgehandelten Vereinbarungen sollte als Maßgabe gelten: je kritischer das System, umso konkreter die notwendigen Maßnahmen. Es ist fortwährend zu überprüfen, ob KI-Anwendungen noch den aktuellen Anforderungen entsprechen. Unternehmen sollten vertraglich vereinbarte Berichte, Zertifikate und Testate einfordern und auswerten, sowie eigene, zusätzliche Maßnahmen einführen.

Spezialgesetzliche Anforderung für regulierte Organisationen

Für regulierte Organisationen können zudem besondere spezialgesetzliche Anforderungen bestehen. Dies betrifft insbesondere Finanzunternehmen nach DORA (Art. 28 ff. DORA), Betreiber kritischer Infrastruktur und Anlagen nach der BSI-KritisV sowie Rechtsanwälte nach § 43e BRAO und § 203 StGB.

Handlungsempfehlung

Zusammenfassend ist Unternehmen anzuraten, beim Einsatz von KI-Anwendungen sicherzustellen, dass zumindest Informations- und Prüfrechte über die Funktionsweise der KI-Anwendung und die Einhaltung der Pflichten der Anbieter nach der KI-VO vertraglich konkret festgelegt sind.

Des Weiteren ist es essenziell, die Anbieter auf konkrete und relevante Industriestandards zu verpflichten, um die spätere Verfolgung von Ansprüchen zu erleichtern. Beispielhaft zu nennen sind hier der AIC4-Kriterienkatalog für KI-Cloud-Dienste des BSI oder das NIST-Framework.

Während des laufenden Betriebs der KI-Anwendung ist es notwendig, eine durchgängige Überprüfung und Anpassung der Sicherheitsmaßnahmen an aktuelle Anforderungen vorzunehmen. Durch die Berücksichtigung dieser Aspekte können Unternehmen die Cybersicherheit ihrer KI-Anwendungen gewährleisten und sich gegen potenzielle Risiken absichern.