Fair Trial zur Bestimmung von KI-Haftung?

Bevor wir hier einsteigen, sind jedoch einige Anmerkungen zum Anwendungsbereich hervorzuheben: Es geht nur um die außervertragliche zivilrechtliche Haftung – Vertragsrecht und Strafrecht bleiben somit außen vor. Nach Art. 1 Abs. 3 lit. (a) soll die Richtlinie nicht das Unionsrecht in Bezug auf Haftungsbedingungen im Bereich des Verkehrs berühren. Die genaue Reichweite dieses Ausschlusses ist wolkig formuliert und wird auch durch die Ausführungen in den Erwägungsgründen nicht hinreichend klar: Der Wortlaut selber erscheint umfassend, Erwägungsgrund 11 erwähnt die Haftung von Verkehrsunternehmen, welche unberührt bleiben solle. Dem Impact Assessment zufolge sollen Ansprüche etwa eines durch einen Verkehrsunfall Geschädigten gegen den Hersteller des im Verkehrsunfall verwickelten autonom gesteuerten Fahrzeugs erfasst sein sollen (mehr dazu).  Hier wäre eine Präzisierung der Formulierung in der Richtlinie selber und eine Ergänzung der Erwägungsgründe notwendig. Der Entwurf soll ferner die Haftungsausschlüsse und Sorgfaltspflichten nach dem Digital Services Act unberührt lassen – also vor allem Hosting – und Plattform Provider Verantwortung.

Nach Art. 2 können Anträge gestellt werden durch den Geschädigten selber, Kläger nach Art. 2 Abs. 6 lit. (a); dessen Rechtsnachfolger und zwar auch Abtretungsempfängern und im Namen eines oder mehrere Geschädigter Handelnden wie einen Verbandskläger. Aktivlegitimiert ist zudem ein potentieller Kläger. Das ist eine natürliche oder juristische Person, die erwägt, einen Schadensersatzanspruch geltend zu machen, dies aber noch nicht getan hat. Der Definition zufolge kann es sich damit auch um einen potentiellen Abtretungsempfänger handeln oder einen potentiell im Namen eines oder mehrere Geschädigter Handelnden, wie einen Verbandskläger.

Die möglichen Betroffenen umfassen zunächst den Beklagten als die Person, gegen die der Schadensersatzanspruch geltend gemacht wird. Die Offenlegungsbestimmungen umfassen aber auch Dritte, die selber nicht verklagt sind oder werden sollen, hierzu gleich mehr.

Gegenstand von Offenlegungsanträgen sind Hochrisiko-KI-Systeme iS des Entwurfs der KI-Verordnung, die im Verdacht stehen, einen Schaden verursacht zu haben, Art. 3 Abs. 1. Augenblicklich sind derartige System im Art. 6 des Entwurfs der KI-Verordnung geregelt (COM(2021) 206 final). Dies sind etwa KI-Systeme, die als Sicherheitskomponente eines Produkts iSd dortigen Anhangs II verwendet werden oder selbst ein solches Produkt darstellen sollen, und einer Konformitätsbewertung unterliegen - etwa Medizinprodukte. Zudem gelten KI-Systeme in den Bereichen als hochriskant, die Anhang III des KI-VO-Entwurfs aufzählt. Etwa Systeme zur Biometrische Identifizierung und Kategorisierung natürlicher Personen oder zur Verwaltung und Betrieb kritischer Infrastrukturen. Damit können Offenlegungsanträge nicht bezogen sein auf „bestimmte“ KI Systeme, die nur den Transparenzpflichten nach Art. 52 KI-VO-Entwurf unterliegen, etwa Emotionserkennungssysteme oder Chatbots oder die große Mehrheit der Sonstigen KI-Systeme mit minimalem oder keinem Risiko, etwa wie KI-gestützten Videospiele oder Spamfilter.

Ein Kläger kann bei Gericht beantragen, dass ihm einschlägige Beweismittel offengelegt werden. Der Offenlegungsantrag kann, muss sich aber nicht gegen den Beklagten richten. Der Kläger kann die Offenlegung auchvon einem Dritten verlan, der Anbieter, eine entsprechend verpflichtete Person oder einen Nutzer eines derartigen Systems ist und dem diese Beweismittel vorliegen. Diese Begrifflichkeiten stammen aus dem Entwurf der KI-Verordnung: Anbieter ist, wer das System entwickelt oder entwickeln lässt, um es im eigenen Namen bzw. eigener Marke in Verkehr zu bringen oder in Betrieb zu nehmen; der Nutzer verwendet ein solches System außerhalb des privaten Bereichs, Art. 3 Nr. 2 und 4 Entwurf KI-Verordnung. Einzelne Anbieterpflichten werden im Entwurf der KI-Verordnung etwa den Produktherstellern in Art. 24, den Einführern in Art. 26 oder den Händlern in Art. 27 Entwurf KI-Verordnung auferlegt.

Richtet sich der Offenlegungsantrag des Kläger an eine solche nicht beklagte Person, muss er hierbei darlegen, dass er zunächst alle „angemessenen Anstrengungen“ unternommen hat, die einschlägigen Beweismittel vom Beklagten selber zu beschaffen, Art. 3 Abs. 2. Das setzt zumindest mal eine Aufforderung zur Offenlegung voraus. Eine ähnliche Obliegenheit trifft den potenziellen Kläger, Art. 3 Abs. 1 S. 1 (hierzu sogleich mehr), dem dort allerdings nur eine „vergebliche Aufforderung“ abverlangt wird. Die unterschiedlichen Formulierungen sind sicher kein Redaktionsversehen. Welche weiteren Anstrengungen der Kläger aber noch unternehmen muss, um die Hürde der „angemessenen Anstrengungen“ sicher zu passieren, konkretisiert der Entwurf allerdings nicht. Theoretisch kann das die Durchsetzung materiell-rechtlicher Ansprüche – etwa auf Auskunftserteilung – umfassen, die Geltendmachung prozessualer Rechte, in der ZPO etwa nach § 142 oder nur eigene Recherchen und Analyseversuche erfordern. Der Unterschied ist gravierend; es wäre insofern sinnvoll, wenn der Richtliniengeber die Segelanweisung an die Mitgliedstaaten entsprechend spezifizieren würde.

Der Kläger wird ferner darlegen müssen, wieso die Offenlegung erforderlich und aus seiner Sicht auch verhältnismäßig ist. Ersteres wird mehr umfassen als die pauschale Behauptung einer Beweisnot oder einer Intransparenz. Erwägungsgrund 20 legt dies zumindest nahe - denn wenn das Gericht die Offenlegung nur auf Beweismittel beschränken soll, die für eine Entscheidung über den jeweiligen Schadensersatzanspruch notwendig sind, muss ihm der Antragsteller zuvor etwa dargelegt haben, welche Daten er wofür konkret benötigt. Das dortige Beispiel legt allerdings ein Dilemma offen: es wird für den Kläger nicht immer einfach sein, vorab diejenigen Teile der einschlägigen, ihm aber unbekannten Aufzeichnungen oder Datensätze zu bestimmen, die erforderlich sind, um die Nichteinhaltung einer Anforderung der KI-Verordnung nachzuweisen. Die Formulierung ist aber sicher bewusst gewählt worden, da ein Abstellen darauf, „die Einhaltung der Anforderungen der KI-Verordnung zu überprüfen“, weitläufige fishing expeditions ermöglichen würde.

In diesem Stadium wird das Gericht um eine formale Einbeziehung des Datenbesitzers in das Verfahrens nicht umherkommen: Anders wird dieser weder seine dort angesprochenen berechtigten Interessen zum Schutz von Geschäftsgeheimnissen geltend machen noch Rechtsmittel gegen entsprechende Anordnungen einreichen können.

Interessant ist in diesem Zusammenhang auch die Frage, ob nicht auch weitere Dritte in das Verfahren einbezogen werden können oder sogar müssen: Richtet sich der Antrag gegen einen Nutzer eines Systems, ist es durchaus denkbar, dass dieser die „einschlägigen Beweismittel“, also die maßgeblichen Daten von deren eigentlichem Inhaber lediglich vertraglich überlassen bekommen hat. Zumindest ein einfacher Lizenznehmer wird aber ein anderes Interesse an der Geheimhaltung ihm lediglich lizenzierter Daten haben als der eigentliche Inhaber. Letzterer verfügt auch über ganz andere Möglichkeiten, die nach dem Geschäftsgeheimnisgesetz als Umsetzung der Geschäftsgeheimnisrichtlinie geforderten Voraussetzungen an ein Geschäftsgeheimnis darzulegen und insofern dessen Offenlegung entweder zu unterbinden, zu beschränken oder zum Gegenstand von Geheimhaltungsanordnungen wie etwa nach § 16 GeschGehG zu machen. Hier wird sich in der Praxis das weitere Dilemma zeigen. Es gibt zu wenig Gerichtsentscheidungen zu wesentlichen Aspekten des Geschäftsgeheimnisgesetz bzw. der Geschäftsgeheimnisrichtlinie. Urteile des EuGH hierzu sind auch in nächster Zukunft kaum zu erwarten: Entsprechende Streitigkeiten werden im Wesentlichen in Verfügungsverfahren entschieden, der mögliche Verlust von Geschäftsgeheimnissen erfordert aus rein tatsächlichen Gründen eine schnelle Klärung. Fünf bis zehn Jahre Hauptsacheverfahren machen für die meisten Unternehmen rein zeitlich wenig Sinn. Die Zahl der Verfahren, die vor allem zur Fortentwicklung des Rechts und der Bedeutung wichtiger Rechtsbegriffe geführt werden, ist in der Praxis eher übersichtlich.

Art. 3 Abs. 4 letzter Satz verpflichtet die Mitgliedstaaten sicherzustellen, dass die Personen, an die die Offenlegungsanordnung ergeht, über angemessene Rechtsmittel hiergegen verfügen. Auch hier ist die Umsetzung alles andere als einfach: Wenn ein Kläger die erste Instanz eines Schadensersatzprozess verloren hat, da er irrig der Annahme war, bereits über hinreichende Beweismittel zu verfügen, kann er dann im Berufungsverfahren noch einen Offenlegungsantrag gegen einen Dritten stellen? Oder ist dies wie ein verspätetes Vorbringen zu behandeln? Sollte der Antrag zulässig sein, wird er dann Gegenstand eines gesonderten Verfahrens über die Offenlegung? Wenn nein, wird der Dritte (erst) in das Berufungsverfahren einbezogen: kann er dann gegen eine Offenlegungsanordnung etwa des Berufungsgerichts ein eigenständiges Rechtsmittel zum Revisionsgericht einlegen? Will der Richtliniengeber derartige Entscheidungen vorgeben, muss er tief in die Prozessrechte der Mitgliedsstaaten eingreifen, um eine Harmonisierung zu erreichen. Überlässt er dies der Umsetzung in den Mitgliedstaaten drohen eine inhomogene Umsetzung und entsprechende Dissonanzen

Nach Art. 3 Abs. 3 können nur Kläger bei den Gerichten auch Maßnahmen zu Sicherung der einschlägigen Beweismittel beantragen. Potenzielle Kläger haben hingegen kein entsprechenden Antragsrecht. Eine Begründung dieser Differenzierung fehlt. Vermutlich ist es die nachgewiesene Ernsthaftigkeit der Verfolgung eigener Ansprüche durch die bereits erfolgte Klageerhebung, die die Möglichkeit eines Sicherungsanspruchs rechtfertigt.

 Kommt ein Beklagter einer Offenlegungsanordnung nicht nach, vermutet das Gericht, dass er gegen seine einschlägige Sorgfaltspflicht verstoßen hat, Art. 3 Abs. 5. Der Beklagte kann die Vermutung widerlegen. Hieraus folgt indirekt zudem, dass nach dem Konzept des Entwurfs die Offenlegung gegenüber einem Beklagten nicht erzwungen werden kann. In Erwägungsgrund 21 wird hierzu auf Durchsetzungsmöglichkeiten nach nationalem Recht verwiesen, welche allerdings Schadensersatzansprüche verzögern und somit möglicherweise zusätzliche Kosten für die Verfahrensbeteiligten verursachen könnten. Die Rechtsfolge der widerleglichen Vermutung wird somit als ausreichend erachtet.

Der Entwurf schweigt sich aus, welche Folgen es hat, wenn der Anordnungsbetroffene ein Dritter und eben nicht ein Beklagter im Verfahren war. Es liegt nahe, dass dies überhaupt keine Konsequenzen nach sich zieht. Die Vermutung der Sorgfaltspflichtverletzung knüpft beim Beklagten an dessen eigenes Verhalten an. Es ist zumindest nicht offensichtlich, auf welcher Grundlage man eine Sorgfaltspflichtverletzung des Beklagten vermuten wollte, weil ein Dritter einer ihn treffenden Offenlegungsaufforderung nicht nachgekommen ist. Ohne Zurechnung kann nicht vermutet werden, dass der Beklagte seiner Sorgfaltspflicht nicht nachgekommen ist, zumindest wenn sich diese auf Tatsachen im Zusammenhang mit der Konzeption des Hochrisiko-KI-Systems beziehen soll, die Gegenstand der Offenbarungsanordnung gewesen sind.

Wenn schon die Anordnung gegenüber dem Beklagten nicht zwangsweise durchgesetzt werden kann, wird sie aufgrund der Regelungen im Entwurf erst recht nicht gegenüber einem Dritten vollzogen werden können.

 Der Begriff des potentiellen Klägers umfasst natürliche und juristische Personen, die erwägen, einen Schadensersatzanspruch geltend zu machen. Der Logik des Klägerbegriffs folgend sind damit auch potentielle Abtretungsempfänger und potentielle Verbandskläger aktivlegitimiert. Der Kreis der potenziellen Kläger ist damit sehr weit. Eine gewisse Konkretisierung wird durch die nachstehend beschriebenen Vorgaben angestrebt. Ob das aber tatsächlich ausreicht, um rein spekulative Offenbarungsanträge potentieller Kläger auszusieben, ist zumindest nicht offensichtlich. Ein Ansatzpunkt könnte der Wortlaut von Art. 3 Abs. 1 letzter Satz in der deutschsprachigen Fassung des Entwurfs sein, demzufolge der potenzielle Kläger „seinen“ Schadensersatzanspruch plausibel darlegen soll – woraus man schließen könnte, dass nur der Umstand der Klageerhebung selber unklar sein darf. Die englischsprachige und die französischsprachige Fassung verwenden hier allerdings ein unbestimmtes Pronomen („a claim for damages“ bzw. „d’une action en réparation“) Hier wäre es hilfreich, wenn der Richtliniengeber sowohl den Wortlaut vereinheitlich als auch ggf. in den Erwägungsgründen noch einmal nachschärft.

Potenzielle Kläger müssen vor einem Offenlegungsantrag bei Gericht zunächst vorprozessual vergeblich versucht haben, den Anbieter, einen entsprechend Verpflichteten oder einem Nutzer entsprechend aufzufordern. In der Praxis wird es hier auf ein entsprechendes Aufforderungsschreiben mit Fristsetzung hinauslaufen. In Abgrenzung zu den wohl weitergehenden Pflichten des Klägers, angemessene Anstrengungen zu unternehmen, die einschlägigen Beweismittel beim Beklagten zu beschaffen, haben potenzielle Kläger hier aber keine weitergehenden Obliegenheiten zu erfüllen.

Sie müssen dann die Plausibilität ihres Schadensersatzanspruches durch Vorlage von Tatsachen und Beweismitteln ausreichend belegen, Art. 3 Abs. 1 letzter Satz. Eine entsprechende explizite Vorgabe gibt es für den tatsächlichen Kläger nicht, was aber im Ergebnis keinen Unterschied ausmacht, da er dies im Rahmen seiner Klagebegründung eh vortragen muss.

 Als Fazit zur Offenlegung und Sicherung nach Art. 3 ist damit festzuhalten: Die Einbeziehung der Dritten in die Offenbarungsanordnungen ist ein ambitionierter Ansatz, um Verfahren zu ermöglichen und ggf. auch zu beschleunigen. Die hierbei auftretenden Fragen sind allerdings kompliziert. Für einige Aspekte weist der Entwurf ein Loch auf - etwa was daraus folgen soll, dass ein von einer Offenbarungsanordnung betroffener, aber nicht verklagter Anbieter oder Nutzer selbige schlicht ignoriert. Das Konzept der widerleglichen Vermutung bei Missachtung der Offenlegungsanordnung erscheint inhaltlich ausgewogen und geeignet, Verfahren zu beschleunigen.

Eine Richtlinie wird den Mitgliedsstaaten Spielraum für die Umsetzung belassen (müssen): Um die Dissonanzen hier so weit wie möglich zu verringern, bedarf es aus zumindest an einigen Stellen der Konkretisierung wünschenswerterweise in den Bestimmungen selber, zumindest aber in den Erläuterungen.

Die Praxis sollte allerdings jetzt schon beginnen, sich in ihren Verträgen auf derartige Konstellationen einzustellen. Denn die jetzt geschlossenen Verträge zur Entwicklung von KI Systemen sind voraussichtlich immer noch maßgeblich, wenn die Richtlinie in Kraft getreten und umgesetzt worden ist. Klauseln über Informations- und Kooperationspflichten bei einer drohenden oder erfolgten Inanspruchnahme zum Zweck einer derartigen Offenlegung sollten daher jetzt entworfen oder überarbeitet werden.