Künstliche Intelligenz & KI-Verordnung

Die verschiedenen Initiativen der Europäischen Union („EU“) zur Gestaltung der digitalen Zukunft gehen in ihr entscheidendes Jahr: Alle maßgeblichen Entwürfe für Verordnungen zur Regulierung von Künstlicher Intelligenz („KI“) und Daten befinden sich in den Mühlen der Feinabstimmung zwischen den beteiligten Institutionen.

KI-Verordnung

Am 21. April 2021 veröffentlichte die Europäische Kommission („EU-Kommission“) den „Entwurf einer Verordnung zur Regulierung der Nutzung Künstlicher Intelligenz“ („KI-Verordnung“), welche das Vertrauen der Gesellschaft in KI-Systeme stärken soll ohne dabei die Chancen dieser Technologie zu blockieren. Die Verordnung enthält harmonisierte Vorschriften für die Entwicklung, das Inverkehrbringen und die Verwendung von KI-Systemen in der Europäischen Union.

Einem risikobasierten Ansatz folgend werden KI-Systeme hierfür in vier Risiko-Kategorien unterteilt: unannehmbar, hoch, gering und minimal. Insbesondere Hochrisiko-Systeme erfahren hierbei eine umfangreiche Regulierung. KI-Systeme mit unannehmbarem Risiko, etwa Systeme, die menschliches Verhalten manipulieren oder die Vertrauenswürdigkeit von Personen auf Grundlage ihres Sozialverhaltens bewerten (sogenanntes Social Scoring), werden verboten. KI-Systeme mit hohem Risiko, etwa Systeme, die in grundrechtssensiblen Bereichen Entscheidungen über Menschen treffen, müssen für ihren Einsatz strenge Voraussetzungen erfüllen. KI mit geringem und minimalem Risiko, beispielsweise Chatbots oder Spamfilter, soll dagegen weitgehend unreguliert bleiben, womit die Wettbewerbsfähigkeit in der EU erhalten bleiben soll.

Seit dem ersten Entwurf der EU-Kommission hat sich einiges getan: Der Rat der Europäischen Union („EU-Rat“) hat seinen gemeinsamen Standpunkt in der Sitzung vom 06. Dezember 2022 verabschiedet und den unter dem tschechischen Vorsitz erarbeiteten Kompromissvorschlag angenommen. Die Änderungsvorschläge sehen unter anderem eine Präzisierung der Definition eines KI-Systems vor, um ausreichend klare Kriterien für die Abgrenzung der KI von einfacheren Software-Systemen zu erhalten. In Art. 5 wird der Bereich der verbotenen KI-Praktiken erweitert: Das Verbot der Nutzung von KI für die soziale Bewertung richtet sich nun auch an private Akteure. Zudem sollen nunmehr KI-Systeme, welche wahrscheinlich keine schwerwiegenden Grundrechtsverletzungen oder andere bedeutende Risiken verursachen, nicht als Hochrisiko-Systeme eingestuft werden. Für KMUs wurde die Obergrenze der Bußgelder auf die Hälfte reduziert. Der Rat hat ferner das Verfahren zur Konformitätsbewertung und Bestimmungen über die Marktüberwachung überarbeitet, damit sie wirksamer und leichter umgesetzt werden können.

Im Europäischen Parlament („EU-Parlament“) laufen die Bemühungen eine gemeinsame Linie nach den durchaus divergierenden Berichten und Stellungnahmen der beteiligten Ausschüsse zu finden. Unter den Streitpunkten sind einige interessante Themen zu finden, deren Lösung mit Spannung erwartet werden darf. So wird beispielsweise vorgeschlagen, Behörden in Drittländern, welche KI im Rahmen von Vereinbarungen über internationale oder justizielle Zusammenarbeit verwenden und einem Angemessenheitsbeschluss nach der Datenschutz-Grundverordnung oder einer Vereinbarung über Grundrechte unterliegen, vom Anwendungsbereich auszunehmen. Auch die Regulierung biometrischer Erkennungssysteme ist hoch umstritten. So fordern manche Stimmen ein umfassendes Verbot, welches auch für die nachträgliche Identifizierung von Personen sowie den privaten Bereich gelten soll.

Eine Abstimmung im Plenum über den gemeinsamen Bericht von IMCO und LIBE aus dem April 2022 ist für das erste Quartal 2023 geplant, wird aber vermutlich erst in den Sitzungstagen Mitte März 2023 stattfinden (dort S. 2). Wenn dies erfolgt ist, werden die Einigungsgespräche der beteiligten Institutionen im Rahmen des Triloges erfolgen. Vor dem Hintergrund der 2024 stattfindenden Wahlen des EU-Parlaments werden sie insofern sicher versuchen, spätestens im Laufe des Herbsts 2023 das Verfahren abzuschließen, so dass die Verordnung in der laufenden Legislaturperiode noch in Kraft treten kann.

Datengesetz

Neben der KI-Verordnung ist zudem das geplante Datengesetz der EU für die Nutzung von KI-Systemen von großer Bedeutung. Es regelt unter anderem den Datenaustausch zwischen Akteuren sowie die Datenbereitstellung und enthält Vorschriften zu unfairen Vertragsklauseln, Interoperabilität und zum Wechsel von Datenverarbeitungsdiensten. Durch die neuen Vorschriften will der EU-Gesetzgeber maßgeblich dazu beitragen, das volle wirtschaftliche Potential von Daten auf dem europäischen Markt auszuschöpfen. Auch hier verbleiben aber noch allerhand Uneinigkeiten.

Schweden hat zum 01. Januar 2023 den Vorsitz im EU-Rat übernommen und bemüht sich, dort entsprechende Kompromisse zur Verabschiedung eines gemeinsamen Standpunktes zu erreichen. Meinungsverschiedenheiten über den am 23. Februar 2022 veröffentlichten Vorschlag der EU-Kommission über harmonisierte Vorschriften für einen fairen Datenzugang und eine faire Datennutzung scheinen etwa die Ausnahmen für kleine und mittlere Unternehmen (sogenannte KMUs) zu betreffen oder ob die Anordnung der Nichtigkeit einseitig auferlegter unfairer Vertragsbedingungen unabhängig von der Größe des betroffenen Unternehmens sein soll. Auch die Abgrenzung zur Geschäftsgeheimnisrichtlinie ist streitig; einige Mitgliedstaaten plädieren für eine Reduzierung von Offenlegungspflichten zum Schutz davon betroffener Geschäftsgeheimnisse.

Richtlinie über KI-Haftung

Der jüngste Vorschlag einer „Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz“ vom 28. September 2022 und der damit verwandte Vorschlag einer Überarbeitung der Produkthaftungsrichtline von 1985 zielen darauf ab, die Hersteller digitaler Systeme stärker in die Verantwortung zu nehmen. Hintergrund ist u.a., dass die Kontrolle der Nutzer gerade über entsprechende Produkte sinkt. Dem Vorschlag zufolge sollen in das Deliktsrecht der Mitgliedstaaten zwei Regeln eingepflanzt werden, nach denen die Sorgfaltspflichtverletzung und deren Kausalität für den Schaden vermutet werden. Die eigentliche Haftungsgrundlage ergibt sich hingegen aus dem nationalen Recht.

Die Abstimmungen hierüber haben im EU-Rat und im EU-Parlament begonnen. So hat sich etwa die Gruppe Zivilrecht des EU-Rats in der Sitzung vom 12. Januar 2023 unter anderem mit dem Richtlinienvorschlag befasst.

Stay tuned ist damit das Gebot für 2023, da in diesem Jahr maßgebliche Entscheidungen über die rechtlichen Grundlagen der digitalen Zukunft getroffen werden.