Der rasante technische Fortschritt – auch im Hinblick auf die Entwicklung der Künstlichen Intelligenz (KI) – lässt sich kaum mehr aufhalten. Dennoch bestehen rechtliche Problemstellungen, insbesondere hinsichtlich der Haftung für durch KI verursachte Schäden.
Wie auch die Funktionalität einer KI selbst sind rechtliche Haftungsfragen derzeit infolge der dynamischen Weiterentwicklung der Technologie als komplex anzusehen. Es stellen sich demnach Fragen wem die Ergebnisse der KI bzw. deren unrechtmäßiges Handeln zuzurechnen sind? Ist dies der Anbieter oder der Verwender der Künstlichen Intelligenz?
Grundsatz der Haftung
Das Deutsche Recht kennt grundsätzlich eine Haftung für Vorsatz und / oder Fahrlässigkeit gem. §§ 823ff. BGB. Hinzu kommen die auf EU-Ebene diskutierten Regelungen und Lösungsansätze:
Produkthaftungs-RL-E
Die Produkthaftungsrichtlinie stellt in Art. 1, Art. 4 Abs. 1 Produkthaftungs-RL-E klar, dass Software nun ein Produkt im Sinne von Art. 2 Produkthaftungsrichtlinie ist und legt als erweiterten Haftungskreis den Hersteller, Importeur, Bevollmächtigten des Herstellers, Fulfillment-Dienstleister, Einzelhändler, Betreiber von Online-Marktplätzen fest. Klargestellt wird auch, dass Unternehmen, die ein Produkt nach Inverkehrbringen ohne Zustimmung des ursprünglichen Herstellers wesentlich verändern, als Hersteller zu behandeln sind. Als ersatzfähiger Schaden wird nun auch die Beschädigung oder der Verlust von Daten definiert.
Wichtige Regelungen sind:
- die lange Haftpflichtzeit von 25 Jahren,
- der Auskunftsanspruch des Geschädigten
- die Beweiserleichterung durch widerlegbare Vermutungsregeln für die Fehlerhaftigkeit des Produkts und die Kausalität von Fehler und Schaden
KI-Verordnung
Die KI-Verordnung unterscheidet unter anderem zwischen Hochrisiko-KI und anderen KI-Systemen. Keine Hochrisiko-KI sind die Systeme, die kein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen haben und deren Entscheidungsprozesse nicht wesentlich beeinflussen (so z.B. als reine vorbereitende Tätigkeit). Verboten sind demnach Praktiken, die massiv in Grundrechte eingreifen, etwa Social Scoring, biometrische Echtzeit-Fernidentifizierung, KI-Systeme zur Beeinflussung von Verhalten. Dieses Verbot richtet sich nicht nur gegen den Anbieter, sondern auch gegen den Anwender, also denjenigen, der das KI-System in eigener Verantwortung verwendet.
Bei Hochrisiko-Systemen sind Anbieter zudem verpflichtet eine Risikobewertung und Dokumentation der Systeme durchzuführen und werden zudem mit besonderen Pflichten versehen. Eine fehlerhafte Einschätzung dahingehend, dass kein Hochrisiko-KI-System vorliegt, führt dazu, dass hohe Geldbußen bis zu 30.000.000 EUR oder bis zu 6% des gesamten weltweiten Jahresumsatzes verhängt werden können.
KI-Haftungs-Richtlinie
Der Anwendungsbereich der KI-Haftungs-Richtlinie ist dann eröffnet, wenn durch oder bei dem Betrieb eines KI-Systems ein Schaden entstanden ist. Hervorzuheben ist hierbei:
- die widerlegbare Kausalitätsvermutung, mit der Folge, dass der Geschädigte nicht die Ursächlichkeit des Schadens belegen muss. Die Kausalität zwischen dem KI-Ergebnis und der Verletzung eines Rechtsgutes des Klägers wird dann vermutet, wenn das Produkt fehlerhaft war und der entstandene Schaden typisch für einen derartigen Fehler ist.
- der erleichterte Zugang zu Beweismitteln, sodass insbesondere gegenüber dem Anbieter und Nutzer von Hochrisiko-KI-Systemen, die Offenlegung der Beweismittel gefordert werden kann, soweit dies verhältnismäßig ist.
In der Konsequenz sind in dem Vertrag mit dem Entwickler Unterstützungshandlungen bei der Abwehr von Ansprüchen, Haftungsfreistellungen und Garantieerklärungen zu vereinbaren. Daneben muss über Lizenzierung und die Rechte an den von der KI erzeugten Ergebnissen eine Regelung getroffen werden.
Ausblick
Problematisch sind weiterhin die auslegungsbedürftigen Rechtsbegriffe in den Richtlinien und Verordnungen. Zudem wird in der Praxis wohl ein technischer Sachverstand erforderlich werden, um die Funktionalität eines jeden KI-Systems überblicken zu können. Nach alledem sollte zudem der Datenschutz nicht vernachlässigt werden.
