Nils Bergert
Elisa Härder
Ines Heck
Manuel Hemm
Ingo Hochheim
Selina Hohe
Peter Huhn
Domenic Ipta
Kathrin Klein
Sophia Laas
Dr. Alexander Lang
Julian Pfeil
Magdalena Püschel
Thomas Rotzal
Susanna Schäfer
Valeria Schmidt
Christian Stadler
Alexander Stegmann
Jörg Steinbock
Bad Kissingen 
Bamberg 
Gerbrunn 
Gotha 
Kürnach 
München 
Randersacker 
Rottendorf 
Würzburg Was ist künstliche Intelligenz (KI)?
Laut KI-Verordnung ist ein KI-System definiert als „ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können“
Risikobasierter Ansatz der KI-Verordnung
Die KI-Verordnung verfolgt einen risikobasierten Ansatz, der KI-Systeme ausgehend von ihrem Risiko für die Sicherheit, Gesundheit und Grundrechte von Menschen bewertet. Die Verordnung differenziert im Grundsatz zwischen vier Risikostufen, an die unterschiedlich intensive Compliance-Anforderungen gestellt werden.
Darüber hinaus gilt die KI-Verordnung nicht für diejenigen Bereiche, die nicht in den Anwendungsbereich des EU-Rechts fallen, wie etwa nationale Sicherheit. Die KI-Verordnung findet auch keine Anwendung auf Systeme, die ausschließlich für militärische bzw. Verteidigungszwecke genutzt werden oder deren alleiniger Zweck wissenschaftliche Forschung und Entwicklung darstellt. Die Nutzung von KI-Systemen zu privaten Zwecken fällt ebenfalls nicht in den Anwendungsbereich der KI-Verordnung.
Wer ist von der KI-Verordnung betroffen?
Die KI-Verordnung gilt für verschiedene Akteuren auf unterschiedlicher Art und Weise. Hierunter fallen insbesondere:
- Anbieter: Die am stärksten regulierten Akteure im Rahmen der KI-Verordnung sind die Anbieter von KI-Systemen. Eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle wird als Anbieter im Sinne der Verordnung verstanden, wenn diese ein KI-System oder ein KI-Modell für allgemeine Zwecke entwickelt oder ein KI-System oder ein KI-Modell für allgemeine Zwecke entwickeln lässt und es unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringt oder in Betrieb nimmt, unabhängig davon, ob dies entgeltlich oder unentgeltlich geschieht.
Anbieter müssen demnach also nicht in der EU oder dem EWR ansässig sein, damit die KI-Verordnung Anwendung findet.
- Betreiber: Unternehmen und Organisationen, die KI-Systeme in der EU betreiben, müssen sicherstellen, dass sie die in der Verordnung festgelegten Anforderungen und Pflichten einhalten, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.
Ein Unternehmen, das etwa ein KI-System einkauft, das es beispielsweise bei der Personalbeschaffung unterstützt, wird als Betreiber verstanden.
- Importeure: Eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System in Verkehr bringt, das den Namen oder die Marke einer in einem Drittland ansässigen natürlichen oder juristischen Person trägt, gilt als Importeur.
- Händler: Eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem EU-Markt bereitstellt und nicht Anbieter oder Importeur ist.
Ab wann tritt die KI-Verordnung in Kraft
Die KI-Verordnung ist am 1. August 2024 in Kraft getreten. Vollständige Geltung entfalten die Normen 24 Monate nach dem Inkrafttreten, wobei für einige KI-Systeme ein abgestuftes Verfahren vorgesehen ist:
- 6 Monate nach Inkrafttreten (2. Februar 2025): Abschaltung verbotener KI-Systeme.
- 12 Monate nach Inkrafttreten (2. August 2025): Verpflichtungen für GPAI-Systeme (KI-Modelle) werden anwendbar, mit Ausnahme des Art. 101 KI-Verordnung.
- 24 Monate nach Inkrafttreten (2. August 2026): Alle Vorschriften der KI-Verordnung werden anwendbar, insbesondere die für Hochrisiko-KI-Systeme nach Anhang III, mit Ausnahme der Verpflichtungen für Hochrisiko-KI-Systeme nach Anhang II.
- 36 Monate nach Inkrafttreten (2. August 2027): Verpflichtungen für Hochrisiko-KI-Systeme nach Anhang II werden anwendbar.
- 72 Monate nach Inkrafttreten (2. August 2030): Geltung für Hochrisiko-KI-Systeme, die bestimmungsgemäß von Behörden genutzt werden sollen.
- Ende 2030 (31. Dezember 2030): Geltung für KI-Systeme, die Komponenten der in einem Anhang zu dieser Verordnung aufgeführten durch Rechtsakte eingerichteten IT-Großsysteme (bspw. Schengener Informationssystem) sind und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden.
Was passiert bei Verstößen gegen die KI-Verordnung
Bei Verstößen gegen die KI-Verordnung drohen Unternehmen Geldbußen in Höhe von bis zu EUR 35 Mio. oder 7% des weltweiten Jahresumsatzes. Auch Klagen von Wettbewerbern oder Schadenersatzansprüche von Betroffenen sind möglich.
