Künstliche Intelligenz

Prüfen Sie zunächst, ob Ihr System unter die Definition eines KI-Systems fällt und welcher Rolle (Akteur) Sie zugeordnet werden. Danach stellen Sie sicher, dass Sie alle Anforderungen der Risikoklassifizierung, z.B. KI mit begrenzten Risiko, beachten, etwa Transparenzpflichten oder Sicherheitsanforderungen

Die Umsetzungspflichten sind gestaffelt. Je nachdem, welche Art von KI-System Sie entwickeln oder betreiben, gelten die Vorschriften zu unterschiedlichen Zeitpunkten, die bis 2030 reichen. Nutzen Sie dazu unsere tabellarische Aufstellung.

Ausgehend von der gesetzlichen Definition (Art. 3 Nr. 1 KI-VO) werden Systeme immer dann als KI-Systeme einzustufen sein, wenn Maschinen durch Künstliche Intelligenz die Fähigkeit entwickeln, autonom Aufgaben auf der Basis von Algorithmen auszuführen und dabei Lösungen für Probleme und Empfehlungen oder Entscheidungen vorzuschlagen.

Sie stehen nicht in Konkurrenz, sie ergänzen sich. Beim Einsatz von KI sind bereits jetzt die Datenschutzgesetze einzuhalten. Voraussetzung ist, dass der Anwendungsbereich der Datenschutzgesetze eröffnet ist, d. h. mit der KI personenbezogene Daten verarbeitet (z. B. eingegeben, ausgewertet oder in sonstiger Weise verarbeitet) werden. Die Grundsätze der DSGVO wie Rechtmäßigkeit, Zweckbindung, Transparenz, Datenminimierung, Richtigkeit müssen beachtet werden.

Hier wird immer nach der Rolle und der KI-Klassifizierung unterschieden.  
Rollen sind: Anbieter, Betreiber, Hersteller, Einführer, Händler, bevollmächtigter Vertreter oder betroffene Person in der EU. 
Klassifizierung der KI: Verbotene KI (Art. 5 KI-VO), Hochrisiko-KI-Systeme (Art. 6 – 49 KI-VO – Transparenzvorschriften, Art. 13 KI-VO), Codes of Conduct (Art. 95 KI-VO), GPAI Model – Transparenzvorschriften (Art. 53 KI-VO) und GPAI Model mit systemischen Risiko – Transparenzvorschriften (Art. 55 KI-VO).

Die Verordnung sieht empfindliche Sanktionen vor (Art. 99 KI-VO), insbesondere bei Verstößen gegen die Vorschriften für Hochrisiko-KI-Systeme oder verbotene KI-Technologien. Die Bußgelder sind auf 35 Mio. Euro bzw. 7 % des gesamten weltweiten Jahresumsatzes des Unternehmens im vorangegangenen Geschäftsjahr begrenzt. Andere Verstöße werden mit bis zu 15 Mio. Euro oder 3 % des Umsatzes des Unternehmens sanktioniert. Bei einer Übermittlung falscher Informationen an die Behörden drohen Bußgelder von bis zu 7,5 Mio. Euro oder 1 % des Jahresumsatzes. 
 

Um europäische Start-ups und KMU bei der Entwicklung von KI-VO konformen KI-System zu unterstützen, sollen sog. KI-Reallaboren entstehen. Sie sollen eine Möglichkeit bieten, KI-Systeme unabhängig und unter Regulierungsaufsicht zu entwickeln und zu testen, bevor sie auf den Markt kommen. Die KI-Reallabore sollen alle relevanten Akteure – öffentliche und private, einschließlich notifizierter Stellen, Normungsorganisationen und Forschungseinrichtungen – einbeziehen und für KMU und Startups grundsätzlich kostenfrei sein. Auf Basis des in der KI-VO verankerten Verhältnismäßigkeitsprinzips, das sicherstellt, dass die Anforderungen an die Größe und Kapazität des Unternehmens angepasst werden, soll es für KMU weniger strenge Auflagen geben, insbesondere in Bezug auf Dokumentations- und Berichtspflichten. Zudem sollen sie von erleichterten Verfahren zur Konformitätsbewertung profitieren, es soll beispielsweise möglich sein, bestimmte Prüfungen und Kontrollen in vereinfachter Form durchzuführen.  Dies hilft, die Kosten und den bürokratischen Aufwand zu senken. Hier muss sich noch eine Praxis durchsetzen. 

KI hat das Potenzial vielfältige Vorteile für Wirtschaft und Gesellschaft hervorzubringen, etwa die Effizienzgewinne im Alltag durch Verbesserung von Prognosen, die Optimierung der Ressourcennutzung und die Personalisierung von Dienstleistungen. Gleichzeitig, bergen aber auch neue Gefahren und Nachteile für unsere Gesellschaft. Beispielsweise neigen KI-Systeme, die auf unzureichenden Trainingsdaten basieren, Vorurteile zu übernehmen und dadurch diskriminierende Entscheidungen zu treffen. Die EU möchte deshalb sicherzustellen, dass KI immer im Einklang mit den Werten, Grundrechten und Prinzipien der EU entwickelt wird. Erklärte Position zum AI-Act des EU-Parlaments: 

„Die Vorschriften sollen die Entwicklung, den Einsatz und die Nutzung von menschenzentrierten, vertrauenswürdigen KI-Systemen in der EU regeln und Gesundheit, Umwelt, Sicherheit, Grundrechte und Demokratie vor schädlichen Folgen schützen.“ 

Das Thema KI entwickelt sich täglich weiter. Es gibt aber einige Aspekte, die sich herausdeuten. Diese sind: 

• Bereiten Sie auf die KI-Verordnung vor, indem Sie ein Grundverständnis entwickeln und sich auf den Weg machen. Bleiben Sie am Ball! 
• Verschaffen Sie sich einen Überblick über KI-Einsatz und KI-Planung („IST-SOLL): Was ist schon im Einsatz und was soll noch kommen? So wird Ihnen klar, welche Regelungen der KI-Verordnung Sie überhaupt betreffen. 
• Verständnis über Ihre Rolle: Sind Sie Nutzer und damit Betreiber oder lassen Sie durch einen externen Dienstleister eine KI für Ihr Unternehmen entwickeln und sind damit Entwickler und gleichzeitig Betreiber? 
• Klassifizierung der KI-Systeme: Ordnen Sie die von Ihnen verwendeten KI-Systeme bestmöglich den Kategorien (minimales, geringes, hohes Risiko) der KI-VO zu. Falls Sie vermuten oder erkennen, dass Sie KI-Systeme verwenden, die zukünftig als Hochrisiko-KI-Systeme eingestuft werden, sollten Sie diese gesondert bearbeiten, da hier absehbar umfangreiche Pflichten auf Sie zukommen. 
• Intern Knowhow und Bewusstsein schaffen: Machen Sie sich über die gesamte Organisation gemeinsam fit (Schulungen, Workshops) und bieten Sie einen Rahmen für die Nutzung der KI an (z.B. Guidelines, Anweisungen). Dies ist nicht nur ein „nice-to-have“, sondern wird zum „must-have“ nach Art. 4 KI-VO.    
• Kennzeichnungspflichten für KI-generierte Inhalte erkennen und festlegen: Erstellen oder planen Sie, redaktionelle Inhalte und Texte nur noch über die KI erstellen zu lassen und sind diese für die Öffentlichkeit bestimmt, um über Angelegenheiten von öffentlichem Interesse zu informieren? Dann müssen Sie Art. 50 KI-VO beachten.  
• KI-Botschafter oder Verantwortlichen einsetzen: Je nach Umfang des KI-Einsatzes kann es sinnvoll sein, eine verantwortliche Stelle für die genutzten KI-Systeme einzurichten, um die Compliance mit den verbundenen Verpflichtungen nachzuhalten. Hier sind Geschäftsführer besonders gefragt und im Fokus, die Organisation nachhaltig weiterzuentwickeln. 
• Datenschutz: Sie müssen im Rahmen des Einsatzes von KI-Systemen den Datenschutz sicherstellen (z.B. Privacy by Design). Darüber hinaus sollten Sie darauf achten, dass das von Ihnen verwendete KI-System auf zuverlässigen und richtigen Daten beruht. 
• Verträge überprüfen und mit Blick auf die KI-VO abschließen und erneuern. 

Die KI-Verordnung besteht aus 180 Erwägungsgründen, 113 Artikeln und dreizehn Anhängen. Es gibt viele neu definierte Begriffe, wie etwa „Deepfakes“ oder GPAI (General Purpose AI Models). Die Erwägungsgründe geben weitere Hintergrundinformationen zu den Artikeln (gesetzgeberischen Motivation) und sollen deren Anwendung in der Praxis erleichtern. Die KI-VO (AI-Act) folgt dem Regelungskonzept des (EU-) Produktsicherheitsrechts und ergänzt und harmonisiert Gesetze dort, wo das digitale Zeitalter nicht abschließend abgebildet war, etwa der Verordnung über die allgemeine Produktsicherheit (GPSR). Hier trifft KI-spezifisches Produktrecht auf Bereiche wie Industrieanwendungen, Optimierung von Lieferketten und der Produktion (z.B. Maschinen mit selbst entwickelnder Logik) oder den Gesundheitssektor (z.B. Diagnosen). Es werden Brücken zu Gesetzen wie dem Produktsicherheitsgesetz (ProdSG/GPSR) oder der Datenschutzgrundverordnung (DSGVO) geschlagen. Das Urheberrecht spielt ebenso eine Rolle (Transparenz der Datenquelle). Die Strahlwirkung der KI-VO wird sich über die Zeit entfalten und darf nun dem Praxistest unterzogen werden.

Die gibt es und es werden viele weitere über die Zeit folgen. Wir stellen Ihnen einige ausgewählte Links zur Verfügung. Aber auch hier ist es wichtig, den Überblick zu behalten. Welches Ziel und in welcher Rolle verfolgen Sie genau? Was möchten Sie mit der Checkliste genau abarbeiten? Bei besonderen Bedarfen können Sie uns gerne gesondert ansprechen.