KI-Verordnung der EU: Regeln & Pflichten im Überblick

Inhaltsverzeichnis

1. 1. Was ist die KI-Verordnung? 
      
   2. Warum werden Regeln für KI benötigt? 
      
   3. Was ist die Definition von KI im AI-Act? 
      
   4. Ab wann gilt die KI-Verordnung? 
      
   5. Anwendungsbereich: Wer ist vom AI-Act betroffen? 
      
   6. Für wen gilt die KI-Verordnung nicht? 
      
   7. Was regelt die KI-Verordnung? 
      
   8. Was sollten Unternehmen jetzt tun? 
      
   9. Häufig gestellte Fragen  
      
      

Was ist die KI-Verordnung? 

Die KI-Verordnung (AI-Act) ist ein umfassender Rechtsrahmen der Europäischen Union zur Regulierung von Künstlicher Intelligenz. 

Sie soll sicherstellen, dass KI-Systeme in der EU verantwortungsvoll entwickelt und genutzt werden. 

Ziel der weltweit ersten gesetzlichen Regelung für Künstliche Intelligenz ist es, eine menschenzentrierte KI zu fördern und gleichzeitig Gesundheit, Sicherheit, Grundrechte und demokratische Werte zu schützen. 

Warum werden Regeln für KI benötigt? 

Künstliche Intelligenz kann potenzielle Risiken für Menschen bergen. Um Gefahren wie Diskriminierung, Datenschutzverletzungen oder Sicherheitsprobleme zu vermeiden und gleichzeitig das Vertrauen in KI-Systeme zu fördern, ist eine Regulierung von KI notwendig. 

Die KI-Verordnung sorgt dafür, dass die Entwicklung und der Einsatz von KI verantwortungsbewusst erfolgt. Dies schützt die Privatsphäre und Rechte der Nutzer:innen und fördert einen sicheren Umgang mit Künstlicher Intelligenz.  

Was ist die Definition von KI im AI-Act? 

In der KI-Verordnung wird der Begriff „KI-System“ verwendet, um Künstliche Intelligenz zu definieren (Artikel 3 KI-VO). 

Demnach ist ein KI-System ein maschinengestütztes System, das 

        mit unterschiedlichem Maß an Autonomie betrieben werden kann, 

        sich nach seiner Einführung anpassen kann, und 

        auf Basis von den erhaltenen Eingaben bestimmte Ergebnisse wie Vorhersagen, Empfehlungen, Inhalte oder Entscheidungen erzeugt, die physische oder virtuelle Umgebungen beeinflussen können. 

Ab wann gilt die KI-Verordnung? 

Der AI-Act ist am 1. August 2024 in Kraft getreten und wird grundsätzlich ab dem 2. August 2026 in vollem Umfang anwendbar sein. 

Allerdings gibt es einige Vorschriften aus der Verordnung, für die Ausnahmen gelten: 

• 2. Februar 2025: Verbotene KI-Systeme nach Artikel 5 KI-VO sind nicht mehr erlaubt. Mitarbeiter:innen müssen über die im entsprechenden Unternehmen eingesetzten KI-Systeme geschult werden („KI-Kompetenz“ in Artikel 4 KI-VO). 

• 2. August 2025: Die Verpflichtungen für KI-Modelle mit allgemeinem Verwendungszweck treten in Kraft. 

• 2. August 2027: Die Vorgaben und Pflichten für Hochrisiko-KI-Systeme nach Anhang I werden anwendbar. 

Anwendungsbereich: Wer ist vom AI-Act betroffen? 

Für wen gilt die KI-Verordnung? 

Grundsätzlich betrifft der AI-Act eine Vielzahl von Akteur:innen innerhalb der EU, die an der Entwicklung, dem Einsatz oder der Nutzung von KI-Systemen beteiligt sind. 

Zusätzlich dazu greift die Verordnung auch für agierende Personen außerhalb der EU, sofern ihre KI-Systeme in der EU verwendet werden. 

Laut Artikel 2 der KI-Verordnung sind insbesondere folgende Gruppen betroffen: 

• Anbieter: Einzelpersonen, Unternehmen oder Behörden, die ein KI-System entwickeln und in Verkehr bringen 

• Betreiber: Agierende, die KI-Systeme in eigener Verantwortung verwenden (Ausnahme: Private und nicht berufliche Nutzung) 

• Einführer und Händler: Unternehmen, die KI-Systeme aus Nicht-EU-Staaten importieren oder innerhalb der EU vertreiben 

• Produkthersteller: Akteur:innen, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen 

• Bevollmächtigte: Vertreter von Anbietern eines KI-Systems, die nicht in der EU ansässig sind 

Für wen gilt die KI-Verordnung nicht? 

Folgende Bereiche sind vom AI-Act ausgenommen: 

• KI-Systeme für ausschließlich militärische bzw. Verteidigungszwecke 

• Internationale Organisationen, die KI-Systeme im Bereich der Strafverfolgung in Zusammenarbeit mit der EU oder EU-Mitgliedsstaaten verwenden 

• KI-Systeme, die für die wissenschaftliche Forschung und Entwicklung in Betrieb genommen werden 

• Natürliche Personen, die KI-Systeme ausschließlich für persönliche und nicht berufliche Tätigkeiten nutzen 

• KI-Systeme, die unter freien und quelloffenen Lizenzen (Open-Source-Software) bereitgestellt werden 

Was regelt die KI-Verordnung? 

Die KI-Verordnung folgt einem risikobasierten Ansatz und teilt KI-Systeme in vier Risikostufen ein. Je nach Klassifizierung gelten unterschiedliche rechtliche Anforderungen und Pflichten. 

Inakzeptables Risiko 

KI-Systeme, die als inakzeptabel eingestuft werden, verletzen europäische Werte und stellen eine Bedrohung für die Sicherheit sowie Rechte der Menschen dar. 

Sie sind nach dem KI-Gesetz daher vollständig verboten. 

Zu diesen verbotenen KI-Praktiken gehören zum Beispiel: 

• Systeme zur sozialen Bewertung von Personen (Social Scoring) 

• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen 

• Manipulative oder täuschende Techniken, die das Verhalten von Menschen beeinflussen und zu schädlichen Entscheidungen führen können 

Die vollständige Auflistung finden Sie in Artikel 5 KI-VO. 

Hohes Risiko 

Hochrisiko-KI-Systeme unterliegen strengen Vorschriften, da ihr Einsatz erhebliche Auswirkungen auf die Sicherheit, Gesundheit oder Grundrechte einzelner Personen haben kann. 

Diese Systeme müssen Prüfverfahren durchlaufen sowie Anforderungen an Transparenz, Überwachung und Dokumentation erfüllen. 

Dazu gehören zum Beispiel folgende Anwendungsbereiche: 

• Systeme, die als Sicherheitsbauteile in bestimmten kritischen Infrastrukturen eingesetzt werden (z.B. im Verkehr) 

• Beurteilung von Bewerber:innen und Beschäftigten 

• Bewertung der Kreditwürdigkeit 

Die vollständige Auflistung finden Sie in Artikel 6 KI-VO bzw. Anhang III KI-VO. 

Begrenztes Risiko 

Zur Kategorie „Begrenztes Risiko“ gehören jene KI-Systeme, die direkt mit Menschen interagieren oder Inhalte generieren. Für diese Anwendungen gelten besondere Transparenzpflichten. 

Das bedeutet: Nutzer:innen müssen darüber informiert werden, dass sie mit einer Künstlichen Intelligenz interagieren. 

Beispiele für KI-Systeme mit begrenztem Risiko sind: 

• Chatbots 

• Deepfakes 

• KI-generierte Inhalte (Audio, Bild, Video oder Text) 

Weitere Informationen zu den Transparenzpflichten finden Sie in Artikel 50 KI-VO. 

Minimales oder kein Risiko 

Im AI-Act gibt es keine Regulierungen für KI-Systeme mit geringem oder keinem Risiko. Dazu gehören Anwendungen wie Spamfilter oder KI-gestützte Videospiele. 

Auch wenn diese KI-Systeme keinen gesetzlichen Verpflichtungen unterliegen, können entsprechende Unternehmen freiwillig Verhaltenskodizes anwenden. 

KI mit allgemeinem Verwendungszweck 

Die KI-Verordnung sieht außerdem spezifische Regelungen für KI-Modelle mit allgemeinem Verwendungszweck vor. Ein Beispiel für diese General Purpose AI (GPAI) ist das Programm ChatGPT. 

GPAI-Systeme können für vielfältige Aufgaben genutzt und somit je nach Anwendung in den verschiedenen Risikoklassen eingesetzt werden. 

Nach dem KI-Gesetz müssen alle GPAI-Modelle bestimmte Anforderungen erfüllen, was z.B. Transparenzpflichten betrifft. Für GPAI-Systeme, die Fähigkeiten mit hohem Wirkungsgrad besitzen und systemische Risiken bergen können, gelten zusätzliche Vorschriften. 

Alle Regeln zu KI-Modellen mit allgemeinem Verwendungszweck finden Sie in Artikel 51-56 KI-VO. 

Was sollten Unternehmen jetzt tun? 

Damit Sie KI sicher und gewinnbringend in Ihrem Unternehmen nutzen und rechtliche Risiken vermeiden, sollten Sie sich frühzeitig mit den Regelungen der KI-Verordnung auseinandersetzen. 

Hier finden Sie einige Tipps, die Ihnen dabei helfen können: 

     Schulen Sie Ihre Mitarbeiter:innen 

Bevor Sie KI im Unternehmen einführen, müssen Sie Ihr Personal entsprechend schulen. Dabei handelt es sich jedoch um mehr als eine reine Empfehlung. Denn: Nach Artikel 4 KI-VO („KI-Kompetenz“) müssen Mitarbeitende entsprechende Kenntnisse für den Umgang mit den im Unternehmen eingesetzten KI-Tools haben. 

     Dokumentieren Sie die Schulungen zur KI-Kompetenz 

Erfassen Sie systematisch, welche Mitarbeitenden an welchen KI-Schulungen teilgenommen haben. Halten Sie Inhalte, Zeitpunkte, Anbietende der Schulungen sowie eine Liste der Teilnehmer:innen fest, um den Erwerb der notwendigen KI-Kenntnisse nachweisen zu können. 

     Definieren Sie Verantwortlichkeiten 

Bestimmen Sie eine verantwortliche Person oder ein Team für sämtliche Angelegenheiten im Unternehmen rund um Künstliche Intelligenz. Dies kann z.B. ein:e KI-Manager:in sein. 

     Legen Sie interne KI-Richtlinien fest 

Erstellen Sie Regeln für den Umgang, die Nutzung und die Integration von KI im Unternehmen (z.B. Umgang mit vertraulichen Informationen in KI-Anwendungen). Vorhandene Leitfäden können Ihnen dabei helfen, wie die KI-Guidelines für KMU der WKO. 

     Entscheiden Sie, wie Sie KI in Ihrem Unternehmen nutzen wollen 

Überlegen Sie, welche Bereiche Ihres Unternehmens durch KI profitieren können und welche Anwendungen für Ihre Geschäftsprozesse sinnvoll sind. Gleichzeitig sollten Sie sicherstellen, dass die notwendigen Kompetenzen für den rechtskonformen Einsatz im Sinne des AI-Acts vorhanden sind. 

     Wählen Sie KI-Tools sorgfältig aus 

Nicht jede KI-Anwendung ist für Ihr Unternehmen geeignet. Vergleichen Sie verschiedene Lösungen und prüfen Sie, wie diese mit Ihren betrieblichen Anforderungen übereinstimmen. 

     Nutzen Sie Weiterbildungsangebote 

Um Ihr KI-Wissen aufzubauen oder zu vertiefen, können entsprechende Schulungen oder Lehrgänge hilfreich sein. 

Häufig gestellte Fragen 

Wer ist für die Durchsetzung des AI-Acts zuständig? 

Die Durchsetzung der KI-Verordnung erfolgt auf zwei Ebenen: Nationale Aufsichtsbehörden werden für die Überwachung und Umsetzung innerhalb der einzelnen EU-Länder zuständig sein. Das Europäische Amt für Künstliche Intelligenz innerhalb der Europäischen Kommission wird die Durchsetzung der Vorschriften auf EU-Ebene überwachen. 

Welche Sanktionen drohen bei Verstößen gegen die KI-Verordnung? 

Bei Verstößen gegen das KI-Gesetz drohen hohe Bußgelder, die sich nach der Schwere des Verstoßes und der Größe des betroffenen Unternehmens richten. Diese starten bei 7,5 Millionen Euro oder 1,5% des weltweiten Jahresumsatzes eines Unternehmens und können bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes betragen. KMUs und Start-ups erhalten eine Bußgeldmilderung. 

Wo finde ich weiterführende Quellen oder Informationen? 

             Finaler Entwurf der KI-Verordnung auf der offiziellen Website der EU 

            KI-Servicestelle von RTR mit einem umfassenden Informationsangebot rund um Künstliche Intelligenz 

            AI Conformity Tool vom Europäischen Innovations- und Technologieinstitut zur Überprüfung der                         

                  Risikoklasse Ihrer KI-Anwendung 

            Ethik-Leitlinien für vertrauenswürdige KI der EU