Nach gut drei Jahren der Verhandlungen haben sich das EU-Parlament und der Rat über Regeln zum Umgang mit künstlicher Intelligenz (KI) geeinigt. Mitte Juli 2024 wurde die EU-Verordnung 2024/1689 über künstliche Intelligenz (AI Act) veröffentlicht. Die einzelnen Bestimmungen des Rechtsaktes treten nun stufenweise in Kraft und betreffen auch Textilreinigungen, Wäschereien und Textilserviceunternehmen:
Der AI Act der EU ist damit weltweit der erste Rechtsakt, der konkrete Regelungen für den Einsatz von künstlicher Intelligenz (KI) enthält. Die wichtigsten Bestimmungen des Rechtsaktes für Unternehmen auf einen Blick:
- Seit 2.2.2025 gelten die Regelungen für verbotene KI-Systeme, deren Nutzung eingestellt werden muss.
- Seit 2.2.2025 sollen Mitarbeiter über die im Unternehmen eingesetzten KI-Systeme nachweislich geschult werden.
- Ab 2.8.2026 gelten die übrigen Verpflichtungen des AI Act (z.B. Transparenzpflichten für generative KI-Systeme).
- Für Hochrisiko-KI-Systeme ist eine verlängerte Übergangsfrist von 36 Monaten vorgesehen.
KI-Anwendungen werden grundsätzlich unterschiedlichen Risiko-Kategorien zugeordnet- von "minimal" über "hoch" bis "inakzeptabel". Je nach Einstufung haben die Anbieter bestimmte Sicherheits- und Transparenz-Anforderungen einzuhalten.
Anbieter von KI-Programmen, die potenziell Gesundheit, Sicherheit, Bürgerrechte, Umwelt, Demokratie, Wahlen und Rechtsstaatlichkeit gefährden, müssen für eine Zulassung eine Reihe von Auflagen erfüllen. Dazu zählt u.a. eine Analyse, welche Folgen die Anwendung für die Grundrechte verursachen könnte.
KI, die als weniger riskant betrachtet wird, unterliegt vor allem Transparenzregeln. Dabei müssen von KI-Programmen erstellte Inhalte als solche gekennzeichnet werden, damit Nutzer selbst entscheiden können, wie sie mit diesen umgehen wollen.
KI-Nutzung durch Behörden in der Strafverfolgung
Behörden sind ermächtigt, biometrische Echtzeit-Erkennung im öffentlichen Raum zu nutzen, um Opfer von Entführungen, von Menschenhandel und von sexueller Gewalt zu identifizieren sowie eine konkrete und unmittelbare Terrorismus-Gefahr abzuwehren. KI darf zudem bei der Fahndung nach Personen eingesetzt werden, die terroristischer Straftaten, anderer Kapitalverbrechen, der Mitgliedschaft in einer kriminellen Vereinigung oder der Umweltkriminalität verdächtigt werden.
Verbote bestimmter KI-Anwendungen
Eine Reihe von KI-Anwendungen werden vom AI Act verboten. Dazu gehören biometrische Kategorisierungssysteme, die sensible Merkmale wie politische oder religiöse Überzeugungen, sexuelle Orientierung oder ethnische Zugehörigkeit nutzen. Nicht zulässig ist außerdem ein ungezieltes Durchsuchen des Internets oder von Aufnahmen von Überwachungsanlagen zur Erstellung von Gesichtsdatenbanken.
KI darf auch nicht zur Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen eingesetzt werden. Programme zur Manipulation von menschlichem Verhalten sind ebenso verboten wie Anwendungen, die Schwächen von Menschen aufgrund Alter, Behinderung, sozialer oder wirtschaftlicher Situation ausnutzen. Schließlich darf KI auch nicht zur Erstellung eines Benotungssystems für soziales oder persönliches Verhalten ("Social Scoring") verwendet werden.
Generative KI und allgemein einsetzbare KI Systeme
Allgemein einsetzbare KI Systeme (General Purpose AI Systems bzw. kurz: GPAIS) sind eine Kategorie, die für die recht neue generative KI eingeführt wurde. Dazu zählen Programme wie z.B. ChatGPT, die unter anderem anhand weniger Stichworte komplette Texte oder Bilder erstellen und in unterschiedlichen Anwendungsbereichen eingesetzt werden können.
Die Anbieter von allgemein einsetzbarer KI (GPAIS) müssen allen voran die Transparenzpflichten erfüllen. Dazu zählt insbesondere eine detaillierte technische Dokumentation und Informationen über die Daten, die für das Training der KI genutzt wurden. Sie müssen sicherstellen, dass die Vorgaben des EU-Urheberrechts eingehalten werden.
Für Unternehmen geltende Regeln ab 2025
Die für viele Unternehmen wichtigste Regelung ab Februar 2025 ist neben dem Verbot inakzeptabler KI-Systeme vor allem die Bestimmung, Mitarbeitern entsprechende Kompetenz im Umgang mit den eingesetzten KI-Tools zu vermitteln und sie dementsprechend zu schulen. Die Sicherstellung zum kompetenten Umgang mit KI-Systemen betrifft grundsätzlich auch Vertragspartner und Lieferanten. Die Verordnung selbst enthält keine Konkretisierung dieser Bestimmung und auch keine Strafbestimmungen.
Die österreichische KI-Servicestelle empfiehlt dafür zwei Schritte:
1. Schulung von betroffenen Mitarbeitern und entsprechende Dokumentation.
2. Einführung allgemeiner Regelungen zum Umgang mit KI-Tools.
Jedem Mitgliedstaat obliegt es, eine oder mehrere zuständige nationale Behörden zu ernennen, die das Land im Europäischen Ausschuss für künstliche Intelligenz vertritt bzw. vertreten. Die EU-Kommission wird ein Europäisches KI-Büro einrichten, das KI-Modelle mit allgemeinem Verwendungszweck überwacht.