KI-Mitarbeiterschulung: Pflicht ab Februar 2025

KI-Systeme zur Ausnutzung von Schutzbedürftigen

KI darf nicht dazu eingesetzt werden, Schutzbedürftigen wie Jugendlichen oder Suchtkranken einen Schaden zuzufügen. Denn KI kann diese Zielgruppen durch subtile, unbewusste Manipulation dazu bringen, Entscheidungen zu treffen, die sie sonst nicht treffen würden.

Dies gilt insbesondere in Bereichen wie Online-Werbung, soziale Medien und Gaming, wo Algorithmen gezielt auf die Schwächen dieser Gruppen eingehen können. So könnten etwa personalisierte Inhalte oder gezielt platzierte Kaufanreize dazu führen, dass Jugendliche exzessiv konsumieren oder Suchtkranke in destruktive Verhaltensmuster zurückfallen.

Social Scoring zur Benachteiligung von Personen

KI darf nicht dazu eingesetzt werden, Menschen aufgrund ihrer Herkunft oder sozialen Prägung unfaire Nachteile zu verschaffen. Denn algorithmische Entscheidungssysteme können subtile Vorurteile verstärken und Bewerbergruppen systematisch ausschließen, ohne dass dies auf den ersten Blick ersichtlich ist. Dies gilt insbesondere in Bereichen wie Recruiting, Kreditscoring oder Wohnungssuche, wo KI-basierte Modelle durch voreingenommene Trainingsdaten oder intransparente Bewertungslogiken bestehende Ungleichheiten zementieren können.

Beispielsweise darf ein Unternehmen im Recruiting keine KI-gestützte Bewerbungssoftware einsetzen, die Kandidaten nicht nur anhand ihrer Qualifikationen bewertet, sondern auch aufgrund ihrer sprachlichen Ausdrucksweise und kulturellen Referenzen. Denn dadurch können Bewerber mit Migrationshintergrund oder aus sozial schwächeren Milieus systematisch benachteiligt werden, selbst wenn sie fachlich hervorragend geeignet sind.

Emotionserkennung in Bildungseinrichtungen

KI darf nicht dazu eingesetzt werden, Menschen aufgrund ihrer äußeren Erscheinung oder ihrer vermeintlichen Emotionen zu bewerten. Denn Gesichtsanalyse-Systeme können zu unfairen und diskriminierenden Entscheidungen führen, indem sie Stress, Müdigkeit oder Unaufmerksamkeit fälschlich als mangelnde Arbeitsmoral oder Leistungsbereitschaft interpretieren.

Dies gilt besonders in sensiblen Bereichen wie Bildung oder in der Arbeit, wo fehlerhafte Algorithmen Existenzen gefährden können. Wenn beispielsweise eine KI Schüler aufgrund vermeintlicher Unaufmerksamkeit oder Langeweile schlechter bewertet, kann dies ihre Noten und später ihre Zukunftschancen beeinträchtigen. Außerdem könnte ein introvertierter, aber fachlich hochqualifizierter Mitarbeiter als ungeeignet für Führungsaufgaben eingestuft werden, weil er in Besprechungen weniger gestikuliert oder nicht oft lächelt.

Biometrische Kategorisierung zur Ableitung sensibler Daten

KI darf nicht dazu eingesetzt werden, Menschen anhand biometrischer Merkmale politischen oder ethnischen Gruppen zuzuordnen. Denn solche Systeme bergen die Gefahr, dass Individuen auf Grundlage sensibler Daten unzulässig überwacht, benachteiligt oder in ihrer freien Meinungsbildung beeinflusst werden.

Dies ist dort problematisch, wo der Schutz der Persönlichkeitsrechte und der Datenschutz hohe rechtliche Hürden setzen. So könnten etwa Menschen mit bestimmten Gesichtszügen oder Stimmmerkmalen ungewollt in Kategorien eingeordnet werden, was zu Diskriminierung im Arbeitsmarkt, bei Versicherungen oder in anderen gesellschaftlichen Bereichen führen könnte.

Wer ist zur Schulung verpflichtet, und wer muss geschult werden?

Die Pflicht zur Schulung betrifft sowohl Anbieter als auch Betreiber von KI-Systemen. Anbieter sind jene, die ein KI-System entwickeln und unter ihrem eigenen Namen innerhalb der EU auf den Markt bringen. Betreiber hingegen setzen solche Systeme eigenverantwortlich ein und haben ihren Sitz in der EU.

Zur Zielgruppe der Schulungen gehören alle Personen, die mit KI-Systemen arbeiten oder deren Einsatz überwachen. Dazu zählen festangestellte Mitarbeitende, Führungskräfte, externe Dienstleister sowie Beraterinnen und Berater. Auch Personen, die nur indirekt mit KI-Systemen in Berührung kommen, müssen in bestimmten Fällen geschult werden – insbesondere dann, wenn ihr Einfluss den Einsatz der Systeme maßgeblich beeinflussen kann.

Die Verantwortung für die Durchführung der Schulungen liegt bei den Anbietern und Betreibern. Sie müssen sicherstellen, dass die Schulungen sowohl inhaltlich als auch methodisch angemessen sind. Eine Auslagerung an externe Schulungsanbieter ist zwar möglich, befreit jedoch nicht von der Haftung im Falle mangelhafter Umsetzung.

Welche Schulungsinhalte sind relevant?

KI-Kompetenz entwickelt sich zunehmend zu einer Schlüsselqualifikation und umfasst verschiedene Wissensbereiche:

• Technische Inhalte: Dazu gehören Grundlagen des maschinellen Lernens, das Verständnis von Algorithmen sowie die technische Funktionsweise von KI-Systemen.

• Methodische Kompetenzen: Hierunter fallen die Integration von KI in betriebliche Abläufe sowie die kritische Analyse KI-generierter Ergebnisse.

• Soziale Kompetenzen: Kommunikationsfähigkeiten und Reflexionsvermögen hinsichtlich der gesellschaftlichen Auswirkungen von KI sind essenziell.

• Ethische und rechtliche Aspekte: Mitarbeitende müssen Datenschutzvorgaben kennen, Diskriminierungsrisiken einschätzen und Verzerrungen (Bias) in KI-Entscheidungen erkennen können.

Wie umfangreich müssen Schulungen sein?

Gemäß Artikel 4 der KI-Verordnung müssen Schulungen „nach besten Kräften“ erfolgen und sicherstellen, dass die Teilnehmenden ein „ausreichendes Maß an KI-Kompetenz“ erwerben. Während keine festen Vorgaben zum Umfang existieren, wird eine an die jeweilige Zielgruppe angepasste Schulung erwartet.

Der Inhalt sollte sich nach dem Wissensstand, der Funktion und den spezifischen Aufgaben der Teilnehmenden richten. So benötigt eine IT-Spezialistin eine andere Schulung als eine Führungskraft, ein externer Berater oder ein rein operativer Anwender. Unternehmen sollten daher modulare Schulungskonzepte entwickeln, die sowohl grundlegendes Wissen als auch spezialisierte Themen abdecken.

Außerdem dürfen Arbeitnehmer für eine erforderliche Fortbildung keine Kosten tragen. Die Fortbildung muss während der regulären Arbeitszeit stattfinden. Falls sie außerhalb dieser Zeit erfolgt, wird sie als Arbeitszeit gewertet und entsprechend vergütet oder durch bezahlte Freizeit ausgeglichen, sofern eine betriebliche Regelung dies vorsieht. Da sich die Technologie ständig weiterentwickelt, sollten regelmäßige Auffrischungskurse und Weiterbildungen angeboten werden.

Fazit

Unternehmen sollten sich frühzeitig mit den neuen Anforderungen auseinandersetzen, um sowohl gesetzliche Vorgaben zu erfüllen als auch verantwortungsbewusst mit KI-Technologien umzugehen. Eine fundierte Schulung der Mitarbeiter trägt nicht nur zur Einhaltung der Verordnung bei, sondern minimiert durch eine sichere Nutzung von KI im Unternehmensalltag auch Haftungsrisiken.

Der Autor ist Head of Legal bei Docue.