KI-Kompetenz für Beschäftigte

In unserem letzten Blogbeitrag haben wir uns mit den Risikoeinstufungen von KI-Systemen beschäftigt. Unabhängig von einer konkreten Risikoeinstufung eines KI-Systems, verlangt die KI-Verordnung (KI-VO) beim Einsatz von KI-Systemen grundsätzlich, dass die Beschäftigten, die diese KI-Systeme nutzen (oder ggf. sogar entwickeln), über eine dafür erforderliche Kompetenz verfügen. Damit ist Art. 4 KI-VO eine der wenigen Vorschriften aus der KI-VO, die für alle KI-Systeme gilt.

KI-Kompetenz für alle KI-Systeme erforderlich

Konkret verlangt Art. 4 KI-VO:

„Die Anbieter und Betreiber ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen […].“ (Hervorhebung nicht im Original)

Doch was bedeutet „ausreichendes Maß an KI-Kompetenz“?

Nach Art. 3 Nr. 56 KI-VO umfasst die KI-Kompetenz „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ (Hervorhebungen nicht im Original)

Schulungsinhalte

Aus dieser Definition lässt sich ableiten, der Fokus der KI-Kompetenz liegt auf der Vermittlung eines Grundverständnisses für das entsprechende KI-System und die mit dem konkreten KI-System einhergehenden Risiken. Die KI-Kompetenz soll dazu beitragen, dass das KI-System möglichst sachkundig eingesetzt wird. Die Europäische Kommission hat in einem FAQ zu der Auslegung dieser KI-Kompetenz ebenfalls darauf abgestellt, dass die KI-Kompetenz ein grundlegendes Verständnis von KI und insbesondere auch in Bezug auf die in der Organisation eingesetzten KI-Systeme voraussetzt. Auch hat die Kommission dabei auf den Risikoaspekt abgestellt, also welche Risiken die Nutzung des KI-Systems beinhalten kann. Gleichzeitig betont die Europäische Kommission, dass rechtliche und ethische Aspekte zu vermitteln seien. Insbesondere sollte entsprechend auch ein Verständnis der KI-Verordnung und deren Bedeutung für die im Unternehmen eingesetzten KI-Systeme bestehen.

Bei der Herstellung einer KI-Kompetenz sollte berücksichtigt werden, welchen Wissensstand die Beschäftigten bereits haben und in welchem konkreten Kontext diese KI-Systeme nutzen. Beispielweise wird man Entwicklern von KI-Systemen nicht mehr technisches Grundlagenwissen vermitteln müssen. Dennoch ist auch bei diesem Personenkreis nicht allein durch ihre Funktion garantiert, dass sie bereits über die rechtlichen und ethischen Aspekte ausreichend Bescheid wissen. Dabei ist aber zu betonen, dass nicht alle Beschäftigten ein ganzheitliches Verständnis aller relevanten Aspekte für jedes genutzte KI-System haben müssen, aber alle Aspekte, die die individuelle Nutzung des KI-Systems betreffen, bekannt sein sollten.

Schulungsformen

Wie eine ausreichende KI-Kompetenz hergestellt wird, kann sich entsprechend je nach Person und KI-System unterscheiden. Sofern keine KI-Systeme im Hochrisikobereich eingesetzt werden oder der KI-Einsatz aus sonstigen Gründen mit besonderen Risiken verbunden ist, reicht zur Herstellung der KI-Kompetenz häufig eine allgemeine Grundlagenschulung, die grundsätzliche Risiken von KI-Systemen thematisiert und auf grundlegende rechtliche und ethische Aspekte eingeht. Es ist zwar nicht zwingend vorgegeben, dass Schulungen getätigt werden müssen, es muss aber sichergestellt werden, dass das entsprechend notwendige Wissen in einer angemessenen Form übermittelt wird. Dafür stellen Schulungen eine sinnvolle Lösung dar. Relativ unkompliziert können Schulungen über eLearnings erfolgen. Über unser eLearning-System DSN train bieten wir Ihnen ein entsprechenden Grundkurs KI-Kompetenz an. Als Nutzer des Moduls Datenschutz (BR) haben sie die Möglichkeit sich diesen Grundkurs über den dsn Train Showroom in einer Demoversion anzuschauen.

Relevanz der KI-Kompetenz

Die Herstellung von KI-Kompetenz bei den Beschäftigten sollte ernst genommen werden, denn sofern Beschäftigte aufgrund fehlender Kenntnisse KI-Systeme rechtswidrig nutzen, kann dies dem Unternehmen zugerechnet werden – Schulungen können entsprechend Haftungsrisiken mindern! Zudem können Schulungen dazu beitragen, dass KI-Systeme sinnvoll und rechtskonform eingesetzt werden und davon profitieren letztlich alle Seiten!

Wie bei anderen Schulungsmaßnahmen, ist der Betriebsrat nach § 98 BetrVG an einem möglichen Schulungskonzept zu beteiligen. Nach § 96 BetrVG kann der Betriebsrat dahingehend auch Vorschläge unterbreiten.

Fazit

Wenn Sie als Betriebsrat wissen, dass KI-Systeme genutzt oder eingeführt werden sollen und diese entsprechend ihrem Risiko klassifiziert worden sind, sollte ihre zweite Frage lauten: Inwieweit wird sichergestellt, dass die Beschäftigten über eine ausreichende KI-Kompetenz verfügen? Nur wenn eine ausreichende Kompetenz vorhanden ist, ist sichergestellt, dass ein verantwortungsbewusster Umgang mit KI-Systemen erfolgen kann. Für Betriebsräte sollte dies von besonderem Interesse sein, da bei der Nutzung von KI-Systemen fast immer auch die Daten von Beschäftigten verarbeitet werden.

Im nächsten Beitrag widmen wir uns dem Thema Informationspflichten des Arbeitgebers im Zusammenhang mit KI gegenüber dem Betriebsrat.