Künstliche Intelligenz | eLearning
Warum kompetent sein muss, wer KI nutzen möchte
Künstliche Intelligenz (KI) ist keine Sciencefiction mehr, sondern längst zu einem festen Bestandteil unseres Lebens und unserer Arbeitswelt geworden. Während sich die Vorteile der neuen Technologie in der Regel schnell offenbaren, sind ihre Unzulänglichkeiten und Risiken oft nicht so leicht zu erkennen.
Keine Frage, KI hat das Potential unser Leben zu revolutionieren. Das gilt jedoch nicht nur im positiven, sondern auch im negativen Sinne: Was in den richtigen Händen ein mächtiges Werkzeug ist, kann in den falschen Händen eine gefährliche Waffe sein. Man wäre naiv, würde man nicht davon ausgehen, dass die KI auch das Portfolio von Kriminellen und Terroristen mit neuen Möglichkeiten bereichert.
Doch auch wenn Sie nur Gutes im Schilde führen, können Sie großen Schaden anrichten, wenn Sie KI-Systeme falsch oder unbedacht nutzen. Schon eine unüberlegte Eingabe (Prompt) kann eine meldepflichtige Datenpanne oder einen Compliance-Verstoß zur Folge haben. Damit Ihnen das nicht passiert, müssen Sie wissen, wie das KI-System arbeitet und wo Gefahren lauern: Was geschieht mit Ihren Eingaben? Verschwinden die in einer Blackbox, so dass Dritte sie nicht zur Kenntnis nehmen können oder sind sie Teil der Trainingsdaten, mit denen sich das System laufend optimiert? Kann der Anbieter am anderen Ende vielleicht sogar mitlesen und dürfen Sie trotzdem davon ausgehen, dass er die Informationen in Ihrem Sinne nutzt? Sind die Ausgaben des Systems frei von Fehlern und ist sichergestellt, dass sie nicht gegen Rechte Dritter verstoßen?
Wer KI-Systeme sicher nutzen möchte, sollte auf diese und ähnliche Fragen eine Antwort wissen. Organisationen, die den Einsatz von KI-Systemen am Arbeitsplatz gestatten, müssen deshalb sicherstellen, dass alle Anwenderinnen und Anwender die dafür erforderliche Kompetenz besitzen. So sieht es auch Art. 4 der europäischen KI-Verordnung vor (auch KI-VO oder AI-Act):
Art. 4 KI-VO KI-Kompetenz
Die Anbieter und Betreiber von KI Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI Systemen befasst sind, über ein ausreichendes Maß an KI Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI Systeme eingesetzt werden sollen, zu berücksichtigen sind.
Damit stellt die EU unmissverständlich klar, dass Organisationen ihre Mitarbeitenden erst dann auf die KI loslassen dürfen, wenn sie vorab angemessen geschult worden sind. Und damit Sie das im Fall der Fälle auch belegen können, empfehlen wir Ihnen, die Schulungsmaßnahmen sorgfältig zu dokumentieren. Die Schulungspflicht nach der KI-Verordnung gilt ab dem 02.02.2025 verbindlich in allen Mitgliedsstaaten der EU. Höchste Zeit also, dass europäische Organisationen, das Thema „KI-Kompetenz“ in ihre Schulungskonzepte mit aufnehmen.
Sie suchen einen einfachen Weg, um Ihre Pflichten nach Art. 4 KI-VO zu erfüllen? Dann empfehlen wir Ihnen diese Kursmodule:
Sprechen Sie uns gerne an. Wir unterstützen Sie gerne!