Im Mai 2024 wurde die KI-Verordnung (AI Act) von den EU-Mitgliedsstaaten verabschiedet. Der Rechtsakt soll den Einsatz und die Nutzung von Künstlicher Intelligenz regeln. 

Was viele nicht wissen: Einige Regelungen werden bereits vor der Übergangszeit bis August 2026 wirksam. Welche das sind und weshalb Unternehmen jetzt dringend aktiv werden müssen, darüber haben wir mit dem IT-Recht-Spezialisten Rechtsanwalt Dr. Jens Eckhardt gesprochen.

DDV: Das Thema KI-Verordnung ist in aller Munde, aber sie gilt erst nach 24 Monaten. Gibt es dennoch jetzt schon Pflichten?

RA Dr. Jens Eckhardt: Ja, denn die ersten Regelungen gelten bereits ab Februar 2025 – also in weniger als 6 Monaten. Das ist die sog. KI-Kompetenz (Art. 4 AI Act) und die Verbotenen Praktiken (Art. 5 AI Act).

DDV: KI Kompetenz – was bedeutet das?

RA Dr. Jens Eckhardt: Die KI-Verordnung sieht in Art. 4 AI Act vor, dass jeder Mitarbeitende eines Unternehmens, der KI-System nutzt, über die in der KI-Verordnung definierte Kompetenz verfügen muss. Vereinfacht gesagt: Kenntnis zum Funktionieren von KI, den Risiken des Einsatzes von KI sowie des Rechtsrahmens zur Nutzung von KI-Systemen haben muss. Um es deutlich zu sagen: Jeder Nutzer von KI – nicht nur bei einer Hochrisiko-KI oder einer Deepfakes erstellenden KI – muss über die KI-Kompetenz verfügen. 

DDV: Ist damit der KI-Beauftragte im Unternehmen gemeint?

RA Dr. Jens Eckhardt: Nein. Diese Pflicht zur KI-Kompetenz gilt für jeden Mitarbeitenden und nicht nur für eine speziell als „KI-Beauftragter“ bzw. „KI-Beauftragte“ ausgesuchte Person. Die KI-Verordnung will, dass jeder – wirklich jeder –, der ein KI-System nutzt, sich über die Risiken und Rahmenbedingungen bewusst ist.

DDV: Was passiert, wenn Unternehmen dem nicht nachkommen und KI-Kompetenz in der Belegschaft fehlt?

RA Dr. Jens Eckhardt:  Es liegt zumindest mal ein Rechtsverstoß vor. Der Einsatz von KI-System birgt – auch wenn ich das Wort nicht mag - Risiken für jedes Unternehmen. Denken Sie an Urheberrechtsverletzungen (einschließlich fehlendem Urheberrechtsschutz in Bezug auf Arbeitsergebnisse), Verrat von Geschäftsgeheimnissen, Datenschutzverstößen. Daher sollte jedes Unternehmen schon aus Eigeninteresse bei seinen Mitarbeitenden und die für das Unternehmen tätigen Dienstleister für KI-Kompetenz sorgen. Aber – das lehrt uns die DS-GVO – es muss auch mit Schadensersatzansprüchen betroffener Personen gerechnet werden. Wenn sich nicht nachweisen lässt, dass die handelnden Personen über die gesetzlich verpflichtende KI-Kompetenz verfügen, haben wir ein „Einfalltor“ für Schadensersatzansprüche. Sanktionen seitens der Aufsichtsbehörden sind natürlich auch nicht ausgeschlossen.

DDV: Handlungsgebot der Stunde ist es also, die Beschäftigten in Sachen KI fit zu machen? 

RA Dr. Jens Eckhardt: Ja, denn es handelt sich um eine gesetzliche Pflicht. Sie lässt sich aber auch positiv verstehen als Apell, sich – auch im Eigeninteresse – um die KI-Kompetenz der Mitarbeitenden zu kümmern. Denn die Technologie hat Potential, birgt aber auch Herausforderung. Wenn das Kind erst einmal aus Unerfahrenheit in den Brunnen gefallen ist, dann lässt sich das nur noch begrenzt retten. Die neue Basisschulung KI-Kompetenz des DDV ist bestens für Unternehmen geeignet, um den gesetzlichen Pflichten nachzukommen. Sie vermittelt den Teilnehmenden das notwendige Basis-Wissen zum Einsatz von KI-Systemen und den Rechtsrahmen.

DDV: Vielen Dank für das Gespräch.

Melden Sie sich und Ihr Team jetzt zur nächsten Basisschulung KI-Kompetenz am 28. November 2024 von 10.00 Uhr bis 12.45 Uhr an. Die Schulung erfolgt per Webkonferenz.