Der aktuelle regulative Rahmen (KI-Verordnung der EU) erfordert keine eigenständige KI-Beauftragtenfunktion. Folgerichtig gibt es auch keine Regelungen zur organisatorischen Ansiedelung, Kompetenzanforderung u.a.m. Dennoch ist es sinnvoll, einen KI-Beauftragten für das Unternehmen zu ernennen, damit dieser Schulungsmaßnahmen koordinieren, Fragen zu KI-Projekten und den Umgang mit KI-Systemen im Unternehmen klären, aber auch die Einhaltung von KI-Standards überwachen kann.
Mit der KI-Verordnung (KI-VO) ist aber ein erstes regulatives Rahmenwerk geschaffen und (in Teilen) bereits in Kraft getreten, welches dem Nutzer von KI-Anwendungen/Produkten (oder Modellen) verpflichtende Aktivitäten vor einem Einsatz von Anwendungen/Produkten vorschreibt und ggf.sanktioniert, wenn diese Vorgaben nicht eingehalten werden.

Derjenige, der KI-Produkte nutzt und damit im Sinne der KI-VO als Betreiber oder Anbieter eines KI-Systems gilt, braucht folglich neben der technischen Kompetenz zur Entwicklung von KI-Produkten (oder Modellen) auch eine regulative Kompetenz zu deren Einsatz. Diese Kompetenz ist stark juristisch geprägt und benötigt neben einem technischen Verständnis insbesondere intime Kenntnisse der Regulatorik – auch über die KI-VO hinaus (etwa Datenschutz, Urheberrecht, IT-Recht, Staats- und Verwaltungsrecht u.a.m.).

Banken, die etwa die CoPilot Funktionen von Microsoft einsetzen, sind Betreiber von KI-Produkten und unterliegen damit den Regelungen und Vorgaben der KI-VO. So müssen diese Banken ab 2025 nach Art. 4 der KI-VO Kompetenzschulungen verpflichtend umsetzen. Dies ist aber nur die erste Verpflichtung, der sich Betreiber von KI-Produkten gegenübersehen. Andere Pflichten kommen dazu, insbesondere wenn weitere KI-Produkte entwickelt und in den Verkehr gebracht werden.
So gilt wegen des hohen Spezialisierungsgrades dieser Funktion schon heute, dass Betreiber von KI-Produkten sich diese Kompetenz aufbauen oder ggf. dazukaufen. Letzteres erscheint derzeit wegen der hohen Anforderungen und des noch begrenzten Einsatzes zielführend.

Wir werden häufig gefragt, ob wir den Banken eine solche Kompetenz zur Verfügung stellen kann. Dies ist zu bejahen. Wir haben unsere Mitarbeitenden bereits als KI-Beauftragte ausbilden lassen und können die Banken beratend oder auch als KI-Beauftragte(r) im Wege der Auslagerung unterstützen.

Kern der Unterstützungsleistung ist die Bestandsaufnahme der verwendeten KI-Produkte, deren Risikobewertung und ggf. die Entwicklung von technischen und organisatorischen Maßnahmen zur Risikoabwehr sowie die Entwicklung und Umsetzung von Schulungskonzepten nach Art. 4 der KI-VO.

• IKT-Risikomanagement
• Management IKT-bezogene Vorfälle
• Testen der digitalen operationalen Resilienz
• IKT-Drittparteien-Risikomanagement