KI gegen Cybercrime in der genossenschaftlichen FinanzGruppe
Cybercrime zählt zu den größten Bedrohungen für Banken und Finanzdienstleister. Die wirtschaftlichen Schäden gehen jährlich in die Milliarden. Entsprechend entwickelt die Finanzbranche ihre Präventions- und Abwehrstrategien konsequent weiter.
Dabei kommt zunehmend KI zum Einsatz: Sie bietet erhebliche Chancen, Cybercrime zu erkennen und Gegenmaßnahmen zielgerichtet einzuleiten. Typische Einsatzfelder sind
- das Erkennen von Anomalien und Mustern,
- die Identifikation von Phishing und Malware ,
- die Analyse (auffälligen) Benutzerverhaltens.
- die Aufklärung von Cyber-Bedrohungen sowie
- die Reaktion auf Sicherheitsvorfälle.
Um Cyber-Angriffen wirksam vorzubeugen, setzt auch die Atruvia AG auf KI. Dabei ist klar: Der sichere und rechtskonforme Einsatz von KI erfordert eine belastbare Governance-Architektur, in der sowohl Atruvia als auch die nutzende Bank eingebunden sind. Ohne definierte Verantwortlichkeiten, Kontrollen und Dokumentationsstandards auf beiden Ebenen kann KI selbst zu einem Risiko werden und im ungünstigsten Fall neue Angriffsflächen eröffnen.
Besonderheit genossenschaftliche FinanzGruppe
Die KI-VO unterscheidet, wer das KI-System entwickelt, bereitstellt bzw. herstellt. Wichtig ist hierbei die Begriffsdefinition gem. Art. 3 KI-VO. Danach könnte auch die Bank in die Anbieterrolle wechseln, weil sich z. B. die Atruvia in der Entwicklerrolle und nicht in der Anbieterrolle sieht. In den meisten Fällen ist jedoch davon auszugehen, dass die Bank die Betreiberrolle einnimmt.
Voraussetzung ist, dass die von Atruvia entwickelte KI-Anwendung nicht Dritten angeboten und lediglich zu internen Zwecken verwendet wird. Dies trifft i. d. R. bei den Atruvia-Lösungen zur Cybercrime-Abwehr zu. Wir empfehlen jedoch, die Unterlagen zum KI-Assetbezug genau zu prüfen und bei Bedarf direkt die Kontaktaufnahme zum Dienstleister vorzunehmen.
Betreiberpflichten bei Cybersecurity-KI-Systemen
Für die Bank impliziert die Rolle des Betreibers sogenannte Betreiberpflichten. Diese sind insbesondere dann von hoher Relevanz, wenn ein KI-System als Hochrisiko-KI-System einzustufen ist. Nach der KI-VO ist eine solche Einstufung nicht pauschal für jede Cybersecurity-Anwendung in Betracht zu ziehen. Wohl aber für bestimmte Anwendungsfälle mit erhöhtem Gefährdungspotenzial, beispielsweise wenn ein Zugriff auf privilegierte Benutzerkonten (z. B. Admin-Konten) eingeräumt wird.
Betreiber von Hochrisiko-KI-Systemen sind verpflichtet, geeignete Maßnahmen zu ergreifen, u. a.:
- Technische und organisatorische Maßnahmen
- Menschliche Aufsicht (Human-in-the-Loop)
- Protokollierung in einem KI-Register
- Meldung von Vorfällen
- Schulung
Die wichtigsten ToDos auf einen Blick
- Risikobewertung der eingesetzten KI-Systeme zur Cybercrime-Bekämpfung
- Prüfung der DSGVO-Rechtsgrundlage (inkl. AV-Verträge, Informationspflichten)
- Dokumentation und Protokollierung jeder sicherheitsrelevanten KI-gestützten Entscheidung
- Integration in bestehende Governance-Strukturen (z. B. ISMS-/IKT-Risikomanagement, BCM)
- Schulung von Security- und Compliance-Teams im Umgang mit KI-basierten Sicherheitssystemen
Fazit
KI bietet erhebliche Chancen, die Cyber-Abwehr in Banken wirksamer zu gestalten. Gerade in arbeitsteiligen Strukturen wie der genossenschaftlichen FinanzGruppe entbindet der Einsatz zentral bereitgestellter KI-Lösungen die einzelne Bank jedoch nicht von ihrer eigenen regulatorischen Verantwortung.
Entscheidend ist, den KI-Einsatz nicht nur technologisch, sondern auch organisatorisch und rechtlich sauber aufzustellen. Nur wenn Rollen, Pflichten und Kontrollen klar definiert sind, kann KI ihr Potenzial in der Cybersecurity voll entfalten, ohne selbst zum Risiko zu werden.
KI als Chance
Sie brauchen Unterstützung in der sicheren Anwendung der KI-Verordnung? Sie erwägen, einen KI-Beauftragten für Ihr Haus einzurichten, um einen sicheren Einsatz von KI zu gewährleisten? Unsere Mitarbeitenden sind bereits als KI-Beauftragte zertifiziert. Wir begleiten, beraten und schulen Sie in allen regulativen Fragen zum Einsatz von KI-Produkten.
Erfahren Sie mehr zu unseren Unterstützungsangeboten in der KI-Compliance.
Bleiben Sie auf dem Laufenden und registrieren sich jetzt für die KI-Fachinfo.
Sie haben Fragen ?
Wir unterstützen Sie gerne bei der Auswahl und dem
Einsatz von KI-Anwendungen.
Benjamin Wellnitz
Bereichsleiter IKT-Compliance & Datenschutz
Telefon: 069 580024-246
E-Mail: benjamin.wellnitz@dz-cp.de