Risiken der KI-Nutzung im Bankensektor: Cyberkriminalität und Mitarbeitermoral im Fokus

Berichten zufolge haben große Wall-Street-Banken begonnen, Investoren vor Risiken zu warnen, die durch den Einsatz von Künstlicher Intelligenz (KI) entstehen.
Laut einem Bericht von Bloomberg News am Mittwoch (12. März) umfassen diese Risiken sogenannte KI-„Halluzinationen“, die Nutzung der Technologie durch Cyberkriminelle und deren Auswirkungen auf die Mitarbeitermoral.
Zum Beispiel erklärte JPMorgan in einer kürzlichen Regulierungsunterlage, dass KI zu einer „Verdrängung der Belegschaft“ führen könnte, was die Moral und Bindung der Mitarbeiter beeinträchtigen und gleichzeitig den Wettbewerb um Angestellte mit entsprechendem technologischem Hintergrund verschärfen könnte.
Bloomberg weist darauf hin, dass Banken in den letzten Jahren in ihren Jahresberichten auf KI-Risiken hingewiesen haben, jedoch neue Bedenken auftauchen, während die Finanzwelt die Technologie zunehmend übernimmt. Es gilt, die neuesten KI-Entwicklungen zu meistern, um Kunden zu halten und gleichzeitig der Bedrohung durch Cyberkriminalität entgegenzuwirken.
„Die richtigen Regulierungsmechanismen zu haben, um sicherzustellen, dass KI sicher, fair und sicher eingesetzt wird, darf einfach nicht übersehen werden“, sagte Ben Shorten, Leiter für Finanzen, Risiko und Compliance im Bank- und Kapitalmarktsektor in Nordamerika bei Accenture, in einem Interview. „Dies ist keine Plug-and-Play-Technologie.“
Der Bloomberg-Bericht fügt hinzu, dass Banken Gefahr laufen, Technologien zu nutzen, die möglicherweise auf veralteten, voreingenommenen oder ungenauen Datensätzen basieren.
Citigroup erklärte, dass sie bei der Einführung generativer KI im Unternehmen das Risiko eingehe, dass Analysten mit „ineffektiven, unzureichenden oder fehlerhaften“ Ergebnissen arbeiten.
Diese Daten könnten auch unvollständig, voreingenommen oder ungenau sein, was „den Ruf, die Kunden, die Klienten, das Geschäft oder die Betriebsergebnisse und die finanzielle Lage negativ beeinflussen könnte“, hieß es im Jahresbericht 2024 der Bank.
„Im Wesentlichen ist es ein Spiel der Gegensätze; Kriminelle wollen Geld verdienen und die [Geschäfts-]Gemeinschaft muss diese Aktivität eindämmen. Was jetzt anders ist, ist, dass beide Seiten mit wirklich beeindruckender Technologie ausgerüstet sind“, sagte Michael Shearer, Chief Solutions Officer bei Hawk.
Die Technik ist ein großer Schritt, um KI-Ergebnisse zuverlässiger zu machen, was insbesondere für stark regulierte Branchen wie Finanzwesen und Gesundheitswesen wertvoll ist, sagte Mike Miller, Direktor des Produktmanagements bei AWS, in einem Interview.