Risiken: Modelle, Verzerrungen, Herdenverhalten und Betrug

Die Risiken künstlicher Intelligenz im Finanzdienstleistungsbereich lassen sich in mehrere Kategorien einteilen, welche die Aufsichtsbehörden und die Literatur herausgearbeitet haben. Das Modellrisiko ist das älteste. Jedes Modell vereinfacht die Wirklichkeit und kann versagen, wenn sich die Bedingungen ändern. Modelle des maschinellen Lernens sind besonders exponiert, weil sie Muster aus historischen Daten lernen, die in Zukunft nicht unbedingt Bestand haben. Die Komplexität grosser Modelle erschwert es, sie so zu validieren, wie die Banken seit den 2000er-Jahren statistische Modelle validiert haben.¹

Verzerrung und Diskriminierung bilden eine zweite Kategorie. Ein Kreditmodell, das mit historischen Entscheiden trainiert wurde, kann deren Muster reproduzieren, einschliesslich einer allfälligen Benachteiligung bestimmter Gruppen, selbst wenn es geschützte Merkmale nicht direkt verwendet. Das Schweizer Recht kennt kein allgemeines Diskriminierungsverbot unter Privaten, doch bieten der Persönlichkeitsschutz nach Artikel 28 des Zivilgesetzbuches (ZGB) und besondere Gesetze einen gewissen Schutz. Die Aufsichtsmitteilung der FINMA zählt die Gleichbehandlung zu ihren Schwerpunkten, während der AI Act der EU das Thema über seine Anforderungen an die Daten-Governance für Hochrisikosysteme angeht.² Eng damit verbunden ist die Erklärbarkeit. Wenn ein Modell nicht erklären kann, weshalb es ein Kreditgesuch abgelehnt oder eine Transaktion gemeldet hat, kann die Kundin oder der Kunde den Entscheid nicht anfechten, und das Institut kann nicht nachweisen, dass es rechtmässig gehandelt hat.

Die Finanzstabilität ist das Anliegen der Institutionen in Basel. Wenn viele Marktteilnehmer ähnliche Modelle verwenden, die mit ähnlichen Daten trainiert wurden, können ihre Entscheide korrelieren, was Marktbewegungen verstärken und die Vielfalt der Einschätzungen verringern könnte, welche die Märkte liquide hält. Gary Gensler, bevor er Vorsitzender der United States Securities and Exchange Commission wurde, und Lily Bailey beschrieben dieses Herdenrisiko in einem Aufsatz von 2020 und legten dar, dass Deep Learning das systemische Risiko durch Uniformität, Netzwerkverflechtung und Regulierungslücken erhöhen könne.³ Das Financial Stability Board fügte die Konzentration auf wenige Anbieter von Modellen, Cloud-Diensten und Chips hinzu, die für das Finanzsystem einzelne Ausfallpunkte schafft.⁴

Cyberrisiken und Betrug haben mit der Technologie zugenommen. Angreifer nutzen Sprachmodelle, um überzeugende Phishing-Nachrichten in jeder Sprache, einschliesslich Schweizerdeutsch, zu verfassen und Schwachstellen in Software aufzuspüren. Das Klonen von Stimmen und Video-Deepfakes ermöglichen es Kriminellen, sich als Führungskräfte, Kunden oder Angehörige auszugeben. In einem vielbeachteten Fall im Jahr 2024 überwies ein Mitarbeiter des Ingenieurunternehmens Arup in Hongkong rund USD 25 Mio., nachdem er an einer Videokonferenz teilgenommen hatte, in der die übrigen Teilnehmenden, darunter der vermeintliche Finanzchef, von künstlicher Intelligenz erzeugt worden waren.⁵ Das Nationale Zentrum für Cybersicherheit, das 2024 zum Bundesamt für Cybersicherheit wurde, hat eine wachsende Zahl solcher Versuche in der Schweiz gemeldet.⁶ Für Banken und ihre Kundschaft folgt daraus, dass eine Stimme oder ein Gesicht auf dem Bildschirm keine Identität mehr beweist, sodass Zahlungsaufträge eine unabhängige Überprüfung über einen separaten Kanal erfordern.

Anmerkungen

1. Zum Management von Modellrisiken vgl. die aufsichtsrechtlichen Leitlinien der Federal Reserve und des Office of the Comptroller of the Currency, SR 11-7, Guidance on Model Risk Management, April 2011, welche die Praxis international beeinflusst haben. ↩
2. Art. 28 des Zivilgesetzbuches (ZGB, SR 210); FINMA-Aufsichtsmitteilung 08/2024; Art. 10 der Verordnung (EU) 2024/1689 zu Daten und Daten-Governance. ↩
3. Gary Gensler und Lily Bailey, «Deep Learning and Financial Stability», Working Paper, MIT, November 2020. ↩
4. Financial Stability Board, The Financial Stability Implications of Artificial Intelligence, 14. November 2024, Abschnitte zu Abhängigkeiten von Drittanbietern und Marktkorrelationen. ↩
5. Berichte der Polizei Hongkong und internationale Presseberichte vom Februar und Mai 2024 über den Deepfake-Betrug zum Nachteil der Hongkonger Niederlassung von Arup. ↩
6. Bundesamt für Cybersicherheit (BACS), Halbjahresberichte und Wochenrückblicke zu Betrug und Deepfakes seit 2024. ↩

Nur zur allgemeinen Information. Dieser Beitrag ist keine Rechts- oder Steuerberatung, ersetzt nicht die Beratung im Einzelfall und begründet kein Mandatsverhältnis. Rechtsstand: 10/2026.