Corona und das goldene Zeitalter der KI

Ein Artikel von red | 22.02.2021 - 10:00

Kreditkartenbetrug und seine Auswirkungen in Europa ist sehr heterogen. Warum gibt es solche Unterschiede zwischen den Ländern?

Will Lansing: Viele Faktoren entscheiden darüber, wo Kriminelle zuschlagen, wen sie angreifen und wie erfolgreich sie sind: das Kundenverhalten in einem Land, ob die Bevölkerung überwiegend Bargeld nutzt oder hauptsächlich bargeldlos bezahlt, wie stark Internet- und Mobile Banking genutzt werden, der Einsatz starker Authentifizierungsmechanismen und generelle Investitionen in die Bekämpfung von Finanzbetrug. Diese Faktoren ändern sich ständig und wurden durch die globale Pandemie noch verstärkt. So sind klassische Bargeld-Märkte wie Deutschland nun vergleichsweise bargeldlos, das Filialbankengeschäft gehört weitestgehend der Vergangenheit an und die Kunden leiden allgegenwärtig unter Stress und Unsicherheit. All diese Aspekte spielen den Betrügern in die Karten und sorgen dafür, dass die Bedrohung für die Märkte weiterwächst.

Betrug, Compliance-Anforderungen – auch mit Blick auf Geldwäsche – und Kosteneffizienz auf der anderen Seite sind für Banken schwer in der Waage zu halten. Automatisierung und KI können hier weiterhelfen. Was ist das wichtigste Kriterium, das Finanzinstitute dabei immer im Blick behalten sollten?

Will Lansing: Im Bereich der Geldwäschebekämpfung (Anti Money Laundering – AML) haben viele Banken erkannt, dass die Kosten für große Neueinstellungen nicht mehr länger tragbar sind – besonders vor dem Hintergrund, dass im Betrugsmanagement schon seit vielen Jahren Automatisierung mittels KI möglich ist. Dabei sollten Banken die folgenden Punkte berücksichtigen:

  • Traditionelle Silo-Technologien zusammenfassen, um verschiedenste Anwendungsfälle (z.B. Zahlungsbetrug oder AML) innerhalb einer Plattform abzudecken. Das senkt Kosten und sorgt für einen deutlich kundenzentrischeren Ansatz.
  • Automatisierte Kundenkommunikation nutzen wie SMS, Push-Benachrichtigungen und Chatbots, um Kunden zu helfen.
  • Maschinelles Lernen nutzen, wie es bereits bei der Betrugserkennung eingesetzt wird, um AML und Alert Management Analytics-getriebener zu gestalten.

Damit KI im Einsatz keine furchteinflößende Blackbox ist, setzten Sie auf die so genannten „3 E“ bei KI: KI muss ethisch, erklärbar und effizient sein. Können Sie das ein wenig erläutern?

Will Lansing: Die „Drei E der KI“ sind die Definition unseres Chief Analytics Officers Dr. Scott Zoldi für die Kriterien verantwortungsbewusster KI. Erklärbare KI stellt sicher, dass wir wissen, wie ein Modell funktioniert und dass wir Gründe und Erklärungen dafür liefern können, warum eine Entscheidung auf individueller Ebene getroffen wurde. Ethische KI erlaubt uns zu verstehen, ob ein Modell irgendwelche Vorurteile gegenüber einer beliebigen geschützten Gruppe von Individuen hat. Zu guter Letzt müssen KI-Modelle effizient sein, um eine umsetzbare Überwachung zu ermöglichen. Diese Überwachung stellt sicher, dass sich in einer Produktionsumgebung nicht mit der Zeit Vorurteile einschleichen und sie kann sogar darauf hinweisen, ob im Laufe der Zeit ein Modell angepasst oder stillgelegt werden sollte. Dieses letzte Prinzip wird manchmal auch als bescheidene KI bezeichnet – es bedeutet, dass KI benutzt wird, wenn man sicher ist, dass sie funktioniert und, wenn man das nicht ist, wird  etwas anderes benutzt.

„Im Lauf der Pandemie mussten sich Firmen, die keine gute Digitalstrategie hatten, schnellstens darum kümmern. Der knappe Zeitrahmen schärft das Bewusstsein für die Notwendigkeit einer reifen KI.“


Will Lansing, CEO von FICO

KI und Big Data hat zwei neue Berufsbilder hervorgebracht: den Chief Analytics Officer (CAOs) und den Chief Data Officer (CDOs). Was unterscheidet sie und wo sollten sie ihren Einsatz im Unternehmen finden?

Will Lansing: Generell sind CAOs Experten für Analytics und KI. Sie beschäftigen sich damit, wie sich diese Technologien nutzen lassen, um Geschäftsprobleme zu lösen. CDOs sind hingegen auf Daten-Assets fokussiert – Herkunft, Nutzungsrechte, Qualität und Konsistenz, Aktualität etc. CDOs berichten oftmals an den CIO eines Unternehmens. CAOs berichten dagegen meist an den CTO und treiben typischerweise die KI-Integration mittels Software-Assets voran, oft auch mit einer „Standleitung“ zum CEO.

Wie weit ist das Bewusstsein für die Notwendigkeit dieser beiden Mitarbeiter schon bei Finanzinstituten vorhanden?

Will Lansing: Nach meiner Erfahrung haben die meisten Unternehmen nur eine der beiden Rollen besetzt – auch im Finanzsektor. Der Rolle des CDO wird dabei mehr Aufmerksamkeit geschenkt, da gerade Finanzinstitute über viele Jahre Kundendaten gesammelt haben und die Nutzung dieser Daten hoch reguliert ist. Allerdings wächst die Zahl der CAOs, da das Bewusstsein für die Bedeutung von Analytics Governance und Frameworks wächst. Schlechte Modelle können sich negativ auf die Kunden auswirken, sogar wenn die Daten, die genutzt werden, in Ordnung sind und die Zustimmung zur Verwendung vorliegt. Das kann zu schlechten Geschäftsentscheidungen und massiven Rufschädigungen führen.

Auf dem Fico Blog zitieren Sie den Nachrichtendienst Bloomberg mit dem Ausspruch, dass Corona KI ein Goldenes Zeitalter bescheren könnte. Warum dieser Zusammenhang?

Will Lansing: Im Lauf der globalen Pandemie haben die Kunden alles Digitale dankbar angenommen und Firmen, die keine gute Digitalstrategie hatten, mussten sich schnellstens darum kümmern. Der knappe Zeitrahmen für die Digitalisierung schärfte das Bewusstsein für die Notwendigkeit einer reiferen KI-Technologie. Darüber hinaus wurden Unternehmen im Rahmen der chaotischen Business-Umgebungen der Pandemie immer abhängiger von KI, um sich auf schnelle Veränderungen einzustellen und diese zu bewältigen. Zusammengenommen werden diese Umstände und Anforderungen den Einsatz von KI fördern und die Bedeutung von KI für alle Branchen stärken.

Das Thema KI-Manipulation beschäftigt sich meist nur mit dem Thema des KI-Trainings, nicht mit minimalen Veränderungen – z.B. wenn ein Pixel in einem Bild geändert wird und dann die KI einen Lastwagen als Giraffe einordnet. Welche Empfehlungen haben Sie hier?

Will Lansing: Deshalb ist erklärbare KI so wichtig. Sie kann nämlich jegliche Modellsensitivität identifizieren, die unverhältnismäßige Auswirkungen bewirkt, beispielsweise wenn Änderungen an Pixel 47 dazu führen, dass das ganze Bild falsch klassifiziert wird. Zusätzlich sollten Unternehmen idealerweise über Programme zur Erkennung von feindseliger KI verfügen – das heißt, wenn ein bösartiges KI-System das betreffende Klassifizierungsmodell angreift, um zum Beispiel betrügerische Transaktionen als echt erscheinen zu lassen. KI-Algorithmen können neben dem KI-Modell eingesetzt werden, um Manipulationen und Angriffe zu erkennen und diejenigen zu informieren, die auf diese Modelle angewiesen sind.

Das Jahr ist noch jung – welche Prognosen haben Sie zum Thema KI für 2021?

Will Lansing: Erstens glaube ich, dass KI auf algorithmischer Ebene gesteuert werden wird, nicht durch ein vages "Wir werden nichts Böses tun"-Versprechen. Da Unternehmen unter dem Druck stehen, Algorithmen in Produktionsqualität zu liefern, werden sie einen Lebenszyklus-Ansatz verfolgen, um erklärbare, ethische und effiziente KI-Modelle zu entwickeln, die auditiert, überwacht und gesteuert werden können. Zweitens sage ich den Aufstieg von KI-Microservices voraus. Diese Microservices sind der Beginn einer neuen Sparte, AI as a Service (AIaaS). Und drittens glaube ich, dass die Verbraucher im Jahr 2021 zunehmend ihre Zustimmung zu spezifischen, vorgeschriebenen und eingeschränkten Verwendungen ihrer Daten geben werden, was für die Betrugserkennung, das Gefahrenmanagement und das Marketing immer wichtiger werden wird.