Markt

istock.com/franz12

KI in Krisen: Warnung vor unbemerkten Risiken  

Das Centrum für Europäische Politik (cep) sieht darin eigenen Angaben zufolge ein unterschätztes Systemrisiko – und fordert Regeln. „Die Nutzung von KI kann in Krisen sehr nützlich sein. Mit normalen Daten optimierte Algorithmen können dann jedoch unbewusst zu falschen Entscheidungen führen. Es braucht daher gerade in zunehmend automatisierten Umgebungen risikosensitive Regeln für KI in Krisen”, sagte der Digitalexperte der Organisation, Anselm Küsters, der den jüngsten Regulierungsansatz der Kommission untersucht hat.

Als ein Beispiel nannte Küsters demnach Algorithmen zur Berechnung des Risikos von Kreditkartenbetrug während der Corona-Pandemie. „Plötzlich kauften viele nur noch im Internet ein. KI-basierte Tools waren davon überfordert und blockierten unnötig viele Transaktionen.” Ein risikobasierter Ansatz, wie er im EU-KI-Gesetz vorgesehen sei, reiche daher möglicherweise nicht aus, da man das dynamische Risiko eines krisengestörten Systems, insbesondere in sich dramatisch verändernden Umgebungen, nicht kennen könne, hieß es.

„Akzeptiert man jedoch den risikobasierten Ansatz des aktuellen Entwurfs, könnten die in Zeiten von Polykrisen auftretenden Gefahren dadurch berücksichtigt werden, dass ein höherer Anteil von KI-gesteuerten Systemen als krisensensitiv und somit als hoch riskant eingestuft wird”, empfahl der Experte. Entscheidend seien zudem regelmäßig mit ausreichend Personal und technischen Ressourcen ausgeführte KI-Audits – ohne Start-ups zu überfordern. (ud)

+++

Was versteht man unter „Data Science“ und wie ist dies in den Themenkomplex KI einzuordnen? Wozu benötigt eine Bank überhaupt einen Data Scientist und mit welchen Daten und Tools wird hier gearbeitet? Diese und weitere Fragen stellen wir Torsten Nahm, der das Kompetenzzentrum für Data Science bei der DKB leitet. Hören Sie hier weitere Episoden aus der Reihe „durch die bank“.

Melden Sie sich bei Interesse zu unserem „Web-Seminar Robotic Process Automation (RPA) in Kreditinstituten – Technik und Use Cases“ an.

 

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge