Trends Markt News

iStock.com/kynny

Vertrauen in KI: Zertifizierung der Systeme zentrale Bedingung

Künstliche Intelligenz ruft Ängste und Zweifel hervor: Verbraucher sorgen sich, dass mit KI das Tor zur totalen Überwachung aufgestoßen wird. Firmeninhaber fragen sich, ob die neue KI tatsächlich die erhofften Effizienzgewinne bringt. Eine mögliche Schlüsselvoraussetzung für Vertrauen in KI ist laut der Plattform Lernende Systeme eine Zertifizierung der Anwendungen. Welchen Nutzen diese versprechen, skizzieren Experten der Plattform in einem Impulspapier, teilte die Organisation am Dienstag in München mit. Das Papier gebe einen Überblick über Zertifizierungsprojekte in Deutschland und bilde die Grundlage für weiterführende Diskussionen.

Das Vertrauen in KI gehe aus einer „sachgerechten Prüfung durch Experten im Rahmen eines Zertifizierungsprozesses hervor, aus der Reputation der üblicherweise akkreditierten zertifizierenden Organisation und aus den strukturierten und klaren Kriterien, die angelegt werden, aber auch aus dem Orientierungsangebot, das die Zertifizierung Akteuren anbietet“, heißt es in dem Papier. Die Forderung nach der Etablierung einer Zertifizierung von KI-Systemen sei in vielen Strategiekonzepten zu finden, wie etwa in der KI-Strategie der Bundesregierung oder dem Whitepaper der Europäischen Kommission zu KI. So könnten bei Nicht-Experten, Anwendern, politischen Entscheidungsträgern sowie Behörden Unsicherheiten und Ängste beziehungsweise Bedenken gegenüber KI-Technologien abgebaut werden.

Insbesondere in sensiblen Anwendungsbereichen wie etwa der Medizin könne eine Zertifizierung von KI-Systemen dazu beitragen, „das Vertrauen in ihre Leistungsfähigkeit, Zuverlässigkeit und Sicherheit zu stärken“, teilte die Plattform weiter mit. Im betrieblichen Kontext erleichtere eine Zertifizierung die Interoperabilität verschiedener Systeme und fördere so den weiteren Einsatz von KI. Nicht zuletzt könne eine Zertifizierung die Wettbewerbsdynamik bei der Entwicklung von KI-Anwendungen fördern und – über die Etablierung einer vertrauenswürdigen Marke „KI made in Europe“ – international Wettbewerbsvorteile schaffen, heißt es.

Viele Fragen zu klären

Auf dem Weg zu einer Zertifizierung von Künstlicher Intelligenz seien jedoch zahlreiche Fragen zu klären. „Zum Beispiel muss beantwortet werden, wie Lernende Systeme verlässlich verifiziert werden können, oder wie ein Weiterlernen im Betrieb – etwa durch strukturierte Updates – sichergestellt werden kann“, erklärt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS. 

Entscheidend für eine sinnvolle und nutzbringende Zertifizierung von KI-Systemen sei auch, das richtige Maß zu finden. „Die Aufgabe besteht darin, ein allgemeines Prüfsystem zu entwickeln, um eine Zertifizierung hochgradig verschiedener KI-Systeme für unterschiedliche Einsatzgebiete vergleichbar zu gestalten. Dabei gilt es, bereits etablierte Normen und Standards zu berücksichtigen und vorhandene Lücken zu schließen“, so Wrobel, einer von vier Co-Autoren des Impulspapiers. (ud)

Die Plattform Lernende Systeme wurde eigenen Angaben zufolge 2017 vom Bundesministerium für Bildung und Forschung (BMBF) gegründet. Sie vereint Experten aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft aus dem Bereich Künstliche Intelligenz. In Arbeitsgruppen entwickeln sie Handlungsoptionen und Empfehlungen für den verantwortlichen Einsatz von Lernenden Systemen.

Lesen Sie hier das vollständige Impulspapier „Zertifizierung von KI-Systemen“. 

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge