Trends

iStock.com/PhonlamaiPhoto

Studie: Deutsche fordern Sicherheit bei KI

Die Deutschen sind sich möglicher Gefahren durch Künstliche Intelligenz (KI) bewusst. Die Verbraucher fordern mehr Transparenz und Sicherheit beim Einsatz von KI: 85 Prozent der Bundesbürger wollen, dass Produkte und Anwendungen mit der Technologie klar gekennzeichnet werden. Ebenfalls 85 Prozent sind der Ansicht, dass KI-Produkte erst auf den Markt gebracht werden sollten, wenn ihre Sicherheit von unabhängigen Stellen überprüft wurde. 78 Prozent sagen, dass der Staat Gesetze und Vorschriften zur Regulierung von KI verabschieden sollte. Das geht aus einer aktuellen Ipsos-Umfrage im Auftrag des TÜV-Verbands hervor.

„Der Ruf nach einer gesetzlichen Regulierung von Künstlicher Intelligenz wird lauter“, erklärt Dr. Michael Fübi, Präsident des TÜV-Verbands (VdTÜV), bei der Vorstellung der Studienergebnisse in Berlin. „Beim Einsatz von Künstlicher Intelligenz in sicherheitskritischen Bereichen gibt es erhebliche Regelungslücken. Immer dann, wenn Gefahren für die Gesundheit von Menschen oder deren elementare Grundrechte bestehen, sind klare Leitlinien für die Anbieter, Entwickler und Nutzer von KI-Anwendungen notwendig.“ Das betreffe etwa hoch automatisierte Fahrzeuge, mit KI-gesteuerte Maschinen oder die medizinische Diagnostik auf Basis von KI. Laut der Umfrage halten nur 17 Prozent der Befragten eine Selbsterklärung der Anbieter von KI-Anwendungen darüber für ausreichend, dass ihre Produkte sicher sind.

Einsatz von KI in der Rechtsprechung negativ bewertet

Mit 46 Prozent empfindet fast die Hälfte etwas Positives oder sehr Positives beim Gedanken an KI. Dagegen empfänden 28 Prozent eher etwas Negatives oder sehr Negatives. Positiv bewerte eine breite Mehrheit die Weiterentwicklung von KI in der Forschung (75 Prozent) und in der Industrie (73 Prozent). Überwiegend positiv würden die Befragten auch Verbesserungen durch KI bei der Bekämpfung von Verbrechen (65 Prozent) oder bei der Vermittlung von Wissen, etwa durch den Einsatz persönlicher Assistenten (64 Prozent), bewerten. Sehr oder eher negativ sähen es dagegen 69 Prozent, wenn KI menschliche Kontakte ersetzt. Überwiegend kritisch beurteilt wird laut Studie auch die Nutzung von KI in der Rechtsprechung (66 Prozent), in der Verteidigung (50 Prozent) oder in der Altenpflege (49 Prozent).

Zwar bewerte eine breite Mehrheit in der Bevölkerung die Weiterentwicklung von KI in der Medizin (65 Prozent) positiv. Doch fast vier von fünf Befragten (79 Prozent) vertrauen laut Studie im Krankheitsfall einem Arzt bei der Wahl der passenden Therapie, einer KI-Anwendung hingegen nur 24 Prozent. Arbeiteten Mediziner mit einer KI zusammen, steigen die Zustimmungswerte den Angaben zufolge deutlich. Sie blieben jedoch hinter dem Vertrauen in den Arzt zurück: Einem Arzt, der durch KI unterstützt werde, vertrauen demnach 59 Prozent der Befragten.

Lob für Datenethikkommission

Aus Sicht des TÜV-Verbands stellt sich mit dem massenhaften Einsatz von KI in sicherheitskritischen Bereichen wie Fahrzeugen, Maschinen, Anlagen und Geräten zudem immer drängender die Frage nach einer angemessenen Regulierung der Technologie. Der Verband gibt mehrere Empfehlungen an die Politik: KI-Anwendungen sollten demnach in verschiedene Risikoklassen eingeordnet werden. In Abhängigkeit vom Risiko könnten sie dann zugelassen, überprüft oder sogar laufend überwacht werden. Der Ansatz der Datenethikkommission der Bundesregierung weise genau in diese Richtung.

Zudem sollte die Prüfung von KI-Systemen mit hohem oder sehr hohem Risiko von unabhängigen Prüforganisationen vorgenommen werden, heißt es. Der risikobasierte Ansatz sei ein etabliertes Verfahren des europäischen Binnenmarktes, um Sicherheit und Innovationen miteinander zu verbinden. Für lernende KI-Systeme seien fortlaufende Prüfungen notwendig. Periodische Prüfungen alle ein oder zwei Jahre dürften im digitalen Zeitalter bald der Vergangenheit angehören. Auch zur Einhaltung ethischer Standards bei der KI-Entwicklung könnten unabhängige Prüforganisationen einen Beitrag leisten, indem sie die innerbetrieblichen Prozesse der Unternehmen überprüfen und zertifizieren. (ud)

Stichworte

Verwandte Artikel

Anzeige