Markt

Photo by Christian Wiediger on Unsplash

Weißbuch vorgestellt: EU-Kommission will KI regulieren

Die EU-Kommission hat am Mittwoch in Brüssel ihr lange erwartetes Weißbuch zum Umgang mit Künstlicher Intelligenz (KI) vorgelegt. „KI-Systeme mit hohem Risiko benötigen klare Vorschriften, ohne dass dadurch aber weniger risikobehaftete Systeme übermäßig belastet werden. Die strengen Vorschriften der EU für den Verbraucherschutz, die sich gegen unlautere Geschäftspraktiken richten und dem Schutz personenbezogener Daten und der Privatsphäre dienen, gelten nach wie vor“, teilte die Kommission mit. In Fällen mit hohem Risiko, etwa in den Bereichen Gesundheit, Polizei oder Verkehr, sollten KI-Systeme transparent und rückverfolgbar sein. Die Aufsicht durch den Menschen müsse stets gewährleistet sein. Behörden sollten die von Algorithmen genutzten Daten ebenso prüfen und zertifizieren können, wie sie es bei Kosmetika, Autos und Spielzeug tun, so die Brüsseler Behörde.

Für KI-Anwendungen mit geringerem Risiko sieht die Kommission demnach ein freiwilliges Kennzeichnungssystem vor, wenn solche Anwendungen höhere Standards erfüllen. „Alle KI-Anwendungen sind auf dem europäischen Markt willkommen, solange sie den EU-Vorschriften entsprechen.“ Europa habe alle Voraussetzungen, um weltweit eine Führungsposition bei Systemen der KI, die sicher genutzt und angewendet werden könnten, zu übernehmen, hieß es.

Drei Regulierungsoptionen

Die Kommission prüft zudem drei Regulierungsoptionen für künftige Maßnahmen, um Schwächen in der Gesetzgebung bezüglich KI zu beheben. Das gehe aus dem nicht-öffentlichen Dokument der Kommission hervor, teilte das Centrum für Europäische Politik (cep) mit. Die Optionen seien ein freiwilliges Kennzeichnungssystem (Label), konkrete sektorale Anforderungen für Behörden sowie obligatorische Anforderungen für risikoreiche KI-Anwendungen.

Aus Sicht des cep würde ein freiwilliges Label die unternehmerische Freiheit respektieren. Allerdings könnte es nicht ausreichen, um etwa Sicherheits- und Haftungsfragen zu klären. Bei den sektoralen Anforderungen an die Behörden würde von diesen unter anderem verlangt werden, Informationen über die Effektivität der von ihnen verwendeten KI-Anwendungen zu veröffentlichen. Dies sei sachgerecht, da die öffentlichen Behörden über erheblich mehr Einflussmöglichkeiten verfügen würden, in die Grundrechte von Menschen einzugreifen, als private Akteure.

Regeln für Einsatz von Gesichtserkennungssystemen

Bei dieser Option erörtere die Kommission zudem, ob spezifische Regeln für den Einsatz von Gesichtserkennungssystemen im öffentlichen Raum eingeführt werden sollten oder ob der Einsatz dieser Technologie im öffentlichen Raum für einen Zeitraum von z.B. drei bis fünf Jahren verboten werden sollte. Es sei zwar zutreffend, dass die Gesichtserkennungstechnologie mehr Herausforderungen an Grundrechte stellt als viele andere KI-Anwendungen. Aber wie die Kommission selbst erkannt habe, könnte eine so weitreichende Maßnahme wie ein vollständiges Verbot der Gesichtserkennungstechnologie die Entwicklung dieser Technologie in der EU behindern. Dies gelte umso mehr, da dieser Markt bereits von Nicht-EU-Unternehmen dominiert werde.

Für das cep würden die geplanten obligatorischen Anforderungen für risikoreiche KI-Anwendungen diese sowohl im privaten als auch im öffentlichen Sektor auf flexible Weise abdecken. Allerdings müsse dafür der Begriff risikoreich klar definiert werden, weil Unternehmen sonst die Möglichkeit hätten, Risiken ihrer KI-Anwendung herunterzuspielen, damit ihre Produkte nicht den Standards für risikoreiche KI-Anwendungen entsprechen müssten, hieß es. (ud)

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge