Trends Markt News

iStock.com/olaser

KI in der Arbeitswelt: Szenarien zeigen Risiken und Möglichkeiten

Künstliche Intelligenz (KI) erhält zunehmend Einzug in verschiedenste Bereiche der Arbeitswelt. Insbesondere im Personal- und Talentmanagement sowie in der maschinellen Produktion seien algorithmische Entscheidungssysteme (ADM-Systeme) weit verbreitet, teilte die Gesellschaft für Informatik e.V. (GI) in Berlin mit. Im Forschungsprojekt „KI Testing & Auditing“ (ExamAI) unter der Leitung der GI gingen die Beteiligten relevanten Fragen im Zusammenhang mit dem Einsatz von ADM-Systemen nach. Eine Frage sei, wie Verfahren aussehen könnten, die einen „beherrschbaren, nachvollziehbaren und fairen Einsatz von KI“ ermöglichen. Zudem müsse geklärt werden, wie sich diese durchführen ließen und welche institutionellen Anforderungen dafür beachtet werden müssten, hieß es.

Zur Beantwortung der Fragen seien 11 Szenarien aus den Bereichen Personal- und Talentmanagement sowie Mensch-Maschine-Kooperation in der Industrieproduktion vorgestellt worden. Die Szenarien sollten kritische Abläufe, aber auch Nutzen beim Einsatz von KI veranschaulichen und als Ausgangspunkt einer juristischen sowie informatischen Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße im Bereich KI und Arbeit dienen.


Vielfältige Gefahrenpotenziale im Personalkontext
Im Personalbereich gebe es eine Vielzahl von Anwendungsmöglichkeiten von KI. Den besonders einschlägigen widme sich die „Publikation Anwendungsszenarien KI-Systeme im Personal- und Talentmanagement“. Dabei seien z.B. eine KI-basierte Software bei der Vorhersage der Jobkündigungsbereitschaft, eine Persönlichkeitsbewertung anhand von Lebensläufen oder der Einsatz eines Chatbots der Personalabteilung. Die Gefahrenpotenziale im Personalkontext seien vielfältig. So könne es etwa zu Diskriminierungen bei der Vergabe von Arbeitsschichten oder zu Benachteiligungen bei internen Fördermaßnahmen kommen.

In der Industrieproduktion bestehe unter Umständen auch physisches Gefahrenpotenzial. Durch einen unkontrollierten Einsatz von KI könnten Mitarbeiter durch kollaborative Roboter (Cobots) oder Fahrerlose Transportsysteme (FTS) verletzt werden. Auch in vermeintlich harmlosen Betriebsabläufen, wie der Planung von Routen in der Logistik, schlummere Diskriminierungspotenzial. In der Publikation „KI-Systeme in der Produktionsautomatisierung“ werden den Angaben zufolge in vier Szenarien relevante Aspekte in Bezug auf den Einsatz von KI in der Industrieproduktion aufgezeigt, hieß es.

Im weiteren Verlauf des Projekts sollen die Szenarien als Grundlage für tiefergehende juristische und softwarebezogene Analysen dienen, so das Fazit. (ud)
 

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge