Szenario 3: Unzulässige Leistungskontrolle von Beschäftigten
KI-Systeme können bei mühsamen oder sich wiederholenden Tätigkeiten entlasten und Arbeitskräften helfen, Fehler zu vermeiden. Durch die laufende Erhebung und Analyse von Daten aus dem Arbeitsprozess passen sich die Systeme in der Zusammenarbeit den Beschäftigten und ihren Routinen an. So erfassen selbstlernende Roboterwerkzeuge in der Produktion künftig Schrittfolgen und Arbeitstechniken der Facharbeiterinnen und -arbeiter und können ihnen zum geeigneten Zeitpunkt assistieren. Indem sie auch physische Parameter wie Stresslevel, Müdigkeit oder Konzentration der Beschäftigten verarbeiten, optimieren KI-Systeme die Zusammenarbeit weiter und können Hinweise auf Über- oder Unterforderung geben. Auf einer aggregierten Ebene lassen sich so die individuelle Arbeitszufriedenheit sowie die Effizienz des Unternehmens steigern.
Allerdings können KI-Systeme auch zur Leistungskontrolle von Beschäftigten missbraucht werden. Wie sich das verhindern lässt, skizziert das folgende Beispiel eines Betriebs, der selbstlernende und miteinander vernetzte Roboterwerkzeuge in der Produktion einsetzt.
Mit der Frage, welche Maßnahmen geeignet sind, um einem Missbrauch von KI-Systemen wirksam vorzubeugen, beschäftigt sich auch das Whitepaper KI-Systeme schützen, Missbrauch verhindern der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik.