Die Europäische Agentur für Sicherheit und Gesundheitsschutz am Arbeitsplatz (EU-OSHA) hat im Rahmen ihres Forschungsprogramms zu Auswirkungen der Digitalisierung auf Gesundheit, Sicherheit und Wohlbefinden von Arbeitnehmer:innen einen Bericht zu Artificial Intelligence Worker Management (AIWM) veröffentlicht (Reinhold et al. 2022). Die in diesem Bericht vorgestellte Analyse basiert auf Literaturrecherchen, eingehenden Expertenbefragungen und statistischen Datenanalysen der Dritten Europäischen Erhebung der EU-OSHA über neue und neu auftretende Risiken (ESENER-3). Der Bericht diskutiert den aktuellen Einsatz sowie Risiken und Chancen eines auf Künstlicher Intelligenz (KI) beruhenden Arbeitskräftemanagements.

Künstliche Intelligenz zur Überwachung und Steuerung von Beschäftigten

Durch KI-Technologien sind zunehmend neue Formen der Überwachung und Steuerung von Beschäftigten entstanden. Neben Arbeitsplatz- und Arbeitsmitteldaten werden mittels mobiler oder integrierter Überwachungsgeräte Daten des:r Arbeitnehmer:in gesammelt. D.s. Tastatureingaben, eMail-Inhalte, Zahl und Inhalt von Telefonaten, Ortsbestimmungen per GPS, Körperbewegungen, Vitalwerte, Mikromimik, Tonfall u.a.m.. Diese Informationen werden entweder für Informationen an das Management verwendet und/oder direkt für automatisierte oder teilautomatisierte Entscheidungen durch Algorithmen oder weiter fortgeschrittene Formen Künstlicher Intelligenz.

AIWM-Systeme werden vorwiegend eingesetzt, um Produktivität und Effizienz der Arbeitnehmer:innen zu steigern, beispielsweise durch Leistungs-, Sicherheits- und Emotionsüberwachung, Eruieren von Prozessabweichungen und Kündigungsabsichten, Automatisierung von Zeitplänen und Aufgabenzuweisungen, Erteilung von Verfahrens- und Arbeitsanweisungen u.a.m.. Nachdem AIWM-Systeme die Ausführungen und Konsequenzen ihrer Entscheidungen über eine veränderte Datenlage rückgemeldet bekommen, “lernt” die Künstliche Intelligenz und optimiert die Arbeitsprozesse und ihre eigene Entscheidungsfindung.

Risiken KI-basierten Arbeitskräftemanagements

Arbeitsintensivierung

AIWM-Systems zielen auf die Optimierung der Produktivität ab und führen dadurch meist zur Arbeitsintensivierung. Typisch ist der Einsatz in der Lagerlogistik. AIWM wird zur Verfolgung der Auftragsabwicklungszeit sowie der Bewegungen, Fehler und Pausen der Arbeitnehmer eingesetzt, um “unnötige” Zeitverzögerungen zu vermeiden. Doch auch im kaufmännischen Bereich kommt AIWM zum Einsatz. Die britische Bank Barclays beispielsweise setzt in einigen ihrer Büros eine Tracking-Software ein, um die Zeit am Schreibtisch oder die Länge der Toilettenpausen zu überwachen. Die Software informiert die Mitarbeiter:innen, wenn der Algorithmus ihre Pausen für zu lang hält, was schließlich zu einer erhöhten Arbeitsintensität führt.

Verlust von Arbeitskontrolle und Selbstbestimmung

Weist ein Algorithmus an, zu welchem Zeitpunkt mit welchem Tempo welche Arbeitstätigkeit zu verrichten ist, bleibt wenig über, was der:die Arbeitnehmer:in noch selbst entscheiden kann. Darüber hinaus diktieren die meisten algorithmischen und KI-basierten Systeme dem:r Arbeitnehmer:in, wie er:sie seine Arbeit oder Aufgaben auszuführen hat. Dies hat idR einen Verlust der Autonomie und Kontrolle über die Arbeit zur Folge und führt seinerseits zu hohem Stressausmaß, geringerer Produktivität und erhöhten Krankenständen. Die größten negativen Auswirkungen auf die psychische Gesundheit zeigen sich bei der Kombination aus geringer Arbeitskontrolle und hohen, kognitiven Anforderungen bei der Arbeit.

Entmenschlichung von Arbeitnehmer:innen

Übermäßige Lenkung, Bewertung oder Maßregelung von Arbeitnehmer:innen durch AIWM zwingen die Menschen langfristig dazu, sich wie Maschinen zu verhalten. Diese Dehumanisierung zeitigt weitreichende Folgen, insbesondere verringern sich die kognitiven und intellektuellen Fähigkeiten. Und kreatives und unabhängiges Denken nimmt ab. Der Mensch wird abhängig vom Warn- und Informationssystem der KI und verliert zunehmend die eigene Fähigkeit, selbst Hinweise wahrzunehmen und Gefahren zu erkennen.

Datafizierung von Arbeitnehmer:innen

Für AIWM ist der:die Arbeitnehmer:in eine Sammlung digitaler Daten, die er:sie während des Arbeitens produziert und zwar im Rahmen eines Handlungs- und Gefühlsfreiraums, der noch dazu durch AIWM eingeengt ist. Diese “Datafizierung”, die Quantifizierung des menschlichen Lebens, die Betrachtung des:r Arbeitnehmers:in als bloßer “objektiver” Datensatz wirft nicht nur ethische Fragen auf, sondern ist auch wissenschaftlich umstritten.

Diskriminierung und Verwendung von privaten und sensiblen Daten

AIWM-Systeme können auch private und sensible Daten sammeln wie z.B. Geschlecht, Ethnie, Nationalität, Alter, sexuelle Orientierung, Geschlechtsidentität etc.. Auf Grundlage dieser gesammelten Merkmale können sie Annahmen und Vorhersagen treffen und die Daten für automatisierte (diskriminierende) Entscheidungen heranziehen. Diskriminierung ist anerkanntermaßen ein Hauptstressfaktor am Arbeitsplatz und trägt zu psychischen Gesundheitsproblemen bei.

Negative Auswirkungen der Leistungsüberwachung und -bewertung

Ständige Leistungsüberwachung führt nicht nur zu oben genannter Arbeitsintensivierung, sondern auch zur Vernachlässigung und Beeinträchtigung sozialer Interaktion, etwa um den AIWM-Anweisungen zu folgen oder den vorgegebenen Zeitplan einzuhalten. Werden die individuellen Leistungsdaten auch veröffentlicht, so führt dies zu einem ungesunden Wettbewerbsumfeld unter Kolleg:innen. Eine bei Disney Resorts eingeführte elektronische Anzeigetafel (“Leaderboard”), die die Leistungen des Wäschereipersonals verfolgte, wurde von den Arbeitnehmer:innen als “elektronische Peitsche” bezeichnet. Diese Art von Druck führt mitunter zu Angstzuständen und verringertem Selbstwert. Leistungsdruck und Verunsicherung können auch durch algorithmische Bewertungssysteme für Kundenzufriedenheit verschärft werden. Das gilt vor allem dann, wenn die Bewertungskriterien und -prozesse intransparent sind und die Bewertung nicht angefochten werden kann.

Förderung riskanter, sicherheitsgefährdender Verhaltensweisen

Leistungsdruck und Arbeitsintensivierung, die durch AIWM erzeugt wird, verstärkt die Tendenz zu riskantem und sicherheitsgefährdendem Verhalten. So können Arbeitnehmer:innen beispielsweise beschließen, die Schutzvorrichtung einer Maschine zu entfernen, um den Arbeitsvorgang in kürzerer Zeit abzuschließen. Oder sie wählen einen schnelleren oder gefährlicheren Weg, um die Waren an die Verbraucher:innen zu liefern. Eine übermäßige Kontrolle kann auch zu einer geringen Sicherheitskultur führen, da die Arbeitnehmer:innen beginnen, die Produktivität über die Sicherheit zu stellen. In Folge des Zeitdrucks nimmt der Wissensaustausch zwischen Kolleg:innen über Sicherheit und Gesundheitsschutz bei der Arbeit ab.

Ergonomische Probleme

Durch AIWMS erzwungenes, hohes Arbeitstempo und große Arbeitsmenge können auch zu einer höheren Anzahl von sich wiederholenden Bewegungen und ungünstigen Körperhaltungen ohne ausreichende Erholungspausen führen. Dementsprechend erhöht sich das Risiko für Muskel-Skelett-Erkrankungen, arbeitsbedingten Stress, Müdigkeit und Erschöpfung.

Dequalififzierung von Arbeitnehmer:innen

Die Übernahme von bislang menschlichen Aufgaben durch Maschinen macht menschliche Fähigkeiten teilweise obsolet. Sie führt zu arbeitsbedingtem Stress, erhöhter Langeweile und sinkender Arbeitszufriedenheit. So zeigte eine Studie über ein italienisches Amazon-Lager, dass die Arbeitnehmer:innen durch die algorithmische Steuerung wesentliches und erforderliches Wissen für die Ausführung ihrer Arbeitsaufgaben verloren haben. Was der Mensch also früher machte, weil er es konnte, kann er jetzt nur mehr machen, weil ihm ein Algorithmus sagt, was zu tun ist.

Vereinsamung und soziale Isolation

Der Fokus von AIWM auf die Produktivitätsoptimierung führt oft zu eingeschränkter oder fehlender Kommunikation zwischen den Arbeitnehmer:innen. Das kann einen Mangel an sozialer Unterstützung, verstärkten Wettbewerb unter Beschäftigten und eine Gefährdung von Zusammenarbeit, Teamgeist und Arbeitsklima verursachen. Diese Probleme begünstigen Mobbing und Bullying am Arbeitsplatz. Gefühle der Isolation wiederum können zu Depressionen und Angstzuständen führen. Sie können sogar die Fähigkeit des Menschen zum Denken und zur Entscheidungsfindung verringern. Isoliertes Arbeiten kann auch mangels Vorbildern und Mentor:innen die berufliche Identität beeinträchtigen. AIWM-Systeme können nicht wie menschliche Führungskräfte soziale Unterstützung geben, um die negativen Auswirkungen belastender Arbeitssituationen zu mildern.

Mangelnde Transparenz

Nicht nur Arbeitnehmer:innen, auch Manager:innen wissen meist nicht, wie AIWM-Systeme funktionieren. Die Überwachung der Arbeitnehmer:innen und die Nutzung von AIWM-Systemen in den Unternehmen erfolgt zudem idR – so der Bericht der EU-OSHA – intransparent und ohne angemessene Einbindung der Arbeitnehmer:innen. AIWM-Systeme sind von Informationsasymmetrien geprägt, die nur jenen einen Vorteil verschaffen, die über umfassende Informationen verfügen.

Widerstand gegen das algorithmische Management

In einer Untersuchung bei Fahrer:innen von Uber und Lyft über deren Motivation, algorithmisch zugewiesene Aufträge zu befolgen, fanden sich zahlreiche Vorgehen, wie Fahrer:innen das System zu manipulieren suchten, etwa um lange Fahrten, gefährliche Gegenden oder Fahranfragen zu vermeiden. Feindseligkeit und mangelndes Vertrauen zwischen Arbeitnehmer:innen und Arbeitgeber:innen mit all ihren negativen psychosozialen Auswirkungen sind die Folge.

Asymmetrische Machtverhältnisse

AIWM-Systeme verlagern durch Überwachung und Datensammlung Macht von den Arbeitnehmer:innen auf die Arbeitgeber:innen. Die wettbewerbsorientierte Kultur, die AIWM schafft, hindert zudem Arbeitnehmer:innen daran, sich zusammen zu schließen. Dadurch verschlechtert sich ihre Verhandlungsmacht. Diese Machtasymmetrie kann bei Arbeitnehmer:innen Gefühle der Angst und Verletzlichkeit auslösen.

AIWMS-Fehlfunktionen und Folgen für die Arbeitnehmer:innen

Probleme oder Ungenauigkeiten bei der Dateneingabe oder -analyse und andere Softwareprobleme der AIWMS können zu gravierenden Schäden führen. Das können beispielsweise schwerwiegende Unfälle vor allem bei falschen algorithmischen Arbeitsanweisungen in Lager und Produktion sein. Algorithmischer Desinformation kann Verwirrung und Frustation auslösen oder Desorganisation etc.

Chancen KI-basierten Arbeitskräftemanagements

Überwachen von Gefährdungen

Die Überwachung des Arbeitsplatzes und die Analyse des menschlichen Arbeitsverhaltens durch AIWM in Echtzeit können auch für das Überwachen der sicherheitstechnischen und gesundheitlichen Gefahren (zB Körperhaltung, Aufmerksamkeit) und die Einhaltung von Schutzvorschriften (zB Tragen von persönlicher Schutzausrüstung) genutzt werden. Im arbeitsmedizinischen Bereich können gesammelte Daten die Diagnose von arbeits- oder berufsbedingten Erkrankungen unterstützen.

Überwachung der psychischen Gesundheit und digitale Beratung

KI kann beispielsweise durch Analyse von Sprach- und Schreibmustern Stress erkennen. Durch die Bewertung von Belastungsfaktoren kann KI die Wahrscheinlichkeit psychosozialer Probleme einschätzen. Sie kann durch Sprach- und Textanalysen von Gesprächen oder e-Mails Mobbing oder Belästigung aufdecken etc. Ebenso kann KI Präventionsmaßnahmen oder gegensteuernde Aktivitäten vorschlagen oder digitale Beratungen in Form von Chatbots anbieten.

Mitarbeitereinbindung und -zufriedenheit

Zielen AIWM-Systeme weniger auf die Kontrolle, sondern mehr auf die Unterstützung der menschlichen Leisungsfähigkeit und Zusammenarbeit ab, kann KI beispielsweise Personen mit relevanten Fähigkeiten identifizieren, die bei einer Aufgabe helfen können. Oder sie können als virtuelle:r Assistent:in fungieren, um personal- oder arbeitsbezogene Informationen zu geben etc.. Weiters können sie durch Gamification Motivationslagen, Lernerfolge u.a. positiv beeinflussen. AIWM-Systeme können so Einbindung und Zufriedenheit der Arbeitenden steigern.

Personalisierung von Arbeitsplätzen und -abläufen

AIWM-Systee können eine bessere Übereinstimmung von Arbeitsaufgabe und Arbeitnehmer:in herbeiführen durch Anpassung der Aufgabe an die Bedürfnisse der Arbeitnehmer:innen, zB an Alter, Ermüdungsgrad, Behinderung etc.

Gesunde und sichere Arbeitsgestaltung

Durch AIWM-Systeme gesammelte Arbeitsplatzdaten können bei der Gestaltung und Durchführung von Sicherheitstrainings und Gesundheitsförderprogrammen hilfreich sein. Genauso dienlich können sie bei einer risikominimierenden Gestaltung von Stellen, Arbeitsplätzen und Arbeitszeitmodellen sein. Oder sie können bei der Erstellung von individuellen Risikoprofilen und Personaleinsatzplänen gute Dienste leisten.

Angesichts der Risiken schlägt die EU-OSHA schlussfolgernd in ihrem Bericht vor, die Gestaltung und Anwendung von AIWM-Systemen auf den Menschen hin auszurichten: “AIWM sollte in einer vertrauenswürdigen, transparenten, befähigenden und verständlichen Art und Weise konzipiert, umgesetzt und verwaltet werden, die die Beratung, die Beteiligung und den gleichberechtigten Zugang der Arbeitnehmer:innen zu Informationen gewährleistet, den Menschen die Kontrolle überlässt und somit sicherstellt, dass AIWM nicht dazu dient, Arbeitnehmer:innen zu ersetzen, sondern sie zu unterstützen”. Sie fordert u.a. “die Schaffung eines soliden ethischen Rahmens, der die Entwicklung, Umsetzung und Nutzung von AIWM beschreibt, sowie die Sicherstellung, dass für AIWM geltende gesetzliche Bestimmungen eingehalten werden” (Reinhold et al. 2022, S. 24, eigene Übersetzung).

Die Conclusio der EU-OSHA und die Chancen KI-basierten Arbeitskräftemanagements nehmen sich bescheiden, fast naiv aus gegenüber seinen Risiken der Dehumanisierung, Dequalifizierung und sozialen Isolation. Die Verbreitung künstlicher intelligenz in allen Lebensbereichen wird es nicht einfacher machen, die natürliche Intelligenz wach zu halten. Künstlich-intelligente oder algorithmische Systeme zum Management von Beschäftigten werden kognitiv und emotional natürlich-intelligente, vernunft-begabte Manager:innen nicht ersetzen können. Nutzen wir smarte Technologien, aber schalten wir mit dem KI-Power-Knopf nicht unseren smarten Kopf aus! Was zu beweisen bleibt.