Wenn Ihre Chefin eine künstliche Intelligenz ist

oder Ihr Chef ein Algorithmus, dann überwacht Sie ein Artificial Intelligence based Worker Management (AIWM) System, erteilt Ihnen Arbeitsanweisungen und bewertet Ihre Leistung. Welche Chancen und Risiken in einem AIWM liegen, analysiert ein Bericht der European Agency for Safety and Health at Work (EU-OSHA).

Auf Künstlicher Intelligenz (KI) basierende Arbeitskräftemanagementsysteme sammeln in Echtzeit Daten vom Arbeitsplatz, vom:von der Arbeitnehmer:in, den Arbeitstätigkeiten und den verwendeten (digitalen) Werkzeugen. Auf Basis dieser gesammelten Daten treffen Algorithmen und höhere Formen Künstlicher Intelligenz Entscheidungen, steuern Arbeitsprozesse, Aufgabenverteilung und Arbeitsverhalten und bewerten Arbeitsleistungen, um Produktivität und Effizienz der Arbeitnehmer:innen zu optimieren.

Die Europäische Agentur für Sicherheit und Gesundheitsschutz am Arbeitsplatz (EU-OSHA) hat im Rahmen ihres Forschungsprogramms zu Auswirkungen der Digitalisierung auf Gesundheit, Sicherheit und Wohlbefinden von Arbeitnehmer:innen einen Bericht zu Artificial Intelligence Worker Management (AIWM) veröffentlicht (Reinhold et al. 2022). Die in diesem Bericht vorgestellte Analyse basiert auf Literaturrecherchen, eingehenden Expertenbefragungen und statistischen Datenanalysen der Dritten Europäischen Erhebung der EU-OSHA über neue und neu auftretende Risiken (ESENER-3) und diskutiert den aktuellen Einsatz sowie Risiken und Chancen eines auf Künstlicher Intelligenz (KI) beruhenden Arbeitskräftemanagements.

Künstliche Intelligenz zur Überwachung und Steuerung von Beschäftigten

Durch KI-Technologien sind zunehmend neue Formen der Überwachung und Steuerung von Beschäftigten entstanden. Neben Arbeitsplatz- und Arbeitsmitteldaten werden mittels mobiler oder integrierter Überwachungsgeräte Daten des:r Arbeitnehmer:in gesammelt: Tastatureingaben, eMail-Inhalte, Zahl und Inhalt von Telefonaten, Ortsbestimmungen per GPS, Körperbewegungen, Vitalwerte, Mikromimik, Tonfall u.a.m.. Diese Informationen werden entweder für Informationen an das Management verwendet und/oder direkt für automatisierte oder teilautomatisierte Entscheidungen durch Algorithmen oder weiter fortgeschrittene Formen Künstlicher Intelligenz.

AIWM-Systeme werden vorwiegend eingesetzt, um Produktivität und Effizienz der Arbeitnehmer:innen zu steigern, beispielsweise durch Leistungs-, Sicherheits- und Emotionsüberwachung, Eruieren von Prozessabweichungen und Kündigungsabsichten, Automatisierung von Zeitplänen und Aufgabenzuweisungen, Erteilung von Verfahrens- und Arbeitsanweisungen u.a.m.. Nachdem AIWM-Systeme die Ausführungen und Konsequenzen ihrer Entscheidungen über eine veränderte Datenlage rückgemeldet bekommen, “lernt” die Künstliche Intelligenz und optimiert die Arbeitsprozesse und ihre eigene Entscheidungsfindung.

Risiken KI-basierten Arbeitskräftemanagements

  • Arbeitsintensivierung
    AIWM-Systems zielen auf die Optimierung der Produktivität ab und führen dadurch meist zur Arbeitsintensivierung. Typisch ist der Einsatz in der Lagerlogistik: AIWM wird zur Verfolgung der Auftragsabwicklungszeit sowie der Bewegungen, Fehler und Pausen der Arbeitnehmer eingesetzt, um “unnötige” Zeitverzögerungen zu vermeiden. Doch auch im kaufmännischen Bereich kommt AIWM zum Einsatz: Die britische Bank Barclays beispielsweise setzt in einigen ihrer Büros eine Tracking-Software ein, um die Zeit am Schreibtisch oder die Länge der Toilettenpausen zu überwachen, und informiert die Mitarbeiter:innen, wenn der Algorithmus ihre Pausen für zu lang hält, was schließlich zu einer erhöhten Arbeitsintensität führt.
  • Verlust von Arbeitskontrolle und Selbstbestimmung
    Weist ein Algorithmus an, zu welchem Zeitpunkt mit welchem Tempo welche Arbeitstätigkeit zu verrichten ist, bleibt wenig über, was der:die Arbeitnehmer:in noch selbst entscheiden kann. Darüber hinaus diktieren die meisten algorithmischen und KI-basierten Systeme dem:r Arbeitnehmer:in, wie er:sie seine Arbeit oder Aufgaben auszuführen hat. Dies hat idR einen Verlust der Autonomie und Kontrolle über die Arbeit zur Folge und führt seinerseits zu hohem Stressausmaß, geringerer Produktivität und erhöhten Krankenständen. Die größten negativen Auswirkungen auf die psychische Gesundheit zeigen sich bei der Kombination aus geringer Arbeitskontrolle und hohen, kognitiven Anforderungen bei der Arbeit.
  • Entmenschlichung von Arbeitnehmer:innen
    Übermäßige Lenkung, Bewertung oder Maßregelung von Arbeitnehmer:innen durch AIWM zwingen die Menschen langfristig dazu, sich wie Maschinen zu verhalten. Diese Dehumanisierung zeitigt weitreichenden Folgen, insbesondere verringern sich die kognitiven und intellektuellen Fähigkeiten, und kreatives und unabhängiges Denken nimmt ab. Der Mensch wird abhängig vom Warn- und Informationssystem der KI und verliert zunehmend die eigene Fähigkeit, selbst Hinweise wahrzunehmen und Gefahren zu erkennen.
  • Datafizierung von Arbeitnehmer:innen
    Für AIWM ist der:die Arbeitnehmer:in eine Sammlung digitaler Daten, die er:sie während des Arbeitens produziert und zwar im Rahmen eines Handlungs- und Gefühlsfreiraums, der noch dazu durch AIWM eingeengt ist. Diese “Datafizierung”, die Quantifizierung des menschlichen Lebens, die Betrachtung des:r Arbeitnehmers:in als bloßer “objektiver” Datensatz wirft nicht nur ethische Fragen auf, sondern ist auch wissenschaftlich umstritten.
  • Diskriminierung und Verwendung von privaten und sensiblen Daten
    AIWM-Systeme können auch private und sensible Daten sammeln, auf Grundlage dieser gesammelten Merkmale (zB Geschlecht, Ethnie, Nationalität, Alter, sexuelle Orientierung, Geschlechtsidentität etc.) Annahmen und Vorhersagen treffen und für automatisierte (diskriminierende) Entscheidungen heranziehen. Diskriminierung ist anerkanntermaßen ein Hauptstressfaktor am Arbeitsplatz und trägt zu psychischen Gesundheitsproblemen bei.
  • Negative Auswirkungen der Leistungsüberwachung und -bewertung
    Ständige Leistungsüberwachung führt nicht nur zu oben genannter Arbeitsintensivierung, sondern auch zur Vernachlässigung und Beeinträchtigung sozialer Interaktion, etwa um den AIWM-Anweisungen zu folgen oder den vorgegebenen Zeitplan einzuhalten. Werden die individuellen Leistungsdaten auch veröffentlicht, so führt dies zu einem ungesunden Wettbewerbsumfeld unter Kolleg:innen. Eine bei Disney Resorts eingeführte elektronische Anzeigetafel (“Leaderboard”), die die Leistungen des Wäschereipersonals verfolgte, wurde von den Arbeitnehmer:innen als “elektronische Peitsche” bezeichnet. Diese Art von Druck führt mitunter zu Angstzuständen und verringertem Selbstwert. Leistungsdruck und Verunsicherung können auch durch algorithmische Bewertungssysteme für Kundenzufriedenheit verschärft werden, vor allem wenn die Bewertungskriterien und -prozesse intransparent sind und die Bewertung nicht angefochten werden kann.
  • Förderung riskanter, sicherheitsgefährdender Verhaltensweisen
    Leistungsdruck und Arbeitsintensivierung, die durch AIWM erzeugt wird, verstärkt die Tendenz zu riskantem und sicherheitsgefährdendem Verhalten. So können Arbeitnehmer beispielsweise beschließen, die Schutzvorrichtung einer Maschine zu entfernen, um den Arbeitsvorgang in kürzerer Zeit abzuschließen, oder einen schnelleren oder gefährlicheren Weg zu wählen, um die Waren an den Verbraucher zu liefern. Eine übermäßige Kontrolle kann auch zu einer geringen Sicherheitskultur führen, da die Arbeitnehmer beginnen, die Produktivität über die Sicherheit zu stellen. In Folge des Zeitdrucks nimmt der Wissensaustausch zwischen Kolleg:innen über Sicherheit und Gesundheitsschutz bei der Arbeit ab.
  • Ergonomische Probleme
    Durch AIWMS erzwungenes, hohes Arbeitstempo und große Arbeitsmenge können auch zu einer höheren Anzahl von sich wiederholenden Bewegungen und ungünstigen Körperhaltungen ohne ausreichende Erholungspausen führen. Dementsprechend erhöht sich das Risiko für Muskel-Skelett-Erkrankungen, arbeitsbedingten Stress, Müdigkeit und Erschöpfung.
  • Dequalififzierung von Arbeitnehmer:innen
    Die Übernahme von bislang menschlichen Aufgaben durch Maschinen macht menschliche Fähigkeiten teilweise obsolet und führt zu arbeitsbedingtem Stress, erhöhter Langeweile und sinkender Arbeitszufriedenheit. So zeigte eine Studie über ein italienisches Amazon-Lager, dass die Arbeitnehmer:innen durch die algorithmische Steuerung wesentliches und erforderliches Wissen für die Ausführung ihrer Arbeitsaufgaben verloren haben. Was der Mensch also früher machte, weil er es konnte, kann er jetzt nur mehr machen, weil ihm ein Algorithmus sagt, was zu tun ist.
  • Vereinsamung und soziale Isolation
    Der Fokus von AIWM auf die Produktivitätsoptimierung führt oft zu eingeschränkter oder fehlender Kommunikation zwischen den Arbeitnehmer:innen und damit zum Mangel an sozialer Unterstützung, zu einem verstärkten Wettbewerb unter den Beschäftigten und zur Gefährdung von Zusammenarbeit, Teamgeist und Arbeitsklima. Diese Probleme begünstigen Mobbing und Bullying am Arbeitsplatz. Gefühle der Isolation wiederum können zu Depressionen und Angstzuständen führen und sogar die Fähigkeit des Menschen zum Denken und zur Entscheidungsfindung verringern. Isoliertes Arbeiten kann auch mangels Vorbildern und Mentor:innen die berufliche Identität beeinträchtigen. AIWM-Systeme können nicht wie menschliche Führungskräfte soziale Unterstützung geben, um die negativen Auswirkungen belastender Arbeitssituationen zu mildern.
  • Mangelnde Transparenz
    Nicht nur Arbeitnehmer:innen, auch Manager:innen wissen meist nicht, wie AIWM-Systeme funktionieren. Die Überwachung der Arbeitnehmer:innen und die Nutzung von AIWM-Systemen in den Unternehmen erfolgt zudem idR – so der Bericht er EU-OSHA – intransparent und ohne angemessene Einbindung der Arbeitnehmer:innen. AIWM-Systeme sind von Informationsasymmetrien geprägt, die nur jenen einen Vorteil verschaffen, die über umfassende Informationen verfügen.
  • Widerstand gegen das algorithmische Management
    In einer Untersuchung bei Fahrer:innen von Uber und Lyft über deren Motivation, algorithmisch zugewiesene Aufträge zu befolgen, fanden sich zahlreiche Vorgehen, wie Fahrer:innen das System zu manipulieren suchten, etwa um lange Fahrten, gefährliche Gegenden oder Fahranfragen zu vermeiden. Feindseligkeit und mangelndes Vertrauen zwischen Arbeitnehmer:innen und Arbeitgebern mit all ihren negativen psychosozialen Auswirkungen sind die Folge.
  • Asymmetrische Machtverhältnisse
    AIWM-Systeme verlagern durch Überwachung und Datensammlung Macht von den Arbeitnehmer:innen auf die Arbeitgeber. Die wettbewerbsorientierte Kultur, die AIWM schafft, hindert zudem Arbeitnehmer:innen, sich zusammen zu schließen, und verschlechtert dadurch ihre Verhandlungsmacht. Diese Machtasymmetrie kann bei Arbeitnehmer:innen Gefühle der Angst und Verletzlichkeit auslösen.
  • AIWMS-Fehlfunktionen und Folgen für die Arbeitnehmer:innen
    Probleme oder Ungenauigkeiten bei der Dateneingabe oder -analyse und andere Softwareprobleme der AIWMS können zu gravierenden Schäden führen, ob schwerwiegende Unfälle vor allem bei falschen algorithmischen Arbeitsanweisungen in Lager und Produktion, Verwirrung und Frustation bei algrithmischer Desinformation oder Desorganisation etc.

Chancen KI-basierten Arbeitskräftemanagements

  • Überwachen von Gefährdungen
    Die Überwachung des Arbeitsplatzes und die Analyse des menschlichen Arbeitsverhaltens durch AIWM in Echtzeit können auch für das Überwachen der sicherheitstechnischen und gesundheitlichen Gefahren (zB Körperhaltung, Aufmerksamkeit) und die Einhaltung von Schutzvorschriften (zB Tragen von persönlicher Schutzausrüstung) genutzt werden. Im arbeitsmedizinischen Bereich können gesammelte Daten die Diagnose von arbeits- oder berufsbedingten Erkrankungen unterstützen.
  • Überwachung der psychischen Gesundheit und digitale Beratung
    KI kann beispielsweise durch Analyse von Sprach- und Schreibmustern Stress erkennen, durch die Bewertung von Belastungsfaktoren die Wahrscheinlichkeit psychosozialer Probleme einschätzen, durch Sprach- und Textanalysen von Gesprächen oder e-Mails Mobbing oder Belästigung aufdecken etc., Präventionsmaßnahmen oder gegensteuernde Aktivitäten vorschlagen oder digitale Beratungen in Form von Chatbots anbieten.
  • Mitarbeitereinbindung und -zufriedenheit
    Zielen AIWM-Systeme weniger auf die Kontrolle, sondern mehr auf die Unterstützung der menschlichen Leisungsfähigkeit und Zusammenarbeit ab, kann KI beispielsweise Personen mit relevanten Fähigkeiten identifizieren, die bei einer Aufgabe helfen können, oder als virtuelle:r Assistent:in fungieren, um personal- oder arbeitsbezogene Informationen zu geben etc. oder durch Gamification Motivationslagen, Lernerfolge u.a. positiv beeinflussen. AIWM-Systeme können so Einbindung und Zufriedenheit der Arbeitenden steigern.
  • Personalisierung von Arbeitsplätzen und -abläufen
    AIWM-Systee können eine bessere Übereinstimmung von Arbeitsaufgabe und Arbeitnehmer:in herbeiführen durch Anpassung der Aufgabe an die Bedürfnisse der Arbeitnehmer:innen, zB an Alter, Ermüdungsgrad, Behinderung etc.
  • Gesunde und sichere Arbeitsgestaltung
    Durch AIWM-Systeme gesammelte Arbeitsplatzdaten können bei der Gestaltung und Durchführung von Sicherheitstrainings und Gesundheitsförderprogrammen hilfreich sein, genauso wie bei einer risikominimierenden Gestaltung von Stellen, Arbeitsplätzen und Arbeitszeitmodellen oder bei der Erstellung von individuellen Risikoprofilen und Personaleinsatzplänen.

Angesichts der Risiken schlägt die EU-OSHA schlussfolgernd in ihrem Bericht vor, die Gestaltung und Anwendung von AIWM-Systemen auf den Menschen hin auszurichten – “AIWM sollte in einer vertrauenswürdigen, transparenten, befähigenden und verständlichen Art und Weise konzipiert, umgesetzt und verwaltet werden, die die Beratung, die Beteiligung und den gleichberechtigten Zugang der Arbeitnehmer:innen zu Informationen gewährleistet, den Menschen die Kontrolle überlässt und somit sicherstellt, dass AIWM nicht dazu dient, Arbeitnehmer:innen zu ersetzen, sondern sie zu unterstützen” – und fordert u.a. “die Schaffung eines soliden ethischen Rahmen, der die Entwicklung, Umsetzung und Nutzung von AIWM beschreibt, sowie die Sicherstellung, dass für AIWM geltende gesetzliche Bestimmungen eingehalten werden” (Reinhold et al. 2022, S. 24, eigene Übersetzung).

Die Conclusio der EU-OSHA und die Chancen KI-basierten Arbeitskräftemanagements nehmen sich bescheiden, fast naiv aus gegenüber seinen Risiken der Dehumanisierung, Dequalifizierung und sozialen Isolation. Die Verbreitung künstlicher intelligenz in allen Lebensbereichen wird es nicht einfacher machen, die natürliche Intelligenz wach zu halten. Künstlich intelligente oder algorithmische Systeme zum Management von Beschäftigten werden kognitiv und emotional natürlich intelligente, vernunft-begabte Manager:innen nicht ersetzen können. Nutzen wir smarte Technologien, aber schalten wir mit dem Druck auf den smart Power-Knopf nicht unsere Gehirn aus!

Sie wollen künstliche Intelligenz natürlich intelligent nutzen?

Ihr Sparringpartner:
Christian Müller

Unternehmensberater und Psychologe

Literatur

Die European Agency for Safety and Health at Work (EU-OSHA) ist eine Agentur der Europäischen Union mit Sitz in Bilbao, Spanien, und erstellt, sammelt, analysiert und publiziert Erkenntnisse und Informationen über Fragen der Sicherheit und des Gesundheitsschutz bei der Arbeit mit dem Ziel, durch eine Kultur der Risikoprävention die Arbeitsbedingungen in Europa zu verbessern.

Reinhold, K., Järvis, M., Christenko, A., Jankauskaitė, V., Paliokaitė, A., Riedmann, A. (2022): Artificial intelligence for worker management: implications for occupational safety and health. Report. Bilbao: European Agency for Safety and Health at Work.

Beitrag zuletzt aktualisiert am