Darf mich Künstliche Intelligenz entlassen?

Ob Arbeitnehmendenschutz, Personalentscheide oder Datenschutz – KI hat Auswirkungen auf verschiedene Aspekte, die im Arbeitsalltag wichtig sind. Dementsprechend stellen sich für Arbeitnehmende zahlreiche Fragen: Was passiert, wenn eine KI meine Bewerbung aussortiert? Darf meine Leistung und Produktivität von einer KI überwacht und bewertet werden? Kann KI entscheiden, ob ich befördert oder entlassen werde?

Die Beantwortung dieser Fragen ist eine Herausforderung, denn «KI ist in der Schweiz praktisch nicht reguliert und dementsprechend gibt es kaum Gesetze oder eine Rechtsprechung, wie KI im Arbeitsprozess eingesetzt werden darf», erklärt Roman Schister, Kursleiter des CAS Arbeitsrecht an der OST – Ostschweizer Fachhochschule. Und dies, obwohl KI in Schweizer Unternehmen längst Einzug gehalten hat.

Einwilligen, ohne es zu merken

Eine Studie von EY Schweiz hat ergeben, dass über 80 Prozent der Schweizer Führungskräfte im vergangenen Jahr KI eingesetzt haben, um ihre Kosten zu senken und Gewinne zu steigern. «Da KI als Technologie in der Schweiz nur wenig reguliert ist, hat das Schweizer Datenschutzgesetz derzeit den grössten Einfluss auf den Einsatz von KI-Systemen», sagt Roman Schister. Wenn man im Bewerbungsprozess zum Beispiel wissen möchte, ob man von einer KI aussortiert wurde, kann man Ansprüche aus dem Datenschutzgesetz geltend machen. «Das Unternehmen muss Auskunft darüber geben, wie Personendaten aus der Bewerbung verwendet wurden. Dazu gehört auch die Bearbeitung durch KI-Anwendungen», erklärt der Kursleiter des CAS Arbeitsrecht. Werden Personalentscheide mithilfe von KI gefällt, brauchen Unternehmen dafür die Einwilligung der sich bewerbenden Personen. Immer mehr Unternehmen nutzen Bewerbungsplattformen, auf denen man diese Einwilligung aber ohnehin geben muss – sonst könnte man sich oft gar nicht bewerben. «Viele Bewerberinnen und Bewerber geben ihre Einwilligungserklärung ab, ohne genau zu lesen, was das bedeutet. Wenn man aber nicht eingewilligt hat, hat man zumindest das Recht, dass ein Mensch die Entscheidung der KI-Anwendung überprüft.»

Wenn ich entlassen werde, weil eine KI-Anwendung meine Leistung als zu schlecht einstuft und ich das herausfinde, habe ich trotzdem keinen Anspruch, wieder eingestellt zu werden

Dr. iur. Roman Schister
Kursleiter des CAS Arbeitsrecht an der OST – Ostschweizer Fachhochschule

Schweiz verfolgt technologieneutralen Ansatz

Eine Technologie zu regulieren, von der man nicht weiss, wie sie sich in Zukunft entwickeln wird, ist laut Roman Schister eine grosse Herausforderung. Deshalb verfolge die Schweiz derzeit einen technologieneutralen Ansatz. Das heisst, was bisher nach dem Arbeitsgesetz nicht erlaubt war, ist es auch mit dem Einsatz von KI-Technologien nicht. Das gilt zum Beispiel für die Überwachung. So dürfen Mitarbeitende bei der Arbeit nicht gefilmt werden, es sei denn, es gibt überwiegende Interessen, die die Aufnahme rechtfertigen. Der Kassenbereich einer Bank darf zum Beispiel aus Sicherheitsgründen überwacht werden. Der Fokus muss aber auf dem Schalter liegen und das Material darf nicht zur gezielten Überwachung von Mitarbeitenden eingesetzt werden. Leistungskontrollen sind zulässig, wenn sie auch ohne KI schon durchgeführt werden durften – zum Beispiel, wie viel Umsatz eine Mitarbeiterin oder ein Mitarbeiter generiert hat. Roman Schister fasst zusammen: «Wenn es bereits eine analoge verhältnismässige Art gibt, die Arbeitnehmenden zu kontrollieren, dann ist diese auch mit KI-Anwendungen erlaubt.»

Im Schweizer Arbeitsrecht gibt es allerdings kein Recht auf Anstellung oder auf Weiterbeschäftigung. «Wenn ich entlassen werde, weil eine KI-Anwendung meine Leistung als zu schlecht einstuft und ich das herausfinde, habe ich trotzdem keinen Anspruch, wieder eingestellt zu werden», zeigt Roman Schister auf. Im Ausland gelten zum Teil strengere Regeln und Arbeitnehmende haben allenfalls sogar einen Anspruch, weiterbeschäftigt zu werden.

Wenn es bereits eine analoge verhältnismässige Art gibt, die Arbeitnehmenden zu kontrollieren, dann ist diese auch mit KI-Anwendungen erlaubt.

Arbeitnehmende in der EU sind besser geschützt

In Sachen KI-Regulierung hat die EU im vergangenen Jahr einen grossen Schritt gemacht. Im August 2024 trat in den EU-Ländern das weltweit erste umfassende KI-Gesetz in Kraft: der EU Artificial Intelligence Act, auch AI Act genannt. Der AI Act teilt KI-Systeme in Risikoklassen ein und stellt damit je nach Einsatzbereich der KI unterschiedlich strenge Anforderungen. Geht von dem KI-System ein unannehmbares Risiko aus, ist es verboten. Darunter fällt zum Beispiel eine KI zur Ableitung von Emotionen einer Person am Arbeitsplatz – Anwendungen also, bei denen «Social Scoring» droht. Hierbei werden für erwünschtes Verhalten Punkte vergeben und für als negativ empfundenes Verhalten Punkte abgezogen.

«Die meisten KI-Systeme, die im HR-Bereich eingesetzt werden, gelten wahrscheinlich als sogenannte Hochrisikosysteme», schätzt Roman Schister ein. Diese Systeme stellen ein Risiko für die Sicherheit oder die Grundrechte der Betroffenen dar. Im AI Act werden zum Beispiel KI-Systeme genannt, die bei der Rekrutierung verwendet werden oder die Entscheidungen im Zusammenhang mit der Förderung oder Beendigung von Arbeitsverträgen treffen. Als hochriskant gelten auch KI-Systeme, die das Verhalten und die Leistung von Personen am Arbeitsplatz überwachen und bewerten (AI Act, Anhang III, Ziff. 4). Roman Schister erläutert, welche Anforderungen für diese Systeme gelten: «Es muss ein Risikomanagementsystem eingerichtet werden, das die Risiken identifiziert und aufzeigt, wie diese mitigiert werden können. Ausserdem muss eine menschliche Aufsicht über die KI-Anwendungen sichergestellt werden.»

Mit dem AI Act sind Arbeitnehmende in der EU besser geschützt als hierzulande. Algorithm Watch CH äussert sich besorgt über die aktuelle Situation in der Schweiz: Unser Rechtssystem schütze Arbeitnehmende nicht ausreichend vor den Risiken von KI in Arbeitsbereichen wie Rekrutierung, Produktivitätskontrolle oder Überwachung.

Schweizer Regulierung soll mit AI Act kompatibel sein

«Die Technologieregulierung in der Schweiz ist für viele aber ohnehin sekundär. Denn für die Herstellerinnen und Hersteller von KI-Technologien sind in erster Linie die Regeln der EU relevant», relativiert Roman Schister die Bedeutung der Schweiz. Er geht davon aus, dass die Schweiz das Datenschutzgesetz anpassen und einen gewissen Nachvollzug des AI Act vornehmen wird. Die Schweizer KI-Regulierung sollte auf jeden Fall mit dem AI Act kompatibel sein – wie auch der Bundesrat diesbezüglich betont hat. Bereits jetzt können Schweizer Unternehmen in den Anwendungsbereich des AI Act fallen, zum Beispiel wenn sie von KI-Systemen generierte Ergebnisse in der EU verwenden möchten.

Wie einer aktuellen Medienmitteilung des Bundesrates zu entnehmen ist, wird die Schweiz die Konvention des Europarats zu KI ratifizieren und die dafür notwendigen Anpassungen im Schweizer Recht vornehmen. Bis diese jedoch in Kraft treten, kann es noch ein paar Jahre dauern – Jahre, in denen sich KI rasant weiterentwickeln wird.