Emotionserkennung am Arbeitsplatz

Für Arbeitnehmervertretungen ist das Verbot der Emotionserkennung wohl der relevanteste Fall:

Folgende Praktiken im KI-Bereich sind verboten: […] f) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz […] Art. 5 Abs. 1 lit. f EU-KI-VO

Die Begründung der Verordnung verweist auf ernsthafte Bedenken gegen die wissenschaftliche Grundlage solcher Systeme:

[…] insbesondere da sich Gefühlsausdrücke je nach Kultur oder Situation und selbst bei ein und derselben Person erheblich unterscheiden. Zu den größten Schwachstellen solcher Systeme gehört, dass sie beschränkt zuverlässig, nicht eindeutig und nur begrenzt verallgemeinerbar sind.

Begründung der EU-KI-VO, Erwägungsgrund 44

Solche Systeme können nach der Begründung diskriminierende Ergebnisse hervorbringen und in die Rechte und Freiheiten der Betroffenen eingreifen. Angesichts des Machtungleichgewichts in Arbeit und Bildung und ihres intrusiven Charakters können sie bestimmte Personen oder ganze Gruppen benachteiligen. Emotionen entstehen und äußern sich in einem komplexen sozialen Kontext und müssen in diesem Kontext interpretiert werden. Eine KI wird den gesamten Hintergrund etwa eines Gesprächs aber eher nicht verstehen und deshalb womöglich zu Fehleinschätzungen kommen. Der Verordnungsgeber wollte verhindern, dass daraus Nachteile für die Beteiligten entstehen.