Meine Reihe zu Emotion AI endet heute. In den letzten Wochen habe ich die Möglichkeiten und Gefahren dieser Technologie beleuchtet – oft kritisch. Warum?
❗️Weil sie die Vorstellung fördert, dass der wahre Ausdruck einer Person im Körperlichen zu finden sei, was theoretisch und ethisch fragwürdig ist. Eine Studie von Rhue (2018) zeigt z.B., dass Emotion AI dunkelhäutigen Menschen häufiger negative Emotionen zuschreibt als hellhäutigen.
⚖️ Der European Union AI Act erlaubt die Erkennung von Emotionen, verbietet aber die Zuschreibung emotionaler Zustände. Das bedeutet, Call Center Manager können sagen, dass Mitarbeitende verärgert klingen, aber nicht, dass sie es tatsächlich sind. Doch reale Konsequenzen bleiben: Was passiert in Bewerbungsgesprächen, wenn Personen vermehrt Wut zugeschrieben wird? Oder wenn Kindern in der Schule zugeschrieben wird, dass sie unkonzentriert sind.
❔ Möchten wir wirklich, dass Maschinen uns in dieser Art vermessen und einordnen? Gerade weil die Technik so problematisch und fehleranfällig ist. Und wie sinnvoll ist es überhaupt, dass Maschinen unsere Emotionen lesen?
🤔 Auch nach Abschluss dieser Blogserie wird mich das Thema weiter beschäftigen. Seit fast 20 Jahren forsche ich zu Gesten und ärgere mich immer wieder über den Mythos „Der Körper lügt nicht“, weil Gesten dadurch so missverstanden und fälschlich darauf reduziert werden. Emotion AI befeuert diese Fehlvorstellung erneut mit ganz realen Konsequenzen für uns alle.
💭 Und ich frage mich, was ich als Wissenschaftlerin tun kann? Ein Versuch, diese kleine Blog-Reihe, mit der Hoffnung, die Fallstricke dieser Technologie verstehbar zu machen und zum differenzierten Nachdenken anzuregen.
Daher vielen Dank an Euch fürs Lesen! Wie schätzt Ihr diese Technologie ein? Welche Gedanken schwirren Euch im Kopf herum?
📚 P.S. Wer für sich das Thema der emotionalen KI noch etwas umfassender interessiert, dem kann ich nur wärmstens das Buch „Menschen Versteher: Wie Emotionale Künstliche Intelligenz unseren Alltag erobert “ von Kenza Ait Si Abbou empfehlen.
—-
Referenzen: Rhue, Lauren, Racial Influence on Automated Perceptions of Emotions (November 9, 2018). Doi:10.2139/ssrn.3281765
Emotion AI: Eine Revolution oder ein ethisches Dilemma?
