Az érzelmi mesterséges intelligencia (AI) olyan biológiai jeleket, mint a hangszín, arc kifejezések, viselhető eszközök adatait, valamint szöveges és számítógéphasználati információkat felhasználva ígéri, hogy felismeri és előrejelzi valakinek az érzéseit. Ez az AI széles körben alkalmazható, beleértve az egészségügyet és a munkahelyi környezetet is, ahol például hívóközpontok figyelik az operátorok mondanivalóját és hangnemét.
Azonban aggodalmak merültek fel az érzelmi AI tudományos érvényességével, az érzelmekkel kapcsolatos vitatott elméletekre való támaszkodásával, valamint a magánéletbe való beavatkozás, rasszizmus, nemi és fogyatékosság alapú előítéletek lehetőségével kapcsolatban.
Kutatásom a technológia társadalmi hatásait vizsgálja, különös tekintettel azon dolgozókra, akikre ezek az AI rendszerek alkalmazva vannak, különösen a faji, nemek közötti vagy fogyatékossággal élők által megtapasztalt marginalizálódás kontextusában. Dolgozókat kérdeztünk arról, mit gondolnak az ilyen technológiákról, és bár néhányan említettek lehetséges előnyöket, mint a jólét támogatását vagy a munkahelyi biztonságot, mindenki kifejezett aggályokat is. Ezek között szerepeltek a magánélet védelmének csökkenése, a munkateljesítmény és a munkahelyi státuszra gyakorolt káros hatások, valamint a mentális egészséggel kapcsolatos stigmatizáció.
Az eredmények rámutatnak, hogy az érzelmi AI fokozhatja a munkahelyi kihívásokat, ellenére azoknak az állításoknak, amelyek szerint ezeket a problémákat oldja meg. A dolgozók kifejezték, hogy az érzelmi AI használata további érzelmi munkát és magánéleti veszteséget okoz számukra, még akkor is, ha a technológia javítja az előítéletek kezelését vagy pontosabban méri azt, amit állít.
