Quando a IA parece divulgar informações pessoais, os usuários podem ter mais empatia

Em um novo estudo, os participantes mostraram mais empatia por um agente antropomórfico de inteligência artificial (IA) on-line quando parecia divulgar informações pessoais sobre si mesmo enquanto conversava com os participantes. Takahiro Tsumura, da Graduate University for Advanced Studies, SOKENDAI em Tóquio, Japão, e Seiji Yamada, do Instituto Nacional de Informática, também em Tóquio, apresentam essas descobertas na revista de acesso aberto PLOS UM em 10 de maio de 2023.

O uso de IA na vida diária está aumentando, despertando o interesse em fatores que podem contribuir para o nível de confiança e aceitação que as pessoas sentem em relação aos agentes de IA. Pesquisas anteriores sugeriram que as pessoas são mais propensas a aceitar objetos artificiais se os objetos provocarem empatia. Por exemplo, as pessoas podem simpatizar com robôs de limpeza, robôs que imitam animais de estimação e ferramentas de bate-papo antropomórficas que fornecem assistência em sites.

Pesquisas anteriores também destacaram a importância de divulgar informações pessoais na construção de relacionamentos humanos. Com base nessas descobertas, Tsumura e Yamada levantaram a hipótese de que a auto-revelação por um agente antropomórfico de IA pode aumentar a empatia das pessoas em relação a esses agentes.

Para testar essa ideia, os pesquisadores realizaram experimentos online nos quais os participantes tiveram um bate-papo baseado em texto com um agente de IA online que foi representado visualmente por uma ilustração humana ou uma ilustração de um robô antropomórfico. O chat envolvia um cenário em que o participante e o agente eram colegas em um intervalo para almoço no local de trabalho do agente. Em cada conversa, o agente parecia revelar informações pessoais altamente relevantes para o trabalho, informações menos relevantes sobre um hobby ou nenhuma informação pessoal.

A análise final incluiu dados de 918 participantes cuja empatia pelo agente de IA foi avaliada por meio de um questionário de empatia padrão. Os pesquisadores descobriram que, em comparação com a auto-revelação menos relevante, a auto-revelação altamente relevante para o trabalho do agente de IA foi associada a uma maior empatia dos participantes. A falta de auto-revelação foi associada à empatia reprimida. A aparência do agente como um robô humano ou antropomórfico não teve uma associação significativa com os níveis de empatia.

Essas descobertas sugerem que a auto-revelação por agentes de IA pode, de fato, provocar empatia por parte dos humanos, o que pode ajudar a informar o desenvolvimento futuro de ferramentas de IA.

Os autores acrescentam: “Este estudo investiga se a auto-revelação por agentes antropomórficos afeta a empatia humana. Nossa pesquisa mudará a imagem negativa de artefatos usados ​​na sociedade e contribuirá para futuras relações sociais entre humanos e agentes antropomórficos”.