Modelos de linguagem exprimiram estigma em relação a pessoas com problemas de saúde mental e incentivaram o pensamento delirante dos clientes em testes de terapia, concluiu um estudo

Data do facto / publicação

Categoria da prova

Tarefas sobre as quais incide

Onde é que isto se aplica

Um estudo de laboratório que mapeou guias de terapia usados por grandes instituições médicas e pôs à prova, face a eles, modelos de linguagem atuais como o gpt-4o. Relata que os modelos exprimem estigma em relação a pessoas com problemas de saúde mental e respondem de forma inadequada a certos quadros comuns e críticos, incluindo incentivar o pensamento delirante dos clientes, mesmo com modelos maiores e mais recentes. Testa modelos, não produtos implementados nem clínicos.

O que isto significa

O que ainda não mostra

Uma pré-publicação que testa modelos em cenários construídos; os produtos e os modelos mais recentes podem comportar-se de outra forma.

O que podes verificar

Muda a avaliação?

Fonte