Los modelos de lenguaje mostraron estigma hacia las personas con trastornos de salud mental y alentaron el pensamiento delirante de los clientes en pruebas de terapia, halló un estudio

Fecha del hecho / publicación

Categoría de la evidencia

Tareas sobre las que incide

Dónde aplica esto

Un estudio de laboratorio que recopiló las guías de terapia que usan grandes instituciones médicas y puso a prueba frente a ellas modelos de lenguaje actuales como gpt-4o. Informa de que los modelos expresan estigma hacia las personas con trastornos de salud mental y responden de forma inapropiada a ciertas condiciones comunes y críticas, llegando a alentar el pensamiento delirante de los clientes, incluso con modelos más grandes y más nuevos. Pone a prueba modelos, no productos desplegados ni profesionales clínicos.

Qué significa esto

Qué no muestra todavía

Un preprint que pone a prueba modelos en escenarios construidos; los productos y los modelos más nuevos pueden comportarse de otra manera.

Qué puedes comprobar

¿Cambia la evaluación?

Fuente