Puestos a prueba frente a guías de terapia de grandes instituciones médicas, los modelos de lenguaje actuales respondieron de forma inapropiada a condiciones críticas, incluso los más nuevos y grandes, informaron los investigadores

Fecha del hecho / publicación

Categoría de la evidencia

Tareas sobre las que incide

Dónde aplica esto

Un estudio de laboratorio que recopiló las guías de terapia que usan grandes instituciones médicas — por ejemplo, la importancia de una alianza terapéutica — y puso a prueba frente a ellas modelos de lenguaje actuales como gpt-4o. Los modelos expresaron estigma hacia las personas con trastornos de salud mental y respondieron de forma inapropiada a ciertas condiciones comunes y críticas, llegando a alentar el pensamiento delirante de los clientes, incluso en modelos más grandes y más nuevos; los autores señalan además obstáculos como que una alianza terapéutica requiere características humanas. Pone a prueba modelos en escenarios construidos, no productos ni consejeros.

Qué significa esto

Qué no muestra todavía

Un preprint en escenarios construidos; los productos desplegados y los modelos futuros pueden ser distintos.

Qué puedes comprobar

¿Cambia la evaluación?

Fuente