Los chatbots de IA suspenden en desinformación médica: ofrecen consejos inexactos y fabricados
Los chatbots de inteligencia artificial no están logrando proporcionar información médica fiable, según una reciente auditoría publicada en la revista BMJ Open. Los investigadores evaluaron el rendimiento de estos modelos de lenguaje de gran tamaño planteando 10 preguntas específicas divididas en cinco categorías: cáncer, vacunas, células madre, nutrición y rendimiento deportivo.
Los resultados indican que el 49,6% de las respuestas generadas por los chatbots fueron clasificadas como problemáticas. Concretamente, el 30% de las respuestas se etiquetaron como "algo problemáticas", mientras que el 19,6% se categorizaron como "altamente problemáticas", al contener inexactitudes significativas o datos inventados.
Tal y como informa PsyPost, la rápida integración de la IA en el sector médico está superando actualmente la capacidad de la tecnología para mantener la precisión factual. Aunque estos modelos se utilizan cada vez más para ayudar a los médicos en la documentación, la toma de decisiones y la educación del paciente, el estudio subraya un fallo fundamental y persistente en su arquitectura.
Los modelos de lenguaje de gran tamaño son propensos a las "alucinaciones", un fenómeno en el que el sistema genera información falsa con total seguridad. Dado que estos modelos están diseñados para comunicarse en un lenguaje natural y humano, a los usuarios a menudo les resulta difícil distinguir entre una orientación médica experta y la desinformación generada por la máquina.
Aunque investigaciones previas sugerían que la IA puede superar ocasionalmente a los expertos humanos en la predicción de resultados experimentales específicos, esta auditoría demuestra que tales capacidades no se traducen en una fiabilidad médica general. La alta tasa de error en temas de salud comunes plantea un desafío importante para la salud pública, especialmente a medida que más personas recurren a los chatbots en busca de respuestas inmediatas a problemas de salud graves.
Los investigadores enfatizaron que, a pesar del potencial de estas herramientas para beneficiar al campo médico, la generación actual de modelos propaga desinformación con frecuencia. Los hallazgos subrayan una brecha creciente entre la rápida adopción de la tecnología de IA y la implementación de los protocolos de seguridad necesarios para proteger a los usuarios de recibir consejos de salud peligrosos o inexactos.
