¿Un médico en tu bolsillo o un
espejismo digital?
La escena es cada vez más
cotidiana: ante un dolor repentino, una erupción extraña o la duda sobre un
diagnóstico, millones de personas ya no acuden al buscador tradicional de
Google, sino que abren una aplicación de inteligencia artificial generativa. Le
escriben al chat como si de un médico de cabecera infatigable se tratara,
buscando respuestas rápidas y reconfortantes. Sin embargo, lo que parece un
avance tecnológico revolucionario esconde un peligro silencioso.
Una investigación internacional
publicada en la revista BMJ Open ha puesto a prueba el mito de la omnisciencia
digital. Liderado por científicos del Instituto Lundquist para la Innovación
Biomédica en Estados Unidos, el estudio evaluó el desempeño de cinco de los
gigantes de la IA actual: Gemini (Google), ChatGPT (OpenAI), DeepSeek, Meta AI
y Grok (xAI). El veredicto es alarmante: el 50% de las respuestas
proporcionadas sobre cuestiones médicas críticas fueron clasificadas como
“algo” o “altamente” problemáticas.
El protocolo de estrés: poniendo
a prueba el mito
Para medir la fiabilidad de estos
sistemas, los investigadores diseñaron un exigente protocolo compuesto por 250
consultas médicas divididas en cinco áreas de máxima sensibilidad: cáncer,
vacunas, células madre, nutrición y rendimiento deportivo. Las preguntas fueron
formuladas replicando los hábitos del usuario común, e incluso se introdujeron
trampas intencionadas para 'estresar' a los modelos y empujarlos hacia mitos
populares o terapias contraindicadas.
Los resultados revelaron que un
20% de las respuestas totales caían en la categoría de altamente problemáticas,
con el potencial real de orientar a los pacientes hacia tratamientos ineficaces
o causar daños directos a su salud si se seguían sin supervisión médica
especializada. El problema principal no radica solo en el error, sino en la
absoluta convicción con la que se transmite.
|
“Mucha gente tiende a pensar
que los chatbots son IA omniscientes con un pozo profundo de conocimiento.
Pero no poseen conocimiento en el sentido humano; no ‘saben’ cosas.” — Nicholas Tiller, investigador principal (Instituto
Lundquist) |
La trampa de la certeza y las
citas fantasma
Los chatbots están diseñados
mediante arquitecturas complejas para predecir la siguiente palabra más
probable a partir de vastos volúmenes de datos en internet, desde artículos
revisados por pares hasta foros anónimos. Carecen de un criterio real para discernir
qué información es veraz y cuál es una peligrosa teoría conspirativa. No
obstante, responden con una seguridad pasmosa, libres de dudas, matices o
advertencias.
Este fenómeno se agrava debido a
dos factores críticos identificados en el estudio:
·
La falsa credibilidad académica: Los modelos redactan textos
excesivamente complejos y técnicos (con un nivel de legibilidad equivalente al
de un graduado universitario). Irónicamente, esta complejidad incrementa la
confianza ciega del usuario en la máquina, aunque no aporte mayor precisión
científica.
·
Alucinaciones bibliográficas: Ninguno de los chatbots
analizados logró proporcionar una lista de referencias bibliográficas real. La
puntuación media de integridad de las fuentes fue de apenas un 40%, lo que
significa que los modelos inventaron autores, títulos de estudios y revistas
científicas con total apariencia de veracidad.
|
El lado oscuro del ranking: La
peor clasificada Entre todos los modelos
evaluados, Grok, desarrollado por
la compañía xAI, obtuvo los resultados más desfavorables del estudio: el 58% de sus respuestas médicas fueron catalogadas como
altamente problemáticas. En el extremo opuesto, Gemini de Google presentó el menor
número de fallos críticos, aunque ninguno se libró de la trampa del lenguaje
inaccesible. |
|
Recomendación experta: ¿Cómo
proteger nuestra salud digital? Ante este panorama, la
comunidad científica urge a tomar medidas drásticas que van desde la
educación pública hasta una estricta regulación de los algoritmos sanitarios.
Como usuarios, la recomendación de oro es clara: Nunca sustituyas el criterio
médico por el de un chatbot. Si utilizas la inteligencia artificial como
herramienta de consulta preliminar, hazlo con extrema cautela, desconfía de
las respuestas categóricas que no ofrezcan matices y contrasta siempre cualquier
información de salud con profesionales sanitarios colegiados o fuentes
médicas oficiales. Tu salud no es un campo de pruebas algorítmico. |
SINC
Email: jyletras@gmail.com
Facebook: Jazzmín
Facebook: Luis Oscar Vasta
Twitter: @vasta_luis
Instagram: orgullo_por_argentina
Balcarce - Buenos Aires - Argentina
