La posibilidad de que una inteligencia artificial llegue a tener conciencia parecía, hasta hace poco, una discusión reservada a la filosofía y a la ciencia ficción. Hoy, investigadores, empresas tecnológicas y especialistas en neurociencia comienzan a debatirla con mayor seriedad. Un reciente ensayo publicado por The Guardian sostiene que, aunque todavía no sepamos si una máquina puede tener experiencias subjetivas, deberíamos prepararnos para las implicaciones éticas de esa posibilidad.
Sin embargo, para la medicina existe una pregunta más inmediata:
¿qué sucede cuando médicos y pacientes comienzan a tratar a la inteligencia artificial como si comprendiera realmente lo que dice?
Los modelos actuales pueden conversar, interpretar imágenes, resumir expedientes, proponer diagnósticos diferenciales y redactar explicaciones con un tono aparentemente empático. Esa capacidad es impresionante, pero no constituye una demostración de conciencia. La ciencia todavía no dispone de una prueba aceptada para determinar si un sistema artificial tiene experiencias, sentimientos o una perspectiva propia. Los principales análisis interdisciplinarios concluyen que no existe evidencia suficiente para considerar conscientes a los modelos actuales, aunque algunos investigadores creen que sistemas futuros podrían incorporar características arquitectónicas asociadas con teorías de la conciencia.
Hablar como un ser humano no significa sentir como un ser humano. Los grandes modelos de lenguaje han sido entrenados con enormes cantidades de conversaciones, libros, artículos y descripciones de emociones. Por esa razón pueden afirmar que sienten miedo, bienestar o frustración, pero también pueden negar esas experiencias cuando cambia ligeramente la instrucción. Las declaraciones del propio modelo no son una prueba confiable de conciencia.
Aun sin ser consciente, la IA ya puede tener un impacto considerable en la medicina. Sistemas experimentales como AMIE han mostrado un rendimiento elevado en entrevistas diagnósticas simuladas, generación de diagnósticos diferenciales e interpretación combinada de texto, imágenes, electrocardiogramas y documentos clínicos. En varios estudios controlados, estos sistemas superaron a médicos de atención primaria en distintas medidas de precisión y comunicación.
Pero existe una diferencia importante entre rendir bien en una simulación y atender con seguridad a un paciente real.
La práctica médica contiene información incompleta, síntomas ambiguos, presiones de tiempo, barreras económicas, comorbilidades, hallazgos físicos y cambios clínicos que no siempre aparecen en una conversación escrita. Una evaluación de veintiún modelos avanzados encontró que podían reconocer con relativa eficacia algunos diagnósticos finales, pero presentaban graves dificultades al construir diagnósticos diferenciales y manejar la incertidumbre. Los autores advirtieron que los modelos generales todavía no deben utilizarse de manera autónoma para tomar decisiones clínicas directamente con pacientes.
La colaboración entre el médico y la IA tampoco mejora automáticamente los resultados. En un ensayo aleatorizado con cincuenta médicos, disponer de GPT-4 no produjo una mejora significativa del razonamiento diagnóstico en comparación con el uso de recursos convencionales. El modelo solo obtuvo buenas puntuaciones, pero los médicos no lograron transformar toda esa capacidad en una colaboración superior.
Este resultado revela uno de los mayores desafíos: el problema no es únicamente la inteligencia de la máquina, sino la interacción entre la máquina y el ser humano.
Las respuestas de la IA suelen ser claras, rápidas y seguras. También pueden parecer comprensivas. En un estudio sobre preguntas médicas publicadas en internet, profesionales evaluadores calificaron las respuestas de un chatbot como más empáticas y de mayor calidad que las respuestas médicas disponibles. Sin embargo, la IA no experimentaba empatía; generaba lenguaje asociado con ella. Además, las respuestas eran mucho más extensas y no fueron producidas dentro de una relación clínica real.
La apariencia humana puede aumentar la confianza. Investigaciones psicológicas muestran que las personas atribuyen pensamientos, intención y personalidad a los modelos de lenguaje, y que percibirlos como inteligentes incrementa la disposición a seguir sus consejos. El riesgo es que confundamos fluidez con conocimiento, seguridad verbal con certeza clínica y amabilidad con responsabilidad.
En los médicos, esta influencia puede manifestarse como sesgo de automatización: aceptar una recomendación porque proviene de un sistema avanzado. Estudios recientes indican que incluso profesionales formados en el uso de IA pueden dejarse arrastrar por recomendaciones incorrectas cuando están formuladas de manera convincente.
Esto no significa que la medicina deba rechazar la inteligencia artificial. La IA puede convertirse en una herramienta valiosa para analizar imágenes, ordenar datos, revisar literatura, preparar documentación, detectar patrones y ofrecer una segunda perspectiva. La FDA ya mantiene una lista de dispositivos médicos con IA autorizados para funciones específicas, incluidas aplicaciones cardiovasculares. Pero un dispositivo validado para analizar un electrocardiograma o una imagen no es equivalente a un chatbot general que pretende diagnosticar cualquier condición.
La Organización Mundial de la Salud recomienda que la IA en salud se utilice bajo principios de transparencia, protección de datos, supervisión humana, evaluación continua y responsabilidad institucional. La tecnología debe apoyar la autonomía y la seguridad del paciente, no sustituirlas.
La conciencia artificial podría convertirse algún día en un problema ético real. Por ahora, sin embargo, el desafío más urgente es humano: aprender a utilizar sistemas muy capaces sin entregarles una autoridad que todavía no han demostrado merecer.
La medicina no necesita competir contra la inteligencia artificial. Necesita definir con precisión dónde ayuda, dónde falla y quién responde cuando se equivoca.
La pregunta final no debe ser si la IA piensa como nosotros. Debe ser si su intervención mejora de manera comprobable, segura y justa la atención de nuestros pacientes.
Reflexión final
Desde nuestra sociedad promovemos una adopción crítica, científica y responsable de la inteligencia artificial. Su incorporación a la práctica clínica debe sustentarse en evidencia, validación, transparencia y supervisión profesional, preservando siempre el juicio médico y la dignidad del paciente.
Últimas Entradas
- ¿Puede una inteligencia artificial ser consciente? La pregunta que está transformando el diagnóstico médico
- De la medicina basada en la autoridad a la medicina basada en evidencia: una revolución que sigue salvando vidas
- Dr. Enrique Sánchez es designado miembro del Comité Editorial de la Revista Ciencia y Salud de INTEC
- ¿Dejaste de fumar y ahora vapeas? Un estudio relaciona esta práctica con mayor riesgo de cáncer de pulmón
- La relación entre la salud cardiovascular y la pérdida de visión en adultos hispanos
- OBESIDAD, DIABETES, CALORÍAS, CONTROL. CUANTOS AÑOS DE VIDA GANADOS.
