La Inteligencia Artificial (IA) ha transformado múltiples sectores, pero persiste un desafío crítico: su tendencia a presentar respuestas con falsa certeza, incluso con conocimiento incompleto. Este ‘imperativo de la incertidumbre’ es abordado por tres investigadores españoles –un matemático, una ingeniera y un tecnólogo–, galardonados con la Beca Leonardo de la Fundación BBVA. Ellos lideran el desarrollo de modelos de Inteligencia Artificial capaces de admitir su inseguridad, un hito crucial para la fiabilidad y aplicación ética de esta tecnología en escenarios globales de alto riesgo.
Desde la irrupción de modelos conversacionales como ChatGPT hace cuatro años, la interacción con la IA ha revelado una constante: su diseño prioriza la fluidez y la confianza en la respuesta, a menudo ocultando las limitaciones inherentes a su entrenamiento. Esta cualidad, conocida como ‘alucinación’ en el ámbito técnico, plantea riesgos significativos en campos donde la precisión es vital, como el diagnóstico médico o la predicción de fallos en infraestructuras críticas. La comunidad científica global reconoce que la evolución de la IA hacia la transparencia y la auto-evaluación de su confianza es fundamental para trascender su rol actual de ‘sabelotodo’ algorítmico y convertirse en una herramienta verdaderamente fiable y responsable.
En el campo de la oncología, el matemático Pablo Morales-Álvarez, de la Universidad de Granada, ejemplifica esta problemática. Su trabajo en el análisis de imágenes tumorales mediante IA se enfrenta a la dificultad de distinguir metástasis de nuevos tumores primarios, una diferencia con profundas implicaciones terapéuticas. Morales-Álvarez está desarrollando un enfoque innovador basado en la estadística bayesiana para que los modelos de IA no solo ofrezcan un diagnóstico, sino también un ‘nivel de incertidumbre’ asociado. Esta capa probabilística adicional es esencial para que los patólogos puedan interpretar las sugerencias del sistema con la cautela necesaria, evitando así diagnósticos erróneos o retrasos en tratamientos vitales que podrían derivar de una confianza algorítmica infundada.
De igual trascendencia es la labor de Cristina Soguero-Ruiz, ingeniera especializada en biomedicina de la Universidad Rey Juan Carlos. Su proyecto se centra en la creación de ‘gemelos digitales’ para unidades de cuidados intensivos (UCI), replicando el estado de salud de pacientes para simular la evolución ante distintos tratamientos, como la administración de antibióticos. Dada la complejidad de las respuestas fisiológicas y el creciente desafío de las resistencias antimicrobianas, la fiabilidad de estas simulaciones es crucial. Soguero-Ruiz busca que la IA cuantifique la incertidumbre de sus predicciones, permitiendo a los clínicos evaluar el riesgo de cada decisión terapéutica simulada, lo que representa un avance fundamental hacia una medicina personalizada más segura y efectiva, donde la transparencia del modelo refuerza la toma de decisiones humana.
Finalmente, José Ignacio Aizpurua, doctor en Tecnologías de la Información y Comunicación de la UPV/EHU, aplica este mismo principio de ‘honestidad algorítmica’ a la supervisión de infraestructuras energéticas. En un contexto de auge de las energías renovables, la intermitencia y la imprevisibilidad inherentes a estas fuentes aumentan la complejidad de la gestión de redes. Aizpurua trabaja en modelos de aprendizaje automático que, guiados por leyes físicas, predicen el envejecimiento y los fallos de componentes como transformadores. La clave reside en que estos modelos no solo emitan una predicción, sino también una evaluación de su propia confianza, indicando cuándo la incertidumbre es alta debido a datos inusuales o incompletos. Esta capacidad permite implementar estrategias de mantenimiento predictivo más eficientes y resilientes, minimizando costes y maximizando la estabilidad del suministro eléctrico.
Estos proyectos españoles convergen en una conclusión trascendental: para que la Inteligencia Artificial alcance su máximo potencial y sea una aliada indispensable, debe evolucionar desde la mera confianza hacia la honestidad. La capacidad de los algoritmos para reconocer y comunicar su incertidumbre no es debilidad, sino madurez y rigor. Este cambio de paradigma optimizará aplicaciones en medicina y energía, fortalecerá la confianza del usuario y garantizará que la IA actúe como herramienta de apoyo crítico, no como oráculo infalible, manteniendo la supervisión humana en el centro. Si le ha parecido interesante este análisis, le invitamos a compartirlo y a dejar su opinión en los comentarios.
