Inteligencia Artificial y medicina: la necesidad de modelos interpretables

Abstract

The pandemic has provided clear examples of the potential of AI for the health sector, as well as some of its issues, largely derived from the use of black box models. In some cases, there are no reasonable alternatives, as in image and speech processing. However, in many other instances it would be more profitable to try to focus the developments on Interpretable AI, which could be used more directly for the confirmation of knowledge or for the generation of new hypotheses that can be tested with subsequent experiments.La pandemia ha proporcionado ejemplos claros del potencial de la IA para el sector de la salud, así como algunos de sus problemas, en buena parte derivados del uso de modelos de caja negra. En algunos casos, no existen alternativas razonables a los modelos de caja negra, como en tratamiento de imagen y voz. Sin embargo, en muchas otras situaciones resultaría más provechoso intentar centrar los desarrollos en la línea de la IA interpretable, que podrían ser aprovechados de manera directa para la confirmación de conocimiento o para la generación de hipótesis nuevas que puedan comprobarse con experimentos posteriores.