Magazine | Número 1 2026 Bertram: Quizás sea más pragmático distinguir entre la confianza funcional en la fiabilidad de un sistema y la confianza en la organización que hay detrás del sistema. Pero incluso la confianza funcional es difícil de establecer: Mientras que los sistemas deterministas pueden certificarse y someterse a pruebas en condiciones claramente definidas, el comportamiento de los sistemas de IA probabilísticos y de «caja negra» puede cambiar debido al reentrenamiento, la deriva de los datos o las actualizaciones. En consecuencia, garantizar un verdadero empoderamiento a través de los sistemas de IA requiere métodos nuevos y adicionales, como la explicabilidad. Usted llevó a cabo una revisión basada en PRISMA (Elementos de información preferidos para revisiones sistemáticas y metaanálisis) de 178 artículos revisados por expertos publicados entre 2014 y 2024. Se centró en publicaciones que aplican métodos para aumentar la explicabilidad de los modelos de IA basados en series temporales en los sistemas eléctricos. ¿Podría resumir sus principales retos de investigación? Rehana: Como padre, no podría estar más de acuerdo … y a medida que envejecemos, la confianza se establece, se amplía y se negocia de forma periódica. Diversas definiciones señalan que, cuando confiamos en alguien, reconocemos nuestra vulnerabilidad y esperamos que actúe en nuestro mejor interés. Si exploramos las nociones de confianza en escenarios profesionales, como la consulta a un médico … ¿qué es lo que nos hace confiar en ellos, en sus diagnósticos y en sus recomendaciones? Si calificamos a la IA de «digna de confianza», ¿corremos el riesgo de traicionar la confianza de los usuarios con expectativas antropomórficas engañosas? «Mientras que los sistemas deterministas pueden certificarse y someterse a pruebas en condiciones claramente definidas, el comportamiento de los sistemas de IA probabilísticos y de ‹caja negra› puede cambiar debido al reentrenamiento, la deriva de los datos o las actualizaciones». Bertram Taetz (Prof. Dr. rer. nat.), Professor of Data Science and Artificial Intelligence, IU International University of Applied Sciences, Erfurt, Deutschland 31
RkJQdWJsaXNoZXIy NTkxNzY=