Rehana Mubarak-Aberer: Bertram, cuando estudio su investigación sobre el análisis del movimiento humano para las aplicaciones sanitarias, observo un reto fundamental común en la aplicación de la IA a la asistencia sanitaria y a los sistemas eléctricos. La utilidad de un modelo no solo depende de la precisión de su razonamiento, sino también de su idoneidad en ambos escenarios críticos para la seguridad. Sin embargo, la mayoría de los sistemas de IA de alto rendimiento son opacos y funcionan como «cajas negras». Dada la naturaleza de «caja negra» de la mayoría de los sistemas de IA de alto rendimiento y la exigencia de una «IA confiable» en marcos normativos como la Ley de IA de la UE, los Principios de la OCDE sobre IA y el Marco de gestión de riesgos de la IA del NIST, ¿cómo podemos conciliar las expectativas de confianza teóricas o normativas con los métodos prácticos de implementación reales? Bertram Taetz: Esta pregunta no es en absoluto trivial, pero antes de preguntarnos si podemos confiar en los sistemas de IA, debemos definir qué significa «confianza» para los seres humanos. Desde una perspectiva psicosocial, por ejemplo, el concepto de Urvertrauen (confianza básica) acuñado por Erik Erikson se refiere a la experiencia de confianza en las primeras etapas del desarrollo que los niños adquieren cuando sus cuidadores satisfacen sus necesidades de manera constante. Los niños se benefician de la confianza básica para crecer, desarrollarse y forjar una resiliencia que les ayuda a hacer frente a un mundo impredecible. ENTRANDO EN EL FUTURO CON RAÍCES Y ALAS Empoderando a las partes interesadas de los sistemas eléctricos con IA explicable y causal ¿Qué tiene en común la crianza de los hijos con el desarrollo de sistemas de IA? A primera vista, pueden parecer inconexos; sin embargo, ambos requieren raíces para generar confianza y alas para el empoderamiento. En la siguiente conversación, Bertram Taetz y Rehana Mubarak-Aberer – coautores de una ponencia en la Conferencia PACWorld 2025 y padres ellos mismos – exploran cómo estos principios compartidos pueden dar forma al diseño de una IA más transparente y fiable, especialmente para la toma de decisiones informadas en sistemas críticos para la seguridad. 30
RkJQdWJsaXNoZXIy NTkxNzY=