Magazine | Número 1 2026 «Si bien se pueden utilizar métricas de evaluación para valorar el rendimiento de los sistemas de IA comparando las predicciones con la verdad de referencia, la explicabilidad aún carece de una definición universal». Rehana Mubarak-Aberer (Dr.), Marketing Expert, OMICRON Rehana: Y hay otro factor crucial. SHAP y el mecanismo de atención nos indican qué datos de entrada influyen en la predicción del modelo, pero no nos dicen si cambiar esas entradas en la red eléctrica modificará el resultado. Imaginemos una ola de calor por la tarde en la que la generación fotovoltaica y la carga son elevadas, y varias líneas de corredor se encuentran cerca de sus límites térmicos operativos. Un modelo de predicción podría aprender que una «alta alimentación fotovoltaica» está asociada a futuras sobrecargas y asignarle una gran importancia. En realidad, el riesgo de sobrecarga podría deberse principalmente‑a la carga de aire acondicionado en unos pocos alimentadores específicos, mientras que la energía fotovoltaica simplemente alcanza su pico en las mismas horas. Si restringimos la energía fotovoltaica basándonos únicamente en esta correlación, podríamos reducir la generación limpia sin aliviar significativamente las líneas eléctricas que realmente importan. En resumen, todos estos métodos comparten una limitación: explican una salida del sistema basada en la correlación con otra explicación basada en la correlación. Bertram: Eso es cierto, y la atención también es un problema, porque las redes neuronales basadas en la atención permiten al modelo «echar la vista atrás» a lo largo de la serie temporal y decidir qué momentos son relevantes para una predicción actual. Piense en un operador del sistema que reproduce una excursión de frecuencia, se desplaza hacia atrás por el registrador de perturbaciones y se centra en los segundos en los que un gran generador se disparó y el control primario comenzó a reaccionar. Las ponderaciones de atención son una forma que tiene el modelo de resaltar esos «segundos críticos» en la serie temporal de entrada. Podemos visualizar estas ponderaciones como un mapa térmico sobre el tiempo y las características, lo que facilita ver, por ejemplo, que el modelo se centra en gran medida en las rampas de la producción fotovoltaica y los flujos de los interconectores en los minutos previos a una sobrecarga prevista. Sin embargo, esto tiene un costo. Dado que el mecanismo de atención compara múltiples puntos temporales, su complejidad computacional varía aproximadamente con el cuadrado de la longitud de la secuencia. Por lo tanto, procesar historiales muy extensos puede resultar bastante costoso. 33
RkJQdWJsaXNoZXIy NTkxNzY=