[论文解读] AI Explainability and Governance in Smart Energy Systems: A Review

Roba Alsaigh, Rashid Mehmood+1 more|arXiv (Cornell University)|Oct 24, 2022

Explainable Artificial Intelligence (XAI)被引用 9

一句话总结

本文通过数据驱动的“深度新闻报道”方法，回顾了智能能源系统中的人工智能可解释性与治理问题，分析了150余篇论文，识别出15项关键治理参数。研究发现，能源领域的人工智能可解释性研究分散且聚焦狭窄，为利益相关方提升人工智能在能源系统中的采纳、设计与风险管理提供了全面的全景图。

ABSTRACT

Traditional electrical power grids have long suffered from operational unreliability, instability, inflexibility, and inefficiency. Smart grids (or smart energy systems) continue to transform the energy sector with emerging technologies, renewable energy sources, and other trends. Artificial intelligence (AI) is being applied to smart energy systems to process massive and complex data in this sector and make smart and timely decisions. However, the lack of explainability and governability of AI is a major concern for stakeholders hindering a fast uptake of AI in the energy sector. This paper provides a review of AI explainability and governance in smart energy systems. We collect 3,568 relevant papers from the Scopus database, automatically discover 15 parameters or themes for AI governance in energy and elaborate the research landscape by reviewing over 150 papers and providing temporal progressions of the research. The methodology for discovering parameters or themes is based on "deep journalism", our data-driven deep learning-based big data analytics approach to automatically discover and analyse cross-sectional multi-perspective information to enable better decision-making and develop better instruments for governance. The findings show that research on AI explainability in energy systems is segmented and narrowly focussed on a few AI traits and energy system problems. This paper deepens our knowledge of AI governance in energy and is expected to help governments, industry, academics, energy prosumers, and other stakeholders to understand the landscape of AI in the energy sector, leading to better design, operations, utilisation, and risk management of energy systems.

研究动机与目标

• 解决智能能源系统中人工智能缺乏可解释性与可治理性的日益严峻挑战。
• 通过系统性地回顾150余篇论文，绘制当前能源系统中人工智能研究的全景图。
• 利用数据驱动的深度学习方法，识别并分类能源领域人工智能治理的15项关键参数。
• 支持政府、产业界和研究人员设计出更透明、更可靠、更具可治理性的人工智能系统，以应用于能源领域。
• 为提升人工智能驱动能源系统中的风险管理与利益相关方信任奠定基础。

提出的方法

• 本研究使用数据驱动的“深度新闻报道”方法，从Scopus数据库中分析了3,568篇论文。
• “深度新闻报道”方法利用深度学习与大数据分析技术，从文献中提取跨领域、多角度的洞察。
• 通过研究趋势的迭代分析，自动发现并验证了能源领域人工智能治理的主题与参数。
• 绘制了研究的时间演变轨迹，以追踪人工智能可解释性与治理主题随时间的演进。
• 该方法成功识别出技术、伦理与运营维度下的15项独立治理参数。
• 对150余篇相关论文进行了定性综合分析，以评估研究重点、研究空白与主题聚类。

实验结果

研究问题

• RQ1 智能能源系统中人工智能治理的主导主题与参数是什么？
• RQ2 能源系统中人工智能可解释性研究随时间如何演变？
• RQ3 当前能源应用中人工智能可解释性研究的关键空白与局限是什么？
• RQ4 像“深度新闻报道”这样的数据驱动方法，如何有效揭示能源系统等复杂领域中的治理参数？
• RQ5 人工智能可解释性研究的碎片化对能源系统中人工智能治理与部署有何影响？

主要发现

• 能源系统中人工智能可解释性研究高度分散，且聚焦于少数人工智能特性与特定能源系统问题。
• 本研究识别出15项独立的能源系统人工智能治理参数，涵盖技术、伦理与运营维度。
• 时间序列分析显示，对治理与可解释性的关注持续增加，但不同主题的发展不均衡。
• 目前缺乏将技术可解释性与制度及监管治理整合的综合性框架。
• “深度新闻报道”方法成功揭示了跨领域的主题，并为能源领域的人工智能治理提供了结构化的全景图。
• 研究结果凸显了迫切需要建立整合性、多利益相关方参与的治理工具，以支持能源系统中可信的人工智能部署。