[论文解读] Double Deep Machine Learning.

Moshe Ben-Bassat|arXiv (Cornell University)|Nov 17, 2017

Artificial Intelligence in Healthcare被引用 1

一句话总结

本文提出双深度机器学习（Double Deep Machine Learning）框架，将以数据为中心的机器学习与基于知识的机器教学相结合，以增强非事务性领域中人工智能的推理能力。通过构建 ReKopedia——一个机器可读的开源人类学习知识库，人工智能系统获得超越模式识别的深层常识推理能力，从而在医疗和国防等高级应用中实现突破。

ABSTRACT

Very important breakthroughs in data-centric machine learning algorithms led to impressive performance in transactional point applications such as detecting anger in speech, alerts from a Face Recognition system, or EKG interpretation. Non-transactional applications, e.g. medical diagnosis beyond the EKG results, require AI algorithms that integrate deeper and broader knowledge in their problem-solving capabilities, e.g. integrating knowledge about anatomy and physiology of the heart with EKG results and additional patient findings. Similarly, for military aerial interpretation, where knowledge about enemy doctrines on force composition and spread helps immensely in situation assessment beyond image recognition of individual objects. The Double Deep Learning approach advocates integrating data-centric machine self-learning techniques with machine-teaching techniques to leverage the power of both and overcome their corresponding limitations. To take AI to the next level, it is essential that we rebalance the roles of data and knowledge. Data is important but knowledge- deep and commonsense- are equally important. An initiative is proposed to build Wikipedia for Smart Machines, meaning target readers are not human, but rather smart machines. Named ReKopedia, the goal is to develop methodologies, tools, and automatic algorithms to convert humanity knowledge that we all learn in schools, universities and during our professional life into Reusable Knowledge structures that smart machines can use in their inference algorithms. Ideally, ReKopedia would be an open source shared knowledge repository similar to the well-known shared open source software code repositories. Examples in the article are based on- or inspired by- real-life non-transactional AI systems I deployed over decades of AI career that benefit hundreds of millions of people around the globe.

研究动机与目标

• 解决当前以数据为中心的AI在非事务性、复杂推理任务（如医疗诊断和军事态势评估）中的局限性。
• 通过将深层次的常识性知识整合到学习系统中，重新平衡AI中数据与知识的角色。
• 开发一种可扩展的方法论，将人类学习的知识转化为可重用的、机器可处理的知识结构。
• 创建 ReKopedia——一个开放共享的知识库，供智能机器使用，类似于开源代码仓库。
• 通过整合领域特定知识（如解剖学、生理学和军事条令），使AI系统能够超越孤立数据点进行推理。

提出的方法

• 结合以数据为中心的机器学习与机器教学技术，提升模型的泛化能力和推理能力。
• 提出一种框架，使AI系统不仅从数据中学习，还从结构化知识输入（如医学或战术规则）中学习。
• 开发自动化算法，将人类学习的知识（如教科书、专业培训材料）转化为正式的、可重用的知识表示形式。
• 设计 ReKopedia 作为共享的开源知识库，其中知识以机器可解释的格式编码，支持推理。
• 将知识结构集成到AI推理流程中，支持上下文感知、可解释的决策，超越模式识别。
• 以医疗和国防领域中真实的人工智能部署为蓝本，验证该框架的适用性与可扩展性。

实验结果

研究问题

• RQ1 人工智能系统如何在医疗诊断和军事情报等非事务性领域实现更深层次的推理？
• RQ2 哪些机制能够实现结构化常识性知识与数据驱动学习在AI模型中的融合？
• RQ3 如何系统性地将教育和专业培训中的人类学习知识转化为机器可处理的格式？
• RQ4 构建一个可扩展的、开放的智能机器知识库，需要哪些架构与表示框架？
• RQ5 将数据学习与知识教学相结合，在复杂真实应用场景中在多大程度上提升AI性能？

主要发现

• 双深度机器学习使AI系统能够超越孤立数据模式，在医疗和国防等领域的复杂、上下文感知推理中实现突破。
• 整合领域特定知识（如心脏解剖学和敌方作战条令）可显著提升态势评估能力，超越原始数据解读。
• ReKopedia为构建共享、开源的知识库提供了可行路径，其作用类似于软件代码仓库。
• 该框架通过数十年来在真实世界中部署的人工智能系统得到验证，惠及数亿用户，证明其可行性。
• 当与以数据为中心的学习结合时，机器教学技术可克服纯数据驱动模型在复杂、知识密集型任务中的局限性。
• 该方法通过将深层次的常识性知识嵌入推理过程，使AI更具可解释性、鲁棒性和泛化能力。