DEEL DEpendable & Explainable Learning

DEEL 值得信赖

• 批准号: 537462-2018
• 负责人: Marchand, Mario
• 金额: $ 34.42万
• 依托单位: Université Laval
• 依托单位国家: 加拿大
• 项目类别: Collaborative Research and Development Grants
• 财政年份: 2021
• 资助国家: 加拿大
• 起止时间: 2021-01-01 至 2022-12-31
• 项目状态: 已结题
• 来源: https://www.nserc-crsng.gc.ca/ase-oro/Details-Detailles_eng.asp?id=720327
• 关键词: DEEL; DEpendable; Explainable; Learning

The application of machine learning (ML) to the complex problems of the aerospace industry, which has high standards of performance and security, needs to make the techniques robust, comprehensible, guaranteeing privacy and thus certifiable by the authorities. The DEEL project, as a result of an international collaboration between ITS Saint Exupéry in France, IVADO and CRIAQ in Canada, aims to take a first step towards the use of machine learning techniques for various problems of the Canadian aerospace industry through a multidisciplinary collaboration between several industry players and several Canadian universities with more than a dozen researchers and more than twenty graduate students and highly qualified professionals annually.The first theme deals with robustness and consists of developing ML methods that remain effective even in extreme situations not observed during design. To do this work, we rely on methods for measuring decision uncertainty, managing context changes, and methods that are robust to attack. The second theme deals with interpretability and involves developing methods that provide explanations to experts (designer, crew) to make the decisions or advice of the system understandable. The methods used in this theme are based on the notion of transparency of the learned model and on the notion of explicability of a given decision.The third theme deals with privacy by design and involves developing methods that ensure that the data used to design the ML model remains confidential and cannot be rebuilt from the results or operation of the system. The methods used in this theme are based on the controlled addition of noise in data and learning on encrypted data.These three themes aim to provide techniques to improve trust in the results of ML systems and to enable certifiability. The objective of this fourth theme is to develop ML certifiability techniques. We propose using methods and best practices of software engineering, such as tests and formal methods, to discover how to adapt them to ML.#(cr)#(lf)L'application de l'apprentissage automatique aux problèmes complexes de l'industrie aérospatiale, qui possède de hauts standards de performance et de sécurité, nécessite de rendre les techniques robustes, compréhensibles, garantes de la vie privée et ainsi, certifiables par les autorités. Le projet DEEL, issue d'une collaboration internationale entre l'ITS Saint Exupéry en France, l'IVADO et le CRIAQ au Canada, vise à faire un premier pas vers l'utilisation de l'apprentissage automatique par l'industrie aérospatiale canadienne via une collaboration multidisciplinaire entre plusieurs acteurs industriels et plusieurs universités canadiennes regroupant plus d'une dizaine de chercheurs et plus d'une vingtaine d'étudiants gradués et professionnels hautement qualifiés annuellement. Le premier thème traite de la robustesse et consiste à développer des méthodes qui restent efficaces même dans des situations extrêmes non observées pendant l'apprentissage. À cet effet, nous utilisons des mesures de l'incertitude des décisions, la gestion des changements de contextes et la robustesse aux attaques. Le deuxième thème traite de l'interprétabilité et consiste à développer des méthodes qui fournissent des explications à des experts pour leur permettre de comprendre les décisions ou les conseils du système. Les méthodes utilisées dans ce thème se basent sur la transparence du modèle et l'explicabilité d'une décision donnée. Le troisième thème traite de la vie privée par conception et consiste à développer des méthodes qui garantissent la confidentialité des données utilisées lors de l'apprentissage et lors de l'utilisation des résultats. Les méthodes utilisées dans ce thème se basent sur l'ajout contrôlé de bruit et l'utilisation de données chiffrées. Ces trois thèmes ont pour objectif d'améliorer la confiance dans les résultats des systèmes d'apprentissage automatique et de permettre la certificabilité. L'objectif de ce qua

机器学习 (ML) 应用于具有高标准性能和安全性的航空航天业的复杂问题，需要使技术强大、易于理解、保证隐私，从而得到 DEEL 项目的认证。这是法国 ITS Saint Exupéry、加拿大 IVADO 和 CRIAQ 之间国际合作的成果，旨在通过多个学科之间的多学科合作，迈出使用机器学习技术解决加拿大航空航天业各种问题的第一步。行业参与者和几所加拿大大学每年拥有十多名研究人员和二十多名研究生和高素质专业人士。第一个主题涉及稳健性，包括开发即使在设计过程中未观察到的极端情况下也能保持有效的机器学习方法。在这项工作中，我们依赖于衡量决策不确定性、环境变化的方法，以及能够抵御攻击的方法。第二个主题涉及可解释性，并涉及管理开发方法，为专家（设计师、工作人员）提供解释以做出决策或建议。该主题中使用的方法是可以理解的。基于学习模型的透明度概念和给定决策的可解释性概念。第三个主题涉及设计隐私，涉及开发方法以确保用于设计 ML 模型的数据保持机密且无法重建该主题中使用的方法基于数​​据中受控的噪声添加和加密数据的学习。这三个主题旨在提供提高对 ML 系统结果的信任度并实现的技术。其目的是可验证性。第四个主题是开发 ML 可证明性技术，我们建议使用软件工程的方法和最佳实践，例如测试和形式化方法，以发现如何使它们适应 ML。#(cr)#(lf)L'application de l'。航空航天工业自动化和复杂问题学徒，拥有性能和安全的高级标准，是交付的必要条件技术稳健、易于理解、保证私人生活和自主权，是工业自动化应用的首要认证。加拿大航空航天公司通过多学科合作、工业演员和加拿大大学重组以及切尔切乌尔和毕业生和专业人士高级资格的取消。开发在学徒期不可观察到的极端情况下恢复功效的方法。解释性和解释性的开发人员由专家们负责解释系统的决策或顾问。唐尼的决定。控制炸薯条的杂味和炸薯条的利用。