人工智能的开发和部署继续迅速发展，与之相关的风险也在迅速增加。风险的性质因具体应用而异，因此需要采用量身定制的风险管理方法。虽然跨应用程序的人工智能风险有很好的文档记录，但没有一个存储库包含关于这些风险的全面和统一的信息。麻省理工学院（MIT）的一个实验室正在努力达成这个目标。

麻省理工计算机科学与人工智能实验室(CSAIL)和麻省理工未来科技学院(MIT FutureTech)的研究人员开发了一个“人工智能风险存储库”——一种人工智能风险数据库，其中包含数百个由人工智能系统构成的记录风险。

由于这个项目对他们的研究至关重要，麻省理工学院的研究小组很快意识到它对许多其他人也很有价值。他们开始编制一个可公开访问的、全面的人工智能风险库，决策者可以用它来评估人工智能不断变化的风险。从开发人员、研究人员到政策制定者和企业，这个数据库对任何人都很有用。

为了编译这个知识库，研究人员与来自昆士兰大学、生命未来研究所、鲁汶大学和人工智能初创公司Harmony Intelligence的团队合作。开展了广泛的搜索，包括咨询学术专家和数据库，以确定43个人工智能风险分类框架。从中提取了700多个AI风险，并按风险域、风险子域和原因进行了分类。

“据我们所知，人工智能风险存储库是第一次尝试严格地策划、分析和提取人工智能风险框架，使其成为一个可公开访问、全面、可扩展和分类的风险数据库。这是一项更大项目的一部分，目的是了解我们如何应对人工智能风险，并确定我们目前的方法是否存在差距，”麻省理工学院未来科技实验室（(FutureTech Lab)）负责人、该项目的主要研究人员之一Neil Thompson博士说。

在编写存储库时，研究小组发现了现有人工智能风险框架中的差距和不一致之处，与麻省理工学院全面的人工智能风险存储库相比，这些框架只涵盖了一小部分风险。这对人工智能的开发、使用和治理具有重要意义。研究人员表示，第三方框架往往过于关注某些人工智能风险，而忽视了其他风险。例如，错误信息是一个严重的人工智能风险，但只有44%的框架涵盖了它。

同样，超过一半的人工智能风险框架探讨了人工智能延续歧视形式的可能性，但只有12%的框架涵盖了信息生态系统的污染，这可能导致人工智能产生的垃圾邮件增加和信息质量下降。

Neil Thompson表示，人工智能风险存储库“是一项更大努力的一部分，旨在了解我们如何应对人工智能风险，并确定我们目前的方法是否存在差距。”“我们从一份全面的清单开始，以帮助我们了解潜在风险的广度。我们计划使用它来识别组织响应中的缺点。例如，如果每个人都专注于一种风险，而忽视了其他同样重要的风险，这是我们应该注意和解决的问题。”

研究小组承认，虽然存储库在许多方面是全面的，但它并非没有限制。尽管研究人员筛选了17000多份文件，绘制了43个框架，但这并不详尽。在未筛选的文件中可能存在其他人工智能风险。

在遗漏一般人工智能文献中没有的未发表、利基或新兴风险的可能性方面也存在重大限制。此外，储存库没有根据潜在的重要因素(如风险影响的可能性)对风险进行分类。它也没有讨论风险之间的相互作用。

人工智能风险存储库旨在作为一个动态文档，允许用户随着人工智能风险环境的发展不断改进完善和增强它。

在该项目的未来阶段，MIT团队计划识别遗漏，并向存储库添加新的风险和文档。他们计划包含更多的信息，这些信息可以提供有针对性的和特定于上下文的见解，例如对不同类型用户的影响。