为什么人工智能治理对于构建更可信、更可解释的人工智能很重要

随着政府和企业快速采用人工智能工具，人工智能伦理将触及社会的许多方面。然而，根据报告，78%的公司表示他们“没有能力确保使用新人工智能系统的道德影响”，只有38%的公司采取了数据偏差检测和缓解措施。

与颠覆性技术的通常情况一样，人工智能发展的速度已经迅速超过了监管的速度。但是，在采用人工智能的竞赛中，许多公司开始意识到监管机构正在迎头赶上。一些公司已经因为开发或仅仅使用有偏见的人工智能算法而被提起诉讼。

企业正感受到人工智能监管的压力

今年，AI责任指令该法案将使起诉公司造成的伤害变得更容易，这是阻止公司开发和部署有害人工智能的更广泛努力的一部分。该法案在拟议的人工智能法案上增加了额外的一层，这将要求对人工智能的“高风险”使用进行额外的检查，例如在警务、招聘或医疗保健中的使用。本月早些时候公布的这项法案很可能在未来几年内成为法律。

虽然有些人担心人工智能责任指令会抑制创新，但其目的是让人工智能公司承担责任，并要求他们解释他们的人工智能系统是如何构建和训练的。未能遵守规定的科技公司将面临全欧洲范围的集体诉讼。

虽然在采取保护性政策方面动作较慢，但也公布了一份蓝图AI权利法案本月早些时候概述了消费者如何应该免受有害人工智能的侵害:

• 人工智能应该是安全有效的
• 算法不应该歧视
• 数据隐私必须得到保护
• 消费者应该知道人工智能何时被使用
• 消费者应该能够选择不使用它，而是与人交谈

但是有一个问题。“重要的是要认识到人工智能权利法案不是有约束力的立法”。这是一系列建议，政府机构和科技公司可能会自愿遵守，也可能不会遵守。这是因为它是由白宫科学技术政策办公室创建的，该机构为总统提供建议，但不能推动实际的法律。

不管有没有严格的人工智能法规，许多公司和机构已经面临不道德人工智能实践的诉讼。

公司需要关心的不仅仅是法律费用。公众对人工智能的信任正在减弱。无论一家企业是否在关于有偏见的人工智能的指控的法律斗争中失败，像这样的事件对公司声誉的影响可能是破坏性的。

尽管这让人工智能的未来变得黯淡，但一切还没有结束。IBM的全球人工智能采用指数发现85%的IT专业人士同意，消费者更有可能选择一家对其人工智能模型如何构建、管理和使用透明的公司。

采取措施采用道德人工智能实践的企业可能会获得回报。那么，为什么这么多人迟迟不采取行动呢?

问题可能是，尽管许多公司希望采用符合道德的人工智能实践，但许多公司不知道从哪里开始人工智能治理

人工智能治理是定义政策和建立问责制的过程，以指导人工智能系统在组织中的创建和部署。

在治理之前，人工智能领域的人们直接从实验转向生产，但后来他们意识到，好吧，等一下，这不是我期望系统做出的决定。为什么会这样，他们无法解释为什么人工智能会做出某些决定。

人工智能治理实际上是确保公司知道他们的算法在做什么——并有文档支持它。这意味着跟踪和记录算法是如何训练的，训练中使用的参数，以及测试阶段使用的任何指标。

有了这一点，公司就可以很容易地了解他们的人工智能系统的表面下发生了什么，并允许他们在审计的情况下轻松地提取文档。这种透明度也有助于打破公司内部的知识孤岛。

如果一名数据科学家离开了公司，而您没有将过去的信息插入流程中的这个钩子，这将非常难以管理。那些调查系统的人不会知道发生了什么。因此，这种文档化的过程只是提供了关于正在发生的事情的基本理性，并使向组织内的其他部门(如风险经理)解释它变得更容易。

虽然法规仍在制定中，但现在采用人工智能治理是迈向面向未来的重要一步:

来得又快又有力。现在，人们出于事后审计的目的，制作手动文档。相反，现在开始记录可以帮助公司为任何即将到来的法规做好准备。

创新与治理之争

公司可能会面临快速创新和率先上市的日益激烈的竞争。那么，花时间进行人工智能治理不会减缓这一进程并扼杀创新吗?

人工智能治理不会阻止创新，就像刹车会阻止人们开车一样:“汽车里有牵引力控制系统，汽车里有刹车。所有这些都是为了让你走得更快，更安全。这就是我对人工智能治理的看法。这真的是为了从你的人工智能中获得最大价值，同时确保在你创新时有护栏帮助你。”

这符合采用人工智能治理的最大原因:它具有商业意义。没有人想要有缺陷的产品和服务。设置清晰透明的文档标准、检查点和内部审查流程以减少偏见，最终可以帮助企业创造更好的产品并加快上市速度。

仍然不确定从哪里开始?

就在这个月，这家科技巨头推出了IBM人工智能治理，这是一个一站式解决方案，适用于那些努力更好地了解这些系统背后发生的事情的公司。该工具使用自动化软件与公司的数据科学平台合作，开发一致且透明的算法模型管理流程，同时跟踪开发时间、元数据、部署后监控和定制工作流。这有助于减轻数据科学团队的压力，让他们专注于其他任务。该工具还帮助业务领导始终了解他们的模型，并在审计时支持适当的文档。

对于正在整个组织中使用人工智能并且不知道首先关注什么的公司来说，这是一个特别好的选择。