考虑实施透明度

世上并不存在完美的人工智能系统。但是，对于人工智能系统来说，要判断输出是否具有误导性是很难的，因为其内部算法可能十分令人费解。

因为将商业租约搞错可能会造成重大的经济损失，这个“黑匣子”问题是Priam关注的问题，对很多公司来说也是如此。为了解决这个问题，Leverton的工具从租约中提取所有细节，但也包括返回原始文档中的文本的链接。

Leverton的首席执行官Abhinav Somani说：“我们不可能让人工智能做对所有的事情。某些细微差别或奇怪的术语是任何人都难以发现或理解的。”

Somani说，系统与使用它的资产管理者之间存在合作关系。系统除了使资产管理者可以快速查看合同中的详细信息外，还将强调需要人工关注的地方。

博思艾伦（Booz Allen Hamilton）的负责人Lauren Neal说，目前，人们在可解释性，透明度以及理解人工智能系统的内置偏差等方面正在进行大量研究。她说，就供应商的模型如何创建并得到训练而言，各大公司了解这方面的信息越多，他们就能越了解这些模型的局限性。

网络安全咨询公司NCC Group的研究主管Jennifer Fernick告诫说，不要与那些对自己的人工智能模型守口如瓶的供应商合作。

Fernick说：“一般来说，所有不愿谈论算法和实现方法的供应商是不可能做什么有意义的事情的”。她表示，这并不是说客户可以要求查看源代码，但供应商应该乐于谈论它们所使用的算法工具的类型，这些算法工具是否基于开源库，以及他们将如何将这些工具应用于数据。

Fernick说：它们‘不能把秘密武器拿给你看’和它们的产品中有颇具创新性的东西，前面的说法和后面的可能性之间呈逆相关的关系，即越是卖关子，越是没有干货。”

透明度的另一面（当今所有公司的首要任务无非是应对隐私和安全性问题）。尤其是人工智能系统，这些系统非常需要数据，如果数据很敏感，这可能会使公司面临风险。

Fernick说：“你的安全性强度取决于供应商的安全强度，供应商有多弱，你就有多弱。”

例如，供应商是否要求你将数据迁移到它们的云中，并且它们还不具备一个优秀的安全团队？数据是否以明文形式显示给供应商的员工看？

Fernick说：“除了工具本身的分析能力外，还有很多因素要考虑。”

对于高度敏感的数据，公司可能会考虑能提供内部部署解决方案的供应商。

专注于商业价值

一年半前，Waqqas Mahmood以先进技术和创新总监的身份加入会计和咨询公司天职国际（Baker Tilly Virchow Krause），领导其数字化转型战略。

在全球雇佣了大约4，000名员工的天职国际经历了多次合并，导致许多流程需要标准化并提高效率。此外，天职国际希望为技术支持工单实施聊天机器人系统。

Mahmood说，公司无法独立实施这样的系统。他说：“因为我们缺乏这样的技能，而在内部创建这样的系统要花费大量的时间——但这原本要花费更长的时间。”

对于Mahmood来说，与人工智能供应商建立关系的关键是选择具有特定目标的项目。他说：“如果你在实施人工智能前没有合适的商业案例和正确的需求，这是不可能成功的。”

对于工作流程自动化，天职国际决定采用NICE机器人自动化，这种关系已经取得了成效，他说，自动化任务的完成时间只需以前的三分之一。

Mahmood说：“我们已经减免了很多本该收费的时间，按百分比算达到了两位数。我们试图在更短的时间内以更高的质量完成同样的工作——我们的目的并非为短期的收益收取更多的时间费用。我们希望为客户提供高价值的服务。”

天职国际的工作流程自动化策略所要实现的长期目标是增加预测分析——这不仅可以将流程和标记项目自动化，还有助于制定决策，从而免去不必要的人力劳动。

Mahmood说：“这将对全职人力工时（FTE）产生影响。因此，我们可以让人们从事更高价值的工作。”

Mahmood说，至于技术支持，天职国际大概花了12周时间部署了Bold360的聊天机器人，此举将技术支持的时间缩短了35%。他说：“我们每年大约花8万小时来解决工单，如人们打电话要求重置密码，购买新的打印机或者要处理某些无法正常工作的东西而必须下载新的软件”。Mahmood说，聊天机器人能理解请求并对其进行路由。他说：“这谈不上诱人，但这能解决我们后端的痛苦。”

Mahmood补充说，这两个项目都是长期计划的一部分。他说：“我们正在为公司创建一个整体数据战略，我们如何管理数据，如何使用数据，架构应该是什么样的。我们正在创建一个平台，该平台将在中间部署具有人工智能功能的分析引擎。”

要有耐心

Mahmood已经制定了天职国际的人工智能之旅，该旅程目前仍处于初级阶段。他说：“这需要极大的耐心。”

Constellation Research的首席分析师兼创始人Ray Wang表示，大家总是低估自己将要付出的努力和金钱。

Wang说：“客户面临的最大问题往往是，虽然他们想要做这些项目，但他们只是为概念验证提供资金，而这些项目都是长期项目。”

Wang说，此外，如果一家公司选择了一个没有优秀商业案例的起始项目，人们就提不起兴趣。

Wang说：“很多公司都经历过这样的事情，而你因此浪费了很多钱。”