DataRobot报告称将近一半的AI专业人员非常关注AI偏差

企业AI的领导者DataRobot发布了一项新研究,该研究表明,美国和英国近一半(42%)的AI专业人员“非常”到“极其”关注AI偏见。该研究基于对350多名参与AI和机器学习购买决策的美国和英国高管的调查而得出,结果发现“品牌声誉受损”和“客户信任度下降”是与AI偏见有关的最令人担忧的问题,促使93%的受访者表示,他们计划在未来12个月内对AI偏差预防计划进行更多投资。

DataRobot的研究发现,尽管大多数组织(71%)目前依靠AI来执行多达19个业务功能,但19%的组织使用AI来管理多达20-49个功能,还有10%的技术利用该技术来解决50多个功能。虽然在企业内部管理AI驱动的功能可能非常有价值,但也会带来挑战。并非所有AI都一视同仁,并且如果没有适当的知识或资源,公司可能会以有害无益的方式选择或部署AI。

调查发现,超过三分之一(38%)的AI专业人员仍在使用黑匣子AI系统-这意味着他们几乎看不到AI解决方案的数据输入是如何使用的。缺乏可见性可能导致受访者担心其组织内出现AI偏差。

为了应对AI偏见的情况,所有AI专业人员中83%的人说他们已经建立了AI准则,以确保AI系统得到正确维护并产生准确,可信赖的输出。此外:

60%的人创建了警报以确定数据和结果何时与培训数据不同

59%的人衡量AI决策因素

56%的人正在部署算法以检测和缓解训练数据中的隐藏偏见

该调查还发现了美国和英国受访者之间的文化差异,这可能是由每个地区的法规和文化环境所驱动。美国受访者最担心的是紧急情况的偏见,这是由于用户与系统设计之间未对准而引起的偏见,而英国受访者则更关注技术偏见,或者是由于技术限制而产生的偏见。

为了加强预防AI偏差的努力,有59%的受访者表示他们计划投资于更先进的白盒系统,有54%的受访者表示他们将雇用内部人员来管理AI信任,还有48%的受访者表示他们打算邀请第三方供应商监督AI信任。除了这些预防AI偏见的措施外,全球所有受访者中有85%的人认为AI法规将有助于定义什么构成AI偏见以及应如何预防。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。