教育新闻网企业AI的领导者DataRobot发布了一项新研究，该研究表明，美国和英国近一半(42%)的AI专业人员“非常”到“极其”关注AI偏见。该研究基于对350多名参与AI和机器学习购买决策的美国和英国高管的调查而得出，结果发现“品牌声誉受损”和“客户信任度下降”是与AI偏见有关的最令人担忧的问题，促使93%的受访者表示，他们计划在未来12个月内对AI偏差预防计划进行更多投资。
DataRobot的研究发现，尽管大多数组织(71%)目前依靠AI来执行多达19个业务功能，但19%的组织使用AI来管理多达20-49个功能，还有10%的技术利用该技术来解决50多个功能。虽然在企业内部管理AI驱动的功能可能非常有价值，但也会带来挑战。并非所有AI都一视同仁，并且如果没有适当的知识或资源，公司可能会以有害无益的方式选择或部署AI。
调查发现，超过三分之一(38%)的AI专业人员仍在使用黑匣子AI系统-这意味着他们几乎看不到AI解决方案的数据输入是如何使用的。缺乏可见性可能导致受访者担心其组织内出现AI偏差。
为了应对AI偏见的情况，所有AI专业人员中83%的人说他们已经建立了AI准则，以确保AI系统得到正确维护并产生准确，可信赖的输出。此外：
60%的人创建了警报以确定数据和结果何时与培训数据不同
59%的人衡量AI决策因素
56%的人正在部署算法以检测和缓解训练数据中的隐藏偏见
该调查还发现了美国和英国受访者之间的文化差异，这可能是由每个地区的法规和文化环境所驱动。美国受访者最担心的是紧急情况的偏见，这是由于用户与系统设计之间未对准而引起的偏见，而英国受访者则更关注技术偏见，或者是由于技术限制而产生的偏见。
为了加强预防AI偏差的努力，有59%的受访者表示他们计划投资于更先进的白盒系统，有54%的受访者表示他们将雇用内部人员来管理AI信任，还有48%的受访者表示他们打算邀请第三方供应商监督AI信任。除了这些预防AI偏见的措施外，全球所有受访者中有85%的人认为AI法规将有助于定义什么构成AI偏见以及应如何预防。
