
中国日报9月15日电(记者 李佳颖)北京——随着生成式AI加速融入企业业务与运营,企业对AI的关注正从“如何采用AI”转向“如何规模化应用AI并实现实际业务价值”。智能体AI的快速发展也进一步凸显了治理、可解释性与数据质量的重要性。SAS结合IDC研究洞察最新发布的报告显示,企业AI投资成效正因治理与信任能力出现明显差距——落实可信AI实践的组织,获得高投资报酬率(ROI)的概率,可达其他组织的15倍。
这份名为《数据与AI影响力报告:信任的新经济学》(Data and AI Impact Report: The New Economics of Trust)的报告(以下简称“数据与AI影响力报告”)指出,重视可信AI 实践的企业与未重视的企业之间,ROI 差距正在扩大。拥有最完善治理、数据质量和可审计性实践的企业(虽然目前在市场中占比相对较小)的表现持续优于同行,其AI 部署所带来的 ROI 至少是同行的两倍。相比之下,在可信 AI 方面落后的企业中,仅有不到1/20能达到同等 ROI 水平。
投资可信 AI 举措的企业,其AI 项目实现强劲或九游科技股份有限公司高 ROI 的概率高出 15 倍(62% 对比 4%)。而拥有最强可信 AI 实践的企业,在包括收入增长、成本节约和客户体验在内的 13 个不同业务指标上的收益也平均高出 1.85 倍。此外,在具备可信AI实践的领军企业中,有 85% 今年正在将这一领域的投资增加 10% 以上,以进一步拉大与同行的差距。
SAS首席技术官Bryan Harris指出:“AI真正发挥作用时,可以带来很大的影响。然而,目前最先进的AI智能体在处理复杂任务时,错误率仍可能超过25%,这在高风险决策中是无法接受的。企业若要提高AI决策的准确性与可重复性,必须将领域专业知识融入智能体工作流,同时让人始终处于治理与监督的核心位置,如此才能缩短信任差距,并借助AI在市场中获得竞争优势。”
IDC副总裁Chris Marshall表示:“当AI变得更自主,企业面临的新挑战,是如何维持人们对一套无法完全理解的系统的信任。我们的研究表明,更强大的监督机制、可解释性、问责机制与数据基础,正成为九游科技股份有限公司企业规模化应用AI的先决条件。”
研究人员发现,在许多企业中,由于系统可能无法提供正确结果或无法解释 AI 如何得出最终结论,员工越来越不敢依赖这些系统。随着 AI 自主性不断提升,这一问题也日益突出,使可解释性成为 AI 成功应用的关键因素。
报告还深入探讨了阻碍 AI应用落地的一大阻碍:当员工对 AI 决策缺乏信任时,他们会推翻AI输出的结果而进行人工修正。这不仅会加剧 AI 可信度的不足,还会浪费企业的时间、降低生产力并损害盈利能力。
有97.2%的AI使用者表示,至少曾在某些情况下推翻AI生成的建议,最常见的原因是AI无法说明其决策依据。受访者对生成式AI的信任度为76%,对自主程度更高的智能体AI则降至66%,凸显出随着 AI 系统自主性不断增强,人们对其可靠性的担忧也在加剧。
AI 决策的质量归根结底取决于其所依赖的数据。因此,对于希望降低人工干预率的组织而言,构建坚实的数据基础至关重要。然而,大多数企业仍是在严重滞后或过时的数据及数据基础设施上部署 AI。由于缺乏能够支持关键透明度和可解释性的坚实数据基础,企业难以有效地治理 AI 并实现商业价值。
拥有优化数据基础的企业,预计能从 AI 项目获得高 ROI 的概率高出 4 倍,且强制实施建立AI信任所需的“数据质量与可解释性控制机制”的可能性高出 6 倍。而目前全球只有17.5%的企业拥有成熟度足以满足智能体AI需求的完全优化的数据基础设施,这在一定程度上制约了AI性能的发挥。
本次研究调查全球28个国家、2,699名对企业数据与AI策略具有了解或影响力的决策者,涵盖银行、保险、生命科学与公共部门四大行业。报告以数据质量与治理、模型治理与监督、可解释性与公平性、负责任AI政策,以及审计与问责五项维度评估组织的可信AI成熟度,总分达80分以上者列为可信AI领先组织。
在此框架下,可信 AI(Trustworthy AI)是指具备可靠性、公平性、安全性、符合监管要求与可解释性,并具备明确治理及问责机制的 AI 系统。企业必须确保 AI 的决策过程能被理解与监督,并针对错误或缺失的 AI 输出建立清楚的责任机制,使 AI 应用符合组织所制定的治理规范。
报告还进一步聚焦全球各行业的AI应用案例与研究发现,展现各行业领先企业如何推进AI应用。研究显示,银行业领先企业已不再将AI治理仅视为合规要求,而是将完善的AI治理体系视为提升竞争优势和保障运营的必要条件:85%的AI领先银行已建立AI治理框架,而落后企业的这一比例仅为29%。在公共部门,41%的领先组织计划在未来一年将可信AI相关投入增加20%以上,增幅与各行业中最积极的企业持平。生命科学行业则在AI规模化应用方面领先,23%的生命科学企业已将AI应用扩展至全公司范围,为各行业最高。