Gartner发布安全且大规模实现AI价值的四大新兴挑战

  9月25日消息，2024年第二季度Gartner对451名高级技术领导者进行的一项调研显示，57%的首席信息官(CIO)表示自身肩负着企业人工智能(AI)战略的领导责任。然而，四大新兴挑战令CIO很难实现AI的价值。

  使用AI未必总能实现业务效益

  使用生成式人工智能(GenAI)创造业务价值的前提是，必须在工作流中持续使用GenAI工具。2024年第二季度，Gartner对美国、英国、印度、澳大利亚和中国的5,000余名数字工作者进行了调研。结果显示，使用GenAI的员工平均每周可节省3.6小时，但并非所有使用GenAI的员工都能获得同等程度的效益。

  采用AI加速型步伐的企业机构不仅寻求生产力方面的效益，还在寻求其他层面的改进，包括运营和流程层面的改进(例如实现关键业务流程的自动化或重塑与聊天机器人协作的职位)以及业务层面的变革性改进(例如能够创造新收入来源或重塑企业价值主张的成果)。

  AI成本可能会迅速失控

  Gartner于2024年6月和7月对300余名CIO进行的调研结果显示，超过90%的CIO表示成本管理限制了其利用AI创造价值的能力。实际上，Gartner认为成本是与安全或幻觉同等重要的AI风险。

  根据Gartner的估算，如果不了解GenAI成本如何扩展，CIO的成本计算可能会出现高达5到10倍的误差。

  无处不在的数据和AI带来了新的挑战和风险

  AI和数据在企业中广泛应用，已不再是IT部门直接控制的集中资产。Gartner对300余名CIO进行的调研发现，未来平均只有35%的AI能力由内部IT团队构建。这意味着企业需要采取新的方法来管理和保护数据访问、治理AI的输入和输出，并安全地实现AI价值。

  使用AI对员工绩效和福祉来说是一把双刃剑

  有些员工可能会很喜欢AI工具，有些则会感觉受到威胁或产生反感。对AI的强烈反应可能会引发意想不到的行为结果，进而对员工的工作表现产生负面影响，例如对使用AI的同事产生嫉妒以及对AI工具的过度依赖等。

  然而，很少有企业机构在积极管理这些行为结果。Gartner在2024年6月和7月进行的这项调研显示，只有20%的CIO表示自己致力于减少GenAI对员工福祉的潜在负面影响。