根据Gartner的最新研究报告，生成式人工智能（GenAI）技术的广泛应用将带来显着的数据安全风险。预计到2027年，超过40%的人工智能相关数据泄露事件将直接归因于生成式人工智能的误用。这一预测凸显了企业在采用GenAI技术时面临的严峻挑战，特别是在数据治理和安全措施方面。
随着GenAI技术的快速普及，组织在数据本地化背景下遇到的挑战尤为突出。这些技术对集中计算能力的高需求，使得数据跨境流动的风险显着增加。 Gartner的副总裁分析师Joerg Fritsch强调，许多企业在集成GenAI工具时缺乏必要的监督，导致敏感数据可能被意外传输到未知地点，从而带来严重的安全隐患。
全球范围内缺乏统一的数据治理标准是另一个关键挑战。这种标准化的缺失导致了市场的碎片化，迫使企业不得不为不同地区制定特定的策略，这不仅增加了运营成本，还限制了它们在全球范围内有效利用AI产品和服务的能力。 Fritsch指出，"管理数据流的复杂性以及本地化AI政策带来的质量维护问题，可能会导致运营效率的显着下降。"
为应对这些风险，企业需要在AI治理和安全方面进行战略性投资。 Gartner预测，到2027年，全球范围内将普遍要求实施AI治理，特别是在主权AI法律和法规的框架下。那些未能及时整合必要治理模型的组织将面临竞争劣势，可能失去市场先机。
为降低AI数据泄露风险，Gartner建议企业采取多管齐下的策略：首先，加强数据治理，确保遵守国际法规并监测意外的跨境数据转移；其次，成立专门的治理委员会，提高AI部署和数据处理的透明度；最后，采用先进的数据安全技术，如加密和匿名化，以保护敏感信息。
此外，企业还应投资于与AI技术相关的信任、风险和安全管理（TRiSM）产品。这包括AI治理、数据安全治理、提示过滤和红action，以及合成生成非结构化数据。 Gartner预测，到2026年，实施AI TRiSM控制的企业将减少至少50%的不准确信息，从而显着降低错误决策的风险。
关键要点包括：超过40%的AI数据泄露将由生成式AI误用引发；企业必须加强数据治理以确保合规与安全；投资AI相关的信任、风险和安全管理产品能显着减少错误信息的产生。这些建议为企业应对GenAI带来的挑战提供了明确的行动指南。