IBM 和 AWS 研究：当前生成式 AI 项目中只有不到 25% 得到保护
长期以来，企业界一直秉承“信任是良好业务的货币”这一理念。 但随着人工智能改变和重新定义企业的运营方式以及客户与企业的互动方式，必须建立对技术的信任。
人工智能的进步可以释放人力资本，使其专注于高价值的交付成果。 这种演变必将对业务增长产生变革性影响，但用户和客户体验取决于组织对构建安全、负责任和值得信赖的技术解决方案的承诺。
企业必须确定与用户交互的生成式人工智能是否可信，而安全性是信任的基本组成部分。 因此，企业面临的最大赌注之一是：确保人工智能部署的安全。
现在创新，以后安全：脱节
今天，IBM® 商业价值研究院发布了由 IBM 和 AWS 共同撰写的《保护生成式 AI：现在最重要的事情》研究报告，介绍了有关保护生成式 AI 部署的新数据、实践和建议。 根据 IBM 的研究，82% 的高管受访者表示，安全且值得信赖的人工智能对其业务的成功至关重要。 虽然这听起来很有希望，但 69% 的受访领导者还表示，在生成人工智能方面，创新优先于安全。
在创新和安全之间优先考虑似乎是一种选择，但实际上这是一种考验。 这里有明显的紧张气氛； 组织认识到生成人工智能的风险比以往任何时候都更高，但他们并没有应用他们的 吸取的教训 来自以前的技术中断。 就像向混合云、敏捷软件开发或零信任的过渡一样，生成式人工智能安全可能是事后才想到的。 超过 50% 的受访者担心不可预测的风险会影响生成式人工智能计划，并担心它们会增加业务中断的可能性。 然而他们报告称，当前生成式人工智能项目中只有 24% 得到了保护。 为什么会出现这样的脱节呢？
安全方面的犹豫不决可能既是更广泛的生成式人工智能知识差距的一个指标，也是其结果。 近一半的受访者 (47%) 表示，他们不确定在生成人工智能方面投资在哪里以及投资多少。 即使团队正在试验新功能，领导者仍在研究哪些生成式人工智能用例最有意义，以及如何针对生产环境扩展这些用例。
确保生成式人工智能的安全从治理开始
不知道从哪里开始也可能成为安全行动的障碍。 这就是为什么 IBM 和 AWS 联手为寻求保护人工智能的组织提供行动指南和实用建议。
为了在生成式人工智能中建立信任和安全，组织必须从基础开始，以治理为基准。 事实上，81% 的受访者表示，生成式人工智能需要一种全新的安全治理模型。 通过从治理、风险和合规性 (GRC) 入手，领导者可以为网络安全战略奠定基础，以保护符合业务目标和品牌价值的 AI 架构。
对于任何要确保安全的流程，您必须首先了解它应该如何运作以及预期的流程应该是什么样子，以便可以识别偏差。 偏离其操作设计目的的人工智能可能会带来新的风险，带来不可预见的业务影响。 因此，识别和了解这些潜在风险有助于组织根据其独特的合规性和监管要求了解自己的风险阈值。
一旦设置了治理护栏，组织就能够更有效地制定保护人工智能管道的策略。 数据、模型及其使用，以及他们正在构建和嵌入人工智能创新的底层基础设施。 虽然安全的共同责任模型可能会根据组织如何使用生成式人工智能而发生变化。 当组织开发自己的人工智能操作时，许多工具、控制和流程可帮助减轻业务影响的风险。
组织还需要认识到，虽然在考虑可信人工智能时首先想到的往往是幻觉、道德和偏见，但人工智能管道面临着一种威胁形势， 信任自己处于危险之中。 传统威胁具有新的含义，新威胁使用进攻性人工智能功能作为新的攻击媒介，而新威胁则寻求损害我们日益依赖的人工智能资产和服务。
信任—安全方程
安全性有助于为生成式人工智能用例带来信任和信心。 为了实现这种协同作用，组织必须采取 村庄方法。 对话必须超越 IS 和 IT 利益相关者，涉及战略、产品开发、风险、供应链和客户参与。
由于这些技术既具有变革性又具有颠覆性，因此管理组织的人工智能和生成式人工智能产业需要跨安全、技术和业务领域的协作。
技术合作伙伴可以发挥关键作用。 利用技术合作伙伴在整个威胁生命周期和整个安全生态系统中的专业知识的广度和深度可能是一笔无价的资产。 事实上，IBM 的研究显示，超过 90% 的受访组织通过第三方产品或技术合作伙伴实现了生成式 AI 安全解决方案。 在选择满足其生成人工智能安全需求的技术合作伙伴时，接受调查的组织报告了以下内容：
- 76% 的受访者寻求合作伙伴来帮助构建具有可靠投资回报率的令人信服的成本案例。
- 58% 寻求总体战略和路线图的指导。
- 76% 寻求能够促进培训、知识共享和知识转移的合作伙伴。
- 75% 的人选择能够指导他们应对不断变化的法律和监管合规环境的合作伙伴。
该研究清楚地表明，组织认识到安全对其人工智能创新的重要性，但他们仍在试图了解如何最好地应对人工智能革命。 建立可以帮助指导、咨询和技术支持这些努力的关系是受保护和可信的生成人工智能的关键下一步。 除了分享有关高管看法和优先事项的重要见解外，IBM 和 AWS 还提供了一份行动指南，其中包含实用建议，可帮助您将生成式 AI 安全策略提升到新的水平。
详细了解 IBM-AWS 联合研究以及组织如何保护其 AI 管道
本文是否有帮助？
是的不
