作家：张侠 博士 亚马逊云科技 首席企业计策参谋人

昔时两年，以生成式 AI 为代表的东谈主工智能迅猛发展，正在颠覆和移动五行八作，成为企业竞争和发展的计策制高点。生成式 AI 在为企业带来技巧翻新和业务发展的各式契机的同期，也为企业带来信息安全、企业合规、转型和发展的繁多挑战和无边风险。企业高管需要熟识和了解生成式 AI 所带来的安全问题，并运转入部属手安排部署开展与负包袱的 AI 相关的服务。在此咱们针对相关话题为世界作念先容共享，供您参考。

1. 东谈主工智能带来的风险和挑战

生成式东谈主工智能带来的技巧跳跃必须尊重法治、东谈主权和东谈主性尊荣，符合咱们包容、逃匿和公谈的社会价值不雅。东谈主们但愿生成式 AI 具有可用性、安全性、可靠性、透明性、可解说、实在赖、合德合规正当。在传统的信息安全、网罗安全和信息治理的基础之上，生成式 AI 的刚劲翻新性和变革性，带来了独有的需要考虑和搪塞的问题。

生成式 AI 带来的风险挑战跨越各个鸿沟，从技巧、交易、谈德、法律到社会，主要触及到以下方面：（1）复杂模子清贫透明性和可解说性；（2）产生很是信息和演叨信息；（3）模子形成偏见，有损公谈；（4）公司高明和个东谈主逃匿露出；（5）生成式 AI 新技巧的突然；（6）学问产权包摄与实践剽窃；（7）高风险决策和包袱包摄；（8）服务岗亭流构怨经济影响；（9）法例缺失，监管、谈德和社会问题；（10）算力耗能对环境的冲击；（11）东谈主工智能的过度依赖；（12）违犯东谈主权、要挟东谈主类活命；（13）被坏心使用——数据毒化、模子操控、敌意袭击，等等。

2. 东谈主工智能应用风险评估

企业继承东谈主工智能应用的风险涵盖鄙俗各种的风险，包括计策、财务、运营和法律风险等。东谈主工智能系统风险侧重于与东谈主工智能应用系统的践诺和操作相关的影响，而机器学习模子风险触及机器学习模子固有的罅隙和不敬佩性。企业东谈主工智能系统可能基于多个不同的机器学习模子一齐服务，致使牵连到多个不同的东谈主工智能系统。企业要笼统考虑东谈主工智能模子的特定应用的细节以及手脚完好意思东谈主工智能系调理部分的相应用例，针对每个用例和不同级别评估各种风险，即模子风险、东谈主工智能系统风险和企业风险，以敬佩相应的搪塞风险的策略。

东谈主工智能的风险照管不错最大罢休地减少不敬佩性或潜在负面影响，同期最大化积极正面的孝顺。凭据 NIST 风险照管框架，风险不错被臆想为事件发生概率与相应事件成果严重进度的乘积。风险评估是一项以东谈主为本的举止，需要通盘组织的死力。 这包括确保悉数相关利益相关者齐参与评估进程（举例家具、工程、科学、销售和安全团队），形容用户怎么与东谈主工智能系统交互以收场特定指倡导特定场景或情况，识别与用例相关的潜在无益事件，以及评估社会不雅点和规范怎么影响某些事件的感知可能性和成果。

3. 东谈主工智能安全照管

东谈主工智能安全照管是一个快速发展的新鸿沟，需要政策制定者、开采运维东谈主员和其他利益相关者积极共同死力，以防守各种新出现的风险。确保东谈主工智能系统的安全性和执意性关于充分判辨东谈主工智能的后劲，同期缩小误用和伤害的风险至关热切。东谈主工智能安全的考量需要热心下述五大主要方面：

合规和治理：为业务提供的支柱同期，最大罢休缩小风险所需的政策、规范和申诉。法律和逃匿： 使用或创建生成式 AI 处置决策的具体监管、法律和逃匿条目。安全规则：践诺用于缩小风险的安全规则。风险管控：识别生成式 AI 处置决策的潜在要挟和建议的缓解设施。弹性韧性：怎么构建生成式 AI 处置决策以保持可用性并自高业务 SLA。

进步东谈主工智能安全照管不错通过下述方法来收场和加强：

拒抗性测验和罅隙测试：使用各种化且具有代表性的数据集，并将模子置于模拟袭击场景中，以确保模子执意性，缩小袭击的风险。模子应该经过严格的罅隙测试，包括对数据投毒的测试。透明性和可解说性：争取东谈主工智能系统透明且可解说，这有助于识别弱势和罅隙，并增强东谈主工智能决策的包袱感。数据安全防护：践诺刚劲的数据治理框架来调遣数据主权、安全和逃匿。防守未经授权造访敏锐数据，继承匿名数据集和对敏锐信息践诺加密。东谈主员全程参与：在高风险应用中，防守对东谈主工智能决策的东谈主类监督关于减少很是或意生手为至关热切，相等是针对医疗保健、自主兵器等重要鸿沟。按期审计和监控：对部署后的东谈主工智能系统进行继续监控，关于防守和减弱新出现的安全要挟至关热切。按期审核有助于在问题导致倒霉性成果之前实时发现处置问题。谈德和法律框架：依据政府和国外组织为东谈主工智能安全制定的法例，企业要制定明确的提醒方针，确保业务和开采东谈主员对东谈主工智能系统的安全部署郑重。

4. 负包袱的东谈主工智能（Responsible AI）

负包袱的东谈主工智能是指以谈德、透明、郑重且符合社会价值不雅的样式开采、部署和使用东谈主工智能的实践。它是为了确保东谈主工智能技巧的联想和使用优先考虑公谈、逃匿、安全以及个东谈主和社区的福祉，同期减弱敌对、伤害和突然等风险。负包袱的东谈主工智能涵盖了鄙俗的原则、指南和最好实践，旨在确保东谈主工智能造福悉数东谈主，同期最大罢休地减少潜在的负面影响。底下为世界先容界说负包袱的东谈主工智能的一些中枢原则和考虑身分。

负包袱的东谈主工智能的治理的一些要素包括：（1）设立明确的任务和权责；（2）公和睦包容性的联想；（3）确保透明度和可解说性；（4）优先考虑数据逃匿和安全；（5）敬佩正确的监督级别；（6）促进对生成东谈主工智能伦理的交融。

负包袱的东谈主工智能的最好实践是企业东谈主工智能神色尽早地全场所和安全合规团队全场所的风雅合营，让他们参与神色的通盘进程，而不是只手脚后期的评审员。在这个进程中要嗜好对安全团队 AI 的培训，行使透明性和可解说性来加强对 AI的交融和掌持。生成式 AI 的安全最好实践还包括：把东谈主耐久放在首位，东谈主要充分参与 AI 神色的每个关节； 凭据具体用例逐一进行评估风险；监控通盘 AI 迭代人命周期；测试，测试，再测试。

5. 亚马逊云科技的最好实践

亚马逊耐久把安全相关的服务放在悉数服务的首位，是排位最优先的服务（Job Zero）。正如亚马逊云科技 Responsible AI 主页中所说，“生成式东谈主工智能的快速发展带来了充满但愿的新翻新，同期也提议了新的挑战。在亚马逊云科技，咱们竭力于负包袱地开采东谈主工智能，选择以东谈主为本的方法，优先考虑教诲、科学和咱们的客户，在通盘端到端东谈主工智强者命周期中整合负包袱的东谈主工智能。“

亚马逊还提议了负包袱的东谈主工智能的八大支柱：

公谈性：考虑输出对不同群体中利益相关者的影响。可解说性：交融并评估系统输出。逃匿保护：安妥地赢得使用 AI 应用和保护数据和模子。安全性：退避无益系统的输出和突然。可控性：用机制监控和指点东谈主工智能系统举止。准确性和稳健性：即使专诚外或拒抗性输入，也确保收场正确的系统输出。AI 治理：将通盘 AI 供应链，包括提供者和部署者，纳入最好实践调理照管。透明性：使利益相关者概况在与东谈主工智能系统的互动中作念出理智的选拔。

亚马逊云科技为企业保举下述缔造负包袱的东谈主工智能的规范方法：

赢得企业高管的支柱；组建多元化跨学科的团队；优先践诺教诲培训，将负包袱的 AI 融入企业文化；将 AI 才智与东谈主类监控相归拢；强化模子的解说性和透明性；针对具体用例评估、管控和缩小风险；热心数据逃匿和尊重学问产权；部署践诺安全护栏；测试，测试，再测试；全人命周期耐久保持警悟。

亚马逊云科技的全托管服务 Amazon Bedrock 整合了多种东谈主工智能安全和负包袱的东谈主工智能的功能，以确保模子的使用安全、符合谈德且符合最好实践。该服务包括刚劲的安全设施，举例数据加密、造访规则和身份照管，以保护敏锐信息并防守未经授权的造访。此外，Amazon Bedrock 通过提供内置机制来支柱负包袱的东谈主工智能，匡助开采东谈主员处置东谈主工智能模子中的偏见、确保公谈性并保持透明度。它允许进行模子监控和审计，以确保问责制和恪守谈德准则。亚马逊还强调恪守监管尺度，匡助用户将其东谈主工智能部署与法律停火德框架保持一致，促进东谈主工智能应用中负包袱的翻新。

Amazon Bedrock Guardrails 可匡助您践诺针对您的生成式 AI 应用规范量身定制的保护设施，并与您负包袱的东谈主工智能的政策保持一致。Guardrails 在基础模子保护之上提供了额外的可定制的保护设施，通过以下样式提供业界最好的安全保护：抑止多达 85% 的无益实践；针对 RAG 和汇总服务负载过滤特地 75% 的幻觉反映；使客户概况在单一处置决策中定制和应用安全、逃匿和果然性保护。

智能之旅是咱们这一代企业蓄意者和职工的的服务，而东谈主工智能的安全照管和收场负包袱的东谈主工智能，是通往智能谈路行动的安全护栏。通过将负包袱的东谈主工智能实践镶嵌东谈主工智能计策中，企业不错灵验推进翻新与转型，同期缩小管控风险，培养客户信任，确保东谈主工智能系统产生积极的社会影响。企业不应该以东谈主工智能安全和负包袱的东谈主工智能为借口拖延行动，淌若您的企业还莫得践诺负包袱的东谈主工智能照管，咫尺等于时刻运转入部属手构建照管机制，为企业的智能之旅添砖加瓦。