>> 云安全联盟-人工智能行业:企业人工智能智能体安全研究(英译中)-260624
| 上传日期: |
2026/6/24 |
大小: |
6748KB |
| 格式: |
pdf 共29页 |
来源: |
|
| 评级: |
-- |
作者: |
希拉里·巴伦 |
| 下载权限: |
无限制-登录即可下载 |
|
|
执行摘要 与人工智能代理相关的风险已不再是理论上的。调查发现,自主系统在日常工作中已超出预期权限、在预期范围外运行。在许多环境中,这些行为至少偶尔会发生,表明范围违规并非孤立事件,而是一种常规的运行状况。近半数组织报告称经历过涉及人工智能代理的安全事件,且当事件发生时,检测和响应通常需要数小时甚至数天,而非数分钟,从而扩大了互联系统中的潜在暴露窗口。这些模式表明,造成实质性暴露并非源于假设性的未来采用,而是由于自主系统已实现规模化运行——通常是在实时代理清单、持续运行时授权控制和全面行动可追溯性仍需成熟的环境中
|
|