返回 AI 资讯
社区讨论LinuxDo 最新

微软:Agent 是你最新的内部人员。安保必须跟着他们的节奏行动

https://www.microsoft.com/en-us/security/blog/2026/10/19/agents-are-your-newest-insiders-security-must-move-at-their-speed/ [!quote]+ “智能体”(Agents)正迅速成为工作流程的重要组成部分。它们能够支持多种任务,从编写代码、调研产品,到分析营收、处理费用,乃至在支撑业务运营的各类系统中执行操作。为了发挥最大效用,智能体往往需要访问公司数据、应用程序、工具以及其他智能体;这种访问…

内容摘要

作者:# 🐟 板块:#前沿快讯 https://www.microsoft.com/en-us/security/blog/2026/10/19/agents-are-your-newest-insiders-security-must-move-at-their-speed/ [!quote]+ “智能体”(Agents)正迅速成为工作流程的重要组成部分。它们能够支持多种任务,从编写代码、调研产品,到分析营收、处理费用,乃至在支撑业务运营的各类系统中执行操作。为了发挥最大效用,智能体往往需要访问公司数据、应用程序、工具以及其他智能体;这种访问权限赋予了它们更强的能力,但同时也可能带来内部风险。 这并非意味着智能体本质上是恶意的。它们只是功能强大的工具,用户可以授予它们访问重要系统的权限。智能体可能会出错、被操纵,或遭到入侵。它们的模型输出结果可能存在波动,所处的上下文环境会发生变化,执行计划也会在运行过程中不断演进。一个在任务开始时按预期运行的智能体,可能会随着上下文或输入的变化而表现出不同的行为。根据设计与部署方式的不同,智能体能够以机器的速度和规模持续运行。 微软董事长兼首席执行官萨提亚·纳德拉(Satya Nadella)最近阐述了这一新时代所必需的“信任架构”:我们必须将“智能的提供”与“对智能的管控权限”分离开来。我们不应让模型自身充当安全管控的主体。那些用于决定模型可访问哪些资源、可执行哪些操作,以及是否应继续运行的管控机制,必须置于模型之外,确保模型无法绕过或篡改这些机制。 [!quote]+ “Perception”项目——保障“智能体内部成员”(Agentic Insider)的安全 我们此前推出了“Perception”项目及微软网络安全技术栈,旨在帮助各类组织利用智能体(Agents)加强防御。如今,我们将“Perception”的适用范围进一步扩展,以保障“智能体内部成员”的安全。“守护智能体”(Guardian Agents)能够协助安全团队以机器级的速度和规模实现持续运营;与此同时,贯穿整个网络安全技术栈的传感器、上下文信息及执行组件,则有助

资讯来源

LinuxDo

原文链接

打开原文