微软公司正积极推动人工智能代理（AI Agents）在Windows 11操作系统中的深度融合，将其视为未来Windows核心功能的重要组成部分。尽管官方承认这项技术存在潜在风险，但微软仍计划自2025年10月起，将所有Windows 11设备逐步转型为“AI PC”，以自然语言交互取代传统的键盘鼠标操作模式。新的任务栏搜索功能也将可选地替换为“Ask Copilot”，使用户能直接通过该接口调用AI代理执行后台任务。
这些AI代理被设计为能够模拟人类用户，在操作系统界面内进行点击、应用程序操作及文件管理等多步骤任务，旨在提升用户的工作效率。然而，微软在其官方文档中坦承，这些代理可能出现“幻觉”现象，产生意料之外的输出，并且容易受到“跨提示注入攻击”（Cross Prompt Injection, XPIA）的欺骗。攻击者可能通过在界面元素或文档中嵌入恶意内容，篡改代理的指令，从而导致敏感数据泄露或恶意操作，构成新的安全威胁入口。
为应对上述安全隐患，微软已在Windows 11中引入了“Agent Workspace”（代理工作区）作为其“代理化操作系统”架构的基石。该工作区不同于传统虚拟机或Windows沙盒，是一个独立的Windows会话，拥有独立的账户、桌面、进程树和权限边界，旨在为AI代理提供一个隔离的运行环境。每个AI代理都将关联一个受限的标准用户账户，系统通过此账户设定其可访问的资源和操作范围，将潜在破坏限制在可控范围内。 尽管如此，AI代理仍可能被授予对“已知文件夹”（如“下载”文件夹）的读写权限，这引发了用户对隐私和数据安全的进一步担忧。
微软强调，所有AI代理功能默认处于关闭状态，需由用户主动选择开启。此外，公司还推出了“模型上下文协议”（Model Context Protocol, MCP），这是一个开放标准，旨在标准化AI应用与外部工具及数据源之间的整合。MCP作为代理与应用程序之间的标准化桥梁，限制了代理对系统的直接访问，并集中管理认证、授权和日志记录，以确保交互的安全性和可审计性。
当前，Windows 11因用户体验及此前“Recall”功能引发的隐私争议已面临一定质疑。在推动AI代理技术落地的过程中，微软面临的挑战不仅是技术创新，更在于通过高度透明的设计、可选功能以及实际价值来重建并赢得用户的信任。