微软披露"Whisper Leak"漏洞:AI聊天服务面临新型隐私威胁

fenglinyeluo2025-11-10 15:15:22TechWeb.com.cn

据媒体报道,微软安全研究团队近日披露了一项名为"Whisper Leak"的高风险隐私漏洞,该漏洞专门针对现代AI聊天服务,构成一种新型侧信道攻击,可能危及用户隐私安全。

与传统攻击需破解加密内容不同,Whisper Leak通过分析加密网络流量中的元数据——包括数据包大小、时序与序列模式——来推测用户的对话主题。研究人员指出,当前AI服务普遍采用的token-by-token流式传输方式,虽提升了交互体验,但在网络层面留下了可辨识的通信"指纹",使攻击成为可能。

为验证攻击有效性,微软团队训练了专门的机器学习模型,收集了大量AI应答过程中的加密数据轨迹。实验结果显示,不同主题的对话会形成系统性差异的元数据模式。例如,涉及"洗钱"等敏感话题的响应数据,在包体大小与传输节奏上明显区别于日常对话。在实验环境中,分类器识别特定敏感话题的准确率超过98%,表明该技术在现实中具备高精度、大规模主题监控的潜力。

这一漏洞暴露出AI聊天服务面临的系统性威胁。互联网服务提供商、公共Wi-Fi中的攻击者等均可利用Whisper Leak观察用户流量,识别并标记敏感对话。记者、社会活动人士、寻求法律或医疗协助的用户尤其面临风险——即便对话内容经加密保护,其谈论主题仍可能遭到泄露,进而引发审查或人身威胁。

在微软依据负责任披露原则向行业通报后,多家主流AI厂商已着手部署缓解方案。目前主要应对策略包括三类:通过随机填充或内容混淆,弱化数据包长度与语义间的关联;采用token批处理发送,降低传输过程的时间精度;以及主动插入虚拟流量,干扰元数据模式识别。

然而,这些防御手段也带来响应延迟增加与带宽开销上升等代价,迫使服务商在隐私保护与用户体验之间作出权衡。

对普通用户而言,当前可行的自保方式包括:在处理高度敏感内容时关闭流式应答功能,并避免在不可信网络环境中进行相关查询。(Suky)

英伟达和富士康宣布将合作建造“人工智能工厂”

10月19日消息,据外媒报道,周三,英伟达和富士康宣布,他们将合作建造完全专注于人工智能工作负载的新型数据中心,为包括自动驾驶汽车在内的各种应用提供动力。报道称,富士康董事长刘扬伟和英伟达CEO黄仁勋在周三...

云原生助力AIGC 作业帮在云栖大会畅谈技术创新成果

日前,一年一度的科技盛会云栖大会在杭州如期举行。大会以“云启智跃,产业蝶变”为主题,设有400多个分论坛,吸引了来自全球的科技爱好者和业界专家,共同探讨人工智能发展的前景和方向,全面展现云计算与人工智能...

TechWeb微晚报:AI进入人人皆可用时代,黄仁勋公布英伟达产品路线图

今日要闻一览:三大操作系统全面集成AI进入人人皆可用时代黄仁勋公布英伟达路线图:Rubin将作为Blackwell的下一代平台特斯拉新款Model3高性能版开售:3.1秒加速,33.59万元起64.4亿元!财政部下达2024年汽车以旧换新...

阿里视频生成大模型万相2.1开源!效果超Sora,消费级显卡就能跑

2月27日消息,大模型开源的风吹到了视频生成大模型。阿里云日前放出重磅消息:万相,开源!阿里云视频生成大模型万相2.1(Wan)正式开源,此次开源采用Apache2.0协议,14B和1.3B两个参数规格的全部推理代码和权重全...

Claude 获推“自定义样式”功能,让文本生成风格更匹配需求

IT之家11月28日消息,AI模型企业Anthropic当地时间27日宣布为旗下Claude聊天机器人推出“自定义样式”功能,用户可打造更贴合使用场景的文本生成风格。Anthropic宣称在“自定义样式”的助力下,无论用户是编写技术文...

TAG:AI 微软
上一篇:滴滴顺风车严打私下拼车:AI技术都用上了 无所遁形
下一篇:联想双十一:线上线下全场景 “AI 宠粉”