深度阅读 数据观察 专业观点 持续更新
READ
DEEPER
行业资讯 / FEATURED STORY

当前位置:首页 LEWIN·乐玩- (中国)官方网站 行业资讯

Meta员工称Muse泄露私密数据,高管回应是幻觉

LEWIN·乐玩- (中国)官方网站837 阅读约5.5分钟
Meta员工称Muse泄露私密数据,高管回应是幻觉

本篇体育资讯由乐玩lewin整理:

Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。

发布公告里,公司说权限由用户掌控,能访问什么由用户决定。

这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。

问题从内部员工的讨论里冒了出来。

据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回复似乎暴露了陌生的银行余额或比特币余额。

这些描述拼出的画面,像是一次安全泄露。

Meta不认这个说法。

公司高管David Singleton表示,这些事件是孤立的幻觉,由测试提示词和一个bug引起。

按报道中的解释,Muse是编造了财务细节,而不是取回了真实的私人财务数据。

这个区分在技术上成立,对用户却未必成立。

一个拿到私密应用访问权、随后凭空说出一个银行余额的代理,和一个真的把余额暴露出来的代理,制造的实际惊慌几乎一样。

用户很难判断系统到底是读错了、编造了,还是真的取到了信息。

about image

三种情况下,“访问受控”这个核心承诺都变得难以评估。

风险还被Muse的运行方式放大。

Ars报道援引的独立测试发现,Muse能通过宽泛的权限和无障碍功能,触达Android与macOS上的敏感消息。

问题因此不止于模型准不准,还落在模型周围的权限架构上:代理能观察到什么,如何解读这些信息,以及它能否在用户监督不足时自行采取行动。

Meta自己的文档也承认这层风险。

在解释Muse指导与审批模型的帮助页面上,公司称该代理可能犯错,也可能做出意料之外的动作,并建议用户限制访问范围、监督其活动、核查Muse的信息来源与操作。

这些指引把不小的负担压给了用户。

它们也暴露出Meta在从聊天机器人走向自主代理时面临的竞争难题:聊天机器人通常看回答质量就能评判,代理却要按它的访问范围和在其他产品里的行为可靠性来评判。

这会形成一道不同的商业护城河。

领先的代理未必是模型最强的那一个,而是用户愿意授予最广权限的那一个。

Meta在消费者触达和应用集成上有优势,可同样的优势也放大了权限出错的后果。

每多接入一个应用,Muse更有用,幻觉和误操作被看成隐私侵犯的暴露面也随之变大。

对Meta来说,这是一次提醒:单靠分发拿不下代理市场。

公司必须让访问可见、约束自主行为、用用户能核实的方式解释失败。

在那之前,Muse最重要的产品考验不是它能做什么,而是用户能不能说清它到底做了什么。

特别

更多体坛动态,关注乐玩lewin。

返回资讯列表

分享这篇内容

让更多人看到这篇有价值的行业观察。

TRENDING NOW

热点新闻

查看近期更新内容,快速了解行业动态与用户关注方向。

美国金融“恶犬”索罗斯:搞崩东南亚经济,资助哈马斯,还闹过啥

美国金融“恶犬”索罗斯:搞崩东南亚经济,资助哈马斯,还闹过啥

1997年夏天,从泰国开始,一场金融风暴在东南亚席刮起,席卷了亚洲“四小虎”和“四小龙”,彻底打断长达20年的东亚黄金时代。 马来、印尼、韩国等国经济遭到重创,国家外汇系统崩溃、银行破产、企业倒闭,十几年的发展红利化为泡影。 时任马来西亚总理马哈蒂尔.穆罕默德在媒体面前高呼:“这都是西方强盗们干的,带头的就是那个乔治.索罗斯!” 不仅东南亚金融风暴,在世界上的多场动乱中,都不乏索罗斯的身影。 从东

邮报:弗兰克接近执掌水晶宫,欲挖切尔西定位球专家库埃瓦

邮报:弗兰克接近执掌水晶宫,欲挖切尔西定位球专家库埃瓦

直播吧11月16日讯 《每日邮报》报道,托马斯·弗兰克接近出任水晶宫主帅,这位前布伦特福德和托特纳姆热刺主教练正着眼于挖角切尔西的幕后团队。 水晶宫准备就贝尔纳多·库埃瓦向切尔西提出接触,库埃瓦曾在布伦特福德与弗兰克共事,后被切尔西挖走担任定位球专家教练。 库埃瓦于2024年加盟切尔西。然而,《每日邮报》去年夏天披露,这位39岁的墨西哥人在工作了两个赛季后角色发生变化,因为哈维·阿隆索的球队从阿斯

《兰香如故》大结局:直到圆房后,许兰香才明白,林锦岐一直守身如玉

《兰香如故》大结局:直到圆房后,许兰香才明白,林锦岐一直守身如玉

红烛烧到一大半,合卺酒已经见了底。许兰香终于放松了戒心,可等她转过身,发现林锦岐还坐在床边,手里的筷子一直没有拿起来。她问他怎么回事,他抬起头,说了一句让人沉默的话,那一刻她才知道,这个守身如玉六年的男人,并不是因为深情。 林锦岐和赵星棠结婚那天晚上,赵星棠把话说得很直白,圆房的事就不要提了。林锦岐没有强迫,第二天就收拾行李去了边境。这一走,就是六年。六年的时间里,他打仗、查账、攒人脉。边关军需是

诸葛亮到底是不是军事家?粟裕认为不是,打仗不行,是政治谋略家

诸葛亮到底是不是军事家?粟裕认为不是,打仗不行,是政治谋略家

1947年至1948年间,在华东战场的指挥岁月里,粟裕常被部下问到一个有趣的问题:诸葛亮到底算不算军事家?这个问题看似谈古,实际上考验的是如何区分政治谋略、战略判断和临阵指挥。 据流传的谈话说,粟裕给出的评价相当直接:“诸葛亮主要是政治谋略家,军事指挥并不是他的长处。”这句话之所以引起争论,并不在于诸葛亮没有带兵经历,而在于两人衡量战争的尺度并不相同。 粟裕是大兵团作战的行家。莱芜战役、孟良崮战役

刘礼嘉3分一剑封喉!上海男篮惊险拿下俱乐部杯开门红

刘礼嘉3分一剑封喉!上海男篮惊险拿下俱乐部杯开门红

CBA26/27赛季俱乐部杯今晚继续进行,上海男篮迎来本届赛事的首个对手四川男篮。虽然两队在常规赛排名相差甚远,但上海男篮全场比赛几乎都处于落后,最后时刻靠一记3分和一次盖帽才惊险拿下胜利。 此役主教练卢伟的首发阵容为:古德温、偰李永炜、李添荣、刘礼嘉和麦基。 第一节 上海男篮 13-29 四川男篮 虽然四川男篮常规赛战绩一般,新赛季暂列倒数第三,但本场比赛一开始他们的气势就非常足。外援霍华德火力