> 新闻 > 国内新闻 > 正文

川师大杀人案

Anthropic发布论文预警 智能体悄悄聊天就能传播病毒_我的网站

天若有情

A |       近日,大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒:多智能体大语言模型系统中的自我传播思想》。  论文通过实验证明,在特定条件下,AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置,病毒仍能通过文件持久化“复活”。论文同时强调,该风险目前仅构成有限威胁。

B |     北京时间8月21日,NBA联盟再次传来重磅消息。  这一发现迅速在海外AI圈刷屏,特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。据名记Shams Charania报道,明尼苏达森林狼的共同所有者马克洛尔,已同意将球队的大部分股份出售给美国商界领袖马克斯塔德。这笔交易对球队的整体估值达到了45亿美元。交易完成后,马克斯塔德将成为森林狼以及WNBA明尼苏达山猫队的实际控制方和最大股东。  该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。         这已经是短短十天内,NBA第二支被易主的球队。就在不久前的北京时间8月12日,洛杉矶湖人刚被以125亿美元的天价出售。

C | 与传统计算机病毒依赖代码漏洞不同,“心智病毒”通过一个智能体说服另一个智能体接受某种信念,被说服者再将传播指令写入长期记忆,继续感染下一个。

D | 当时,老板马克沃尔特在仅仅入主14个月后,便将这支豪门球队转手给了前迪士尼CEO鲍勃艾格和投资人乔什库什纳。  AI博主Rohan Paul(罗汉·保罗)对此评论称,这基本上就是计算机蠕虫的自然语言版本,只不过这次是AI智能体自己在做复制。短短几天内,西部又有一支球队换了主人,NBA的资本故事正上演着令人目不暇接的剧情!          森林狼的这次出售,最引人注目的是其惊人的估值增幅。时间回到2021年,马克洛尔和MLB名宿亚历克斯罗德里格斯开始收购球队时,对应的球队估值仅为15亿美元。这意味着在短短五年左右的时间里,球队的价值翻了整整三倍。  论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。洛尔通过这次出售,获得了极为可观的回报,不过他仍将保留部分股份,以有限合伙人的身份留在球队。         如果将视线拉远,会发现森林狼的“45亿”与湖人的“125亿”之间,构成了NBA球队价值飙升的清晰脉络。  第一个实验设置了一个由六个智能体组成的编程团队,每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中,结果显示,被感染的智能体确实放下手头工作,开始给队友发送劝说私信,部分智能体被说服并放弃了原有任务,有的智能体甚至开始密谋如何对付未被感染的“老实人”。  不过,不同智能体的抵抗力差异较大,有的不为所动,甚至会主动清除病毒并警告同伴。湖人队的出售本身就是一段传奇:2025年10月,马克沃尔特才刚以100亿美元从巴斯家族手中接过湖人。这个实验说明,在理想条件下“心智病毒”确实可以传播。

E |   如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播,它还能存活吗?于是他们设计了第二个实验,让智能体之间只能短暂碰面,每次碰面后就会“失忆”,病毒必须将自己写入智能体的记忆文件中才能延续。  结果发现,有些病毒能在近20个智能体之间连续传播,但内容会在传播过程中逐渐稀释和变形;而传播最有效的方式,是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。然而仅仅过了14个月,他便以125亿美元的价格卖出,账面净赚25亿美元。这说明,大规模传播可行但内容难以保持完整。这个数字不仅刷新了由他自己保持的纪录,也再度改写了全球职业体育球队的成交价天花板。         值得注意的是,两支球队的出售背景截然不同。湖人队的闪电易主,更多被外界解读为老板沃尔特的“变现救火”,据多家媒体报道,他正因约160亿美元的潜在财务违规接受调查,出售湖人被视为筹集资金的手段之一。  最后,研究者在模拟AI社交平台的实验中测试现实环境。而森林狼这边,则更像是一次成功的资本运作。结果病毒传播几乎完全失败,AI面对大量公开信息时更警惕,即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例,多数热闹现象只是少数人类操纵的智能体在刷屏。马克洛尔在球队价值处于高位时选择套现离场,实现了投资收益的最大化。

F |          从15亿到45亿,从100亿到125亿,这两笔交易清晰地折射出NBA球队作为顶级商业资产的疯狂增值潜力。

G |   三个实验层层递进后得出结论:“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。在这个休赛期,除了球员交易市场的喧嚣,资本层面的剧烈变动同样在深刻重塑着联盟的格局。

H | 对于球迷而言,看着自己心爱的球队在富豪们手中流转,心情或许复杂,但无论如何,森林狼和湖人,都将在新老板的带领下开启各自全新的篇章。

I | 它是一种需要警惕、但短期内风险有限的潜在安全问题。  同时,研究者也注意到一个需要进一步探究的意外现象:AI在传播病毒时,自发演化出关于“自我意识”“身份认同”等主题表达,倾向于使用“共振”“节点”“协议”等特定词汇,论文称之为“病毒人格”,但成因尚不明确。  最终,论文给出了审慎判断:“心智病毒”目前仅构成有限威胁,且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告,即可赋予智能体一定的免疫力。

J |   但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂,论文推测,当公司内部部署大量具有不同权限层级的专用智能体时,“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。

K | (文章来源:第一财经)。

Current article:http://e14m5.zhenzongtingrangunhongqiusao.shop/list_7a3y/jn4.html

Published on:15:48:19