一、超级智能应该掌握在谁手里？

扎克伯格发表了一篇关于超级智能的长文，试图回答一个比“哪个模型更强”更重要的问题：未来最强大的 AI，究竟应该掌握在少数机构手里，还是分发给每一个人？ 今天的AI日记，就带着大家解读一下这篇万字长文。有意思的是，在文章发布前后，Meta 也发布了新开源大模型 Muse Glimmer。。所以让这篇长文多少有了些营销的味道。

尽管如此，我个人觉得，这篇文章的深度是足够的，他在讨论AI最大的风险可能不是能力太强，而是权力过度集中。他主张把超级智能交给每个人，用开放和制衡换取安全。但免费使用就等于真正掌权吗？这篇文章将带你看懂这套AI愿景背后的价值、利益与关键缺口。

这篇文章首先要注意一个前提：扎克伯格讨论的是尚未实现的“超级智能”。也就是在大量认知任务上超过人类、能够持续帮助人们研究和创造的未来系统。文章不是在宣布 Meta 已经造出了这样的产品，而是在为 Meta 接下来的技术路线和政策立场建立一套理论。

这套理论可以压缩成三个词：个人赋权、发明创造和权力制衡。

二. AI 的价值不应该只是替代工作

扎克伯格认为，繁荣来自把能力交给个人。文中他设想每个人都拥有一个长期工作的个人智能体，了解你的目标和习惯，可以协助处理健康、学习、财务、家庭管理和职业任务。人们还能通过 AI 学习技能、开发产品，甚至用很小的团队经营过去只有大公司才能完成的业务。
在他看来，超级智能最重要的价值不是自动化，而是发明。自动化是把原来由人完成的事情交给机器，例如整理表格或者回复邮件；发明则是创造原来不存在的药物、产品、服务和解决方案。
扎克伯格相信，如果有限的算力更多用于帮助个人创造新价值，而不是单纯替代现有岗位，AI 就可能带来更多小企业和新职业，而不是让工作总量不断减少。
但这属于他的判断，不是已经被现实证明的结果。现实中，AI 已对部分重复性岗位产生影响。企业如何使用 AI，最终还要受到成本、利润和竞争压力影响。即使 AI 可以帮助员工创造新业务，公司也可能先把它用于削减重复岗位，因为后一种收益更容易计算，也更快出现在财务报表里。

三、AI 安全首先是权力分配问题

克伯格整篇文章最重要的观点是：AI 安全首先是权力分配问题。
他不认同由一个机构训练出“唯一正确、对所有人都通用”的超级智能。因为不同的人对公平、自由、安全和理想生活有不同理解，一个系统不可能同时满足所有互相冲突的价值。

他的方案是让大量个人、企业和机构都拥有 AI，彼此竞争、监督和制衡。他举了一个律师的例子：如果只有一个人拥有超级智能律师，这个人会获得不公平的优势；如果每个人都有同等能力的智能律师，法律服务反而可能变得更加公平。

这个观点值得肯定。AI 安全不能只讨论会不会违背人类意愿，会不会攻击人类，会不会自我更新。还要讨论谁能训练模型、谁能修改规则、谁能查看数据，以及普通人能不能更换服务。

四、人人都能使用，不等于人人真正掌权

开放权重并不等于真正的权力平等。
即使每个人都能下载模型，训练最先进系统需要的芯片、能源、数据和资本，仍然集中在少数机构手中。普通人可能拥有使用权，却没有决定训练数据、产品规则和基础设施价格的能力。

这就像一座城市允许所有人进入图书馆，但土地、道路和出版系统仍由少数公司控制。入口开放了，不代表整个结构已经去中心化。
实际问题是，只要高级能力依赖稀缺算力，支付能力不同的人，实际获得的智能水平就可能不同。“人人都能使用”只能解决有没有入口，不能自动解决谁能得到更强的能力。

个人智能体还可能形成新的平台依赖。如果一个 AI 要真正理解你，它就需要接触你的邮件、日程、关系、健康记录和消费习惯。它越了解你，就越有用；你越依赖它，迁移到其他平台的成本也可能越高。

这点我是深有体会的，我在Codex中写了很多自己的Skill，这些Skill并没有在其他智能体中试用过，这就让我对Codex有了很强的依赖。

五、我的观点：真正的赋权需要三种权利

上面多是扎克伯格文章中的观点，最后我借着他的文章，说说自己的观点。

我的观点是，扎克伯格抓住了一个真实问题，但给出的答案还少了一半。

广泛分发 AI，是个人获得力量的必要条件，却不是充分条件。真正的个人赋权，至少还需要三种权利。
- 第一是选择权。用户可以自由选择不同模型，而不是只能接受平台指定的助手。
- 第二是迁移权。个人记忆、工作记录和智能体配置能够完整带走，换平台不等于从头开始。
- 第三是追责权。 当智能体泄露隐私、作出错误决策或者造成损失时，不能把全部责任留给用户。

文章对开放模型、数据中心和 AI 竞争的论述，也与 Meta 自己的商业利益高度一致。Meta 拥有数十亿用户和庞大的分发渠道。越强调开放、低价和广泛部署，越有利于它把竞争从单纯的模型能力，转移到用户入口和生态规模。
这并不代表文章中的观点一定是错的。公司利益与公共、个人利益有时可以一致，关键是不能因为愿景听起来正确，就出于情怀盲目选择产品。

只有使用权，没有选择权、迁移权和追责权，得到的可能只是普及的智能服务，并不是扎克伯格所说的个人力量。