Goodfire 的 Nick Cammarata 发文:智能体分析可化解多义性,大幅改进可解释性与对齐
Goodfire 的 Nick Cammarata 发文提出工作理论“神经网络本来就是干净的”(Neural Networks Are Already Clean),认为许多已知的多义性与叠加造成的权重纠缠,在更深入的 agentic 分析下可以被解开。他将此视为可解释性与对齐工作的进展,并认为这带来全球 P(doom) 的下降。
Goodfire 的 Nick Cammarata 发文提出工作理论“神经网络本来就是干净的”(Neural Networks Are Already Clean),认为许多已知的多义性与叠加造成的权重纠缠,在更深入的 agentic 分析下可以被解开。他将此视为可解释性与对齐工作的进展,并认为这带来全球 P(doom) 的下降。
Toby Ord 分析 AI swarm 作为一种新的推理扩展方式:4-agent swarm 消耗约两倍 token 但因并行可在理论上将时间减半,且扩展存在“stepping on toes”参数,agent 数量扩大 10 倍只能带来 10λ(约 3x-5x)的收益。