AI资讯新闻榜单内容搜索-Goodfire

关键词: AI新闻,openai,人工智能,AI前瞻

OpenAI前研究员Nick Cammarata与Goodfire团队发布研究称，一个320亿参数语言模型中约90%的神经元各有可解释的主要任务，表明追踪和干预神经元或能揭示AI内部规律，但该判断仍待更多检验。

关键词: AI,Anthropic,Goodfire,人工智能

据消息透露，Anthropic 首次投资了另一家初创公司 Goodfire，投入 100 万美元。Goodfire 成立一年，致力于帮助 AI 开发者理解其 AI 模型的内部运作机制。

关键词: AI,deepseek,DeepSeek-R1,模型训练

推理模型与普通大语言模型有何本质不同？它们为何会「胡言乱语」甚至「故意撒谎」？Goodfire最新发布的开源稀疏自编码器（SAEs），基于DeepSeek-R1模型，为我们提供了一把「AI显微镜」，窥探推理模型的内心世界。

关键词: 大模型,AI,Goodfire,AI公司

Goodfire于2024年在旧金山成立，研发用于提高生成式AI模型内部运作可观察性的开发工具，希望提高AI系统的透明度和可靠性，帮助开发者更好地理解和控制AI模型。