只激活3.8B参数，性能比肩同款7B模型！训练微调都能用，来自微软
只激活3.8B参数，性能比肩同款7B模型！训练微调都能用，来自微软只需激活60%的参数，就能实现与全激活稠密模型相当的性能。
来自主题: AI技术研报
10853 点击 2024-07-18 16:44
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
只需激活60%的参数，就能实现与全激活稠密模型相当的性能。
还记得去年 AI 大牛 Andrej Karpathy 大力宣传的「AutoGPT」项目吗？它是一个由 GPT-4 驱动的实验性开源应用程序，可以自主实现用户设定的任何目标，展现出了自主 AI 的发展趋势。
好家伙！为了揭秘Transformer内部工作原理，陈丹琦团队直接复现——
英伟达全面转向开源GPU内核模块，历史将再次见证Linux社区开源的力量。
让大小模型相互博弈，就能实现生成内容可读性的提升！
「AI教母」创业，3个月就干出了估值10亿的AI独角兽。
具身智能火到什么程度？
刚刚，信息检索领域的国际顶会SIGIR 2024，公布了最终获奖结果。在所有获奖名单中，来自清华计算机系的团队们斩获了两大奖项——时间检验奖、最佳论文奖，实至名归！
当我们不停在CoT等领域大下苦功、试图提升LLM推理准确性的同时，OpenAI的对齐团队从另一个角度发现了华点——除了准确性，生成答案的清晰度、可读性和可验证性也同样重要。
创业夫妻店雇AI做设计，显示器爆单成行业品牌No.1。这背后，不仅是3亿用户出海业务给的底气，也是因为一个团队一心做好了3件事。