Mixture-of-Experts（MoE）在推理时仅激活每个 token 所需的一小部分专家，凭借其稀疏激活的特点，已成为当前 LLM 中的主流架构。然而，MoE 虽然显著降低了推理时的计算量，但整体参数规模依然大于同等性能的 Dense 模型，因此在显存资源极为受限的端侧部署场景中，仍然面临较大挑战。
近日，以色列宣布与以色列AI“数字化身”制作平台eSelf、以色列最大的K12教科书出版商CET（Center for Educational Technology）合作，在全国范围内铺开AI辅导。
那有没有那种把需求分析、代码生成、测试、部署、安装包、源代码、甚至连计算机软著申请材料都包圆的报恩级平台呢？还真有，码上飞（CodeFlying）全量上线，开发全流程都用中文交互，我可以选择不看、不接触代码。
自从DeepSeek带火了蒸馏模型以后，更多人开始关注AI大模型在边缘端的部署。而在过去，TinyML一直也在MCU领域很火热。现在，边缘AI走得更快了，市场也正在走向爆发。
随着人工智能技术迅猛发展，大模型（如GPT-4、文心一言等）正逐步渗透至社会生活的各个领域，从医疗、教育到金融、政务，其影响力与日俱增。
非常荣幸受邀前往 Las Vegas 参加 Google Cloud Next 大会！之前对 Google 的了解不够深入，参与这次大会之后才发现 Google 在 AI 上的投入和布局相当全面。总的来说，Google 想做的事情就不只是“卷模型”，而是把整个生态系统都搭起来——从开发、部署，到协作和落地，一个都不落下。
英伟达H20也不能用了。中国大模型还能好吗？
最近一段时间，各家新势力都在角力部署端到端的智能驾驶系统。
众所周知，大语言模型（LLM）往往对硬件要求很高。
法国班轮巨头达飞与本土科技公司Mistral AI合作，在未来五年内投资1亿欧元（1.1亿美元），为集团的航运、物流和媒体活动部署定制的人工智能解决方案。
