在人工智能快速发展的当下，这个问题有了新的答案——处理284张720P的图片。2023年12月，随着字节跳动发布最新的豆包视觉理解模型，AI领域又迎来一次"降维打击"：每千tokens的输入价格降至3厘，较行业常见价格低了整整85%。
1822 年，电学之父法拉第在日记中写到“既然通电能够产生磁力，为什么不能用磁铁产生电流呢？我一定要反过来试试！”。于是在 1831 年，第一台发电机被发明，推动了人类进入电气化时代。
大模型中，线性层的低比特量化已经逐步落地。然而，对于注意力模块，目前几乎各个模型都还在用高精度（例如 FP16 或 FP32）的注意力运算进行训练和推理。并且，随着大型模型需要处理的序列长度不断增加，Attention（注意力运算）的时间开销逐渐成为主要开销。
2024年大模型融资火热，全球超4000亿。2024年——大模型创企正与巨额融资深度绑定。仅在2024年最后一个月，就有xAI拿下60亿美元、阶跃星辰的数亿美元、Perplexity AI的5亿美元、智谱AI 30亿元、Liquid AI的2.5亿美元……
还没等到官宣，Deepseek-v3竟意外曝光了？！
GPU新核弹B300，以及附带CPU的超级芯片GB300。 高算力，在产品层面上相比B200在FLOPS上提高50% 大显存，从192GB提升到288GB，也是提高了50%。
o3在超难推理任务ARC-AGI上的成绩，属实给人类带来了不少震撼。 但有人专门研究了它不会做的题之后，有了更有趣的发现—— o3之所以不会做这些题，原因可能不是因为太难，而是题目的规模太大了。
2024 年，理想汽车以突破 100 万辆的累计交付量成为中国智能电动车市场的一大亮点。然而，在这一辉煌背后，理想汽车正迎来一场前所未有的转型。
前脚大模型六小虎之一的智谱刚完成新一轮30亿的融资；后脚字节跳动发布豆包视觉理解模型、快手可灵1.6正式上线。
OpenAI给32位MCU做了个SDK
