2024年2月底，金融服务公司Klarna表示，其所使用的OpenAI提供技术支持的AI Agent，已接管了三分之二的客户聊天，工作量相当于700名全职代理。从引入AI Agent到取得这份耀眼的成绩，仅仅用了1个月的时间。
从前两年的百模大战到大语言模型 LLM（Large Language Model）的逐步落地应用，端侧AI始终是人工智能技术发展中至关重要的一环。 所谓的端侧AI，即用户在使用过程中不依赖云服务器，直接在终端设备本地使用AI服务。相比于ChatGPT4.0和最新推出的Llama3.1等依赖于云端接口的主流大语言模型，设备端边缘应用的紧凑模型有较强的私密性，也具有个性化操作和节省成本等诸多优势。
Llama 3.1刚发布不久，Llama 4已完全投入训练中。 这几天，小扎在二季度财报会上称，Meta将用Llama 3的十倍计算量，训练下一代多模态Llama 4，预计在2025年发布。
终于，国产大模型能在综合能力上也能与GPT-4o一决雌雄了。
大模型的人才黑洞效应，还在持续。
简而言之：矩阵 → ReLU 激活 → 矩阵
为了对齐 LLM，各路研究者妙招连连。
大模型作为当下 AI 工业界和学术界当之无愧的「流量之王」，吸引了大批学者和企业投入资源去研究与训练。随着规模越做越大，系统和工程问题已经成了大模型训练中绕不开的难题。例如在 Llama3.1 54 天的训练里，系统会崩溃 466 次，平均 2.78 小时一次！
在 RAG 系统开发中，良好的 Reranker 模型处于必不可少的环节，也总是被拿来放到各类评测当中，这是因为以向量搜索为代表的查询，会面临命中率低的问题，因此需要高级的 Reranker 模型来补救，这样就构成了以向量搜索为粗筛，以 Reranker 模型作精排的两阶段排序架构。
靴子终于落地，OpenAI的AI搜索还是来了。7月26日，就在推出小模型GPT-4o mini的一周后，OpenAI方面公布了备受外界关注的搜索产品SearchGPT。尽管目前SearchGPT仅向10000名测试用户开放，但OpenAI CTO Mira Murati在社交平台已经透露，最终目标是将搜索功能直接整合到ChatGPT中。
