LLM 比之前预想的更像人类，竟也能「三省吾身」
LLM 比之前预想的更像人类，竟也能「三省吾身」AI，LLM，模型训练，人工智能
来自主题: AI技术研报
7939 点击 2024-11-03 17:41
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AI，LLM，模型训练，人工智能
一群大模型玩你画我猜，人类一旁围观超起劲儿。 就像下面这张图展示的，由Grok画长颈鹿，一堆大模型根据生成内容猜答案。参赛选手包括GPT-4o、Claude、Llama、Gemini、Grok等。
AI技术日新月异，像Netflix这样的大公司已经开始用AI制作特效，而新的AI模型也在游戏和科学研究中超越了人类。未来一年，我们可能会看到没有编程技能的人也能创造热门应用，甚至AI创作的歌曲也可能登上音乐排行榜前十。
AI界也有了自己的“奥斯卡”，哪家大模型角色扮演更入戏？ 来自香港科技大学、腾讯、新加坡管理大学的团队提出新综述—— 不仅系统性地回顾了角色扮演语言模型的发展历程，还对每个阶段的关键进展进行了深入剖析，展示了这些进展如何推动模型逐步实现更复杂、更逼真的角色扮演。
Transformer自问世后就大放异彩，但有个小毛病一直没解决： 总爱把注意力放在不相关的内容上，也就是信噪比低。 现在微软亚研院、清华团队出手，提出全新改进版Differential Transformer，专治这个老毛病，引起热议。
中国科学院上海营养与健康研究所李虹研究组多年来在抗癌药物疗效建模方向持续深耕，发表了基于分子组学预测药物响应和肝癌药物基因组相关的系列论文。但前期研究表明肿瘤用药的计算分析仍存在诸多挑战，例如：肿瘤临床前模型和病人存在差异，计算模型缺乏泛化能力；药物组合的作用机制复杂搜索空间大，对药物联用协同效果的准确和稳健估计仍很困难。
随着开源技术占据各大新兴领域的技术路线，其不断丰富人工智能领域的应用场景。 2023年，Meta 相继发布 Llama 和 Llama2，很快成为广受欢迎的开源大模型，也成为许多模型的基座模型。
改进KV缓存压缩，大模型推理显存瓶颈迎来新突破—— 中科大研究团队提出Ada-KV，通过自适应预算分配算法来优化KV缓存的驱逐过程，以提高推理效率。
只要一个3B参数的大模型，就能控制机器人，帮你搞定各种家务。 叠衣服冲咖啡都能轻松拿捏，而且全都是由模型自主控制，不需要遥控。 关键是，这还是个通用型的机器人控制模型，不同种类的机器人都能“通吃”。
11月2日，“AI你到老 陪伴一生”2024智慧居家养老（重庆）创享会（以下简称“创享会”）在重庆南坪国际会展中心会议中心举行。来自国内养老产业的顶级专家学者、资本以及优秀企业家、创业者们齐聚一堂，共同探讨智慧居家养老的新模式、新机遇。