大型语言模型（LLM）往往会追求更长的「上下文窗口」，但由于微调成本高、长文本稀缺以及新token位置引入的灾难值（catastrophic values）等问题，目前模型的上下文窗口大多不超过128k个token
开源最近成了 AI 圈绕不开的高频热门词汇。 先有 Mistral 8x22B 闷声干大事，后有 Meta Llama 3 模型深夜炸场，现在连苹果也要下场参加这场激烈的开源争霸赛。
自Alpha Go起至今，AI已在资本市场浮沉近10年。围绕这一概念展开的资本游戏亦愈发扑朔迷离。
AI届大红人Altman在母校斯坦福开讲当天，在场的学生挤爆了英伟达礼堂。 去礼堂路的上，人满为患，超1000人早早排在了门口。
开源最近成了 AI 圈绕不开的高频热门词汇。
自Alpha Go起至今，AI已在资本市场浮沉近10年。围绕这一概念展开的资本游戏亦愈发扑朔迷离。
就在刚刚，拥有128位专家和4800亿参数的Arctic，成功登上了迄今最大开源MoE模型的宝座。
4月24日，商汤集团在港交所暂停交易，暂停交易前上涨31.15%。商汤集团回应，“昨日日日新大模型5.0发布会广受好评，受到市场极大关注；依照上市规则及港交所建议，公司将进一步刊发相关公告。”
4月18日，以“AI for All，让世界充满AI”为主题的联想创新科技大会（2024 Lenovo Tech World）在上海举办。
近日，纪源资本被投企业影刀宣布推出最新AI产品——AI Power，一款专为简化企业接入和利用AI技术而设计的无代码开发AI工具。通过企业知识库、集成全球多元大模型、预置丰富AI组件、可视化搭建工作流、多样集成调用等功能，打造all in one的企业AI工作站，帮助企业有效整合孤立的内部、外部系统，让AI无缝衔接企业业务，助力企业快速提效。
