过去一年，我们不光看到科大讯飞、网易有道等老牌科技企业推出学习机、词典笔等传统教育硬件，并且还看到小度科技、猿辅导等「新势力」推出学习手机、墨水屏学习平板等新兴教育硬件产品。虽然这些产品的形态各异，但从功能维度来看，这些产品有很强的趋同性。
prompt——这是网易有道公布的2023年度词汇。过去一年，带火prompt一词的大模型，在各行各业掀起波澜。其中在教育领域，大模型的影响正在逐渐显现。
近年来，随着Transformer模型的大规模发展和应用，模型大小每两年平均增长240倍，GPT-3等大模型的参数增长已经超过了GPU内存的增长。在大算力激增的需求下，越来越多行业人士认识到，新的计算架构或许才是算力破局的关键。
2023年，人工智能技术的创新与应用突飞猛进，ChatGPT等大模型爆火出圈，AI热潮席卷全球。
无需微调，只要四行代码就能让大模型窗口长度暴增，最高可增加3倍！而且是“即插即用”，理论上可以适配任意大模型，目前已在Mistral和Llama2上试验成功。
当大家都在研究大模型（LLM）参数规模达到百亿甚至千亿级别的同时，小巧且兼具高性能的小模型开始受到研究者的关注。
指令调优或许是让大模型性能提升最有潜力的方法。用高质量数据集进行指令调优，能让大模型性能快速提升。
大模型推理再次跃升一个新台阶！最近，全新开源的国产SwiftInfer方案，不仅能让LLM处理无限流式输入，而且还将推理性能提升了46%。
2023 年，是机器学习和人工智能发展最为迅速的一年，这里分享 10 篇最值得关注的论文。
大模型没有壁垒，结合多年深耕的场景和数据处理技术才是王道。
