AI资讯新闻榜单内容搜索-LLM

关键词: 视觉语言模型,VLM,Transformer,模型训练

近些年，语言建模领域进展非凡。Llama 或 ChatGPT 等许多大型语言模型（LLM）有能力解决多种不同的任务，它们也正在成为越来越常用的工具。

关键词: LLM,AI搜索,神经架构搜索,LLaMA2-7B,模型训练

大型语言模型（LLM）的一个主要特点是「大」，也因此其训练和部署成本都相当高，如何在保证 LLM 准确度的同时让其变小就成了非常重要且有价值的研究课题。

关键词: LLM,GPT,Claude,AIW,AI测试

在基准测试上频频屠榜的大模型们，竟然被一道简单的逻辑推理题打得全军覆没？最近，研究机构LAION的几位作者共同发表了一篇文章，以「爱丽丝梦游仙境」为启发涉及了一系列简单的推理问题，揭示了LLM基准测试的盲区。

关键词: GPT-4,PNAS,LLM,AI,AI游戏

最近，德国研究科学家发表的PANS论文揭示了一个令人担忧的现象：LLM已经涌现出「欺骗能力」，它们可以理解并诱导欺骗策。而且，相比前几年的LLM，更先进的GPT-4、ChatGPT等模型在欺骗任务中的表现显著提升。

关键词: AI训练,HuggingFace,FineWeb,数据集,模型训练

从大规模网络爬取、精细过滤到去重技术，通过FineWeb的技术报告探索如何打造高质量数据集，为大型语言模型（LLM）预训练提供更优质的性能。

关键词: LLM,模型训练,矩阵乘法,MatMul

让语言模型「轻装上阵」。

关键词: 1bit大模型,BiLLM,模型训练,LLM

极限量化，把每个参数占用空间压缩到1.1bit！

关键词: DeepMind,LLM,AI,幻觉,大模型

DeepMind发表了一篇名为「To Believe or Not to Believe Your LLM」的新论文，探讨了LLM的不确定性量化问题，通过「迭代提示」成功将LLM的认知不确定性和偶然不确定性解耦。研究还将新推导出的幻觉检测算法应用于Gemini，结果表明，与基线方法相比，该方法能有效检测幻觉。

关键词: 量化大模型,LLM,模型训练,LoRA,AI

大模型应用开卷，连一向保守的苹果，都已释放出发展端侧大模型的信号。

关键词: Qwen2-72B,阿里大模型,Llama3-70B,AI

一夜之间，全球最强开源模型再次易主。万众瞩目的Qwen2-72B一出世，火速杀进开源LLM排行榜第一，美国最强开源模型Llama3-70B直接被碾压！全球开发者粉丝狂欢：果然没白等。