姚前：行业大模型语料库建设与治理
姚前：行业大模型语料库建设与治理大模型语料是指用于训练和评估大模型的一系列文本、语音或其他模态的数据。
来自主题: AI技术研报
5954 点击 2024-04-28 11:12
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大模型语料是指用于训练和评估大模型的一系列文本、语音或其他模态的数据。
大模型语料是指用于训练和评估大模型的一系列文本、语音或其他模态的数据。语料规模和质量对大模型性能以及应用的深度、广度有着至关重要的影响。
如果让你在互联网上给大模型选一本中文教材，你会去哪里取材？是知乎，是豆瓣，还是微博？一个研究团队为了构建高质量的中文指令微调数据集，对这些社交媒体进行了测试，想找到训练大模型最好的中文预料，结果答案保证让你大跌眼镜——
大连理工大学信息检索研究室在始智AI wisemodel.cn开源社区发布了司法大模型--太令(TaiLing)1.0版，“太令”是专门为司法领域定制的大语言模型，其训练基础是庞大的通用中文语料库，并结合了裁判文书、合同、司法考试材料以及司法问答等专业司法数据进行深度训练。
当前智能对话模型的发展中，强大的底层模型起着至关重要的作用。这些先进模型的预训练往往依赖于高质量且多样化的语料库，而如何构建这样的语料库，已成为行业中的一大挑战。
喂给大模型语料——最初是维基百科和Reddit，后来扩展到音频、视觉图像甚至雷达和热图像——后者广义上说是换了种表达方式的语言。也因此有生成式AI的创业者认为，一个极度聪明的大语言模型就是那个通往AGI最终答案，多模态的研究道路只是目前对前者的底气不足。
征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面，给出了语料及生成内容的主要安全风险共5类31种。
而在AI大模型的相关市场竞争中，除了底层的算法、架构外，“语料”则是一个被反复提及的关键要素。