AI资讯新闻榜单内容搜索-模型训练

关键词: 世界模型,模型训练,openai,sora,LLM

这才是 AI 视频生成的未来？

关键词: 数据标注,模型训练,深度学习,AI,LLM

在多标签图像识别领域中，由于图像本身和潜在标签类别的复杂性，收集满足现有模型训练的多标签标注信息往往成本高昂且难以拓展。中山大学联合广东工业大学联手探索标注受限情况下的多标签图像识别任务，通过对多标签图像中的强语义相关性的探索研究，提出了一种异构语义转移(Heterogeneous Semantic Transfer, HST) 框架，实现了有效的未知标签生成。

关键词: 世界模型,扩散模型,模型训练,DIAMOND

在图像生成领域占据主导地位的扩散模型，开始挑战强化学习智能体。

关键词: 模型训练,AI训练,梯度下降,Gradient Descent Viz,AI算法

4年前的开源项目突然在Hacker News爆火，通过可视化的「小球下山」，帮助非专业和专业人士，更好地理解AI训练中梯度下降的过程。

关键词: 多模态,模型训练,GPT-4v,CogVLM2,智谱AI

开源多模态SOTA模型再易主！Hugging Face开发者大使刚刚把王冠交给了CogVLM2，来自大模型创业公司智谱AI。CogVLM2甚至在3项基准测试上超过GPT-4v和Gemini Pro，还不是超过一点，是大幅领先。

关键词: AI视觉,模型训练,scaling,EfficientTrain++,AI算法

近年来，「scaling」是计算机视觉研究的主角之一。随着模型尺寸和训练数据规模的增大、学习算法的进步以及正则化和数据增强等技术的广泛应用，通过大规模训练得到的视觉基础网络（如 ImageNet1K/22K 上训得的 Vision Transformer、MAE、DINOv2 等）已在视觉识别、目标检测、语义分割等诸多重要视觉任务上取得了令人惊艳的性能。

关键词: Zero-shot,数据集,AI训练,模型训练,人工智能

近日，又一惊人结论登上Hacker News热榜：没有指数级数据，就没有Zero-shot！多模态模型被扒实际上没有什么泛化能力，生成式AI的未来面临严峻挑战。

关键词: Karpathy,Llama 3,模型部署,模型训练

Llama 3发布一个月后，一位开发者在GitHub上创建了名为「从头开始实现Llama 3」的项目，引起了开源社区的广泛关注。代码非常详细地展现了Llama所使用的Transformer架构，甚至让Andrej Karpathy亲自下场「背书」。

关键词: LoRA,微调,模型训练,Llama2,监督微调

大数据巨头Databricks与哥伦比亚大学最新研究发现，在数学和编程任务上，LoRA干不过全量微调。

关键词: 模型训练,scaling,LLM,VLM,扩散模型

当计算预算低时，重复使用高质量数据更好；当不差钱时，使用大量数据更有利。