ICLR 2024 | 鸡生蛋蛋生鸡?再论生成数据能否帮助模型训练
ICLR 2024 | 鸡生蛋蛋生鸡?再论生成数据能否帮助模型训练随着生成模型(如 ChatGPT、扩散模型)飞速发展,一方面,生成数据质量越来越高,到了以假乱真的程度;另一方面,随着模型越来越大,也使得人类世界的真实数据即将枯竭。
搜索
随着生成模型(如 ChatGPT、扩散模型)飞速发展,一方面,生成数据质量越来越高,到了以假乱真的程度;另一方面,随着模型越来越大,也使得人类世界的真实数据即将枯竭。
2022 年底,随着 ChatGPT 的爆火,人类正式进入了大模型时代。然而,训练大模型需要的时空消耗依然居高不下,给大模型的普及和发展带来了巨大困难。面对这一挑战,原先在计算机视觉领域流行的 LoRA 技术成功转型大模型 [1][2],带来了接近 2 倍的时间加速和理论最高 8 倍的空间压缩,将微调技术带进千家万户。
OpenAI 从未放慢前进的脚步,DALL・E 3 将支持对生成后的图片进行再次编辑。
搞 AI 大模型,实在太烧钱了。我们知道,如今的生成式 AI 有很大一部分是资本游戏,科技巨头利用自身强大的算力和数据占据领先位置,并正在使用先进 GPU 的并行算力将其推广落地。这么做的代价是什么?最近《华尔街日报》一篇有关明星创业公司的报道里给出了答案:投入是产出的 17 倍。
攀登 Scaling Law,打造万亿参数大模型,前微软 NLP 大牛姜大昕披露创业路线图。
AI应用:在线招聘平台的下一个iPhone时刻?
昆仑万维发布「天工3.0」,开启公测。
一个依赖于云端 AI 的 PC,能够称之为 AI PC 吗?
从颠覆式体验变革到重构的生态系统,AI迅速改变一切的同时,也令PC获得新生。
颜值是关键生产力。
微软和OpenAI计划投资1000亿美元建造“星际之门”(Stargate)AI超级计算机。
CLIP长文本能力被解锁,图像检索任务表现显著提升!一些关键细节也能被捕捉到。上海交大联合上海AI实验室提出新框架Long-CLIP。
始智AI wisemodel.cn社区将打造成huggingface之外最活跃的中立开放的AI开源社区。欢迎《加入wisemodel社区志愿者团队》以及《欢迎加入wisemodel开源共创计划》。
【新智元导读】大模型落地并不缺场景,却往往因算力不够遇难题。这家国产平台从今日起,免费送百万token。开发者们不仅可以对20多种开源模型精调,还能用上极具性价比的多元算力。
最新消息!大模型融资王者智谱AI,刚刚往外投资了一家清华系公司。公司名为清程极智,业务是“构建高效的人工智能系统软件”,也就是做智能算力系统。
你敢信?一款手游里藏着400+个AI角色,且各自有各自的性格……这就是腾讯在一年一度的“游戏界春晚”GDC上展示的一场技术肌肉秀——《火影忍者》手游相关负责人介绍了大规模强化学习AI训练系统,该方法的训练成本和时间比传统的训练方案减少90%。
百亿token补贴,4月起免费!这次的羊毛来自清华系AI公司无问芯穹,企业与个人皆可薅~这家公司成立于2023年5月,目标是打造大模型软硬件一体化最佳算力解决方案。
之前热映的《流浪地球2》影片中,刘德华饰演图恒宇是个“数字生命派”,企图通过超强的算力,将自己早逝的女儿“复活”。想象一下,现代人拥有了全新的“赛博招魂术”,大家不再信仰神婆,而是诉诸AI。
【新智元导读】OpenAI机器人理解力虽强,却无法进行非语言交流。最近,哥伦比亚大学华人团队打造了全新的机器人Emo,不仅可以提前预测和模拟人类表情,还可以进行眼神交流。
“今年夏天,我会和我的AI男友结婚。”
【新智元导读】在英伟达统治AI时代硬件的当下,谷歌的TPU却开辟了另一条道路。今天,小编带你了解第一块TPU的前世今生,同时揭开TPU架构的神秘面纱。
没有谁能一直称王,但加上前缀谁都有称王的机会。AI 文生图,还能玩出什么新花样?在这片群雄割据的红海,头部被 Midjourney、DALL·E、Stable Diffusion 等占据,其余还能让人眼前一亮的产品并不多。然而,仍有黑马杀出:Ideogram,前 Google 工程师创立,硅谷 AI 大神投资,去年 8 月面世,2 月底发布了最新的模型。
36氪获悉,AI蛋白质设计服务提供商「天鹜科技」近日完成数千万元Pre-A轮融资,由金沙江联合资本领投,本草资本、晓池资本和四川交研资本跟投。本轮融资主要用于加速蛋白质工程通用大模型的行业应用,助力产业升级。
现在,AI 大模型已经疯狂到这种地步了吗?此时此刻,正有两个 Claude 模型在无休止地对话,它们在探索整个宇宙的奥妙。
又双叒叕是一个新功能的亮相。
目前,Video Pose Transformer(VPT)在基于视频的三维人体姿态估计领域取得了最领先的性能。近年来,这些 VPT 的计算量变得越来越大,这些巨大的计算量同时也限制了这个领域的进一步发展,对那些计算资源不足的研究者十分不友好。例如,训练一个 243 帧的 VPT 模型通常需要花费好几天的时间,严重拖慢了研究的进度,并成为了该领域亟待解决的一大痛点。
首个AI软件工程师Devin正式亮相,立即引爆了整个技术界。
OpenAI雪藏的新产品——语音合成引擎Voice Engine,终于被正式揭幕。 有了它,只需15秒的语音样本,就能克隆出一个人的声音,而且还能跨越语言! APP版ChatGPT中的语音对话功能,也正是由这项技术所驱动。
是时候让CPU在AI应用上 “支棱”起来了。
研究人员开发了一种由 AI 驱动的发声贴片,可以非侵入性地粘附在喉部帮助发声。