高效Attention引擎是怎样炼成的?陈天奇团队FlashInfer打响新年第一枪!
高效Attention引擎是怎样炼成的?陈天奇团队FlashInfer打响新年第一枪!新年第一天,陈天奇团队的FlashInfer论文出炉!块稀疏、可组合、可定制、负载均衡......更快的LLM推理技术细节全公开。
搜索
新年第一天,陈天奇团队的FlashInfer论文出炉!块稀疏、可组合、可定制、负载均衡......更快的LLM推理技术细节全公开。
由无问芯穹与上海交通大学联合研究团队提出的视频生成软硬一体加速器,首次实现通过差分近似和自适应数据流解决 VDiT 生成速度缓慢瓶颈,推理速度相比 A100 提升高达 16.44 倍。
我最近发现,秘塔 AI悄悄上线了一个「阅读模式」,在手机上读PDF体验非常爽,虽然不是大功能,就是那种会让你觉得用了很舒服的小细节。
动辄4600家参展商,2025的CES(国际消费类电子产品展览会)已全数AI。在此次会上,为人熟知的硬/软件产品悉数登场。其中,陪伴类、耳机和眼镜类产品同台竞技。在这个同台竞技的场景里,出现了一个始料未及的副作用:各家项目的信息不对称被拉齐了。这可能并不是一件好事:因为,一些本来看似在去年一整年想明白的事情,再次成为争论的话题。
深夜,OpenAI展示了他们的首个智能体:Operator,这可不是普通的AI,它能像人类一样操作电脑,更厉害的是,它可以直接和网页交互,无论是打字、点击还是滚动,都能一气呵成。
ChatGPT等聊天机器人背后的算法能从各种各样的网络文本中抓取万亿字节的素材,文本来源可以是网络文章,也可以是社媒平台的帖子,还可以是视频里的字幕或评论。
美国独角兽公司Instabase近日宣布,完成了价值1亿美元的D轮融资,由卡塔尔主权财富基金卡塔尔投资局(QIA)领投,现有投资者Greylock Partners、NEA、Andreessen Horowitz和Index Ventures也参与D轮投资。
从预定到交付,一款AI眼镜需要的时间可能比新能源汽车还要久。这种产品交付时间的反差性,来自AI眼镜赛道的新势力闪极。有网友戏谑称:“5月底预定的闪极拍拍镜还没发货,但是同期预定的小米汽车早就开上了,期待小米官方早日重启AI眼镜产品线,把中小厂的交付速度卷起来。”
时隔不到一个月,DeepSeek又一次震动全球AI圈。去年 12 月,DeepSeek推出的DeepSeek-V3在全球AI领域掀起了巨大的波澜,它以极低的训练成本,实现了与GPT-4o和Claude Sonnet 3.5等顶尖模型相媲美的性能,震惊了业界。
对 LLM 来说,Pre-training 的时代已经基本结束了。视频模型的 Scaling Law,瓶颈还很早。具身智能:完全具备人类泛化能力的机器人,在我们这代可能无法实现