PyTorch官宣：告别CUDA，GPU推理迎来Triton加速新时代
PyTorch官宣：告别CUDA，GPU推理迎来Triton加速新时代用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。
来自主题: AI技术研报
5799 点击 2024-09-07 11:26
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。
Anthropic推出Claude企业版，集成GitHub和500K上下文长度。
交友APP引入AI红娘助沟通，市场前景不明。
什么样的人能做出AI Native的原生应用？
AI原住民，大模型，AI辅助开发，AI编程
视觉语言模型（VLM）这项 AI 技术所取得的突破令人振奋。它提供了一种更加动态、灵活的视频分析方法。VLM 使用户能够使用自然语言与输入的图像和视频进行交互，因此更加易于使用且更具适应性。这些模型可以通过 NIM 在 NVIDIA Jetson Orin 边缘 AI 平台或独立 GPU 上运行。本文将探讨如何构建基于 VLM 的视觉 AI 智能体，这些智能体无论是在边缘抑或是在云端都能运行。
Anthropic成立于2021年总部位于美国加利福尼亚州旧金山。该公司由七名前OpenAI员工创立,包括Dario Amodei和Daniela Amodei兄妹以及曾领导GPT-3模型开发的工程师Tom Brown。
据TechCrunch报道，EliseAI 是一家为房东开发人工智能物业管理工具的公司，该公司在 D 轮融资中筹集了 7500 万美元，估值达 10 亿美元。
之前一直在社区分享零代码&低代码的技术实践，也陆陆续续设计并开发了多款可视化搭建产品，最近研究D2C方案的时候发现一款非常有意思的AI生成代码的工具——Kombai.
一人公司正在成为一种趋势，Pieter Levels 是这个领域里的超级玩家。