火山引擎直接把大模型应用给开源了，附部署教程和实测体验！
火山引擎直接把大模型应用给开源了，附部署教程和实测体验！从今天这个视角来看，DeepSeek 等国内外大模型能力是越来越强大了，大家都说 2025 年 AI 应用还会持续爆发。但对于企业来说，有了大模型，那场景都有啥，应用又长啥样？
来自主题: AI技术研报
8727 点击 2025-03-09 11:36
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
从今天这个视角来看，DeepSeek 等国内外大模型能力是越来越强大了，大家都说 2025 年 AI 应用还会持续爆发。但对于企业来说，有了大模型，那场景都有啥，应用又长啥样？
仅仅过了一天，阿里开源的新一代推理模型便能在个人设备上跑起来了！昨天深夜，阿里重磅开源了参数量 320 亿的全新推理模型 QwQ-32B，其性能足以比肩 6710 亿参数的 DeepSeek-R1 满血版。
挤牙膏的新款 iPad Air 和 iPad 果然只是开胃小菜，今天苹果为我们带来了更有看点的 MacBook Air 和 Mac Studio 更新。
国家网络安全通报中心昨天扔了个"炸弹"：大模型工具Ollama有安全漏洞！ 相信不少人用ollama来跑DeepSeek、Llama等模型，确实很方便。可通报里说，它默认开放的11434端口跟没锁的大门似的，谁都能进。今天就和你就说一下 这到底是怎么回事？顺便手把手教你几招，保住你的算力和隐私。
满血版DeepSeek R1部署A100，基于INT8量化，相比BF16实现50%吞吐提升！ 美团搜推机器学习团队最新开源，实现对DeepSeek R1模型基本无损的INT8精度量化。
就在昨天，全国产算力训出的讯飞星火X1全面升级！70B小身板在数学领域全面领先，性能直接对标OpenAI o1和DeepSeek-R1。单机部署成本骤降，彻底颠覆行业应用门槛。
本文介绍了英特尔®至强®处理器在AI推理领域的优势，如何使用一键部署的镜像进行纯CPU环境下基于AMX加速后的DeepSeek-R1 7B蒸馏模型推理，以及纯CPU环境下部署DeepSeek-R1 671B满血版模型实践。
DeepSeek“爆火”后，各家医疗企业争相部署似乎已成为春节复工以来的头等大事。据36氪不完全统计，节后复工以来，至少20家以上医疗领域企业公开宣布正在引入DeepSeek。其中虽不乏恒瑞医药、云南白药等传统药企；金域医学、圣湘生物等老牌IVD企业，但表现更活跃的各路AI医疗概念公司，如智云健康、鹰瞳科技、医渡科技、树坤科技等。
部署 DeepSeek 系列模型，尤其是推理模型 DeepSeek-R1，已经成为一股不可忽视的潮流。
国内首个生态环境“AI报告评审专家”已完成土壤污染状况调查报告领域的前期训练，启动上线试运行。日前，无锡市梁溪生态环境局已完成DeepSeek-R1“满血版”大模型本地化部署，通过AI与生态环境业务深度融合，