对于计算任务负载来说，越是专用，效率就越高，谷歌的 TPU 就是其中的一个典型例子。它自 2015 年开始在谷歌数据中心部署后，已经发展到了第 7 代。目前的最新产品不仅使用了最先进的制程工艺打造，也在架构上充分考虑了对于机器学习推理任务的优化。TPU 的出现，促进了 Gemini 等大模型技术的进展。
本文介绍使用四块Framework主板构建AI推理集群的完整过程，并对其在大语言模型推理任务中的性能表现进行了系统性评估。该集群基于AMD Ryzen AI Max+ 395处理器，采用mini ITX规格设计，可部署在10英寸标准机架中。
在本周MIT报告揭露“绝大多数企业投资AI尚未盈利”引发市场哗然之际，另一项出乎意料的现象也浮出水面：企业部署先进人工智能成本下降的趋势在2025年突然停滞。
在移动计算时代，将高效的自然语言处理模型部署到资源受限的边缘设备上面临巨大挑战。这些场景通常要求严格的隐私合规、实时响应能力和多任务处理功能。
在AI浪潮席卷全球的2025年，大语言模型（LLM）已从单纯的聊天工具演变为能规划、决策的智能体。但问题来了：这些智能体一旦部署，就如「冻结的冰块」，难以适应瞬息万变的世界。
有趣，一款仅4B大小的开源模型Jan-v1，居然声称能平替Perplexity Pro。 并且完全免费，支持本地部署。
今天 ，OpenAI 开源了俩模型：120B/20B 117B 的 gpt-oss-120b 对标 o4-min，按官方说法至少需要 80G 内存，推荐使用单卡 H100 GPU 而刚买的的游戏本，刚好满足gpt-oss-120b 的部署条件
当前环境感知通信正逐步成为第六代移动通信系统（6G）的核心使能技术之一。为支撑其在复杂三维环境下的部署需求，西安电子科技大学、香港中文大学（深圳）和加拿大滑铁卢大学的研究团队联合提出了一个面向6G的高分辨率多模态三维无线电图谱数据集UrbanRadio3D，并构建了基于扩散模型的三维无线电图生成框架RadioDiff-3D。
n8n成立于2019年，已集成400多个第三方应用，支持自托管，拥有23万活跃用户（含3000家企业），代码库位列GitHub全球Top 50。区别于Zapier等传统SaaS平台，n8n采用“按工作流计费”+“支持自定义与本地部署”的模式，以“connect anything to everything”为理念，是高性价比和数据控制的开源自动化平台。
上周六Coze（7.26）不是开源了嘛，作为一个Coze的忠实用户和AI博主，没有抢到一手文章有点可惜，主要最近那会儿生病，紧接着又超级忙，就一直没空写。 但是Coze开源，这么大的事情，必须给大家安排一篇硬核的喂饭级教程！
