苹果版CUDA来了！专为自家芯片打造，M3 Max可跑每秒迭代2.8次
苹果版CUDA来了！专为自家芯片打造，M3 Max可跑每秒迭代2.8次苹果新发布适用于苹果芯片的机器学习框架MLX，MLX是一个类似于NumPy的阵列框架，旨在为使用苹果硬件的研究人员简化 ML 模型的训练和部署。
来自主题: AI资讯
7757 点击 2023-12-18 14:45
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
苹果新发布适用于苹果芯片的机器学习框架MLX，MLX是一个类似于NumPy的阵列框架，旨在为使用苹果硬件的研究人员简化 ML 模型的训练和部署。
大模型的领域工程，是要将行业模型的参数规模做小，任务执行效率更高的同时，节省算力和部署成本。
本文讨论了巨头AI受困于巨头垄断的问题，指出在线模型受商业壁垒限制，无法满足用户的个性化需求。文章以旅行计划为例，说明了通过本地部署的通用AI可以更好地满足用户需求。
从设计、编码到测试、部署，甚至是运维……软件开发的整个流程，可以通通交给AI了！一款覆盖软件开发全生命周期的端到端AI智能助手，让分散的软件开发操作变得集成化、智能化。
随着大型语言模型（LLM）的发展，从业者面临更多挑战。如何避免 LLM 产生有害回复？如何快速删除训练数据中的版权保护内容？如何减少 LLM 幻觉（hallucinations，即错误事实）? 如何在数据政策更改后快速迭代 LLM？这些问题在人工智能法律和道德的合规要求日益成熟的大趋势下，对于 LLM 的安全可信部署至关重要。
没想到，在ChatGPT爆火后的一年里，竟然出现了一个隐藏“Boss”——量子位获悉，百度、360等互联网大厂均已开始基于昇腾部署AI模型；而知乎、新浪、美图这样全速推进AI业务的公司，背后同样出现了华为云昇腾AI云服务的身影。
为贯彻落实国家、省、市关于人工智能产业发展的决策部署，高水平打造人工智能全域全时场景应用，抢抓人工智能进入大模型时代的历史机遇，推动南山人工智能产业实现高质量跨越式发展，将南山区打造成我国人工智能产业创新高地和场景创新高地，特制定本方案。
大型语言模型能力惊人，但在部署过程中往往由于规模而消耗巨大的成本。华盛顿大学联合谷歌云计算人工智能研究院、谷歌研究院针对该问题进行了进一步解决，提出了逐步微调（Distilling Step-by-Step）的方法帮助模型训练。
阿里巴巴算法工程师手把手教你部署AI模型
在中国移动全球合作伙伴大会举办期间，中兴通讯“星云研发大模型”亮相，旨在辅助开发人员进行需求分析、产品设计、编程、测试、版本部署等。