微软小模型击败大模型：27亿参数，手机就能跑
微软小模型击败大模型：27亿参数，手机就能跑上个月，微软 CEO 纳德拉在 Ignite 大会上宣布自研小尺寸模型 Phi-2 将完全开源，在常识推理、语言理解和逻辑推理方面的性能显著改进。
来自主题: AI资讯
9195 点击 2023-12-13 16:21
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
上个月，微软 CEO 纳德拉在 Ignite 大会上宣布自研小尺寸模型 Phi-2 将完全开源，在常识推理、语言理解和逻辑推理方面的性能显著改进。
本文介绍了一个名为Alph-CLIP的框架，它在原始的接受RGB三通道输入的CLIP模型的上额外增加了一个alpha通道。在千万量级的RGBA-region的图像文本对上进行训练后，Alpha-CLIP可以在保证CLIP原始感知能力的前提下，关注到任意指定区域。通过替换原始CLIP的应用场景，Alpha-CLIP在图像识别、视觉-语言大模型、2D乃至3D生成领域都展现出强大作用。
最近，一张美国科技大厂的薪酬表曝出，OpenAI以500万起薪领衔。初创公司给出的薪酬，竟然超过了所有大型科技公司。不过初级码农，时薪却低至85元。
在视频生成场景中，用 Transformer 做扩散模型的去噪骨干已经被李飞飞等研究者证明行得通。这可算得上是 Transformer 在视频生成领域取得的一项重大成功。
都快到年底了，大模型领域还在卷，今天，Microsoft发布了参数量为2.7B的Phi-2——不仅13B参数以内没有对手，甚至还能和Llama 70B掰手腕！
随着大型语言模型（LLM）的发展，从业者面临更多挑战。如何避免 LLM 产生有害回复？如何快速删除训练数据中的版权保护内容？如何减少 LLM 幻觉（hallucinations，即错误事实）? 如何在数据政策更改后快速迭代 LLM？这些问题在人工智能法律和道德的合规要求日益成熟的大趋势下，对于 LLM 的安全可信部署至关重要。
AI遥感应用企业LiveEO完成1000万美元融资，由绿色科技风险投资Greencode Ventures领投。本轮融资将促进公司开发森林砍伐监测解决方案，加速进入欧盟森林砍伐法规（EUDR）合规和森林砍伐监测市场。
21世纪是否是“生命科学的世纪”还是未知，但一定是AI大模型的世纪。 互联网头部企业纷纷发布大模型，产品呈全面开花之势；字节跳动创始人张一鸣公开表示字节跳动无法错过AIGC，挑灯夜读OpenAI的论文，并在卸任CEO两年后在香港成立个人投资基金Cool River Venture
由真实人脑细胞构建的“迷你大脑”和微电极组成的AI系统，已经能够进行语音识别——从数百个声音片段中准确认出某个特定人的声音的那种。
一条神秘磁力链接引爆整个AI圈，现在，正式测评结果终于来了：首个开源MoE大模型Mixtral 8x7B，已经达到甚至超越了Llama 2 70B和GPT-3.5的水平。