上海期智研究院全球招人才！人工智能/信息安全/量子智能方向的来
上海期智研究院全球招人才！人工智能/信息安全/量子智能方向的来上海期智研究院是上海市新型研发机构之一，由图灵奖得主姚期智于2020年创建。研究院以建设世界顶尖基础科学研究机构为使命，打造上海科创中心建设新标杆。
来自主题: AI资讯
5790 点击 2024-04-29 11:17
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
上海期智研究院是上海市新型研发机构之一，由图灵奖得主姚期智于2020年创建。研究院以建设世界顶尖基础科学研究机构为使命，打造上海科创中心建设新标杆。
过去几年来，扩散模型强大的图像合成能力已经得到充分证明。研究社区现在正在攻克一个更困难的任务：视频生成。近日，OpenAI 安全系统（Safety Systems）负责人 Lilian Weng 写了一篇关于视频生成的扩散模型的博客。
如果你手头有一个价值100亿美元的AI模型，通过了安全测试且让所有人受益，你愿意将它开源吗？
现今，机器学习（ML），更具体地说，深度学习已经改变了从金融到医疗等广泛的行业。在当前的 ML 范式中，训练数据首先被收集和策划，然后通过最小化训练数据上的某些损失标准来优化 ML 模型
4 月 4 日，Y Combinator W2024 Batch Demo Day 正式开始。这次共亮相 260 个项目，YC 从 2.7 万份申请中筛选出来，通过率低于 1%，是历史上 YC 录取比例最低的一轮批次之一。
联邦学习使多个参与方可以在数据隐私得到保护的情况下训练机器学习模型。但是由于服务器无法监控参与者在本地进行的训练过程，参与者可以篡改本地训练模型，从而对联邦学习的全局模型构成安全序隐患，如后门攻击。
OpenAI的竞争对手Anthropic发现了一种称为"多样本越狱攻击"的漏洞，可以绕过大型语言模型的安全防护措施。这种攻击利用了模型的长上下文窗口，通过在提示中添加大量假对话来引导模型产生有害的反应。虽然已经采取了一些缓解措施，但该漏洞仍然存在。
奥本海默曾引用《薄伽梵歌》：「现在我变成了死亡」。深度学习之父Hinton，也同样痛悔毕生工作。最近，Hinton、Bengio、Stuart Russell、张宏江、黄铁军、王仲远、姚期智、张亚勤等大佬齐聚中国版「布莱切利」峰会上，签署了《北京AI安全国际共识》。
为了应对 AI 发展带来的挑战，国内外研究者展开合作以避免其可能带来的灾难的发生。
最近谷歌DeepMind的CEO Hassabis接受了多个播客主播的专访，向大众透露很多谷歌最近发布模型的内幕，以及他理解的如何通向AGI的道路。