让AI与人类“目标一致”：一个不可回避的难题
让AI与人类“目标一致”：一个不可回避的难题人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。
来自主题: AI技术研报
5835 点击 2023-10-12 10:15
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。
李彦宏将会在10月17日的百度世界大会上带来长达一小时的主题演讲，“手把手教你做AI原生应用”。
Bedrock于今年4月初发布，允许AWS客户构建基于生成式人工智能模型的应用程序，并使用其专有数据进行定制。利用这些模型，品牌和开发人员还可以创建AI“代理人”，自动执行诸如预订旅行、管理库存和处理保险索赔等任务。
为了抓住人工智能热潮，云服务提供商Cloudflare推出了一系列帮助客户在网络边缘构建、部署和运行AI模型的新产品和应用。
音频情色平台Bloom今天推出了其由AI驱动的"角色扮演"聊天机器人。现在，用户可以通过Bloom Chat与情色故事中的角色进行"互动"
香港首富李嘉诚向香港两大医学院捐款共6000万元，两校各获3000万元捐款，发展人工智能（AI）应用于医学教研。
为了验证大语言模型的沟通、规划、反思等拟人化能力，清华研究团队发布了一篇名为“探索大语言模型在交流游戏中的应用：《狼人杀》实验”的研究论文。
UOS AI实现了国内外主流大模型的能力接入，并封装成deepin的AI底层公共能力；同时，我们也将把UOS AI逐步开源给第三方应用，让更多应用可以在deepin上直接调用大模型。
全球性的AI技术公司IsLand和其首个AI金融生态应用EXGPT，正式宣布与加拿大多伦多大学合作，成立了AIGC（AI研究与全球应用中心）技术实验室。
下一个Windows 11更新拥有 150 多项新功能，是微软迄今为止最最重要的更新！它将 Copilot 的强大功能和新的 AI 驱动体验带到了 Windows PC 上的 Paint、Photos、Clipchamp 等应用程序中。