科学家通过“越狱”大模型的安全系统，来让AI更安全
科学家通过“越狱”大模型的安全系统，来让AI更安全伦敦皇家协会举办了一场由40名科学家参与的攻克AI模型安全系统的活动，目的是发现漏洞让世人知道目前AI的技术风险
来自主题: AI资讯
2817 点击 2023-10-29 10:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
伦敦皇家协会举办了一场由40名科学家参与的攻克AI模型安全系统的活动，目的是发现漏洞让世人知道目前AI的技术风险
今天，Moonshot AI 带着首个支持输入 20 万汉字的智能助手产品Kimi Chat 与大家见面了。 据我们所知，这是目前全球市场上能够产品化使用的大模型服务中所能支持的最长上下文输入长度，标志着 Moonshot AI 在“长文本”这一重要技术上取得了世界领先水平。
GraphGPT框架将图结构模型和大语言模型进行参数对齐，利用双阶段图指令微调范式提高模型对图结构的理解能力和适应性，再整合ChatGPT提高逐步推理能力，实现了更快的推理速度和更高的图任务预测准确率。
百模大战愈演愈烈，但很多从业者对大模型的疑问却越来越多。中国真的需要这么多基础大模型吗？各家基础大模型公司都在疯狂“卷”技术参数，但市场到底需要什么样的大模型？在热闹且混乱的战局下，这些问题被越来越多的人提出来。
2023年10月24日，科大讯飞发布讯飞星火医疗大模型，据《财经∙大健康》不完全统计，这已经是2023年国内发布的第32个医疗领域生成式AI大模型。
今天，智谱AI开源其第三代基座大语言模型ChatGLM3-6B，官方说明该模型的性能较前一代大幅提升，是10B以下最强基础大模型！
鹅厂大模型，又有新玩法！腾讯混元大模型就速通了一个新版本，除了语言模型升级以外，还悄悄上线了AIGC最火热—文生图
OpenAI它成立了一个新团队来评估和探索人工智能模型，以防范其所描述的“灾难性风险”。
1000亿美金，接近一家上市公司的市值，却是Adobe在过去七个月里的市值涨幅。AIGC带来的改变才刚刚开始，最终赢家尚未可知。
相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。