上周，韩国娱乐公司HYBE宣布，将与京畿北道警察局（NGPPA）合作，共同打击以HYBE艺人为对象的深度伪造（Deepfake）内容。HYBE与NGPPA签署了一份协议，明确了合作细节，包括加快相关案件的调查进程，并在韩国设立举报热线，方便公众报告相关犯罪活动。同时，HYBE也宣布加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将专门设立响应机制，尽快采取行动。
基于深度神经网络对人脸图像进行编辑和篡改，深度伪造的发展为人们的生活带来了便利，但对其错误的应用也同时危害着人们的隐私和信息安全。
该论文作者来自复旦大学、中电金信及上海智能视觉计算协同创新中心团队，论文已被多媒体领域顶级国际会议 ACM MultiMedia 2024 接收，并将在该大会上进行口头报告（Oral 接收率仅 3.97%）。
AI马斯克泛滥背后的攻防战
Deepfake（深度伪造），再度深陷舆论的风波。
本文讨论了AI技术在色情内容、诈骗勒索和侵权等方面的滥用问题。通过AI合成的色情图片被用于勒索和敲诈勒索，AI对话产品存在灰色地带的使用，AI生图被用于制作低俗内容，AI技术也被用于生成深度伪造的图片和声音。文章还提到了AI技术的失控问题以及对AI技术的治理挑战。
