跳到正文
原文
TechCrunch · AI· Ivan Mehta·· 3 小时前AI 评分23

OpenAI 发布新图像分类器并在 ChatGPT 中加入警告,打击 CSAM

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI 导读

OpenAI 发布可检测 AI 生成图像在内的 CSAM 图像分类器,通过 API 免费向部分企业开放,并与 NCMEC 合作开发。早期测试中该分类器标记的图像减少 48%,同时发现的虐待图像数量不变,被标记图像为虐待内容的概率提高一倍。ChatGPT 新增警告界面,对试图生成此类内容的用户提示并暂停账号 24 小时,屡次违规将永久封号。

来源:TechCrunch · AI · techcrunch.com