热点事件持续更新
OpenAI发布CSAM图像分类器与ChatGPT警告机制
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年11月17日,TechCrunch报道,OpenAI发布一款可检测包括AI生成图像在内的CSAM图像分类器,通过API免费向部分企业开放,并与NCMEC合作开发。报道称,早期测试中该分类器标记的图像减少48%,同时发现的虐待图像数量不变,被标记图像为虐待内容的概率提高一倍。ChatGPT同时新增警告界面,对试图生成此类内容的用户提示并暂停账号24小时,屡次违规将永久封号。
AI 根据报道生成 · 2 小时前更新
最新进展11月17日 01:00
OpenAI发布CSAM图像分类器并免费开放API,ChatGPT新增警告与暂停账号机制。报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- TechCrunch · AIOpenAI 发布新图像分类器并在 ChatGPT 中加入警告,打击 CSAM
OpenAI 发布可检测 AI 生成图像在内的 CSAM 图像分类器,通过 API 免费向部分企业开放,并与 NCMEC 合作开发。早期测试中该分类器标记的图像减少 48%,同时发现的虐待图像数量不变,被标记图像为虐待内容的概率提高一倍。ChatGPT 新增警告界面,对试图生成此类内容的用户提示并暂停账号 24 小时,屡次违规将永久封号。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。