跳到正文
热点事件持续更新

OpenAI发布CSAM图像分类器与ChatGPT警告机制

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年11月17日,TechCrunch报道,OpenAI发布一款可检测包括AI生成图像在内的CSAM图像分类器,通过API免费向部分企业开放,并与NCMEC合作开发。报道称,早期测试中该分类器标记的图像减少48%,同时发现的虐待图像数量不变,被标记图像为虐待内容的概率提高一倍。ChatGPT同时新增警告界面,对试图生成此类内容的用户提示并暂停账号24小时,屡次违规将永久封号。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch · AI
    OpenAI 发布新图像分类器并在 ChatGPT 中加入警告,打击 CSAM

    OpenAI 发布可检测 AI 生成图像在内的 CSAM 图像分类器,通过 API 免费向部分企业开放,并与 NCMEC 合作开发。早期测试中该分类器标记的图像减少 48%,同时发现的虐待图像数量不变,被标记图像为虐待内容的概率提高一倍。ChatGPT 新增警告界面,对试图生成此类内容的用户提示并暂停账号 24 小时,屡次违规将永久封号。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。