announcements

Images 2.6 安全与商用注意:system card、组织验证与审核边界

PoYo Team
1 min read
Share:

Images 2.6 安全与商用注意:system card、组织验证与审核边界

OpenAI 在 Introducing Images 2.6 中指向独立的 system card,说明 Images 2.6 的安全评估与防护。ChatGPT Images 2.6 System Card(发布日期 2026 年 11 月 4 日)写明:核心安全栈建立在 Images 2.5 基础之上,并为 GIF 创建增加额外防护;同时描述上游拒绝、下游输入/输出阻断,以及生物风险等预案性措施。商用接入不宜只读产品营销页,而应将 system card、图像生成指南中的审核参数与组织验证要求一并纳入上线清单。

👉 在 PoYo 体验 GPT Image 2.6 API:查看按张价格与在线体验。

安全栈与评估口径

据 system card,GPT‑Image‑2.6 侧图像安全包括:请求进入生成前的 LLM 策略检查(上游拒绝);进入系统后由安全推理模型监视输入与输出(下游阻断)——输入违规则阻止生成,输出违规则不予展示。训练与数据管线侧亦描述了过滤与分类器,用于降低有害或敏感内容进入训练的风险。Preparedness 相关评估称,两档模型均未越过 Bio High 或 Cyber High 阈值;尽管如此,仍沿用与 2.0/2.5 类似的审慎做法,对生物风险类别施加与 High 能力相称的图像侧策略。

离线评估使用 3,077 条对抗性请求,对照各自的 2.5 基线。System card 强调:结果不代表生产流量中违规请求或输出的出现频率,也不等同于完整线上安全系统的度量。总体结论表述为:带审核检查的 2.6 系列大体与 2.5 相当;个别数值波动在调整多重比较后未必具有统计显著性。引用这些百分比时,必须保留「对抗集、离线、非生产频率」的限定语,避免写成「线上违规率」。

GIF 专项与溯源

GIF 引入静帧上不易显现的风险,例如性化动作或跨帧传达的有害含义。System card 说明:防护会评估生成帧网格与生成说明;GIF 专项规则对部分类别的拦截比静图更宽,以覆盖推断出的运动。运动相关违规仍难完全检出,防护可能无法捕获全部违规。商用侧若开放动图,应在产品政策中单独评估动效类目,而不是假设静图审核自动覆盖。溯源方面,卡片描述继续支持 C2PA 元数据,并在 ChatGPT、Codex 与 API 侧结合 SynthID 等水印层;公开验证工具可用于检查受支持文件的溯源信号。具体司法辖区的披露义务仍由接入方法务判断。

组织验证、API 审核与商用清单

图像生成指南写明:为负责任使用,组织在调用 GPT Image 前可能需要在开发者控制台完成 Organization Verification。面向终端用户的应用,建议在每次生成或编辑请求中传入稳定、经哈希且不超过 128 字符的 safety_identifier(旧 user 字段弃用但仍兼容)。moderation 可选 auto(默认)或 low。遇 moderation_blocked 等用户可修正错误时,应修改提示或输入图,不宜盲目重试;配额与服务类故障才适合退避重试。ChatGPT/Codex 产品可用并不自动等于某一 API 项目的验证或配额状态。

商用上线前宜核对:组织验证是否完成;安全标识是否接入;动图与静图政策是否分开;错误处理是否区分审核拦截与基础设施故障;对外文案是否误用离线评估百分比;品牌与用户生成内容的抽检流程是否覆盖多轮编辑与 GIF。System card 与产品页均不替代客户自身的合规审查。

图像生成指南还说明:审核拦截错误可能附带粗粒度的 moderation_details(如阶段为 input/output、类别标签),主要用于开发者日志与轻度修复提示,面向终端用户的文案宜保持笼统。moderation=low 会放松过滤,商用产品若对未成年受众或品牌安全更敏感,不应把「更低限制」当作默认营销卖点。速率限制随账户档位变化,须在组织控制台查看,不宜套用其他模型的公开数字。将安全标识、审核策略与抽检频率写进变更评审,比事后用 system card 百分比做公关答辩更稳妥。

结语:Images 2.6 的安全叙事是「2.5 底座 + GIF 加强 + 持续溯源」,并用离线对抗集说明审核有效性的同时明确其局限。负责任的商用读法是:以 system card 为评估说明书,以组织验证与请求级审核参数为接入门槛,把「可能漏检」写进运营预案,而不是写进绝对安全承诺。

Share: