AI 检测器原理与局限

AI 检测器如何工作,又为什么会失效?

GenDetect 按已启用能力自动检查来源凭证与模型信号,服务端检测需先确认上传说明。文字专业服务尚未启用,模型尚未完成业务校准,证据不足时仍需人工复核。

当前版本
本地证据与可选完整检测
最后更新

01 · 实际信号

当前版本分析什么?

系统按模态与已启用服务选择检测路径。来源声明、模型信号和覆盖限制分别报告,未完成校准时不输出统一生成概率。

02 · 分数含义

筛查指数不是来源概率。

新版界面不再把文字、图片和视频规则汇总成统一分数。每个模型的原始输出独立展示;它不是经过校准的概率,也不是统计意义上的置信区间。

启发式聚合

高度重复、颜色过少或边缘分布异常只作为启发式辅助信息,不支持来源判定。元数据、来源验证和模型结果不会相加或平均成一个 AI 概率。

证据不足时明确弃权

少于 40 个可分析词元的文本会返回“证据不足”。任一边小于 128 像素的图片在没有生成器元数据声明时同样弃权。视频若无法解码采样帧,则只返回元数据事实。

规则不是模型归因

当前结果不能判断具体生成模型、作者身份或编辑过程。相似统计模式可能同时出现在模板化人工内容、压缩媒体和 AI 生成内容中。

03 · 已知局限

哪些情况容易误判?

任何只看最终成品的检测都面对信息丢失和分布变化。以下情况会同时制造假阳性与假阴性。

改写、裁剪与转码

人工改写、翻译、截图、滤镜、裁剪、平台压缩和多次转码都会改变原始信号。它们既可能隐藏生成痕迹,也可能制造看似异常的模式。

新模型与主动规避

生成系统会持续变化,用户也可以刻意调整节奏、噪声或编码参数。固定规则无法覆盖尚未观察到的生成方式。

自然内容本来就不规则

代码、诗歌、表格、品牌模板、低光照片和插画可能天然触发文字或图片阈值;特殊编码视频只会产生元数据警告,不会增加生成分数。高指数不能证明 AI 生成,低指数也不能证明真人创作。

04 · 复核与隐私

把检测结果放回证据链。

可靠判断来自来源、时间和编辑过程,而不是单个分数。当前实现优先让输入留在设备上,并明确未来能力变化时需要重新披露。

先取得原始文件

优先保存完整文本、原始文件、发布时间、作者信息和编辑记录。媒体截图或二次转载会丢失可用于核验的来源线索。

再做交叉验证

结合内容凭证、反向图片搜索、可信来源版本、音画连续性和上下文事实。重要决定应由了解场景的人复核,并允许被判断者解释。

系统自动检测,上传前明确确认

系统按已启用能力选择检测路径,服务端检测只在同意后上传文字或媒体;可能使用的专业供应商会提前披露,处理目的、保留和删除规则见隐私说明。