如何用OCR和文本识别做图文内容初审与分发？

结论：OCR 只负责把图中文字变成可分析信号，不能单独决定违规。应联合正文、图像语义、二维码/链接、账号行为和上下文分类；低风险自动放行，高不确定或高影响内容人工复核，明确违法和紧急风险按平台规则处置并保留申诉。

“高置信违规直接拦截、关键词命中走最严格规则”过于粗糙。同一关键词可能出现在新闻讨论、科普、举报或违法招揽中；图片没有文字也可能包含色情、暴力、侵权或危险行为；二维码和联系方式可能用于正常客服，也可能用于站外引流。滚水科技会先制定内容政策和处置矩阵，再选择 OCR、图像模型、规则或人工，而不是由模型分数反推平台规则。

在继续拆分功能、数据与验收场景时，还可以对照 客户订单是 XML、还有 Excel / PDF / 图片等不同格式，系统能不能统一接入？；这些内容补充了需要放在同一项决策中考虑的上下文。

不同方案的能力边界如下：

方案	能识别什么	优点	主要盲区	推荐角色
OCR + 关键词	图片文字、正文中的明确词形	快、可解释、成本低	变体、上下文、纯图像和反讽	召回候选、不可单独裁决
OCR + 文本分类/规则	营销、辱骂、赌博等语义模式	比关键词覆盖更广	领域漂移、少数类别和隐喻	中低风险分流
图像/多模态模型	裸露、暴力、标志、图文组合等	能覆盖无文字与跨模态内容	误判、对抗样本和解释有限	风险评分与人工辅助
人工复核	结合政策、上下文与申诉材料	可处理高影响和复杂边界	成本、时延与一致性	关键裁决与模型抽检

入口先保存原始内容、作者、时间和版本，在合法必要范围内提取正文、图片 OCR、图像标签、二维码内容、链接域名和基础账号风险。文本归一化可以处理空格、全半角、繁简和部分常见变体，但不能无限还原所有谐音；任何解码、外链访问都要在隔离环境中完成，避免审核系统主动打开恶意链接。原始内容访问按岗位限制，审核日志不复制无关个人信息。

内容政策应按业务、地区和用户年龄由运营、法务和安全共同确认。中国境内网络信息内容平台可参考 网络信息内容生态治理规定，其中涉及平台治理机制、信息发布/评论审核、巡查和应急处置等责任；如果使用排序、精选或个性化推送，还要核对 互联网信息服务算法推荐管理规定 对制度、评估、用户权益和未成年人等要求。具体业务是否需要许可、备案或安全评估，应由专业人员判断。

处置不能只分通过与封禁。可设置正常发布、限制推荐但作者可见、待审暂缓公开、年龄/地域限制、删除、账号限制和紧急升级等动作。动作由风险严重度、模型确信程度和误判代价共同决定：涉及人身安全、未成年人或违法信息的高影响类别，即使模型分高也常需快速人工确认与应急流程；低风险广告可以先限制分发并复核。作者应看到适度明确的原因、规则入口和申诉方式，防止黑箱误伤。

审核与推荐要解耦。通过最低发布审核不代表值得进入热榜；待审内容不能为了增长先进入大流量池；人工改判后，推荐侧应及时撤销降权或恢复。对个性化推荐，应提供符合适用规则的告知和关闭/非个性化选项，标签与内容处置也要能追溯到规则版本。不能用审核模型暗中替代内容运营策略。

评测按每个风险类别分别报告精确率、召回率、漏过和误杀，不能只给总体“90% 准确率”。样本覆盖新用户、方言、多语言、截图、表情包、二维码、低清、对抗变体和政策边界，并保持冻结盲测集。Google 的 机器学习公平性评估指南 提醒汇总指标可能掩盖少数群体差异，审核系统还应检查语言、地区与用户群体的误判分布。

运营指标包括每千条漏过严重内容、误杀、人工队列时延、单条复核时间、申诉率与申诉改判率、规则变更后的漂移和用户举报命中率。高风险内容定期人工抽检，模型、词库、阈值和政策每次变更有版本与回滚。审核员需要培训、双人复核和心理健康支持，不能只追求“一秒一条”的速度。

滚水科技可建设采集、OCR/多模态服务、规则引擎、审核台、申诉和分发接口；PaddleOCR 可作为 OCR 技术候选，社区管理案例 可了解业务方向，但平台主体仍负责政策、人员和最终处置。