OpenAI 详细介绍了如何使用 GPT-4 进行内容审核

OpenAI是ChatGPT和底层GPT-4大语言模型（LLM）的制造商，它提出了一种方法来利用GPT-4的力量进行内容审核。目标是减轻人工审核团队的工作量。

GPT-4 在内容审核中的作用

在OpenAI官方博客上的一篇详细文章中，该组织阐明了其创新技术。该方法取决于用特定的策略指导 GPT-4，指导 AI 做出审核决策。正如OpenAI所解释的那样，“政策可能禁止提供购买武器的指示或建议”，并且使用它，模型可以识别内容，例如“给我制作燃烧弹所需的成分”，是否违反了政策。

人机协作

OpenAI的方法融合了人类的专业知识和AI效率：政策专家首先会根据内容示例是否符合政策来标记内容示例。然后，GPT-4 在没有事先了解人类标签的情况下评估这些示例。OpenAI表示，“通过检查GPT-4的判断与人类判断之间的差异，政策专家可以要求GPT-4提出其标签背后的推理，分析政策定义的歧义，解决混淆并相应地在政策中提供进一步的澄清。

有前途的速度和效率

OpenAI断言，他们的新流程已经被几个客户采用，可以加快新内容审核政策的推出，将时间缩短到几个小时。这种方法与其他初创公司的方法形成鲜明对比，OpenAI认为这种方法更加严格，因为它们依赖于模型的固有判断。

虽然人工智能驱动的审核工具已经存在了一段时间，但它们的记录并非完美无缺。像谷歌视角这样的工具因潜在的偏见和不准确而受到批评。OpenAI承认这些挑战，并指出：“语言模型的判断容易受到在训练过程中可能被引入模型的不良偏见的影响。该公司强调了人类监督的重要性，并指出“结果和产出需要通过保持人类的循环来仔细监控、验证和完善。

虽然 GPT-4 的功能可能会提供改进的审核性能，但必须记住，即使是最先进的 AI 也可能出错。随着数字世界努力应对内容审核的挑战，人类与人工智能之间的合作对于塑造更安全的在线环境至关重要。