OpenAI将给ChatGPT加水印，帮助人们辨别哪些是AI 生成文本
- 麻省理工科技评论
- 2022-12-23 05:51:18
聊天机器人 【OpenAI将给ChatGPT加水印，帮助人们辨别哪些是AI 生成文本】
这句话是人工智能 写的吗？OpenAI 的新聊天机器人 ChatGPT 引发了公众对一个关键问题的讨论：我们如何知道网上的内容是人写的，还是人工智能写的？
自 2022 年 11 月发布以来，已有超过一百万人使用过 ChatGPT。它让人工智能社区着迷，而且很显然，人工智能 生成的文本正在网络上肆意传播。人们用它来编笑话、写故事和起草更好的电子邮件。
ChatGPT 是 OpenAI 的大型语言模型GPT-3 的衍生产品。针对用户提出的问题，该模型可以生成看起来很像是人类做出的回答。
这些大型语言模型的魔力在于，它们的回答看起来非常真实。但因为人们难以分辨，由此引发的正确性错觉也可能带来危险。
人工智能模型写出的句子看起来是正确的，它们以正确的顺序使用了正确的词汇和语法，但人工智能理解不了它们的含义。
这些模型通过预测句子中最有可能出现的下一个词来工作，所以他们并不知道自己说的是对还是错。即使说的是错的，他们也会用“言之凿凿”的语气表述出来。
在一个已经两极分化、充满政治色彩的网络世界中，这些人工智能工具可能会进一步扭曲我们获取的信息。如果他们被某些产品采用并风靡世界，后果可能是毁灭性的。
人工智能初创公司 Hugging Face 的政策总监艾琳·索莱曼 （Irene Solaiman) 表示，我们迫切需要能够区分人类和人工智能编写的文本的方法，以应对潜在的技术滥用。
索莱曼曾是 OpenAI 的人工智能研究员，为 GPT-3 的前身 GPT-2 的发布研究了人工智能模型的输出检测。
找到识别人工智能生成代码的方法也至关重要，例如程序员常用的 Stack Overflow 最近宣布暂时禁止发布由 ChatGPT 生成的回答。
戳链接查看详情：
OpenAI将给ChatGPT加水印，帮助人们辨别哪些是AI 生成文本
这句话是人工智能 写的吗？OpenAI 的新聊天机器人 ChatGPT 引发了公众对一个关键问题的讨论：我们如何知道网上的内容是人写的，还是人工智能写的？
自 2022 年 11 月发布以来，已有超过一百万人使用过 ChatGPT。它让人工智能社区着迷，而且很显然，人工智能 生成的文本正在网络上肆意传播。人们用它来编笑话、写故事和起草更好的电子邮件。
ChatGPT 是 OpenAI 的大型语言模型GPT-3 的衍生产品。针对用户提出的问题，该模型可以生成看起来很像是人类做出的回答。
这些大型语言模型的魔力在于，它们的回答看起来非常真实。但因为人们难以分辨，由此引发的正确性错觉也可能带来危险。
人工智能模型写出的句子看起来是正确的，它们以正确的顺序使用了正确的词汇和语法，但人工智能理解不了它们的含义。
这些模型通过预测句子中最有可能出现的下一个词来工作，所以他们并不知道自己说的是对还是错。即使说的是错的，他们也会用“言之凿凿”的语气表述出来。
在一个已经两极分化、充满政治色彩的网络世界中，这些人工智能工具可能会进一步扭曲我们获取的信息。如果他们被某些产品采用并风靡世界，后果可能是毁灭性的。
人工智能初创公司 Hugging Face 的政策总监艾琳·索莱曼 （Irene Solaiman) 表示，我们迫切需要能够区分人类和人工智能编写的文本的方法，以应对潜在的技术滥用。
索莱曼曾是 OpenAI 的人工智能研究员，为 GPT-3 的前身 GPT-2 的发布研究了人工智能模型的输出检测。
找到识别人工智能生成代码的方法也至关重要，例如程序员常用的 Stack Overflow 最近宣布暂时禁止发布由 ChatGPT 生成的回答。
戳链接查看详情：
OpenAI将给ChatGPT加水印，帮助人们辨别哪些是AI 生成文本