“双标”让#ChatGPT#光环褪色
- 瞭望
- 2023-03-01 12:06:08
【“双标”让ChatGPT光环褪色】托比亚斯·茨温曼是德国咨询公司RAPYD.AI的管理合伙人，这家公司的业务是帮助客户利用人工智能。此外，他还讲授关于人工智能的在线课程。最近，茨温曼开始用ChatGPT制作讲稿，这款新型聊天机器人正迅速成为科技界新风尚。茨温曼说，有一次，他要求ChatGPT解释一种被称为DBSCAN的机器学习技术的机制和运行方法，因为他“懒得把它全部写下来”。
茨温曼说：“我对它说，‘告诉我DBSCAN算法运行的详细步骤’，然后，它的确给我提供了一份详细的说明。”
他说，在稍加打磨和编辑后，这份优质讲稿出炉了。
茨温曼说：“这个过程大概只用了半小时左右，而之前都我会花一整天时间准备讲稿。不得不承认，它十分有用。”
ChatGPT在去年底亮相，迅速引起轰动。人们对它提出各种问题和要求，比如“非同质化代币（NFT）死了吗？”“讲一个关于国际远程办公税收风险的笑话”，并在推特上贴出ChatGPT的回答截图，这些答案常常（但并不总是）颇有道理。
据美国消费者新闻与商业频道网站近日报道，ChatGPT由总部设在旧金山的开放人工智能公司（OpenAI）开发。这家研究公司由萨姆·奥尔特曼领导，并得到了微软公司、领英网联合创始人里德·霍夫曼和科斯拉风险投资公司的支持。ChatGPT能够根据文字提示自动生成文本，比硅谷以往的聊天机器人更先进、更有创造力。
最近，技术行业不景气，大规模裁员、股票价格暴跌和加密货币灾难占据新闻头条，但ChatGPT提醒人们，创新仍在发生。
技术高管和风险投资家们在推特上热议ChatGPT，有人甚至将其与苹果公司2007年首次推出的iPhone相提并论。
早在2016年，脸书、谷歌和微软等科技巨头就宣称，数字助手是人类和计算机互动的下一步发展方向。它们夸下海口说，聊天机器人能打车、购买飞机票、用日常语言回答问题。
6年过去了，进展却很缓慢。大多数与人类互动的聊天机器人还比较原始，只能回答企业帮助页面上的基本问题，或者向失望的顾客解释为什么他们的电视费这么贵。
但是，早期的ChatGPT应用者展示出，除了生成软件代码之外，这项技术还能回答多重问题。所谓的自然语言处理领域似乎正在进入一个新阶段。
这体现了一种大趋势。科技投资者正在向生成式人工智能领域的初创公司投入数十亿美元。生成式人工智能指的是计算机使用最先进的机器学习技术自动创建文本、视频、照片和其他媒体的能力。
“项目建议书”数据公司分析师布伦丹·伯克说，一些早期投资者已经把注意力从加密货币和web3等相关概念转向了生成式人工智能技术。
伯克说：“这是一股可以感知到的趋势。”
“项目建议书”数据公司称，投资该领域的知名公司包括科斯拉风险投资公司、戴维·萨克斯的克拉夫特风投公司、红杉资本公司、创业者至上公司和乐仕资本公司。伯克说，投资者还在源码托管服务公司（Github）等平台上注意到，不少web3开发人员已经从NFT和加密货币项目转向开源的生成式人工智能项目。
伯克说：“我认为这是早期市场中出现的一些重新思考的迹象。”
ChatGPT本质上是OpenAI的畅销产品GPT-3.5语言生成软件的变体，其设计初衷是与人对话。根据OpenAI对这种语言模式的总结，它的特点包括回答后续问题、对错误的前提条件提出质疑、拒答不合适的问题甚至承认错误。
ChatGPT接受了大量文本数据的训练。高德纳咨询公司副总裁伯恩·埃利奥特说，它学会了识别帮助它模仿各种写作风格的模板。Open AI没有透露训练ChatGPT使用了哪些具体数据，但表示一般会在网上收集数据，使用存档书籍和维基百科。
埃利奥特说，就目前而言，ChatGPT的用处更多在于让Open AI获得知名度以及展示大型语言模型的潜力，而不是供企业使用的软件。虽然ChatGPT是免费的，但OpenAI向企业销售其底层语言和相关人工智能模型。
埃利奥特说：“按照目前的设想，ChatGPT就是一个小把戏。它不能满足人们的需求，除非他们的需求就是分散注意力。”
不过，用ChatGPT完成更高级任务的不只是茨温曼一个人。
数字合同管理初创公司Ironclad首席技术官Cai GoGwilt说，他的公司正在研究如何利用ChatGPT来总结法律文件的变化。GoGwilt说，这一功能对该公司的法律客户很有用，因为他们会定期修改文件然后通知同事。
GoGwilt说，与大型科技公司开发的类似语言模型相比，ChatGPT的回应“更有创意”。他说，元宇宙平台公司的人工智能语言工具RoBERTa对文本进行分类和标注的能力似乎更强，他的公司在数字文档软件中两者兼用。
法律研究和数据公司律商联讯副总裁陈敏（音）在一封电子邮件中说，她和她的团队刚刚开始测试ChatGPT，不过他们已经通过微软的Azure云技术使用过OpenAI的GPT-3软件。
陈说，GPT-3更适合律商联讯，因为它是一款可以定制的企业产品。不过，她的团队一直在对ChatGPT进行试验。她说，ChatGPT有时会产生“令人印象深刻”的“合理答案”，不过也存在缺陷。
她说：“作为严肃法律研究的决策工具，它恐怕不够可靠。有时，ChatGPT会给出一个看起来很有道理的冗长回答，但其中存在事实性错误。”
此外，ChatGPT还存在偏见问题，这是许多人工智能驱动软件的通病。
莫齐拉公司高级研究员阿贝芭·比尔哈内在推特上说，ChatGPT创作的歌词暗示，穿实验服的女性“可能只是实验室的保洁员”，穿实验服的男性才“可能具备知识和技能”。
由于ChatGPT系统设计上的缺陷，以及训练数据集的问题，在回答一些问题时，会有偏见性的描述。OpenAI表示，对于涉及政治和有争议的话题，为了避免偏见的产生，规定标注人员不应该偏袒任何政治团体。为了能够使ChatGPT走得更远，OpenAI表示将会在三个方向进行改进。
1.改进默认行为。让用户发现ChatGPT的回答对客户有用，同时也会尊重他们的价值观。目前，ChatGPT所面临的问题是，应当拒绝的回答，没有拒绝；不应该拒绝的回答，却拒绝了。这是OpenAI需要解决的问题。
2.在更加广泛的范围内定义人工智能的价值观。由于越来越多的人，开始担心人工智能的发展，将会危害人类社会。因此OpenAI需要給自己的人工智能系统制定价值观，使其符合人类社会的发展。
3.为了能够得到更加客观的观点，OpenAI表示将会接受各种观点的输入，不会将一些观点弃之门外。
人工智能的改进是一个长期的过程，不仅仅是模型和算法的问题，训练的数据集也非常重要。锐参考
茨温曼说：“我对它说，‘告诉我DBSCAN算法运行的详细步骤’，然后，它的确给我提供了一份详细的说明。”
他说，在稍加打磨和编辑后，这份优质讲稿出炉了。
茨温曼说：“这个过程大概只用了半小时左右，而之前都我会花一整天时间准备讲稿。不得不承认，它十分有用。”
ChatGPT在去年底亮相，迅速引起轰动。人们对它提出各种问题和要求，比如“非同质化代币（NFT）死了吗？”“讲一个关于国际远程办公税收风险的笑话”，并在推特上贴出ChatGPT的回答截图，这些答案常常（但并不总是）颇有道理。
据美国消费者新闻与商业频道网站近日报道，ChatGPT由总部设在旧金山的开放人工智能公司（OpenAI）开发。这家研究公司由萨姆·奥尔特曼领导，并得到了微软公司、领英网联合创始人里德·霍夫曼和科斯拉风险投资公司的支持。ChatGPT能够根据文字提示自动生成文本，比硅谷以往的聊天机器人更先进、更有创造力。
最近，技术行业不景气，大规模裁员、股票价格暴跌和加密货币灾难占据新闻头条，但ChatGPT提醒人们，创新仍在发生。
技术高管和风险投资家们在推特上热议ChatGPT，有人甚至将其与苹果公司2007年首次推出的iPhone相提并论。
早在2016年，脸书、谷歌和微软等科技巨头就宣称，数字助手是人类和计算机互动的下一步发展方向。它们夸下海口说，聊天机器人能打车、购买飞机票、用日常语言回答问题。
6年过去了，进展却很缓慢。大多数与人类互动的聊天机器人还比较原始，只能回答企业帮助页面上的基本问题，或者向失望的顾客解释为什么他们的电视费这么贵。
但是，早期的ChatGPT应用者展示出，除了生成软件代码之外，这项技术还能回答多重问题。所谓的自然语言处理领域似乎正在进入一个新阶段。
这体现了一种大趋势。科技投资者正在向生成式人工智能领域的初创公司投入数十亿美元。生成式人工智能指的是计算机使用最先进的机器学习技术自动创建文本、视频、照片和其他媒体的能力。
“项目建议书”数据公司分析师布伦丹·伯克说，一些早期投资者已经把注意力从加密货币和web3等相关概念转向了生成式人工智能技术。
伯克说：“这是一股可以感知到的趋势。”
“项目建议书”数据公司称，投资该领域的知名公司包括科斯拉风险投资公司、戴维·萨克斯的克拉夫特风投公司、红杉资本公司、创业者至上公司和乐仕资本公司。伯克说，投资者还在源码托管服务公司（Github）等平台上注意到，不少web3开发人员已经从NFT和加密货币项目转向开源的生成式人工智能项目。
伯克说：“我认为这是早期市场中出现的一些重新思考的迹象。”
ChatGPT本质上是OpenAI的畅销产品GPT-3.5语言生成软件的变体，其设计初衷是与人对话。根据OpenAI对这种语言模式的总结，它的特点包括回答后续问题、对错误的前提条件提出质疑、拒答不合适的问题甚至承认错误。
ChatGPT接受了大量文本数据的训练。高德纳咨询公司副总裁伯恩·埃利奥特说，它学会了识别帮助它模仿各种写作风格的模板。Open AI没有透露训练ChatGPT使用了哪些具体数据，但表示一般会在网上收集数据，使用存档书籍和维基百科。
埃利奥特说，就目前而言，ChatGPT的用处更多在于让Open AI获得知名度以及展示大型语言模型的潜力，而不是供企业使用的软件。虽然ChatGPT是免费的，但OpenAI向企业销售其底层语言和相关人工智能模型。
埃利奥特说：“按照目前的设想，ChatGPT就是一个小把戏。它不能满足人们的需求，除非他们的需求就是分散注意力。”
不过，用ChatGPT完成更高级任务的不只是茨温曼一个人。
数字合同管理初创公司Ironclad首席技术官Cai GoGwilt说，他的公司正在研究如何利用ChatGPT来总结法律文件的变化。GoGwilt说，这一功能对该公司的法律客户很有用，因为他们会定期修改文件然后通知同事。
GoGwilt说，与大型科技公司开发的类似语言模型相比，ChatGPT的回应“更有创意”。他说，元宇宙平台公司的人工智能语言工具RoBERTa对文本进行分类和标注的能力似乎更强，他的公司在数字文档软件中两者兼用。
法律研究和数据公司律商联讯副总裁陈敏（音）在一封电子邮件中说，她和她的团队刚刚开始测试ChatGPT，不过他们已经通过微软的Azure云技术使用过OpenAI的GPT-3软件。
陈说，GPT-3更适合律商联讯，因为它是一款可以定制的企业产品。不过，她的团队一直在对ChatGPT进行试验。她说，ChatGPT有时会产生“令人印象深刻”的“合理答案”，不过也存在缺陷。
她说：“作为严肃法律研究的决策工具，它恐怕不够可靠。有时，ChatGPT会给出一个看起来很有道理的冗长回答，但其中存在事实性错误。”
此外，ChatGPT还存在偏见问题，这是许多人工智能驱动软件的通病。
莫齐拉公司高级研究员阿贝芭·比尔哈内在推特上说，ChatGPT创作的歌词暗示，穿实验服的女性“可能只是实验室的保洁员”，穿实验服的男性才“可能具备知识和技能”。
由于ChatGPT系统设计上的缺陷，以及训练数据集的问题，在回答一些问题时，会有偏见性的描述。OpenAI表示，对于涉及政治和有争议的话题，为了避免偏见的产生，规定标注人员不应该偏袒任何政治团体。为了能够使ChatGPT走得更远，OpenAI表示将会在三个方向进行改进。
1.改进默认行为。让用户发现ChatGPT的回答对客户有用，同时也会尊重他们的价值观。目前，ChatGPT所面临的问题是，应当拒绝的回答，没有拒绝；不应该拒绝的回答，却拒绝了。这是OpenAI需要解决的问题。
2.在更加广泛的范围内定义人工智能的价值观。由于越来越多的人，开始担心人工智能的发展，将会危害人类社会。因此OpenAI需要給自己的人工智能系统制定价值观，使其符合人类社会的发展。
3.为了能够得到更加客观的观点，OpenAI表示将会接受各种观点的输入，不会将一些观点弃之门外。
人工智能的改进是一个长期的过程，不仅仅是模型和算法的问题，训练的数据集也非常重要。锐参考
