写小说、编写程序！强大的ChatGPT也有它的局限性！

电子发烧友网 2022-12-08

916

电子发烧友网报道（文/李弯弯）日前，由OpenAI训练的大规模语言模型ChatGPT上线。ChatGPT背后的算法基于Transformer架构，这是一种使用自注意力机制处理输入数据的深度神经网络。Transformer架构广泛应用于语言翻译、文本摘要、问答等自然语言处理任务。

ChatGPT可用于创建能与用户进行对话的聊天机器人，由ChatGPT构建的对话机器人，可以高质量的回答用户的提问，能够写小说，编写程序。不仅能够为用户提供有用的信息还很好玩，因此迅速出圈。据称，ChatGPT的用户数量已经突破100万。

什么是ChatGPT

OpenAI是2015年在美国成立的一家人工智能研究机构，由马斯克、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等创立。后来马斯克退出，微软在2019年向OpenAI投资10亿美元。

OpenAI分别在2018年、2019年和2020年相继推出语言模型GPT-1、GPT-2和GPT-3。其中GPT-3在2020年6月上线的时候引起很大关注，被认为是史上最强大的AI模型语言模型，参数量达到1750亿。

相比GPT-3而言，今年初，OpenAI 采用对齐研究（alignment research），训练出更真实、更无害，而且更好地遵循用户意图的语言模型InstructGPT，被认为是GPT-3.5版本。

OpenAI此次上线的ChatGPT，其训练方法和InstructGPT大体一样，只是在使用的数据集上有微小差别。首先，通过有监督学习训练出初始模型：人类AI培训员分别作为使用者和AI助手，模拟用户和AI的对话。在这个过程中，人类AI培训员能够访问机器编写的建议来帮助他们生成恰当的回复。

为了创建出强化学习所需要的奖励机制，OpenAI将数个机器生成的回复进行对比，并按照回复质量由高到低进行排序。训练团队选取了人类AI培训员与机器的对话后，从中随机挑选一条机器编写的信息，和几条替代选项放在一起，让人类AI培训员进行排序。通过这种近端策略优化方法，可以筛选出最让人满意的模型，多次迭代后便训练出了现在的版本。

ChatGPT有多强大

相比之下，ChatGPT比GPT-3更强。GPT-3只预测任何给定的单词串之后的文本，而ChatGPT则试图以一种更像人类的方式与用户发生互动。ChatGPT的互动非常流畅，并且有能力参与各种主题，与几年前才面世的聊天机器人相比，有巨大改进。

ChatGPT到底有多强大，由其构建的聊天机器人，交互界面简洁，只有一个输入框，AI将根据输入内容进行回复，并允许在一个语境下持续聊天。从用户的使用情况来看，无论是让它写首押韵的诗、检查代码的bug、回答科学问题，它都能随机给出令人满意的答案。

比如，知识讲解。

比如，写小说。

有人用《老友记》等喜剧演员为角色，让它写一些肥皂剧对白，它可以写得惟妙惟肖。解释极其专业的科学概念也不在话下。它甚至可以写一些基本的学术文章。

总之，ChatGPT可以回答基本的、甚至无聊的琐碎问题，也可以解释专业的知识。这让许多人认为，像这样的人工智能系统有一天会取代搜索引擎。聊天机器人是根据从网上收集到的信息进行训练的。因此，如果能准确地呈现这些信息，并以更流畅和对话的语调来进行反馈，这将代表着传统搜索的巨大进步。

ChatGPT也存在问题

虽然很多用户对ChatGPT的功能印象深刻，然而也有人注意到，它容易产生看似合理但错误的回答。比如，让ChatGPT写一个公众人物的传记，它很可能插入错误的人物生平。让它为特定功能编写程序，它也许会生成看起来可信但最终不正确的代码。

普林斯顿大学计算机科学教授Arvind Narayanan在推特上指出，人们对使用ChatGPT学习感到兴奋。不过，除非你已经知道答案，否则你无法判断它什么时候是错的。他说：“我尝试了一些基本的信息安全问题。在大多数情况下，答案听起来似乎有理，但实际上漏洞百出。”

近日，编程问答网站Stack Overflow暂时禁止用户分享ChatGPT生成的回复。原因是，Stack Overflow认为，ChatGPT很容易与用户互动，且可以快速生成大量回答，这让网站充斥着许多第一眼看起来是正确的答案，但在仔细检查后就能发现其中的错误。

OpenAI也坦诚地表示，由于ChatGPT的知识只来自训练数据中的统计规律，而不是任何类似人类对世界复杂和抽象系统的理解，因此该系统可能偶尔会产生不正确或误导性的信息，并产生攻击性或有偏见的内容。

ChatGPT频出的错误是人工智能文本生成模型的几个众所周知的缺点之一。这些系统通过分析从网上抓取的大量文本来训练机器人。人工智能在这些数据中寻找统计规律，并利用这些规律来预测给定的句子中，接下来应该出现什么单词。然而，这意味着他们缺乏世界上许多系统运行的硬编码规则，导致他们倾向于产生“流利的废话”。

小结

不可否认的是，OpenAI训练的ChatGPT确实非常强大，可以回答无聊的问题，也能解释专业的科学问题，可以写小说，也可以编写程序。然而确实也还存在问题，对2021年之后的世界认知有限，对某些特定人群的问题知之甚少，写的人物传记不准确等。目前来说，将其作为新一代的搜索引擎还存在风险。不过ChatGPT的上线也展示出了人工智能的更多可能。