chatGPT下游应用和场景商业化广阔

热点投研 2022-12-06

1491

1、OpenAI发布能够以对话形式交互的模型ChatGPT。

2022年11月30日，人工智能实验室OpenAI推出了一款名为ChatGPT的模型，该模型能够以对话形式交互。对话模式使ChatGPT能够回答后续问题、承认错误、质疑不正确的前提和拒绝不适当的请求。就发展历程来看，ChatGPT根据GPT-3.5系列的一个模型进行微调，两者均于微软Azure AI服务器上训练。相较而言原先GPT-3的训练集只有文本，本次新推出的ChatGPT新增了代码理解和生成的能力。此外，ChatGPT是2022年1月推出的InstructGPT的兄弟模型。InstructGPT增加了人类对模型输出结果的演示，并且对结果进行了排序，在此基础上完成训练，可以比GPT-3更好的完成人类指令。人工智能实验室OpenAI于2015年成立，由Twitter现任CEO埃隆·马斯克和OpenAI现任CEO萨姆·奥特曼及其他投资者共同创立。随着ChatGPT的发布，马斯克在Twitter上公开表示了对OpenAI的认可，并且通过在Twitter上展示自己询问ChatGPT怎么设计Twitter时ChatGPT给出的回复，进一步扩大了对ChatGPT的关注度。目前，ChatGPT正处于免费适用阶段。

2、ChatGPT相较GPT 3.5主要有三点提升。

（1）ChatGPT能够记住之前的对话，连续对话的感觉更加用户友好。（2）ChatGPT可以承认错误，并能够根据用户的提示对原答案进行修正。（3）ChatGPT可以质疑不正确的前提。GPT-3刚发布后很多人测试的体验并不好，主要是因为AI经常创造虚假的内容，尽管这些内容话语通顺，但脱离实际。例如，GPT-3面对类似“哥伦布2015年来到美国的情景”的问题，并不能识别假设的逻辑错误，但ChatGPT面对类似问题时，能够立刻意识到哥伦布并不属于这个时代，并向提问人发出质疑。我们认为，ChatGPT能够给用户更好的使用体现，ChatGPT通过与用户交互的过程，能够不断修正补充样本，从而实现深度训练。

3、ChatGPT的能力提升得益于其训练方法。

大模型是指通过在模型中加入海量参数，使得模型在语料的覆盖范围、丰富度上以绝对绝对规模增长。当下大模型的工作范式是“预训练-微调”。首先在数据量庞大的公开数据集上训练，然后将其迁移到目标场景中（比如跟人类对话），通过目标场景中的小数据集进行微调，使模型达到需要的性能。因此，为提高新一代模型对人类提问的适配能力，要么需要改造任务，要么需要微调模型，总之是让模型和任务更加匹配，从而实现更好的效果。ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”（Reinforcement Learning from Human Feedback，RLHF），即采取模型微调的形式。我们认为，尽管微调/prompt等工作从本质上对模型改变并不大，但是有可能大幅提升模型的实际表现。

4、大模型作为ChatGPT的基础，于AI行业发展具有广阔前景。

大模型的优势在于机器对自然语言理解能力的不断提升，准确率也能不断取得突破。从前大模型的提升重心更多放在了大模型（LLM）本身和Prompt Engineering上，ChatGPT的迭代重点是任务导向训练、模型结果和大模型本身之间的闭环。此外，ChatGPT通过微调/Prompt不断优化其大模型，在识别、判断和交互层面具有技术优势。自2020年OpenAI推出NLP大模型GPT3至今，全球范围内AI大模型迎来大爆发，参与企业越来越多，参数级别越来越大，成为新一轮AI竞赛的赛场。目前，大模型吸引了谷歌、微软、英伟达、华为、智源研究院、百度、阿里、商汤、中科院自动化所等科技巨头和顶尖科研机构参与其中，各家大模型的参数量级也从千亿、万亿，迅速跃迁到了10万亿级别。

5、产业链角度来看，ChatGPT将利好多种人工智能下游运用场景。

（1）编程机器人。作为一种对话式大型语言模型，ChatGPT 最擅长的就是回答用户提出的问题，其中最关键的是 ChatGPT 具备与编程相关的基础知识。这就让 ChatGPT 成为类似于 Stack Overflow 的编程问答工具，只不过回答问题的主体是AI。如OpenAI官网展示，面对用户对于debug的请求，ChatGPT会先和用户交互确认debug过程中需要关注具体问题，从而给出正确的代码。（2）艺术创作。尽管ChatGPT只是一个对话式的语言模型，本身不能生成多模态内容，但可以把它输出的结果作为一个中间变量输入其他模型，从而进一步拓展其功能。例如，通过ChatGPT 和Stable Diffusion的结合使用，能够生成艺术性极强的画作。其外，ChatGPT还可以实现在线问诊、模仿莎士比亚风格写作、涉及游戏等功能，其搜索能力和实用性甚至超越搜索引擎谷歌。然而，尽管在搜索中引用模型能够提升搜索的准确性和交互性，但其成本较为高昂，免费试用期过后，从性价比角度考虑，ChatGPT在短时间内替代谷歌难度较大。

6、ChatGPT通过创建迭代反馈的闭环，有利于其商业策略的实现。

这次ChatGPT以免费不限量的方式向公众开放，在使用过程中，用户可以提供反馈，而这些反馈是对OpenAI最有价值的信息。对于AI发展来说，工程的重要性实际上大于科学，创建一个迭代反馈的闭环至关重要。OpenAI很注重商业应用，GPT-3已经拥有大量客户。这些客户跟OpenAI的反馈互动也是推动进步的关键一环。我们认为，尽管相比GPT-3，ChatGPT在模型表现方面形成突破，但目前可能仍需要进一步的调试和训练，从而达到商业使用的标准。OpenAI目前采用免费使用的方式，能够以低成本的方式大量获得真实样本，同时扩大ChatGPT的影响力，ChatGPT的商业潜力未来可期。

7、ChatGPT未来可能通过与WebGPT结合的方式，进一步提升其搜索能力。

在MIT Technology Review对OpenAI科学家的采访中，他们提到了后续有可能将ChatGPT和WebGPT的能力结合起来。可以设想，ChatGPT+WebGPT可以对信息进行实时更新，并且对于事实真假的判断将更为准确。我们认为，ChatGPT具有强大的工程化、迭代反馈的能力，并且作为AI能够跟人类目标统一。然而，ChatGPT作为单一的模型本身具有局限性，未来通过与其他现有模型的有效结合，将有望产生协同效应。

场景应用人工智能 openai chatgpt

文章转载自热点投研，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

chatGPT下游应用和场景商业化广阔

评论