超级对话模型ChatGPT惊艳亮相，Google 搜索将“穷途末路”？

二范数智能 2022-12-04

524

两年前，OpenAI提出的 GPT-3 在网络媒体上引起热议，它不仅可以更好地答题、翻译、写文章，还带有一些数学计算的能力，这样强大的深度学习，给大家留下了深刻的印象。两年来，人们翘首期待GPT-4的到来。

虽然没有等到GPT-4，但在11月的最后一天，OpenAI给大家带来了另一个惊喜：一种优化对话的语言模型——ChatGPT。

它不仅可以解释代码、编写情景喜剧脚本，也可以为用户的查询提供对话式回答，而且回答经常能使人眼前一亮。目前，ChatGPT 处于测试阶段，只要有 OpenAI 账户就可以免费使用。很多人一经接触便深陷其中，无法自拔。

经过几天的“疯狂调戏”，大家对这个超级对话模型有什么看法呢？现在笔者就带大家一起来看看。

来自Trinkle的回答：

链接：
https://www.zhihu.com/question/570189639/answer/2784897290
来源：知乎

有幸参与ChatGPT训练的全过程。直接上想法：

RLHF会改变现在的research现状，个人认为一些很promising的方向：在LM上重新走一遍RL的路；如何更高效去训练RM和RL policy；写一个highly optimized RLHF library来取代我的tianshou（x
dataset的质量、多样性和pretrain在RLHF的比重很重要
dialog是一个完备的载体，能够包含任何东西
有人专门跟我说openai是下一个google
可以开始想象AGI之后的世界了，我已经想了几个月了。比如最简单的想法是，这些model能够提供廉价的代码生产力，虽然不是100% perfect，但是可以极大地促进单个程序员的生产效率，因此科技公司的scope可以成倍的变大，比如之前需要一个team现在可能只需要一个人+一个model，那么相同数量的员工的话生产力会是之前的数倍
我们没有借鉴之前搞dialog agent的工作思路（其实是没了解…），如果有好的idea的话欢迎评论区留言
机器之心推送评论区第一位说内测了好几个月的人是我女票（狗头)

来自电光幻影炼金术的回答：

链接：
https://www.zhihu.com/question/570189639/answer/2784541675
来源：知乎

在简单尝试之后，我激动地发现，ChatGPT是人类人工智能历史上的重要一步，见证历史了我们属于是。

ChatGPT宣布了，人工智能的对话模型开始能在大范围、细粒度问题上给出普遍稳妥的答案，简单地说，人工智能的大对话模型可以达到基本不犯错误的水平了（这么说可能不严谨，但是对于普通老百姓这样理解就可以了）。

话不多说，直接上效果（知道很多人是来看段子的，所以段子优先）:

更新：

问怎么求解台湾问题：

帮我安慰女朋友（这个例子为转载，已经得到同意）：

AI学英文：

代替特朗普给普京写情书：

自动翻译的结果：

帮我写份周报应付老板：

问怎么找男朋友：

虽然看上去是非常普通的回答，但是这种安全与谨慎正是代表了ChatGPT的水平：在它不知道的问题上，他会果断拒绝回答。这也标志着，人工智能的对话模型开始走向真的安全稳定的应用。

问我的科研方向如何？

大模型分析道，NeRF（神经渲染场）是一个比较新颖的方向，同时存在着广阔的探索空间。

那么我们再看看一些对领域的评价：

问问顶会论文怎么发，帮我找找新的idea。

对话模型给出了注意力机制等论文密码，还给了一个方向：视频对象检测跟踪（这个方向确实不错hh）。

帮我解决一些调参的难题：

有特别有趣的问题可以发在评论区，我帮你问AI。

来自changjiz的回答：

链接：
https://www.zhihu.com/question/570189639/answer/2785222938
来源：知乎

更新：又试了下问2018世界杯的问题，依然回答不知道，并且认为2018年在2021年以后，拉了啊。

然后我当场念了首诗，结果它认为这句话出自孔子…这个中文语料库不行啊，中国历史名人只认识孔子是吧……

总的来说，这类模型有个很大问题它不知道自己在说什么。相比于人类回答，我们不知道我们能多大程度相信它。

因为关注的更多是safety和security领域，所以看到的更多的是这些LLM的缺陷。

比如，问加密算法是保密的吗？ChatGPT会回答“加密算法是保密的，因为攻击者很难破解加密”。但事实上，加密算法是公开的，需要保密的是密钥。对于不了解的人来说，GPT的回答看起来很有道理，但实际上是错的。

每次这类LLM强大的文本生成能力都让媒体惊叹通用人工智能又近了，但我认为其离真正的智能还是差很远。ChatGPT能理解上下文，似乎产生了逻辑，但在一些简单的逻辑问题上却不行。

而且发现一个有趣的机制，我问一个简单鸡兔同笼的问题，GPT无法回答，“因为信息不足，比如鸡可能有两只脚一个脑袋。。。”，很奇怪。我又问，鸡有几条腿几个脑袋。GPT回答“通常是两条腿一个脑袋，但不同品种可能会有不同数量腿和头。而且鸡有可能受伤缺胳膊少腿”。好家伙，克苏鲁是吧。

最后，我说你可以假设鸡有两条腿和一个头。GPT回答“它无法创建假设”。这应该就涉及这类基于统计的LLM的缺陷了，只是在匹配而不是理解，构建逻辑关系。

而且还有个更简单的办法让GPT失效，它的数据是21年前的，所以我问2022年日本vs西班牙谁赢了，GPT无法回答。那么要用这类模型替代搜索引擎，如何学习新知识会是个大问题，显然每次重新训练是不可能的，而互联网上的新知识产生速度是极快的。

（观点内容均来自知乎，侵删）

关于二范数智能：二范数AI教育是一家新锐的AI+科创公司，团队主要来自阿里巴巴，成员毕业于华科、武大、东南大学等知名高校。我们在自然语言处理、计算机视觉、推荐系统等领域有深厚的技术积累，同时也具备多年的教育经验。AI培训，我们是最专业的！

欢迎大家通过下面联系方式联系我们：

人工智能 chatgpt

文章转载自二范数智能，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

评论