OpenAI 的首席执行官 Sam Altman 与 Lex Fridman 坐下来就各种主题进行了坦率的讨论，包括语言模型 GPT 是否“过于清醒”或存在偏见这一有争议的问题。
根据弗里德曼周六发表的采访，奥特曼虽然承认“醒来”这个词随着时间的推移发生了变化，但最终承认它是有偏见的，而且可能永远都是。
Altman 补充说，在 GPT-3.5 和 GPT-4 版本之间，OpenAI 显着增强了 GPT 模型。
他对注意到 OpenAI 取得的进步的评论家表示感谢，同时也指出还有很多工作要做。
Altman 还回应了 Elon Musk 对 OpenAI 的 AGI 安全研究的批评。奥特曼对马斯克的担忧表示同情，但希望马斯克将更多精力放在解决人工智能安全问题的艰巨工作上。
遭到攻击
“Elon 显然现在在 Twitter 上用几个不同的向量攻击我们，我很同情，因为我相信他对 AGI 安全的压力非常大，这是可以理解的。我敢肯定还有其他一些动机在发生，但这绝对是其中之一，”他说。
“我绝对是和埃隆一起长大的，他是我心目中的英雄。你知道，尽管他在 Twitter 上是个混蛋，但我很高兴他存在于这个世界上，但我希望他能做更多的事情来关注他的辛勤工作。”
通用人工智能 (AGI) 和人工智能 (AI) 之间存在显着区别。AGI 是一种可以理解或学习人类可以完成的任何智力任务的机器，而 AI 是一种擅长特定任务的机器。
Altman 还公开了人工智能风险的可能性。
“我认为很多预测，这对任何新领域都是正确的，但很多关于人工智能在能力方面的预测，在安全挑战和容易的部分方面将会是什么，结果证明是错了，”他说。
最受欢迎
Altman 继续指出，许多关于 AI 潜力及其安全问题的预测被证明是不准确的。关于 OpenAI 让人们在开放边界的同时控制模型的目标，他还谈到了“越狱”这个话题。
“站在公司一边被越狱有点糟透了。我们希望用户拥有更多的控制权，并让模型在广泛的范围内按照他们的意愿行事。越狱的存在表明我们还没有解决这个问题，我们解决得越多，就越不需要越狱。人们不再真正越狱 iPhone，”Altman 说。
此外，还讨论了更一般的主题，如生命的意义、事实与虚构的区别以及育儿技巧。Altman 强调知识诚实的价值，承认可能会犯错误，并从中成长。
文章来源：https://interestingengineering.com/culture/bias-inherent-in-chatgpts-database-says-openai-ceo-sam-altman
作者：Baba Tamim
