欢迎光临散文网 会员登陆 & 注册

拥有热爱的工作是一份特权|Sam Altman

2023-03-29 16:46 作者:殷悦Melody  | 我要投稿

周末听完了最新一期 Lex Fridman  Sam Altman 两个多小时的播客访谈,聊到了很多从 OpenAI 创始人视角,如何看待 AI  ChatGPT 未来的。


我整理了 12 条对我来说有启发的观点:


1. Lex:如何看待 ChatGPT4?
Sam:这是一个很早期的 AI 系统,它很慢,也会有 bug,也不能做特别多的事,但早期的电脑系统也一样,这不影响它为我们指引出了一条发展的方向

2. Lex:维基百科最新的页面上已经有 ChatGPT 了,你是否觉得现在是个巨大的跨越时刻?
Sam:我觉得进步是一个持续的指数形态的事情,我们很难说(在指数曲线上)有什么原来没有发生的事情发生了。无论历史会挑选我们做的那部分事情,我觉得 ChatGPT 是重要的,原因不在于背后的模型,而是在于可用性

3.关于模型背后: 
RLHF (基于人类反馈的强化学习)最简单的理解就是给你两个输出,然后问你哪个结果更好,类似于有个「人类雷达」。我们现在无法解释为什么模型在某些方面做得好,某些方面不行,但是我们在慢慢推开迷雾

4. 赌注不大的时候犯错:
现在有点像是在公开建造一栋大楼,把好的和不好的展现在大家面前,这肯定是不完美的。我们希望在赌注很低的时候犯错,每一步开始越走越好。

5. 作为工具和杠杆:
(谈到编程)短期内我所看到最酷的事,就是 ChatGPT 作为工具和杠杆,通过自然语言对话的形式,帮助用户完成创造类的工作。

6. 关于 AI 输出的言论规范:
虽然很难做到,但是理想的应对方法是大家(every person onearth)都参与进来,组成一个委员会,一起来讨论哪些内容应该成为限制,哪些内容可以不用管理,然后形成一套总的体系规则。

在不同国家和组织可以有不同的规则。我们在试图寻找足够接近这个理想方法的途径。 

每个人都想要的是,通过一个符合他们所认同的世界观的 RLHF来优化这个模型。

7. Lex:你认为 ChatGPT 3.5  4 的飞跃归因于什么?是技术上的提升吗? 
Sam:我们在 OpenAI 做的比较好的一件事是找到很多微小的成功,然后把它们相乘,从外界看来发布 4 只是一件事,但实际上背后有几百件复杂的事情。

8. 关于超级智能: 
任何一个不能显著增加我们获得的科学知识的总和的系统(ChatGPT4),都不是超级智能。

9. 关于未来的工作:
一部分程序员确实会有对未来的焦虑,但是大部分人都会觉得,我现在有原来十倍的生产力了,已经变得离不开这个工具了,很少会有人用过以后说,赶紧把这个东西关掉吧。

在最理想的世界里,人类是幸福而充实的,可能没有人会去工作,但是人类还是会想要地位、戏剧等等他们想追求的东西。

10. 慢慢起飞:
Sam:以发展速度慢到快,和起飞高度低到高,建立一个 2x2 矩阵图,你理想的世界是在哪个象限里?
Lex:我认为是慢速起飞
Sam:我也是这样想的,最害怕的情况是快速起飞的象限。

11. Sam  Lex 是否应该开源:
Lex 思考了一下说不应该,Sam 说确实他们在某些场景是不公开的。ChatGPT 这件事如果是 Google 做的,很可能他们不会把 API接口提供出来,大部分公司都不会这样做。可能我们没有人们期望我们那样开放,但实际上(在开放这件事上)我们已经做的很多了。

12.拥有热爱的工作是一种特权:
每一次的技术革新都会让一部分人失去工作,也会产生一些我们现在想象不到的新工作。

我热爱我的工作。我认为你(Lex)也是。这是真正的特权。不是每个人都能这么做。

即使人们不喜欢工作,他们也需要工作。法国开始延迟退休是一件很糟糕的事。这个社会对我们应该工作更多还是工作更少以及大部分人从工作中获得了价值还是没有,有很大的误解。

这个世界需要一些更有创造力,更有成就感和更让人幸福的工作。




拥有热爱的工作是一份特权|Sam Altman的评论 (共 条)

分享到微博请遵守国家法律