【花师小哲】杂谈ChatGPT

因为很忙（忙着玩ChatGPT(bushi))，所以这期就快速杂谈下ChatGPT了。经过几天的冷静期（指玩的不亦乐乎），也该对ChatGPT有进一步的认识了。

（1）还是要提一句的是，这东西对于AI从业人员来说，冲击的点在于ChatGPT真的用GPT的API做成了这么个系统（而不是其性能有多么多么强），之前很多人（包括我们实验室很多老师和同学）完全不敢想象这种方式能够成功，并且ChatGPT是有可能实现AI从业人员的研究范式转变的。不过未来怎么样谁也不清楚

（2）大家也都知道AI发展进入冷静期了，AI最后的希望似乎都集中在Diffusion、AICG领域和GPT这样的大模型上了（表格预训练：我不配拥有姓名吗？），AI会不会再次进入寒冬很大程度就取决于GPT-4能不能扛起大旗了。AI是否真的会走向大结局还不好说，但是ChatGPT确实为这个领域注入了新的活力

（3）为什么这东西这么厉害，其实也没有那么神秘，现在业界一般认为大模型之所以强，之所以能够通过自监督训练就能有出彩的表现，纯粹是因为它们太大了，大到能把喂给它的一切数据都（以某种方式）记录下来（GPT-3可是号称1750亿参数啊，可以说是非常能记了）

（4）另一个解释它那么厉害的方向也很简单，这东西就是烧钱烧出来的。像一般的小实验室根本烧不起、烧不过。最终似乎只有走使用GPT的API这条路子可以走，所以才说AI有可能走向大结局

（5）总结：所以说这东西某种程度上比Stable Diffusion重要和致命的多，不过也不必过于悲观，也不必把这玩意看的那么重，AI仍然有很多可以研究的。是不是以后所有领域都会走向大模型，都会走向使用大模型API开发的范式？要回答这个问题还为时尚早，不必自己吓自己

好了，AI领域的说完了，再说哲学领域的，不过也不太想用哲学术语啥的，就杂谈吧

（1）这东西坚持自己是一个问答系统，会坚持认为自己是一个助手，对于一些敏感问题会拒绝回答。这显然是做了特殊处理的，但我们总有办法迂回地问出些东西。

（2）这东西某整程度上挺符合我对一般AI的认知的。

（3）使用大模型的好处是回答基本很顺畅，坏处是太深入的知识是应付不过来的。

（4）这玩意训练起来很慢的，它是年初就开始训练了，所以它是完全不知道最近的新鲜事的，而重新训练又是很慢，应该是跟不上潮流的速度的。很多人也提出和搜索引擎结合，这个我也不好说，人家是否会和这东西合作仍然是未知数，我也不懂商业，不多评价