【花师小哲】鉴定网络热门（？）AI（2）——ChatGPT篇（2）

总算是转阴了，然后就投入到科研的深渊当中，一直没怎么更专栏，不过今天突然看到大消息——GPT-4要来了，这当然要写个专栏了（其实有些想写写负样本的，不过暂时还没太多时间去研究）。当然，还是简要看一下最近的ChatGPT的相关新闻。

1.ChatGPT的禁用消息

比较重要的禁用ChatGPT的通知中最早的应该是stackflow禁用ChatGPT的回答。毕竟，程序员debug求助那真的是救命的求助，而ChatGPT生成的回答毕竟是有很大的不确定性，不能保证是对的，这会大大降低回答的整体质量，或者说，滥用ChatGPT必然会出现问题。

然后，各种各样的封禁消息就出来了，例如有学校直接封禁了ChatGPT。

太阳底下没有新鲜事，这种情况是可以预料到的，就我个人来说，ChatGPT确实是很合格的工作助手，一些简单的但是不想写的代码（例如python的各种奇怪的小代码）就直接让它给我些就好了，它的“世界知识”也能给我很多帮助，但让它帮我写论文还是不会做的。

2.ChatGPT分辨算法

既然有些人要禁用ChatGPT，那必然要想办法分辨哪些文本是人写的哪些是ChatGPT生成的，于是就有了相关算法来做。不过简单来说这就是一种对抗系统嘛，没什么新鲜的。对抗系统其实一般没那么难做，例如你想做一个能打败市面上现有围棋系统的围棋系统（例：【花师小哲】当代炼金术（神经网络）前沿（0）——补档），并不需要真的去完全研究透对手的算法，对抗系统能做的比较简单。

为什么展开讲这个，其实是我阳的期间看了不少关于生物起源、演化相关的视频，就感觉对抗系统其实就像是寄生虫之类的东西，它不需要比原模型更加强大，只需要找准原模型的薄弱点就可以了，就感觉很神奇。

3.黑化ChatGPT

其实我早些时候也在QQ空间发过一个东西：

然后好像真的有人去做了，这部分比较危险，就不展开。

4.ChatGPT的其他应用

ChatGPT接入微信之类的就不谈了

（1）有人做了一个PPT自动生成系统——ChatBCG，主要借助于ChatGPT生成的文本，然后加到一些模板里。不过这个构图是真的简单，不过之后作者也许可以考虑整合下DALL-E啥的。

（2）把GPT-3应用到debug中的应用——Adrenaline。能够帮你debug的同时帮你解释为什么会有bug，这种系统其实也不少了。

5.ChatGPT与诈骗

今早看到一条推送真的没有绷住：

具体内容也不展开了。ChatGPT这种杀器可以说是吊打敏感词检测机了，万一真的有人拿来训练水军，绝对是一场灾难，比一般水军那种复制粘贴的文本可厉害太多了。这问题毕竟也不好矫正，毕竟即使采取“挑选高赞文本”等方式，也必然无法消除语言中本就存在的偏见等，这些东西本来就在GPT里，按照当前人们对大模型的认知，也只要稍加改造，就可以成为激发出某部分的潜力，所以ChatGPT当骗子还是挺容易可以做到的。

6.GPT-4终究还是要出来了

如图：

虽然大家应该都看得懂，但还是稍微翻译一下重点：GPT-4要出来了！它将是地表最强模型，在它的面前ChatGPT就像是玩具一样（所以ChatGPT你真的就是吊人胃口的啊），GPT-3有1750亿参数，但GPT-4将会有100万亿个参数。

真的挺惊讶的，据我所知，目前最大的语言模型应该是英伟达和微软合作的MT-NLG，有5300亿个参数，相比之下，GPT-4真的是降维打击。不过毕竟人家还没有出，效果究竟如何（还有运算速度是否跟得上）就只能等了：