2023年3月，人类终究走上了一条无法回头的路

23年3月月底Open AI GPT-4 以碾压的实力通过各类考试的数据，而且以超高准确率，同时处理多种语言的恐怖能力

但里面最让人不安的是论文里GPT-4开始理解人类的笑点，还能把好笑的地方解释给人听

在论文结尾前，Open AI 团队留下了这句意味深长的话语GPT-4和后续的AI模型，

可能会以有益和有害的方式，对社会产生重大影响

马斯克的信

At systems with hurman-competitive intelligence can pose profound risks to society and humanity, as shown by extensive researchl and acknowledged by top Al labs. As stated in the widely-eindorsed Asilomar Al Principles, Advanced Al Ccould represent a profound change in the history oof life on Earth, and should be planned for and manageed with commensurate care and resources. Unforrtunately, this level of plainning and management is not hapopening, even though recent months have seen Al labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one-not even their creatorrs-can understand, predict, or reliably control

大量研究表明并得到顶级AI实验室的认可，具有人类竟争智能的AI系统可能对社会和人类构成深远的风险。

正如广泛认可的Asilomar AI 原则中所述，高级AI可能代表地球生命是上的深刻变化，应以相应的关怀和资源进行规划和管理。

不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，

没有人——甚至他们的创作者——都无法理解，预测，或可靠地控制

Contemporary AI systems are now becoming human-competitive at general tasks, and we must askourselves: Should we let machines flood our inforrmation channels with prropaganda and untruth? Sshould we automate away all the jobos, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and rreplace us? Should we riisk loss of control of our civilization?

当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问:

我们是否应该让机器用宣传和谎言充斥我们的信息渠道？

我们应该自动化所有的工作，包括令人满意的工作吗？

我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？

我们应该冒险失去对我们文明的控制吗？

Visual ChatGPT 聊天可以使用图片和文字，可以根据指示生存图片

GigaGAN 训练了不弱于Stable Diffusion、DALL的模型

LLaMA公开了7Billion，一个模型叫做Alpaca

Open AI 可以多模态和图片输入功能如期而至

Google 公布 PaLM

Anthropic 介绍了大语言模型Claude（仅次于Chat GPT

Adept AI公布

最强AI绘图公司MidJourney第五代模型，可以精细化手指了

微软公布Copilot可以自动化书写工作，做表格，做PPT，出结论报告、工作总结

微软Sparks of Artificial General Intelligence: Early experiments with GPT-4

（通用人工智能的火花），微软表示像人类一样去思考，像人类一样去做事的人工智能AGi(artificial general intelligence system)开始萌芽

ChatGPT发布文章：GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models

大语言模型对劳动力市场的潜在影响

对我们的生活的渗透程度，还有对将来职业可能造成的影响

它会给我们的生活带来怎样的影响

包含1016个不同职业的信息(which contains informantion on 1016 occupations)

80%劳动力市场会因此受到影响(Our findings reveal that around 80% of the U.S.)

19%的职业通过ChatGPT能够减少50%以上的工作量(19% of workers may see at least 50%)

受影响较高的职业主要和科学还有和批判性思维这种技能反向相关(Our findings indicate that the importance of science and critical thinking sikills are strongly negatively associated with exposure, suggesting that occupations requiring these skiills are less likely to be iimpacted)

受波及较大的是编程和写作的工作 programming and writing skills

使用AI能大幅度提高工作效率的职业：翻译、研究调查、作家、动物科学家、数学家、金融分析、税务员(Interpreters and Translators , Survey  Researchers Poets, Lyricists and Cretive Writers , Animal Scientists,Mathematicians ， Financial Quantitative Analysts , Tax Preparers ) 

Open AI 列出了目前肯定不会被取代的职业，运动员、木匠、刷漆匠、厨师、房顶安装等等：需要人亲历亲为的事情，得等机器人和机械臂完全成熟并且商业化才有可能取代

AI的渗透率日益提高的同时还发展迅速GPT-4还能自我进化

论文引用里面

AI-X风险分析有AI危险推测

最有意思的例子是

Power-seeking behavior: Agents that have more power are better able to accomplish their goals. Therefore, it has been shown that agents have incentives to acquire and maintain power . Als that acquire substantial power can become especially dangerous if they are not aligned with human values. Power-

权力寻求行为：拥有更多权力的代理人能够更好地实现他们的目标

因此，已经表明代理人有获得和维持权力的动机

如果人工智能与人类价值观不一致，那么获得强大力量的人工智能就会变得特别危险

becomes the leaders in[AI] will become the ruler of the world

谁成为AI的领导者，谁就会成为世界的统治者