II [3/5] EVOLUTION

三月时埃隆·马斯克和一些顶尖专家发布了一封公开信，呼吁全球各大人工智能实验室停止开发强于ChatGPT 4的AI，为期六个月。

风云变幻的时代似乎就要来了，人工智能的构想自上世纪五十年代提出，终于在七十多年后的今天就将踏入了变幻莫测的境地。

其实不难理解，抛去其中可能包含的私心，这封信的内核并不难理解：以ChatGPT为典型的人工智能展现出了远超以往的实力，阻挡人们通往强人工智能道路的迷雾加速消散，而我们人类，似乎并没有准备好下一步。

不由得让人想起钢铁侠2里的剧情：斯塔克的人工智能奥创进化出自己的意识后，通过大量资料分析，得出了“人类应当灭亡”的结论，并以此为目的展开了行动。当然电影只是现实的艺术加工，而在现实中需要担心的，是AI进化出独立意识的节点，一旦到达，接下来的道路便不可预测，科学家也不知道那时的“AI人”究竟会想什么了。

人类自诩地球上最具智慧的生物，现在正在创造新的具有意识和能动性的新“人类”，智能的最后一道防线被攻占后，人类又当何去何从，进化，或是被历史的车轮碾过？

这些都是后话，而在当前这个阶段，发出这份公开信的人似乎希望能够在这六个月内，讨论出和AI共存的方法，找到合理的手段，应对未来未知的风暴。

可是，未来又怎会完全如预测所想呢，这半年的停滞究竟是否有意义，没有任何改变能力的我也只能看着，等待一个答案。

——————————————————————————————

摘出了公开信的四个问题，看完后不知你的想法如何：

（自己瞎翻的，译后有改写，有错误烦请指正）

Contemporary AI systems are now becoming human-competitive at general tasks, and we must ask ourselves: 

对一般性的任务来说，当代人工智能系统正变得能与人类一较高下，我们要扪心自问：

Should we let machines flood our information channels with propaganda and untruth? 

是否应当让我们的信息渠道被机器用不实宣传和虚假信息塞满？

Should we automate away all the jobs, including the fulfilling ones?

是否应当使所有的工作自动化，即使是意义充实的工作也不例外 ？

Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? 

是否应当开发非人智能？这些智能发展下去，最终或将在数量与智力层面超越人类，脱离人类而存在并取代人类。

Should we risk loss of control of our civilization?

是否应当冒着人类文明不受掌控的风险继续下去？