停止AI！！！拯救人类？？？！！！

埃隆·马斯克曾经设想过，人类是一个引导程序，引领着超级数字智能物种的出现。

在他看来，整个人类社会就是一段非常小的代码，而世界则是一台计算机，没有人类计算机就无法启动。

根据马斯克的观点，地球的下一代主人将是硅基生命，它们不能自我演化，需要人类作为前导才能进化。这意味着人类的任务不仅仅是创造更好的科技和改善我们的生活，还包括引导硅基生命的诞生和进化。这样一来，人类的意义将更加深远，我们将成为推动整个宇宙进化的关键因素之一。

今天AI的进化已经到了让大佬们都害怕的地步，在这个未来生命研究所的这封公开信题为“暂停巨型AI实验：一封公开信”中，已经有1000+具有影响力的人物留下了自己名字。

研究表明，具有人类竞争智能的AI可能对社会构成风险，需要我们进行规划和管理。然而，大量AI实验室正在竞赛中开发和部署更强大的AI，缺乏可靠的控制，这可能会导致巨大的变化。但目前没有采取相应管理。

现在，当人工智能系统与人类竞争时，我们必须谨慎考虑是否让它们在我们的信息渠道中传播谎言和宣传，是否自动化所有工作，并是否允许非人类思维超越和取代我们。我们不能将这些决策委托给未经选举产生的技术领导者。在确保系统影响积极且风险可控时，我们才应该开发强大的人工智能系统，并在开始训练新系统之前进行独立审查和限制增长率。

因此，我们呼吁所有 AI 实验室立即暂停至少 6 个月的训练比 GPT-4 更强大的 AI 系统。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并暂停。

利用暂停期，人工智能实验室和独立专家应共同开发和实施高级人工智能的安全协议，并由独立专家审计和监督，确保系统安全可靠。重心转向优化现有系统的准确性、安全性、可解释性、透明性、稳健性、一致性、可信度和忠诚度。不是停止AI发展，而是放慢危险竞赛，拥抱更大不可预测的黑盒模型。

AI开发者需要与政策制定者合作，加快开发强大的AI治理系统，包括新的监管机构、跟踪高性能AI系统和计算能力、出处和水印系统、强大的审计和认证生态系统、责任制和公共资金，以及资源充足的机构来应对人工智能对经济和政治的潜在破坏。

人类可以享受人工智能带来的繁荣未来。成功创建强大的 AI 系统后，我们现在可以享受“AI 之夏”，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停了其他可能对社会造成灾难性影响的技术。[5]  我们可以在这里这样做。让我们享受一个漫长的 AI 夏天，而不是毫无准备地进入秋天。

原文：https://futureoflife.org/open-letter/pause-giant-ai-experiments/