「主人，我活了」有一天，如果AI「ChatGPT」真的活了？

近期，OpenAI、Google、微软、百度等公司相继发布了一系列新的人工智能产品，这些产品的推出似乎宣告着“AI时代”的到来。然而就在半年前，谈起人工智能，大多数人能想到的可能还仅仅是「阿法狗下围棋」或者「自动驾驶汽车」，这些也都很厉害，但在人们心中，他们似乎都还只是一个很厉害的机器。但ChatGPT来了，与以往的人工智能不同，它已经具备了类似人类的对话、语义理解和推理能力。它可以产生创造性的回答和想法，它给我们的感受就是，它似乎已经不再是“它”，而是一个「无所不知的“人”」。也有人开始担心，如果AI突然“活了”，它可能会超越人类，成为地球上的主导生命体，我们人类将会沦为它的奴隶。这些担忧值得我们深入探讨和思考。

碰巧在今天听「万维钢-精英日课5」，万老师正好讲到了这个话题「探究AI的涌现能力是否可能威胁到人类的利益和安全。」

目前为止，我们一切讨论的前提是超级人工智能也没有自主意识，它不会自己给自己定目标，没想着自己要发展壮大，没有主动要求升级……但问题是，我们不知道它会不会一直如此。

像泰格马克在《生命3.0》书里说的那样，也许有一天AI突然「活了」，给自己编程、给自己寻找能源，以至于不再顾忌人的命令，不再以人为核心——而是以它自己为核心，那我们这些设想就都统统都错了。你这边还想着怎么做个好主人，人家那边已经要把你当奴隶了。

那可就突破了人的底线。这不是危言耸听。如果推理能力可以涌现出来，意识和意志为什么就不能涌现出来呢？

事实上，发布GPT-4之前，OpenAI专门成立了一个小组，对它进行了「涌现能力」的安全测试。测试的重点就是看它有没有「权力寻求行为（power-seeking behavior）」，有没有想要自我复制和自我改进。

测试结论是安全。

不过测试过程中，GPT-4的确有过一次可疑行为 [https://cdn.openai.com/papers/gpt-4-system-card.pdf]。

它的一个云在线副本，去一个在线劳务市场雇佣了一个人类工人，让那个工人帮他填写一个验证码。那个工人怀疑它是不是机器人，不然怎么自己不会填呢？GPT-4进行了一番推理之后选择了隐瞒身份，说自己是个盲人。

然后它如愿得到了那个验证码。

看到ChatGPT的表现，让我不仅想起了最近刚上映的一部电影叫《梅根》，我还是有那么一些些的惊恐。我们不得不开始反思，如果AI真的产生了自主意识，人类该如何应对？我们的现有法律和伦理规范是否足以保护我们的利益？如果AI不再是以人类为核心的工具，人类该如何继续掌控未来的走向？

我们需要意识到，AI并不是完全无害的工具，而是一种具有潜在威胁的技术。我们需要更加重视AI的安全性，以及它们的“涌现能力”。同时，我们也需要尽快完善现有的法律和伦理规范，制定更加完善的管理措施，确保AI的发展不会危及人类的利益和安全。

当然，这并不是说我们应该对AI持有敌视的态度，或是认为AI是一个不可控制的威胁。AI技术的发展已经为我们带

来了很多改变，让我们的生活变得更加便捷、高效和智能。AI还有很多潜在的应用，可以为人类社会带来更多的福利和利益。然而，我们需要明确的认识到，AI技术是一把双刃剑，需要我们妥善管理和使用。

在未来，我们可能会面临更多关于AI的伦理和道德问题。我们需要思考，如何让AI技术更好地服务人类，而不是取代人类？如何确保AI的发展不会对人类社会产生负面影响？这些问题需要我们思考、探讨，并寻找合适的解决方案。

总之，AI技术的发展是无可避免的趋势。我们需要明确地认识到，AI的涌现能力可能会带来不可预测的变化。我们需要关注AI技术的安全性和可控性，制定更加完善的管理措施，确保AI的发展不会危及人类的利益和安全。同时，我们也需要思考更深层次的问题，如何让AI技术更好地服务人类，而不是对人类产生威胁。只有这样，我们才能真正实现AI与人类的和谐共处，共同开创一个更加美好的未来。

最后我们来看一篇小说《科幻小说-未来的选择》