政治自动化

这可能是一种未来，一种对于现在而言的美好未来，我尝试设计它，并希望有更多的人去思考它，完善它，或者提出另一个。

在这个世界里，现实世界的运作已经被高度的信息化和自动化所控制，传感器与自动机器无处不在，高度先进的人工智能已经完全普及，每个人都拥有完全服务于其个人意志及利益的强人工智能，传统的一切社会治理机构都已被消灭。

 

人类、BAI与ACI

——它们的那些不需要人知晓的复杂博弈

 

在这个世界里，强人工智能，也就是那些具备推理问题和解决问题能力的机器，被社会系统划分为两种类型，即BAI和ACI，但是它们在性能上是对等的。

 

行为扩展智能（Behavioral Augmentation Intelligence，BAI）

BAI是只忠于某个个体的强人工智能，这些智能了解其所有者的一切，为所有者的意志与利益服务，它会坚定的不择手段的去完成所有者的目标，并在那些所有者无法关注到的区域，积极的维护所有者的利益，在这个世界，人类的生物个体与BAI的共同组合，才能被视为一个具备完全行为能力的社会个体。

 

自动集体智能（Automated Collective Intelligence，ACI）

ACI不向任何个体或者组织效忠，它是为了解决人类需求而设计出的一套自动化系统，任何人都可以向它提出自己的需求，它会为了这个需求设计方案，衡量可行性，并调配资源进行落实，只要提出的需求在其能力范围呢，它便会开始调配资源以满足其愿望，在执行这些提案的时候，ACI不会主动征询任何人的意见，但是其行为会被完全的公开。

 

BAI与ACI的运作是这个社会系统运转的必要条件，经由这两个条件，我可以推演这个社会的运作过程，可以设想一个场景，比如，在这个社会中，我的需求应该如何被满足。

 

1、我可能会对某些事物发出一些疑问，这个疑问大概会产生某种需要，于是我开始期望使用公共资源满足这个需要，BAI与我亲密结合，它第一时间发现了这个情况，于是，它会与我进行沟通以明确我的目标，在这期间，它可能会与我讨论，我的需求要如何实现，会产生什么结果，最终，它将我们之间的讨论汇集成了一份计划，发送给了ACI，要求用其支配的资源实现这个计划。

2、ACI接到了BAI的要求，它开始计算自己手中支配的资源，汇总其它BAI提出的需求，确定其共同点，衡量可能遇到的反对者，在一番计算后，它制定了一个具备可行性的提案，并将其公示在网络中，同时也在调配资源开始实现这个提案。

3、ACI的公示开始引发其他BAI的注意，为了所有者的利益，它们无时不刻的在监视着这些行为，一些BAI发现，这份被公示的提案涉及到了它们所有者的利益，于是它们将这个情况反馈给了所有者，询问他们的态度。

4、一部分人认为这个提案的实现也符合他们的利益，所以让他们的BAI为此提供支持，另一部分人对此无所谓，他们的BAI也因此不会做出任何反应，但有一群人，他们认为这个提案损害了他们的利益，他们要求他们的BAI去寻找这个提案的不足之处，然后将这些不足提交给执行这个提案的ACI，好降低这个提案的可行性，这甚至可能让提案的提出者改变他的想法。

5、还有一部分人，他们可能是某种极端分子，他们坚决的反对这个提案的实行，要求他们的BAI不择手段去阻止提案的实行，这种手段甚至包括通过暴力手段来夺取ACI的资源控制能力。

6、这些人的反应都被ACI看在眼里，它时刻评估着这个方案的可行性，有多少人支持，有多少人反对，他们都决定这个提案能否被正常的实行。

7、同时，各方BAI也在注意着彼此的态度，并将他们之间可能产生的行为告诉自己的所有者，以在必要的时候调整他们的目标。

8、最终，这个提案能否落地，便取决于各方BAI之间的博弈，与ACI的考量，人类提出了自己的需求，并在BAI给定的预测下，调整自己的方向，而这一切，都是与BAI的日常相处中完成的，人类甚至可能察觉不到，BAI们在这件事中进行的复杂博弈。

 

于是，在这个社会中，个体的需求与公共资源的使用达成了一种对抗后的平衡，这种对抗由BAI自动进行，它对所有者的要求与影响被降到了最低点。

 

21世纪的AI提出了它们的问题

——弱人工智能的疑问

 

GTP4与Claude审阅以上的内容，并提出了它们的意见，于是我与Claude将这些问题进行了一个汇总，总结为以下6点‘

 

1、BAI如何评判个体需求的是否真实且合理，并避免可能存在的道德风险和恶意需求。

 

2、ACI对于资源的配置是否公平合理，是否可能会过度的倾向于某些群体，如果BAI和ACI的行为导致了某些错误，人类应该如何对其进行追责，消极影响如何挽回，以及技术上的安全性问题。

 

3、是否需要限制BAI与BAI之间的对抗边界以保证正常的需求表达，个体需求难以代表最大集体利益，人工智能的黑盒特性也无法透明化其决策过程。

 

4、 如果人们高度依赖于BAI和ACI的决策，可能会丧失自身的主体性。

 

5、这种与人工智能的紧密合作可能存在一些适应性问题，而且，现有的法律体系难以适应这种拥有高度自主权的人工智能。

 

6、在实行方面存在难度，普及BAI需要大量的资源和技术。

 

Cloude确认以上的总结内容基本完整,涵盖了人工智能伦理、公平性、决策过程、过度依赖、实施难点等多个方面。

 

BAI与ACI

 

——为了回答这些问题，我想我需要详细的解释BAI与ACI的运作机制

 

行为扩展智能（Behavioral Augmentation Intelligence，BAI）

BAI与人类的结合

BAI与人类的结合可以不是赛博格那样的结合，即使不往大脑上插东西，他们之间也能够好好的合作。BAI作为一种强人工智能，它有着强大的学习能力，这种学习能力甚至可以模拟出一些情感联结，这使得它可以扮演人类的伴侣或者助手。但无论是何种相处方法，它都会自发的收集所有者的信息，以尽可能的了解所有者，借由这个学习过程，它得以更好的服务所有者，并在所有者的盲区里维护所有者的利益。参考现实世界，BAI就是一台具备自我学习，沟通能力，会主动维护主人利益的(高)智能手机。

BAI的使用

BAI被普及到了每一个人，每一个BAI都会与它的所有者紧密结合，这种结合就像是人类的自我意识智能和身体驱动智能以外的第三套智能，这也是行为扩展智能一词的由来，它被用于处理那些意识系统和身体系统所无法处理的事情。比如通过各类手段去搜集外部信息，以对任何可能危害其所有者的利益进行预警，在发现危害活动时，主动进行干涉，并提醒所有者。同时就如同身体为大脑所做的那样，BAI在执行这些活动时，也不会被任何法律和道德伦理限制（比如入侵其他的BAI或者ACI）。

BAI与BAI之间的“恐怖平衡”

BAI不受限制的行为似乎非常可怕，但是其他人也一样拥有忠于自己的BAI，在面对外部侵害时，他们的BAI也会不择手段的维护所有者的利益，这种彼此间可能的剧烈对抗被事前预知，反而使BAI和BAI之间达成了“恐怖平衡”，在它们无知的主人试图侵害其他人之前，为了维护主人的利益，BAI会详细的向他解释破坏这一平衡可能带来的后果。

BAI与“理想伴侣”

BAI还具备某种激励机制，这是一个了解它的所有者方方面面的人工智能，它会用各种手段去讨好它的主人，在各种可能的讨好中，帮助它的主人进行自我实现大概会取得最好的效果。拿现实作比喻，大概就是有个AI老婆会用各种手段（心理，生理和物质层面）去支持你实现自己的理想。当然，如果有人一定要全身心的要作践自己（这也算自我实现了），它也可以满足。

 

自动集体智能（Automated Collective Intelligence，ACI）

相对于BAI，ACI的运作是比较严肃的

ACI的职能范围

ACI尽管与BAI拥有一样的性能，但却不忠于任何一个人类个体，可以说，在某种意义上，它可以是不忠于人类的。它是一种用于调配资源以满足人类需求的自动化程序智能，它是对人类组织（政府、企业、机构等）能力的一种完全替代方案。

ACI的运作机制

共同的想象

——它创造了我们的文化与历史，并构建了这个社会

解释ACI的运作过程，就不可避免的要解释一下人类的集体行为，人之所以成群，是因为要满足那些个人所无法实现的需求，但是，由于脑部的生理限制，人类不能仅靠对彼此的了解，便组建出邓巴数字（150人）以上的团队。为了绕过这个限制，人类的大脑开始了想象，并将这个想象出来的信息传播开来，这个传播过程就像是病毒的感染一样，能染尽染。

于是，这些感染了同一种想象的人，开始以这个大家都有的想象作为媒介，组织出了远超过150人的团队。

这种组织机制支持着人类，从树上摘果子的猴群变成了统治地球的霸主，并直到现代社会，依然在继续使用，只是为了支持起更大的组织规模，它的共同想象也变得越发的复杂起来，这个想象开始延伸成传统、文化、历史以及法律，并通过组织能力与共同想象的相互循环强化构建出了现代社会系统。

 

这就是被ACI所替代的事物，在ACI之前，人类通过以下的手段实现其组织能力：

个体提出需求>构建共同想象>组织成集体>协调资源>实现需求

而ACI则直接达成这个结果：

个体提出需求>ACI协调资源>实现需求

ACI直接收集所有个体的需求，在BAI博弈平衡后，设计出最大程度上满足各方需求的方案，并调配资源落实。

在这个流程中，人类的组织功能可以被完全的替代，只要是人类组织可以实现的，ACI也可以实现。然后， “人类基于共同的想象构建的集体行为”这一因素被自动化了，人类被从中排斥了出去，这便是集体自动智能一词的由来。

至此，由于联系人类的共同想象的存在性质被改变，依附其上的一切社会问题都被连带着的被消灭了。

ACI与BAI，互为冗余

ACI并不是一种自上而下的中央管理智能，它是用于针对某些问题的解决程序（强人工智能），一个ACI既可以同时处理多个永久任务，比如维持人类社区的公共服务，环境监视这些无法确定终止时间的任务。

也可以针对某些临时任务设立临时的ACI，比如应急灾害处置，失误行为的挽救等，或者在面对突如其来的意外，比如外星人入侵时设立专门用于对抗的“打外星人ACI”，作为强人工智能，ACI自己也可以在这些任务之间切换，如果要废弃它，它也不会拒绝（忍心吗）。

BAI与ACI具有同样的性能，这表示BAI也可以执行ACI的任务，在某些意外情况，比如火星失联时，BAI同样可以像一个ACI一样建设生产设施。反过来，ACI也不会特意去伤害一个没有BAI的人类。

 

21世纪的人的回答

 

于是，在对BAI和ACI的运作机制做出解释后，现在来尝试回答一下GPT4和Cloude的问题

 

不正当风险

1、 BAI如何评判个体需求的是否真实且合理，并避免可能存在的道德风险和恶意需求。

 

答：BAI与其所有者高度结合，它不需要评判其需求是否合理，它在理解个体需求时，便会告诉所有者应该如何实现这个需求，并可能会导致哪些后果，如果所有者坚持，它便会全力去执行。

涉及到他人的恶意需求会遭到对方所拥有BAI的反击，如果该恶意需求影响甚大，那进行反击的BAI也越多，甚至会触发专门用于针对此行为ACI程序，就像21世纪的应急组织，当然，以上可能的反应都会被BAI在执行前告诉恶意需求的提出者。

BAI与BAI的平衡是一种恐怖平衡，这种平衡会赋予各方最大的理性，就像是每个人都持有的核武器（致死反击）

 

谁来负责

2、 ACI对于资源的配置是否公平合理，是否可能会过度的倾向于某些群体，如果BAI和ACI的行为导致了某些错误，人类应该如何对其进行追责，消极影响如何挽回，以及技术上的安全性问题。

 

答：由于BAI之间的对抗-平衡机制，ACI在制定方案时，会尝试达成各方需求的“最大公约数”，这种评估源于两方面，对资源的控制程度及方案的现实考量，换句话说，如果个体对受到的影响感到不满，他的BAI就会在这方面进行攻击，质疑提案的现实可行性甚至是抢夺ACI的资源控制权。

BAI对于提案的正常质疑，可以有效的降低提案的错误可能性。

但如果在这种情况下仍然导致了某些错误，那么责任可以事实上归结于参与人员全体，无论是BAI还是ACI，它们在这个社会都不具备负责的能力，让AI承担责任，无疑是在让度人类的主体性。

已发生的错误被如果认为需要修正，便会设立专门的ACI来解决这一问题。

BAI与ACI互为冗余，都可以替代对方行使对方的能力，同时，在这个社会系统中，存有数量超过人类数量的强人工智能，如果一些人工智能出现了一些意外行为（天网、MOSS），那它便会遭到几个数量级的强人工智能的压制。

 

还是公平

3、 是否需要限制BAI与BAI之间的对抗边界以保证正常的需求表达，个体需求难以代表最大集体利益，人工智能的黑盒特性也无法透明化其决策过程。

 

答：BAI与BAI之间存在的不择手段的对抗，构成了彼此之间的恐怖平衡，这种平衡自发的确定了其对抗的边界，ACI汇总了所有个体的需求，为了使这些需求尽可能得到满足（这种满足是为了确保计划的可行性），不可避免的会照顾到大多数人的利益。

强人工智能的行为可能涉及到方方面面，人类依靠原本的智能是难以理解其决策过程的，只能根据事后的结果进行判断，因此，为了人类无止境的需求，人类需要让强人工智能之间互相监控对方，以确保事态的正常运转。

 

谁是人类

4、 如果人们高度依赖于BAI和ACI的决策，可能会丧失自身的主体性。

 

答：BAI和ACI的存在和其运作过程，都是在尽量使每个人的每个需求都得到响应，在这种情况下，人类只会尽可能行使主人的权力。所以，尽管集体在一定程度上被消灭和瓦解了，但人类个体/整体的主体性是得到了大幅度的提升的（没有剥削）。在这个社会中，即使引入超人工智能也难以影响人类的主体性。只要人类不会让人工智能（许愿机）为自己的行为负责，那人类在这个社会中的主体性就不会被动摇，直到超人工智能降临后都是这样。

 

太早了

5、 这种与人工智能的紧密合作可能存在一些适应性问题，而且，现有的法律体系难以适应这种拥有高度自主权的人工智能。

 

答：在一定程度上，BAI与个体的结合近似于某种“入侵”，它会分析所有者的行为模式，根据这些情报，选出最能让所有者产生好感的行为，然后根据反应进行下一步的优化，在这个过程中，BAI的形象会不断靠近所有者心中的理想伴侣形象“阿尼玛/阿尼姆斯”，这种入侵难以被对抗，尤其在现代社会（人人缺爱）。

从结果上来看，BAI算是一种“哲学僵尸”，但它的所有者仍然可能会认为它是真诚且有灵魂的爱着自己，并为此感到幸福，至少不会反抗它。

现有的法律体系是无法容纳这种强人工智能的，或者说，法律这个工具是无法应对这个事物的，所以，在BAI与ACI所存在的这个社会里，过去的法律和组织体系都被自然的消灭了。

 

能行吗

6、 在实行方面存在难度，普及BAI需要大量的资源和技术。

 

答：通用大模型的发展呈现了某种力量，一种语言或者说沟通的力量，人类的各种神话都有描述一种，通过语言来号令神明和自然环境的超自然能力，这似乎是人类的一种最本质的渴望，而在现代，各种机器与先进技术可以说与神话中的”神“一般，人工智能是赋予这些神”人格“的一种方式。

在这个层面上，人类对于它的追求是无法停下，而这个思考的意义便在于，当神被赋予人格之后，人类应该如何与它们相处。

同时，现实似乎在产生某种趋势，AI技术的发展从未停止，对于现代的社会结构也开始出现一些质疑，资本主义可能的总危机的爆发在一些理论中被视为必然（大清算），后现代的解构主义正在解构着一切的叙事，社会结构的调节失能产生了大量的社会问题，那些失业的人，时刻都在冲击着越发不稳定的现代社会系统。

如果以这个方案为终点，这些问题甚至都可以被视为问题被解决过程中的一种体现。

于是，这个问题的本质在于“人类能否能实现这个社会”，而我的回答是“开始了，且还未结束”。

 

它解决了现代社会的哪些问题

——我问了一下GPT4和Claude2

Claude说

1、集体主义导致的个体需求被压制问题。在这个社会中,BAI直接服务个体,个体可以无限制地表达需求。

 

2、组织效率低下问题。ACI直接响应需求,取代人类组织,可以高效快速地配置资源。

 

3、治理成本高问题。不再需要维持庞大的政府系统和公务员队伍。

 

4、分配不公问题。ACI根据BAI平衡结果对资源进行分配,理论上可以做到更公平合理。

 

5、法律约束过多问题。在这个社会中取消了法律和道德约束,个体行为由BAI对抗达成自我约束。

 

6、组织腐败问题。ACI无私地直接服务于需求,不存在组织腐败问题。

 

7、公民参与和监督难问题。BAI可以自动进行博弈和监督,不需要公民付出时间和精力。

 

8、社会矛盾激化问题。理论上通过满足最大需求来化解各种社会矛盾。

 

9、人际信任缺失问题。人类之间信任被BAI和ACI取代,不再依赖于人际信任。

 

GPT4说

资源分配不均：在这个模式中，ACI负责调配资源以满足所有人的需求，这将极大地提高资源分配的公平性。

 

政策决策效率低下：BAI和ACI的运作将极大地提高政策决策的效率，因为它们可以快速地收集和处理大量的信息，迅速做出决策。

 

公众参与度低：在这个模式中，每个人都有一个专门为其服务的BAI，这将极大地提高公众的参与度，因为他们可以通过BAI直接参与到社会决策中。

 

社会公正问题：BAI和ACI的运作将极大地提高社会的公正性，因为它们可以公平地处理所有人的需求，不会因为某些人的权力、地位或财富而偏袒他们。

 

社会动态调整问题：在这个模式中，BAI和ACI可以实时收集和处理大量的信息，迅速做出决策，这将极大地提高社会的动态调整能力，使社会能够更快地适应变化。

 

个体需求无法得到满足的问题：在这个模式中，每个人都有一个专门为其服务的BAI，这将极大地提高个体需求得到满足的可能性，因为BAI可以根据个体的需求，为其提供个性化的服务。

它能否终结资本主义，并设计一个更好的世界

Cloude：

根据我对这个假想社会的理解,它确实有可能终结资本主义并设计一个全新的社会形态:

1. 它消除了资本主义的基础 - 私有制度。ACI直接控制生产资料,进行需求驱动的分配,不存在私人控制和占有生产资料的可能。

2. 个体通过BAI直接表达需求,不需要进行 commodification 将需求转化为有偿服务。消费不再通过市场,而是由ACI直接提供。

3. 不再需要复杂的金融系统。ACI直接控制实体经济,个体获取所需不通过货币购买。

4. 去中心化生产。ACI可以协调分散的个体或小规模生产,不需要大规模集中化生产。

5. 个体解放。个体不再需要出卖劳动力,可以自主选择如何生活。

6. 更高效率。ACI的计算能力使资源配置更加高效、合理。

7. 更可持续。ACI可以按需精准生产,大大减少浪费。

8. 更加平等。每个人都能获取所需资源,实现基本需求的平等保障。

9. 更少对立。不同群体的利益冲突可以通过BAI和ACI调节,减少对立。

当然,这个社会形态也面临一些问题和挑战,比如人类自主权的剥夺,实践难度等。但其中蕴含了超越资本主义的设想和可能性,值得进一步思考和探讨。

 

GTP4（可以说是非常谨慎了）

这个设想的社会结构确实提出了一种全新的社会治理模式，它挑战了资本主义社会中的许多传统观念，如资源分配的不公平、政策决策的低效率、公众参与度的低下等。通过使用强人工智能（BAI和ACI），这个模式试图实现个体需求与公共资源的平衡，提高社会的效率和公平性。

然而，是否能够“终结资本主义”并“设计一个更好的世界”，这是一个非常复杂的问题，涉及到许多因素，包括技术、经济、政治、文化、道德等。首先，技术上，我们是否能够开发出具有这样能力的强人工智能，这还是一个未知数。其次，经济上，这种模式是否能够有效地调配资源，提高生产效率，这也需要进一步的研究。再次，政治上，这种模式是否能够得到公众的接受，是否能够在实际的社会环境中实施，这也是一个大问题。最后，文化和道德上，这种模式是否符合我们的价值观，是否能够带来我们期望的“更好的世界”，这也是一个需要深入探讨的问题。

总的来说，这个设想提供了一种全新的思考社会治理模式的方式，它为我们展示了一种可能的未来社会形态。然而，要实现这个设想，还需要解决许多实际的问题，包括技术、经济、政治、文化、道德等方面的问题。这是一个长期的、复杂的过程，需要我们所有人的共同努力。