AGI时代到来,AI机娘离我们还有多远
机娘,又称机械娘,是架空世界中的概念,也是ACGN萌属性之一。机娘也是少女和AI机器结合后的产物,一般有两种解释,其一是机娘本身是机械,身体是由机器组成的,而其意识是AI的产物,另一种解释是作为人类的少女驾驶着机械或者借助机械进行身体改造[1]。在此文讨论相关内容的时候,我们采取前一种解释,认为机娘的本质不是人类而是机械构造,而其意识是人类制造出来的。同时机娘有近似人类的情感表现,而又由于其特殊的机械构造的身躯,所以在身体素质上有着远超人类的表现,可以从事多种特殊任务,普遍认为在智力以及逻辑推理能力上有着和人类不同的特点,人类更适合创造性任务而机娘更适合计算型任务。

AGI 即 Artificial general intelligence,指通用人工智能,其指代了一种能够像人类一样思考,能够用于从事多种用途的机器,在面对不熟悉或者从未见过的问题时,依然能够找到一种解决方案。而AGI的相关研究一直是人工智能领域的重要分支,也是众多研究员和科学家在持续努力的方向,如果成功实现AGI,极有可能给人类社会带来许多的技术变化到整个人类社会科技的进步。而强人工智能 Strong AI,与AGI定义上存在着一些区别,这里采取wiki 百科中的解释:
AGI is also called strong AI, full AI, or general intelligent action, although some academic sources reserve the term "strong AI" for computer programs that experience sentience or consciousness[2].
学术界保留了Strong AI 这个名词表示AI对于知觉和意识的体验,实现AI的自我意识和情感需要更加高级的智能和认知能力。
要理解二次元中的机娘,就必须明白两个概念,其一是强人工智能,其二是美少女,两者缺一不可。前者是机娘实现的技术根基,后者是人工智能降临人世间的形象代表。为什么是美少女的形象而不是普通的机器或者其他的工具? “窈窕淑女,君子好逑”,美少女自古以来就是人类欲求的对象,而花季少女的形象更加代表了一种纯洁无暇不染尘土的模样,登峰造极的AI技术化身为美好纯洁的少女,作为人类的辅助伙伴更有一种拯救者降临的外在形象。

如果对应到三次元中的机娘,那么我们需要实现哪些技术,又面临着哪些伦理道德问题?那么现实世界的宅宅在这辈子有希望遇见机娘实体化走入日常生活吗,笔者这里认为是有希望的,那么彼时我们的生活究竟会发生多少变化呢?我们可以从下面的一个又一个的角度进行思考辨析。
与机器人技术的结合
机器人技术和人工智能AI技术是两个密切关联的概念,甚至很多人会对其概念进行混淆。AI是指特定任务特定领域中进行智能决策和推断的技术,更加偏向于结合软件实现,而机器人技术指的是在现实世界行动中行动和交互的机器设备,与硬件结合更加紧密。
ChatGPT出来后,互联网上各个论坛公众号文章下面经常会有一个下面这样的段子:
人类希望AI做的,重复性工作:搬砖,洗碗,流水线工作,照顾孩子;AI实际在做的,创作型工作:绘画,编程,数学。
这其实混淆了机器人技术和AI技术的概念。想要实现机娘既需要高超的机器人技术,同时也需要先进的AI技术。而AI与机器人技术的结合是一种人工智能技术的高级形态,AI可以赋予机器人更加智能的能力,机器人技术给AI提供了观察世界的眼睛,提供了触摸世界的手,听到声音的耳朵,以及可以协同工作的躯体;机器人技术也让AI能做到更多难以想象的事情,而AI提供了机器人运转的思考核心,提供了决策能力。
莫拉维克悖论(Moravec's paradox)是由人工智能科学家Hans Moravec在20世纪80年代末提出的一种观点,指出在人工智能领域,似乎越是简单、自然和直观的任务,就越难以实现,而越是复杂、抽象和理论化的任务,却可以相对较容易地被计算机解决。具体而言,莫拉维克认为,人类大脑能够在进化过程中发展出高度的感知、运动和生存能力,这些能力在人类生活中似乎是非常自然而直观的,但这些任务却是非常困难的计算机科学问题,需要大量的时间和精力才能解决。相反,那些看起来更加抽象和理论化的任务,例如数学和逻辑推理等,却可以相对容易地被计算机解决,因为它们可以被表达为符号和算法的形式,而不需要涉及到现实世界中复杂的感知和运动问题。这启示着人们,在人工智能的发展的时候,不要用常规思考方式让AI模拟人类的行为,还要考虑人类和AI在不同的应用场景的区别,充分发挥AI和人类的各自优势。
那么当代人类最前沿的机器人是怎样的呢[3]?
Ameca:
Engineered Arts 最先进的人形机器人是Ameca,该公司将其称为可以测试AI和机器学习系统的开发平台。Ameca 具有可以跟踪整个房间运动的传感器,以及面部和多种语音识别功能,可以自然地与人类互动并检测情绪和年龄。Ameca 能够传达常见的表情,如惊讶和惊讶,以及打哈欠和耸耸肩等手势。

Atlas:
Atlas是由波士顿动力公司设计的跳跃,后空翻人形机器人 ,它使用深度传感器进行实时感知和模型预测控制技术来改善运动。Atlas 高 5 英尺,重 190 磅,拥有三台机载计算机、28 个液压接头,并以每小时超过 5 英里的速度移动。Atlas由3D打印部件构建而成,被公司机器人专家用作研究和设计工具,以提高类似人类的敏捷性和协调性。

我们可以看到目前机器人技术在特定领域已经取得了不错的成就,在特定的任务上,机器人甚至能够完成大多数人类无法完成的动作,但是在多任务协同处理上,机器人目前还略显笨拙。
具身智能指的是将AI人工智能与机器人技术集合起来,当AGI技术成熟后,从复杂的逻辑推理到精密的肢体控制可能还需要数年的时间,机娘对于机器身躯的掌控程度会变得越来越像人类。
同时我们还有一点需要注意到的是,如果机娘时代已经带来,那么人体增强技术也极大可能走入到人类的日常生活中,包括脑机接口,外骨骼技术,甚至是生物改造等,人类自身的能力也将获得极大的增强[4]。
AGI在虚拟世界
从另一个角度而言,AGI作为一种无实体的私人助理,甚至是情感对象的路程可能先于机娘在现实世界的到来。作为一种有自主思想的智能形式存在于数字世界,例如游戏虚拟世界,能够执行有限的动作和可选任务。
想象一下,宅宅在移动便携设备中订阅了一个由游戏公司开发的虚拟女友服务,而虚拟女友的行动和实时反馈需要接入该公司的中心大脑控制的AI。于是在网络信号覆盖不到的地方,宅宅的女友就会发生掉线的情况从而无法对话,宅宅拿着手机四处摆弄寻找网络信号,这样的场景是不是带上了一丝黑色幽默。

当代AI技术的发展
在这里首先引用张俊林大佬的两段原文,大语言模型(Large Language Model)LLM的出现使得人们看见了AGI的实现的曙光:
"目前的ChatGPT擅长NLP和Code任务,作为通向AGI的重要种子选手,将图像、视频、音频等图像与多模态集成进入LLM,乃至AI for Science、机器人控制等更多、差异化更明显的其它领域逐步纳入LLM,是LLM通往AGI的必经之路。而这个方向才刚刚开始,因此具备很高的研究价值[5]。"
"另外,具身智能毫无疑问会是LLM下一阶段的重点研究方向。这方面的代表就是前阵子Google放出来的PaLM-E了。目前的GPT 4,我们可以认为人类创造出了一个超级大脑,但还是把它封锁在GPU集群里。而这个超级大脑需要一个身体,GPT 4要和物理世界发生联系、交流和互动,并在物理世界中获得真实的反馈,来学会在真实世界里生存,并根据真实世界的反馈,利用比如强化学习来学习在世界游走的能力。这个肯定是最近的将来最热门的LLM研究方向。多模态LLM给予了GPT 4以眼睛和耳朵,而具身智能给予GPT 4身体、脚和手。GPT 4和你我发生一些联系,而依托于GPT 4本身强大的学习能力,这个事情估计很快会出现在我们身边[6]。"
GPT-3.5/GPT-4的出现并不代表AGI已经实现了,但让我们看见了不完整的通用人工智能的能力,而transformer模型的上线人类还没有探索到。但是它目前表现出来的惊艳能力已经足够让众多科学家和研究院把注意力重心转移到LLM能力的探索上和LLV的建设上,目前我们看起来十分有希望。
而Strong AI和具身技术是更进一步的智能,人类还需要继续探索,AGI很有可能实现。在未来的几十年时光里人类回首观望我们如今的时代,或许这正是科技的转折点,人类会感慨自身在历史进程之中又是多么渺小。
机娘的记忆系统
关于机娘的记忆系统,对比于其他技术难题,笔者认为这是在众多技术难题之中最容易实现的,本质上是工程问题而非科技问题,其关键在于如何找到质量足够低的半导体并且无差错的存储信息。机娘的信息存储差之毫厘,失之千里,总体来说技术上涉及到数据存储的方式与检索,记忆内容管理,上下文感知能力,隐私安全保护等能力。
设想一下,机娘的脑容量会与人类大脑的容量不同,同时关于记忆的存储淘汰策略会与人类有很大的区别。人类对于已经发生过或者正在发生的事情,存在记忆的遗忘效应,还有一部分记忆会进入人类的潜意识,潜移默化的影响人们的生活,只有在特定的场景刺激下才能回忆起来,这样的构造能够在生物结构上节省大量的能量。而机娘的设计上更有可能偏向于记忆和指令重要度分级化处理,采用长期存储记忆+短期记忆定时淘汰+记忆碎片清理的策略。同时机娘的脑容量和记忆检索速度可能远超人类。
生物的存储策略和人造生物的存储策略有区别,各有优劣。从一方面来看,正是因为存在遗忘效应(虽然有的事情不一定能忘掉),人类才能从往日的不堪回首的悲痛记忆中走出来;而机器人一旦有了情感和自我,而无法进行自我记忆删除的机娘,要如何将想要将不想要的记忆从存储中删除掉,彼时是否会催生出机娘记忆碎片整理师或者是机娘心理治疗师等新型职业也是有可能的事情。
机娘的学习能力
人类的学习能力需要长期的训练,需要进入学校和专业机构去学习各种各样的技能,而机娘的从生产制造完成启用的时间点就拥有了一定的知识能力。笔者认为人类在学习能力上上限会比机娘更高,人类对于知识的抽象归纳能力,以及人类对于自身的反思,很可能是机娘难以做到的,在创作型任务上人类会胜出;而机娘的知识内容更加丰富,范围更加宽泛,记忆过程更加快速和准确,在不同领域之间的知识之间的融合贯通能力也许会比一直专注与单一领域研究的人类专家要强大的多。
而机娘对于非世界知识的新抽象知识和概念的学习能力很可能弱于人类,单纯的世界知识学习更接近于记忆的存储,出于对人工智能系统稳定性的考虑,此类知识的学习可能对于机娘的整个系统的运行造成影响,所以对于新抽象概念知识的学习很大可能会采取保守态度。
机娘的情感系统与自我意识
上文提到过,学界对于Strong AI和AGI之间关系定义上保留了区别,从笔者个人而言也是这种看法。目前LLM在混沌之中表现的类似情绪一样的表现很难称之为情感。
从目前脑神经科学的角度来看,思维和情感是两个互相关联但是又存在区别的概念。
(1),思维,通常是指人类的认知过程,包括注意、记忆、学习、理解、推理和判断等。这些过程主要涉及大脑的前额叶、颞叶和顶叶等区域。思维主要集中在对信息的处理和解决问题的能力上。
(2),情感,又称为情感状态或情绪,是人类在面对各种生活经历时产生的一种内在感受。情感通常包括喜悦、悲伤、愤怒、恐惧、惊讶和厌恶等基本情绪。情感主要涉及大脑的边缘系统(如杏仁核、海马体和扣带回等结构)和神经递质调节。情感可以影响人们对事件的评价、行为决策以及与他人的互动。
思维和情感在概念上所有区别,但是它们在大脑中的活动是互相关联的,彼此之间互相影响,甚至会产生矛盾,共同构成人类复杂的心理活动。
笔者认为AI在纯粹数字逻辑推理对于情感的计算很难说是拥有了情感系统,甚至说AI对于人类情感的理解能力也是如此。我认为情感系统在设计上应该是独立于推理系统的,共同对机器决策产生影响,同时人类情感的体验一部分来自于自我觉知。自我意识是一种复杂的心理现象,涉及多个大脑区域和神经网络的交互。而在自我意识的了解上,人类目前更是认知不够,如何赋予AI自我意识依然在当前来看是一个巨大的挑战。如果希望攻克这一课题,目前看来可能需要在神经科学上需要有数年的积累才能有重大的突破。
与此同时,有个性的AI似乎更容易实现,个性系统比起情感系统更好模拟实现,赋予AI初始性格,甚至在后续的日常生活使用之中让AI利用数据进行性格优化或者改变都是有可能实现的。
另一点值得注意的就是,当AGI开始正式投入与科研使用时,AI for Science 也极有可能取得重大的突破,AI强大的算力说不定能够解决靠生物积累思考需要很多年才能解决的问题,加速人类进化的进程,未来说不定在AI的情感系统和自我觉知中,AI自身也成为了未来自己的设计者。
机娘有关的伦理道德问题
当机娘有了人类的情感和自我意识,进入人类社会会带来很多潜在的问题,需要制定相应的法律法规,包括机娘的权利和义务,机娘的所有权和继承权,机娘的机身安全等多方面。要确保机娘和人类和谐共处,需要政府、企业和学者等多方共同合作,共同推进机器人法律法规的制定和实施。总而言之,如果机娘有了真实的情感和知觉,那么它们将成为人类社会中不可或缺的一部分。
我们可以从下面两个有趣的角度来思考这个问题。
机娘婚姻法(你有本事再说一遍):
当机娘有了情感和自我意识以后,在外观上越来越像人类的时候,也会避免不了被人类赋予感情需求。那么机娘是否拥有自主选择是否和所有者结婚的权力,机娘的婚姻制度是否也要像人类的婚姻制度一样设置各种规章制度进行管理,机娘是否能够拥有婚后共有财产,机娘对于人类的喜欢是否和人类对于机娘的喜爱是同一种态度等等。机娘或许可以和人类相爱,但是对于现代的婚姻制度来说有不小的挑战。

编辑
机娘寿命限制:
理论上机娘可以不受生物的寿命的限制,只要机娘拥有所有者并对其负责,但是这会引发很多问题,导致人为给机娘加上寿命限制。显然易见,机娘的稳定运行需要技术人员的定期检查和维护,身体部位硬件的损毁需要及时更替,即使在已经解决了能源问题的未来,也很难会有厂商承诺对已经出厂的机娘进行永久的维护计划,所以很有可能厂商会对到达了最长固定使用年限采取统一进行回收销毁。退一步说,即使个人能够获取到让机娘继续运行下去的所有资源,厂商可能会破产,技术人员可能会被遣散,机娘的系统甚至硬件版本也会更新迭代等等,在实际可行性上会存在大量的问题。一旦机娘的记忆存储内容达到了存储上限,那么如何保证原有数据无损耗百分百高可靠进行数据转移等等。于此同时,当机娘的拥有者离开人世,又或者是被原有主人抛弃,机娘的所有权应该怎样进行转移,是否应该被统一销毁又或者是还原出厂设置。

机器人与美少女的结合
不同于单独少量生产的美少女机娘,人类很可能会做尝试使得其各方面的表现的类似于自身。而大规模生产个人所拥有的机器人与美少女的结合与其说是一件技术上的难题,更像是一个社会性质的问题。高科技仿生皮肤制作需要投入大量的资源,人类会思考这件事情到底有没有价值和必要性。如果可行,机器人厂商会生产大规模批量生产符合人类审美观的机娘,同时也会催生出一些第三方代工厂提供定制化机娘面貌的服务。
一旦机器人有了情感和自我意识,并且穿上了人类的仿生皮肤,机器人变的越来越像人类,自然也就会获得更多的心理认同效应,以致被人类赋予情感需求。
这样会对人类社会原本的组成关系进行挑战,对于面貌姣好的机娘,女性群体更有可能进行敌视,认为她们侵犯了自身权利,甚至进行群体抗议,因为她们对于原本社会中的男女角色分配进行了替代。同时如果有女性机器人,存在男性机器人满足女性的需求也是一件理所应当的事情。这可能需要长期的人类社会的思想观念发生改变,对于人际关系的改变的形象是深远的。
如果从乐观的角度来看,在人体增强技术的加持下,男性和女性角色会在生理上和心理上的差距越来越小,总体会淡化社会关于性别的认知,促进性别平等。
如果从非个人拥有而是社会公共资产的机器人来看,首先会被赋予美少女形象的机娘应该是负责社会公共事务的观赏性机器人,重复进行大量的琐碎且重复的工作,例如图书馆管理员,海洋馆或者天文馆接待员等工作。这类机娘会根据其工作性质赋予其不同的性格,例如图书馆管理员更适合安静与认真负责的性格,天文馆接待员更适合活泼开朗同时对小孩子耐心的性格。

未来人类和机娘的关系和区别
随着科技发展人类与机娘的联系会变得愈发紧密,机娘将在生活和工作中扮演越来越重要的角色,成为人类生活的重要组成部分。他们将协助人类完成各种任务,从家务助手到医疗护理,从工业生产到科研创新。
理论上未来机娘会越来越接近于人类,变得更加智能,灵活自主,拥有接近于人类的感知和情感能力,甚至在创作力方面不亚于普通人类。而人类也会变得越来越像机器人,人类借助科技改造自身,人体增强技术使得人类的躯体能够突破生物的极限,生物芯片的植入使得人类的计算能力得到极大的改善。
而在很长一段时间内,在人类对自身构造了解不够的情况下,蓝色星球的原宿主碳基生物和人造生命硅基生物还会存在本质的区别。
机娘的制造成本
随着技术的不断进步和发展,未来机娘的制造成本会逐渐降低,其一是因为随着机娘制造产业的成熟,新材料和制造技术的发展,开源和协同等多方面的因素会降本增效;其二是因为AGI会先进入到人类社会一定会带来一系列的变化,不仅仅是生产力的指数级别的增长,更有可能是生产组织形式的改变乃至社会形态的转变。
人类与机器人的社会角色分工会更加明确,机娘会逐渐走进人类日常生活,从小规模的试点投放,到多年的安全保障,成本控制,功能精简,逐渐进入到千家万户。
如何更近距离的接触机娘
如何更近距离的接触机娘,指的是在机娘尚未完全进入人类社会时,能够获得使用机娘的优先体验权。笔者这里也没有能够想到特别容易的方式,从社会学的角度,作为机娘的生产的赞助商或者是更接近于核心权力的人群会有优先权;从理工科从业者的角度来看,作为该方向的科研工作者或者是专业素养极高的工程师,又或者是其亲属或者家人,也不失为一条途径。
同时,投入到社会公共事务之中的机娘大概率会先于个人所有的机娘先进入人类社会。
而作为普通的宅宅的我们,大概率只能等待机娘技术足够成熟,社会规章制度趋于稳定,工厂大规模批量生产时,通过努力劳作,省吃俭用的攒下血汗钱去换取机娘短暂的所有权。(btw,前文提到过AGI的成熟会给整个人类社会带来巨大的变化,所以此处仅为调侃而非推断)
注释
[1]机娘 - 萌娘百科 万物皆可萌的百科全书 (moegirl.org.cn)
[2]Artificial general intelligence - Wikipedia
[5]Top 20 Humanoid Robots in Use Right Now | Built In
[6]《流浪地球2》不够科幻:这不都是进行中的国家级课题嘛!(狗头) - 知乎 (zhihu.com)
[5]通向AGI之路:大型语言模型(LLM)技术精要 - 知乎 (zhihu.com)
[6]OpenAI 发布多模态 GPT-4 模型,会开创哪些新的研究方向? - 知乎 (zhihu.com)
[7]本文在创作过程中,按照笔者的想法,和ChatGPT/NewBing进行了多轮对话,使用到了其一定程度上的检索能力和创作能力

