Labor,Memory and Intelligent Machine

　　作者简介：杨庆峰，1974年生，复旦大学应用伦理学研究中心教授，发展研究院研究员。

　　原发信息：《江海学刊》第20202期

　　内容提要：与劳动有关的语义记忆是痛苦和压力，“像机器一样工作的人”“单面人”等表述反映了与痛苦和压力有关的人类文化记忆。劳动的自然中断和技术中断意味着人们通过自然的方式和技术的方式遗忘痛苦劳作。人类劳动的自然中断意味着忘却痛苦、重构集体记忆和延续劳动；人类劳动的技术中断意味着劳动被机械机器和智能机器所取代，这一过程也是通过技术方式摆脱痛苦记忆的过程。面对人类被取代的未来前景，需要挖掘智能机器取代改变上述文化记忆的可能性，警惕人类以被智能机器规定的方式“重新延续劳动社会”的危险，从而构建起人类与智能机器的自由关系。

　　关键词：人工智能/劳动/记忆

　　标题注释：本文系国家社科基金重大项目“智能革命与人类深度科技化前景的哲学研究”(项目号：17ZDA028)，中科院学部“大数据伦理问题及其治理研究”的阶段性成果。

　　哲学与人工智能相遇是这个时代最为重要的事件。前者是最为古老的学科，后者是最新的学科。此次相遇将两大问题呈现出来：取代问题和超越问题。取代问题探讨智能机器能否取代人类劳动和工作①；超越问题探讨机器智能能否超越人类智能②。本文将重点讨论第一个问题。从现有讨论超越问题的方式看，更多是讨论能不能以及如何应对超越问题。但是这种方式多见于日常生活或者媒体上的表述，充满了渲染和修辞，并没有太多触及其深层次的理论问题，如人类实践活动形式，如劳动、工作被取代的实质。③本文将从劳动的语义学分析开始，揭示与劳动有关的以痛苦和压抑为特征的文化记忆，并在此基础上阐述智能取代如何改变上述文化记忆的可能性。

　　劳动的语义分析及机器活动的双重本质

　　从语义学角度看，劳动(labor)至少包含了6种含义：(1)具有精神的或者身体的工作、苦工(toil)含义；(2)工作、工业的应用；(3)从事特定的工作和任务，尤其是非常困难的、大力神(Hercules)从事的任务；(4)工作、生产的结果或者产品；(5)与身体遭遇的困难、苦工、艰苦和压力有关的任务；(6)与撕扯有关的身体压力。④从牛津—拉丁语辞典中关于labor的词义分析有两点是需要注意的：(1)有三个定义是用工作(work)来解释劳动，这意味着工作—生产与劳动有着内在的一致性，被用来规定劳动自身，并揭示劳动之所以为劳动的本质规定性，也恰恰是在这个意义上，劳动与工作是一体的。(2)有三个定义显示出劳动更多是和苦力、身体或者精神上的压力有关系。高瑞泉教授也在中国古代汉语对“劳动”的词源学考察中指出了相似的规定。“从词源学的向度说，古代汉语中早就存在‘劳动’一词，不过其意义是指一般的劳作、活动，而且在‘大传统’中略微带有负面的意蕴，体力劳动更是如此。”⑤语义学规定无法说明劳动如何成为人类得以维持生存和生活质量的条件，更没有说明上述行为的特定主体：传统社会中的人类劳动者和智能社会的非人能动者。所以不能为人们分析人工智能取代人类劳动确立足够的根据。

　　从哲学角度看，描述与劳动有关的人类活动概念包括行为(behavior)、工作(work)、行动(action)等。⑥这些概念多与人类实践活动相关。一旦我们从实践活动入手，就会触及人类活动的形式区分。在哲学史上，对于人类活动的划分多是二元划分。最初是存在于理论活动与实践活动的划分，这种划分可以追溯到古希腊哲学。柏拉图和亚里士多德将人的活动划分为沉思的活动与实践的活动。从价值角度看，前者比后者价值更加尊贵；从活动形式看，沉思的活动涉及的是思想的运作；后者涉及的是与技术有关的活动。这种划分主要澄清了活动的主体。沉思的主体被设定为精神或灵魂；实践的主体被设定为身体。但是这种划分的出发点却是抽象的。在二者那里，人是什么样的人并没有得到明确的界定，而且留下了一个空白：如何界定政治活动？如何理解奴隶活动？这是上述理论—实践框架划分模式无法解决的问题。对这种局限的克服导致了新的划分的出现，这就是劳动与行动的区分。这种划分可追溯到德国近代哲学，并且在当代德国哲学中得到了延续和继承。所谓劳动，即“通过使用技术而对自然环境的操控，它是由工具理性引导的。……它被看作是人之为人的三个基本特征之一。……在黑格尔那里，正是通过劳动，人与周围的世界发生关联，同时改造它”⑦。而行动多指向人与人发生的关系。这种划分的好处是对活动的对象做出了明确规定：劳动指向物质对象，行动指向人类自身。并且这种划分为理解政治活动、奴隶活动提供了可能。但是这种划分的局限是无法明确活动的具体语境。与具体语境有关的划分表现在“事”和“活”的区分。这种区分将人类活动的两种形态明确下来。与之相应的是“做—事”和“干—活”的两种行为。这种划分无法追溯到某个特定阶段，这两个说法常常用来作为一种日常描述，出现在很多影视剧中的“做事了”“干活了”就更多是描述一种日常平凡人的活动状态。上述两个二元划分的框架都包含着一个基本预设：能动者的优先性。无论是理论活动/实践活动、劳动/行动、事/活的划分，其主体都是能动者，作为主体存在的人。但是如何解释被动者的活动呢？或者说奴隶社会中奴隶的活动以及工业社会中像机器一样工作的人的活动呢？奴隶很显然不具备自我意识，其活动主要是遵循主人的意图的活动。以机器方式行为的人相比奴隶，拥有了自我意识，但是自我意识被机器淹没，如在生产线上的工人，也就是马尔库塞曾经分析过的“单向度的人”，只是技术系统的一个环节而已。

　　能够解释被动者活动的框架来自阿伦特建立的三元划分。阿伦特建立起来的是基于劳动、工作和行动的三元框架。她在《人的条件》一文中成功地将人的条件设定为劳动、工作和行动等三个维度。劳动是三种条件中的最基本的规定性。“去劳动意味着被必然性所俘获，这种被俘获内在于人类生命的条件之中。因为人们被生活的必然性所统治。他们通过借助力量，统治那些服从于必然性之人，可能会赢得他们的自由。”⑧在她看来，劳动与动物活动相关，工作与技术活动相关，而行动则是与政治活动相关。很显然，我们用“劳动”可以解释奴隶的活动。“工作”可以用来解释作为主体的人的活动以及像机器一样工作的人的活动。但是阿伦特的框架有一个被遮蔽的理论预设：技术的工具性。在上述划分中，技术成为实践活动的工具，成为劳动得以可能的工具，服务于做事干活的目的。这一点在传统社会中是成立的，工业机器及其后来的计算机并不具备自我意识，只能接受指令，依然停留在工具层面。而在智能社会中基于神经网络和深度学习的智能机器已经远不是机械意义上的机器了，“深度学习的精妙之处更在于能够自动学习提取什么样的特征才能够获得更好的性能”⑨。它们首先可以像“人一样思维和行动”(S.J.Russell)。随着通用智能技术的成熟以及相应难题的解决，如灾难性遗忘，智能机器完全可以发展出自己的经验和经历，产生机器活动甚至自主意识。所以需要发展出新的理论框架将机器活动纳入理论的解释范围。

　　当我们对机器活动展开探讨的时候，就会碰到机器工具性设定的界限。在界限边缘处，机器活动的双重本质开始显现出来：其一是人类工作的深度科技化(自动化—智能化)趋势，取代意味着通过自动化—智能化的方式让人们摆脱身体痛苦压力和劳作，从而获得自由状态；其二是机器活动的崛起(机器的自我意识)，机器从“准人类活动”向自身活动的过渡，它们共同指向了劳动及其自身的中断。

　　第一重本质指向人类活动的深度科技化过程。在第一重本质中，经济现象的描述和哲学话语分析很容易混淆在一起。我们首先面对的是人类工作被取代的大量现象。众多的相关研究已经指向了这个趋势。我们不需要太多地描述现象，而是分析其实质。这一现象的实质是人类工作自动化的可能性，即哪些工作易于被自动化？在人工智能发展过程中，机器已经取代人类某些特定的岗位。比如快递无人机、陪伴机器人、看护机器人等等。美国学者保罗·多尔蒂指出了未来的变化，诸如出现新的工作模式、关键企业流程中出现新岗位和传统工作流程被全面颠覆等观点。⑩在我们的生活中，某些工作的主体在发生着极大的变化，甚至是艺术创作的主体，也在发生变化。算法min max Ex[log(D(x))]+Ez[log(1-D(G(z)))]曾经制作出一幅艺术作品《爱德蒙·贝拉米肖像》，拍卖了43.25万美元。如此，未来社会可能会形成一种多元的工作主体状态，人和机器都可以成为工作主体，无人机送快递与人类送快递并存。在这一现象背后是人类工作岗位的自动化、智能化的深度融合，甚至是完全被智能机器替代。对工作的分析势必指向对劳动及其他实践活动的分析，可以想见，都是人类实践活动的自动化过程，以机器为特征的自动化将席卷人类的多数实践活动。

　　第二重本质指向机器活动及其自我意识的崛起，这一点的内涵远未被揭示出来。从哲学史上看，哲学家认可了人类劳动对人类自身发展所具有的意义。比如黑格尔将劳动看作是奴隶从事的特有活动。“因此正是在劳动里(虽说在劳动里似乎仅仅体现异己者的意向)，奴隶通过自己再重新发现自己的过程，才意识到他自己固有的意向。”(11)在他看来，意识得以发展和提高的前提条件是恐惧和陶冶事物的劳动。“陶冶事物的劳动”的作用是必要的，“没有陶冶事物的劳动则恐惧只停留在内心里，使人目瞪口呆，而意识也得不到提高与发展”(12)。黑格尔的揭示让我们明晰了恐惧与意识产生的关系，如果“机器活动”及其“恐惧”有效，那么机器自我意识崛起也是非常有可能的。(13)

　　劳动的痛苦记忆与自然中断的意义

　　第一节中关于劳动的语义学分析已经表明：劳动意味着身体与精神的双重劳作，与身体的痛苦和压力直接相关。劳动关联着一种独特的以痛苦与压力为特征的文化记忆，这一点也可以得到个体体验和哲学论证的支持。从个体记忆角度看，个体在恶劣条件和环境下产生的是痛苦的个体记忆，但是由于主体原因，这种记忆实际上很难被记录下来；从哲学上看，马克思早已论述了这一问题。《马克思恩格斯全集》第11卷的说明部分指出：“马克思为了揭穿自由贸易派关于英国劳动人民是‘幸福’的谎言，他根据工厂视察员的报告材料描述了英国工人群众特别是妇女和童工遭受剥削的触目惊心的景象。他指出资本主义企业的恶劣的劳动条件，劳动保护几乎完全没有，因而工人的健康和生命经常遭受威胁。”(14)这意味着马克思已经有意识地指出了特定社会制度下劳动给人带来的痛苦记忆。他用“异化劳动”阐述资本主义制度下劳动异化的本质，为分析奴隶社会、资本主义社会等特定社会下劳动的痛苦记忆奠定了哲学根据。

　　面对劳动的痛苦记忆，通过劳动中断而获得的身心的休息和休整就成为人自身乃至社会遗忘上述痛苦记忆的主要方式，即采取多种方式让身体和精神获得轻松和愉悦。

　　从个体角度来说，个体身体会在劳动过程中感到疲惫，随着年龄的增长，承受力越来越弱，越来越容易疲惫。精神会在劳动过程中获得双重感受，或许是愉悦或许是痛苦。在人类历史上，奴隶从事大量体力劳动，他们在精神上获得的肯定不是愉悦。在现代社会，大多数从事劳动的雇员，在精神上获得的也不一定是愉悦。围绕“996.ICU”现象展开的争论恰好说明了这一点。这一现象背后表达了一种对于劳动以及相应工作制度带来双重压力的抗议。所以在身体的疲惫与精神的痛苦一起压向个体的时候，在某个特定的临界点时刻，个体需要一个时间来休息，让身体重新恢复体力，让精神放松重新振作。这个中断过程就是根据自然身体的承受力而出现的自然中断。

　　从国家角度来说，国家设计了相应的制度和法律确保劳动者的权利，如“五一”劳动节。这些制度设计甚至被保留下来演变为文化的存在物；从文化角度看，大多数民族都有相应的休息日制度，这种制度往往是根据季节变化、传统节日、民族活动等形成的。这些制度和节日从集体层面规定了劳动的自然中断状态，并且形成了各自独特的文化记忆传统。那么，自然中断的意义是什么呢？人类工作的自然中断意味着忘却痛苦，重构集体记忆和延续劳动。

　　劳动的自然中断意味着从身体角度提出的遗忘劳动痛苦和劳作的要求。人类更希望借助工具让身体从痛苦的劳作中摆脱出来。“……把人从最古老和最自然的负担中解放出来，那种劳动和被束缚于必然性的负担。人类条件的一个基本方面也处于危险之中，但是反抗它，那种从劳动者的‘苦工和麻烦’中解放出来的愿望不是现代的产物，而是和被记录的历史一样久远。从劳动自身解放出来不是新的，它曾经属于那些少数的已经最稳固确立的权利中。”(15)而自然中断导致的休息给人带来的最终结果是“暂时遗忘身体的痛苦和压力”。这种遗忘的产生是通过其他活动实现的，如与家人的团聚、享受一顿美食或者相应的休闲。但最终这种遗忘仅仅是由于从身体角度提出的要求而表现为偶然的要求，而将这种要求提升为普遍性的则是通过与人类庆典及其集体记忆的重构有关的方式。

　　劳动的自然中断意味着人类庆典及其集体记忆的重构。面对劳作的辛苦、身体和精神的双重压力，人们需要身体休息、精神放松。然而一个新的问题提了出来：当处于劳动的自然中断时期，如何填补随之而来的空白状态？这就成为一个需要关心的问题。从海德格尔的生存论角度看，生活一旦出现空白，无聊必然会涌入。消除无聊的最好方式就是庆祝和庆典，这成为劳动暂时停止后的主要活动。那么，人们通过这种狂欢形式要达到怎样的目的呢？在自然中断的庆祝中，人们通过距离抵达了劳动本身，看清了劳动之意义，看清了劳动之于人类的关系，并从身体和精神上做好了双重准备：迎接下一次劳动活动的到来。从庆祝和庆典中，人们重塑了集体记忆。保罗·利科指出了这一点。“只有通过类比，并且和个体意识及其记忆联系在一起，我们才会将集体记忆视为影响了相关群体历史进程的诸事件留下的诸痕迹的一个汇集，并且在节日、仪式、公共庆典活动的场合下，我们才会从中发现导演这些共同记忆的力量。”(16)

　　最终，劳动的自然中断意味着获得了确保劳动更好延续的条件。个体和集体都可以通过特定的休息日子来获得休整，通过庆典获得精神上的愉悦，从而使得人们通过休息身体从而更好地迎接新的劳动。人类能够与劳动活动保持一种张力，让劳动者找到劳动自身的意义。

　　技术中断及遗忘痛苦记忆的可能性

　　随着技术及其现代性本质的发展，劳动的自然中断状态逐渐失去了内在根据，人类的活动不再依靠天时来安排，休息也不能依靠身体的自然感受和状态来安排，依靠职责来调节自身是更加重要的方法。这种中断调节的效果取决于道德主体的道德意识和责任伦理精神。随着现代性的深入发展，一种新的由技术导致的强制中断开始出现，逐渐取代了上述依靠自然天时、依靠道德责任来中断的方式。我们更多感受到的是技术形成的各种规定性及其带来中断的后果。

　　在手工技艺主导的时期，技术始终表现为人类劳动得以实现的工具和手段。一切都是工具形式变化，导致的是劳动效率的提升。而人类自身始终保持着对技术的掌控。劳动的中断依然保持为自然状态，即根据人类身体和心灵的自然承受力、根据天时来安排劳动和休息的节奏。休息的空余时间被庆祝和庆典的仪式活动所充盈，人们不仅得到了休息，而且保持着完整的集体记忆。

　　随着机器工业的发展，情况变得不同了。人类掌控的情况不再有效，更多出现了机械机器规定人类活动节奏的现象。人类活动被技术规定的最典型的现象是钟表的出现。精确化的刻度时间将人类活动变得匀质化和平面化，让人类活动失去了自然节奏。另外，这种规定强化出现了自动化倾向，也就是取代的初级形式。自动化取代过程让人类变成了技术系统的边缘附属物。人处于技术系统之外，其功能逐渐被取代，人的地位沦为系统的维修者。

　　随着自动化过程的加速，人类社会步入到智能时代。从劳动演变角度看，数字时代的划分并没有太大意义，机械时代与智能时代构成了时代的两个节点。一方面自动化程度在逐步增大；另一方面人类劳动的作用发生了根本变化。这一过程加速的必然结果导致取代的高级形式即智能化取代现象的出现，这一现象的实质是人类活动完全自动化的实现。这个过程中技术一端表现出无比强大的力量，人类被甩脱出技术系统。但是这种甩脱却采取了另一种形式，人与技术系统地深度嵌入与融合。人不再是系统的维修者，因为系统本身通过系统自身不断地维修，人在这一点上完全失去了作用。

　　自动化取代与智能化取代二者之间有着比较密切的关系。自动化的过程是随着自动控制等领域的出现而成为主导的，而这完全不同于智能化，智能化是自动化程度的质的提升。无论是机械机器取代还是智能机器取代，其实质都是技术取代，都会导致一个共同的结果：人类劳动的技术中断。之所以如此，是因为技术中止了人类的若干劳动。比如艺术家不需要创作，快递员不需要送快递、货车司机也不需要继续开车了。技术中断属于永久中断，因为历史条件的变化，人类可能无法再回到原来的地方了，人类社会的工作形式将会发生极大变化。

　　如此，人类活动的技术中断是目前人类活动面临的处境，其当前外在表现形式是智能机器取代人类工作。这一过程有可能导致机器智能得以觉醒。在新的神经网络和增强学习的推动下，人工智能不仅能够获得知识，还能够形成一种独特的经验：建立在历史数据基础上的偏见经验。这意味着打开了通用人工智能的大门。如果灾难性遗忘的破解可以实现，那么机器意识觉醒就变得完全可能了。