戴锦华｜ChatGPT会发展成我们的“奥本海默时刻”吗？

　　克里斯托弗·诺兰执导的电影《奥本海默》预计8月30日上映。作为一部传记片，《奥本海默》以一场针对奥本海默的秘密听证会为轴，穿插着回忆了奥本海默生命中的一些重要的经历。

　　导演诺兰在一次映后活动中谈及自己与人工智能专家的交谈，他说：“人工智能研究人员将目前的时刻称为‘奥本海默’时刻。”他指出，奥本海默曾呼吁国际核控制，并因此遭受了来自美国及其他国家的压力。同样，人工智能领域也存在着这样的问题。

　　《奥本海默》

　　近几个月来，越来越多的人预计年内大热的ChatGPT将掀起一场新的技术革命。而纵观历史，每一轮新技术革命往往会深刻地改变社会结构。那么，我们应该如何看待人工智能对人类劳动力结构和整体状态的改变的可能性？创造性工作也会受到ChatGPT的冲击吗？今天，活字君与书友们分享北京大学电影与文化研究中心主任戴锦华教授谈眼下最热的ChatGPT问题。

　　从元宇宙到ChatGPT， 冲击早已发生

　　毫无疑问，人工智能会影响到劳动力结构。冲击早已发生，而且不仅仅因为ChatGPT而发生。所以我说我不能不关注这个问题，是因为它会涌到我面前来，它会不断地成为我身边的、日常的、闲暇时刻的，也是学术领域的，也是思想领域的，也是同伴之间的，这样的一个无处不在的名词。

　　尽管我也调侃，因为当ChatGPT成为了热议话题，成为了覆盖性的、压倒性的社会的兴趣点的时候，我嘲笑的是，此前占据了同样位置的那个词就怦然消失、荡然无存，那个词叫元宇宙。几个月以前无处不在的是元宇宙，所有讨论都围绕着元宇宙，当时我就元宇宙提出了一个问题，今天我仍然可以对ChatGPT提出。

　　我最早获知元宇宙是作为概念股，是作为风险投资的风口。当时我的问题是：当人文学者在讨论元宇宙的时候，我们在讨论什么？

　　多数朋友都被我问住了，但是也有朋友给了我非常直接的，而且有说服力的回答，他说：“人文学者关注元宇宙是因为元宇宙也许是未来，或者已经是当下的一种可能的空间，在这个空间当中我们可以去实践一些在现实实践当中没有可能的、另类的、社会的组织方式，社会的结构方式，社会群体的相互连接的可能。”

　　或许有一些批判性的学者，一些不甘于接受这个现实别无选择的人们，曾经把他们的希望放在了元宇宙。今天我用同样的问题去询问ChatGPT的热度，但是我要加上一个追问，我说，ChatGPT如此轻易地就消灭了元宇宙这个话题，就取消了元宇宙这个话题的热度。这是否同时意味着，人们曾经寄希望于元宇宙中的那种另类空间，也随着元宇宙的消失而消失了。还是人们把梦想和实践另类可能性的热情转移到了ChatGPT之中呢。如果它真的会被转移到ChatGPT的应用当中，那么，另类的可能性，另类价值的实现究竟在哪里。我们的构想是什么，我们的行动或者我们的动作是什么。这是我个人的追问。

　　与ChatGPT的热情同时消失了的不光是元宇宙，消失的也是我们历时三年应该有也必须有的对于疫情，对于疫情之中的生命经验的反思，是在经历了三年的疫情对人类的袭击，对生命的袭击之后，我们应该有的哀悼。它也同样在ChatGPT为代表的，新科技的、新技术的、新鲜的可能性的讨论当中，消失了，蒸发了，溶化了，这恐怕也是一个问题。

　　更大的问题是，作为一个新的可能性，一个新技术，小而言之ChatGPT是未来的一个非常便利的，应用型极强的软件，从大处说它是一次底线的全面踏破，就是我们开始使用通用型人工智能。

　　此前我以为对于通用型人工智能的使用是底线，是禁止，因为那是人类是否放弃其主控权的时刻。

　　但是当我们热烈地讨论ChatGPT作为一个应用软件，作为一个陪伴者，作为一个可能的聊天软件，我们会看到极端详尽的ChatGPT的使用指南，或者叫调教指南。

　　比如，从一开始你就要告诉它说，你要作为一个人物出现在我旁边，而当我希望你作为一个人物出现在我身边的时候，你要用“你好”开始等等。当这些具体的指令，具体的指南，都开始很容易的获得，很容易的找到，很容易的应用的时候，我们有没有意识到事实上我们放弃了对通用人工智能的疑虑，对于通用人工智能的警惕，也许当然包含了恐惧。如果我们战胜了这个恐惧，如果我们认定这个恐惧是非理性的，那么论证在哪里，讨论在哪里，好像完全没有经过这个过程，这道防线就突然之间消失了。

　　以至于ChatGPT的“金主爸爸”马斯克以他的未来生命研究所的名义发出了一份公开信，公开信大声疾呼通用型人工智能给人类带来的风险性。太过迟地呼吁停止对ChatGPT4以上的人工智能的应用和推进和使用。大声疾呼说，我们要不要让比我们更快、更强、更聪明、更智慧的人工智能来接替人类的主控权。其中包含更具体的追问，我们要不要让机器所制造的宣传和谎言占据和淹没我们的信息渠道，我们要不要让它们替代我们原本已经完美地履行的工作。

　　非常可笑的是，在短时间内有1125个人签署了这份公开信，我自己非常惊讶地发现其中科学家的比例相当低，反而是大科技公司的管理者、股东们占非常高的比例。

　　于是我又产生了一系列追问，为什么是他们，在此前他们一直是助推者，一直是底线的踏破者，一直是科技万能、科技进步的弘扬者和信奉者，为什么这一次科学狂人、新晋的世界首富马斯克出来高呼摁下暂停键，而他要求的暂停时间是六个月。我大概能想象在六个月的时间里一个人工智能的成长速度，但是我很难想象在六个月之内人类社会能做什么，制作出相关的法律？相关的法规？相当的共识？我不知道，或者我表示怀疑。

　　而更有趣的是，马斯克这次呼吁各国政府出面来参与，来控制，来制止。这也就是自动化时代政府的座右铭，“不要保护工作，而要保护人。”对我来说，保护工作和保护人是一件事，而这大概永远不会是资本来完成。资本既不保护工作，也不保护人，资本只以谋求利益为它的唯一驱动。

　　我曾经认为金融虚拟经济、金融资本的时代，一个重要的变化就是资本甚至不需要人格化，不需要经由人格化的方式，它就实施了在我们现实生活当中的绝对主动权。我也经常开玩笑说，现在的资本甚至是一个吞噬资本家的资本。

　　引申到马斯克们的突然叫停，在多大程度上是他们所制造出来的这种怪物已经威胁到了他们这个层面的人物自身，威胁到他们的利益，或者威胁到他们的权利，还是在多大程度上这个问题的严重性是那些置身于中心监视塔当中的人才才能够体认到的。但是无论如何，这封公开信本身表明了一种严重程度。

　　人工智能对未来人类劳动力结构和整体状态的改变可能性，不需要我来估计了，因为研究ChatGPT专家们列出了一张表格，这张表格的中译版用词是，有哪些工作暴露在ChatGPT之下？我的理解就是有哪些工作是ChatGPT可以取代的，能够取代的，或者轻松取代的。

　　对于可能关注到ChatGPT，可能讨论ChatGPT的人来说惊心动魄的是，这张表格列出的工种、职业范畴都是此前的稳定的、精英化的、白领的专家位置，比如说律师，咨询律师，金融分析师，策划人，记者。

　　另外，ChatGPT还直接列出了一个字，是作家，我表示怀疑。而ChatGPT和人类的研究小组得出的比较共同的结论是，这轮冲击将直接造成三亿人的失业。挺可怕的。

　　当我们思考ChatGPT的时候，不能光把它当做一个应用软件，当做一个新的技术前沿，当做一种新的可能性，当做一种新的人工智能类型来思考。而是我以为它其实是一个延续了很久的，一个过程的阶段，或者说一次代表性的更为直接的冲击。我只能再重复我以前的观点，因为我没有改变这个观点。

　　当AlphaGo战胜韩国围棋冠军李世石，当AlphaZero横扫了全球围棋冠军之后，当时人们欢呼人工智能元年到来。那个时候我接受和认同了一个科学工作者的朴素表达，他说：“什么人工智能？不要说得这么玄，其实不过就是自动化嘛。”他的非常朴素地表述帮助我把握了这个问题，我想所谓人工智能的应用对于我们最直接的冲击就是，我们开始经历现代文明史上前所未有的一次大规模的自动化冲击。

　　而当我自己在南方看到了全自动化的无人的饮料生产车间，看到了空无一人的只有机械臂的生产线，看到了那个黑暗之中，井然有序的一个无人的操作和生产的状态的时候。我同时听到了管理者的介绍，他说此前这里有流水线的工人，他批评流水线的生产方式对工人的不人道，他强调这次自动化对于工人的解放。

　　我当时忍住了一个问题，因为这个问题会显得不礼貌，就是“请问你把他们解放到哪里去了”。因为它直接联系着一个工作机会的问题，联系着一个就业的问题，它联系着中国到现在为止我们现代化成就很大程度上是人口红利。我们是一个劳动力密集型的国家，这一轮的大规模的自动化冲击对于我们来说意味着什么。

　　《美国工厂》

　　我的很多朋友在看完纪录片《美国工厂》之后，会讨论中国资本，美国资本，中国劳工，美国劳工，劳工保护，文化冲突等等。但是对我来说，真正震动我的是影片快要结束的时候，摄影机似乎漫不经心地从工人身上摇开去，摇向一个巨大的机械臂，那个机械臂开始稳定地做在影片此前呈现的工人做起来很危险、可能会造成工伤的那样的一道工序。

　　那个时候我突然被惊吓了一下，如果是在这个意义上自动化，中国资本或者美国资本的全球流动就会更强有力地运行，它不会再面临着所谓劳动力、劳动制度、劳资关系的障碍。

　　《美国工厂》

　　在《美国工厂》中，它集中表现的是美国的失业工人在金融海啸之后，在自动化之后他们的艰难状态，美国的中产阶级如何跌入了底层，然后再描述中国工人和美国工人之间在工作机会的获得和争夺当中所发生的冲突。而当一轮大规模的自动化发生的时候，这些将发生在我们的中国社会，在我们身边。

　　未经抵抗的接受， 才是最大问题

　　而我可以理解ChatGPT成为热点，因为它直接地冲击到我们这个阶层了，冲击到我们这些人了。这其实也不是一个新鲜的话题，在更早，在互联网出现以后我就试图跟大家分享一个思考，就是互联网时代，互联网所造成的硬件环境对于我们知识获取的那个根本性的改变，理论上说我们都可以自主学习，理论上说知识不需要像过去一样只经由记忆，经由重复和记忆，而被我们携带。

　　当知识可以转移到内存当中去的时候，当我们可以经由计算机，经由外置设备来扩充我们大脑的时候，人类的工作是什么，思想工作是什么，学习意味着什么，我们应该思考。也是从那时候开始，我重复了二十年的一句老话，叫做这一轮新技术革命的冲击是文明史上前所未有的，但是另一个前所未有的是，只有这一轮技术革命在人类范围之内，在世界范围之内，完全未经抵抗，始终不曾讨论。这才是一个大的问题。没有抵抗，没有讨论，意味着我们只顾着享有它提供给我们新的便利，它带给我们的新体感。

　　像每一轮新技术革命一样，我们赢得便利的同时，我们必然要付出代价，我们在获得的同时必然在失去，那么我们到底付出了什么，我们到底失去了什么，是不是我们乐意失去的，是不是我们的自觉选择。而今天它面临的是我们的职业训练，我们已经赢得的专业技能，我们未来的工作机会。

　　或许一些技术进步论者、社会进步论者很乐观地说，我们可以把工作再一次地转移到机器上，再一次由电脑来替代我们工作，我们不再需要进行那些重复的、繁琐的、没有创意的工作的时候，我们就解放了，我们将可以自由地从事那些创造性的劳动和工作。且慢，这种乐观建立在怎样的制度之上？当我们没有工作的时候，我们吃什么，我们穿什么，我们如何获得一个基本的物质保障？

　　事实上AlphaGo战胜人类围棋冠军作为一个新闻出现的时候，北欧国家的社会议题就不是最低收入保障，而是马上变成了社会最低保障。就是你有没有工作，你能不能赢得一份生存下去的收入，能够有这样一个保障。

　　即使在我们普遍能够获得保障的前提之下，是不是每一个人都能够享有创造性的劳动，是不是每一个人都能够拥有原创性的思维。看似我们在网络上拥有无限自由，但当我们已经拥有了物质上的某一种盈余和富余的状态之下，事实上出现的却是人类精神的萎顿，人类心理疾病的强化。这些问题又如何去面对？这是我对这个问题的思考，也是持续了很久的一个思考，只是ChatGPT把它变得更为急迫了。

　　ChatGPT所不能取代的

　　最后，关于创造性的工作，比如电影或者其他艺术会不会受到ChatGPT的影响。我认为，电影和所有东西一样，它一定受到ChatGPT的影响，而且它会非常直接地、最快地受到ChatGPT的影响。

　　很早以前我就对人工智能做出了一个基本的判断，我觉得人工智能可能取代某一类文学的写作，比如说以变奏，以类型的稳定，以类型元素的稳定，以细部微观的变奏，来作为它的生产方式和快感来源的通俗的文类，很可能被ChatGPT取代。

　　因为ChatGPT的阅读量更大，它对于整个模式的曾经达到的地方，它到得最远。它也可能根据其他参数，最便捷地形成对于变奏点的选择。但是对于我心目中的文学，对于人、生命，或者用塔可夫斯基的说法，“永恒的秘密就是生、死和爱情”。这样的原创性的思考，本体论的追问，我不认为ChatGPT能够取代，我甚至不认为人工智能能够取代。

　　我始终相信控制论的创始人N.维纳那本著作的名字，《人有人的用处》。

　　所以我心目中的电影，我心目中的电影艺术大师，他们的作品我不认为将是ChatGPT能够生产的。但是真的对不起，很多类型片可能是ChatGPT能够生产得更好的，能够做得更迷人的。我们经常看一部商业片的时候就会叹口气说，“老梗啊，烂啊，怎么又来了”，我觉得ChatGPT大概能够最好地避免这种现象的出现。

　　所以，我觉得冲击是一定会有的，而目前在这个层次上的ChatGPT，据说有九岁的智力，它的结论是，批判性的思维和原创性的思考是几乎没有暴露在ChatGPT之下的东西。谢谢它，我一直相信的正是在这里，就是人类独有的原创，和人类在漫长的文明史当中习得的这种批判性的思考，在批判性思考当中所产生的问题，产生的追问，产生的质询，产生的对新的创造、新的路径的开拓，我不认为是今天的人所制造出来的新科学怪人，新的人类造物所可能仿效的，或者所可能替代的。

　　所以我说感谢ChatGPT，它提醒我们，我们真正的努力方向应该是什么，我们不再应该以那个记忆、重复作为知识的获得。因为背下一本厚厚的字典虽然已经是人类的一个奇迹，但是ChatGPT同时携带着所有同类型的字典。我们永远不可能在这样的竞争当中获胜。但是我认为飞扬的想象，创造力的思考，批判性的思维，在逆向的思考当中，在绝处开出人类可能性的道路，这是我们拥有的，我相信是我们独有的力量。所以在这个意义上说，我对于现实的紧迫性有焦虑，但是总体说来我并不悲观。