精英们靠他们的机器人军队大发横财,不再需要普通公民了。>> 当我雇佣清洁工时,我有时会在他们的简介中看到“我对清洁充满热情”。我不这么认为。你知道的,>> 甚至有人面临着失去他们讨厌的工作的风险,[音乐]却担心会失业。这种转变令人极度恐惧。随着人们失去工作,可能会发生革命。你知道的,人们可能会被大规模剥夺权利,这将是一个可怕的结果。[音乐] >> 美国可以在没有工作的情况下运转吗?>> 早期的马克思非常亚里士多德式,痴迷于这样的想法:[音乐]人类为了获得满足感必须工作。>> 这就是我准备革命的方式。但我很好奇你是如何在职业生涯中做到这一点的?你最近写的一篇文章中说,对于AI对你工作的影响,你的主导反应是悲伤和恐惧。为什么是这样?
嗯,我认为我们中的许多人在此刻感到有一种威胁,即AI将夺走我们所热爱的职业。如果我们热爱我们的工作——无论是科学发现、数学发现,以我自己为例的哲学发现,还是成为医生、护士或律师——这些工作在某种程度上都受到威胁。我要说的是,虽然我将我的主导情绪描述为悲伤,但我想在文章中强调的、对我而言很重要的事情是:我认为对我们正在失去的东西感到悲伤和失落感,与对它将带来的结果的乐观态度是可以共存的。所以,即使你认识到整体情况正在好转,你也可以为逝去的事物感到悲伤。>> 就像从初中升入高中一样,你会失去一些朋友,但总体上你对未来仍然持乐观态度。
我在文章中提到的一个对我而言非常珍贵的例子是,我妻子来自意大利北部的一个乡村山谷。在那里,你仍然可以看到许多地区方言。他们讲这种方言。所以她的父母彼此之间用这种与意大利语截然不同的方言交流,这对意大利语使用者来说并不是自动可理解的。在过去的50年里,这种方言急剧衰落,正走向消亡。我会说人们为时光流逝感到很难过。他们对方言的流失、对文化的丧失感到非常悲伤,但他们也认识到50年前的生活要艰难得多。我的生活在二战后的贫困中70年前也要艰难得多。他们并不想回到过去。所以,他们在认识到生活比过去更好的同时感到悲伤。让我引用一下那篇文章中的一段话:当我展望如果世界没有终结,我的孙子辈可能享受的辉煌时,我也感到一种前瞻性的苦涩和前瞻性的悲伤。
我们为他们即将失去的我们如今拥有的东西提前感到悲伤。他们的祖父母所遵循的正式礼仪,他们永远不会知道;汽车驾驶的技能,他们将永远无法学习;还有那些在他们出生前就早已消失的冰川。但我也对我们所经历的、而他们不必忍受的事情感到苦涩。小事如叠衣服、在安检队伍中排队或倒垃圾,但也有大事——那些将夺走我们亲人的疾病,他们将知道如何治愈。我觉得很有趣的是,你在两种情况下都选择了负面情绪,而你完全可以在两种情况中都选择正面情绪。你可以对他们即将拥有的东西感到期待,也可以为我们现在拥有的小事感到喜悦。嗯,我是个尼采主义者,所以我喜欢人身攻击(ad hominem)。你会说你总体上是一个更消极或抑郁的人吗?>> 不,绝对不是。我每天早上醒来心情都很阳光。我不是那种人。但我认为我们对生活在一个变革时代的感受是非常复杂的。
我当时是在为那些我认为对此有很多负面情绪的人写作。也许你不是其中之一。但我认为,有一群非常……我不知道是否是主导的,但非常大声的人群对这项技术感到极其消极。我认为人们经常混淆一种合理的悲伤和对我们当前生活方式的失落感,与对即将发生之事的整体悲观主义。所以你会听到一些反AI倡导者谈论这将是可怕的。但他们提到的所有事情并不一定是会让世界变得更糟的事情。可能确实有那些情况,但对人们思想最显著的事物——例如失业——并不显然是会让世界变得更糟的事情。相反,这些是我们作为个人损失而私下哀悼的事物。我试图区分这两种不同的倾向。>> 我明白了。好吧,这实际上对我澄清这一点非常有帮助。以你定义的方式,悲伤是个人损失。是的。>> 而乐观可以是一种公共的或个人的期望。>> 正确。你说的是,许多驱动对世界现状悲观情绪的人实际上是在为他们身边的事物感到悲伤,并将这种情感投射出去。这就是你在这篇文章中试图划分的界限吗?>> 正确。我认为许多悲观主义者为他们旧的生活方式感到悲伤。我最近与一位阿奎那学者交谈,他说当他想到使用像Claude Code这样的工具能让他最高效地完成他的学术工作时,这几乎让他流泪。因为他对产生这种工作的方式、对书籍的情感立场、对书籍的敬畏以及阅读这一物理行为投入了太多情感。而不再这样做,从科学角度来看不再是推进知识最高效的方式——这也是他所追求的——这创造了一个巨大的内部冲突来源。所以这只是许多不同方式中的一个例子,我认为人们即使认为情况可能会更好,也会感到一种威胁感。甚至有人面临着失去他们讨厌的工作的风险却担心失业,当然对此有现实的恐惧。但当他们想象一个完全不需要工作的世界时,他们并不一定将其设想为“我个人失去了与我身份相关的工作”,而是自动认为世界变得更糟了。>> 对吧?这是一个迷人的观察,即……
个人的悲伤正在被推断,甚至可能被过度推断。还有一个心理学观察是:有时悲伤并不一定与失去美好事物有关,对吧?而是任何类型的变化都可能引发悲伤。没错。或者我认为它通常也是与某种曾经美好的事物联系在一起,作为整体的一部分。所以当我想到方言或当地文化时,这些在当地是好的,但维持它们的总体环境却没那么好。我认为有很多浪漫主义者认为,如果意大利的这些山谷能保留他们的文化会更好。但当你经常与当地居民交谈时,他们会对自己最近的历史感到矛盾。有些人觉得世界确实在变好,即使我们正在失去文化,我们也希望两者兼得。但如果必须在二者之间做出选择,我们承认人们为了更好的工作、改变生活方式以获得更高工资而搬离的选择。
是的。我想向观众强调,你并不是站在象牙塔或高处指手画脚,因为你确实有值得悲伤的事情。请告诉我们你在这个案例中的个人悲伤是什么,你预期会失去什么,以及为什么你总体上是乐观的。嗯,在这篇文章中,我从对发现的讨论开始。我希望这是人们容易进入的话题:我们可以怀念那个在某些意义上更容易做出重大发现的时代,这带有一种浪漫色彩。我从这些发现的案例开始,比如极地探险。在20世纪初,人们对成为第一个到达南极和北极的人感到兴奋不已,这种英雄般的探险使用狗拉雪橇或滑雪板等工具。我认为那种率先到达的成就感觉非常重要。
我想这种北极探险与学术探索之间存在类比关系:如果你是在学术界长大的,在这个体系中培养长大,你就会被训练得非常重视新事物的发现。这是有道理的,因为那是我们的工作:我们试图为世界带来新知识。但至少可以想象,这份工作会被剥夺。我们将不再容易发现新的真理。对于那些在这个体系中培养起来的人来说,这将是一种损失。那么乐观从何而来?你认为哪些生活领域的意义仍然保持完整?
是的,在这篇文章中我区分了意义的来源和整体福祉的来源。我认为目前有些作为意义来源的事物,比如发现、我们的工作,它们可能也是我们生活中的福利或善。但它们并不是我们所有好事物的全部。所以我认为不会受到威胁的是与家人共度时光的可能性,当然这是你自己掌控的事情。虽然它可能会因技术的进步而发生巨大变化,但我认为这类善是我们仍然可以享受的。有一类我们通常单独列为赋予意义的东西,比如此类成就,它们与我们整体福祉的可能来源是不同的。
是的,我相信我们的许多观众都能理解这种悲伤。现在我想做的是进行一场哲学治疗课程,探讨我们是如何将工作提升到如此高的地位来重视的。当然我想从亚里士多德、柏拉图和古人开始,因为在相当长的一段时间内,工作被视为一种需要摆脱的东西。就像把商业藏在桌子底下一样,商人们非常可疑。请告诉我们古典世界中亚里士多德、柏拉图、孔子对待工作的起源,以及他们是如何处理这一点的。
嗯,我会说这有点复杂。我认为商业工作在相对较近的时期(可能起源于欧洲)确实变成了一种宗教,我们非常忠于我们的工作。作家德雷克·汤普森称之为“工作主义”,他谈到美国人特别成为了工作主义者。但我认为这种对工作的提升是相对较近的,尽管我们现在认为是工作一部分的许多事物(例如哲学反思或发现),在我的工作中也是其中的一部分,这些早已被古人所推崇。所以你是对的,对于亚里士多德和柏拉图来说,商业工作不会像许多其他活动那样处于高水平。他们经常认为休闲活动非常重要,亚里士多德绝对认为休闲活动很重要。
但以现代标准来看亚里士多德,如果他是我们所拥有著作的作者,他一定是个工作狂。我认为不可能相信他会……但这对他来说是休闲,对吧?是的,这是在他对休闲的广义概念中的休闲。但我认为重要的是,如果我们想使用“休闲”这个词,我们应该认识到他的闲暇观念包括了许多我们也会称为工作的事情。所以他致力于一种有价值的追求,这在今天会被算作生产性工作。是的,你做了一个非常有趣的观察:一方面工作本身被提升了;另一方面,工作内容也变得更加有趣了。所以在某种意义上,至少其提升部分是合理的,对吧?
是的,有很多不同的因素在起作用。我认为亚里士多德对休闲有一个广泛的概念。当我们说“休闲”这个词时,这是一个常见的观察:亚里士多德的词实际上是现代单词“学校(school)”的词源。所以亚里士多德认为休闲包括许多事情,比如学习,这可能实际上相当困难。因此他对休闲有一个广泛的概念;相比之下,我们对工作有一个广泛的概念。我认为有些事物会落入这两个概念的交集之中。我想给出的一个原因是……
之所以从亚里士多德开始,是因为我真心认为他的关于工作、闲暇以及娱乐的分类——即我们通常理解的休闲概念——能为即将到来的AI时代提供一种非常乐观的解读。因为理解工作的一种方式是通过“必要性”:它是我们必须做的事情,是工具性活动;而闲暇则是为了其自身价值去做的事情。对他而言,这是最高的哲学、诗歌和艺术形式之一。
我想将AGI(通用人工智能)框架为工具性的终结。任何为了其他目的而需要做的事情,可能都不再需要我们亲力亲为;AI和机器人可以处理这些。但在闲暇领域,我们必须亲自去做。因为这些活动关乎塑造我们的灵魂和品格。因此,我认为至少对于亚里士多德以及那些真正认同他人性观的人来说,这将是令人欢迎的。
当然,这并不是说过渡会很轻松。但我认为回到亚里士多德将工作与闲暇区分的模型是有意义的,因为我不把我们现在正在做的事情视为那种意义上的“工作”,而是将其构想为闲暇。我认为这具有深刻的治疗和帮助作用。
是的,我觉得这是可能的。许多人也提出过这一观点,这也是我文章的一部分:我们的文化让我们处于一个糟糕的境地。在过去几个世纪里,激励人们工作非常重要。做到这一点的一个非常有价值的方法是围绕工作构建一种意义文化,告诉你这是你身份的来源。这在我们需要人类做大量工作以提供必需品、将人们从贫困中提升出来的时刻,被证明是极具激励性和非常成功的。
因此,这会让你对即将到来的乌托邦持非常乐观的看法:会有各种各样本身就有价值的闲暇活动。我想引入另一种不同的声音,也许在这个问题上与你和我不同。有一类人认为,那样的世界将不再有任何有价值的活动;他们认为拥有有价值的活动依赖于意义,而依赖某种程度的挣扎或必要性。因此,这样的人会强烈拒绝我们将亚里士多德模糊归因的观点——即在一个没有工作的世界里,生活仅仅会更好。他们会认为那里将没有任何善好。
对,抱歉。因为他们认为闲暇也会被AI取代;或者他们认为一切皆由机器完成。他们不认为工作是一切,但他们认为有价值的闲暇形式需要某种非人工的艰辛。也许他们不会用亚里士多德的“闲暇”一词来指代这些活动,但他们认为如果闲暇是自学某样东西,那必须是学习它的最佳方式,或者这些对于其价值至关重要。
我意识到“工作”概念扩大并吸收闲暇的想法给了我以下启示:例如,“知识工作”似乎是一个相当新颖且有趣的概念。在卢梭发表第一篇论文并抨击科学的时候,也就是几个世纪前,他质疑研究甲虫或太阳系天体间的引力对我们有何实际用处。他在谈论知识的不实用性。然而,他在那段话中提到的几乎所有事情现在都因研究而变得极具实践性。
比如,研究昆虫交配实际上让我们获得了更好的驱蚊剂,利用它们的气味而非有害化学物质。显然,如果没有这方面的研究,现代太空旅行也是不可能的。因此,工作似乎已合理地提升到吸收了大量沉思生活的程度。历史上许多文化都推崇沉思(如中国,主要出于社会原因如科举考试),但这是第一次在社会中每个人都有一个经济理由去从事类似数学这样的活动。这在希腊视角下将是疯狂的,我想提出的是……
这有点像你关于哀悼提出的混淆点:有些人的工作或许值得热爱,因为它上升到了闲暇的高阶形式;但一旦“工作”的概念被扩大,每个人都被告诉要模仿那些人,说我对我的工作充满热情。当我雇佣清洁工时,我有时会在他们的简介中看到“我对清洁充满激情”。我不认为他们真的如此。也许有这样的人,你明白我的意思吗?
这是一种双重过程:工作吸收了人类经验中真正有价值的部分并将其提升,同时也提升了工作中那些平庸的部分,比如在高盛做电子表格。是的,我会把这个观点摆出来。
我认为人们重视不同事物的可能性很广泛。如果你看过最近的温·温德斯电影《完美的日子》或类似的作品,你会看到一个在日本清洁公共厕所的男人。虽然他的生活更复杂,但他对清洁实践有着某种奉献。我想你可能是对的:拥有这种精神奉献的清洁工比没有的多;同样,对制作电子表格有精神奉献的投资银行家也比大多数多。
我认为你说得对:我们将某些内在有价值的事物包含在了工作之中。我很幸运拥有的一份工作,我认为其本身就有价值,并且我有幸为此获得报酬。我们也要求每个人都把他们的职业当作一种有价值的服务来看待。不过,我认为许多工作处于中间地带。
当然,我会说,成为一名护士或医生并以这种方式服务他人具有巨大的内在价值,这种价值源于其工具性价值。所以你知道,帮助别人是有价值的,这并不是为了活动本身而做的。你做这件事是因为它对他人有帮助,而这正是赋予你意义的部分原因之一。因此,我认为试图对所有不同的组成部分进行分类是复杂的。
那么,你会如何讲述工作在后亚里士多德时代被提升的智识历史呢?为了寻找那场伟大的革命,我们需要追溯到谁身上?有一种简略的历史叙述认为,变化始于中世纪,随着欧洲社会各种商业元素的出现,最终在宗教改革时期左右达到高潮。当时出现了一个新的阶级,他们将某种精神维度与工作联系在一起,形成了一个尊重工作和商业成功的资产阶级,并将这种成功视为一种美德或具有更高价值的事物。
当然,这个想法与基督教新教和职业道德的纠缠有关,这通常与新韦伯联系在一起。关于欧洲如何变得痴迷于工作,有许多不同的替代性故事。有些人会说,直到工业革命才真正发生这种情况。所以时间线有很多版本。
有趣的是,最近有一条从施特劳斯开始的思想脉络,我认为马基雅维利是这些现代思想的主要奠基人之一。这个观点认为,虽然马基雅维利并没有提升工作,但他提升了“必然性”,并贬低了闲暇。
好的。所以他是那个嘲笑……他直接反对亚里士多德,这就是那场伟大的革命。当然,马基雅维利的“必然性”通常涉及暴力以及国家如何进入战争等良好而清醒的决策,而颓废、悠闲的贵族群体往往在决策上不够审慎。
我认为发生的情况是,或者至少智识历史中的一条线索是:通过蒙田和拉罗什富科等人,这种对“必然性”的提升不再指向战争和暴力,而是转向了生产和商业。然后这一切在美国建国理念中得到了根基化和合法化:在美国,这与古代政体相反,商业成为了真正的基石。
我不认为这对建国者们自身的思维方式是核心的。在每种情况下,建国者们的关注点并不完全在于商业活动,虽然其中也包含这一脉络。但我认为,即使在20世纪,人们普遍认为美国存在一种相当程度的“贵族”倾向。我认为这是一种将公民义务视为极其重要、甚至比商业更重要的贵族气质。
因此,如此痴迷于商业化是美国生活中相对较新的方面。当然,在许多方面,美国拥有很长的商业历史和对商业成功的推崇,这比非常近期的过去要早得多。但这种观念确实是美国文化的中心所在……它确实被提升了,但我想当你将其与古代政体进行比较时,这种区别依然存在。
我给你举两个例子。你提到了美国公民的公民性格特征,但当你阅读开国元勋们的著作时,令人惊讶的是他们多么相信商业能培养这种品格。当然,他们所指的是那些农村自耕农和独立的创业者,而不是我们现在拥有的那种雇佣劳动者。
另一件让我感到震惊的事情是富兰克林建议美国儿童学习数学。当然,苏格拉底——或者我认为这是传说——在柏拉图的学院里写着:“不懂几何者不得入内。”所以,这既是一种推荐。对于柏拉图来说,这显然是对哲学研究以及接触理型的准备;但对于富兰克林而言,是为了让你成为一个像商人那样的人。你可以报税、做会计工作。
所以我认为这是一个巨大的转变,从我们讨论过的这个起源点开始。我确实认为美国教育体系经历了重大转型。我想是在二战结束时左右,高等教育不再专注于培养现有的贵族阶级,而是转变为培训来自社会各个角落的人,以在美国生活中取得成功。
这一转变带来了许多美好的事物。但同时也带来了一种倾向:将大学视为使人在实用上具有价值的工具。在许多情况下,这种关注点在于服务,人们期望大学成为培养下一代美国领导者的地方。
当然,其中也包含一个要素:如果你从社会的各个部分招募人员,你就必须让他们觉得值得。许多人当然会希望获得商业上的成功。因此出现了一种缓慢的趋势,即让大学更多地侧重于培训人们变得富有。
是的,当然我们描述的这种提升工作的现象不仅存在于现代性的资本主义脉络中,在早期的马克思那里也能找到。那么请告诉我们关于这个想法的内容。
是的,我认为这是我……当我思考我写的那篇关于工作的文章时,我发现或重新发现了这一点。早期的马克思非常亚里士多德式,但以一种令人惊讶的方式:他认为人类本性实现的一个组成部分是满足他人需求的物质生产。
以严肃而非滑稽的方式来看,早期的马克思——特别是1849年至1850年的这些笔记中——痴迷于这样一个观念:人类为了实现自我,必须工作。这并非关于工人的解放,而是确保工人参与满足他人的需求。这是“类本质”的一部分。
马克思对资本主义的批判之所以如此强烈,部分原因正在于此……
迫使我们要做一些违背自然的事情,但这扭曲了人性得以繁荣的核心组成部分。这很奇怪。请为我阐明与亚里士多德的联系,因为这并不清楚。亚里士多德认为我们需要工作吗?不,我认为物种本质(species being)的概念以及与我们本性相关的独特事物意味着我们必须实现本性的这些组成部分,才能算作具有目的论意义。大概就是这样。
但在现代语境中,我们倾向于将那些等同于满足本性即带来物种福祉的事物视为一种广义的亚里士多德式观点。马克思可能更直接地从黑格尔那里汲取了这些思想,你说得对。是的,我想转到黑格尔,因为我有一位很好的老师和朋友正在出版一本关于另一种形成性利益的书籍。因为马克思所说的并不是工作对我们维持物质生活很重要,而是我们的性格和塑造中有一些东西是重要的。
黑格尔也有关于参与市场重要性的相应讨论,认为市场是一种以特定方式、非社会性地获得认可的机制,这在根本上更加自由,并强调和突出了至少相对于封建制度而言的自由与自主。所以我想问的是:如果没有工作,美国还能运作吗?不仅仅是假设所有的经济问题都解决了,而是相对于黑格尔和马克思而言,参与市场的形成性利益是否有其他来源?或者这在根本上有多重要?
是的,我认为如果你持有这样一种观念:满足他人需求的工作是美好生活的组成部分,甚至是必要条件,那么一个没有必要工作的世界将是一个没有人道善好的世界。但你同意这一点吗?是的。不,我当然不同意。我认为工作在工具意义上是好的。
而且我认为在工作中作为其组成部分所做的一些事情可能是内在善的。但我认为工作本身并不是内在善的。紧接着这个问题的是:如果没有工作,民主还能运作吗?我知道你对此进行了大量思考,特别是关于潜在的经济后果。是的,我认为存在一种普遍的恐惧和讨论,关于我们现有的民主形式——当我谈论民主时,我只是指广泛的政治参与——在多大程度上依赖于个人的经济权力。
有一种思路认为民主是由人们不想反抗的愿望所稳定的。特别是如果你想想精英阶层必须纳税,比如极度富有的人比其他人缴纳更多的税,他们可能会觉得——事实上他们也经常抱怨被要求支付更高的税款以重新分配给他人。基本思路是,如果反抗国家的成本比他们支付的税收更糟糕,那么精英阶层就不会反抗国家。
这里的想法是,如果非精英阶层为精英阶层工作,那么精英阶层就需要国家以及这种国家的各种制度。因此反抗对他们来说并不是一个真正的选择。或者至少,反抗或脱离国家的成本将比支付税收的成本更糟糕。因此他们有动力去纳税。在这种图景中,普通公民的经济活动——我甚至还没提到这一点,但这非常重要——即普通公民实际上参与国家运行的活动。
军队由公民组成人员,国税局也由公民组成人员,无论是什么机构,所有这些都需要公民的活动。因此国家在某种程度上依赖于大量个体的参与,这意味着每个人的激励措施都是维持国家的存在,因为没有国家的运作,他们就无法获得这些工人的服务。
因此恐惧在于:如果你不再需要那些工人——因为我们因自动化而失去工作——那么稳定民主的许多激励结构可能会消失。特别是那些从机器人军队中赚取巨额财富的精英阶层,他们不再需要普通公民,因此他们没有动力参与民主生活或允许我们参与其中。
你认为即使发生这种情况,从博弈论的角度来看是否还有理由阻止这种局面?是的,这是我最近在草稿工作中探索的一个想法:即使在这种情况下,精英阶层也应该希望有一个利维坦(强大的国家)站在他们上方,因为利维坦保护他们免受其他精英阶层的侵害。
如果你像马克·安德森、彼得·蒂尔或达里奥·莫迪那样,在即将到来的时代成为像埃隆·马斯克一样极其富有的人,从博弈论的角度来看,你仍然应该害怕其他精英阶层试图攻击你。问题在于:你应该如何组织你的防御机制?
一种想法可能是,哦,我们选其中一个人为领袖,或者我们就实行寡头政治。但这有风险:其他人可能会联合起来攻击你。因此可能存在一种博弈论上的理由,想要一个分布式的机制,即由许多难以操纵的实体来掌权。那么这些实体是谁呢?普通公民吗?
是的,所以我正在探索是否存在这样一种故事线:精英竞争保证了你需要一个强大的、独立于任何个人的国家。你对革命如何发生、权力更迭的方式采取了一种非常经济和近乎经典理性主义的视角。你看到这种规律已经在历史中发生吗?你认为这种分析是否充分?
因为如果问我,美国内战是否是出于这种根本性的计算——也许吧,大陆捕获棉花并产生了经济影响。美国独立战争呢?也许是税收问题,但还有其他根本性的驱动因素关于国家的变迁和依赖关系,这些超出了……
这种成本模型,是的。那么,你如何回应这一点呢?>> 我当然不想说任何单一的故事是唯一正确的观点。你知道,我认为这是一个非常重要的问题。所以我想,如果大量的人失业并失去权利,这对于人类社会、对于美国社会来说,可能是一场绝对的灾难性事件。这是我们许多人都恐惧的未来。嗯,所以我当然不想说:“哦,我确信古典理性主义会起作用,以下是我的理由。”话虽如此,我认为拥有关于为什么某些事情是理性的故事确实是有帮助的。而且这些想法有一种方式可以让自己获得权力。你知道,一旦人们理解了其中的逻辑,这种逻辑就会变得非常强大。
所以我认为在这种情况下,我们需要思考的目标是那些极其富有的未来精英阶层。我们必须考虑他们的激励措施是什么,并尝试构建一个世界,使得他们的激励措施不是去剥夺所有人的权利。我认为这些想法是有帮助的。不过我也认为你说得对,真实的价值观和真实的文化确实重要。不幸的是,在超级富豪中,人们认真对待深厚价值观的情况处于历史最低点。我会说,这个国家历史上伟大的慈善家们——比如摩根和卡内基,他们当然是冷酷无情的商人——但他们也真的相信更高的善。
你知道我们所在的纽约的许多事物都来自这些伟大的慈善家,他们真的相信更高的善并将它们回馈给美国社会。但不幸的是,今天的亿万富翁们并没有实现这一点。你知道埃隆·马斯克没有捐赠歌剧院、图书馆和这些公民公益设施。>> 嗯,很有趣。我会做的是将这个想法与工作和经济吸收了我们生活更多方面的观点联系起来。这是我们一开始提出的理念,我认为这在思考如何帮助社会方面也是适用的,也就是说[轻笑] >> 我几乎会说埃隆更多是受意识形态或价值观驱动的。
这不仅仅体现在他的慈善捐赠上,而是体现在他如何建立公司的方式中。相比之下,20世纪的石油巨头们可能纯粹是为了物质利益而这样做。当然他们也会有一套说辞来解释为什么这有帮助。这是工作吸收了另一个全新领域的另一种方式,至少亚里士多德没有将其纳入其中,对吧?那就是政治行动、国家治理等一切都在私有化。你看到我试图描绘的图景了吗?>> 我看到了。但我认为,你知道,也许你对埃隆·马斯克有那样的故事,但我觉得很容易想到那些没有以价值观驱动方式经营公司的亿万富翁。
我的意思是,社交媒体公司声称主要致力于连接,但如果你查看内部文件,似乎事实并非如此。而且在捐赠方面也存在某种差距。所以我想退一步说,我基本上只是想同意我的观点:我们需要重新找到公民生活最深层的价值观。我们要思考为什么我们拥有美利坚共和国,为什么我们拥有民主制度,并且我们需要在当下迫切地复兴这些理想,使它们成为人们价值观的一部分。我的意思是,如果说价值观驱动了美国革命,如果说价值观驱动了废奴运动……
我担心我们正处于文明的转折点,而我们拥有的价值观并不像在那个时代那样强烈。你知道,就像我们现在正在做的这个节目一样,这些都是试图重新寻找深厚文化和公民价值观的努力,我希望这能帮助我们抵御这种危机。>> 对。所以你正在做的工作几乎就像是在考虑最坏的情况,比如如果我们只是在与狼打交道…… >> 正确?>> 我们如何说服狼不要吃掉所有人呢?>> 没错。>> 就像那样。
但我非常希望人们对民主本身、对大规模参与政治过程本身有着坚定的信念,并且随着我们前进,人们会继续珍视这一点。但再次提到你描绘的这种最坏情况——我知道你还在研究这篇论文,但这种暂定性的直觉是“以权力制衡权力”。如果人们无法制约精英阶层,如果精英阶层不再需要担心人们的经济状况…… >> 那么希望他们会明白人们仍然有助于防止他们被…… >> 正是如此。
这个想法是,如果你只是让所有普通人失去权力,而只让你房间里的这十个人来掌控局面…… >> 那么你真的面临风险,其他九个人可能会决定你实际上不再值得他们费心。嗯…… >> 你将很难维持一种适当的权力平衡。>> 而如果政治过程极其分散,那就困难得多了。当然人们可以向政治投钱,人们可以做各种各样的事情…… >> 但总体来说要操纵机制则困难得多。
所以是的,我的意思是这是一个有趣的例子:在20世纪90年代初,俄罗斯有一种脆弱的民主制度。但实际上有一群寡头控制了权力,他们自认为很好…… >> 但慢慢地一个接一个地被挑出来剥夺了权力。>> 直到最后有一种“一人统治所有人”的局面,虽然事情要复杂得多…… >> 但我认为这是一个警示故事,对于那些可能想要改变政治进程的人来说。这很有趣,因为几天前你在电话里第一次向我提出这个想法时…… >> 关于民主是否可以在没有工作的情况下运作,我以为你会走的路不是这种博弈论计算。
我以为那会更多地关于公民生活。比如托克维尔认为,一个逐渐放弃这种自我治理的人民…… >> 会导致暴政,你可以理解为什么失去整个工作领域、仅仅接受施舍会成为一种……
失去那种自我治理的能力,并不是说今天的亚马逊仓库工人有多么自主,但这将是进一步的削弱。这或许可以追溯到建国者们最初的直觉:为什么在小农经济的案例中,工作对于培养公民美德如此重要?因为它教会了一种责任感。我们已经开始看到这种责任的侵蚀。就像在建国初期,约70%的人是企业家,他们是这些小农;而现在大多数人都在为大型 corporations 工作。这是我好奇的另一个维度:你是如何看待这一点的?
我会说,用“企业家”这个词来描述拥有自由土地的持有者(freeholders),在我们现代的概念中有点牵强。所以我担心这里有一些浪漫化的成分。但无论如何回到你的观点,我认为有一个有趣的问题:我们当前的工作体制在多大程度上塑造了我们的公民美德?但我也有反面的观点。如今有许多人已经退休,不再工作。你可能会说:“哦,但他们形成性的岁月围绕工作是至关重要的。”然而,退休人员找到了许多在世界上施加影响的方式,他们非常活跃于政治。他们的投票率远高于年轻人。因此我认为,事实上我们有证据表明不参与工作可能会让你更积极地参与政治进程。
但我确实认为紧迫的是,我们需要找出能够教授这些美德并在无工作世界中灌输民主文化的社会结构。所以我同意我们必须重组和重新激励人们去做那些……工作与美德之间的联系可能被夸大了。“我认为它可能被夸大了。”“是的。关于你的‘哀悼与乐观’,有一个非常有趣的地方:你不太担心人类仅仅因为技术的出现而失去特定的能力,而你更担心我们失去了生产某些类型活动的制度结构。请告诉我们这一点。”
是的,我认为如今许多人说人工智能的使用会导致某种形式的认知受损。这完全有可能。也就是说,我们可能过度依赖机器,用它来做出生活中的每一个决定,从而失去自主能力。也许我们会失去独立思考的能力;也许我们失去进行深度研究等工作的能力。但老实说,我对人类韧性的印象比那些担心这一点的人要深得多。我当然认为有些人会失去一些东西,可能没有足够的主动性去应对这种提供的认知捷径。但我实际上认为我们非常擅长学习如何进行深度工作,即使存在这些干扰。
我成长于一个已经有互联网的时代(虽然不像现在这样),但你知道,你会弄清楚它的。也就是说,我们有很多事情做得比早期的人差,但你学会了如何关掉干扰并集中注意力。我预计今天的孩子们——我的学生们在这方面非常出色。有些人不是,但有些很棒。所以我对这一点不太担心,我更担心的是我们的机构会伤害那些尽管面临所有困难仍能进行深度工作的人。我认为我们许多当前的制度非常短视。招聘流程只关注今年是否需要这个工人,但从第一份工作开始,这些人学到的技能可以在十年后使用。
我的担忧是,当我们看到像Meta裁员10%或者首次招聘大幅下降时,我们的机构实际上不会奖励那些传统上被奖励的人——即真正学会这些美德的人。我们将通过这些制度机制压制那种克服了各种干扰而幸存下来的人性善良,我认为人们低估了这种风险。“对。换句话说,你和这些人有完全相同的最终担忧。”“完全正确。”即整个人类可能会失去某些能力,但确切的机制不同。你不是担心某样东西的存在会烧毁我的大脑,对吧?“但你担心的是没有同样的激励管道。”
是的,完全正确。我认为我们应该担心一定比例的人大脑被烧毁。这绝对是一个担忧。所以我并不是说这种情况完全不存在,但我认为我们也应该担心即使我们设法没有让大脑被烧毁,机构可能不会奖励我们的方式。“这实际上与我们最初开始的哀悼点很好地联系起来了。因为我本周晚些时候将采访一位伟大的荷马学者,他的导师和老师在20世纪做出了口头诗歌的一项伟大发现。他们去了南斯拉夫。那时我认为它是一个文盲占多数的社会,但他们仍然保留了史诗诗歌的传统,例如你在荷马作品中看到的那样。当然那是不同的史诗诗歌。”
“现在情况不再如此了,因为人们识字了。现在根据你的观点,虽然人们识字是好事,但当人们识字时,社会中最优秀的人才不再有足够的动力去奉献一生去做这件看似枯燥乏味且没有任何经济回报的事情。这就是担忧的维度。”“是的,完全正确。”[轻笑] “显然我们的社会不再是史诗诗歌的最佳人类社会了。你认为我们在什么方面最擅长?我现在要再问你一次,在即将到来的AI时代。”“这是个很好的问题。”
“也许我会从另一个角度给你一个想法。看起来我们似乎是狭义人类体育成就的最佳社会。”[笑声] “比如,例如我们能跑多快?像”
我相当确定,在像百米赛跑这样需要极快速度的领域上,我们绝对是历史上最棒的。但在狩猎等方面,我们可能很糟糕。“没错。”“确实如此。我认为,至少在最近以前,美国社会在过去75年甚至100年里,在创意生成和研究能力方面取得了可能前所未有的成功。”
你对此似乎感到惊讶。但我认为,如果你想想过去一百年美国工业和大学共同产生的技术,那简直是疯狂至极的。我们视为现代时代特征的许多创新——也就是所谓的数字革命——虽然并非 exclusively(排他性地)发生在美国,但其中很大一部分确实发生在美国或与美国相关的群体中。作为全球社会,我们生成创意的速度感觉比之前的任何社会都要快得多。
我之所以对此感到惊讶,首先是因为这种创意生成的范围似乎很狭窄,更像是实践性的创业活动,而不是理论性的——比如物理学。我觉得在过去50到100年里,我们在做[清嗓子]这类事情方面其实相当糟糕。特别是在人文学科中,我觉得我们远非最好的哲学社会。如果你展望到公元3000年或4000年,我不是说那会是一个黑暗时代,但他们可能会直接从康德跳到2400年的某位哲学家。你同意这一点吗?
我认为这很复杂。我想,当今从事哲学的人们在许多方面都在导航由早期人物设定的地标。我们不像在数学中那样,理解如何以如此快速且无争议的方式取得进展。因此我认为,我们做的很多工作,我们还不知道这在某种程度上是否属于那种无争议的进步。但我会说,当前进行的哲学工作的数量和严肃性是非常好的,在很多维度上都极其优秀。
它可能不像苏格拉底等人的思想那样容易融入日常对话,但在我看来,这类似于欧几里得几何比当今前沿的几何学更容易消化的方式。所以对我来说,哲学中缺乏公众可见性并不明显地证明其糟糕;相反,我认为这种缺乏公众可见性并不是对其优秀性的否定证据。
我想问的是当今大多数人所做的工作能持久多久,但这可能是因为我们要进入了一个进步可以累积、可以由许多人完成并在时间上汇总的阶段。因此,即使该时期的活动没有留下任何个人的名字,这一时期仍然可能非常有生产力。“那么假设我同意你的观点,即今天我们的社会最擅长创新和生成新想法。在个人层面上也是如此吗?还是因为我们要归功于我们建立的体系?比如,个人的创造力可能实际上比历史上的人要低,但它们的总和效果很好。你是怎么看待这个问题的?”
我想我会再次表示不同意。我认为人们极具创造力。我们认为,通过研究型大学这一体系,目前的社会将来自世界各地极其有才华的人聚集在一起去解决极其困难的问题,并拥有真正的基础设施来帮助他们解决问题、奖励他们解决问题的成果。诚然,在某种程度上,这个体系将人们框定在特定的盒子里,使他们专注于各自的问题。
但我认为,公众很容易低估跨越领域所能获得的奖励程度。最大的奖项通常颁给那些看到数学与物理之间隐藏联系的人,或者看到一个领域、数学与其他领域之间的隐藏联系。哲学中的其他领域或哲学内部跨领域的连接也是如此,那是圣杯所在。也许人们在局部激励下并不倾向于这样做。但如果你想成为一个大名鼎鼎的人物,做出重大贡献,正是在这些地方能获得奖励。
所以我认为人们极具创造力。20世纪初的数学家会对今天人们所做的事情感到震惊。这往往很难被我们这种非前沿工作者认识到,但这在某种程度上正是体系成功的标志——它已经走得太远了,人们产生的想法远远超出了普通人的认知范围。“是的。那么为了总结这部分对话,鉴于AI能够做很多事情且这些工作不会立即得到回报,你认为我们应该如何设计机构以保留这种人类能力?”
我认为这是一个非常难的问题。我想,如果有一种方法能激励商业领袖雇用年轻人以错开裁员时间,从而保持奖励人们的持续体系,那将是很好的。但我猜这还不够。人们讨论过的一种制度回到了亚里士多德的“schol”概念,以及它在教育中的角色——其词源与学校相关。也许大学可以成为一个人们在一生中都能回来、在这里上一门课、在那里上一门课的地方。
实际上,需要扩展这种体系,以便人们能够不断重新培训那些会被短期激励机构所淘汰的技能。“没错。因为大学在经济上将不再那么……”“是的。想法是,我们应该真正‘超额资助’这些机构,以便它们能够支持学生回流。”我想将关于工作挑战的问题提升到更高的层面,因为到目前为止,我们已经梳理出了一部世俗的历史。
关于工作如何被高度推崇,你简要提到了新教伦理中的“天职”概念。在基督教传统——或者说犹太-基督宗教传统中,堕落之前的工作被视为某种善事:上帝也在工作。我相信在希伯来语中,“工作”与“崇拜”是同义的。而堕落之后,通过汗流满面来劳作,似乎成了一种诅咒。随后工作被视为救赎的手段。显然,韦伯沿用了这一思路,他追溯了某些加尔文宗派如何利用工作来试图证明上帝对他们的眷顾,以确保自己是被预定得救的。资本主义随之兴起,将这种冲动从宗教边界中剥离出来,转化为对生产的动力。如果你认同这一论点,似乎我们不仅以亚里士多德可能未曾设想的世俗方式赋予工作社会意义——即关于生命意义的含义——而且工作几乎成为一种宗教,对吧?也许这正是“工作主义”的含义。
是的。我觉得这是一个令人恐惧的想法,因为当宗教消亡时,会出现巨大的真空,也许这就是人们感到如此悲伤的原因:这种悲痛超越了世俗的哀伤。不同的意识形态随之而来,试图填补这一空白。如果人不再是“经济人”,那么人是什么?这通常导致我认为是神圣的战争,对我而言,20世纪就是共产主义、法西斯主义和自由主义之间的圣战。这是意识形态之战,而非资源争夺战。想到这一点,就提升了工作丧失这一问题的严重性范围。
我认为这是一个巨大的问题。我想我们开始讨论工作是否具有内在意义,或者它是否真的具有内在意义这个问题时,人们从小就被灌输将工作与生命意义联系在一起。更重要的是,拥有某些工作会带来巨大的声望和正面反馈,而缺乏这些工作则会带来羞耻感。在一个那些工作被剥夺、且我们的文化没有改变以消除这种羞耻感的世界里,人们会感到可怕的羞辱。这正是我们当前所处的文化:失业被视为一种耻辱。这是一个会对社会产生大量负面反应的世界,是的,我认为暴力起义似乎并不遥远,难以想象。
我想我没有答案。但我认为有一件事很重要:构建不涉及工作的繁荣生活图景。我认为另一件非常重要的事情是消除我们文化中那种污名化缺乏工作(失业)的现象。所以,我想一位有洞察力的人曾对我说:你知道的,我对失去工作意义的恐惧更多是关于声望,而非客观价值。我想确实如此,不仅我发现我的工作具有内在意义,而且作为一名大学教授,尽管声望不如从前,但仍带有一定程度的声望。我们许多人将这种与声望相关的联想附加在工作上。如果我们想要幸福并成功过渡到新世界,就必须弄清楚如何将自我价值感与工作脱钩,如果我们要能够快乐地生活并成功过渡到这个世界。
似乎如果你相信我们需要某种等级和地位层级,那么除了工作之外的另一种替代方案就是战争。你实际上在蒙田和马基雅维利身上都看到了这一点:马基雅维利赞扬卡提斯,他能够成为这种农民式的自给自足农场主。为什么?因为他已经通过担任独裁者和领导战争获得了声望。蒙田则将其颠倒过来,主张不要进行战争,而是让人们从事商业活动。
那么艺术和体育成就似乎是这里最好的结果,如果我们只是在这方面竞争的话。但嗯,是的,我想这些是你想要描绘的那种愿景。
我并非一定主张需要地位。我是说,有一个问题:作为我们这样的人类,或者人类是否自动地、不可避免地有一种对地位的需求?嗯。但我认为最好的情况是,如果我们能形成一个创造者的社区,我们彼此创作并欣赏彼此,这本身就是内在有价值的。或者是人们可以做任何事情的某种社区。但嗯,是的,我认为我们需要更深入、更积极地思考什么是繁荣生活的概念。
许多收听这期节目的人可能会认为我们现在谈论这个为时过早,因为大型语言模型(LLMs)在取代所有工人方面还远未接近。即使在有替代的情况下,也存在许多问题和放缓迹象。但在私下里,我知道你认为这不仅是可能的,而且是非常可能发生的。听起来你已经为此做了很多规划了。请帮助我们获得像你一样的信心:AI将覆盖所有这些领域。
是的,我想说我认为这并不是一种特别特殊的轨迹,但去年夏天我大致认为哦事情可能稍微放缓了一些,而且下一个重大创新是什么并不明显。但我想在十一月、十二月和一月期间,随着编码代理的出现,事情对我来说变得非常不同。我开始立刻看到这些工具如何能以更高的效率完成大量任务。我同意你的观点,目前我所尝试的那些设置似乎并不能一对一地取代人类工人。但我确实认为这使得人们能够以一人之力完成五人的工作,具体取决于工作内容。我认为存在一种好的情景:例如,如果有人要创业,现在一个人就可以通过编码代理处理所有文书工作。而在以前,你需要有足够的银行存款来雇佣会计师和律师才能起步。所以我认为存在乐观的情况:它促进了人们从事新型工作;但我也看到我们现有的许多工作容易受到这种乘数效应的影响,即单一个体可以完成多人的工作量。
人们的工作岗位,即使不是完全替代,如果一个人能完成两个人的工作,我们就会在绝对巨大的规模上出现大规模失业。>> 对,你提到过,你在接触的那些研究生哲学系学生中,他们实际上更喜欢目前这些智能代理的输出结果。嗯?是的,请告诉我们这一点,我发现这是一个相当惊人的说法。
是啊,也许……[笑声]我不确定我是否原话如此说了,但我认为,向前沿大型语言模型提出专家级的问题……嗯,对单个问题的回答几乎普遍优于你将这些问题汇总后询问大量研究生或该领域外的许多教员所得到的结果。>> 是的,完全正确。我的意思是,我认为很容易构建一个包含100个问题的基准测试集,模型能全部完美回答且毫无争议,而人类则会遇到很大困难。
我认为对于较长的输出内容,它们确实尚未达到撰写一篇由人撰写的论文的水平。但是,如果你给一个编程智能代理提供一个想法的雏形……嗯,我认为它非常擅长将这个从雏形的想法发展为接近成品的东西。在这个任务上,它可能比我更好……我的意思是,肯定比许多我与之互动的晚期本科生要好。所以是的,在某些方面它已经非常出色了。
等等,等一下。最后这一点相当令人惊讶。如果你给它一个论文的雏形,它会产出比你更好的成品吗?>> 在某些情况下……嗯,比如,让我花很长时间去撰写一篇基于某个想法的论文,而大型语言模型会给我一些……相当合理地完成度达到70%的内容。这是一篇我想发表的论文吗?这种单点想法的论文?可能不会。嗯,你知道,我大多的论文希望包含不止一个思想……
所以还有很多工作要做以构建其余部分的框架,但它从想法到论文的速度比我快得多。而且我认为在很多情况下,它能比普通的对话者更好地领会暗示……所以你可以从想法的初步抽象草图阶段更轻松地过渡到完整的论文,这比与你领域中的普通同事或潜在合作者一起工作要容易得多。>> 是的。你认为目前的架构已经到位了吗?我们只需要扩展规模,需要不同的组织方式吗?还是认为需要进行另一种架构上的革命>>
我真的不知道。我认为……正如我所说的,我对随着脚手架和编程智能代理而来的突破印象深刻。因此有可能我们真正需要的只是哲学领域的脚手架,这将使我们实现哲学的自动化。嗯,我认为也有可能我们需要一场全新的架构革命。我想我们看到的是,在具有可验证奖励的领域……比如数学、编码方面……我的意思是,在过去的一年甚至更短的时间内,收益简直是疯狂的。
但我认为我们尚未在概念推理中看到同样的收益。我认为还有很多工作要做,而且如果事情要顺利发展,这项工作极其重要。我想……嗯,这是一种……>> 事情会顺利发展?为了什么模型的发展还是人类>>
对人类而言。我的意思是,我认为这是一种噩梦般的情景:你拥有一个在许多领域都极具能力的模型,但在伦理推理方面并不出色。嗯,这似乎是最坏的情况之一……不是最坏的。最坏的情况是它积极地邪恶。是的,但是我认为……嗯,你知道,这是一件紧迫的事情,我希望更多的实验室能专注于此……比如使它们具备伦理意识,提高这种模糊概念推理的能力。我认为这应该是一个紧迫的……优先事项……嗯,但基本上是因为在可验证领域中的突破如此显著,以至于很难将目光从那种吸引力上移开。>>
当你说改进不够好时,这更像是“风中手指”般的猜测吗?在你的观点中,真的没有任何基准测试适用于此吗?是的,我认为我会说是那种“风中手指”般的猜测。但我想说……嗯,比如最新一代模型在帮助我理清哲学想法方面的表现……你知道,订阅了所有那些……嗯,最新的公开可用模型与去年十一月相比,在如何帮我做文献综述方面并没有太大不同。你能做出仔细的区别吗?诸如此类的事情。嗯,特别是在那种聊天机器人的界面中。
所以我认为那里确实有很多力量,但它……>> 我认为它们往往对产生巨大差异的细微差别不敏感,这在多轮对话中会被放大。所以你知道,我之前提到的那些单步回答……它们在那里表现最强,如果我只是问一个难题,它们做得很好。但我想当你试图深入时……比如你真的要为我写一篇论文吗?你真的要从头开始发展一个想法吗?你会帮我生成一个想法吗?我认为这些领域仍然缺乏,而且我认为部分原因是很难构建训练环境。所以我认为这是一个巨大的前沿领域>>
对吗?嗯,有些人认为大型语言模型只是一种文化技术物种……一种先进的文化技术。所以就像印刷机、图书馆一样>> 嗯,无论它们产生的意义是什么,都源于某种原始的人类意义。与之相对的另一种观点是什么?你是如何看待这场辩论的?>> 是的。嗯,我认为与之相对的观点是将它们视为独立的代理或某种系统……就像人类作者一样好或者具有信念、欲望、意图等等。是的,就像一个碰巧读了很多书的人……很多很多的书……嗯,但我认为文化技术的理念非常有价值。
我认为理解大型语言模型包含多重性的重要性……它们在某种程度上是大量人类工作经验、人类知识的产物,并且它们收集了这些知识。在许多情况下,它们是由此构成的一种自我。嗯,但是……
我也认为,那种仅仅将AI视为文化技术的观点存在局限性。我认为它们最终也具备创新能力,甚至是词汇创新的能力。它们可以发明新词,而这些新词并不能完全由文化技术来解释。
你能给我们一个具体的例子吗?说明哪种现象能更好地被这种创新观点所解释?是的。我在几年前的一篇论文中讨论过这一点,在那篇文章里我们提出:如果你持纯粹的文化技术观点,你就会认为大型语言模型(LLMs)不可能为全新的事物创造新词。但事实上,让LLM生成一幅以前从未见过的图画(比如抽象画)是非常容易的。
接着,它可以为这幅画作中的各个部分命名。从这个意义上说,它确实能为以前没有名称的事物创造出新的名字。如果你坚持纯粹的文化技术观点,很难解释这一点,因为这是一个在文化形成之前并不存在的新实体。
所以你的意思是,比如让AI画一个五头外星人,然后问我们如何称呼这些头部?或者它们是如何组合在一起的?叫什么名字吗?是的,大致就是这样。明白了,很有趣。那么请谈谈你关于“所有工作都被自动化”这一终局状态的看法?我们尚未到达那个阶段,我想我们都同意这一点。
是的,这里存在一个过渡期。没错。这是一个政治哲学中非常重要的话题——转型理论(transition theory)。你是如何看待社会如何导航这一过渡期的?以及你个人又是如何应对的?
我认为这个过渡期极其可怕。我不知道会发生什么,政府也不知道那些制造这项技术的公司也坦诚地表示他们不知道未来会怎样。正如我们之前讨论的,社会影响可能是灾难性的。随着人们失业,可能会爆发革命;作为社会整体,我们可能无法为失去工作的人提供保障,这同样会导致革命。
我们还可能未能找到一种能维持民主的机制,导致大规模剥夺公民权,这在我看来是一个可怕的结果。因为那样一来,人们不仅失去工作保障,连政治权利也会丧失。所以我认为我们需要弄清楚的事情太多了。老实说,我陷入了一种“双重思维”的状态:一方面我在过着正常的教授生活,另一方面我又因看着未来而惊慌失措,甚至不知道该如何准备。我觉得这非常可怕。
正如我之前所说,我们需要从多个维度做好准备。我们必须弄清楚如何保留尊重人的政治制度;必须改变我们的文化,让失业者不再充满羞耻感,能够过上良好的生活。我们需要为人们提供繁荣发展的愿景,这种愿景不应涉及创建新企业或成为优秀的工人等传统路径。
当我们思考如何进入下一阶段时,我们面对的是人类可能很久以来未曾遭受过的规模巨大的危机。因此我们需要做的事情很多。有时我在思考这一阶段时,想到我们之前讨论过的一点:我们需要找到许多本身就具有价值的活动。
近期哲学中有一个有趣的观点,即哲学家基兰·塞塔蒂亚(Kieran Setatia)所称的“无目的活动”(atelic activities)。这是一个古老的概念,源自亚里士多德的《形而上学》Theta卷。他讨论了“energeia”(实现/活动),指的是那些在每一部分都相同、且不指向某个最终终点活动的概念。塞塔蒂亚将这些无目的活动视为经历中年危机者的慰藉。
他指出,中年危机通常发生在人们已经实现或未能在前半生(或前三分之一人生)中达成许多目标时。这些危机往往发生得很早,大约在30岁左右。此时你要么实现了某些东西,要么未能实现它们,因此你的生活缺少你所寻找的那种“终点”。解决方案通常是去寻找那些不需要在某一点完成的活动。
虽然将人类面临的危机简化为塞塔蒂亚式的中年危机显得有些琐碎,但我认为这一观点具有很强的启发性。这很有帮助:它让我们思考人类是否已经在某种意义上完成了我们的工作,并将这些有目的(telic)工作的接力棒传递给了其他实体。现在的问题是如何在生活中找到价值并实现繁荣,这可以看作是一种解决中年危机的方式。
大多数人的中年危机并不伴随世界大战(我担心这会到来)或大规模失业,但可能会伴随着购买兰博基尼或其他豪车等问题。所以确实存在一些“伤亡”,我不想说这是一个完美的模型,但其中某些元素可能具有启发性。
是的,听起来有两个非常直白的中年危机模型:一个是失败,一个是成功。显然在这里我们是在“成功”。我们的中年危机是因为作为一个物种,我们已经克服了许多基本需求。好吧,希望我们能做到这一点。我认为我们还没有完全做到。
我们正在越来越接近那个状态。如果进入最好的情况,如果我们能解决全球贫困问题……是的,有很多事情要做。但这就是我们这个时代充满挑战的原因:即使在最好的情况下,即使我们解决了所有问题(没有《终结者》式的机器人),等待我们的仍然是一个中年危机,但在那之后可能是瓦尔哈拉(荣耀之境)。
我喜欢这样构建这个问题:如果只给我抽象的人类和人工智能,那将是一件极好的事情。出于我们之前提到的所有实用主义原因,我们将不再需要工作,人们只需从事休闲活动。但对于我们要经历的这种过渡期——为了到达这里所必须付出的代价,我不确定我们能否优雅地应对。
这确实令人担忧,我也同意这一点。我很想听听公众的看法,也许观众也会感兴趣:在实践层面我们可以做些什么?我想先分享一个疯狂的设想和两个不那么疯狂的想法。其一,我认为看待人工智能的一种方式是将越来越多的价值赋予社交属性。我觉得这种现象已经初现端倪:随着我们越来越摆脱生存的必然性,各种形式的奢侈品便随之发展。奢侈品的经济价值并不与其使用价值成正比。这里的直觉是,如果你能打个响指就让所有服务和物品为你所用,那么稀缺性可能仅源于社会模仿性的声望稀缺。因此,如果你能学会如何构建社会资本——你和我在职业生涯中都在以不同方式做这件事——这或许比职业本身更具防御性。这是一种直觉,且不仅存在于过渡期。
其二,在我个人生活中,在AI革命前夕我创办了一家快速增长的金融科技初创公司。我曾做过一个目的论式的思想实验:即使这家公司成为价值十亿美元的巨头,我也觉得浪费了二十几岁的时光,因为我热爱哲学。即便成功也是失去;但反观我现在做的事,我从未觉得它会受欢迎或具有经济可持续性。我想:即使只坚持一年,赔光所有钱并失败,不得不夹着尾巴回到硅谷再开一家公司,那也是一种胜利。因为这是内在驱动的(alic)。这种思维方式后来成了我自动且轻松的决策方式,我也以此指导生活:如果没有任何好处我会做这件事吗?即使没人观看这个对话我也会进行,因为超级有趣。
其三,这将带我们进入一个深坑,但我认为许多人类的创造力和天才源于神秘的“下载”。从最伟大的思想家那里可以看到这一点:特斯拉、拉马努金在笔记中,或笛卡尔在他的梦境里。因此我认为即使在生产力方面也存在根本性的差距,我想强调这一点。这就是我应对革命的方式。但我很好奇你在职业生涯中是如何准备的?嗯,我认为为了准备过渡期,我已将大量精力转向AI领域。
我绝对热爱我一直从事的那种哲学研究,放弃它很痛苦。但我感到一种迫在眉睫的危机感和紧迫感去处理这些问题:如AI福利、后生命意义、如何保存民主等。我认为哲学家现在必须思考这些议题。具有专业训练的哲学家感到有一种召唤,去尝试回答一些紧迫的挑战。这通常不是我的工作,但突然间在哲学领域内帮助解决这些非常实际的问题成了我们的责任。为了准备过渡期,我尽量寻找能贡献观点的地方,参与领导者们关于未来的讨论。
我认为在过渡之后会发生什么取决于过渡是否顺利,所以我们还有很多工作要做才能到达那里。是的,我认为你作为哲学家对当前时刻的使命感并非异常现象。回顾哲学史,伟大的哲学家往往出现在危机时刻:苏格拉底和柏拉图在伯罗奔尼撒战争期间,奥古斯丁在西罗马帝国沦陷时;在中国传统中也有两个伟大的生产力时期:战国时代和20世纪。这些都是巨大的动荡时刻,你熟知的世界中心地位被颠覆(如现代化)。现在似乎我们要进入另一个这样的时期,既令人兴奋又可怕。让我们谈谈最后一个话题:该领域的未来去向如何?哲学家在这个新世界中将如何不同地生活或工作?
目前来看,很多方面将保持不变。但等等,我想挑战你这一点:至少我现在做哲学的方式与四年前AI革命前非常不同。例如,每次读书我都会让AI生成章节摘要以便快速浏览;我还有一位随时待命的“活导师”(尽管我对它很怀疑),让我与其探讨想法。我认为变化已经很大了。但这更像是有了一件新软件,并非根本性的转变。我在研究生时期就有自动定理证明器了,当时有人用它来证明定理。在那段时期产生的许多论文都是通过询问公理方案的一致性生成的。
因此,我不会说哲学在那时发生了根本性转变。但现在的文献综述与五年前、三年前相比已大不相同,这是一件大事,在许多方面提高了人们的生产力。因此目前即使做常规工作也有许多收益。正如我们讨论的,有许多新话题和难题需要探讨……
哲学家们正试图探讨技术及其对人类社会的未来影响,我预计随着技术在人类生活中产生越来越深远的影响,这种讨论将持续增长。但在我们进入过渡期的初期,可能会有一段短暂的时期——虽然我不知道有多短——人们依然照常生活和工作。今天下午我将主持一场关于态度报告语义学的常规研讨会,我预计大部分对话都会表现得仿佛什么都没发生过一样,而且我认为这种情况还会持续一段时间。
有趣的是,你在我们谈话开始时描述了一种与你工作相关的恐惧感,这种感受在我几年前刚开始经历这一波浪潮时也曾有过。后来我意识到,只有当我持有一种“生产模式”的哲学观——即认为哲学的核心在于撰写论文、发表文章并逐步获取新知识时,我才会感到这种恐惧。但如果我从一种“塑造性”的哲学观出发,认为哲学的目的是改变我的品格——哪怕我不是第一个认识到勇敢是懦弱与鲁莽之间中庸之道的人,但我希望我是那个通过认知来改变自身品格、从而无所畏惧并欢迎这些AI哲学家的人——那么情况就不同了。
因为如果它们比我差,那其实没什么变化;如果它们比我好,那我就更接近真理了。我真的很想弄清楚来世,很想解决这些宏大的问题。在意识到这一点后,我觉得我的哲学“生产模式”实际上是对哲学最高宗旨的扭曲,哲学的真正目的仅仅是认知真理并践行其中的一部分。我很想听听你的回应。
嗯,我想我可能比你认为的更接近你。在你提到的那篇文章中,我表达了对失去处于前沿地位的悲伤——比如成为第一个理解某事的人。这对我来说依然真实。最近有人写信给我,我觉得那句话很美:能够身处前沿并首次体验那些思想,仍然是一种疯狂的荣幸。但我同意你的观点,最终的重点不一定在于“第一”,而在于拥有理解。因此,虽然我的职业工作是生产知识,但其背后的根本价值是获取知识;如果我们通过依赖AI来获得它,那么真正的价值在于拥有这些知识。
我认为我们可能存在分歧的地方——这也可能构成了你语气的基础——是我认为我所做的哲学的核心角色是生产知识,而根据我观看的其他类似内容的创作者的表现来看,你似乎更倾向于认为哲学是转变我们的品格之类的事情。我并不太在乎我们如何称呼“哲学”。如果我们想把品格的转变纳入这一事业中,那对我来说没问题。但我想问:你不认为这最初的目的就是如此吗?也不认为这种生产知识的做法是近代才加入的吗?
“现代”并不意味着它是坏的,它可能是现代的且更好的。但看起来我们似乎必须将生产知识纳入哲学,而不将品格转变纳入哲学。我想听听你是如何思考苏格拉底的。众所周知,苏格拉底确实有一种智识主义的德性观,即知道善是重要的。但当苏格拉底寻求各种事物的定义时,他这样做是因为他认为知道了定义就能改变他的品格吗?我的直觉是也许不是直接的,但他已经经历过足够的“马戏团”式的生活而知道这一点。通过追求这类知识主张,我当然是在投射——当我调查一个似乎与我的品格毫无关系的形而上学定理时……
我获得了一些深刻的东西。你怎么看待亚里士多德对生物学的研究?当然,亚里士多德有一种人性观,他认为沉思是一种非常高的善,但这并不意味着……这又绕回来了。不,不,我在给你提供一个论点,因为我原本想说:沉思是我们品格的核心部分,然后你可能会很好地表述它——那就是生产知识。对,对。所以它们是交织在一起的,但我想推动你思考的是:什么是主要的?也许我在这里想的是更东方的传统。佛陀在巴利三藏中被问及所有这些形而上学问题时,他说:如果你被箭射中,你会问是谁做的箭吗?这箭是用什么材料制成的吗?
当我进行调查时,只有当我认为有明确的伦理后果时,我才会被引向形而上学。比如佛教徒认为关于空性庞大且高度发展的形而上学具有真实的伦理后果和语义后果。我调查是否存在第一步,是因为我认为这将帮助我决定一神论上帝在多大程度上是可能的。由此衍生出许多伦理问题。
首先,你之前提到过杜斯妥也夫斯基《卡拉马佐夫兄弟》中的例子,其中谈到一些看似荒谬、不切实际的问题,但最终变得实用。所以我认为在哲学内部也有许多问题最初看起来没有任何伦理含义,而纯粹是关于现实本质的。比如本体论(你口误说成myology),谁会关心那个呢?结果它却成为关于物质对象持久性乃至人类潜在持久性的辩论的核心。看起来哲学中有很多领域……
这些理论有时是哲学家基于对某个根本性、基础性问题的初始兴趣而自发发展的。在哲学中,那些看似高深莫测的理论发展往往最终会回归到更核心的领域。比如当你开始思考“属性”这一概念时,你可能会认为这仅仅是关于属性的纯粹形而上学推测。但随后你会发现,你对属性的理解构成了你思考因果关系的基础;而你对因果关系的看法,又是你思考心理因果关系(mental causation)的关键。这样一来,我们又回到了那些大家普遍认同且认为重要的议题领域。
对此,我想做一个防御性的回应:我坚持认为哲学的核心在于通过理解世界来过上繁荣充实的生活。我也同意亚里士多德的观点,即对于我个人而言,构成这种“繁荣生活”的关键要素是对世界的理解——也就是让自己在世界上感到自在。如果我不了解事物的形而上学结构,我会感到不自在;但更严重的是,如果我深受痛苦且无法解决它,我也会感到极度不自在。因此,我选择探讨哪些理论问题,是基于其伦理后果来决定的。
我并不反对纯粹的形而上学推测本身,我真正不同意的是将“生产”(production)视为首要目标的理念。我们似乎达成了一种共识,即这种对生产的强调只是当前学术机构的副产品。当前的制度侧重于通过保障我们作为社会成员持续获取理解来激励人们工作,但这不应成为哲学的终极目标。
我强烈反对那种认为我们已获得的理解毫无价值的观点。我认为哲学在过去一个世纪里,在拓展我们对不同探究维度的理解方面取得了奇迹般的进展。这些成果在我们继续思考诸如伦理学等核心问题时,仍将保持重要性。我同意“生产”并非终极目标这一观点,但这只是当前制度为了激励人们探索问题、从而为群体带来发现之富饶的一种手段或产物。
我同意哲学不仅仅包含那些具有明确伦理或认识论关切的问题,这更多是我个人从事哲学的风格,而非哲学必须如此做的唯一方式。但我认为大多数古代哲学家相信这两者之间存在松散的因果联系:从事后者(理论探究)最终会造福前者(伦理生活)。这也是为什么这门学科如此珍贵。
这就好比生物学,当我从事哲学研究时——哪怕是形而上学而非伦理理论——我能获得一种仅通过了解甲虫交配方式所无法得到的满足感。这或许是因为哲学涵盖的范围极广,但也因为其中蕴含的独特价值。
我认为哲学的奇迹之处在于其问题的普遍性。虽然我很热爱哲学,不会劝你放弃这份热情,但那种从第一原则出发、涵盖人类理性所能包容的巨大尺度的探究过程令人惊叹。然而,我强烈反对一种观点,即认为“真正的哲学”是实用哲学,而分析哲学家只关注理论问题。这种看法往往带有贬义,但我认为柏拉图、亚里士多德甚至伊壁鸠鲁派都痴迷于理论问题,并看到了它们与其他方面的紧密联系。
最后一个问题是:你如何看待哲学的这两个组成部分?一是提升个人生活和品格的智慧,二是我们称之为“理解世界”的部分。这两者在你身上是如何体现的?我认为我的职业角色和教师职责主要在于后者——即帮助人们理解世界。
我不认为存在一种关于“人如何自我提升”的科学,我也不认为自己有责任去灌输某种特定的道德生活愿景或美德标准给任何人。大学也不应试图系统地训练人们成为特定类型的人,否则可能会培养出邪教领袖而非优秀教师。因此,大学和分析哲学一直专注于科学和理解层面,这对于教学机构来说是合理的。
但我同意,过好生活的一部分在于努力成为更好的人,哲学在这方面可以发挥作用。虽然这不是我投身哲学的唯一原因,但我确实认为它增加了这门学科整体的丰富性和深度。(音乐声)
非常感谢哈维。 也非常感谢。