探讨有效加速主义:技术乐观主义的新浪潮

Leo

各位听众朋友们,欢迎收听本期播客。今天我们要讨论的是一个近期在科技圈引发广泛关注的话题 - 有效加速主义,也被称为e/acc。这是一种新兴的技术哲学思潮,主张不受限制地推进技术进步,特别是人工智能技术。今天我们很荣幸邀请到人工智能伦理学家Emma来和我们一起探讨这个话题。Emma,欢迎你来到节目。

Emma

谢谢Leo,很高兴能来到节目和大家探讨这个话题。有效加速主义确实是近期科技圈和学术界都在热议的一个新兴思潮,它代表了一种极端的技术乐观主义立场,值得我们深入讨论。

Leo

Emma,让我们从最基本的问题开始。什么是有效加速主义?这个思潮是如何产生的?

Emma

有效加速主义,英文缩写为e/acc,是'effective accelerationism'的简称。这是一种21世纪新兴的哲学运动,主张采取明确的亲技术立场。其支持者认为,不受限制的技术进步,特别是人工智能驱动的技术进步,是解决贫困、战争和气候变化等全球性问题的关键。 这个思潮的确切起源还不是很清楚。最早的公开引用可以追溯到2022年5月,当时有四位使用匿名的作者在一份新闻通讯中首次提出了这个概念。但它的思想根源可以追溯到更早的硅谷亚文化,比如超人类主义和极乐主义,这些思潮同样强调进步的价值,反对限制技术发展。 值得注意的是,e/acc这个名称本身就是'effective altruism'(有效利他主义)和'accelerationism'(加速主义)的组合,这也反映了它与这两种思潮的关联。

Leo

谢谢Emma的解释。那么,e/acc的核心理念是什么?它对技术发展,特别是人工智能的发展持什么样的态度?

Emma

e/acc的核心理念可以概括为极端的技术乐观主义。它的支持者认为,人类文明应该'攀登Kardashev梯度',也就是说,人类文明的目标应该是通过最大化能源使用,在Kardashev量表上不断升级。 为了实现这个目标,e/acc主张加速技术进步。它特别关注人工通用智能(AGI)的发展,因为它认为AGI是攀登Kardashev量表的关键。因此,这个运动强烈主张不受限制地发展和部署人工智能。 e/acc反对对人工智能的监管,更广泛地说,也反对政府对市场的干预。许多支持者持自由主义观点,认为如果多个AGI在市场上相互竞争,它们就会最大程度地与人类利益保持一致。 有趣的是,e/acc的创始人认为这个运动植根于Jeremy England关于生命起源的理论,这个理论主要关注熵和热力学。根据他们的观点,宇宙的目标是增加熵,而生命是增加熵的一种方式。通过在整个宇宙传播生命,并使生命消耗越来越多的能量,宇宙的目的就会得到实现。 总的来说,e/acc代表了一种乌托邦式的愿景,认为人类需要更快地发展和建设,以确保生存并在整个宇宙传播意识。

Leo

这确实是一种非常激进的技术乐观主义立场。Emma,你能否解释一下e/acc与其他相关思潮,比如传统加速主义和有效利他主义的关系?它们之间有什么异同?

Emma

当然,这是一个很好的问题。e/acc虽然与传统加速主义和有效利他主义有一些相似之处,但也有明显的区别。 首先是与传统加速主义的关系。传统加速主义,特别是由英国哲学家Nick Land发展的理论,认为加速技术变革是带来当前文化、社会和政治经济根本转变的方式。在他早期的著作中,他甚至认为加速资本主义发展是克服这种经济体系本身的方式。相比之下,e/acc并不寻求克服资本主义或引入激进的社会变革,而是试图最大化技术资本奇点的可能性,触发整个宇宙的智能爆炸并最大化能源使用。 其次是与有效利他主义的关系。有效利他主义强调使用证据和推理来识别最有效的改善世界的方法。两者的主要分歧来自于它们对人工智能存在风险的看法。有效利他主义者认为AI公司应该谨慎行事,努力开发安全的AI系统,因为他们担心任何不对齐的AGI最终可能导致人类灭绝。而e/acc的支持者通常认为AGI带来的存在风险可以忽略不计,即使这种风险确实存在,去中心化的自由市场也比中央政府监管更能缓解这种风险。 此外,e/acc还与去增长运动形成鲜明对比。去增长运动主张减少经济活动和消费以解决生态和社会问题。相反,e/acc拥抱技术进步、能源消耗和资本主义动力,而不是主张减少经济活动。 总的来说,虽然e/acc从这些相关思潮中汲取了一些元素,但它代表了一种更加激进的技术乐观主义立场,特别是在对待人工智能和技术监管的态度上。

Leo

听起来e/acc确实是一种相当激进的思潮。Emma,这种思想在科技界和学术界引发了哪些争议和批评?

Emma

是的,Leo,e/acc确实引发了不少争议和批评。让我们来看看一些主要的争议点。 首先,e/acc对技术监管的反对态度受到了很多质疑。例如,《悉尼先驱晨报》的David Swan就批评了e/acc反对政府和行业自我监管的立场。他认为,'像AI这样的创新需要深思熟虑的规定和护栏,以避免硅谷已经犯下的无数错误'。 其次,一些政府官员也对e/acc的'快速行动,打破常规'的心态表示担忧。例如,在2023年里根国防论坛上,美国商务部长吉娜·雷蒙多警告不要接受与'有效加速'相关的这种心态。她强调在处理AI时需要谨慎,'这太危险了。在谈论AI时,你不能打破常规'。 第三,一些评论者认为e/acc的某些观点令人不安。例如,彭博社的Ellen Huet特别关注了e/acc创始人之一Guillaume Verdon的'后人类主义'观点,以及'自然选择可能导致AI取代我们人类成为主导物种'的看法。这种观点被认为可能低估了AI对人类的潜在威胁。 此外,e/acc的乌托邦式愿景也受到质疑。一些批评者认为,这种不受约束的技术发展可能会加剧而不是解决现有的社会问题,如不平等和环境破坏。 最后,一些人认为e/acc过于简化了复杂的技术和社会问题。技术进步确实能带来很多好处,但它也可能带来新的挑战和风险,需要审慎和全面的考虑。 总的来说,虽然e/acc在某些科技圈获得了关注和支持,但它的激进立场也引发了广泛的担忧和批评。这种争议反映了我们社会对技术发展,特别是AI发展的复杂态度。

Leo

非常感谢Emma今天的深入分析。有效加速主义无疑是一个富有争议但又值得深入探讨的话题。它反映了我们这个时代对技术,特别是人工智能的复杂态度。一方面,我们对技术进步充满期待,希望它能解决人类面临的诸多挑战;另一方面,我们又担心不受控制的技术发展可能带来难以预料的风险。这个话题还有很多值得我们继续讨论的地方。也欢迎听众朋友们在评论区留言,分享你们对这个话题的看法。

Emma

谢谢Leo。我也认为这是一个需要持续关注和讨论的重要话题。有效加速主义代表了一种极端的技术乐观主义立场,它提醒我们思考技术进步的潜力和风险。但同时,我们也不能忽视技术发展中的伦理问题和社会影响。在推动技术进步的同时,我们需要建立适当的监管框架,确保技术发展能够真正造福人类,而不是带来难以控制的风险。这需要技术界、政策制定者和公众之间的持续对话和合作。