技术乐观主义者和末日论者在硅谷展开的关于AI潜藏的危险的激烈辩论

如今，在推出ChatGPT一年多之后，2023年最大的AI故事可能与其说是技术本身，不如说是OpenAI董事会对其快速发展的戏剧性报道。在奥特曼被赶下台并随后复职担任CEO期间，GenAI进入2024年的潜在紧张局势显而易见：AI处于巨大分歧的中心，一方是完全接受其快速创新步伐的人，另一方是由于涉及的许多风险而希望它放缓的人。

这场在科技界被称为e/acc vs.Decels的辩论自2021年以来一直在硅谷流传，但随着AI在权力和影响力上的增长，理解分歧的双方变得越来越重要。

以下是一些关键术语的入门读物，以及一些塑造AI未来的知名参与者。

e/acc与技术乐观主义

术语“e/acc”代表有效的加速主义。

简而言之，那些支持e/acc的人希望技术和创新尽可能快地发展。

这一概念的支持者在关于e/acc的第一篇帖子中解释道：“科技资本可以带来意识的下一次进化，创造不可想象的下一代生命形式和基于硅的意识。”

在AI方面，“AI”，或称AGI，是这里辩论的基础。AGI是一种超级智能的AI，它非常先进，可以做得和人类一样好，甚至比人类做得更好。AGI也可以改进自己，创造一个无限的反馈循环，具有无限的可能性。

一些人认为AGI将拥有直到世界末日的能力，变得如此聪明，以至于它们找到了如何消灭人类的方法，但e/acc的爱好者选择关注AGI可以提供的好处。创始的e/acc子栈解释说：“没有什么能阻止我们为活着的每一个人创造财富，除了这样做的意愿。”

e/acc Start的创始人一直笼罩在神秘之中，但是@basedbeffjezos，可以说是e/acc最大的支持者，最近在他的身份被媒体曝光后透露自己是Guillaume Verdon。

Verdon之前曾在Alphabet、X和谷歌工作，现在他正在致力于他所说的“AI曼哈顿项目”，并在X上说：“这不是e/acc的结束，而是一个新的开始。在这里，我可以站出来，让我们的声音在X之外的传统世界被听到，并利用我的资历为我们社区的利益提供支持。”

Verdon也是科技初创公司Extrotic的创始人，他将该公司描述为“通过利用热力学物理，在物理世界中为生成性AI构建终极基础。”

顶级风投的AI宣言

最著名的e/acc支持者之一是安德森-霍洛维茨公司(Andreessen Horowitz)的风险投资家马克·安德森，他此前曾称韦尔登为“科技乐观主义的守护神”。

技术乐观主义就像它听起来那样：信徒认为更多的技术最终会让世界变得更美好。安德森撰写了《技术乐观主义宣言》，这是一份5000多字的声明，解释了技术将如何赋予人类力量，并解决所有物质问题。安德森甚至说：“AI的任何减速都会以生命为代价”，如果不发展到足以防止死亡的程度，这将是一种“谋杀形式”。

他写的另一篇技术乐观主义文章《为什么AI将拯救世界》被Meta的首席AI科学家Yann LeCun转发，他因在AI方面的突破而获得著名的图灵奖，被称为“AI教父”之一。

LeCun在X杂志上给自己贴上了“人文主义者”的标签，他认同积极的和规范的积极技术乐观主义。

LeCun最近表示，他预计AI在很长一段时间内都不会到来，他在公开场合与那些他所说的“怀疑当前的经济和政治机构，以及整个人类是否有能力永远使用AI”的人形成了鲜明的对比。

Meta对开源AI的拥抱奠定了LeCun的信念，即这项技术将提供更多的潜力，而不是有害的，而其他人则指出了像Meta这样的商业模式的危险，这种模式正在推动将广泛可用的新一代AI模型置于许多开发者手中。

AI协调和减速

今年3月，Encode Justice和未来生活研究所(Future Of Life Institute)发表了一封公开信，呼吁“所有AI实验室立即暂停对比GPT-4更强大的AI系统的培训至少六个月。”

这封信得到了科技界知名人士的支持，如埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克。

OpenAI的CEO奥特曼在4月份的一次麻省理工学院活动中发表了这封信，他说：“我认为谨慎行事，对安全问题越来越严格真的很重要。我认为这封信不是解决这个问题的最佳方式。”

当OpenAI董事会大戏上演时，奥特曼再次卷入了这场战斗，OpenAI非营利性部门的原始董事们越来越担心进展的速度及其宣称的使命，即确保通用人工智能-通常比人类更聪明的AI系统-造福全人类。

公开信中的一些想法是减速的关键，也是AI减速的支持者。Decel希望进展放慢，因为AI的未来是危险和不可预测的，他们最大的担忧之一是AI的一致性。

AI协调问题解决了这样一种想法，即AI最终将变得如此智能，以至于人类将无法控制它。

“我们作为一个物种的统治地位是由我们相对优越的智力驱动的，这给其他物种带来了有害的后果，包括灭绝，因为我们的目标与他们的目标不一致。我们控制着未来——动物园里有黑猩猩。先进的AI系统也同样可以影响人类。“机器智能研究所的CEO Malo Bourgon说。

AI协调研究，如MIRI的，旨在训练AI系统，使其与人类的目标、道德和伦理相结合，这将防止对人类的任何生存风险。“核心风险在于创造比我们聪明得多的实体，目标错位，其行动不可预测和无法控制。”Bourgon说。

政府和AI的世界末日问题

战略风险委员会CEO、前五角大楼官员克里斯汀·帕特莫尔将她的职业生涯献给了降低危险情况的风险，她最近告诉记者，当我们考虑到AI如果被用来监督核武器可能导致的“大规模死亡”时，这是一个需要立即关注的问题。

但她强调，“盯着问题看”不会有任何好处，“关键是要解决风险，找到最有效的解决方案，”她说。她补充说：“这是一项纯粹的两用技术。没有哪种情况下，AI更像是一种武器，而不是一种解决方案。”例如，大型语言模型将成为虚拟实验室助手，加快医学进程，但也会帮助邪恶的行为者识别最好、最具传播性的病原体用于攻击。这是AI无法阻止的原因之一，她说。“放慢速度不是解决方案的一部分。”帕特莫尔说。

今年早些时候，她的前雇主国防部在使用AI系统时表示，循环中永远会有一个人。她说，这是一种应该在任何地方都采用的协议。“AI本身不可能是权威，”她说。我们需要信任这些工具，或者我们不应该使用它们，但我们需要将它们与环境联系起来。人们普遍缺乏对这个工具集的了解，因此过度自信和过度依赖的风险更高。

政府官员和政策制定者已经开始注意到这些风险。今年7月，拜登-哈里斯政府宣布，它已获得AI巨头亚马逊、Anthropic、谷歌、Inflect、Meta、微软和OpenAI的自愿承诺，将“朝着安全、可靠和透明的AI技术发展方向迈进。”

就在几周前，拜登总统发布了一项行政命令，进一步建立了AI安全和安保的新标准，尽管社会上的利益攸关方团体对其局限性感到担忧。同样，英国政府在11月初引入了AI安全研究所，这是第一个专注于导航AI的国家支持组织。

在全球对AI霸主地位的争夺中，以及与地缘政治竞争的联系中，中国正在实施自己的一套AI护栏。