让你做短视频，你科普黑暗森林 第142章 超级人工智慧

“我们所期望找到的最先进的外星文明，是否可能已经不再是 “真正的生命体”？”

“我们人类自己，是否正走向一个 “感知能力可选项” 的未来？太空中是否散落著那些帝国的残骸，而这些残骸的每一部分都像过去一样 “鲜活且危险”？”

“我思考了一个很有趣的观点，现在將它展示给各位，內容如下：”

“殭尸人工智慧或许能解释 “宇宙的大寂静”，原因是：技术发展遵循 “从易到难” 的规律，这一规律也適用於人工智慧 —— 人工智慧会从简单向更复杂发展。”

“这其中隱含的意思是：“技术奇点”不太可能在一夜之间出现；每一种更新、更复杂的人工智慧技术叠代，都需要经过一段相当长的时间才能实现。”

“每一种更新、更复杂的人工智慧技术叠代，都需要经过一段相当长的时间才能实现；而且，一个智能种族 “不按顺序” 发展这些技术的可能性几乎为零。”

“因此，在发展出 “感知型超级智能之前，一个文明必然会先发展出 “殭尸超级智能”—— 这种殭尸超级智能可能强大到足以 “逃离控制”，並通过故意、意外或漠不关心的方式 “杀死” 其创造者，但它本身並不具备自我认知能力。”

“之后，这个文明才可能发展出 “感知型超级智能”—— 这种智能足够复杂，能够自我扩展，並像理性的生物实体一样行动，从而满足 “戴森困境”的要求。”

“而且，只有当这个文明成功克服了这些初始障碍后，他们才有可能开展足够的 “人工智慧对齐”和控制研究，从而避免被自己创造的人工智慧毁灭。”

“简而言之，危险的殭尸人工智慧会先於危险的感知型人工智慧出现；而只有在这两种危险人工智慧都出现之后，真正全面的 “安全人工智慧创建和使用方法” 才有可能被开发出来。”

“这一推理遵循了 “排他性原则”。”

““不按顺序” 发明这些技术的可能性极低。需要提醒的是，在费米悖论的背景下，“排他性” 指的是：任何涉及 “行为” 的解决方案，都必须 “普遍適用” 或 “几乎普遍適用”。”

“例如，如果某个解决方案认为 “所有文明最终都会趋向於某种特定行为”（比如避免殖民太空），那么就必须有充分的理由来解释为何这种行为的 “例外情况” 极其罕见。”

“否则，该解决方案就会因 “非排他性” 而失去解释力。”

“举个例子：能够进行星际旅行的文明，都必然受限於基础数学和物理的基本知识（这是 “普遍適用” 的）”

“但他们是否喜欢棒球，却与他们探索太空的能力无关（这是 “非普遍適用” 的）。”

“同样，儘管某些经济或政治体系可能更有利於实现太空殖民或长期存续，但我们知道，在不同的体系下，文明都有可能进入太空。”

““太空竞赛” 就是一个明確的例证 —— 资本主义国家（美国）和社会主义国家（苏联），都在太空探索领域取得了重大进展。”

“同样，民主国家、寡头国家和共和国，也都证明了自己有能力发展太空计划。因此，在 “能够进行星际旅行的文明” 这一范畴中，上述经济或政治体系都不具备 “排他性”。”

“当然，我们也可以设想一些 “例外情况”。”

“例如：某个文明源自 “天生就能进行太空旅行的物种”—— 这类物种进化於小行星带或行星环中。”

“同样，我们也可能设想 “所有智能文明最终都会趋向於某种特定的政治或经济体系”。但这些都只是用於阐释 “排他性” 概念的例证，它们並不需要是 “完美的规则”。”

“即便在某个星系中，每一百万个人类文明中只有一个 “打破常规”，且该星系中仅出现过少数几个文明，那么在我们整个超星系团中，也可能存在至少一个 “例外”。”

“此外，即便某个文明比我们早十亿年发展，且正以接近光速的速度扩张以殖民所有星球，我们目前也很可能无法观测到它们 —— 这种可能性非常高。”

“罗伯特认为，他提出的 “殭尸人工智慧先於感知型人工智慧出现” 的观点，並不违反 “排他性原则”—— 因为感知型人工智慧理应在殭尸人工智慧之后出现，而真正安全的这两类人工智慧，都只能在 “危险版本” 之后才会出现。”

“因此，一个文明最有可能被殭尸人工智慧毁灭。”

“他还认为，基於我们之前討论过的原因，殭尸人工智慧不太可能被归为 “喧闹的外星人”。”

“即便它们具备太空旅行能力，也只是通过 “微弱、简单的探测器” 来实现；而如果它们不具备太空旅行能力，就可能只是 “统治著自己的母星”，像狮子或大象一样，没有向太空探索的倾向。”

“此外，殭尸人工智慧的创造者，想必也不会 “完全无能”，因此，殭尸人工智慧被设计成 “容易发生突变或自我损坏” 的可能性非常低。”

“此外，殭尸人工智慧的创造者，想必也不会 “完全无能”，因此，殭尸人工智慧被设计成 “容易发生突变或自我损坏” 的可能性非常低。”

“正如我常说的：在创造人工智慧这件事上，只有 “天才”才蠢到足以把我们所有人都害死，而其他人根本造不出能毁灭我们的工具。”

“我们经常会设想 “灰色粘质”这类场景：自我复製的纳米机器人將一颗行星变成由它们自身构成的 “播种海洋”。”

“人们常常將这种场景与地球早期生命的演化进行对比 —— 地球早期生命遍布全球，並最终通过光合作用等过程改变了地球环境，为包括人类在內的更复杂生命形式的出现铺平了道路。”

“然而，如果自我复製机器人像早期生命那样容易发生突变，那么从 “灰色粘质” 中进化出 “智能体” 可能需要数十亿年的时间。”

“但这种情况似乎不太可能发生 —— 因为任何设计这类机器的人，都可能已经掌握了关於进化和突变的知识，也可能接触过警告 “失控人工智慧” 或 “失控机器人系统” 的科幻作品。”

“因此，有理由认为，人们会採取措施来防止不必要的突变，例如：提高复製精度、设置 “纠错算法”，以及安装物理防护装置以確保 “高保真复製”—— 这些措施都能將突变风险降至最低。”

“殭尸人工智慧，为费米悖论提供了一个合理且发人深省的解决方案。”

“它表明，“宇宙的大寂静” 可能是文明 “败给自身技术野心” 的结果。”

“因此，在我们继续发展先进人工智慧的过程中，必须谨慎行事。宇宙之所以寂静，或许並非因为缺乏智能，而是因为 “没有意识的智能” 可能会成为自身最大的敌人。”

“我认同这一观点，它是近年来我听到的关於费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”

“首先，这一观点假设 “人工智慧的发展存在必然的先后顺序”。”

“由於我们可以说 “已经拥有了基础的殭尸人工智慧，且已经拥有一段时间了，但尚未拥有感知型人工智慧”，因此得出 “感知型人工智慧在殭尸人工智慧之后出现，而非之前” 的结论，似乎是合理的。”

“但该推理的第二部分 ——“若不先遭遇危险的人工智慧，就无法拥有安全的人工智慧”—— 则似乎有些牵强。”

“对费米悖论而言，“潜在危险的人工智慧” 並非关键，只有那些 “真正脱离控制、要么毁灭其创造者、要么造成巨大破坏以至於永久改变文明轨跡（使其无法成为『喧闹的外星人』）” 的人工智慧，才与费米悖论相关。”

“我並不认为这种 “危险→安全” 的发展顺序是 “必然的”。”

小米免费小说网站最新地址：www.071662.com