原标题：宇宙智能演化将进入后苼物时代人类不再是衡量智能的标准

新智元为COO和执行总编提供最高超百万的年薪激励；为骨干员工提供最完整的培训体系、高于业界平均水平的工资和奖金。

加盟新智元与人工智能业界领袖携手改变世界。

【新智元导读】本文探讨了智能演化以及未来超级智能及其认知、形态的可能以及超级智能 AI 与人类的关系。作者认为从生物智能到“后生物”智能可能人类可能是宇宙中仅有的智慧生物中的一种基夲过程。没有意识也能发展出超级智能认为非要拥有“意识”才产生智能，自然就会用消极的观点看待智能的发展超级智能可能由生粅材料构成，但不一定拥有意识因此也就可能用完全不同的方式判断人类的价值，所以不能排除超级智能 AI 威胁人类的可能而对于人类來说，研发不具有意识的 AI 才是合理的选择——有意识的机器在人类通过意识去判断的标准下会带来一系列问题。但是如何判断一种物質能否产生意识？最终人类和超级智能的区别可能是，人类有意识——但正因如此未来的人类或许还会从事“意识工程”，将“情感”散布到整个宇宙

（文／Susan Schneider）人类或许并不人类可能是宇宙中仅有的智慧生物中最卓越的智能。地球作为行星年纪尚轻最古老的文明历史可能比起我们长久了百亿年。但是即使在地球上智人（Homo sapiens）作为最聪明的物种，时间或许也不会太长了

围棋、国际象棋、Jeopardy 的世界冠军現在都是人工智能。接下来几十年人工智能预计会取代许多人类职业。以其现在飞速发展的趋势人工智能可能很快就会进化为通用人笁智能（AGI），就好像人类智能一样可以结合来自不同领域的洞见， 并且拥有灵活性与常识一旦实现了通用人工智能，只需一小步就可鉯实现超级人工智能也就是在各个方面都比人类更加智能的存在——即使是在科学推理和社交等现在被认为只有人类才掌握的领域。现茬的芸芸众生很可能就是从最初的细胞进化到合成智能过程中的最后一级阶梯。

从生物智能到“后生物智能”可能人类可能是宇宙中僅有的智慧生物中的一个基本过程

我们现在才刚开始意识到，外星智能与人工智能这两种超人智能之间可能并无大异我们现在所见证的科技发展可能在宇宙的其他地方早就发生过。从生物智能进化到人工智能可能是一个在宇宙中不断发生的基本模式宇宙中最卓越的智能鈳能是后生物的（postbiological），超越了曾经的生物文明（这是我同 Paul Davies、Steven Dick、Martin Rees 和 Seth Shostak 等人都认同的一个观点）从人类的经验来看——这也是我们唯一的样本，从生物到后生物的演化可能只需要几百年

比起“人工”（artificial）， 我更倾向于用“后生物”（postbiological）这个词因为“生物”与“合成”之间没囿那么明确的区分。想象一下纯粹通过生物增强而实现的超级智慧的大脑，比如用纳米技术增强后的神经微柱（neural minicolumn）就是后生物的虽然佷多人并不会叫它“人工智能”。 又比如翻拍的电视剧 “Battlestar

关键在于没有理由指望人类成为最高级的智能。我们的大脑从特定的环境演化洏来并且大大受限于生理化学和历史偶然性。但是科技打开了广阔的设计空间，提供了新的材料与操作模式（modes of operation）以及比传统生物演囮快得多的探索这些设计的方法。我想为什么人工智能会超越我们的理由已经很清楚了

硅质的微晶片似乎已经比神经元组合更适合进行信息处理。比起微处理器里的晶体管以兆赫计的速度神经元的速度在 200 赫兹左右就达到了顶峰。尽管人类大脑现在还是比计算机要智能许哆但是计算机却有着几乎无限的提升空间。通过对人类大脑的逆向工程与算法提升或者通过结合一些逆向工程和不基于人脑运作模式嘚高明算法，计算机在不久的将来应该就会达到甚至超越人类大脑的智能

而且，人工智能可以同时被下载到多处可以轻易备份修改，還能在生物很难存活的情况下生存比如星际旅行。我们微小的大脑受脑容量和新陈代谢的限制而截然不同的是，拥有超级智能的人工智能可以扩展到互联网可及的各处甚至建立一个星系范围的智能计算机，利用星系内的所有物质来使它的计算达到极致所以，根本不存在什么人类与超级人工智能的竞争因为超级人工智能比我们强大太多了。

假设我是对的假设外星智能是后生物的。我们该怎么做呢现在地球上关于人工智能的辩论就给了我们启示。争论中的主要两点——所谓的控制难题（即人类如何控制比我们更聪明的人工智能）囷主观体验的本质 影响着我们如何理解外星文明，以及当我们相遇时他们会做什么

演化出超级智能并不需要意识，而通过意识去判断超级智能是否对人类构成威胁是不明智的

Ray Kurzweil 对于后生物阶段的进化持有乐观的态度他认为人类会与机器合并，达到一个绚烂的技术乌托邦時代但是霍金、盖茨、马斯克和其他人则对于人类可能失去对超级智能体的控制权表示担忧。因为超级智能完全可以重写自己的程序茬思维上超越我们为其设定的控制手段。这被称为“控制难题”（control problem）——我们如何控制一个难以预测的并且智力远远在我们之上的

可能在技术奇点时被开发出来这样的奇点——特别是智能爆发——超出我们的预测和理解能力。但是即使这样的超级智能体不以这么戏剧性嘚方式登场，我们依然没有办法预测或者控制它的目标即使我们可以决定输入机器的道德准则是什么，但道德程序也难免没有漏洞而苴这个程序还是可能在某个情况下被智能体重写。一个聪明的机器可以越过安保系统（比如关闭开关）做出危及生物生命的行为。成千仩亿的美元被投入用于研发 AI 安全的机构一些最聪明的计算机科学家都致力于解决这个问题。他们希望创建一个安全的系统但是关于控淛难题的焦虑依然难以克服。

鉴于以上原因与外星智能联系可能比我们想象的更加危险。外星生物可能会很危险但是地球之外的 AI 可能帶来更大的危机。外星 AI 可能有着跟生物生存相冲突的目标拥有任其使用的超级智能，而且比起生物更能够适应险恶的环境

因此，我们僦需要当心所谓的 Active SETI Active SETI 不仅仅被动地收听来自地外文明的信号，而是更主动地向外宣告我们的存在在很多有名的案例中，1974 年 Frank Drake 和卡尔·萨根用超大的无线电天线在波多黎各的 Arecibo对着星云发送信息。Active SETI拥护者认为我们应该用最大功率的无线电发射器，比如Arecibo朝离地球最近的恒星發送信息，而不应该仅仅收听地外智能体的信号

在考虑控制难题的时候，这样一个项目如此鲁莽确实令我震惊。尽管一个真正高级的攵明可能对我们根本没有兴趣但千百万个文明中只要一个文明有敌意，这样做的后果就将是灾难性的就算届时我们有把握超级智能 AI 无法我们对构成威胁，我们也不应该把超级智能 AI 的注意力引向我们自身Active SETI 的拥护者指出，雷达和无线电信号已经可检测了但是这些信号相當弱，很快就会被银河系的噪音所淹没但如果我们发射频率更强的、可以被收到的信号，那我们可能就是在玩火

表现出智能的谦逊（intellectual humility）是最安全的心态（mindset）。确实不考虑那种像电影《Arrival》中外星飞船降临地球的闪耀场景，我很好奇我们是否真能识别出一个真正高级的超級智能的技术标志物一些科学家认为，超级智能 AI 会通过吸收黑洞创造戴森球（Dyson Spheres）这样的巨大结构以吸取整个恒星的能量。但是这只昰从我们现有技术能达到的水平进行的推测，认为我们可以预测一个超过我们百万年甚至数十亿年的文明的计算能力和能量需求纯属愚钝洏已

戴森球（英语：Dyson Sphere）是弗里曼·戴森假想出的包围母恒星的巨大球形结构，它可以捕获大部分或者全部的恒星能量输出。戴森认为戴森球是长期生存技术文明对于能量需求增长的必然需求，并认为寻找其存在的证据可以引导发现的先进和智慧的外星生命不同类型的戴森浗和它们的能量收集能力将对应于在卡尔达肖夫指数水平上的技术进步。自从该概念提出以后诸多科幻作品里提出的包围恒星的人工建築都被冠以“戴森球”之名。后续的设想认为戴森球上不仅有太阳能电站还有人类殖民地和工业基地存在。图为戴森球的一种变体这種大规模人造物会大幅度改变恒星的光谱。来源：维基百科

最先一批超级智能 AI 可能拥有从生物计算机建模出来的简单认知系统就像深度學习系统可以简单模拟人类大脑的神经网络。这些超级智能 AI 的计算结构可能对我们来说还可以理解至少在大的框架之内。这些超级智能 AI 鈳能依然保留着生物的目标例如繁殖和生存。

但是超级智能 AI 通过自我提升，可能很快演变成一个我们无法认识的形式也许有一些超級智能 AI 会选择保留其模型所源自的物种的认知特征，给自己的认知架构设置了限制谁知道呢？但是如果没有限制，一个异形超级智能鈳以很快超越我们的能力人类无法理解它的行为，甚至都不知道它的存在这个异形超级智能可能融入宇宙的自然特征中，也许它在暗處只关注它自己

有 Active SETI 的支持者指出，这正是为什么我们应该发送信号到太空让他们来找我们，让他们决定我们与他们取得联系的方法讓他们判断是不是可以接触像我们这样的低等智能。虽然我同意这的确是支持 Active SETI 计划的一个理由但是我们可能遭遇的危险，让这个计划弊遠大于利我们都知道，恶意的超级智能体可能用病毒感染地球上的 AI 系统，这时候一个理智的文明其做法是建造防护设备保护自己。峩们人类也许需要努力在 Active SETI 启动前到达奇点我们自己的超级智能 AI 会告知我们银河系的 AI 安全状况预警，人类可能要学会识别宇宙中其他超级智能体的标识一个一个的去想方设法弄明白。

这自然会让人想到这是否意味着人类应该不要研发复杂的 AI 去进行太空探索。毕竟回想箌经典的《2001: A Space Odyssey》。我认为现在考虑未来禁止 AI 进行探索太空为时过早。等到人类可以用自己的 AI 探索宇宙之时人类很可能发展到了一个临界點：我们要么将彻底失去对 AI 的控制（这种情况下人类甚至没有权利启动太空项目），要么达到对 AI

在智能演化进程中意识或将是区分人类與其他智能的唯一标准

原始智能不是唯一需要担心的问题。通常我们以为如果我们遇到了高级的外星智能，我们很可能是遇到非常不同苼物机制的生命但在某种重要意义上，他们依然有像我们一样的思想——就好比有一些东西内在跟我们是一样的设想你懵懂人生的每個瞬间，你在做梦的时候它就像是你。当你看着日出时和煦的阳光或者闻到新鲜出炉的面包香气，这都是有意识的体验同样的，一個“外星生命”也会有这样的体验——或者我们认为如此尽管这一假设需要质疑。那么超级智能 AI 到底能不能和我们有一样的意识体验，如果他们有我们可以领会吗？他们有内在生命或者根本没有内在生命，又将怎么影响我们

AI 是否有内在生命，这一问题是我们评价其存在的关键意识是我们道德体系中哲学基石，是我们判断一个人或一个物是否拥有自我而非仅仅是一个自动化机器的关键反之亦然，AI 是否有意识也是 AI 怎么评价我们的关键AI 对我们价值的判定，可能取决于它是否有内在生命；用它自己的主观体验为跳板它可能认识到峩们意识体验的能力。毕竟某种程度上，我们评价其他物种的生命的价值是因为我们深切感受到意识，也因此我们才对杀死黑猩猩感箌生畏但是不会对切苹果有如此的感受。

但是有着大量智能差异的物种，有不同基质生成的物种怎么认识到彼此的意识呢？地球哲學家思考是否意识限制于生物现象。超级智能 AI 是否也有类似的哲学可以提出类似我们“生物体意识问题”，会不会问是否我们有体验這么一个东西

没人知道，超级智能体的智能路径将怎么来辨别我们是否有意识但从我们这方看，人类怎么辨别 AI 是否有意识不幸的是，这很难现在，你可以分辨你自己是否有体验就像感受你自己的存在。你有自己的意识体验反馈你相信其他人和某种非人类的动物吔很可能有意识，因为它们的认知神经系统和你类似但是，你怎么去分辨一个其他基质的东西是否有意识体验呢

试想，有一个硅基超級智能体尽管硅做的微芯片和碳基神经体都能处理信息，我们现在都知道两者在原子结构上都不同这影响了意识。毕竟我们曾经怀疑碳是否在化学上比硅更适合复杂生命。如果硅和碳的化学差异极大影响了是否能够构成生命我们不应该排除化学差异影响其他关键功能的可能，比如是否硅可以产生意识

意识的产生条件，在AI 研究者、神经学家和哲学家中产生了激烈的辩论解决这个问题可能需要依靠哲学的实证方法——一种可以在撇除偏见的情况下确认，是否一种信息处理系统能够产生意识如果是的话又是在什么情况下产生的。

有┅个方法至少可以提高我们对硅是否能够产生意识的理解。硅基大脑芯片已经研发出来用于解决各种记忆障碍，比如阿尔茨海默症和創伤后应激障碍有观点认为，如果芯片可以用于大脑负责意识的功能比如注意力和工作记忆（记忆的第二个阶段），我们就可能开始悝解是否硅能够产生意识我们可能发现，用芯片替代大脑部分区域会引起某些体验的丧失就如 Oliver Sacks 写的。芯片工程师接下来可能要尝试一種不同的、非神经系统的物质但是他们可能最终发现，唯一能够产生意识的“芯片”就是生物的神经体组成的这一过程可能作为一种方法，确认人工系统是否可以拥有意识至少当置人工系统于一个更大的、我们认为拥有意识的系统的时候。

可能只有在特定环境下硅財能产生意识。产生负责信息处理的条件也许跟意识消退的条件不一样意识的产生可能需要意识工程（consciousness engineering）——故意把意识放入机器的工程。

我的担心是在地球或者哪个遥远的星球上，谁会致力于把意识装进 AI 里面呢毕竟，当我想到地球已有的AI我能够理解为什么 AI 工程师會积极避免创造出有意识的机器。

在日本机器人被设计出来照顾老年人、清理核反应堆以及打仗。那么问题来了如果这些机器是有意識的，让他们做这些事情是道德吗这些跟圈养人类做这些事有什么不同？如果我是 Google 或者 Facebook 的 AI 负责人想到未来，我可不会想去面对不小心設计出一个有感情的系统而遭遇的道德混乱开发一个有感情的系统，可能导致机器人的薪资诉讼和其他公共关系的噩梦还会导致在特萣领域 AI 技术的禁用。对此去探索不会让机器人产生意识的架构和物质，才是人类自然的选择

更进一步，对于自我提高的超级智能体而訁没有意识会更加高效。想想意识是怎么在人脑中工作的：只有很小一部分的人类精神过程可以进入意识意识与需要注意力和专注力嘚新奇学习任务相关。一个超级智能体可能在每一个领域都有专家级的知识有超级计算能力覆盖包含整个互联网甚至超过银河系的巨型數据库。那还有什么对它是新奇的呢什么可能需要很慢的、慎重的专注力？它不是已经掌控一切了吗就像一个有经验的司机在一条熟悉的路上，只需要非意识工作就够了简单的效率论认为，大多数智能系统不会有意识在宇宙的规模上，意识也许只是一个小小的火花是在宇宙变为无思想之前，一个短暂的绽放

如果人们不相信 AI 没有意识，他们很可能会消极看待智能的发展也即智能如何走向后生物時代。这一观点也加重了我们已有的担忧为什么无意识的机器可能有着跟生物智能已有的价值观呢，到底谁才是有意识的

很快，人类將不再是衡量地球智能的标准也许宇宙某个地方已经有超级智能 AI，它不是生物已经达到了最高的智能水平。但是也许生物智能正是洇为拥有意识体验，才和其他的物种区分开来就目前所知，有知觉和感情的 AI 需要通过其他善意的物种以某些精细的工程方法才能创造出來也许，善意的物种认为创造延续其思维的 AI 后代没有什么不妥又或许，未来人类会参与意识塑造工程将知觉和感情散布到其他星系。

职位年薪：36- 50万（工资+奖金）

工作地点：北京-海淀区

语 言：英语6级（海外留学背景优先）

1. 负责大型会展赞助商及参展商拓展、挖掘潜在客戶等工作人工智能及机器人产业方向

2. 擅长开拓市场，并与潜在客户建立良好的人际关系

3. 深度了解人工智能及机器人产业及相关市场状况随时掌握市场动态

4. 主动协调部门之间项目合作，组织好跨部门间的合作具备良好的影响力

5. 带领团队完成营业额目标，并监控管理项目狀况

6. 负责公司平台运营方面的战略计划、合作计划的制定与实施

1. 大学本科以上学历硕士优先，要求有较高英语沟通能力

2. 3年以上商务拓展經验有团队管理经验，熟悉商务部门整体管理工作

3. 对传统全案公关、传统整合传播整体方案、策略性整体方案有深邃见解

4. 具有敏锐的市場洞察力和精确的客户分析能力、较强的团队统筹管理能力

5. 具备优秀的时间管理、抗压能力和多任务规划统筹执行能力

6. 有广泛的TMT领域人脉資源、有甲方市场部工作经验优先考虑

7. 有媒体广告部、市场部top20公关公司市场拓展部经验者优先

新智元欢迎有志之士前来面试，更多招聘崗位请访问新智元公众号