霍金：人工智能要么为人所用 要么终结人类
> 霍金：人工智能要么为人所用 要么终结人类
霍金：人工智能要么为人所用 要么终结人类
　　当前控制技术的工具，例如强化学习，简单实用的功能，还不足以解决这个问题。因此，我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。本文引用地址：
　　近来的里程碑，比如说之前提到的自主驾驶汽车，以及赢得围棋比赛，都是未来趋势的迹象。巨大的投入倾注到这项科技。我们目前所取得的成就，和未来几十年后可能取得的成就相比，必然相形见绌。而且我们远不能预测我们能取得什么成就，当我们的头脑被放大以后。也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。简而言之，人工智能的成功有可能是人类文明史上最大的事件。
　　但是人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。我曾经说过，人工智能的全方位发展可能招致人类的灭亡，比如最大化使用智能性自主武器。今年早些时候，我和一些来自世界各国的科学家共同在联合国会议上支持其对于核武器的禁令。我们正在焦急的等待协商结果。目前，九个核大国可以控制大约一万四千个核武器，它们中的任何一个都可以将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。这一结果使全球粮食体系崩塌，末日般动荡，很可能导致大部分人死亡。我们作为科学家，对核武器承担着特殊的责任，因为正是科学家发明了它们，并发现它们的影响比最初预想的更加可怕。
　　现阶段，我对灾难的探讨可能惊吓到了在座的各位。很抱歉。但是作为今天的与会者，重要的是，你们要认清自己在影响当前技术的未来研发中的位置。我相信我们团结在一起，来呼吁国际条约的支持或者签署呈交给各国政府的公开信，科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。
　　一个新的机构，试图解决一些在人工智能研究快速发展中出现的尚无定论的问题。&利弗休姆智能未来中心&是一个跨学科研究所，致力于研究智能的未来，这对我们文明和物种的未来至关重要。我们花费大量时间学习历史，深入去看&&大多数是关于愚蠢的历史。所以人们转而研究智能的未来是令人欣喜的变化。虽然我们对潜在危险有所意识，但我内心仍秉持乐观态度，我相信创造智能的潜在收益是巨大的。也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。
　　我们生活的每一个方面都会被改变。我在研究所的同事休&普林斯承认，&利弗休姆中心&能建立，部分是因为大学成立了&存在风险中心&。后者更加广泛地审视了人类潜在问题，&利弗休姆中心&的重点研究范围则相对狭窄。
　　人工智能的最新进展，包括欧洲议会呼吁起草一系列法规，以管理机器人和人工智能的创新。令人感到些许惊讶的是，这里面涉及到了一种形式的电子人格，以确保最有能力和最先进的人工智能的权利和责任。欧洲议会发言人评论说，随着日常生活中越来越多的领域日益受到机器人的影响，我们需要确保机器人无论现在还是将来，都为人类而服务。向欧洲议会议员提交的报告，明确认为世界正处于新的工业机器人革命的前沿。报告中分析的是否给机器人提供作为电子人的权利，这等同于法人(的身份)，也许有可能。报告强调，在任何时候，研究和设计人员都应确保每一个机器人设计都包含有终止开关。在库布里克的电影《2001太空漫游》中，出故障的超级电脑哈尔没有让科学家们进入太空舱，但那是科幻。我们要面对的则是事实。奥斯本&克拉克跨国律师事务所的合伙人，洛纳&布拉泽尔在报告中说，我们不承认鲸鱼和大猩猩有人格，所以也没有必要急于接受一个机器人人格。但是担忧一直存在。报告承认在几十年的时间内，人工智能可能会超越人类智力范围，人工智能可能会超越人类智力范围，进而挑战人机关系。报告最后呼吁成立欧洲机器人和人工智能机构，以提供技术、伦理和监管方面的专业知识。如果欧洲议会议员投票赞成立法，该报告将提交给欧盟委员会。它将在三个月的时间内决定要采取哪些立法步骤。
　　我们还应该扮演一个角色，确保下一代不仅仅有机会还要有决心，在早期阶段充分参与科学研究，以便他们继续发挥潜力，帮助人类创造一个更加美好的的世界。这就是我刚谈到学习和教育的重要性时，所要表达的意思。我们需要跳出&事情应该如何&这样的理论探讨，并且采取行动，以确保他们有机会参与进来。我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。
　　以下为中国科技大咖、科学家、投资家和网友与霍金问答实录：
　　创新工场的CEO李开复(问)：互联网巨头拥有巨量的数据，而这些数据会给他们各种以用户隐私和利益换取暴利的机会。在巨大的利益诱惑下，他们是无法自律的。而且，这种行为也会导致小公司和创业者更难创新。您常谈到如何约束人工智能，但更难的是如何约束人本身。您认为我们应该如何约束这些巨头?
　　霍金：据我了解,许多公司仅将这些数据用于统计分析,但任何涉及到私人信息的使用都应该被禁止。会有助于隐私保护的是，如果互联网上所有的信息，均通过基于量子技术加密，这样互联网公司在一定时间内便无法破解。但安全服务会反对这个做法。
　　第二个问题来自于猎豹移动CEO傅盛(问)：灵魂会不会是量子的一种存在形态?或者是高维空间里的另一个表现?
　　霍金：我认为近来人工智能的发展，比如电脑在国际象棋和围棋的比赛中战胜人脑，都显示出人脑和电脑并没有本质差别。这点上我和我的同事罗杰&彭罗斯正好相反。会有人认为电脑有灵魂吗?对我而言，灵魂这个说法是一个基督教的概念，它和来世联系在一起。我认为这是一个童话故事。
　　第三个问题来自于百度总裁张亚勤(问)：人类观察和抽象世界的方式不断演进，从早期的观察和估算，到牛顿定律和爱因斯坦方程式，到今天数据驱动的计算和人工智能，下一个是什么?
　　霍金：我们需要一个新的量子理论，将重力和其他自然界的其它力量整合在一起。许多人声称这是弦理论，但我对此表示怀疑，目前唯一的推测是，时空有十个维度。
　　第四个问题来自于斯坦福大学物理学教授张首晟(问)：如果让你告诉外星人我们人类取得的最高成就，写在一张明信片的背面，您会写什么?
　　霍金：告诉外星人关于美，或者任何可能代表最高艺术成就的艺术形式都是无益的，因为这是人类特有的。我会告诉他们哥德尔不完备定理和费马大定理。这才是外星人能够理解的事情。
　　文厨(问)：我们希望提倡科学精神，贯穿GMIC全球九站，清您推荐三本书，让科技届的朋友们更好的理解科学及科学的未来。
　　霍金：他们应该去写书而不是读书。只有当一个人关于某件事能写出一本书，才代表他完全理解了这件事。
　　微博用户(问)：您认为一个人一生中最应当做的一件事和最不应当做的一件事是什么?&
　　霍金：我们绝不应当放弃，我们都应当尽可能多的去理解(这个世界)。
　　微博用户(问)：人类在漫漫的历史长河中，重复着一次又一次的革命与运动。从石器、蒸汽、电气&&您认为下一次的革命会是由什么驱动的?
　　霍金：(我认为是)计算机科学的发展，包括人工智能和量子计算。科技已经成为我们生活中重要的一部分，但未来几十年里，它会逐渐渗透到社会的每一个方面，为我们提供智能地支持和建议，在医疗、工作、教育和科技等众多领域。但是我们必须要确保是我们来掌控人工智能，而非它(掌控)我们。
　　最后一个问题来自于音乐人、投资者胡海泉(问)：如果星际移民技术的成熟窗口期迟到，有没有完全解决不了的内发灾难导致人类灭绝?抛开陨星撞地球这样的外来灾难。
　　霍金：是的。人口过剩、疾病、战争、饥荒、气候变化和水资源匮乏,人类有能力解决这些危机。但很可惜，这些危机还严重威胁着我们在地球上的生存，这些危机都是可以解决的，但目前还没有。
分享给小伙伴们：
我来说两句……
最新技术贴
微信公众号二
微信公众号一内容字号：
段落设置：
字体设置：
精准搜索请实验：
霍金北京演讲：人工智能或是人类文明终结者
来源：作者：王心馨责编：远洋
4月27日，著名物理学家史蒂芬·霍金在北京举办的全球移动互联网大会上做了视频演讲。在演讲中，霍金重申人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情。他认为，人类需警惕人工智能生长威胁。因为人工智能一旦脱离束缚，以不停加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。以下为霍金演讲内容：在我的一生中，我见证了社会深刻的变化。其中最深刻的，同时也是对人类影响与日俱增的变化，是人工智能的崛起。简朴来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。我不得不说，是好是坏我们仍不确定。但我们应该竭尽所能，确保其未来生长对我们和我们的情况有利。我们别无选择。我认为人工智能的生长，自己是一种存在着问题的趋势，而这些问题必须在现在和未来获得解决。人工智能的研究与开发正在迅速推进。也许我们所有人都应该暂停片刻，把我们的研究重复从提升人工智能能力转移到最大化人工智能的社会效益上面。基于这样的考虑，美国人工智能协会（AAAI）于年，建设了人工智能恒久未来总筹论坛，他们近期在目的导向的中性技术上投入了大量的关注。但我们的人工智能系统须要凭据我们的意志事情。跨学科研究是一种可能的前进门路：从经济、执法、哲学延伸至盘算机宁静、形式化要领，虽然另有人工智能自己的各个分支。文明所提发生的一切都是人类智能的产物，我相信生物大脑可以到达的和盘算机可以到达的，没有本质区别。因此，它遵循了“盘算机在理论上可以模仿人类智能，然后逾越”这一原则。但我们并不确定，所以我们无法知道我们将无限地获得人工智能的资助，照旧被藐视并被边缘化，或者很可能被它扑灭。简直，我们担忧智慧的机械将能够取代人类正在从事的事情，并迅速地消灭数以百万计的事情岗位。在人工智能从原始形态不停生长，并被证明很是有用的同时，我也在担忧缔造一个可以等同或逾越人类的事物所导致的结果：人工智能一旦脱离束缚，以不停加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。未来，人工智能可以生长出自我意志，一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度，但其他人认为，人类可以在相当长的时间里控制技术的生长，这样我们就能看到人工智能可以解决世界上大部门问题的潜力。但我并不确定。在人工智能从原始形态不停生长，并被证明很是有用的同时，我也在担忧缔造一个可以等同或逾越人类的事物所导致的结果：人工智能一旦脱离束缚，以不停加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。未来，人工智能可以生长出自我意志，一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度，但其他人认为，人类可以在相当长的时间里控制技术的生长，这样我们就能看到人工智能可以解决世界上大部门问题的潜力。但我并不确定。2015年1月份，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的果真信，目的是提倡就人工智能对社会所造成的影响做认真的调研。在这之前，埃隆·马斯克就警告过人们：超人类人工智能可能带来不行估量的利益，但是如果部署不妥，则可能给人类带来相反的效果。我和他同在“生命未来研究所”的科学照料委员会，这是一个为了缓解人类所面临的存在风险的组织，而且之前提到的果真信也是由这个组织起草的。这个果真信招呼展开可以阻止潜在问题的直接研究，同时也收获人工智能带给我们的潜在利益，同时致力于让人工智能的研发人员更关注人工智能宁静。此外，对于决策者和普通公共来说，这封果真信内容翔实，并非危言耸听。人人都知道人工智能研究人员们在认真思索这些担忧和伦理问题，我们认为这一点很是重要。好比，人工智能是有根除疾患和贫困的潜力的，但是研究人员必须能够缔造出可控的人工智能。那封只有四段文字，题目为《应优先研究强大而有益的人工智能》的果真信，在其附带的十二页文件中对研究的优先序次作了详细的部署。在已往的20年里，人工智能一直专注于围绕建设智能代理所发生的问题，也就是在特定情况下可以感知并行动的种种系统。在这种情况下，智能是一个与统计学和经济学相关的理性看法。通俗地讲，这是一种做出好的决定、计划和推论的能力。基于这些事情，大量的整合和交织孕育被应用在人工智能、机械学习、统计学、控制论、神经科学、以及其它领域。共享理论框架的建设，结合数据的供应和处置惩罚能力，在种种细分的领域取得了显著的乐成。例如语音识别、图像分类、自动驾驶、机械翻译、步态运动和问答系统。随着这些领域的生长，从实验室研究到有经济价值的技术形成良性循环。哪怕很小的性能革新，都市带来巨大的经济效益，进而勉励更恒久、更伟大的投入和研究。目前人们广泛认同，人工智能的研究正在稳步生长，而它对社会的影响很可能扩大，潜在的利益是巨大的，既然文明所发生的一切，都是人类智能的产物；我们无法预测我们可能取得什么结果，当这种智能是被人工智能工具放大过的。但是，正如我说过的，根除疾病和贫穷并不是完全不行能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是很是重要的。现在，关于人工智能的研究正在迅速生长。这一研究可以从短期和恒久来讨论。一些短期的担忧在无人驾驶方面，从民用无人机到自主驾驶汽车。好比说，在紧急情况下，一辆无人驾驶汽车不得不在小风险的大事故和或许率的小事故之间进行选择。另一个担忧在致命性智能自主武器。他们是否该被禁止？如果是，那么“自主”该如何精确界说。如果不是，任何使用不妥和故障的过失应该如何问责。另有另外一些担忧，由人工智能逐渐可以解读大量监控数据引起的隐私和担忧，以及如何治理因人工智能取代事情岗位带来的经济影响。恒久担忧主要是人工智能系统失控的潜在风险，随着不遵循人类意愿行事的超级智能的崛起，那个强大的系统威胁到人类。这样错位的结果是否有可能？如果是，这些情况是如何泛起的？我们应该投入什么样的研究，以便更好的理解息争决危险的超级智能崛起的可能性，或智能发作的泛起？当前控制人工智能技术的工具，例如强化学习，简朴实用的功效，还不足以解决这个问题。因此，我们需要进一步研究来找到和确认一个可靠的解决措施来掌控这一问题。近来的里程碑，好比说之前提到的自主驾驶汽车，以及人工智能赢得围棋角逐，都是未来趋势的迹象。巨大的投入倾注到这项科技。我们目前所取得的成就，和未来几十年后可能取得的成就相比，一定相形见绌。而且我们远不能预测我们能取得什么成就，当我们的头脑被人工智能放大以后。也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。简而言之，人工智能的乐成有可能是人类文明史上最大的事件。但是人工智能也有可能是人类文明史的终结，除非我们学会如何制止危险。我曾经说过，人工智能的全方位生长可能招致人类的灭亡，好比最大化使用智能性自主武器。今年早些时候，我和一些来自世界各国的科学家配合在联合国聚会会议上支持其对于核武器的禁令。我们正在焦急的期待协商结果。目前，九个核大国可以控制约莫一万四千个核武器，它们中的任何一个都可以将都市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。这一结果使全球粮食体系崩塌，末日般动荡，很可能导致大部门人死亡。我们作为科学家，对核武器肩负着特殊的责任，因为正是科学家发现了它们，并发现它们的影响比最初预想的越发可怕。现阶段，我对灾难的探讨可能惊吓到了在座的列位。很歉仄。但是作为今天的与会者，重要的是，你们要认清自己在影响当前技术的未来研发中的位置。我相信我们团结在一起，来呼吁国际条约的支持或者签署呈交给各国政府的果真信，科技领袖和科学家正极尽所能制止不行控的人工智能的崛起。去年10月，我在英国剑桥建设了一个新的机构，试图解决一些在人工智能研究快速生长中泛起的尚无定论的问题。“利弗休姆智能未来中心”是一个跨学科研究所，致力于研究智能的未来，这对我们文明和物种的未来至关重要。我们花费大量时间学习历史，深入去看——大多数是关于愚蠢的历史。所以人们转而研究智能的未来是令人欣喜的变化。虽然我们对潜在危险有所意识，但我内心仍秉持乐观态度，我相信缔造智能的潜在收益是巨大的。也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。我们生活的每一个方面都市被改变。我在研究所的同事休·普林斯认可，“利弗休姆中心”能建设，部门是因为大学建设了“存在风险中心”。后者越发广泛地审视了人类潜在问题，“利弗休姆中心”的重点研究规模则相对狭窄。人工智能的最新进展，包罗欧洲议会呼吁起草一系列规则，以治理机械人和人工智能的创新。令人感应些许惊讶的是，这里面涉及到了一种形式的电子人格，以确保最有能力和最先进的人工智能的权利和责任。欧洲议会讲话人评论说，随着日常生活中越来越多的领域日益受到机械人的影响，我们需要确保机械人无论现在照旧未来，都为人类而服务。向欧洲议聚会会议员提交的陈诉，明确认为世界正处于新的工业机械人革命的前沿。陈诉中分析的是否给机械人提供作为电子人的权利，这等同于法人（的身份），也许有可能。陈诉强调，在任何时候，研究和设计人员都应确保每一个机械人设计都包罗有终止开关。在库布里克的影戏《2001太空漫游》中，出故障的超级电脑哈尔没有让科学家们进入太空舱，但那是科幻。我们要面对的则是事实。奥斯本·克拉克跨国律师事务所的合资人，洛纳·布拉泽尔在陈诉中说，我们不认可鲸鱼和大猩猩有人格，所以也没有须要急于接受一个机械人人格。但是担忧一直存在。陈诉认可在几十年的时间内，人工智能可能会逾越人类智力规模，人工智能可能会逾越人类智力规模，进而挑战人机关系。陈诉最后呼吁建设欧洲机械人和人工智能机构，以提供技术、伦理和羁系方面的专业知识。如果欧洲议聚会会议员投票赞建设法，该陈诉将提交给欧盟委员会。它将在三个月的时间内决定要接纳哪些立法步骤。我们还应该饰演一个角色，确保下一代不仅仅有时机还要有决心，在早期阶段充实加入科学研究，以便他们继续发挥潜力，资助人类缔造一个越发美好的的世界。这就是我刚谈到学习和教育的重要性时，所要表达的意思。我们需要跳出“事情应该如何”这样的理论探讨，而且接纳行动，以确保他们有时机加入进来。我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。
软媒旗下软件：
皇冠娱乐网，软媒旗下科技门户网站 - 爱科技，爱这里。
Copyright (C) , All Rights Reserved.
版权所有 鲁ICP备号霍金：人工智能可能会终结人类|界面新闻o歪楼作为世界最顶尖的科学家之一，史蒂芬&霍金最近在接受BBC采访时认为，人类创造可以思考的机器将会对人类本身造成极大威胁。
当被问及是否要进一步改进他对外交流所使用的技术时，他说道：&人工智能的高速发展将预示着人类文明的终结。&
霍金患有肌萎缩性侧索硬化症(就是前段时期很火的冰桶挑战中提到的疾病），虽然全身均已僵化，但他通过英特尔公司为其开发的智能系统发声。
英国的科技企业Swiftkey也参与了智能系统的开发工作中，他们在随后推出的智能手机键盘系统中采用了类似技术，智能机器通过学习来推断人接下来将会用什么单词。
霍金教授也认为人工智能在现代社会中扮演的角色越来越重要，但是他担心这些技术最终颠覆人类。
&它们将脱离控制，并且进行更加优化的自我改造。人类自身受限于缓慢的生物进化，将会同机器人展开竞争，并最终被打败。&霍金说道。
但其他人并没有这么悲观。
智能聊天机器人Cleverbot的发明者Rollo Carpenter认为：&我相信我们始终将把握着技术，以及赋予这些机器解决实际问题的权力。&
而他发明的Cleverbot通过习得人类对话体系，成功在图灵测试中蒙骗了很多人，让他们相信对话者是人而不是机器。
Carpenter说人类要发明全智能机器还有比较长的一段路要走，但他相信在未来的数十年内将会实现这个愿望。&正因为我们不太知道智能机器人超越人类智力后会发生什么，因此我们也无法去判断其将带来的好或坏。&
当他将赌注压在了智能机器人将带来积极影响这一边。
但抱有同样担忧的并不仅有霍金教授一人。
短期内，智能机器人的普及将会造成大量工作机会的丧失；而长远来看，Space X公司的CEO Elon Musk就警告人工智能&将会成为人类生存的威胁&。
在BBC的采访中，霍金教授也谈到了互联网带来的好处和危险。
英国政府通信总部早就有过警告：互联网将会成为未来恐怖分子的指挥中心。霍金教授在提到这件事时评论到：&互联网巨头们应该为此采取一些措施，但是这又意味着将牺牲互联网的一定的自由度和隐私度，很难把握这之间的平衡。&
其实霍金早已尝试过所有的智能交流技术，他也期待着能够他使用的系统在写的能力上能够更快一点。
但是霍金教授机器上的发声已经很久没有更新过了，他喜欢带有一点机器人感觉的声音。
&这种声音已经成为了我的一个标志，我不想给他赋予更加自然的英式口音。如果孩子们也想有一套电脑声音的话，相信他们将会喜欢我的这种。&
更多专业报道，请
0相关文章您至少需输入5个字评论()