埃隆马斯克创立了著名的太空发射公司SpaceX和电动汽车公司特斯拉，并以他的前瞻性计划而闻名。但近年来硅谷公司开发人工智能 (AI) 的热潮让他感到害怕。为了影响这个快速发展的领域及其倡导者，拯救人类免于被智能机器人毁灭的命运，马斯克斥资 10 亿美元，旨在监控人工智能技术的发展，避免人类灾难。

友好辩论

这只是一场关于人类命运的友好辩论，高级人工智能领域的科技先驱德米斯·哈萨比斯与世界末日的埃隆·马斯克谈论人工智能的威胁。他们是硅谷最具标志性的人物，尽管他们都不是真正住在硅谷的人。哈萨比斯是神秘的伦敦实验室的联合创始人。几年前，他参观了马斯克在洛杉矶郊外的新 SpaceX 火箭工厂。两人坐在自助餐厅里聊天，马斯克解释说，他创建 SpaceX 的最终目标是完成世界上最重要的项目：星际殖民。哈萨比斯回答说，其实他也在做世界上最重要的项目：开发超级人工智能。马斯克回答说，这也是他决定殖民火星的原因之一：如果人工智能造反、攻击人类，我们至少有一个安身之地。哈萨比斯微笑着断言人工智能只需要跟随我们去火星。

40 岁的哈萨比斯被认为是最有可能创造出人工智能儿童的“魔术师”。人工智能研究正在迅速推进，但距离马斯克担心的自我进化、自我意识软件还有很长的路要走。 将人工智能用于广告服务、照片标记和新闻源。微软和苹果将人工智能用于他们的数字助理和 Siri。谷歌的搜索引擎从一开始就依赖人工智能。所有这些小进步的最终目标是创造能够学会自行进化的人工智能。

哈萨比斯也是一位优秀的棋手和游戏设计师，他曾经开发过一款名为《邪恶天才》的游戏，主角是一位邪恶的科学家，为了征服世界，他创造了一个末日装置。与马斯克一起在支付平台 PayPal 上发家致富的亿万富翁彼得泰尔告诉我，他的一位投资者在一次会议后开玩笑说，他应该当场杀死哈萨比斯，因为这可能是人类最后的机会。

三年前，埃隆马斯克开始警告人工智能可能失控。而哈萨比斯的合伙人之一肖恩·莱杰则冷漠地说：“我认为人类确实可能灭绝了马斯克人工智能，科技可能在其中发挥了作用。” 难怪马斯克会担心。

在 2014 年被谷歌收购之前，马斯克是这家公司的投资者。他告诉我，他的参与不是为了经济利益，而是为了监督人工智能的发展：“为了让我了解这件事的进展，感觉他们正在以前所未有的速度发展，远远超出人们的估计。主要是因为现实生活中的机器人并不多，也许你家里有一个Roomba扫地机器人，但没人想到Roomba会征服世界。”

更令人惊讶的是，马斯克公开指责他在硅谷的朋友和同事，警告他们创造的东西可能会导致自我毁灭。他告诉彭博社的“埃隆·马斯克”传记作者阿什利·万斯，他担心他的朋友、谷歌联合创始人拉里·佩奇尽管有最高尚的意图，但仍可能“不小心做坏事”，比如创造出一组先进的人工智能机器人，可以毁灭人类。

马斯克的人工智能威胁理论在 2014 年 MIT 演讲后广为人知。他声称，人工智能可能是对人类的“最大生存威胁”。他本人越来越倾向于建立某种国家或国际法规（硅谷最讨厌的一个术语）“以确保我们不会不小心做一些愚蠢的事情。” 用他的话说，“研究人工智能就是召唤魔鬼。“一些人工智能工程师认为马斯克的言论很荒谬，并把它当作笑柄。每次休息后回到办公室，他们会说，‘我们又回来召唤魔鬼了。

但马斯克一点也不觉得好笑。“埃隆对人工智能的‘圣战’才刚刚开始，”他的一位硅谷大佬朋友说。

阿尔法人格

说起他，感觉就像是安兰德小说的主人公，马斯基笑了笑，用略带南非口音的英语说道：“有人跟我说的一样。她的观点无疑是极端的，但其中有道理。”

当然，如果马斯克要成为自己作品的主角，安兰德会稍微改写他。她会把他的眼睛颜色变成灰色，让他的脸更加憔悴和深邃。她会抹去他有趣的一面，禁止他傻笑，并让他放弃关于“集体主义的好处”的言论。她会在这位 45 岁的亿万富翁丰富多彩的个人生活中找到很多灵感，包括他的两次婚姻。马斯克的第一任​​妻子是奇幻作家贾斯汀·马斯克，他们有五个儿子。马斯克的第二任妻子是英国演员塔卢拉·莱利（ Riley），她和马斯克一度离婚，然后再婚。去年秋天，马斯克在 HBO 的“西部世界”中发推文称，塔卢拉是“专业的性机器人”。与马斯克这样的超级工作狂保持关系对任何普通女性来说都是一个挑战。“一个女人一周需要你花多少时间陪她？” 他曾经问阿什利万斯，“也许 10 个小时？”

马斯克对兰德最满意的方面无疑是他非凡的理性、冒险精神和实业家身份。他经常参加化装舞会，喜欢在机翼上行走，喜欢日本蒸汽朋克的疯狂。三星美国首席营销官马克马修斯称他是“史蒂夫乔布斯和儒勒凡尔纳”。马斯克的第一任​​妻子贾斯汀回忆说，在他们的婚礼上，马斯克告诉她，“我是这段关系中的阿尔法[大师]。”

埃隆马斯克是硅谷天才中的一个异类，他把自己的火箭零件挂在旧金山豪宅的墙上，作为艺术品。怀着崇高的目标，他正试图征服太空。他开发了低成本火箭，他希望最终能殖民火星。2 月马斯克人工智能，他宣布最早将于明年将两名太空游客送入月球轨道，绕月一圈。他致力于研究高效电池，为世界带来更便宜的太阳能。他的特斯拉电动汽车非常时尚和时尚，即使是挑剔的史蒂夫乔布斯也无法挑剔它。他希望帮助人们节省更多时间，并梦想用时速 700 英里（一种在管道中行驶的电磁子弹头列车）连接洛杉矶和旧金山。去年夏天，在访问美国国防部长阿什顿卡特期间，他在推特上说，他正在五角大楼讨论设计一套钢铁侠托尼·斯塔克式的“飞行金属服”。去年 12 月，他在洛杉矶拥挤的道路上感到无聊和沮丧，他在推特上发布了关于创建一家钻井公司在城市地下挖掘隧道以使群众摆脱交通拥堵的消息。今年 1 月，彭博商业周刊报道称，马斯克已指派一名 SpaceX 高级工程师领导该项目，并已开始挖掘第一条实验隧道。

当然，大梦想家也更容易遭遇大挫折。SpaceX 的火箭不止一次爆炸。去年 6 月，一辆特斯拉自动驾驶汽车的传感器未能检测到一辆在前方道路上横向移动的大型拖车，导致一名司机死亡。（美国公路交通安全管理局发现特斯拉的自动驾驶系统没有问题。）

这些挫折并没有让马斯克有丝毫动摇，但他无法承受对未知的恐惧。他的观点类似于兰德小说《地震》中的格言：“人有能力成为自己的毁灭者，纵观历史，人类大部分时间都在做他想做的事。” 他说：“我们是第一个能够自我毁灭的A物种。”

开车穿过硅谷的玻璃塔，有一种挥之不去的感觉，这些云大师正在谈论通过算法、程序和发明让世界变得更美好，让人们生活得更好。轻松、健康、快乐、长久。然而，这一切之下却隐藏着一种令人毛骨悚然的意识——我们都是实验的豚鼠，人类被视为旧科技，最好尽快消灭它们，让它们享受更美好的新世界。在硅谷，许多人已经接受了我们可以活到 150 岁的未来前景，但我们都将成为机器领主的臣民。也许我们已经是，只是不知道。去年，马斯克在 Recode 的年度编码大会上表示，我们可能已经是先进文明运行的虚拟现实游戏中的玩物。

你可能会认为马斯克、史蒂夫霍金和比尔盖茨都同意的观点足以引起人们的注意。但很长一段时间以来，旧金山湾区（硅谷以外的另一个美国科技中心）一直笼罩在宿命的迷雾中。马斯克的“圣战”被认为是徒劳的，甚至是反社会的进步混乱。矛盾的是：许多科技大亨已经意识到，他们为人类所做的一切，包括那些善意的宣言，都只是通往未来道路上的一盏路灯，史蒂夫沃兹尼亚克（Apple 的另一位创始人）预测了一个未来人类将成为“家养宠物”。

然而，马斯克拒绝承认命运。他打算用尽全力反击。于是马斯克和山姆奥特曼（）创建了 OpenAI（开源人工智能）。这家价值 10 亿美元的非营利性公司的口号是“研究更安全的人工智能”。当 OpenAI 只有少数年轻工程师时，我参观了他们的临时办公室，这是 1999 年在旧金山 的联合创始人 Greg 的公寓。当我最近再次访问时，OpenAI 搬进了附近更宽敞的办公室，有 50全职员工（在不久的将来还会增加 10 到 30 人）。

奥特曼身穿灰色T恤和牛仔裤，脸色苍白，瘦削而严肃。马斯克脸色红润，有点害羞，一点也不狂热。他的眼睛是绿色或蓝色，取决于光线，他仍然有一个孤独、笨拙的科技少年的影子，他在 17 岁时独自从南非移民到加拿大。

OpenAI 的第一印象就像一个轻量级的虚荣项目。一群智商高的少年聚集在没有电梯的公寓里，试图与谷歌、等科技巨头以及他们雇佣的世界顶级人工智能专家展开竞争。不过，小而大是马斯克的专长，而且他做的很有风格，很擅长煽情。让硅谷的其他人关注他们的 IPO 价格。马斯克有更大的目标，比如结束气候变化或去火星退休。

三十年前，马斯克还是一个刚刚开始面对成长阵痛的少年，他已经将帮助人类征服银河系作为自己的个人使命。马斯克说，格拉斯·亚当斯的《银河系漫游指南》是他人生的转折点。这本书讲述了邪恶的外星人为了修建太空高速公路而摧毁地球的故事，拥有一个偏执的机器人马文和一台能够解答宇宙所有谜团的超级计算机。受到启发的少年马斯克设定了他的人生目标：“努力提高人类的集体意识。”

OpenAI 成立并不奇怪，但它的使命仍然模糊不清，甚至该领域的专家都在争论 AI 的最终形式是什么，它可以做什么，以及我们如何约束它。到目前为止，人工智能相关的公共政策仍然没有方向，相关的软件几乎是无限的，也没有统一的监管机构。美国联邦航空管理局监管无人机，证券交易委员会监管自动金融交易，而交通部刚刚开始监管自动驾驶汽车。

马斯克认为，最好的办法是先开发出超级人工智能，然后统一分配，而不是让它们隐藏起来，集中在科技大亨或政府精英手中——即使这些科技精英恰好是他的朋友，这样作为谷歌创始人拉里佩奇和谢尔盖布林（）。佩奇和布林认为自己是惩恶扬善的好人，但马斯克认为，这不是少数硅谷高管怀着好的动机就能控制的问题。况且，“遇上明君固然好，可不幸遇上昏人怎么办？”

人工智能时代

在所谓的 AI 寒冬之后，当 AI 技术在 1980 年代初遭遇商业全面失败时，该领域一度臭名昭著。现在，这是硅谷的最新热潮。OpenAI 的 Greg 认为，未来十年将是人工智能的时代，几乎每家公司都在斥巨资招聘该领域的人才。在过去的几年里，谷歌几乎吞并了所有有趣的自动化和机器学习公司。据报道，它以 6. 5 亿美元的价格击败了 ，被收购并创建了一个专门从事人工智能的 (Google Brain) 团队。它还招募了英国人工神经网络研究员 Hinton ( ) 和古怪的未来学家 Ray ( )。库兹韦尔预测，在 28 年内，

拉里佩奇和谷歌认为人工智能是公司不可避免的命运这一信念植根于谷歌的 DNA 中。正如谷歌可以在世界最需要数据搜索能力的时候让计算机负责搜索一样，可以说它可以让计算机控制任何事情。去年 3 月，人工智能 () 击败了据说是世界上最复杂棋盘游戏的围棋世界冠军。一直表示自己正在领导人工智能登月计划的阿尔法狗的设计者哈萨比斯称这次胜利是“历史性时刻”，并承认他对进展如此之快感到惊讶。“我一直希望人工智能能帮助我们发现复杂科学的新想法，”哈萨比斯在二月份的一次采访中说。"

Peter Thiel 曾经告诉我，他的一个朋友说人们容忍硅谷的唯一原因是因为他们认为他们都是可怜的性被剥夺的人渣。但有报道称，硅谷即将推出性爱机器人，可以通过一款应用控制自己的情绪，拥有与人类相同的脉搏。多年的性骚扰和性别歧视案件困扰着硅谷，在研究女性性爱机器人时，与日本直言不讳的疯狂相比，硅谷一直很害羞。但当我向马斯克询问这项研究时，他直截了当地回答：“性机器人？我认为这很有可能。”

无论是出于善意还是精明的公关策略，哈萨比斯接受谷歌的收购只有一个条件：谷歌并将成立一个人工智能伦理委员会。那是三年前的事了，当时人们认为成立伦理委员会还为时过早，仿佛在暗示哈萨比斯即将创造出真正的人工智能。现在看来，这个决定颇有远见。去年 6 月，一位研究人员与人合着了一篇论文，概述了如何设计一个“大红色按钮”来充当终止开关，以防止 AI 伤害人类。

这位谷歌高管声称，拉里佩奇（谷歌母公司现任首席执行官）对人工智能的看法源于他对当前“愚蠢”的机器系统的失望，包括预订旅行或为农作物定价的程序。他真正相信人工智能可以改善人们的生活，并表示当人类的需求很容易得到满足时，人们就会“有更多的时间陪伴家人或追求个人兴趣”。尤其是当他们在工作被机器人抢走之后。

在硅谷，有人认为马斯克对人工智能的兴趣根本不像拯救世界，而是为了宣传自己的品牌，他巧妙地利用了一个根深蒂固的冲突：人与机器之间的矛盾，而人类害怕我们的反过来，创造物消除了我们的恐惧。他们说，马斯克高举正义斗争的旗帜，实际上是想以折扣价吸引人才，为他的火箭和自动驾驶汽车孵化人工智能软件。

虽然 Ashley Vance 曾说马斯克就像“PT Barnum 的科幻版”，但他认为马斯克对人工智能的担忧是真实的，尽管目前尚不清楚他能做些什么。“他的妻子 告诉我，他们在深夜进行了一次关于人工智能的谈话，”万斯说。“埃隆是一个非常理性的人。他的一举一动都像一盘国际象棋，经过深思熟虑。他的对手不会因为他的一举一动而下场。”

加利福尼亚州伯克利机器智能研究所的联合创始人 对此表示赞同：“他是伟大的埃隆马斯克，如果他想变得酷，他不需要谈论人工智能。威胁理论。他只需要谈谈他殖民火星的计划。”

马斯克和佩奇对人工智能潜在威胁的分歧“确实在某一时刻影响了我们的友谊，”马斯克说。“但这早已不复存在，现在我们和解了。”

或许是因为年龄差距，马斯克和 32 岁的 创始人马克·扎克伯格没有私交。近年来，扎克伯格出人意料地成为了生活方式大师，每年给自己设定一个新的挑战，包括每天打领带、每两周读一本书、学习中文、只吃他杀死自己肉的动物。2016年，人工智能成为他的新目标。

一位 用户曾警告扎克伯格不要“无意中创建天网（终结者中摧毁人类创造者的超级军用计算机）”。扎克伯格回应称，“我相信我们可以让人工智能只为我们工作，为我们服务。有人宣扬人工智能有多危险和可怕，但在我看来，这真的是没有根据的，实际发生的概率远小于流行病或战争造成的灾难。” 他还将人工智能恐惧症比作飞机发明初期人们对飞行器的恐惧，“在你弄清楚如何让飞机飞行之前，不要急于制定规则来限制它如何飞行。”

平安夜，扎克伯格释放了他的人工智能管家贾维斯。它拥有摩根弗里曼令人安心的声音，可以帮助控制音乐播放、灯光甚至打开烤面包机。我问马斯克，他对扎克伯格的初级人工智能管家有何看法。“在我看来，给房子增加一点自动化不算人工智能，”马斯克说。“开灯调温度不代表你很聪明。”

火灾保险

马斯克和其他提出人工智能潜在危险的人有时被斥为哗众取宠的“戏剧女王”。不过，他还有很多不可小觑的伙伴。物理学家斯蒂芬霍金曾在接受 BBC 采访时表示，“我认为先进的人工智能可能会导致人类的终结。” 比尔盖茨告诉查理罗斯（著名脱口秀主持人和记者），人工智能可能比核灾难更危险。牛津大学哲学教授尼克博斯特罗姆在其 2014 年出版的《超级智能》一书中警告说，“当恶意超级智能存在时，它会阻止人类对其进行替换或修改偏好。那将是人类命运被锁定的时刻。”

2015 年 1 月，代表两种对立观点的马斯克、博斯特罗姆和 AI 专家齐聚波多黎各，为麻省理工学院物理学教授、波士顿未来生命研究所所长 Max 主持会议。

“你有房子吗？” 泰格马克问我。“你有火灾保险吗？波多黎各会议上达成的共识是，我们都需要火灾保险。我们学会了生火和点火之后，我们发明了灭火器。我们发明了汽车并造成交通事故之后，我们发明安全带、安全气囊和红绿灯。但有了核武器和人工智能，我们就不能犯错误并修复它们。我们必须提前计划。”

马斯克已经开始资助研究以防止人工智能灾难，他向未来生命研究所捐赠了 1000 万美元用于此类研究。

波多黎各会议六个月后，马斯克、霍金、哈萨比斯、史蒂夫·沃兹尼亚克和曾经编写过人工智能标准教科书的斯坦福大学计算机科学教授斯图尔特·拉塞尔等 1000 名各界名人签署了联名信，呼吁完全禁止进攻性自动化武器。“50 年后，我们现在所处的 18 个月将被视为决定人工智能未来的关键时期，” 说。创造更美好未来的时刻。” 去年 9 月，美国最大的科技公司创建了“人工智能协作组织”，以探索人工智能可能带来的一系列问题，包括伦理争议。（马斯克的 OpenAI 很快加入了。）与此同时，在大洋彼岸，欧盟已经开始研究随着机器人技术和人工智能的出现而可能出现的法律问题。比如机器人是否具有“人类资格”，或者它们是否应该“被视为奴隶”，正如英国《金融时报》的一位读者在评论中建议的那样。

高智商的叛逆者

37 岁的 正在研究是否有可能为人工智能研究指明道路。我们约好在伯克利的一家日本餐厅见面。

“你会怎么写AI的目标函数包含一个‘关闭’开关，让它想要有这个‘关闭’开关，而不是试图打破‘关闭’开关，让你按下开关，而不是它会自己推动开关吗？” 他问我，“如果它可以自我改进，你如何确保它不会改变‘关闭’开关？这些是我们正在研究的问题。这并不容易。”

我偶然发现了邪恶机器人接管互联网、控制银行、交通系统和军队的可能性，以及复制人串通杀死人类创造者的可能性。尤德科夫斯基双手抱头耐心地向我解释：“人工智能不需要接管互联网。它不需要无人机。比我们聪明。如果它能够破解从 DNA 信息中预测蛋白质结构的技术，它“只需向合成定制蛋白质的实验室发送几封电子邮件。很快，它将拥有自己的分子机器并构建更复杂的分子机器。”

“如果你想看到人工智能横冲直撞，不要想象成群结队的红眼机器人横扫城市。想象一下由钻石材料制成的隐形合成细菌，它们携带微型计算机并隐藏在您和其他人的计算机中。在血液中。突然间，所有这些细菌同时释放出1微克的肉毒杆菌毒素，所有人都会倒在地上，瞬间死亡。”

“当然，这种情况真正发生的可能性很小。我无法预测人类将如何失败甚至死亡，因为击倒人类的人工智能比我更聪明。如果你想建造比自己更聪明的人最好从一开始就找到正确的方向。”

我回想起与马斯克和奥特曼的对话。“不要被杀人机器人的故事误导，”马斯克说。“人工智能的关键问题不是机器人，而是网络中的计算机算法。所以，机器人只是一个终极执行者，只是一系列传感器和执行器。人工智能存在于网络中……重要的是就是如果确实出现了一个猖獗的算法，AI监管机制可以阻止这种猖獗的算法。但如果有一个具有决策能力的中央人工智能，就没有办法阻止它。”奥特曼补充道，“一个完全控制互联网对世界的影响远大于完全控制复杂机器人的个人。”

即使是为执行极其平凡的任务而设计的机器人也会对我们造成无所谓的伤害。“假设你创造了一个自我进化的智能机器人来采摘草莓，”马斯克说。“它的采摘越来越熟练，越来越快，自我提升，它只有一个心愿，就是采摘草莓。所以它会尽全力把整个世界变成草莓园，它会充满草莓。” 人类已经没有空间了。

但是我们最终能开发出一种万能的“杀戮”开关吗？“我不确定我是否想成为拥有‘kill’开关的人，因为你将成为它的第一个目标，”马斯克回答道。阿尔曼试图总结可怕而令人兴奋的前景：“我们生活在激动人心的时代，在这个时代，人类将在未来几十年内自灭或宇宙殖民。”

“的确，”马斯克说，“如果你相信人类和宇宙最终会灭亡，那么旅程才是真正重要的。” 而现在，在此过程中，马斯克遇到了最紧迫的问题之一。

特朗普上任后，马斯克突然发现自己走上了一条崎岖的道路。不管他执政，明军还是顺军，他的公司都需要美国政府的生意和补贴。与许多其他硅谷公司一样，马斯克的公司加入了反对特朗普移民和难民政策的运动，马斯克本人也在推特上反对驱逐令。但与优步首席执行官特拉维斯卡兰尼克不同的是，他没有公开与现任政府决裂，仍然是特朗普战略和政策论坛的成员。“这很像 Elon 的风格，”Ashley Vance 说。“无论任何人说什么，他都会坚持他所做的。” 他说，如果有必要，马斯克也可以做一个精明的“机会”。活动家”。

我问马斯克，他是否因为与特朗普在一起而受到抨击。在与特朗普的合影中，他神色阴沉，一提到话题，他的声音似乎就变得疲倦。最后，他说，“我认为最好保留温和派的声音在总统身边。有很多人，尤其是强硬派极左，一味主张孤立，这意味着失去他们的声音，这是非常失策。”