财新传媒
位置:博客 > 李开复 > 你担心人类会被毁灭吗?

你担心人类会被毁灭吗?

作者按:
 
AI会变成新物种吗?AI会毁灭人类吗?科幻电影里的场景真的会发生吗?
 
这个话题在科技圈不断发酵,越来愈多的前沿科学家和企业家参与到这场辩论里。今天AI自媒体量子位针对这个话题对我做了专访,我把文章分享给大家。
十天前,硅谷钢铁侠、特斯拉CEO伊隆·马斯克在几十位美国州长面前,声称AI是对人类存在的最大威胁,并且呼吁加强对AI的监管。
 
虽然马斯克鼓吹这一论调已经多年,但这次整个AI界似乎都站到了他的对面,对他的批评声不绝于耳,直到Facebook创始人扎克伯格出手,事件到达了高潮。
 
“我认为那些对AI持否定态度或者鼓吹末日论的人,其实根本没理解什么是AI。他们的看法太消极了,甚至有些不负责任”,扎克伯格谈到马斯克时如是说。他还补充道“未来5-10年内,AI将大幅提高我们的生活质量。”
 
这很快成为抢眼的新闻标题,而马斯克也通过推特给予了回击:“我跟小扎聊过了。他对这事儿(AI)的理解有限”。
 
不负责任vs理解有限。
 
应该如何正确看待马斯克和扎克伯格这次关于AI的隔空交手?AI是个末日威胁么?量子位就这个问题,请教了李开复博士。
 
他的核心观点:
 
1、Facebook有世界顶尖AI团队,扎克伯格在这个问题上肯定不会“理解有限”。
 
2、明确反对马斯克“AI终将灭绝人类”的悲观论调。AI现在仅仅是人类的工具,离拥有意识的“超级智能(Superintelligence)”还非常遥远,更别提灭绝人类了。
 
3、过去几个月,国内外AI专家、图灵奖国际得主就这个话题也有过不少交流,大家基本都同意扎克伯格、李开复的观点。
 
4、马斯克如此高调频繁地宣扬AI带来的威胁,可能会让大众忽视AI正在带来的巨大机遇,也会让更多更紧迫的AI问题没有得到关注,这只会捡了芝麻丢了西瓜。
 
以下为李开复专访文章:
 
量子位问我关于这次马斯克和扎克伯格辩论AI未来的看法。
 
坦白讲,我不太认同伊隆·马斯克“AI灭绝人类”的观点,对于当前AI的发展看法,我有5个方面的具体观点:
 
1、AI只是工具,离超级智能还很远;基于我投入AI领域的科研、开发、投资相关工作37年的经验,“超级智能”、“灭绝人类”这类耸人听闻的说法,根本没有切实的工程基础。
 
2、智库、科学家应该讨论AI安全问题、AI对社会的改变,但是科技圈的意见领袖不应该在这时误导大众AI要控制人类,让人类灭亡,这确实是不负责的说法。大部分的人已经对AI所知有限,这会造成更为错误不实的群众恐慌。
 
3、AI可以为人类创造大量财富,甚至逐渐解决人类温饱问题;我们每个人也将获得更多的时间和自由,来做我们爱做的事情。
 
4、AI真实会带来的问题是人类的失业,失业后可能的抑郁和丧志问题,还有贫富不均问题,人类社会目前所习惯的职业结构确实会发生显著的改变。
 
5、AI会带给我们100%确定性的巨大机会,随着改变也会产生些必然的问题。此时去用概率极低甚至是零可能性的“超级智能”,误导大众恐惧AI,甚至约束AI,反而不去拥抱机会、解决问题,是没有道理的。
 
AI大咖们怎么看?
 
这其中有我的看法,也有一些已是业内不少专家的共识。如果我们去问顶尖AI专家,绝大多数是同意扎克伯格和我的看法的,比如说图灵奖得主Rodney Brooks。
 
Rodney Brooks的观点是:“有很多人都声称AI是人类存在的威胁:斯蒂芬·霍金、马丁·里斯爵士……在没有亲身在AI领域工作的情况下,这样的想法很普遍。我们能够理解,对于那些不在AI领域工作的人,要通过产品级别的东西来弄明白一些问题有多么困难。他们会根据一个领域的一个AI成果,就一概而论地认为AI会在多领域超过人类。但是其实今天的AI,只是在某一个狭窄领域基于大数据优化,只能说是个很厉害的模式识别引擎。要做到通用的、无所不能的AI根本不知从何开始。”
 
另外,Rodney Brooks也提到,马斯克想要立法管理AI,但是需要管理的通用AI都不存在,如何立法?
 
实际上,今年五月在上海的ACM图灵奖五十周年大会论坛讨论上,我和三位图灵奖获得者讨论时,基本也是类似观点,描述了人类今天并不知道如何做出“超级智能”,也否定了量子计算取代大脑的一说。
 
当然,持“AI末日论”观点的除了马斯克,另一知名的人是斯蒂芬·霍金,霍金是杰出的物理学教授,但并不意味着他在AI方面的观点也同样令人认同。
 
著名的AI研究专家Michael Jordan就直言不讳地说过,如果你有物理学方面的问题,可以向霍金求教,但如果是AI方面的问题,可能更合适的人选是自己。
 
吴恩达听到霍金马斯克等关于“超级人工智能”的观点时,他直接忍不住地用手盖住了脸。
 
吴恩达说:作为真的做AI产品的人,我看不到今天的AI可能发展为邪恶力量的任何可能性。
 
甚至在听到“奇点理论”之类的观点时,吴恩达索性翻白眼,他甚至说:听到奇点,我的眼睛就会自动翻白。
 
另一位知名的AI大咖Geoff Hinton也明确表示,未来50年内,我不对什么“超级人工智能”的实际进展抱有希望。
 
所以,我认识的业界真正做过突破性计算机和AI科研工作的人,都是更支持扎克伯格的看法的。
 
实际上,许多硅谷主流的企业家、图领奖的科学家,已经私下对马斯克和霍金的言论不认可有段时间了。我之前在《纽约时报》和《连线》的专栏文章中,其实也表达了这种“不认可”,只是并没有那么直白地针对马斯克或霍金教授说出来。
 
我在《连线》的专栏文章中说:“一些自称未来学家的人开始对人工智能做出各种预言,他们谈论着‘超级智能’、‘奇点’、‘人机结合’,甚至毫无根据地声称‘我们其实就生活在电子游戏当中’。这些反乌托邦的警告令人惴惴不安,这些言论大多出自世界级的科技大拿之口,又透过科幻小说中那些大家所熟悉的桥段和场景而深植人心。”
 
实际上就是针对马斯克一系列的言论观点,希望提醒大家,区分“科幻”和“科学”的不同。
 
更加直白来说,我认为那些耸人听闻的预言并没有切实的工程基础。科“幻”小说主要是幻想,而不是“科”学。我们目前面临的真正危机并不在于担忧这样的情况在遥远的未来可能会发生,而是解决即将到来的职业取代问题。
 
但这一次扎克伯格这样直白地反对和批评马斯克,我觉得或许是真的认为马斯克的言论实在过激了,特别是面对美国重要的政治人物演讲时,如此言之凿凿地谈AI毁灭人类。
 
更早之前,Michael Jordan也明确批评过,他说:AI科学家必须绝对诚实,无论是对你的出资者、赞助商、员工、同行、同事、公众,还有面对你自己。当我们诚实地面对AI时,有不诚实或妄想者做出疯狂的AI预言(而影响了公众舆论甚至政府政策),这些人让我们这些务实又诚实的科学家活得很艰难。
 
机器人将会处理一切工作?不认同
 
我也不认同马斯克“机器人将会处理一切工作”的看法,这有点以偏概全了。一方面,我同意AI将取代简单的、重复性的工作,但另一方面是我们完全可以给人类创造新的工作,而且是AI做不了的工作。
 
AI做不了的工作是什么呢?我们会发现主要是创造力和社交相关的能力,那么最多10%的工作属于创造性部分,而90%就必须进入社交为核心的服务型工作。【1】
 
所以,我们要鼓励更多年轻人走向创造的路线,无论是理工科学的发明,或者是人文艺术的创意。AI只能够优化,只有人才能够创造。
 
另外,服务业会有很多的机会,尤其是社交属性较强,“有爱”的服务业。这包括了已有的行业:热情的导游、细心的礼宾、风趣的调酒师、有感染力的美发师、饶富创意的寿司师傅。我们也会创造新的行业:可以上门服务的营养厨师、能够按照季节更替来上门服务的居家换季师、带你年迈的父母去医院的银发关爱专家。甚至包括了一些志愿者型的工作:血库的助工、孤儿院的老师、夏令营的辅导员、诫瘾互助会的发起人。
 
我们需要改变社会思想和教育,让做服务业的人能够从中得到满足。如果服务业能够尽量帮助他人,关怀他人,解决他人问题或苦恼,让他人开心,这样不就解决自我实现的问题了吗?(当你做到这几点的时候,是不是很开心,很自豪呢?)
 
即便不是90%的人都从事这样服务型的工作,假设只有50%做到,还有少数提早退休,专注自己的嗜好,或在网上消磨时间,只有极少数可能有抑郁或其它问题。
 
这样社会也稳定下来了,不是吗?
 
马斯克应该多听听AI专家的意见
 
最后,坦白讲,我并不认为通过这次辩论可以马上改变马斯克的观点,毕竟他对“超级人工智能”如此坚信而着迷——甚至影响他的那个作家改变主意了,他也看起来不准备改变。马斯克被OpenAI研究超级人工智能的科学家围绕着,所以他们必然彼此影响鼓吹着末日论。就如扎克伯格被务实的Yann LeCun(Facebook AI研究院院长)和创造商业价值的人工智能专家围绕着,所以也一定彼此影响对AI保持乐观。
 
虽然伊隆·马斯克过去展现出的远见和战略思维令人敬佩,对他启动OpenAI的初衷——开放AI作为约束AI的一种方法,我也深感认可,但对于马斯克一直以来对于AI过于悲观和具有毁灭性的论调,我却非常不认同。
 
相对来说,我认为在“AI和人类未来”这个话题上,我们应该更多听取扎克伯格的看法,扎克伯格的团队是真实用了AI,解决了问题,创造了价值。他麾下有Yann LeCun带领的一流AI研究人才,他们很清楚目前AI能做什么、不能做什么,以及可预见的将来能做什么。
 
而且据说马斯克关于“超级人工智能”的观点,受到牛津大学人类未来研究院院长、《超级智能》的作者Nick Bostrom(尼克·波斯特洛姆)的启发,但最近这个影响了马斯克论点的人,也公开表示“反水”了,他认为自己书中所写的超级人工智能带来的悲惨情况,并不意味着有可能发生。
 
更早之前还有人告诉我,说马斯克之所以如此笃定超级人工智能的威胁,是因为DeepMind当年在寻求收购时,曾表达了超级人工智能威胁之类的观点,所以还要求收购了他公司的人,要设立一个道德委员会去约束DeepMind未来的所作所为,免得毁灭人类。当时的潜在收购者之一马斯克深受影响。
 
但DeepMind创始人哈萨比斯的要求,可能其实是在收购案过程中开的一个“策略”,让他的团队看起来更强大。AlphaGo很强,但离“超级智能”还很远。并且哈萨比斯后来自己也承认了,AI威胁人类的事情,还太过遥远。
 
所以对于AI和人类的关系,我认为马斯克应该多听听真正的每天把AI当做工作的人的看法。我认为他也可以去和最顶尖的AI专家和图灵奖得主交流,看看为什么这些专家都不认可他的“超级智能”和“末日观”。
 
马斯克这么多年确实有不少伟大的创新创作,而且基本没有失败过,但并不意味着他不需要在“超级智能”这个问题上三思而后“谈”。
 
【1】详见牛津2013文章:http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf
 
文章载于“量子位”
 
 
课代表有话说
 
10小时从0到1学习人工智能由创新工场董事长兼首席执行官李开复携手创新工场AI工程院副院长王咏刚联合打造。
 
你是否想过未来十年人工智能的普及将会使得医生、教师这样的大众职业变得岌岌可危?是否想过奥赛这一精英教育的产物也会因人工智能的介入而失去存在的价值?是否想过即便是在复杂的路况之下仍然可以放心自如的实现全自动驾驶的完美体验?是否想过你现在所看到的这篇文章也可能完全出自一位“专业”的人工智能写作助手呢?
 
未来十年,每个人都要在人机协作中找到自己的新位置,“人工智能先行者”——创新工场创始人兼董事长李开复博士携手创新工场AI工程院副院长王咏刚开讲十小时你应该了解的人工智能,通过10节精品课程为你亲手搭建带得走的知识体系,与你一同描绘AI如何重塑个人、商业与社会的未来图谱。
 
谁来讲课?
 
李开复、王咏刚等:创新工场董事长兼首席执行官。曾以最高荣誉毕业于哥伦比亚大学,并于1988年获卡内基梅隆大学计算机学博士学位。期间曾担任 Google 全球副总裁兼首任大中华区总裁、微软公司全球副总裁、苹果交互式多媒体部门副总裁。在微软任职期间还创办了微软中国研究院(后更名为微软亚洲研究院)。2013年还被入选为《时代周刊》全球最有影响力100人榜单。2009年9月李开复老师在中国北京创立创新工场,帮助中国青年成功创业,创新工场立足互联网、移动互联网和云计算等领域,培育了一大批创新人才和众多新一代高科技企业。
 
王咏刚,男,Google软件工程师,著名技术撰稿人和IT演说家。在数据压缩、全文检索、内容管理、分布式系统、软件测试等技术领域有一定的积累。撰写过几本据说还算有趣的技术图书,曾在《程序员》、《CSDN开发高手》、《中华读书报》等杂志主持技术专栏,其《凌波微步:软件开发警戒案例集》、《道法自然——面向对象实践指南》等技术专著就是在《程序员》中发表的,他还以“王笨笨”的名义在网络上发布过一些小有名气的技术教程。
 
 
推荐 1