陈一舟：机器有无慈悲之心？

[摘要]我们该如何看待人工智能？机器是否和人一样，有慈悲之心？人人网CEO分享了他的想法。



文/陈一舟
三个星期前，当全世界都在为引力波激动的时候，我牵头组织了一次关于引力波和相对论的学习会，到会的互联网界人士有王兴，张朝阳，雷军和李彦宏。会上除了请到的两位老师给我们讲量子力学和引力波之外，借着大家对宇宙奥秘的兴趣，我也即兴分享了一个我为某个会议准备的ppt讲稿，主题是人工智能及对人类未来的担忧。
3月10日，人机世纪大战的第二场比赛结束了，阿尔法狗再次战胜世界围棋冠军李世石，关于人工智能的讨论也越来越激烈。我们该如何看待人工智能？机器是否和人一样，有慈悲之心？我把学习会内容整理了一下，在这里和大家分享。
奇点临近
很多互联网界人士应该都看过《奇点临近》这本书。我记得李彦宏等大咖都向公众推荐了这本书。奇点临近的观点基于计算技术的摩尔定律，下图说明：





用这个图来描述每个时代的计算能力，可以看到计算技术的发展是在以指数级提高。在1960年代，一千美元能买到的计算能力相当于一只蜻蜓的计算能力，非常非常小，在2000年代，一千美元当量的计算能力已经能达到一只老鼠的大脑的计算能力，预计在2020年的时候，一千美元当量的计算能力相当于人脑的计算能力，而到2050年，一千美元可以买到相当于全人类的计算能力！
奇点临近的核心思想是，基于计算能力指数级的提高，人工智能将在不久的将来（几十年），全面超过人类。而那个时刻太阳系智能的承载将由人类大脑跨越到超级人工智能，人类在宇宙中的地位将重新界定。
本周AlphaGo的表现，我们模模糊糊的感觉到，奇点临近。
意识和智能的生物/物理学基础
我看到大家在讨论AlphaGo时，也在思考我们人类和人工智能到底有什么本质的区别。一派论点认为我们很独特，我们的知觉，情感，如此复杂和独特，机器人是永远赶不上的。两年前，我有过类似想法，但是最近一年，随着对人工智能的思考加深，我改变了看法。
首先，知觉和情感不是人类所独有，地球上的很多生物都有。灵长类动物和海豚之类比较聪明的动物，它们应该具有某种知觉。最近有一项研究显示，连乌贼这种软体动物，也可能有知觉。试验表明，刚醒来的乌贼脑电波会有明显的变化，就像人类醒来时脑电波出现的变化。





2012年7月7日在剑桥大学纪念DNA之父弗朗西斯·克里克(Francis Crick) 的学术会议上，一群科学家联合发布了一个关于意识生理学基础的剑桥宣言。剑桥宣言最后一段大胆提出：“缺乏大脑皮层似乎不表示生物没有经历情感状态变化的能力。各种证据皆不约而同地指出：动物拥有构成意识所需的神经结构、神经化学及神经生理基础物资，以及有能力展示带有意图的行为。因此，证据充分表明人类并非唯一拥有产生意识的神经基础物资的生物。非人生物，包括所有哺乳类及鸟类、以及其他生物包括章鱼，也拥有这类神经基础物资。”





如上图所示，过去几百万年，人脑越来越大，也越来越聪明，大脑的容量增加了两倍多。和人工智能相比，相当于CPU的计算能力的提高。思考能力显然有硬件基础，人工智能的计算能力在以指数逼近和超过人类，这是奇点临近的主要预测根据。



这是史上最神奇的人类大脑 — 100年前预测到引力波存在的爱因斯坦大脑。科学家对保留下来的爱因斯坦大脑进行了研究，发现他的大脑其实并不重，甚至略低于平均值，但是左半球与右半球的连接区域异常发达，同时负责抽象思维的区域异常发达，远超常人。进一步说明了智力、智能与产生智力的“硬件”的复杂性/精密性之间存在紧密的联系。人工智能除了硬件在指数提高，其软件，既认知能力，也通过机器学习算法提高非常快。
智能体的共同特点
有了上面的知识铺垫，让我们来探究本文的中心问题，机器是否有慈悲之心？让我们再补充一些知识，先看看智能的共同特点是什么。
凯文凯利在《技术需要什么》里认为如果技术也是一个有灵魂的个体，那么它需要四类东西：一是可能性，技术都想让自己的多样性变得更大，它希望增加更多的选择。第二它需要更高的效率，比如增加能量的密度。 第三技术希望增加复杂性，第四技术希望增加可进化性。



哈佛大学教授Alex Wissner-Gross认为智能应该被看作是一个物理过程，这个物理过程希望把未来的行动自由最大化，并且尽量避免在属于自己的未来中受到约束。一个囚犯为什么想越狱？他希望未来的自由最大化。年轻人拼命工作为什么？攒钱为未来打算。
这里特意把智能，技术这两个概念混淆。技术的驱使者是人类，所以技术发展当然也反应了人的主观能动性。比较有意思的是智能的热力学解释，根据Wissner-Gross，不管是基于碳基的生物智能还是基于硅的人工智能，应该都有一个热力学和哲学上的共同特点：它们消耗能量，消费信息，目的是最大化智能载体的行动自由和未来的各种可能性。
智能体之间的合作与对抗
这样看起来，智能体应该是自私的，它们都“忙着”为自己的未来打算。但为什么人类社会中存在着大量的利他行为呢？利他还是自私的问题，这和我们所关注的慈悲之心已经很接近了，所以我们来看看智能的利他行为是怎么回事。


人是社会化生物，人类更倾向合作。以研究蚂蚁著称的生物学家威尔森在他的《社会征服地球》一书中提出，“利他主义不是个体的自然选择，而是群体的选择”。他认为一个拥有众多愿意为了集体利益而作出贡献或为之牺牲的成员的部落将会胜过其他合作意识不那么强的部落。“社会体是在生物体个体之上的下一个主要生物学组织形式，在仅有的二十多个进化出社会体的动物进化分支线中，我们祖先处于其中一条分支上。在社会体中，超过两代以上的群体成员共同生活在一起，共同照顾幼体，进行劳动分工，且分工会让部分个体相对于其他群体成员在繁殖时处于更有利地位。”

对于区别于人类的高级智能，如外星人，人们直觉上保持一种担心。比如，在谈及对外星人的探索计划时，物理学家霍金曾经这样警告过：“虽然我们不太了解外星人，但我们了解人类。纵观人类历史，人类与智力相对欠缺物种之间的接触，站在它们的角度来看，这种接触往往是场灾难，先进文明与原始技术的相遇对于落后一方来说很糟糕。文明外星人可能会比我们早数十亿年读取人类的信息。如果是这样的话，他们非常强大，看待人类也许未必有人类看待细菌那样珍视。”
本周阿尔法狗两虐李世石，大家感慨万千。昨天（3月10日），李学凌([backcolor=url(http://mat1.gtimg.com/digi/dc_new/icon_wb_ly.gif) 4px 3px no-repeat]微博)的状态是这样滴：






人类的未来






腾讯科技 陈一舟2016年03月12日08:33 陈一舟：机器有无慈悲之心？
http://tech.qq.com/a/20160312/010432.htm