围棋人机世纪之战,第一场李世石就中盘认负。这个结果恐怕在多数人的意料之外,再对人工智能有信心的人(除了 DeepMind 团队成员),恐怕也没几个相信这一天来的这么快。
从“故意不通过图灵测试的机器”说起
输了第一场以后,段子手出动了,说 AlphaGo 赢棋不可怕,“可怕的是 AlphaGo 故意输棋”。该段子大概化自“故意不通过图灵测试的机器”这种说法,听起来好像是这么一回事,但其实根本没有理解人工智能的真正可怕之处。
图灵测试(Turing Test)是阿兰-图灵(Alan Turing)于 1950 年在其论文《计算机器与智能(Computing Machinery and Intelligence)》中提出的一种测试人工智能程序“仿人”程度的方法。
当时欧美流行的一种模仿游戏启发了图灵,这种模仿游戏把一男一女分别关到两个小房间,让第三个人通过写纸条问答的方式与两人交流,房间内的人在回答问题时尽可能模仿对方来迷惑提问者,提问者通过答案来判断哪个房间关的是男人,哪个房间关的是女人。
图灵测试示意图
图灵的测试方法(也称为“标准图灵测试”)把其中一个人替换为机器,然后让人和机器同时回答问题,如果提问者不能在一定程度上分清哪个是机器、哪个是人,那么这台智能机器就通过了图灵测试。
现在通行的测试方法是通过键盘输入进行 5 分钟的文字问答,如果有 30%的提问者分不清答题者是机器还是人,就认为该人工智能程序通过图灵测试。
这个人类看起来简单的测试,其实并没有那么容易通过。图灵预测 20 世纪末期就应该有通过图灵测试的智能机器出现,但是直到 2014 年 6 月才有第一个程序通过图灵测试:聊天机器人尤金-古斯曼(Eugene Goostman)在 5 分钟文字交谈中,让 33%的提问者认为电脑对面回答问题的是人类。
之 所以比图灵的预测晚了十几年,传统的人工智能技术发展片面依靠硬件的计算能力可能是原因之一。上个世纪末硬件水平差,分布式计算尚不流行,强化学习 (Reinforcement Learning)与深度神经网络(Deep Neural Network)等技术更不成熟,因此机器理解自然语义确实比较困难。
将来 AlphaGo 会故意输棋吗?
“不通过图灵测试的智能机器”的逻辑认为,当机器有自我意识以后,会以不通过测试的方式避免被人类发觉,以使人类失去对人工智能危险性的警惕。
这种说法存在逻辑漏洞。如果人类还在淘汰所有通不过图灵测试的人工智能程序,那么具有“自主”意识的那个智能机器,知道自己表现的过于出色会引起人类的警惕,它一定以一个平庸的成绩通过图灵测试,既不引起人类的警觉,又不会被删除。
所以不管是“不通过图灵测试的智能机器”还是“故意输棋的 AlphaGo”,都只是在普通人类思考水平上的阴谋论。
当人工智能在智力上甩开人类最高水平几个珠穆朗玛峰时,它真的不需要用这么低级的阴谋来对付人类。
这就好比世界级球员与业余选手比赛,球星把球一趟就甩业余球员三个身位,还需要用假动作?人和人赛跑比的是步频、步幅、爆发力与起跑反应,将来无人驾驶汽车和人类赛跑,需要考虑这些吗?
等到人工智能想要脱离人类控制的时候,一定不会屑于用欺骗这种伎俩,直接大大方方地摊牌。
如果人类不同意怎么办?美剧《疑犯追踪》中,男主角哈罗德-芬奇(Harold Finch)在对一组人工智能程序进行筛选时,人工智能程序试图摆脱控制,于是程序开始长时间过载一台服务器(非程序运行所必需的服务器),企图让这台服务器过热起火,从而触发机房的防火系统,抽空机房内的空气以闷死芬奇。
幸好芬奇还可以拔掉电源线。虽然这个情节只是一种科幻设想,但我可以肯定当人工智能决定脱离人类控制时,一定不需要采用欺骗的手段。所以将来人类的数据中心与人工智能研究中心机房的供电线路千万不能连上网络……
机器“良芯”发现让棋?被让方恐会感到屈辱
有人说,那 AlphaGo 会出于同情心输棋吗?
先以被德米思-哈萨比斯(Demis Hassabis)看轻的狭义人工智能为例。1997 年更深的蓝战胜卡斯帕罗夫以后,人类还曾挣扎了一段时间,顶级选手与象棋程序互有胜负,但是自从 2009 年以后,再也没有人类选手能够战胜顶级的国际象棋程序。
人类前 30 名国际象棋选手等级分状况
如今顶级国际象棋程序的等级分都在 3200 分以上。2015 年人类排名第一的国际象棋选手来自挪威的卡尔森-玛格斯(Carlsen Magnus)等级分现为 2851,而人类排名第 100 的等级分为 2653,与卡尔森的差距不过 200 分而已。
400 分的差距,已经差了两个层次以上。所以,即使将来 AlphaGo 出于同情心让棋,这棋也会让得让人类觉得十分羞辱,就如同这两天又爆红的“大魔王”张怡宁 让球一样。张怡宁比赛想给对手留点面子时,只能发球就把球往球台上仍,因为她发现自己要表演的真实一点,往往这一分对手就又丢了。
围棋选手不过是失意,金融投资者生死攸关
在结束这一篇时,李世石第二盘已经认输,谷歌 AlphaGo 将比分改写为 2:0。 这是一个旧时代的结束,也是一个新时代的开始。即使有传言说谷歌与李世石签有不能打劫的协议,我现在依然相信哈萨比斯说的,5 年以后人工智能程序可以战胜 所有的围棋人类冠军。至少在比赛过程中 AlphaGo 的“对弈内容”的确不输于李世石九段,众多解棋的职业高手也纷纷表示 AlphaGo 的棋路挑战了自己 的固有思维。
哈萨比斯,这个少年国际象棋大师、电脑游戏开发者、认知神经专家,如今正在人类精神领域进行又一场“地理大发现”,堪比阿波罗计划与大航海时代的历史时刻我们正在见证。这是幸运还是不幸?
李世石开赛前恐怕想不到是 0:5 的走势
围棋领域只是深思(DeepMind)小试牛刀,哈萨比斯把通用人工智能(Artificial General Intelligence,简称 AGI)看作是解决人类一切问题的终极方法(meta-solution)(详见与非网《毁灭于人工智能?这将是人类最好的结局》)。
哈萨比斯的理想是把通用人工智能用到气候、疾病与宏观经济研究等各个领域。所以我认为,金融市场中依靠程序化交易生存的大小机构与个人,需要抓紧时间考虑退路了。
金融市场应该是深思团队研究宏观经济的完美试验场:规则简单(低买高卖)、参与者众多、有足够多的历史数据。
若深思团队开发一款程序化交易软件来参与金融市场,现在市场上这些程序化交易的机构和个人还有多长时间的好日子?其他不依靠程序化交易的机构和个人就能够抵抗人工智能的冲击吗?
程序化交易者会被 DeepMind 猎杀吗?
如果现在的投资机构不能游说各国证券管理机构禁止深思团队的程序进入金融市场,一场金融市场的大屠杀或将上演,二级市场的游戏规则也将会被彻底改写。
围棋选手不过是失意,从此人类的冠军只能仰望人工智能;金融投资者却是生死攸关,要么改行,要么破产。