智能机器人引伦理忧虑 是否成未来世界梦魇？

　　阿尔法狗击败围棋世界冠军李世石，让我想起了30多年前看过的一部美国科幻电影：“未来世界”。

　　这是一部描写机器人妄图统治人类的片子。未来世界的机器人认为人是变化无常的，没有理性的残暴的。他们的任务就是复制人类，最后消灭人类的原型，达到由机器人统治世界的目的。具体的工作就是在人类中输入他们的程序，听从他们的指挥。而这些复制品完全就是生物学上的人类，没有一丝机器痕迹。

　　这部充满科幻意味的电影在刚打开封闭大门、改革开放不久的中国，引起很大的轰动，记得我前后看了6次，至今清楚里面的细节。

　　30多年后，未来世界像是真的要来了，这就是电脑围棋阿尔法狗在前三局就以3比0击败了获得世界围棋冠军头衔最多的李世石。第三盘比赛，李世石全盘没有一点机会，赛后人们一片沉默，心情沉重。

　　围棋是世界上最难，也是变化最多的棋类游戏。专家说，国际象棋的变化是10的60次方，而围棋则是之后的170个零，比全世界的沙粒加起来还要多，这就是围棋变化无穷的原因。

　　如果仅仅从难度来看，电脑的聪明其实并不可怕。真正可怕的，是它能够自我编程，也就能够自我修补、自我提高。李世石第二盘结束后连夜与人研究复盘对策，殊不知阿尔法狗也没闲着，据阿尔法狗团队的工程师介绍，阿尔法狗也在自行复盘、研究、寻找最佳的着点。如果用量来计算，电脑的运算速度是人脑完全无法比拟的，量则更是李世石团队不可企及的。它的自我学习能力能够到了人类达不到的高度，这也是为什么阿尔法狗能够越战越好的原因了。比较几个月前5比0战胜欧洲冠军的棋局，人们惊叹“进步神速!”

　　昨天在第四局的比赛前，几乎所有人相信阿尔法狗一定会再次轻取。但也有人警告，阿尔法狗会不会故意放水?如果阿尔法狗真的具有这样的思维，那么一定是非常危险的。讫今为止，电脑程序只是停留在逻辑思维上，如果在人类的引导下具有存在感和独立意识，则是极其危险的。因为有朝一日它将不会再臣服于人类，将用自己的价值判断力和无穷的能力，用自己的方式行事，这将会是一场灾难。

　　第四局阿尔法狗输了，但愿真的是如专家所言，李世石的第78步的挖，这一人类从来没有用过的“莫名着法”让阿尔法狗看不清楚、无从应对而系统崩溃。但是阿尔法狗的主研究师赛后也说：“我们不清楚问题出在哪里，回去后将好好地研究。”这一句话也并没有给出真正的答案。

　　阿尔法狗给这个世界带来了新的成就，但是也带来新的忧虑。人们担心一旦电脑机器人具有了价值判断能力，面对躺在医院里无法治愈的病人，会不会认为不能再让其消耗社会资源而拔去维持生命的管线?

　　电脑机器人不好色，不贪财，没有爱好，没有喜怒哀乐的情绪变化，这正是最令人可怕之处。霍金说过一句话：“现在对人类智能的草率态度，将是人类犯的最严重和愚蠢的错误”。据悉，为应付可能出现的这类情况，谷歌和Facebook已经在考虑成立伦理小组，就像克隆技术现世后，一些国际组织和世界各国医学界达成一致意见：“严禁克隆人类”一样。

　　智能机器人会不会在未来世界变成人类的灾难?这样的忧虑是否存在?当梦魇真的来临时人类能不能坚守住自己的最后一道阵地?除了拔掉电源，还能做些什么呢?