会不会被“天网”奴役，答案在我们自己
来源: 新华网2016-03-22 09:17:00 包括人工智能在内，人类的创造物是否会和我们站在同一边?是否会成为奴役我们的力量?这些问题的答案不在工具，而在人类自身。

　　“阿尔法围棋”和韩国棋手李世石的世纪大战，终于以“阿尔法狗”4:1获胜而宣告落幕。如果从科学发展角度来看，这不仅是一次人类和人工智能的大对决，而是人类对未知领域的又一次科学实验，也必将从此掀开人工智能科学研发的新序幕。

　　今天的人工智能，已经成为涉及哲学、计算机、心理学、博弈论等领域的交叉学科，“阿尔法狗”的算法技术和数据处理能力已经远超“深蓝”。在新一轮科技和产业革命中，人工智能的产业化应用是一大动力源。无论是德国的工业4.0，还是美国的“再工业化”，抑或是中国的“互联网+”，人工智能的研发都是重点，被视为经济社会发展的动力源。

　　但对人工智能，除了欢迎，也有警惕。其发展的每一步，都与英国数学家图灵“机器能思考吗”的诘问相伴。以机器人为代表的人工智能是否会取代人类、站到人类对立面?这早已成为诸多科幻电影的题材，由施瓦辛格主演的《终结者》中的天网Skynet成为了最可怕的人工智能的代名词，理论物理学家霍金也忧虑：“人工智能的完全发展会导致人类的终结。”

　　人工智能会发展到什么程度?作为普通人，我们无法准确预测，因为目前的人工智能尚处于“有智能没智慧、有智商没情商、会计算不会‘算计’、有专能无全能”的阶段。然而就在“阿尔法狗”与李世石大赛期间，谷歌一位资深人工智能工程师接受专访，认为在10年内，有知觉和自我意识的强人工智能可以实现，那时人工智能可以写小说，而且有发展到天网水平的可能。

　　如果这真是10年内的结果，那么人类真的需要赶紧思考人工智能与人的关系了。对人工智能可能带来的安全与伦理问题，欧盟、日本、韩国等已经着手开展政策研究与立法实践。事实上，谷歌在收购“阿尔法围棋”的研发者——“深度思维”公司的条款中有一项，就是必须成立人工智能道德委员会，由来自科学、哲学多领域的人员监督通用人工智能技术的未来应用。

　　世界上最强大的力量应当是人类本身，而不是一把铁锹或者核潜艇。人类制造的产物不讲道德和感情，但它们拥有力量，这种力量的快速增长往往让人类感到恐惧。包括人工智能在内，人类的创造物是否会和我们站在同一边?是否会成为奴役我们的力量?这些问题的答案不在工具，而在人类自身。

　　笔者想到了法国思想家帕斯卡尔的名言：“人是一棵有思想的芦苇。”面对人工智能以及一个个可能带来异化的事物，我们需要的正是“思想”，也只有“思想”才能解决这些难题。□殷红博(科学教育学者)