“自然選擇，優勝劣汰。”在過去(qù)N萬年中，所有的生物體無不 依此規律進化升級，包括我們這些擁有最高智商的人類，也是通過此優勝劣汰，逐步站(zhàn)到了萬物金字塔的頂端，更甚至于地球的主宰。但(dàn)就(jiù)在今天，我們已然發現自 然選擇可能随時會被取代，尤其伴随着人工智能——非有機生物體——的出現。

人 工智能，由我們親手做出的跳(tiào)脫天然範疇的人工設計，堪稱爲人類實現自我突破與變革的一場“逆天革命”與“瘋狂冒險”。面對人工智能，與其說(shuō)我們是對自身(shēn)的 未來抱有多美好的憧憬，倒不如(rú)說(shuō)對未來滿懷“恐懼着的希望”，人工智能碾壓一切的進步性與潛在的失控風(fēng)險始終拉扯着我們的終極神經。

如(rú)何制衡人工智能這把“雙刃利劍”，已然成爲智慧産業前行的重要課題。何以在人工智能“夠聰明”之前，爲它們樹立并能夠實際遵循的行爲準則，以此構建較完善的監管體系或者說(shuō)是 “道德束縛”？

智慧進化 箭在弦上

曾 幾何時，人工智能還(hái)隻是計算機科學的一個分支，出于對人類意識、思維的信息模拟。自1956年達特茂斯會議(yì)誕生“人工智能”一詞以來， 短(duǎn)短(duǎn)60年，商業動機已經讓與工業力量相(xiàng)關的人工智能無處不在，互聯網、金融、醫療、教育、物流、娛樂、傳媒等行業都(dōu)在加速自己智能化的進程。市場研究公 司IDC預測，到2020年，AI的市場規模将從今年的80億美元增長到470億美元，而對話(huà)機器人、智能語音、人工智能醫療等則成了人工智能這一熱點中 的熱點。

互聯網及物聯網技術的不斷進步、大(dà)數據在數 量與内容上的持續性幾何增長與應用，讓人工智能得(de)以不斷“深度學習和演化”，在具備學習能力的機器眼中，一切“人、事、物”皆可以被數據化，而算法基于這 些數據便可以建立“人、事、物”之間錯綜複雜的關聯關系。當算法可以充分捕獲描述人事物的關鍵數據後，機器便可以複制甚至超越人類的學習能力。

2016 年3月15日(rì)，谷歌阿爾法圍棋(AlphaGo)與李世石的五局人機大(dà)戰在首爾四季酒店(diàn)戰罷，人類代表韓國棋手李世石九段執黑(hēi)不敵AlphaGo，代表人 類大(dà)腦最複雜領域的圍棋被機器攻略，進一步論證了人工智能在模拟人腦、基因演化和自我進化的過程中已深度“進階”。人工智能正在由“弱人工智能”向“超級 人工智能”高速進化。

人與機器 “相(xiàng)愛相(xiàng)殺”

工 業革命将人類從“體力勞動”中解放(fàng)，當科技的發展進入人工智能領域，人們不可避免的期待着它來解放(fàng)我們的“腦力勞動”。當前社會，人工智能的發展已經在改 變很多人的生活方式，在醫藥領域，人工智能做到了對病毒爆發地的提前模拟，從而提前防控疫情；在教育領域，人工智能代替人們做到了一對一家教般的精準體 貼；在旅遊領域，人工智能可以實時完成快速調取當前場景信息并實時講解與翻譯……

但(dàn) 是，人類似乎一直糾結于一種矛盾的存在，始終生活在悖論裡。我們一邊以科技的進步标榜自己的成就(jiù)，一邊又焦慮并懼怕着被科技産物所取代甚至毀滅。這種巨大(dà) 的恐懼和擔憂，在文藝工作者的作品中體現得(de)尤其明顯：電影(yǐng)《終結者》邪惡機器人天網，企圖審判并滅絕人類；《黑(hēi)客帝國》中機器人要完全控制并奴役人類； 《銀翼殺手》裡人工智能複制人與人類對抗……雖然我們還(hái)不至于親眼目睹、親身(shēn)經曆電影(yǐng)橋段中可能出現的危機，但(dàn)是接下來我們确實很可能會産生一個群體—— 無用的人群。因爲以往人類社會的幾次技術革命在導緻失業的同時，也創造了大(dà)量新型工作。而人工智能技術的發展，在替代人類勞動的同時，對創造新工種可能貢 獻有限，這将在一定程度上對就(jiù)業産生負面影(yǐng)響。

充分 吸收了人類幾十萬年以來的思維進化成果，并在記憶、計算、邏輯推理上占據絕對優勢的人工智能，單從硬件上來看，很可能讓人類大(dà)腦望塵莫及。大(dà)腦的内部信息 傳播速度是每秒120米，相(xiàng)較于電腦的光(guāng)速已經沒有比較的意義。而且，人工智能還(hái)可以随意運用更多的硬件以獲得(de)更大(dà)的内存，不但(dàn)容量大(dà)而且更精準。甚至， 我們覺得(de)困難的事情，對于人工智能來說(shuō)未必有多大(dà)的難度系數，而這無疑将導緻不少工種的在崗人員被替代。與此同時，不少人們圍繞人工智能可能産生的社會倫 理、道德、戰争等都(dōu)表現出了深深的擔憂。在尋求矛盾告解之法的旅程中，人工智能發展将持久地伴随着人類的自我博弈過程；但(dàn)不管社會發展最終走向何方，未來 人類自身(shēn)的存在方式甚至人體構成模式都(dōu)會朝着更加注重高效、實用與低耗、持久的方向演化。

人力智能的“洪荒之力”亟待約束

人 工智能領域的研究和應用在很多方面都(dōu)取得(de)急速進步，但(dàn)與之相(xiàng)對應的規範化約束方案卻嚴重滞緩。人工智能與核武器、生化技術、基因技術等其他(tā)影(yǐng)響巨大(dà)的技術 一樣，潛在的威脅和其潛在的利益是成正比的，想要妥善利用這股洪荒之力，在它們“夠聰明”之前，爲其樹立一套可靠的行爲準則是十分必要的。我們要的不僅僅 是娴熟的技術以引燃智能爆炸，還(hái)需要在更高水平上掌握控制權，以免我們在智能爆炸中“身(shēn)首異處”。

就(jiù) 如(rú)科幻小說(shuō)作家艾薩克•阿西莫夫在他(tā)的短(duǎn)篇小說(shuō)《環舞》中提出的“機器人三大(dà)法則”，可以說(shuō)是一種保護性設計和内置的道德原則。原則一：機器人不可以傷害 人類，或看到一個人将受到傷害而不作爲；原則二：機器人必須服從人類的命令，除非這些命令與第一項法則矛盾；原則三：在不違反第一、第二項法則的前提下， 機器人必須保護自身(shēn)生存。時至今日(rì)，這對現實中的人工智能發展同樣具備指導意義。

目 前，全球最大(dà)的5家科技公司谷歌母公司Alphabet、亞馬遜、Facebook、IBM和微軟都(dōu)在率先嘗試制定關于人工智能機器人的道德标準，并規劃 成立人工智能行業組織。雖然尚不清楚，這一行業組織最終會取得(de)什麽樣的成果。但(dàn)其基本出發點很明确：确保人工智能的研究專注于造福人類，而非不利于人類。

此 外，開發人工智能已經是全球性的競争，這樣的競賽機制也許會讓某些害怕落後的團隊通過增加冒險行爲的方式趕上競争者，非良性的循環會讓這一風(fēng)險直達最高水 平。因此，除了圍繞人工智能研究制定規則，行業内也須制定自我約束框架。而在這一過程中，政府有效并适時的參與到爲人工智能規劃目标、價值觀和道德規範的 過程中來，也将是一種必然行爲，因爲人工智能已經将技術發展和社會經濟政策更緊密地聯系在一起。