正如蒸汽機(jī)、發(fā)電機(jī)曾給世界帶來變革一樣，當(dāng)前人工智能(AI)技術(shù)正快速深入應(yīng)用于社會(huì)各領(lǐng)域，展現(xiàn)出顛覆性力量。人工智能越智能，就越需要治理的力量，也只有處理好人與人工智能的關(guān)系，人類社會(huì)才能放心擁抱AI“紅利”。
在2021世界人工智能大會(huì)治理論壇上，來自政產(chǎn)學(xué)研界的專家達(dá)成共識(shí)：為確保人工智能安全、可靠、可控，建立健全法律法規(guī)、制度體系、倫理道德，需要科學(xué)評(píng)估人工智能應(yīng)用的社會(huì)綜合影響，為智能時(shí)代的政府治理提供有效支撐。
中國AI治理的模式變了
“治理跟不上，人工智能就發(fā)展不好。”清華大學(xué)蘇世民書院院長、國家新一代人工智能治理專業(yè)委員會(huì)主任薛瀾說，從國家積極推動(dòng)行業(yè)發(fā)展，到出臺(tái)行業(yè)軟性規(guī)則，再到多部門采取措施整治，我國人工智能的治理模式正從“回應(yīng)式治理”轉(zhuǎn)向“集中式治理”。“從去年開始，我們對(duì)人工智能發(fā)展中的一些問題進(jìn)行了集中治理，相關(guān)法律法規(guī)出臺(tái)的進(jìn)度也在加快。”
隨著人工智能技術(shù)不斷進(jìn)階，治理模式也得“與時(shí)俱進(jìn)”。面向未來，薛瀾提出了“敏捷治理”模式，“這是一種多元治理主體參與、多種治理工具靈活運(yùn)用的剛?cè)岵?jì)的治理模式”，即在確保人工智能安全和平等的基礎(chǔ)上，鼓勵(lì)企業(yè)創(chuàng)新，并及時(shí)識(shí)別AI應(yīng)用帶來的風(fēng)險(xiǎn)，果斷給予適當(dāng)規(guī)制。
對(duì)于AI應(yīng)用的研究也在走向深入?！渡虾倚乱淮斯ぶ悄軇?chuàng)新發(fā)展試驗(yàn)區(qū)社會(huì)實(shí)驗(yàn)工作方案》在論壇上發(fā)布，它將深入了解回應(yīng)當(dāng)前國內(nèi)人工智能及數(shù)字技術(shù)應(yīng)用中公眾關(guān)注和反映較多的問題。市科委副主任王曄表示，醫(yī)療診斷輔助決策支持、隨申碼應(yīng)用拓展、老人智能服務(wù)應(yīng)用系統(tǒng)等，都是與市民生活息息相關(guān)的人工智能應(yīng)用，“我們將這些場(chǎng)景作為首批實(shí)驗(yàn)工作目標(biāo)，將其放在科學(xué)系統(tǒng)的分析框架下進(jìn)行研究”。
建立公正透明的評(píng)估體系
人工智能治理難在哪里?圖靈獎(jiǎng)得主、中科院外籍院士約翰·霍普克羅夫特說：“人工智能會(huì)告訴我們答案，但不會(huì)告訴我們答案背后的理由，如果訓(xùn)練它的數(shù)據(jù)存在偏見，那么結(jié)果也可能是有偏見的。”霍普克羅夫特認(rèn)為，達(dá)成一套透明、公平、公正的評(píng)估體系至關(guān)重要。
以自動(dòng)駕駛為例，它通過大量數(shù)據(jù)生成駕駛決策，在這一過程中，我們要盡可能地去收集更多相關(guān)場(chǎng)景數(shù)據(jù)，去模擬和仿真出各種相關(guān)場(chǎng)景，然后把各類人工智能技術(shù)放在這些環(huán)境和場(chǎng)景下去評(píng)估。
建立公平透明的評(píng)估體系需要依靠政產(chǎn)學(xué)研各方力量，除了作為監(jiān)管主體的政府和研發(fā)主體的企業(yè)，霍普克羅夫特還著重強(qiáng)調(diào)了另外一些機(jī)構(gòu)，比如教育和媒體，“整個(gè)社會(huì)都要了解人工智能可能帶來的問題，這就需要教育的力量，如果一座城市有更多懂AI的人，并且能夠加入到人工智能這個(gè)議題的討論中來，人工智能就能朝著更加以人為本的方向發(fā)展”。
治理AI需要健全的倫理體系
“在人工智能發(fā)展的問題上，當(dāng)下最迫切也是最核心的問題是數(shù)據(jù)。”商湯科技聯(lián)合創(chuàng)始人楊帆說。
“數(shù)據(jù)很奇怪，產(chǎn)生它并不容易，但是復(fù)制成本特別低，而且維度越多、越龐大的數(shù)據(jù)價(jià)值越大，在不同人手里發(fā)揮出的價(jià)值天差地別，這就產(chǎn)生了很多新問題。比如數(shù)據(jù)所有權(quán)、使用權(quán)如何界定，復(fù)制數(shù)據(jù)的價(jià)格如何計(jì)算等。”楊帆提出了他的思考。
治理人工智能需要健全的倫理體系。作為人類智能的產(chǎn)物，人工智能需要以人的道德價(jià)值作為行為依據(jù)。在楊帆看來，人工智能的倫理問題主要包括三個(gè)方面：一是以人為本，阿西莫夫提出的“機(jī)器人三原則”是從限制機(jī)器角度為人類發(fā)展撐起一把保護(hù)傘，同樣，人工智能也需要正向?yàn)槿祟愄峁┓?wù);二是可持續(xù)發(fā)展，任何技術(shù)的發(fā)展都要講究人與自然的平衡，在更加良性的環(huán)境中得到互動(dòng)和發(fā)展;三是技術(shù)可控，即對(duì)技術(shù)實(shí)現(xiàn)更好的控制。
隨著國家、城市與社會(huì)各行業(yè)的數(shù)字化轉(zhuǎn)型，數(shù)據(jù)問題會(huì)越來越多地?cái)[在人們面前，成為一項(xiàng)巨大挑戰(zhàn)。如何處理好數(shù)據(jù)問題或?qū)⑶藙?dòng)整個(gè)科學(xué)體系，乃至變革人類社會(huì)。
