“破壁人”AI亟需補完計劃

　 域名預(yù)訂/競價，好“米”不錯過

©新熵原創(chuàng)

作者 | 伊頁 編輯 | 明非

破壁人，是《三體》中的人類叛徒——地球三體組織，為了識別出面壁者內(nèi)心真實想法而安排的人。

侵略者三體人思維透明、無法撒謊，只能利用人類身份的破壁人，來瓦解地球人最后的希望，面壁計劃。

現(xiàn)實社會文明中，每一個人的內(nèi)心真實想法，其實也在被高速發(fā)展的人工智能，即AI技術(shù)所窺見。

《三體》中的地球難逃被殖民的命運，現(xiàn)實中的人類又該如何避免，未來可能會發(fā)生的AI支配？

去年年底，谷歌AI倫理部門的聯(lián)合負(fù)責(zé)人Gebru發(fā)推表示自己被公司開除。只因身為黑人女性的她，一篇引發(fā)爭議的論文內(nèi)容指出，不加區(qū)分地使用現(xiàn)有數(shù)據(jù)訓(xùn)練人工智能，會進(jìn)一步加深 AI 語言模型中對少數(shù)邊緣群體的偏見。

AI中涉及的倫理偏見現(xiàn)象一直貫穿至今。早在2015年就有谷歌相冊將兩個深膚色的人標(biāo)記為“大猩猩”的事件。新冠疫情期間又爆出AI技術(shù)將手持測溫計的深膚色人員圖像標(biāo)記為“槍”，而將相同條件下淺膚色人員的圖像標(biāo)記為“電子設(shè)備”。

當(dāng)AI沒有沿著技術(shù)研發(fā)之初，所設(shè)想的為人類服務(wù)、促進(jìn)社會發(fā)展的道路前行，反而屢次觸及文明社會倫理道德的紅線，這個“破壁人”顯然需要一個補完計劃來修正其軌道。

AI倫理的進(jìn)一步研究和落地，就成了計劃的關(guān)鍵。

新興技術(shù)或事物的橫空出世，由于場景應(yīng)用經(jīng)驗不足、普羅大眾認(rèn)知落后等緣由，被視作洪水猛獸遭受歧視并不罕見。

歷史上，美國加州就曾出現(xiàn)過，要求汽車司機在接近馬匹的300英尺外停車等待，讓馬車先行通過的不平等法規(guī)。

但新科技的妖魔化，最終還是抵擋不了，人類社會對美好生活的追求。AI技術(shù)也注定成為，影響人類生活現(xiàn)狀的第四次工業(yè)革命的核心單元。

市場探索、行業(yè)規(guī)范、學(xué)術(shù)科研、國家監(jiān)管，多方主體關(guān)于AI倫理道德問題的生態(tài)研究及建設(shè)，就需要發(fā)揮相應(yīng)的作用，急需行動起來。

AI倫理需多個維度補完

自古以來，先哲們就非常強調(diào)人類倫理秩序與技術(shù)的和諧發(fā)展。柏拉圖在對希臘神話的解讀中，就指出普羅米修斯給人類所帶來的技術(shù)，與赫爾墨斯所帶來的秩序，共同構(gòu)成了完整的文明社會。

控制論之父維納，其著作《人有人的用處》中，關(guān)于自動化技術(shù)和智能機器，得出過一個危言聳聽的結(jié)論：“這些機器的趨勢是要在所有層面上取代人類，而非只是用機器能源和力量取代人類的能源和力量。”

這類激進(jìn)的論調(diào)，以及大多文藝作品中，對于未來人造機器掌控世界的擔(dān)憂，不免有些夸張，但也絕不是杞人憂天。

事實上，目前AI發(fā)展最大的問題，早已不是技術(shù)上的瓶頸，而是AI與人類的關(guān)系問題，這也催生了AI倫理學(xué)和跨人類主義倫理學(xué)的課題。

2018年，時任微軟全球執(zhí)行副總裁沈向洋博士在其主持編撰的《未來計算：人工智能及社會角色》一書中提出了AI開發(fā)的六大原則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。

隨后，有另一家科技企業(yè)，百度也提出了AI倫理四原則：安全可控；促進(jìn)平等；教人學(xué)習(xí)、讓人成長，而非取代人、超越人；為人類帶來更多的自由和可能。

而在去年，人工智能垂直頭部企業(yè)，商湯科技聯(lián)合上海交通大學(xué)清源研究院發(fā)布《AI可持續(xù)發(fā)展白皮書》，為解決人工智能治理問題提出了一個新觀念和新思路。

其中提出的協(xié)商包容的AI倫理原則、普惠利他的AI惠民原則、負(fù)責(zé)自律的AI產(chǎn)融原則、開放共享的AI可信原則，對于建立AI可持續(xù)發(fā)展體系，推動數(shù)字經(jīng)濟(jì)領(lǐng)域治理研究，貢獻(xiàn)良多。

歸納來看，AI倫理問題涉及涵蓋如下幾個維度：

AI安全可控：包括“AI模型安全”，數(shù)據(jù)和訓(xùn)練的不完整性，會導(dǎo)致模型偏見和可解釋性缺乏。如果模型存在心理、統(tǒng)計等偏見，會造成算法歧視；而如果模型結(jié)構(gòu)不能解釋不夠透明，那么公眾對其信任度會下降。“AI數(shù)據(jù)和隱私安全”，使用者善意地去使用技術(shù)，但仍然可能會被黑客找到漏洞。訓(xùn)練完畢的模型有可能會遭到黑客的竊取，或者被反向還原暴露用戶數(shù)據(jù)隱私。“AI系統(tǒng)安全”，系統(tǒng)威脅分為兩類，一類是硬件設(shè)備被破解，造成采集數(shù)據(jù)泄露；另一類是軟件系統(tǒng)漏洞被利用，從而在采集或傳輸過程中被竊取數(shù)據(jù)。

AI公平平等：不同區(qū)域的人、不同等級的所有人在AI面前是平等的，不應(yīng)該有人被歧視，包括有功能障礙的人群也應(yīng)該能夠平等地使用人工智能；

AI信息透明：盡管人工智能技術(shù)具備自動識別理解現(xiàn)實世界，從現(xiàn)實場景中挖掘信息的能力，但只有在告知人且獲得同意的基礎(chǔ)上，才能收集、保存和使用這些信息。

AI行為問責(zé)：人工智能不應(yīng)作為獨立的主體存在，具備自主權(quán)利，人類需要始終為使用人工智能造成的結(jié)果負(fù)責(zé)。

作為銜接前沿技術(shù)與民生應(yīng)用的市場主體，國內(nèi)外的企業(yè)，均已在AI倫理生態(tài)研究的大道上，邁出了強有力的步伐。

今年3月，《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》全文正式發(fā)布。在共19篇65章的綱要全文中，“智能”“智慧”相關(guān)表述達(dá)57處。

市場先行摸索，政策配套跟進(jìn)，理論學(xué)研支撐，國內(nèi)的人工智能行業(yè)發(fā)展，已然領(lǐng)先于世界。

中國的AI行業(yè)得益于全球最大的市場環(huán)境，儲備了非常豐富的數(shù)據(jù)資料，以及在技術(shù)場景落地的過程中，對大量一手?jǐn)?shù)據(jù)進(jìn)行分析學(xué)習(xí)并得到持續(xù)訓(xùn)練。

國內(nèi)企業(yè)亦在行業(yè)發(fā)展，AI倫理道德生態(tài)建設(shè)工作中功不可沒。在具體行動上，商湯科技作為最早涌現(xiàn)出的一批先驅(qū)代表，就在其內(nèi)部設(shè)立了三重安全防護(hù)：倫理委員會、安全委員會、產(chǎn)品委員會。2019年商湯科技以組長單位的身份，領(lǐng)銜27家企業(yè)機構(gòu)共同組建人臉識別技術(shù)國家標(biāo)準(zhǔn)工作組，全面啟動人臉識別國家標(biāo)準(zhǔn)制定工作。

一年之后，全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會人工智能分技術(shù)委員會正式成立，商湯科技作為計算機視覺企業(yè)代表當(dāng)選為首批委員單位。從單項人臉識別技術(shù)，參與到AI技術(shù)各個應(yīng)用領(lǐng)域的國標(biāo)制定工作之中。

同時，其牽頭主編的《信息安全技術(shù) 生物特征識別信息保護(hù)基本要求》國家標(biāo)準(zhǔn)也正式立項。

國家層面行業(yè)標(biāo)準(zhǔn)的建立，就為全部行業(yè)內(nèi)的參與單位，劃定了行為邊界和規(guī)范。AI的安全使用，就不再是一句空談無法落地。

隨著標(biāo)準(zhǔn)覆蓋范圍的擴大、細(xì)則的完善，AI技術(shù)才能真正成為可信賴、可控制、可依靠的市場化產(chǎn)品服務(wù)。

制定規(guī)則并非畫地為牢，AI產(chǎn)業(yè)的可持續(xù)發(fā)展同樣至關(guān)重要。2020年的疫情沖擊，更加凸顯AI技術(shù)的多元化場景積極作用。

回歸到普通消費者，日益感知強烈的個人隱私安全問題上，數(shù)據(jù)保護(hù)也是AI倫理補完計劃中的要害所在。

近兩年，商湯科技相繼獲得ISO/IEC 27701:2019 隱私信息保護(hù)管理體系證書、ISO29151個人身份信息保護(hù)實踐指南認(rèn)證、ISO27001信息安全管理體系認(rèn)證，以及公安部“網(wǎng)絡(luò)安全等級保護(hù)2.0”三級要求等權(quán)威認(rèn)證，成為首批同時獲此四大認(rèn)證的人工智能企業(yè)，并代表中國企業(yè)加入全球范圍內(nèi)首個系統(tǒng)化定義了隱私信息管理體系（PIMS），成功對接國際上最權(quán)威、最被廣泛接受的隱私保護(hù)標(biāo)準(zhǔn)。

不僅如此，商湯科技一直力推的AI基礎(chǔ)教育、AI智慧醫(yī)療，在國計民生領(lǐng)域，利用先進(jìn)技術(shù)推動資源的普惠分配，讓每一個社會成員都能享受到科技進(jìn)步的紅利。

這也恰好體現(xiàn)了AI倫理中的公平、平等原則。在多維度建設(shè)AI倫理生態(tài)，補完AI倫理發(fā)展空缺方面，AI企業(yè)應(yīng)當(dāng)仁不讓。

產(chǎn)學(xué)研一體實踐理論結(jié)合

人工智能作為一項人類探索未知領(lǐng)域的前沿科學(xué)技術(shù)，就如同始祖、先輩對于火焰熱力、電氣磁力的探索利用，需要經(jīng)歷無數(shù)次實踐、論證、總結(jié)的循環(huán)往復(fù)。

辯證唯物主義認(rèn)識論問題的著作《人的正確思想是從哪里來的？》中就詳細(xì)闡述了實踐與認(rèn)知的辯證關(guān)系。

正確思想的獲取，需要經(jīng)歷兩次飛躍。一次是實踐感性認(rèn)識的不斷積累，量變引起質(zhì)變，形成理性認(rèn)知；第二次則是拿理性認(rèn)知投入到新的實踐當(dāng)中，經(jīng)過結(jié)果成敗的檢驗，方能掌握行之有效的辦法和規(guī)律。

AI技術(shù)發(fā)展過程中的補完工作，AI倫理體系的生態(tài)建設(shè)，亦要遵循這一路徑。

在當(dāng)下社會大分工的市場環(huán)境中，企業(yè)更多面向適應(yīng)市場需求的產(chǎn)品研發(fā)改進(jìn)工作，學(xué)術(shù)科研單位則是專注于技術(shù)成果的研發(fā)，這就導(dǎo)致中間缺少一道技術(shù)轉(zhuǎn)化成產(chǎn)品，產(chǎn)品成果反哺上游研發(fā)的橋梁。

日前，在商湯科技和上海交通大學(xué)的支持下，上海交大中國法與社會研究院和清源研究院共同成立計算法學(xué)與AI倫理研究中心。

該研究中心的合作就是典型的產(chǎn)學(xué)研一體化模式，AI產(chǎn)業(yè)內(nèi)的大企業(yè)和具有技術(shù)優(yōu)勢的科研院所、高校實施強強聯(lián)合，形成有利于科技成果市場化的聯(lián)合體，便能加速AI倫理生態(tài)建設(shè)工作的有效落實，進(jìn)而推動整個產(chǎn)業(yè)的進(jìn)步發(fā)展。

上海交通大學(xué)中國法與社會研究院有著豐富的學(xué)術(shù)資源，并在風(fēng)險社會與復(fù)雜系統(tǒng)理論、大數(shù)據(jù)治理和人工智能治理的比較制度分析、智慧司法等領(lǐng)域有深厚底蘊。而商湯科技則能夠為法學(xué)與人工智能的交叉研究提供技術(shù)支撐和產(chǎn)業(yè)界資源。

兩者的有機融合，可以讓計算法學(xué)與AI倫理研究中心成為在新興計算機系統(tǒng)研發(fā)、智能生態(tài)圈構(gòu)建、圍繞數(shù)字經(jīng)濟(jì)的規(guī)則博弈、人工智能立法等方面成為國內(nèi)頂級、國際知名的學(xué)術(shù)重鎮(zhèn)和高端智庫。

據(jù)悉，研究中心將針對隱私保護(hù)、算法公正、網(wǎng)絡(luò)安全、城市及社會的數(shù)字化治理、智慧法院、認(rèn)知科學(xué)與類腦計算、科技與法律及政策等重大課題進(jìn)行深入研究，并搭建計算法學(xué)交流與合作平臺。

因此，才能從產(chǎn)業(yè)和學(xué)術(shù)兩個角度，深入地挖掘AI倫理問題產(chǎn)生的根源和背景，然后從源頭去針對性地解決隱患，并把 AI倫理滲透到整個學(xué)術(shù)界和產(chǎn)業(yè)界當(dāng)中。

當(dāng)然，完整的AI倫理生態(tài)，不僅僅局限于產(chǎn)業(yè)和科研雙方，國家相關(guān)監(jiān)管部門的支持和市場大眾消費者的認(rèn)知提升，也是AI補完計劃不可缺少的兩環(huán)。

前者需要完善相關(guān)立法，加強技術(shù)與產(chǎn)品的管理力度，后者則應(yīng)該主動提高對于前沿技術(shù)的客觀認(rèn)知。

AI技術(shù)產(chǎn)品的市場應(yīng)用，已經(jīng)處于從小規(guī)模驗證走向了大規(guī)模應(yīng)用的階段，根據(jù)現(xiàn)有經(jīng)驗謹(jǐn)慎推導(dǎo)，完善相關(guān)事前、事中、事后的審查、處罰機制，才能為更大范圍的普及推廣，杜絕倫理問題產(chǎn)生的可能。

同樣，作為消費端的市場大眾，理應(yīng)樹立正確的科學(xué)價值觀，既不能盲目追求新鮮潮流，又不該固步自封拒之于千里之外。尤其是作為產(chǎn)學(xué)研體系內(nèi)的專業(yè)人士，更需要以身作則堅持正確的AI倫理觀，主動引導(dǎo)普羅大眾的認(rèn)知行為。

相信在各方的不懈努力下，越來越多像計算法學(xué)與AI倫理研究中心這樣類型的主體出現(xiàn)，將進(jìn)一步促進(jìn)監(jiān)管主體和普通民眾的同步跟進(jìn)，國內(nèi)AI倫理的生態(tài)建設(shè)將日趨完善，獨步全球。

被視作人類“破壁人”的人工智能，在得到AI倫理體系的補完之后，也能回歸中性工具的角色，不再具有未來威脅的可能性。

但到了那時，新的“破壁人”又會以何種形式出現(xiàn)，就仰賴于人類自身的想象力了。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！