1. 創(chuàng)業(yè)頭條
  2. 前沿領域
  3. 人工智能
  4. 正文

Google再與軍方合作,AI倫理的邊界在哪里?

 2018-06-09 15:59  來源:A5專欄  我來投稿 撤稿糾錯

  域名預訂/競價,好“米”不錯過

文|柯鳴

來源|

智能相對論

故事要從今年三月初說起。

今年三月,Google被爆料已經(jīng)與美國國防部(五角大樓)達成合作,幫助后者開發(fā)應用于無人機的人工智能系統(tǒng),項目代號Project Maven。

消息一出,瞬間風起云涌,谷歌員工表達了對此項目的強烈不滿。有員工認為Google在為五角大樓開放資源,助紂為虐般地幫助后者打造無人機監(jiān)控技術;還有一部分人質(zhì)疑Google如此使用機器學習技術是否符合道德標準,他們認為五角大樓會將這一技術用于殺傷性武器,進而帶來技術樂觀派們從未想要造成的傷害。

隨后,谷歌超過3100名員工聯(lián)名請愿,上書CEO桑達爾·皮查伊(Sundar Pichai),表達抗議。

Google再與軍方合作,AI倫理的邊界在哪里?2.jpg

谷歌員工聯(lián)名上書Sundar Pichai

事情到四月底進一步發(fā)酵。有媒體發(fā)現(xiàn),Google刪掉了其沿用十八年的座右銘“Don't be evil”在公司行為守則開頭中的三處強調(diào)。僅在準則的結(jié)尾,還留有未被刪掉的一句:“記住,don't be evil,如果你看到了一些你認為不正確的事情,大聲說出來!”

上周五,在每周一次的“天氣預報”例會上,Google Cloud首席執(zhí)行官黛安·格林(Diane Greene)宣布,Google將在這次合約到期后結(jié)束與美國國防部的合作的Project Maven

這無疑是一件大事。“勝利的消息”在谷歌內(nèi)部瘋傳。隨著一篇篇報道的蜂擁而出,這件事情似乎暫時以谷歌“向員工妥協(xié)、停止與國防部續(xù)約”的方式得以落幕。

但就在今天,谷歌CEO Sundar Pichai發(fā)表了署名題為《AI at Google:our principles》的文章,列出7大指導原則,并指出谷歌并不會終止與美軍的合作。谷歌的反轉(zhuǎn)讓人唏噓,雖然其明確了“不會追求的AI應用”,但技術作惡還是人作惡的問題,AI倫理再次引人深思。

AI倫理的邊界在哪里?

如果說谷歌近期來不太平,那么亞馬遜Alexa的日子也不好過。

亞馬遜的Echo設備被指控未經(jīng)許可將私人對話錄音,并將音頻發(fā)送給用戶聯(lián)系人列表中的隨機一位人士。這距離上次Alexa被爆出“嘲笑人類”事件的嚇人事件,還沒過過去多久。

Amazon對Alexa一事的回應

這可遠遠不是個例。早在2016年,一個人設為19歲少女、名為Tay的聊天機器人在推特上線。這個微軟開發(fā)的人工智能采用了自然語言學習技術,能夠通過抓取和用戶互動的數(shù)據(jù),處理并模仿人類的對話,像人一樣用笑話、段子和表情包聊天。但是上線不到一天,Tay就被“調(diào)教”成了一個滿口叫囂著種族清洗、粗野不堪的極端分子,微軟只好以“系統(tǒng)升級”為由將其下架。

Google再與軍方合作,AI倫理的邊界在哪里?5.jpg

微軟機器人Tay的極端言論

這著實讓人細思極恐。智能相對論分析師柯鳴認為,隨著AI弊病的凸顯,AI倫理問題也將日益得到重視。AI倫理的邊界到底在哪里?首先應該明確幾個問題。

1.機器人是否成為民事主體?

隨著人工智能技術的快速發(fā)展,機器人擁有越來越強大的智能。機器與人類之間的差距也逐漸縮小,未來出現(xiàn)的機器人將擁有生物大腦,甚至可以與人類大腦的神經(jīng)元數(shù)量相媲美。美國未來美國未來學家甚至預測:在本世紀中葉,非生物智能將會10億倍于今天所有人的智慧。

公民身份似乎已經(jīng)不再成為機器人的難題。去年十月,世界首個獲得公民身份的機器人索菲亞誕生,這也意味著人類的創(chuàng)造物擁有了和人類等同的身份,以及其身份背后所擁有的權(quán)利、義務、和社會地位。

而法律上的民事主體資格依然是AI倫理的分界線。在過去的一段時期,美英等國的哲學家、科學家包括法律家都為此開展過激烈的爭論。2016年,歐盟委員會法律事務委員會向歐盟委員會提交動議,要求將最先進的自動化機器人的身份定位為“電子人”(electronic persons),除賦予其“特定的權(quán)利和義務”外,還建議為智能自動化機器人進行登記,以便為其進行納稅、繳費、領取養(yǎng)老金的資金賬號。該項法律動議如獲通過,無疑使得傳統(tǒng)的民事主體制度產(chǎn)生動搖。

從嚴格意義上說,機器人不是具有生命的自然人,也區(qū)別于具有自己獨立意志并作為自然人集合體的法人。若企圖以機器人的行為過失定罪于AI本身,確實行之過早。

2.算法的歧視會有失公平

人工智能在判斷上失誤的一個指責,是它經(jīng)常會 “歧視”。使用最先進圖像識別技術的谷歌曾經(jīng)陷入“種族歧視”的指責,只因它的搜索引擎會將黑人打上“猩猩”的標簽;而搜索“不職業(yè)的發(fā)型”,里面絕大多數(shù)是黑人的大辮子。哈佛大學數(shù)據(jù)隱私實驗室教授拉譚雅·斯維尼發(fā)現(xiàn),在谷歌上搜索有“黑人特征”的名字,很可能彈出與犯罪記錄相關的廣告——來自谷歌智能廣告工具Adsense給出的結(jié)果。

而這種危險并不僅僅是“另眼相看”本身——畢竟將一張黑人的照片打上“猩猩”的標簽,只是有點冒犯罷了。而人工智能的決策正走入更多與個人命運切實相關的領域,切實影響著就業(yè)、福利以及個人信用,我們很難對這些領域的“不公平”視而不見。

同樣,隨著AI入侵招聘領域、金融領域、智能搜索領域等等,我們所訓練出來的“算法機器”是否能夠真正的萬無一失。在求賢若渴的當代社會,算法是否能夠幫助公司選出千里挑一的那個人,這都有待考究。

那么,歧視的來源是哪里?是打標簽者的別有用心,是數(shù)據(jù)擬合的偏差,還是程序設計哪里出了bug?機器所計算出的結(jié)果,能為歧視、不公、殘酷提供理由嗎?這些都是值得商榷的問題。

3.數(shù)據(jù)保護是AI倫理的底線

網(wǎng)絡空間是一個真實的虛擬存在,是一個沒有物理空間的獨立世界。在這里,人類實現(xiàn)了與肉體分離的“數(shù)字化生存”,擁有了“數(shù)字化人格”。所謂數(shù)字化人格就是“通過個人信息的收集和處理勾畫一個在網(wǎng)絡空間的個人形象”——即憑借數(shù)字化信息而建立起來的人格。

而在AI環(huán)境中,基于互聯(lián)網(wǎng)和大數(shù)據(jù)的支持,其擁有著用戶大量的使用習慣和數(shù)據(jù)信息。如果說“過往數(shù)據(jù)”的積累是機器作惡的基礎的話,那么資本力量的驅(qū)動則是更深層次的原因。

Facebook信息泄露事件中,一家名為劍橋分析(Cambridge Analytica)的公司使用人工智能技術,針對任意一個潛在選民的“心理特征”投放付費政治廣告;而投什么樣的廣告,取決于一個人的政治傾向、情緒特征、以及易受影響的程度。很多虛假的消息在特定人群中能夠迅速傳播、增加曝光,并潛移默化地影響人們的價值判斷。技術主使克里斯托弗·威利最近向媒體揭發(fā)了這個人工智能技術的“食糧”來源——以學術研究為名,有意攫取的5000多萬用戶數(shù)據(jù)。

退而言之,即使不存在數(shù)據(jù)泄露問題,對用戶數(shù)據(jù)的所謂“智能挖掘”也很容易游走在“合規(guī)”但“有違公平”的邊緣。至于AI倫理的邊界,信息安全成為每一個互聯(lián)網(wǎng)時代下“信息人”的最基本底線。

反思

在最近大火的一段關于AI倫理的視頻中,藝術家Alexander Reben沒有任何動作,但是通過語音助手下達命令:“OK Google,開槍。”

然而,不到一秒的轉(zhuǎn)瞬之間,Google Assistant扣動了一部手槍的扳機,擊倒了一顆紅蘋果。隨即,蜂鳴器發(fā)出刺耳的嗡嗡聲。

嗡嗡聲響徹雙耳。

是誰開槍擊到了蘋果?是AI還是人類?

在這個視頻中,Reben告訴AI開槍。Engadget在報道中說,如果AI足夠智能以預測我們的需求,或許有一天AI會主動除掉那些讓我們不開心的人。Reben說,討論這樣一個裝置,比是否存在這樣一個裝置更重要。

人工智能不是一個可預測的、完美的理性機器,他的倫理缺陷由算法、人們使用的目標和評估。但是,至少從目前來看,機器依然是人類實然世界的反應,而不是“應然世界”的指導和先驅(qū)。

顯然,守住AI倫理的底線,人類才不會走到“機器暴政”的那一天。

附:谷歌的“七條準則”

1.有益于社會

2.避免創(chuàng)造或增強偏見

3.為保障安全而建立和測試

4.對人們有說明義務

5.整合隱私設計原則

6.堅持高標準的科學探索

7.根據(jù)原則確定合適的應用

【完】

智能相對論:深挖人工智能這口井,評出咸淡,講出黑白,道出深淺。重點關注領域:AI+醫(yī)療、機器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機交互等。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關文章

  • 庫克已納投名狀:蘋果AI沒得選,只能選百度

    蘋果16弄了兩個版本,一個是專門給中國人用的,準備用百度的AI,還要交錢。第二個是全世界都可以用的,用了ChatGPT,包括臺灣、香港、澳門都可以用。以后都這樣了。好,問題就出在這,蘋果和百度的合作出現(xiàn)問題了,新聞連起來看,才能明白其中含義。新聞一:蘋果正在和騰訊、字節(jié)初步接洽,考慮將二者的AI模型

  • AI加速時代的“進度條”,我們撥動了百分之幾?

    “技術日新月異,人類生活方式正在快速轉(zhuǎn)變,這一切給人類歷史帶來了一系列不可思議的奇點。我們曾經(jīng)熟悉的一切,都開始變得陌生?!庇嬎銠C之父約翰·馮·諾依曼曾這樣說到。

    標簽:
    ai智能
  • AI視頻賽道,要變天了

    “毀滅你,與你何干?”,這是在劉慈欣的科幻小說《三體》里用來形容人類與三體人之間的戰(zhàn)爭的一句話。

    標簽:
    ai智能
  • “創(chuàng)造市場”與“算法進化”,中美AI競速的岔路口

    “人工智能的商業(yè)模式,是要創(chuàng)造一個市場,而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點。而當前的全球AI市場,占據(jù)主導地位的中美雙方,卻也走出了兩條截然不同的技術路徑,前者執(zhí)著于前沿技術的探索,后者則發(fā)力應用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向,或許已經(jīng)無法直接進行排位先后、優(yōu)

    標簽:
    ai智能
  • 智能體進化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實在智能最新發(fā)布的實在Agent7.0,看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT,這款AIAgent真的實現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化,持續(xù)進化RPAAgent再次降低智能體應用門檻實在智能重磅發(fā)布實

  • 崔大寶:大模型降溫背后的難點、卡點、節(jié)點

    崔大寶|節(jié)點財經(jīng)創(chuàng)始人進入2024年,大模型似乎有熄火之勢:資本市場,與之關聯(lián)的概念炒不動了,英偉達股價動輒暴跌重挫,引發(fā)“泡沫戳破”的擔憂;消費市場,BATH們的推新活動少了,產(chǎn)品更新迭代的速度慢了,民眾的關注度降了……熱鬧的大概只剩下兩場酣仗:自5月15日字節(jié)跳動宣布“以厘計費”,打響國內(nèi)大模型

    標簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個數(shù)字人。圖片來源網(wǎng)絡隨著數(shù)字人技術的突破,越來越多的傳統(tǒng)企業(yè)和機構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄

    標簽:
    數(shù)字人
  • 來到IPO關口,地平線離“三分天下”還有多遠?

    黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關注。據(jù)悉,近日地平線已通過中國證監(jiān)會IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預計籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級輔助駕駛(ADAS)和高階自動駕駛(AD)解決方案供

  • 機器人大會引領產(chǎn)業(yè)動向,卓翼飛思繪制無人系統(tǒng)教科研新藍圖

    8月21日,萬眾矚目的2024世界機器人大會暨博覽會在北京亦創(chuàng)國際會展中心盛大開幕。這場為期5天,集“展覽”“論壇”“賽事”于一體的機器人盛會,反映了當下機器人領域的繁榮生態(tài)。據(jù)官方統(tǒng)計數(shù)據(jù),今年現(xiàn)場逛展觀眾高達25萬人次,比去年增加25%。機器人行業(yè)有多火?看看2024世界機器人大會火爆程度便可知

編輯推薦