深度 | 奧巴馬談人工智能:社會契約與經濟模式要與科技與時俱進

雷鋒網 於 15/10/2016 發表 收藏文章
編者按:在未來 50 年裏,除了人工智能,我們很難想象身邊還會出現另一種技術,能如此深遠地影響我們的生活。

隨着機器學習讓計算機無師自通,從醫學診斷到自動駕駛汽車,技術領域的突破如雨後春筍。不過,是誰在把控着人工智能?它會取代我們的工作嗎?機器人威脅論又是否會成為現實?

作為美國總統,奧巴馬同樣也對這些問題充滿關注。日前,MIT媒體實驗室總監 Joi Ito 及《連線》記者 Scott Dadich 一同來到白宮,和總統一起坐下來聊了聊人工智能的未來、可能有的炒作,還有伴隨的隱憂。本文源自 Wired,作者 Scott Dadich,奕欣、老呂IO及熊蒙聯合編譯,雷鋒網(搜索“雷鋒網”公眾號關注)根據訪談內容做了不改動原意的處理,未經許可不得轉載。


今年 8 月 24 日,Joi Ito, Scott Dadich,

還有美國總統奧巴馬在白宮的羅斯福會議室裏會面

人工智能如何給我們帶來社會化價值?

Scott Dadich:首先感謝你們二位邀請我到白宮來。總統先生,我想問您最近一段時間過得如何?

奧巴馬:忙碌,但我做了很多事情。想必你也了解到,目前國際上有不少政治問題需要解決。

Scott Dadich:接下來,我們談論的重點主要集中在人工智能,這個領域已經從科幻小説裏跳脱出來,成為現實,並對我們的生活產生深遠影響。我想請問總統先生,您是什麼時候開始意識到AI時代的來臨?

奧巴馬:我對人工智能的了解,是因為它開始以各種形式滲透到我們的生活中來,而我們卻還渾然不知。另外一部分原因是,我們對人工智能的認識主要是源於流行文化。而實際上,廣義和專業的AI存在區別,而這可能和很多讀者所了解的有所不同。在科幻小説中,我們所知道都是廣義 AI,不是嗎?電腦開始變得比我們還聰明,意識到人類不總是那麼有用,甚至把人類囚禁在温室裏,不然就是打造一個 matrix 般的虛擬世界。

在和一些科學家探討的過程中,我了解到這樣的場景着實離我們還有很遠距離。不過,這些設想能夠放飛我們的思想,並讓我們意識到自己還有足夠的自由度,將專業的人工智能應用於各種重要的領域,也就是通過算法和計算機的處理,以解決日益增加的複雜問題。從醫學到交通領域,甚至到電力的分配,我們已經見證了“術業有專攻”的人工智能在日常生活中起着怎樣的作用,並且無疑在經濟層面上也能提升生產力和效率。如果利用得當,它當然能讓社會繁榮昌盛,帶來無數機會。但它伴隨而來的問題就是工作崗位的減少,或許會加劇不平等,工資水平也會削減。

Joi Ito:這個問題同樣困擾着我 MIT 實驗室裏的學生們,但我關心的一點在於,能接觸這些 AI 核心計算機技術的人大多是男孩子,尤其是白人,而他們在談論電腦問題的時候顯然要比談論人種問題要輕鬆得多。他們中的不少人覺得,如果他們可以用人工智能創造出像科幻小説裏一樣的場景,我們也不必擔憂如此多的政治及社會問題了。學生們會覺得,創造這樣的機器,也是一種讓人類擺脱這些問題的方式。

奧巴馬:是的沒錯。

Joi Ito:但他們同時也預見到了可能帶來的困難,我覺得我們已經來到了一個人工智能議題超越電腦問題的時代。很重要的一點是,每個人都需要理解 AI 如何運作。在媒體實驗室裏,我們使用了名為“延展智能”這樣的術語。因為我們所面臨的問題是,我們如何在 AI 之上建立社會化的價值?

奧巴馬: Joi在午餐時間以自動駕駛為例。自動駕駛技術正如開掛般發展,這些搭載着自動駕駛技術的機器不僅能夠代替人類快速作出決定、減少交通事故的發生、大大提高交通效率,還能幫助人類解決碳排放問題,緩解全球變暖現象。但是 Joi 提到至關重要的一點:我們在汽車上搭載這些技術的意義何在?在自動駕駛的道路上,我們還面臨着一系列抉擇:車在自動行駛時,如若發生意外,你可以保證不撞到行人,但你也許會撞到牆,或者讓自己處於危險的境地。如果遇到這種兩難境地,又該怎麼辦呢?這就變成了一個道德倫理問題,我們需要一些規則來解決這些問題。但是又該誰來制定這些規則呢?

Joi Ito:我們曾做過“car trolley problem”項目(該項目為MIT實驗室的一個研究,研究主題為自動駕駛汽車在面臨困境時的解決方法。比如:遇到兩難情況時,是該犧牲5名乘客還是犧牲5名行人?),在研究中,我們發現大部分調查者同意應該犧牲乘客來拯救其他人的性命。還有一些調查者被問及此問題後,表示他們永遠不會買自動駕駛汽車了。(笑)

政府在科技進步中應該扮演怎樣的角色?

Scott Dadich:在解決這些道德倫理問題時,政府應該扮演何種角色呢?

奧巴馬:從AI技術出現開始,我就在思考這個問題。我認為,在科技發展之初,正是“百花齊放、百家爭鳴”的時候,這時政府應該充分鼓勵支持技術的發展,加大對調查研究的投資,確保基礎研究和應用研究之間有着良好的交流。隨着技術的進步和成熟,我們就應該思考技術和現有的監管制度的關係了。要讓這種關係良性發展,其實並非易事,因此我們就面臨着更加艱難的挑戰。這時,政府應該加強與科技領域的聯繫。我們應該首先保證政府的監管制度具有價值,能夠促進技術的發展,而不是強迫新的科技快速與政府掛鈎。如果不這樣做,政府將會成為科技進步的阻礙,這對一部分人和團隊非常不利。

Joi Ito:這種困境讓我想起來了自閉症,電影《自閉歷程》(Temple Grandin)裏提到了這個。女主角説,莫扎特、愛因斯坦和特斯拉如果身在今天的時代,人們會覺得他們有自閉傾向。

奧巴馬:他們的確是在自閉環境中成長。

Joi Ito:是的,沒錯。如果我們擁有治癒自閉症的能力,讓每個人都“正常”,我認為不少 MIT 的孩子都會有所不同。無論我們是在討論自閉還是多樣性,這些選擇只有當我們能實現之時才會出現。即使如此,我們也並不想要一個像愛因斯坦一樣的小孩,因為雖然他聰明無比,但顯得太過特立獨行。但是如果沒有愛因斯坦,我們的社會和科學將不會進步得如此之快。

奧巴馬:這就牽涉到了一個更加宏大的問題,這個問題自 AI 發展之初就一直困擾着我們。我們的人生之所以有意義,很大一部分是因為人生的不完美。往往創造藝術或有所發明創造的人都是怪才,他們鶴立雞羣,與世相悖。但正是這些異於常人的品質讓他們才華橫溢,推動社會進步。如果一個系統是完美的,那麼它一定是靜態的。我們之所以會變成如今的樣子,之所以會如此生機勃勃,正是因為我們是動態的、是發展的、是獨特的,而且會因新的事物誕生而感到驚訝不已。但從長遠來看,我們總要適應這個世界。現在的問題就是,什麼時候、什麼地點、什麼場景下,我們才能讓自己以平和的心態接受這樣的變化?

Scott Dadich:當 AI 與政府、民企和學術界相適應時,AI必定發展到了一個較高的程度,那麼這時,世界範圍內的 AI 研究中心是哪個呢?或者説,有沒有這樣的一個角色存在?

Joi Ito:我覺得 MIT 當然會説研究中心就在我們這(笑)。從歷史上看,研究中心也許是一支得到政府支持的學術團隊。但就現在來看,大部分得到數十億美元支持的實驗室都已經商業化了。

奧巴馬:我對支持這些機構的人有所了解,如果你問拉里·佩奇或者相關人士,不難想象他們都會異口同聲地表示,自己最不想看到的是官僚式的宂餘拖沓限制科技的發展。

現在所面臨的部分問題是,為社會服務的基礎研究沒能很好地貫徹下去,而意識形態的阻礙讓部分科技人士對於政府的支持喪失信心。

每當我們説到一個巨大的科技成就,我們都會將之與人類首次登月做類比,我想在50年後也會這樣。有人曾告訴我,當時的登月計劃僅花費整個 GDP 的 0.5%,聽起來並不多。但換算到今天,這個數字就是800億美元。如果説現今AI的發展可以和曾經的登月相提並論,那麼現今我們應該每年在AI上投資800億美元,但實際情況是,每年的投資額不到 10 億。毫無疑問,這個數字將會增長。那麼,政府應該加強支持。如果政府不支持,那麼我們後面所討論的一切都無從談起。

Scott Dadich:您的想法讓 Joi 曾提過的問題變得更加嚴峻了:人人享有的科技和國家享有的科技(如登月)是不同的。那麼,我們怎樣才能實現這兩種科技的轉換,讓科技造福所有人呢?


奧巴馬:我想強調一下,政府在支持科技的發展,並不意味着政府將獨佔這種科技,或者説這種科技只能在軍事領域使用。舉個例子:政府支持醫學的發展,撥款建立美國人基因數據庫,但每個美國公民都能使用它。因此,政府支持的科技將會分享給所有人,造福所有人。

Scott Dadich:但是我們將面臨一些風險。馬斯克和Nick Bostrom也曾擔憂過AI的潛力將會超越人類,給人類帶來威脅。當我們前進時,我們不僅要保護自己,還要保護所有人。怎樣才能做到呢?

奧巴馬:我先來説説更讓我擔憂的事情吧。如果你擁有一台會下圍棋的計算機,它擁有強大的算法能力,能夠幫你最大程度地在紐約證券交易所盈利。如果有人或者機構能夠先人一步得到此技術,那麼他將快速讓股票市場降温。

那麼這時,如果算法被不法分子竊取,它也許會滲透到核程序中,學會如何發射核武器。如果此算法能夠自學且非常有效,那麼我們將會面臨危險。我認為,國家安全局不應該去擔心那些將會取代世界的機器,而應該去擔心這些有可能會滲透進國家機制、威脅人類安全的技術。也就是説,我們目前迫切地需要做得更好,因為對國家造成破壞的團隊很有可能會走在我們前面。

Joi Ito:我基本同意。有些人認為10年之後,通用 AI 將會出現。但是深入研究發現,如果要出現這種AI,我們必須在這 10 年中讓 AI 技術擁有幾個重大的突破。因此如果突破出現時,你可以監管。

奧巴馬:所以你需要做的是在關鍵處安插人手(笑)。當你預見到這種事情快要發生的時候,及時阻止就是了。

Joi Ito:重要的是挑選出出那些想要運用 AI 造福人類的個人和團隊,並且身體力行地予以支援。

奧巴馬:當我們之前提到安全和保護時,我們總會想到軍隊鎮壓或者搭建高牆。慢慢地,我們對於這兩個詞的理解開始發生變化。之所以網絡安全問題變得如此艱鉅,部分原因在於這個威脅是無形的,並不是像坦克那樣有形的。現在,我們要轉變關於安全的概念,調整我們的投資政策,為每個人的安全保駕護航。

網絡襲擊和流行病傳染類似,這是我時常擔憂的地方。要阻止病毒進入我們的體內,再高的牆也是無濟於事的。我們需要建立完善的公共衞生系統、創造健康保障機制、開發更加有效的疫苗。因此,當我們面對AI威脅時,我們應該採取相應的行動。
Joi Ito:還有一件事我覺得有點意思,我在觀察微生物時,發現可以引進好細菌來對抗壞細菌。

奧巴馬:我完全同意。不過我還是不會讓 Sunny 和 Bo 舔我,因為每次遛狗時,看到它們咬或是咀嚼什麼時,我還是會不舒服。(笑)

Joi Ito:所以,我們也得重新思考,什麼才是乾淨的。不管是網絡安全,還是國家安全,我們都應該重新思考應對措施。制定出有效的應對措施是非常困難的。

Scott Dadich:在網絡安全方面,會不會出現新一輪的軍備競賽呢?

奧巴馬:毫無疑問,當今關於網絡安全和AI的國際準則、協議和驗證機制還處於初級階段。現在,人們對於政府仍然存在着不信任,這將會成為網絡安全措施的阻礙。如果説世界上有些國家將美國視為一支超羣的網絡力量,我們會説:如果你願意約束自己,我們也願意。現在的挑戰便是一些成熟國家(如俄羅斯、中國和伊朗)所持的價值觀和準則和我們不一樣。我們會把它看成一個國際議題,這樣才能更好地處理這些問題。

社會契約和經濟模式都要與科技相適應

Joi Ito:我們正身處一個黃金時代,大家都非常樂於交流。如果我們能確保將資金和精力用來支持開放和分享,那麼大家都能保持積極的態度。世界是一個大家庭,自己單幹恐怕無法取得最好的效果。

奧巴馬:Ito 説的很對,這也是我們每天一輪一輪開會,忙着拉有興趣的人“入夥”的原因。另外我想説一點,雖然每次説到這個話題大家都會定很高的基調,但事實上我們必須考慮它對於經濟的影響。畢竟在大多數人眼中,不會在意奇點是否會來臨,他們更擔心機器是否會搶了他們的飯碗。

對此問題,我傾向於持積極態度,因為從歷史角度來看,人類曾無數次地對技術進行更新換代,但最終結果顯示,我們沒有被餓死,新技術反而創造了更多的就業崗位,我們的生活質量也得到了提高。當然,有些人的擔心也不是無緣無故的,畢竟當 AI 大潮襲來,真正能快速從中獲益的還是那些高技能人才,他們可以利用自己的才幹,藉助機器延伸自身的市場、銷售、產品和服務。

那些低薪水低技能的人可能會顯得越來越多餘,他們的飯碗可能會保住,但薪水恐怕會有所降低。如果我們想要完成平穩的過渡,那麼全社會應該廣泛對話,討論到底如何處理這一過渡期的尖鋭矛盾,如何通過培訓來保證經濟持續包容性增長。我們的生產效率是越來越高了,但如果任其自流,那麼大部分產品還是會流到上層一小部分的羣體口袋中。因此,我們要如何解決這一問題,並保證每個人都能拿到一份有尊嚴的收入呢?另外,AI“統治”一切後,人類的藝術和文化該如何保留?那些為國奉獻的退伍軍人誰來管呢?我們引以為豪的社會契約需要與時俱進來包容這些新技術,而我們的經濟模式也要隨之發生相應轉變。


Joi Ito:現在憑空去討論 AI 會代替哪些職業,實際上有些不直觀。舉例來説,如果電腦先進到能理解整個醫療體系,那麼診斷疾病對它來説恐怕是小菜一碟,因此醫院裏被替代的反而可能是經驗豐富的醫生們,而不是護士和藥劑師,因為前者太貴了。同時,我們熟悉的一些高級職位如律師和審計員,可能也會因為 AI 的崛起而消失。相反,許多電腦力不從心的行業,如服務業,人類反而會繼續發光發熱。我不知道總統對社會基本收入這個概念怎麼看,但我覺得社會可以給那些被機器替代的人找個新活幹,就像搞學術和搞藝術的人那樣,他們的工作不再直接與金錢掛鈎。不過,想轉變到這一模式必須要改變我們固有的社會認知,那就是沒錢的人都是笨蛋。但事實是,在學術界有許多聰明透頂的人並不是什麼大富豪。

奧巴馬:Ito 還真是夠犀利,這就是我前面説到要重新設計社會契約的原因。社會基本收入這一政策是否還能適應社會的發展,可能要留待未來 10-20 年內大家的討論了。Ito 對 AI 所替代工作的趨勢分析也很有道理,高級工作確實可能會被電腦替代,但這些工作都有一個特點,那就是高度的可重複性。此外,一個無從爭辯的事實是:隨着 AI 技術的進一步整合,我們的社會會越來越健康。生產與分銷、工作與收入等的聯繫會越來越微弱,因為電腦搞定了大量的工作。面對這樣的情況,我們不得不做出困難的決定:老師的工作對電腦來説很難完成,但我們卻不得不給他們降薪。因此,教會人們給自己的工作估值,重新審視自己的收入水平,恐怕是當下函待討論的重要問題。

我們要做的工作多着呢,政府正在逐步親民化,未來報税的流程就跟訂披薩或者買機票一樣簡潔。但現實是,想要讓聯邦政府、州政府和地方政府同時邁入 21 世紀都不是那麼容易。雖然政府的精英在能力上已經與私企的不相上下,但在整體的技術裝備水平上,卻有無法跨越的鴻溝。就拿我自己來説,第一次進白宮的戰情室時,還以為能用上《碟中諜》裏的先進裝備呢,但現實卻讓我大跌眼鏡。就連我們追蹤恐怖分子時傳來的實時錄像都那麼不清晰,白宮的科技裝備實在是該大換血了。

至於更宏大的問題,我堅信只要人類能解決氣候變化問題,讓海平面不再上升,那麼其他一切都不是問題。對於這一問題,我非常樂觀,雖然我們還有很長的路要走。

此外,安全透明的管理互聯網也是當務之急,只有這樣政府才能在不越權的情況下及時抓住壞人,否則互聯網就成了政府壓迫大眾的工具。不過,從技術方面來看,這樣的目標就不好解決。就拿加密來説,從曾不止一次的與技術人員和民眾教堂,但沒人能給出一個符合各方利益的答案。

既然這是個高端訪問,我想再補充一點。作為一個痴迷宇宙的總統,我認為如何儘快讓我們的下一代享受星際旅行也是個重要的議題。在這方面,我們的私營企業走在了前面,它們無需政府資助,只靠自己瘋狂的點子就做出了我們不敢想的。政府的思路已經落後了,每次提到太空飛行,我們的路子還是停留在阿波羅登月時代,確實是該找找新的突破了。

關於《星際迷航》的探討

Scott Dadich:總統先生,我知道您是個《星際迷航》的鐵桿粉。不過説實話那個劇集只是包裝了科技的外衣,其內核還是烏托邦式的思想。它是怎樣塑造你對未來的願景的呢?

奧巴馬:我小時候就是《星際迷航》的腦殘粉了,這劇集看起來太過癮了。其實能讓《星際迷航》保持經久不衰的並不是其中的科技元素,真正吸引人的是價值觀和友情。所以即使過去這劇集用着五毛錢特效,我們也看的很開心。它教育了我們什麼是人性,同時給了我們解決問題的信心。

在我看來,《黑客帝國》得了《星際迷航》的真傳,倒不是説這電影宏大複雜的設定感動了我,相反,它向我們展示了許多人認真做工作應有的態度,而秉承這種態度,就會一往無前,而這也是我一直強調的美國夢的精神內核。無論能不能一次成功,我們都會大膽進行嘗試,踩着自己失敗的經驗到達頂峰。如果我們丟掉了這一精神內核,那麼我們所倚仗的一切都會瞬間坍塌。

Joi Ito:總統先生説的真棒,我也喜歡《星際迷航》傳達的樂觀主義精神。不過,我依然崇尚百花齊放,我認為電影中的壞人還是有些臉譜化,他們可能並不壞,有些人只是被誤導了。

奧巴馬:《星際迷航》與其他好故事一樣,都幫助我們認識到了自己是個複雜的動物,我們的性格中也都有光明和陰暗面。我前面提到的大膽去做正應了這個主題,沒有這一精神,我們肯定不能消除障礙和分歧。理性和人性之間必然會產生衝突,在 AI 的問題上亦是如此。我們雖然高談闊論 AI 的未來,但其實對於這一技術,人類只是剛剛知道點皮毛而已。所以,我們必須保持一顆敬畏之心,放手大膽去嘗試。

via wired

推薦閲讀:

Marc Andreessen 訪談(上):大疆賭 AI 是功能,我們賭是全新構架的顛覆性產品

Marc Andreessen 訪談(下):軟件能否顛覆傳統教育業


資料來源:雷鋒網
作者/編輯:奕欣

留言


請按此登錄後留言。未成為會員? 立即註冊
    快捷鍵:←
    快捷鍵:→