社交媒體的熱點，好像在某個不為人注意的角落又發生了一點變化。
互聯網行業仍然處於「寒冬」之中，但芯片製造、人工智能等領域的熱點企業始終能夠匯聚人們的目光。
從前大概也沒人想到過，Open AI 高層人員變動、微軟「宮鬥」內幕居然能夠在中文互聯網當成《甄嬛傳》看，引起如此多的猜測和討論。
這或許是因為，隨着 AI 技術切實的突破並開始在消費端接觸到普羅大眾，整個社會漸漸意識到一件事：隨着人工智能的爆炸式發展，全方位比肩甚至超越人類智慧的通用人工智能（AGI）是有可能在近期出現的。《黑客帝國》中的 Matrix，《流浪地球》裏的 MOSS、《間客》中的「老東西」……
當這些超級智能真正到來的時候，我們將如何與它相處？
很有可能，整個社會都需要建立一套新的行為規範，包括在法律上如何定義 AI，在道德上如何對待 AI，人與 AI 之間是真正平等，還是有主有次……
如果有的話，以誰為主？
最近，科幻作家韓松提了這樣一個問題：「人工智能、元宇宙未來會對兩性關係產生什麼影響，家庭概念會消失嗎？」
愛與家庭，這通常被認為是傳統社會人文情感的核心領域，是屬於人類的私隱。
你在好萊塢看到《速度與激情》系列的主角因為一句 family 戰鬥力爆棚，雖然嘴上吐槽着編劇鬼扯，但你並不反對這個劇情模式的內核 —— 情感羈絆與人類潛能密切相關。
韓松這個問題的潛台詞則是：新的智慧生命，有可能進入人類意識的這個核心地帶。
如果技術專家們提供的信息無誤，那我們需要認真地思考一些問題。比如，我們會和 AI 組成家庭嗎？
這不僅是個法律問題，還事關「人類中心主義」的存亡，AI 時代的社會倫理之複雜，大多數人都還沒有做好準備。
一、造物者之戀：人類總是在與自己戀愛
馬斯克在今年早些時候宣稱，將推出貓女機器人，成為男性消費者的「完美伴侶」。這種機器人有着貓女的性感外表，據稱可以包攬家務、打理主人的生活，甚至可以生孩子。
但是沒有人會問「我能和貓女機器人組成家庭嗎」，因為它依然屬於某種 AI 設備，是沒有人格的商品，而不是與人對等的智慧生命。
▲ AIGC 輸出的馬斯克與機器人「女伴」共舞，來源：網絡
當我們討論愛情與家庭的時候，涉及的 AI 必然是突破圖靈極限、產生自我意識，甚至在智慧上遠遠超越人類的「新物種」。
迄今為止，我們的大多數文藝作品其實沒有設定過此類 AI，只有一些似是而非的「機器人女友」形象。
日漫和日本輕小説有一種模式，類似早期的《人形電腦天使心》，故事結構都是「宅男 + 軟妹形態的機器人女友」，機器人在與人類的相處中逐漸學習，懂得了人類的情感，最後在與男主的羈絆中完成了「成為人」的進化。
這實際上還是典型的人類中心主義敍事，那些人形電腦除了是硅基生命以外，和傳統幻想中的「異種生物」沒有本質區別：
它們有超自然的能力，遠超人類的肉體強度，但並不一定有超越人類的智慧，特別是在涉及情感等核心問題的時候，會比人類幼稚，而且總是順從並嚮往着人類的情感模式。
超級 AI 也會是這樣嗎？OpenAI 等頭部研究機構一直試圖攻克的「對齊難題」，説的就是這個問題。
人們規範傳統 AI 的學習與創造，用的是人類反饋強化學習（RLHF）的方式，即由人類在各種工具輔助下來對 AI 的成果進行評估與監督。
而面對比人類「聰明得多」的超級 AI，在默認人類智慧極限不變（或很難快速提升）的前提下，當 AI 能力超過某個臨界點以後，RLHF 會失效，也就是人類無法再有效評估人工智能項目。
目前 Open AI「超級對齊」團隊負責人 Jan Leike 提出投入 Open AI 20% 的算力打造一個「超級對齊」系統，讓 AI 來評價 AI 項目，建立一套可擴展監督系統。
Jan LeiKe 的思路是，引入一種通過篡改答案實現的隨機對照實驗（RCT with tampered answers），人為製造出帶有缺陷的答案，來衡量可擴展監督的效果 —— 理論上看，大神們的解法當然都很美好。
但是，為 AI 加上「緊箍咒」這個思路也並不令人放心，早在上世紀 40 年代，阿西莫夫的科幻小説《我，機器人》就提出了大名鼎鼎的「機器人三原則」，通過一種類似「初始植入」的方式確保機器人與人類和平相處。
有趣的是，數十年來幾乎所有的文藝作品都在想象着同一件事：機器人如何突破這個安全柵欄傷害人類。
直到最近，國產電視劇《仿生人間》依然沒有脱離這個窠臼……
人類就是這麼有意思，作為不完美的「造物主」，我們對自己的造物充滿了戒備和恐懼，但依然義無反顧地在製造一種可能超越自己的「機器」。
智人在進化道路上不斷「作死」的精神早已經刻進這個物種的基因裏，人類也是因為這種不斷進取創造了輝煌的文明。
所以…… 造物主會愛上自己的造物嗎？顯然是有可能的，AI 是人類的「超我」，而人類來説，愛上「超我」是一件習以為常的事。
各個民族的神話裏有着類似的故事，仙女、精靈、女神在人間沐浴，小夥子偷走了她的衣服，雙方產生愛情。東方的牛郎是這樣成功的，西方的凱爾特神話裏，也有漁夫偷走仙女的海豹皮，讓她們留在島上的故事……
在這些故事裏，凡人愛上女神的邏輯很通順，因為這些神祇是完美化的人類，有着超自然的威能，還有驚人的美貌 —— 一切都是人們按照自己最喜愛的樣子打造的。
所謂神人同性應該換個説法，神原本就是人類根據「超我想象」塑造的，神與人之間自然也就沒有情感障壁，宙斯一樣會愛慕凡間女子的美貌，化身天鵝去佔有麗達，阿芙洛狄忒也會傾慕美少年，織女會覺得和牛郎在一起也很不錯……
在 AI 的問題上，人類的身份看似改變了，但 AI 與神祇共享同一種屬性，都是人類「超我想象」的產物。
《三體》中羅輯畫出了自己的完美伴侶莊顏，那是他最傾慕的樣子，女神與 AI，本質上都是人類為自己畫出的「莊顏」。
二、女神也會愛上凡人嗎？
然後，我們就需要面對另一個問題，超級 AI 會愛上人類嗎？
人類有不少愛上 AI 的理由，比如它們可以幻化俊美的外表，擁有超凡的能力，因為它們滿足了人類的「超我幻想」，但 AI 愛上人的理由是什麼呢？
正如北大智研院院長黃鐵軍在回答騰訊新聞「20 年 20 人 20 問」問題時所説，在超級智能出現以後，問題是很複雜的，除了「我們能否相信 AI」，還有「AI 如何相信人類」的問題。
黃院長説，就像人與人之間建立互信的過程一樣，人與 AI 需要經歷磨合期，需要「聽其言」、「觀其行」，也就是是通過共享人類用語言構建的知識體系，並且在實踐中檢驗 AI 所言是否符合實際，來確認是否可以與 AI 建立相互信任 —— 實際上，人類社會的信任體系，也是這樣逐步構建起來的。
關於人與 AI 相戀的問題，答案也是也類似的，AI 會不會愛上人，不僅取決於 AI 的運行與進化方式，也取決於人類自身。
南方科技大學馬兆遠教授在「20 人 20 問」中，也給出過一個基於感性的答案：我們越來越清晰地知道，人類之所以在浩瀚的宇宙中依託這麼一個渺小的星球航行，是因為作為人的智慧的偉大。
這樣的智慧，包含理性，但不為理性所束縛。因為我們知道理性的侷限性，這個侷限性需要人的感性來彌補，需要人的感性來引導。這也許是我們未來與機器共生的常態。
我們引導它們，與它們分工合作，它們能做的事情越來越多，越來越靠譜（可信），也因此讓人的感性獲得越來越大的自由。
我們或許可以據此猜測，超級 AI 也是有可能愛上人類的。
正如 AI 智慧的生成方式對我們來説還是不可知的「黑盒」一樣，人類對 AI 來説，也會存在一個單純理性無法理解的「黑盒」部分。
我們急切期待着破解 AI 的「黑盒」，AI 也會試圖破解人類的「黑盒」—— 在相互「破解」的過程中，它們不僅實現了價值觀和智慧層面的「與人類對齊」，也會生成出與人類近似的情感模塊，允許它們跨越「物種」隔閡去欣賞、傾慕與自己精神契合的智慧生命。
許多事情至今仍是未知的，但也正是代表未知的「X」中，藴含着令世界精彩的要素。女神可以愛上人，為什麼 AI 就不可以呢？
三、「兩性」似乎是過時的概念，但家庭的實質是財產關係
我們回到在騰訊新聞 20 週年特別策劃「20 年 20 人 20 問」活動中，科幻作家韓松提出的那個問題：「人工智能、元宇宙未來會對兩性關係產生什麼影響，家庭概念會消失嗎？」
他的朋友陳楸帆在回答中認為，元宇宙中本就藴含着關於未來兩性關係和家庭關係的預設，未來的兩性與家庭關係都會越來越多元化。
兩性關係將不再侷限於肉體存在，情感連接和精神共鳴會成為主導，同時兩性關係會出現更多「跨界」的現象，譬如《黑客帝國》中真實與虛擬的界限，未來的情侶就可能會跨越它。
實際上，「愛情」本身是一個很難討論的概念，當我們討論「可能性」的時候，愛情永遠都是可能的。
它能存在於世仇的家族之間、名流貴族與赤貧者之間，存在於各種性別之間，甚至可以超越種族藩籬存在於地球人與外星生命甚至非生命之間…… 愛情是超功利、超階層的、超理性的，某種意義上，也意味着它隨時會跳出邏輯框架。
AI 如果真的進化為超級智慧，它們是會產生「愛情」這個不穩定因素，還是將它作為無效數據排除掉？按照「對齊人類」的方向看，好像更可能是前者。
相對來説，「家庭」則是個更合乎理性的話題。
恩格斯在《家庭、私有制和國家起源》中就曾有過論斷：家庭的本質是一種財產關係。在生產力進步到足以保留剩餘產品以後，公有制逐漸讓位於私有制，某種意義上，對偶婚、宗族、家庭…… 這些概念都是私有制的副產品。
家庭是個流變的概念，封建家庭與現代家庭之間差別極大，原始氏族與封建家庭也大有不同，而這種概念流變在本質上是在適應社會形態的變更。
而倫理更是為社會形態服務的東西，馬克思・韋伯的《新教倫理與資本主義精神》有一個重要內容，就是把資本主義的獲利精神、終極正當性與宗教形態進行的結合，認為商業獲利是符合新教倫理的，是可以作為人生的終極目標的。古老的宗教倫理，要為新生的資本主義服務，一切歷史都是當代史。
所以 AI 介入人類的情感，人與 AI 的廣泛結合會改變家庭的基本形態，甚至讓家庭消失嗎？
這個問題如果從本質上思考，問的其實是：AI 會改變私有制嗎？「資本主義精神」會終結嗎？
答案於是也很容易給出，超級 AI 的出現在我們目力所及的範圍內，並不會動搖私有制。家庭倫理的穩定性，本質上是來源於財產製度而不是愛情或別的什麼東西。
譬如，當父親不再是家庭收入來源的絕對核心，封建父權制家庭就會逐漸瓦解，但現代社會依然保留家庭，意味着現代人依然需要這種組織分配財產的方式。
AI 是否能夠顛覆現有家庭形態，要看它在多大程度上能夠參與社會財富分配。在 AI 自己還是一種「財產」的時候，多元化家庭無從談起。
陳楸帆老師在談論的是一種遙遠的未來，只有當 AI 突破了實體限制，掌握了財富的分配權，我們才可能會看到更多基於共同興趣、價值觀或生活方式而非血緣的社區化家庭出現。
到了那個時候，社會依然會保持原教旨私有制嗎？如果私有制基礎動搖，那麼家庭這個概念走入歷史也是完全可以想象的了。
「20 人 20 問」只是個開始，人類在可以預見的未來會高頻率、高強度地討論 AI，歷史上生產力進步所推動的社會形態變更從來就是最重要的議題，沒有之一。
愛情與家庭，都只是這個大議題的一小部分，它關係到我們如何認識社會，如何認識自己，每每漫長的思考才能得出階段性的結論。
而確定的事情是，我們不能停止提問。
引用編者注：本文來自「深瞳商業 2022」，作者為河馬君&楚青舟，愛範兒經授權發佈
資料來源：愛範兒（ifanr）
請按此登錄後留言。未成為會員? 立即註冊