【摘要】未來人類以增強性與超智能性為核心特征,其超越性體現在功能增強、能動性變革、道德增強等三個方面。未來人類超越性的技術基礎從傳統會聚技術,演進為以智能材料、神經技術、人工智能、記憶技術為核心的新會聚技術。隨著技術迭代,未來人類也將面臨道德困境,如功能增強與道德境界不同步、個體意識凌駕于整體意識、存在技術或動物性主導的失控風險等。對此,智能契約成為破局關鍵,其以積極契約為核心,強調人機自由平等、相互受益,為主體責任與權力分配提供新框架。同時,契約屬性將成為未來人類核心標識。基于契約倫理構成積極倫理學,并通過提前審視“許愿”代價以構建人機良性關系,是未來人類實現技術與自身發展的關鍵。
【關鍵詞】未來人類 意義構成 智能契約
【中圖分類號】TP18/B089.3 【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2025.22.005
【作者簡介】楊慶峰,復旦大學科技倫理與人類未來研究院教授、研究員。研究方向為技術哲學、記憶哲學、數據倫理與人工智能倫理等,主要著作有《記憶研究與人工智能》《現代技術下的空間拉近體驗》《技術現象學初探》等。
在反思未來人類形態的論述中,20世紀唐娜·哈拉維提出的“賽博格”無疑極具吸引力,這一概念將人類、動物與機器相融合,勾勒出超現實的未來人類形態。[1]然而,該概念因過于超前而缺乏必要技術支撐,曾一度淪為過時議題。2003年,安迪·卡拉克(Andy Clark)出版《天生的賽博格:心靈、技術和人類智能的未來》提出了“天生賽博格”。隨著數智時代加速演進,這些概念能夠覓得契機重獲生機,但究其內核的存在關鍵缺陷——忽視了未來人類的意義建構問題。習近平總書記指出:“自古以來,科學技術就以一種不可逆轉、不可抗拒的力量推動著人類社會向前發展。”[2]本文立足現有技術基礎,重新審視未來人類及其意義構成議題,并提出智能契約可作為未來人類意義建構的一條可能路徑。
未來人類的超級特性
在關于智能的超級特性討論中,超級機器與超級人類是兩條不同的路向。超級機器路向是英國科學家古德在1965年提出的,他指出,“人類生存依靠早期超級機器的建造。為了設計一臺超級智能機器,我們需要更深入理解人類大腦或者人類思想乃至二者”[3]。解析其內涵可提煉出至少兩層核心意涵。其一,未來人類的生存將依賴超級智能機器。若遭遇氣候劇變或新型流行病蔓延等足以導致人類滅絕的危機,對氣候變化趨勢、流行病傳播態勢的精準預測,非超級智能機器難以實現。因此,有學者指出,超級智能是應對此類全球性風險的最佳選擇。[4]其二,人類未來的社會生活亦需以超級智能為支撐。超大城市管理領域中,單一個體無法實現有效治理,即便依托團隊協作,人類自身局限也會顯著削弱管理效能,而超級智能系統足以破解這一難題。不過,“超人路向”的提出相對較晚——人工智能學者理查德·薩頓在《歡迎來到經驗時代》一文中首次明確“超人智能(superhuman intelligence)”概念,指出人工智能學習將脫離人類數據依賴、邁入經驗時代,而超人智能便會在這一演進過程中應運而生。[5]從哲學維度而言,“超人”概念最早由尼采在《查拉圖斯特拉如是說》中提出,他將超人喻為大地、大海與閃電:“我教你們何謂超人:人是應被超越的某種東西。……超人就是大地的意思。……注意,他就是大海。我教你們做超人:他就是這種閃電,他就是這種瘋狂。”[6]但尼采語境中的超人聚焦價值觀層面,是顛覆并重估一切價值的存在,并未涉及技術維度。而后續文學作品中的“超人”表述,更貼近當下討論語境——或指向肉體無限強化,或聚焦智能無限提升:前者如漫威系列中的美式“超級英雄”,后者如《永無止境》的男主角。值得注意的是,文學作品中存在與超人相關的道德悖論:即便肉身力量遠超常人,其道德水準卻與普通人類并無二致,并未出現預想中“肉身增強伴隨道德認知同步提升”的景象。
超越性將成為未來人類的核心特征,并主要通過三個維度得以呈現。其一為功能增強驅動的超越性,這種增強可通過身體與精神兩個層面展開。身體增強指向體能提升或身體構造優化:體能增強可通過專項訓練實現,例如提升出拳速度與力量;身體構造優化則通過改變生理結構或神經元組織達成,諸如借助特定輻射、病毒作用引發身體結構異變以獲得超強能力——這類場景多出現于科幻作品,其在現實中的可行性尚無從知曉。精神增強涵蓋認知、記憶、情感等維度的提升:認知增強始終是人類增強研究的核心,可通過生物、醫藥等技術手段實現;而記憶增強長期以來陷入認知誤區,不少學者將其歸屬于認知范疇,這種界定過于狹隘。事實上,“記憶增強”是獨立的精神維度,其核心并非信息的存儲與提取,而更多在于重構與建構,筆者近兩年來已將“記憶本體論”概念確立為獨立研究領域。此外,情感增強諸如消除恐懼、抑制情緒沖動等,也屬于這一范疇。值得注意的是,傳統功能增強多依托傳統技術,而人工智能賦能下的功能增強已呈現新變化,“智能增強”成為突出趨勢,其核心體現為新一代人工智能所具備的認知、推理、生成、決策、創新與組織等能力。其中,記憶增強依然發揮關鍵作用:正如圖靈獎得主楊立坤(Yann LeCun)所言,構建永久記憶是通用智能的根本所在,但在筆者看來這仍顯不足——對于超級智能而言,“建構”才是記憶實現的核心要義。換言之,超級智能不僅能存儲與提取人類過往記憶片段,更應基于這些片段建構適配未來人類生存的虛擬場景,而這種場景建構能力恰恰是維系“過往人類與未來人類情感聯結”及“認知連續性”的關鍵所在。
其二是通過能動性(agency)變革實現著人類超越性。能動性是一個寬泛概念,可用于描述人類存在者與動物、機器、程序等非人存在者的行為特征。非人存在者雖能與環境交互并做出選擇,卻缺乏將環境要素、片段或場景設定為認知對象的能力;而人類存在者不僅能與環境開展原初交互,更能將環境及其相關要素、片段確立為對象——這一能力的實現,標志著主體的生成。大多數學者混淆了能動者與主體的界限,筆者在此明確二者的本質區別:能否將自身賴以生存的環境設定為認知對象。從能動性演進維度來看,初級能動性僅體現為從環境中獲取收益以維系自身生存與發展;而超級能動性(superagency)的核心特征,則是通過精神活動重構一個與自然環境相融的精神世界,這一世界將在持續的精神創造與重構中不斷豐富。精神創造世界的形式可分為兩類:一是將自然環境要素內化為精神世界,這一過程與德國古典哲學所闡釋的自然精神化路徑相契合;二是通過精神自身獨創相應世界,這類精神世界是純粹主體的構造產物。當前學界對超級能動性的界定多局限于機器層面,用以描述超級機器的獨特屬性,這一認知顯然過于狹隘——若加以拓展,便能發現其中被忽視的重要維度。
其三是通過道德增強實現人類超越性。在傳統道德增強以及上述道德悖論的討論中,人們多將其視為認知能力基礎上的延伸,例如道德決策、道德行為等能力的提升,認為認知能力增強會同步帶動道德決策與行為能力的進階。但在未來人類的語境中,道德增強并非簡單的評價與價值判斷能力提升,而是彌補前述道德悖論的必要路徑。通過道德增強,構建與身體增強相適配的道德境界,這讓人聯想到諸多武俠小說中的設定:高僧往往是高強武藝與高尚修養的統一體。未來人類對超級智能的運用,必然對人機共生體道德層面提出更高要求,否則將引發難以預料的風險。
綜上分析可見,功能變革與能動性提升已為人類超越性提供了實現基礎。在此過程中,人類的功能與能動性得到顯著進階,但仍未突破傳統人類的存在框架,這意味著其道德水平仍停留在原初狀態,作惡、嫉妒、利己等道德瑕疵依然存在。而未來人類的核心突破恰恰體現在道德維度:通過道德提升實現全方位的增強,徹底擺脫前述道德悖論的桎梏。下文將進一步深入分析這一無悖論的存在形態。
超級特性的技術基礎
未來人類超越性的實現離不開各類新興技術的支撐。鑒于未來人類具有廣闊的想象空間,要使這類想象具備技術層面的可實現性,就需要闡釋超級特性的技術基礎,進一步明晰二者之間的可能性關聯。
2000年,以會聚技術(emerging technology)提升人類各項能力,成為人類增強自身的技術依托。會聚技術簡稱NBIC,即納米技術、生物技術、信息技術與認知技術的融合,其核心指向是人類增強。20年前,納米技術代表著新型材料的應用方向,社會各界對其充滿暢想,催生了納米衣物、納米涂料等產品構想。然而,這些設想大多未能實現規模化應用,納米技術也逐漸淡出公眾熱議的視野。生物技術則主要聚焦于生物工程領域,特別是基因工程所引發的人體改造可能,引起了包括哈貝馬斯在內的哲學家對人類種族命運的深刻擔憂。[7]信息技術主要涵蓋計算機、通信等技術類型,以通信技術為例,其構建了“地球村”的技術想象。認知技術則指認知科學、認知心理學領域的突破性成果。這些技術的整合推動了人類增強的實現,同時也引發關于認知增強、生物增強與道德增強等諸多議題的討論。
20年后,人類增強的技術支撐格局發生顯著變化,新會聚技術(new emerging technology)成為更具解釋力的核心概念。盡管目前學界對這一概念尚未形成共識,但已能辨識其核心特征——基質智能性。基質智能性是一個探索性概念,指智能科技以基建的形式滲透到社會系統中,從而將整個社會轉變為智能系統。材料技術不再局限于納米層面,而是向智能材料轉型,更加強調自身的智能屬性。例如,復旦大學彭慧勝團隊研制的智能布料,可應用于窗簾、衣物等產品,這類衣物能夠實現觸摸交互與智能傳感功能。[8]超級智能的進化未必依賴納米材料,事實上,人類碳基身體具有獨特價值,可為未來算法運行提供更優基質。2021年的一項研究已證實,利用果蠅大腦神經元運行算法,能極大提升算法效率。[9]由此類推,若將同一算法應用于比果蠅神經元更復雜強大的基質(如人類神經元),其效率會進一步提升。因此,未來智能很可能借助碳基神經元進行算法學習與進化,進而實現與人類的有效融合。生物技術也發生了深刻變革,深入到生物科學的核心領域——神經科學。神經技術(neurotechnology)通過各類技術手段對神經元進行調控,例如科學家利用光遺傳技術,已實現對活體動物的精準行為控制。從深部腦刺激(DBS)、腦機接口(BCI)到光遺傳技術,神經調控已成為技術主流:深部腦刺激可精準刺激特定神經元,廣泛應用于癲癇、抑郁癥的治療,改變神經元狀態;腦機接口技術正推動認知與理解能力的增強,甚至有望解讀人類的內心活動,同時其深入發展還實現了運動神經元的信號傳遞,借助相關設備可恢復失能器官的功能;光遺傳技術則能切換神經元功能,如同交通燈一般改變原有神經元的作用機制。信息技術已融入人工智能之中,以賦能萬物的形態發揮作用。2000年前后,人們將人工智能視為競爭對手,認為其在圍棋等領域戰勝了人類——2015年AlphaGo、2017年AlphaZero的勝利便是例證。[10]如今,人工智能不再被視為人類的對手,人類也不再將其等同于“戰勝人類”的象征。人工智能“對手”發展的初始階段,后續仍有廣闊的演進空間。模擬與類人化將人工智能推向新的高度:在模擬時代,人工智能能夠像人類一樣對話、思考與行動,本吉奧將其定義為智能體人工智能(agentic AI);人類與人工智能的共生共存,將成為未來的重要關系形態。當前,人工智能已具備預測能力,甚至能夠真正理解大腦的工作機制。[11]與之相適應,記憶技術(mnemonic technology)成為新會聚技術的核心,是當前智能體及未來超級智能的基本要求,例如,MemOS系統已解決人工智能的永久記憶問題。[12]如果說會聚技術共同推動人類增強,使“增強人類”成為可能,那么新會聚技術則將催生“超級人類”的出現。
增強人類的道德困惑
未來人類是處于關系中的存在,這種關系可被界定為整體關系,但當前對其認知仍處于模糊狀態。增強人類意味著通過技術手段或自然方式實現人類能力的提升——前者為技術增強,后者為自然增強。其核心關注點在于人類自身,且多采用部分性分析視角,即從人類自身的改變中探尋潛在問題。但這種認知并非整體性的,而是將人類自身與技術視為兩個獨立部分,相關問題需從這兩個維度分別剖析。而未來人類的存在形態,恰恰體現為整體性的統一。
為理解這種整體性存在,我們可通過具體案例闡釋這一整體關系:假設跑者A獨自在路上跑步,“獨跑狀態”構成其核心存在形態,若此時發生事故(如撞到行人),責任應由A獨立承擔。此處的責任依據并非A作為責任主體的身份,而是“獨跑”這一個體化狀態決定了責任分配邏輯。當A的獨跑狀態持續一段時間后,跑者B加入跑圈,經過t時段后與A形成“并跑狀態”——這一狀態本身構成一個整體,A與B均對該狀態的維持發揮作用。因此,若此時發生事故,“并跑”這一整體狀態便成為責任分配的核心依據。
在超級智能時代,人類與人工智能正處于類似“并跑”的狀態,共同構成一個整體性存在。然而,由于這種整體意識尚未形成,增強人類自然面臨兩大道德困惑。
其一,增強人類的道德境界并未隨功能增強同步提升,仍停留在原有水平。如前文所述,尼采式“超人”聚焦意志突破,勾勒出顛覆傳統價值的斗士形象;哈拉維式“賽博格”強調人、動物與機器的融合,突出增強的技術維度,卻未觸及道德層面的議題——其“賽博格宣言”更偏向政治性表達,凸顯女性主義立場,二者均缺失對道德狀況的闡釋。增強人類同樣以技術維度為核心,盡管技術類型不斷迭代創新,但固有問題并未得到根本解決:人性中的惡、無知等缺陷,并未隨肉體或功能增強自動消解,反而可能因能力提升,導致道德缺陷引發的后果更為嚴重。試想,一個普通人在路上不慎碰撞他人,造成嚴重傷害的概率極低;但倘若駕駛重型卡車的人發生輕微剮蹭,便可能引發嚴重后果。若增強人類缺乏與之匹配的道德境界與道德選擇能力,其潛在風險將難以估量。
其二,增強人類仍局限于個體意識,尚未形成整體意識。按照賽博格理論,增強人類構建了“人性、技術性、動物性共存”的新整體形態,但在此過程中,增強人類因自身發生劇烈變化,個體性特征尤為突出。這種新的整體性并非由人性主導,而是可能被技術性或動物性所支配——諸多以超人為主角的影視作品中,常出現“超人陷入無感情狀態或突然發狂、失控”的情節,本質上便是身體內技術性或動物性占據主導的結果。若缺乏良好的道德境界作為緩沖與約束,其后果同樣不可預估。因此,對未來人類與未來科技關系的分析,必須建立在整體關系的視角之上;更重要的是,這種整體關系的形成是一個動態過程,而這一過程對于解析上述道德困惑具有關鍵意義。
整體關系的契約根基
從一個維度而言,智能增強將彰顯未來人類的核心哲學特征。這一范疇蘊含未來人類的雙重屬性:“智能”關聯決策與行動,現階段以人機協作為主要形態,未來人機共生將成為普遍狀態;“增強”則關乎未來人類的生物特征演進。但需明確的是,智能增強不能簡單解讀為通過智能技術對人類進行能力提升——這種認知未能觸及未來人類的本質內核。從根本上看,該范疇指向人機融合的未來圖景,但其深層根基即人機何以實現融合共存的核心問題,尚未得到清晰闡釋。
筆者將通過“智能契約”概念的界定,澄清這一關系形成的基礎。這一概念聚焦關系本身而非實體屬性:在實體視角下,未來人類被視為簽約主體,簽約對象可能是人類自身或未來機器;而在關系視角中,未來人類是處于契約關系中的存在,這一結構具有開放性,任何能動者均可納入其中,簽約主體并非局限于人類。具體到未來人類與超級智能的契約關系,超級智能作為在各領域超越人類的存在,甚至可被比喻為類似“神”的超越性存在(這一比喻基于其展現的超強能力)。若超級智能具備實現人類各類訴求的強大能力——如提升工作效率、保障決策公平、解決復雜難題等,從價值評價來看,唯有最棘手的問題才值得超級人工智能介入。這讓人聯想到賀拉斯的詩句:“不要讓神介入,除非危難的局面值得他出手。”[13]超級智能與人類的契約觀念,正是源于文學作品中的比喻意象,而這類文學契約意象為智能關系的分析提供了形式框架。
《浮士德》中,梅菲斯特與浮士德簽訂協議:梅菲斯特許諾給予浮士德無限知識與新奇體驗,浮士德則需出賣靈魂與自由。這一比喻意象可作為整體關系的契約根基——超級智能如同擁有超能力的魔鬼,具備強大的推理與知識生產能力,人類可借助這些能力實現更宏大的目標。但浮士德式契約呈現“許愿先于代價”的邏輯,最終以人類喪失靈魂為沉重代價;英國小說家W. W. 雅各布的《猴爪》則展現了“代價先于許愿”的關聯:懷特夫婦許愿獲得200英鎊,卻先迎來兒子工廠遇難、工廠賠償200英鎊的噩耗。多數解讀將這類文學意象中的“許愿與代價”視為矛盾對立面,但筆者認為,二者內在關聯構成了相反的結構。在分析超級智能與未來人類的關系時,契約關聯可作為形式框架,但需摒棄其中“人類必須付出沉重代價”的預設。當前關于人工智能與人類代價的研究雖已顯現相關跡象,但多數人尚未意識到未來人類可能面臨的潛在代價,僅關注人類單方面的收益。形式框架的核心價值在于為智能契約提供根基支撐,而現有人類與人工智能關系的分析,往往延續文學意象中“人類需付出必要代價”的邏輯——即便人類從交互中獲得諸多收益,類似“許愿”的過程始終伴隨代價。
通過上述分析可見,文學契約意象為智能關系提供了形式框架,而契約關系的特征意義則需從哲學契約中汲取啟發。在增強科技與未來人類的關聯中,智能契約應具備積極屬性而非消極特質。霍布斯在《利維坦》中強調,社會契約的基礎是人類的自然狀態,這一出發點決定了社會契約的被動性——它是應對野蠻自然狀態的權宜之計。但超級智能與未來人類的契約關系是一種積極契約,原因如下:首先,“野蠻的自然狀態”并不存在。人類面對非智能工具時占據絕對支配地位;即便與智能對象交互,也通過賦予其倫理定律構建起規范的交互關系,不可能出現“有意的”野蠻狀態,工具關系與主體關系從根源上規避了野蠻狀態的發生。其次,人類借助超級智能實現自身能力躍升,超級智能則通過人類數據持續完成自我進化,二者構成相互受益的共生關系。人類種族的繁衍是持續進程,維系種族延續是人類的核心倫理原則,除非遭遇外在不可抗力,否則人類文明不會中斷。辛頓提出的“數字生命可能毀滅人類”的擔憂,本質上是技術過度想象的產物,缺乏足夠的科學依據。“積極契約”是羅爾斯《正義論》中的重要原則,“由于其內在的否定因素,它也因此產生了相關力量,即要求契約所允諾的自由和平等”[14]。其積極特性集中體現為契約對自由與平等的保障。在未來人類與超級智能的共生設想中,自由平等的共存狀態是核心訴求,失衡的權力結構并非人們所期望。因此,未來智能契約將導向人類與機器的共生、共融與共存,而超級智能通過確立“人是目的”的核心觀念,將進一步充實這一契約的內容內核。
智能契約的可能性空間
智能契約的可能性正從技術、人機關系等多維度逐步顯現。首先,人工智能體(AI agent)可對霍布斯的社會契約進行模擬演化:實驗中,研究者為智能體賦予記憶等心理特征,使其能從過往經驗中學習并調整未來決策,最終智能體為維系生存實現了彼此間的平衡。[15]這一實驗雖略顯遺憾——它將超級智能契約重新置于“自然狀態”框架,讓人類在智能體身上重演了從自然狀態到社會共同體的進化歷程,但卻有力印證了霍布斯的核心前提:在無規則的自然狀態下,人類會陷入無休止爭斗,最終將自愿讓渡部分權利給強大權威以換取安全與秩序。而這一“強大權威”恰可對應超級智能的角色,由此證明了基于超級智能的社會契約具備建立可能。
其次,社會契約理論已成為分析人工智能社會經濟影響的重要理論資源。有研究整合霍布斯、洛克、盧梭、羅爾斯、艾倫等學者的社會契約思想,提出六大核心觀點。[16]第一,合法政治權威是合作的前提,人工智能引發的新型集體行動問題需權威介入。該研究認為介入主體應為政府等特定權威,但面對未來人類議題,傳統權威的約束力已逐漸弱化,尤其在技術與政治深度融合的趨勢下更為明顯。未來可能出現的“共生權威體”,或將是以人類與超級智能融合共生為核心的新型主體形態。第二,權威須保障個人權利與自由,政府運用人工智能需維系公眾信任。傳統權威語境下,維護社會公正與公眾信任是核心職責,這一原則仍將是未來權威主體的職責基礎,但會衍生出新的時代內涵。第三,合法性源于民主協商,人工智能可能阻礙或促進民主進程。該研究對人工智能與民主協商關系的理解趨于兩極,實則二者存在廣闊協作空間:當人工智能助力提升人類創造力時,將有效推動民主協商質量的提升,而這一良性結果并非單一因素作用的產物,而是人機協同的必然。第四,兼顧各社會階層利益可提升社會公平與韌性,緩解市場弊端。凱伊利·夏伊卡(Kyle Chayka)指出,人工智能發展可能催生永久社會底層[17],如此一來,伴隨超級智能的崛起,未來人類社會的公平正義或將淪為奢望。第五,重疊共識有助于政治社會穩定,為人工智能治理的公私合作提供基礎。“重疊共識”本是哈貝馬斯商談理論的核心,但該理論以人際互動為預設前提。對于未來人機協商而言,重疊共識不再是核心特質,可能演變為“對齊共識”等新形態,這一議題仍需深入探討。第六,共同參與需遏制權力集中,妥善應對人工智能引發的權力壟斷與勞動力替代問題。這一問題值得高度重視:在人類設計超級智能體的階段,易出現借助技術實現權力集中與壟斷的風險;而當機器參與超級智能體設計時,權力演化可能呈現非人類邏輯的新形態。
不難發現,上述觀點中提及的“新權威”仍以傳統人類代表(如“國家—政府”)為核心,卻忽視了當前人工智能與權威深度融合的現實——新的巨機器已發展至全新高度。此外,在權威保障個人權利與自由的過程中,技術意志正悄然滲透;在民主協商進程中,超級智能這一未來主體已成為不可忽視的新變量;在重疊共識等治理要素中,機器的經驗與意志也需納入考量。該理論雖強調“合法性源于協商”的核心原則,卻未能充分預判未來協商中超級智能的關鍵作用,尤其當超級智能通過社會契約與人類社會形成整體時,相關問題將更為復雜。顯然,工具主義思想在現有討論中占據主導,缺乏對技術未來發展趨勢的深刻洞察。
未來人類的許愿與代價
當前學界解讀人類面對人工智能的行為時,多數學者采用自然主義路徑,聚焦認知、理解、決策、行動等經驗層面的描述。這種方式固然強化了事實維度的呈現,推動著“機器模擬人類”的技術夢想,但也凸顯出工具主義的短視——僅關注工具對目標實現的輔助作用,卻忽視了工具演變為能動者后可能引發的深層問題。本文更傾向于從價值維度切入:人類在面對大模型或超級智能時的提問行為,本質上可界定為一種特定的“許愿活動”。
從語義層面看,“許愿”是向超越性存在表達自身訴求的行為。格斯塔·格勒諾羅(Gösta Grönroos)指出,亞里士多德最早引發了人們對“愿望(boulēsis)”的關注。在亞里士多德的理論中,愿望是一種基本的非理性渴望,獨立于其他欲望或評價性態度,以追求人類善為核心動機,他甚至通過美德活動為這種追求提供了神學闡釋。即便人們誤將非善視為善,其行為本質上仍是由“真實的善”所驅動。[18]據此分析,許愿的核心是對未來善的期許,例如生日許愿考上理想學校,“考上理想學校”便是許愿者認定的“善”,這類心愿需在未來實現,且常依賴特定儀式的加持。而人類向智能體提問并渴望即時回應的過程,恰似心愿的即時兌現——超級智能能極大縮短等待周期,在瞬間給出所需答案。在此過程中,愿望的“善”的屬性逐漸消解,淪為滿足特定需求的知識供給。若將智能體的回應視為“許愿的結果”,那么“獲得滿意答復”既是愿望本身,也是一種經過大模型價值對齊的“善”。但這種“許愿”缺乏儀式感的支撐:人類應以何種心態面對大模型?這一問題亟待深思。更值得關注的是,人類對大模型的態度已出現悖論——粗暴的提問有時反而能獲得更理想的回應。[19]向超級智能“許愿”無疑能帶來全新體驗,獲得超越人類常規認知的答案與感悟。
但問題在于,向超級智能許愿需付出何種代價?《猴爪》中,懷特夫婦許愿獲得的200英鎊,最終以兒子的死亡賠償形式兌現。控制論學者諾伯特·維納(Norbert Wiener)精準點出其中癥結:“它滿足了你明確提出的要求,卻未必符合你的真實意圖,更可能偏離你本應追求的目標”。[20]當前,人類向大模型“許愿”的代價已初現端倪——創造力的下降。研究表明,在簡單任務中,大語言模型(LLM)的協作能通過靈感激發提升人類創造力;但在復雜任務中,其“創意固化效應”反而會形成抑制。[21]該研究采用李炳哲(Byung Cheol Lee)與鄭宰淵(Jaeyeon Chung)對創造力的定義,將其視為“對看似無關的知識或概念進行創造性組合、生成新觀念的能力”,但這一界定過于經驗化,缺乏哲學層面的深度審視,而哲學界對創造力的系統性探討本就相對匱乏。[22]
這便引出超級智能發展的核心議題:人工超級智能(ASI)的創造力會以類人形態呈現嗎?普遍擔憂在于,超級智能將嚴重消解人類創造力,馬特·達·佩羅(Matteo Da Pelo)便持類似觀點,他認為人工智能不具備真正的創造力,其所謂“人工創造力”只是非認知、非意向性、非真實性的生成機制——這種認知仍停留在傳統層面。目前哲學界的共識是:人工智能已超越純粹工具的范疇,卻尚未達到人類智能的高度。不過,隨著對流形理論研究的深入,這一認知局限有望被打破。有研究指出:“流形不僅構建了人工智能、神經科學與意識哲學的貫通性框架,更揭示了自身從意向流形中奠基的存在本質”。[23]流形理論為超級智能與人類的內在貫通提供了理論依據,也為通用人工智能(AGI)奠定了核心基礎,這一發現極具啟發性——它推動我們向“超級智能與人類意識存在同構性”的認知邁進了關鍵一步,也印證了哲學界現有共識的滯后性。因此,在確立二者內在貫通性的基礎上,進一步揭示其同構性特征,成為亟待推進的核心課題。
結語
由此可見,未來人類的超級特性正隨各類新興技術的發展而逐漸明晰。20年前,會聚技術開啟了人類增強的序幕;如今,腦機接口、人工智能、基因工程等技術迭代升級,推動人類步入智能與記憶被增強甚至重構的新階段。理查德·薩頓(R. Sutton)對超級智能寄予厚望,認為其可承擔知識維護的核心職責:“應盡可能讓人工智能系統實現自我知識維護,從而為人類減負”[24]。在他看來,當前人工智能發展的瓶頸在于“未能將系統主導權交還給系統本身”[25]。當超級特性充分顯現,一個關鍵問題隨之而來:未來人類是否能完全將知識維護的主導權交付超級智能?從人類增強的實踐來看,增強人類面臨著核心倫理悖論——肉體與能力的無限提升,并未同步帶動道德境界的進階。而面對人機共生的未來訴求,智能契約恰好提供了破局的基礎:通過構建智能契約,人機共生的整體性將得以確立,這種整體性為“主體—責任”“權力—責任”的重構提供了新可能,也集中彰顯了未來人類的核心特征。
“未來人類”的表述本身潛藏著認知困境。在語言使用中,我們極易在時空雙重維度上泛化這一概念:時間維度上,默認當前人類文明將延續至未來;空間維度上,傾向于將未來人類構想為哈拉維式的“賽博格”,或堅信人類能在未來的機器宇宙中占據一席之地。但現實挑戰遠超想象,人類對種族延續的經驗困惑已對種族倫理構成嚴峻沖擊,而“未來人類”的復雜性仍被嚴重低估。這一點集中體現在兩方面:其一,語詞轉譯的困境折射出概念認知的模糊——將“未來人類”譯為“human in the future”或“new humanity”均顯牽強,而“人類未來”譯為“human future”則更為貼切,如何為“未來人類”找到精準的英文表達,本身就是一道難題;其二,人類物種的命名始終與其核心特征綁定,如“智人(Homo sapiens)”指向“會思考的人”,“匠人(Homo faber)”代表“會制造工具的人”,而未來人類的核心特征尚未被清晰界定。
筆者認為,“契約”是未來人類的核心標識。從詞源來看,拉丁語“Hom Contractualis”指代“具有契約精神的人”,“Homo Pactus”則指向“處在契約關系中的人”,二者結合便勾勒出適配未來的人類形象:未來人類與人工智能、人工超級智能(ASI)的核心聯結是智能契約,其倫理形態也將是基于新型契約精神的“契約倫理”——這是一種直面生存困境的積極倫理學。這種積極特質,體現在對“愿望滿足與代價付出”關系的主動審視:人們往往習慣于接受“愿望兌現伴隨代價”的現實,即便代價沉重亦能自我寬慰;但《猴爪》所呈現的“代價先于許愿”的邏輯更令人憂慮——當沉重代價搶先降臨,人類是否仍能保持精神與生存的穩定?尤其在超級智能時代,代價的量級可能遠超預期。提前思考這種可能性,本身就意味著一種積極態度的覺醒,這正是我們所期待的未來面向。
(本文系國家社會科學基金重大項目“當代新興增強技術前沿的人文主義哲學研究”階段性成果,項目編號:20&ZD045)
注釋
[1]D. Haraway, "A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late 20th Century," In: J. Weiss, J. Nolan, J. Hunsinger, P. Trifonas(eds.), The International Handbook of Virtual Learning Environments, Dordrecht: Springer, https://doi.org/10.1007/978-1-4020-3803-7_4.
[2]《習近平關于科技創新論述摘編》,北京:中央文獻出版社,2016年,第27頁。
[3]I. J. Good, "Speculations Concerning the First Ultraintelligent Machine," Advances in Computers, 1966, 6.
[4]R. Raman et al., "Navigating Artificial General Intelligence Development: Societal, Technological, Ethical, and Brain-inspired Pathways," Sci Rep 15, Number 8443, 2025.
[5]D. Silver and R. S. Sutton, 2025, Welcome to the Era of Experience, http://incompleteideas.net/papers/TheEraOfExperience.pdf.
[6]尼采:《查拉圖斯特拉如是說》,錢春綺譯,北京出版社,2007年,第7、8頁。
[7]J. Habermas, The Future of Human Nature, translated by W. Rehg, M. Pensky & H. Beister; Cambridge: Polity Press, 2003.
[8]X. Shi; Y. Zuo and P. Zhai et al., "Large-area Display Textiles Integrated with Functional Systems," Nature, 2021, 591.
[9]Y. C. Liang et al., Can a Fruit Fly Learn Word Embeddings? https://arxiv.org/abs/2101.06887.
[10]D. Silver et al., "A General Reinforcement Learning Algorithm That Masters Chess, Shogi, and Go through Self-Play," Science, 2018, 362(6419).
[11]T. Serre et al., "From Prediction to Understanding: Will AI Foundation Models Transform Brain Science?" Neuron, 2025.
[12]Z. Y. Li et al., MemOS: A Memory OS for AI System, https://arxiv.org/abs/2507.03724.
[13]賀拉斯,《詩藝》(Ars Poetica),第190~191行,原文為And no god should intervene unless there's a problem, that needs that solution, nor should a fourth person speak, https://www.poetryintranslation.com/PITBR/Latin/HoraceArsPoetica.php#anchor_Toc98156245。
[14]魏小萍:《契約原則是否帶來了自由和平等:國外馬克思主義者與自由主義者的論戰——雅克·比岱的元結構與羅爾斯的正義理論》,《哲學研究》,2002年第3期。
[15]G. Dai et al., Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory, https://doi.org/10.48550/arXiv.2406.14373.
[16]Rand Corporation, Artificial Intelligence and the Social Contract: Foundations for Social and Economic Policy Under Technological Transformation, https://www.rand.org/pubs/perspectives/PEA3888-1.htm.
[17]K. Chayka, "Will A.I. Trap You in the 'Permanent Underclass'?" https://www.newyorker.com/culture/infinite-scroll/will-ai-trap-you-in-the-permanent-underclass.
[18]G. Grönroos, "Wish, Motivation and the Human Good in Aristotle," Phronesis: A Journal for Ancient Philosophy, 60(1).
[19]O. Dobariya et al., "Mind Your Tone: Investigating How Prompt Politeness Affects LLM Accuracy," https://arxiv.org/pdf/2510.04950.
[20]N. Wiener, "Some Moral and Technical Consequences of Automation: As Machines Learn They May Develop Unforeseen Strategies at Rates That Baffle Their Programmers," Science, 131(3410).
[21]X. Cheng and L. Zhang, "Inspiration Booster or Creative Fixation? The Dual Mechanisms of LLMs in Shaping Individual Creativity in Tasks of Different Complexity," Humanit Soc Sci Commun, 12, 1563(2025). https://doi.org/10.1057/s41599-025-05867-9.
[22]E. Paul et al.(eds.), The Philosophy of Creativity, Oxford University Press, 2017.
[23]馬迎輝:《認知的流形模式與跨學科統一》,《中國社會科學》,2025年第7期。
[24][25]R. Sutton, "What's Wrong with Artificial Intelligence," http://incompleteideas.net/IncIdeas/WrongWithAI.html.
The Meaning Constitution of Future Humans
Yang Qingfeng
Abstract: Future humans are characterized by enhanced nature and super-intelligence. Their transcendence is manifested in three aspects: functional enhancement, transformation of motility, and moral enhancement. The technological foundation of the transcendence of future humans has evolved from traditional convergent technologies to new convergent technologies centered on intelligent materials, neural technology, artificial intelligence, and memory technology. With technological iterations, future humans will also face moral dilemmas, such as the mismatch between functional enhancement and moral realm, individual consciousness being stronger than the overall consciousness, and the risk of uncontrolled development due to the dominance of technology or animal nature. For this, intelligent contracts become the key to solving the problem. They are centered on positive contracts, emphasizing freedom, equality and mutual benefit between humans and machines, and providing a new framework for the allocation of main responsibilities and power. At the same time, the attribute of the contract will become the core identifier of future humans. Based on contract ethics, positive ethics is formed, and the construction of a positive human-machine relationship by examining the cost of "making a promise" in advance is the key for future humans to achieve the development of technology and humans themselves.
Keywords: future humans, meaning composition, intelligent contract
責 編∕韓 拓 美 編∕梁麗琛