【pg電子·(中國)娛樂官方網站】AI有意識嗎？19人團隊88頁Nature論文揭曉：可用14條科學目標判別

本文系網易新聞?網易號特征內容鼓勵方案簽約賬號【智東西】原創內容，有意頁N用條未經賬號授權，識人制止隨意轉載。團隊pg電子·(中國)娛樂官方網站

編譯 | 香草。
修改 |李水青?？茖W

一直以來，目標AI能否具有“認識”的判別論題遭到大眾和科學界的廣泛重視?？苹眯≌f或影視作品中，有意頁N用條也經常呈現AI具有認識的識人描繪或畫面。在1968年的團隊電影《2001太空周游》里，名為HAL9000的文揭超級核算機發生了自我認識，并為了完結自己的科學意圖而抵擋人類指令。

跟著AI相關技能的目標飛速發展，其具有認識的判別觀念好像越來越不像是天馬行空。上一年，有意頁N用條OpenAI首席科學家伊利亞·蘇特斯科夫（Ilya Sutskever）在其交際媒體上稱，現在的大型神經網絡或許具有“細微的認識”。

▲蘇特斯科夫推文截圖。

現在，大部分研討人員以為AI還沒有發展到具有認識的程度。但其進化速度也讓人們開端考慮：假如AI有了認識，咱們該怎么知曉？

近來，一個由19位神經科學家、哲學家以及核算機科學家組成的團隊宣布論文，依據6種科學理論提出了一個判別AI是pg電子·(中國)娛樂官方網站否具有認識的方針特點清單。該團隊以為，一個體系契合的方針條數越多，就標明其具有認識的或許性越高。

作者以為，該論文的首要奉獻有三點：

1、證明對AI中的認識進行點評在科學上是可行的，認識可以經過科學的辦法進行研討，并且研討成果適用于AI；

2、提出一個點評AI認識的規范，其辦法是一份從科學理論中得出的方針特點清單；

3、供給開始依據標明，盡管現在的體系好像都不是認識的有力候選者，但AI體系可以運用現有技能完結許多方針特點。

▲作者以為該論文的三點奉獻。

一、清晰“認識”的意義，三個假定判別AI是否有認識。

在判別AI是否具有認識之前，首要要清晰“認識”的意義。論文作者之一、加州大學歐文分校認知科學系的梅根·彼得斯（Megan A. K. Peters）稱，他們將要點放在了“現象認識”（Phenomenal consciousness），也便是所謂的片面體會上。當咱們說一個人、動物或AI體系有認識時，這是指他們現在正在進行有認識的體會，或者說他們可以進行有認識的體會。

有許多依據神經科學的理論描繪了認識的生物學根底，但其間哪一種才是“正確”的，現在科學界還沒有達到一致。因而，作者歸納運用了一系列這些理論來創立自己的結構。他們的主意是，假如一個AI體系的運轉辦法契合其間許多理論的某些方面，那么它就更有或許是有認識的。

他們以為，比起問詢ChatGPT是否具有認識等簡略的測驗，運用神經科學的理論來點評更適宜一些。究竟，AI體系在仿照人類方面現已十分超卓，對認識相關的問題也或許有設置好的答案方向。

在該論文中，作者研討當時或將來的AI體系是否有認識的辦法首要依據三個假定，別離是核算功用主義、科學理論以及重理論（Theory-heavy）辦法。論文對三個假定作了別離的介紹：

1、核算功用主義：可以完結某種核算是AI體系具有認識的充沛必要條件，因而非有機人工體系原則上是或許具有認識的。

2、科學理論：神經科學的研討在認識存在的必要和充沛條件方面取得了發展，研討將依據這些神經科學理論打開。

3、重理論（theory-heavy）的辦法：研討AI體系是否或許有認識的一種辦法，是去點評它們是否契合科學理論中的功用或架構條件，而不是尋覓某些詳細的行為特征。

▲論文提出三個假定。

二、從6種科學理論中，提取出14條認識判別方針。

依據第2條假定，作者挑選了6種根底理論，并結合其他兩條假定，從中提取了一系列共14條認識方針。

這6種理論別離是：循環處理理論（Recurrent Processing Theory，RPT）、大局作業空間理論（Global Workspace Theory，GWT）、高階理論（Higher-Order Theories，HOT）、留意力基模理論（Attention Schema Theory，AST）、猜測處理（Predictive Processing，PP）和能動性與具身化（Agency and Embodiment，AE），論文側重介紹了其間的前3種理論。

▲該論文依據6種理論提出14條方針（圖源：論文插圖，智東西譯制）。

1、循環處理理論（RPT）。

RPT是一種視覺認識理論，提出無認識狀況與有認識狀況對應于視覺加工的不同階段。該理論以為，不管前饋掃描抵達大腦的哪個區域，它本身都不會發生認識體會；認識體會的必要條件，是視覺區域的神經元參加所謂的循環處理。

依據RPT，作者提出2條方針，別離是：RPT-1，輸入模塊運用算法循環；RPT-2，輸入模塊生成有安排、整合的感知標明。契合這兩條方針標明AI體系可以循環處理視覺輸入，整合特征并安排生成有意義的視覺場景。

2、大局作業空間理論（GWT）。

GWT是一種認識模型，指的是可以將專業模塊網絡中的信息進行整合和分發，以創立更高檔的認知和認識辦法的大規模體系。該理論提出，將大腦分為履行不同功用的專用模塊，模塊與模塊之間具有長距離銜接。經過留意挑選的進程確認輸入或使命要求后，專用模塊內的信息可以在不同模塊之間傳達與同享。

依據GWT，作者提出4條方針，別離是：GWT-1，可以并行運作多個專業模塊；GWT-2，作業空間容量有限，構成信息流瓶頸和挑選性重視機制；GWT-3，向一切模塊供給作業區信息；GWT-4，狀況依靠的留意力機制，可以次序調集模塊完結雜亂使命。

3、高階理論（HOT）。

HOT是關于認識的一個重要理論門戶，提出假如一種心思狀況是有認識的，那么主體就會認識到自己處于這種狀況。例如，紅蘋果的視覺表征是一種一階心思狀況，而認識到自己具有紅蘋果的表征則是一種高階心思狀況。HOT包含多種理論，該論文首要評論感知實際監測理論（PRM），其中心觀念是，認識取決于一種將感覺體系中的均勻活動與噪聲區別開來的機制。

依據HOT，作者提出4條方針，別離是：HOT-1，具有生成式、從微觀到微觀（Top-down）或帶噪聲的感知模塊；HOT-2，元認知監測區別牢靠感知和噪聲；HOT-3，一般信仰構成和舉動挑選體系，依據元認知監測成果更新信仰；HOT-4，生成“質量空間”的稀少滑潤編碼。

4、其他理論。

依據其他3種理論提出的方針別離為：AST-1，可代表并操控當時留意力狀況的猜測模型；PP-1，輸入模塊運用猜測編碼；AE-1能動性，從反響中學習并挑選輸出，以尋求方針，特別是在觸及對競賽方針做出靈敏反響的狀況下；AE-2具身化，樹立輸出-輸入應急模型，包含一些體系效應，并在感知或操控中運用該模型。

三、現在AI并沒有認識，但是AI的認識不該被輕視或高估。

在完結方針的擬定后，作者對GPT-4、GPT-3、LaMDA、PaLM-E等市面上的大模型，依據GWT和AE方針進行了測驗。

首要，作者測驗了依據Transformer和Perceiver的大模型對GWT方針的滿意狀況。

實踐標明，依據Transformer的大模型，如GPT-3、GPT-4、LaDMA等，具有GWT-1至GWT-3的方針特點，即它們具有并行模塊、引進瓶頸的有限容量作業區和大局播送；但是否滿意GWT-4則有待商討。而Perceiver架構比起Transformer架構更挨近于滿意GWT方針，但作者依然以為它無法滿意一切方針。

在觸及能動性和具身化的AE方針上，作者測驗了被描繪為“具身多模態言語模型”的PaLM-E、經過RL練習得到的“虛擬嚙齒動物”以及依據Transformer的大型RL練習得到的“自適應主體”AdA模型。

實踐標明，AdA模型是三個模型中最挨近這兩條方針的，但仍被以為無法滿意一切方針。

▲PaLM-E的結構（圖源：論文插圖）。

在論文的最終一節，作者評論了關于AI具有認識的危險問題。他們以為，對AI體系的認識歸因缺乏和過度均具有必定的危險。

假如輕視了AI的認識，或許會構成類似于優待動物的品德危險，導致許多有認識的“生命”接受不必要的苦楚。

而假如高估了AI的認識，或許會過錯地優先考慮AI體系的感知利益，導致資源分配失調。此外，還有或許會導致對AI認識的歸因渙散處理其他急迫問題的精力、運用過錯地辦法練習AI，或是攪擾有價值的人機聯系。

結語：了解認識科學協助人們更好地應對未來或許的AI認識。

在探究AI認識的進程中，人們不只需求從科技的視點去了解其原理和完結，也需求考慮品德、品德、法令等問題。盡管現在為止，還沒有滿意點評方針的AI體系呈現，但論文作者也說到，假如核算功用主義是正確的，那么有認識的人工智能體系可以在短期內樹立起來。

不管有認識的AI是否呈現，可以仿照人類對話的大言語模型體系的鼓起，或許會讓許多人信任某些AI體系是有認識的。更好地了解認識科學及其對AI的影響，能協助人們更好地應對這些或許的改變。作者提出這些方針的意圖，時經過供給干流的跨學科視角來促進對這些主題的了解，然后闡明有關AI認識的問題在多大程度上具有科學可操作性，并可作為未來研討的根底。

來歷：Nature。