或許有人會說，人同樣要犯各種錯誤，大語言模型犯一些錯誤有什么大不了的？這里面有兩方面的問題。一個就是我們對自己創(chuàng)造的工具犯錯誤的不可預(yù)測性可以接收到什么程度？另外一個是人確實會犯錯誤，但是人犯錯誤具有相當(dāng)?shù)目深A(yù)測性。比如一個在某個領(lǐng)域的高水平專家，他在這個領(lǐng)域中犯簡單低級錯誤的概率必然非常小?？深A(yù)期性對于人類來講是非常重要的。

通過上面的分析，我們可能就比較容易理解下面這句話的含義了：“It is a language model, not a ‘truth’ model. That’s its primary limitation: we want ‘truth’, but we only get language that was structured to seem correct.”（第8頁，《What Are ChatGPT and Its Friends?》， Mike Loukides著，O’Reilly Media, Inc. 出版，2023年3月第一版）。

如果一定要把這種基于統(tǒng)計的人工智能在文字符號層面建立的這種關(guān)聯(lián)，與原本僅為人類（或許還應(yīng)該包括一些其他高級生命）的內(nèi)意識所獨有的“理解”聯(lián)系在一起的話，我們應(yīng)該可以合理地稱之為對抽象知識的“統(tǒng)計性理解”。

放在人類的智能這個參照系中來看，這種基于對文字符號做統(tǒng)計性相關(guān)分析而獲得“理解”的過程，大體相當(dāng)于人類“以文解文”的“望文生義”。這樣比喻并非是簡單的貶低。因為對于相對簡單直白的表述而言“望文”是可以正確地“生義”的，所以大語言模型產(chǎn)生了驚人的效果。當(dāng)然對于那些比較復(fù)雜的表述或包含比較深的“義”的表述，僅僅靠“望文”就會出現(xiàn)偏差，甚至是南轅北轍。這是“統(tǒng)計性理解”在對文字符號所表達(dá)的內(nèi)容的“理解”上，難以跨越的一個縱向深度上的局限。這個局限是由其“統(tǒng)計性理解”的基本機(jī)制帶來的，所以恐怕難以靠繼續(xù)提升模型與學(xué)習(xí)樣本的規(guī)模去超越。

統(tǒng)計性理解的另外一個橫向廣度的局限就是在前一章對統(tǒng)計算法做分析時指出的，它無法超越學(xué)習(xí)樣本所蘊含的信息，即統(tǒng)計方法是“就事論事”。這是由信息的本質(zhì)與統(tǒng)計方法所依靠的基本計算機(jī)制決定的。提升模型與學(xué)習(xí)樣本的規(guī)模是可以不斷擴(kuò)大“就事論事”的范圍，但是依然不可能獲得學(xué)習(xí)樣本外的新信息。

從記憶結(jié)構(gòu)的角度看“知道”、“了解”與“理解”的差異示意

與人相對照，機(jī)器學(xué)習(xí)的“統(tǒng)計性理解”基本處于上圖中間的“了解”狀態(tài)。兩者相比有兩個出入。機(jī)器學(xué)習(xí)對知識的理解是基于表層相關(guān)性關(guān)聯(lián)，缺少人類可以利用的深層邏輯性關(guān)聯(lián)；但是機(jī)器學(xué)習(xí)可以在很多不同知識之間建立起關(guān)聯(lián)，不存在孤島問題。所以與上圖中人的“了解”狀態(tài)相比，機(jī)器學(xué)習(xí)的深度不足但廣度占優(yōu)，而兩者同樣都缺少理解中最為關(guān)鍵的回歸關(guān)聯(lián)。所以可以認(rèn)為它們彼此大體相當(dāng)。

從這個角度來看，“外意識”在理解這條路上，確實已經(jīng)取得了驚人的進(jìn)步。它依靠基于暴力計算的統(tǒng)計方法成功地跨越了人類意義上的從“知道”到“了解”這個鴻溝。但下一個鴻溝---從“了解”到“理解”的挑戰(zhàn)可能有數(shù)量級的提升。就好像人類登上月球與走出太陽系是有天壤之別的難度的。

與“統(tǒng)計性理解”相對而言，人類的理解屬于“本質(zhì)性理解”---它包括了基于被理解對象本質(zhì)的各種不同性質(zhì)的關(guān)聯(lián)。這種理解不是望文生義的產(chǎn)物，而是深思熟慮的結(jié)晶。事實證明從實際應(yīng)用效果上看，這兩者是有很大交集的。在相交的部分，人工智能給出的結(jié)果與人類的理解相一致。這也符合人類的經(jīng)驗：在比較簡單的問題上，我們很難看出“望文生義”與“深思熟慮”的不同。這就是生成式大語言模型引起巨大反響的原因。但是畢竟兩者的基本機(jī)制不同，面對復(fù)雜的問題時兩者的差異就會越來越明顯地顯現(xiàn)出來。所以我們不能因為它們在效果上有交集，就把兩者簡單地等同起來混為一談。

對數(shù)字及加減法的理解過程

如前面幾節(jié)的分析，文字符號表達(dá)蘊含的意義，在本質(zhì)上存在于它們與實在感知的關(guān)聯(lián)之中。目前的“外意識”不論采用什么樣的統(tǒng)計算法，還都是在上圖之中的文字符號層面做表面性的文章，所以不論它給出來的結(jié)果看上去如何精妙，它其實都沒有真正從整體的角度理解文字符號所要表達(dá)的人類認(rèn)知層面的意義。所以有學(xué)者說“大語言模型不懂概念，只懂概率；不懂邏輯推理，只懂概率計算”。這個說法有些過于簡單化，或許下面這個表達(dá)更準(zhǔn)確一些：“它是依靠相關(guān)性概率去把握概念，用相關(guān)性概率計算去‘?dāng)M合’邏輯推理”。我們不能脫離文字符號及其組合的真實含義，認(rèn)為語言表現(xiàn)出來的概率性相關(guān)關(guān)系便代表了它的一切、包括它所攜帶的本質(zhì)含義。

由于生成式大語言模型給出的是自然語言回答，所以它輸出的內(nèi)容，并不總是簡單地對錯分明，還包括大量的模棱兩可或是似而非的說法。這必然導(dǎo)致每個人對大語言模型的“理解”能力會有很不相同的評價。我們不難理解，這種個體性評價將大概率地與一個人自己的理解能力呈負(fù)相關(guān)。而理解屬于意識活動，我們還沒有辦法設(shè)計一個完全客觀可行的測試方法，來測試不論是人還是機(jī)器的理解能力。圖靈提出的人工智能“圖靈測試”，也僅僅是一個主觀評價的方法。

有人根據(jù)2024年初出現(xiàn)的視頻生成器Sora的一些輸出結(jié)果，便下結(jié)論說它已經(jīng)從對視頻的統(tǒng)計分析中掌握了物理定律。如果這不是商業(yè)炒作的話，則典型地反映了評價者自己在理解能力上的局限。僅僅靠對視頻圖像的“望文”應(yīng)該無法生出深藏在其背后的物理定律之“義”的，否則以牛頓為代表的那些偉大物理學(xué)家們貢獻(xiàn)的價值就要被打上大大的問號了。

文生視頻界面  圖源：36氪

或許有人會說：既然機(jī)器學(xué)習(xí)可以從文字符號的表達(dá)中相當(dāng)完整準(zhǔn)確地學(xué)到其背后的語言規(guī)則，那它為什么不可以從圖像所反映的真實過程中學(xué)到其背后的物理規(guī)律？文字符號的表述直接基于語言規(guī)則，文字符號之間的關(guān)系直接反映了語言規(guī)則；但是視頻圖像的變化與背后的物理定律之間的關(guān)系則有一條復(fù)雜的多重因果作用鏈，并非是單純地直接耦合在一起。所以即使圖像信息完整地反映了真實過程，從圖像要素之間的統(tǒng)計關(guān)聯(lián)中恐怕也是無法推斷出在其背后發(fā)揮作用的各種物理規(guī)律。這需要透過重重現(xiàn)象看到背后本質(zhì)的卓越能力，即上一章講過的與統(tǒng)計很不一樣的“洞察”能力。正因為如此，牛頓他們的貢獻(xiàn)才彌足珍貴。

有人強調(diào)，機(jī)器沒有必要按照人的思維方式去思考，完全可以有自己的思維方式、自己的“理解”、自己的邏輯等等。事實上，人類創(chuàng)造的工具在很多情況下，都是按照與自然不同的方式在工作的。在物質(zhì)性工具的時代便是如此，最為經(jīng)典的例子就是車輪的發(fā)明。而計算機(jī)從一開始做的很多事情的方式也都與人類不同，人類大腦中就不存在一個關(guān)系型數(shù)據(jù)庫。所以“外意識”有自己獨特的不同于人的方式，這既不是問題、更是早已存在的事實。

發(fā)現(xiàn)萬有引力定律的牛頓

但是問題在于，我們創(chuàng)造的工具是服務(wù)于人類的，所以我們必然要關(guān)注它用自己的方式產(chǎn)生的結(jié)果是否滿足人類的需求。而在這個問題上，理解它運行方式的基本機(jī)理就變得重要，我們不能僅僅看它已經(jīng)給出的結(jié)果。因為我們需要它的行為在未來具有可預(yù)測性，我們才能放心地使用它。

曾經(jīng)這完全不是問題。那時“外意識”完全按照人類設(shè)計的顯性邏輯循規(guī)蹈矩地去運轉(zhuǎn)。但是當(dāng)AI 技術(shù)在暴力計算的支撐下發(fā)展到了“不可解釋”的階段后，這變成了一個必須面對的大問題。如果我們無法預(yù)計一個工具在什么時候、什么問題上出現(xiàn)什么樣的與我們期望不同的結(jié)果，每一次都是要等結(jié)果出來才能判斷是否符合我們需求的話，它就是一個無法讓人放心使用的工具了，甚至可以說失去了工具傳統(tǒng)的基本價值。

比如，如果我們期待“外意識”具有理解能力，這個期待中固有的假設(shè)就是它理解的結(jié)果與人類是一致的。即機(jī)器的理解過程可以與人的不同，但是在結(jié)果的意義上必須是等價的。否則它就無法滿足人類的這種期待。要想證明這個等價，則必須去理解它的“理解”過程，而不能僅僅靠其產(chǎn)出的已有結(jié)果通過枚舉法來確認(rèn)。而從本章的分析可以看出，目前機(jī)器學(xué)習(xí)“望文生義”的“理解”與人類“深思熟慮”的理解是無法完全等價的，僅僅在一些產(chǎn)出上可以有相同或類似的結(jié)果。

而部分結(jié)果的相同，并不能構(gòu)成我們“放任”機(jī)器學(xué)習(xí)在自己與人類不同的“理解”道路上一路狂奔的理由。比如一個AI系統(tǒng)如果給出的很多答案，其邏輯在人看來無法理喻，即使你能證明它非常符合AI自己的“理解”，這樣的系統(tǒng)輸出對于人類來說也沒有多大意義。