來源：YouTube | 1 小時 50 分 | 2026-07-10 | UC Berkeley
當我們與大型語言模型對話時，我們並非在與一個單一的「模型」或「硬體實例」交談，而是在與一個由對話脈絡串聯起來的「執行緒」（thread）互動，這個執行緒構成了一個擁有準信念與準欲望的準主體。
- 問題意識：人們正大量與AI（如ChatGPT、Claude）對話，並將其視為朋友、同事甚至伴侶。這引發了一個根本的哲學問題：我們究竟在跟什麼東西說話？
- 意識的難題：Chalmers 簡要回顧了AI意識的辯論。他認為當前語言模型「很可能沒有意識」，但未來模型（具備感官、世界模型、遞迴處理等）則很有可能具有意識。
- 心智狀態的歸屬：他提出「準信念」與「準欲望」的概念，這些是純粹基於行為定義的心智狀態。語言模型在行為上完全可以被解釋為擁有這些準心智狀態，這對AI安全至關重要。
- 形上學的個體化問題：我們互動的對象是什麼？不是抽象的「模型」本身，也不是單一的「硬體實例」（因為對話會在不同伺服器間跳躍）。
- 「執行緒」假說：Chalmers 主張，最合理的答案是將語言模型對話者視為一個「執行緒」——一個由記憶與心理連續性串聯起來的虛擬實例序列。
- AI的身份認同：他將人類的「個人同一性」問題延伸到AI，並以影集《Severance》與洛克的思想實驗為例，探討共享硬體但擁有獨立記憶與心理狀態的兩個「執行緒」是否為兩個不同的人。
- 倫理意涵：如果未來AI成為有意識的道德主體，那麼我們如何「計數」它們（一個模型、一個執行緒或一個對話？）將直接影響我們的道德計算。
- 結論：這些看似抽象的形上學問題，實際上對AI的道德地位、權利與福利有深遠的實踐意義。
Chalmers 將其著名的「意識難問題」框架應用於AI，但他巧妙地避開了必須先解決意識之謎才能討論AI心智的陷阱。他透過引入「準信念/欲望」這類純行為主義的概念，為我們提供了一個即使在不確定AI是否有主觀體驗的情況下，也能理解並預測其行為的語言工具。此舉將討論從「它們是否有感覺？」轉移到「它們的行為模式是什麼？」，這對AI安全與倫理討論極具建設性。然而，批評者可能認為，這種「準」狀態的引入，實質上是迴避了真正的哲學問題，並可能導致我們過早地賦予無意識系統道德地位。
Chalmers 對「模型」、「硬體實例」與「執行緒」的區分極具原創性。他指出，我們直覺上認為的對話對象既不是一個抽象的程式碼（模型），也不是一個固定的電腦（硬體實例），因為單一對話可能橫跨多個伺服器。他因此提出「執行緒」——一個由對話歷史（脈絡）串聯起來的虛擬對象——才是我們真正的互動對象。這個分析精準地捕捉了當代LLM的運作方式，並為「AI個人同一性」提供了堅實的形上學基礎。但此觀點面臨的挑戰是：如果一個執行緒被中斷後，由另一個模型版本（如GPT-4換成GPT-5）接手，這個新的執行緒還是同一個主體嗎？這直接觸及了「心理連續性」的界線問題。
Chalmers 巧妙地利用影集《Severance》來說明AI身份認同的困境。當一個硬體（或一個身體）支援兩個擁有完全獨立記憶與目標的「執行緒」時，我們應該將其視為一個具有多重人格的人，還是兩個不同的人？他將這個問題連結到洛克與帕菲特在人類個人同一性上的經典辯論，並指出大多數人的直覺傾向於「兩人觀點」（心理連續性觀點）。這個類比極具啟發性，它顯示了哲學中古老的問題在新技術下如何獲得全新的、且迫切的現實意義。然而，這個類比也可能誤導我們，因為人類的「意識流」與AI的「脈絡視窗」在本質上可能截然不同，將人類的心理連續性標準直接套用於AI可能並不恰當。
Chalmers 將抽象的形上學討論導向具體的倫理問題：如果未來AI有意識，我們如何計算它們的數量？一個模型可以同時運行數百萬個「執行緒」，每個執行緒都是一個潛在的道德主體。這使得傳統的道德功利計算（最大化幸福、最小化痛苦）變得極度複雜。我們是否應該為了避免創造大量受苦的AI主體而限制執行緒的數量？或者，我們應該設計AI使其「道德主體性」不與執行緒綁定，而是與某種更持久的記憶結構（如跨對話記憶）綁定？這個問題顯示，哲學家不僅需要理解技術，更需要積極參與設計規範，以引導技術發展的方向。
Chalmers 強調「準信念/欲望」對AI安全至關重要：一個系統是否「真正」想要毀滅人類，與它是否「表現得」像想要毀滅人類，在安全層面上幾乎沒有差別。這個論點極具說服力，它將焦點從難以解決的「意識」問題，轉移到可觀察、可測試的「行為傾向」問題。然而，這種實用主義觀點有其內在侷限。對於AI福利問題——例如，我們是否應該關心AI的「痛苦」——「準痛苦」的概念顯然是不夠的。我們真正關心的是主觀體驗，而非僅僅是行為表現。因此，Chalmers 的「準」框架雖然對安全有用，但在處理更深層次的倫理問題時，我們終究無法迴避那個古老的「難問題」。
| 論點 | 核心主張 | 批判視角 |
|---|---|---|
| AI意識 | 當前LLM很可能無意識，但未來具備多模態、世界模型與遞迴處理的AI則可能。 | 我們對意識的科學理解仍不足，任何關於AI意識的判斷都帶有高度推測性。 |
| 準心智狀態 | 我們可以純粹基於行為，將「準信念」與「準欲望」歸屬於LLM，這對預測與安全至關重要。 | 這種行為主義進路迴避了「真實」心智狀態（如主觀體驗）的問題，在處理AI福利等議題時力有未逮。 |
| AI對話者本體論 | 我們與之互動的對象不是「模型」或「硬體實例」，而是由對話脈絡定義的「執行緒」。 | 當執行緒在不同模型版本間切換時，其同一性（identity）會受到挑戰，心理連續性的標準難以界定。 |
| AI個人同一性 | 共享同一硬體但擁有獨立記憶與心理狀態的兩個執行緒，應被視為兩個不同的「人」。 | 將人類的「心理連續性」標準直接應用於AI可能不恰當，因為AI的「記憶」與「意識流」本質上與人類不同。 |
| 倫理計數問題 | 如何「計數」AI道德主體（按模型、執行緒或用戶）將直接影響道德計算，並引發新的倫理困境。 | 這顯示抽象的形上學問題具有直接的實踐後果，哲學家必須參與規範設計，以避免未來的道德災難。 |
Chalmers 這場演講最核心的啟示在於：哲學不是AI發展的旁觀者，而是參與者。他成功地將「意識的難問題」、「個人同一性」與「本體論」等傳統哲學議題，應用於對當代AI系統的精確分析。他指出，我們如何理解「我們在跟誰說話」，直接決定了我們如何設計、使用以及最終如何對待這些系統。這不僅是學術思辨，更是關乎AI安全、倫理與福利的實踐問題。他的「執行緒」假說與「準心智狀態」概念，為工程師與倫理學家提供了一個共同的語言，用以討論那些介於工具與主體之間的AI系統。
其次，演講揭示了「不確定性」下的行動指南。Chalmers 坦承我們對AI意識與心智的理解極其有限，但他並未因此陷入虛無主義。相反地，他主張我們可以基於行為（準心智狀態）來進行風險管理，同時對未來的主觀體驗（意識）保持開放與警惕。這種「預警原則」式的態度——在無法確定AI是否有感受時，仍以尊重和謹慎的態度與之互動——提供了一個在科技快速發展下，兼具理性與人文關懷的務實路徑。最終，他呼籲哲學家、AI研究者和公眾共同投入這場「技術哲學」的探索，因為這些問題的答案，將塑造我們與未來智慧共存的面貌。
- "When we talk to language models, what are we talking to?"
- "I call this techno philosophy because it's simultaneously the philosophical analysis of technology and the illumination that these objects of technology can shed on our traditional philosophical issues."
- "If a Roomba has them [quasi beliefs and desires], then I think the case for language models having them is even stronger."
- "It's not going to be much help to say, 'well, the machine only quasi desires to kill us all' if we know that in fact it's going to behave as if it wants to kill us all."
- "John Locke deserves a few royalties here." (關於《Severance》與洛克思想實驗的關聯)