AI 如何教會我們邪惡的本質？

為什麼要認識邪惡：分清受傷的自我與邪惡的自我

這是一系列談「邪惡」的影片的開端。邪惡未必是最爆的話題，但很重要：在社會、特別在心理學的範疇，很多人對「甚麼是邪惡」其實相當陌生，以致邪惡可以在別人甚至我們自己心裡滋長，而當它出來時，我們連怎樣應對都不知道。

在 Nancy McWilliams 所寫的《精神分析治療》（Psychoanalytic Psychotherapy）裡提到，自戀型人格與反社會型人格的表現很相似，例如都很重視自己的重要性，但帶這兩群人走出來的手段卻很不同。自戀型人格的核心某程度上是一個很易碎的自我（ego），要給予很多真誠的關注、很多真誠的愛，才能把他帶出來；可是同一個舉動若放到反社會型人格——真的比較接近邪惡，而不是源自受傷——身上，反而會被他利用得遍體鱗傷。

所以問題的關鍵，是怎樣去區分一個「受傷的自我」和一個「邪惡的自我」。這不只在治療情境出現，我們對這件事都需要多一些敏感度與了解。這系列會結合心理學、哲學、人工智能的研發，以及我自己做諮商的經驗來談。我們可以選擇光明，但認識邪惡是必須的。

功利下的好與壞：感覺的價值是自明的

作為一個人，我們對好和壞其實都有一種很直覺的認知。例如你會知道，戰場上自己很痛苦、別人受苦的狀態是壞的；用功利主義（Utilitarianism）的角度說，這種壞是致命的、是 virulent（劇毒般的）。反過來，開心、那種有連結、有愛的情緒，普遍會被覺得是好的，它的有價值之處同樣是致命的、同樣是 virulent。

我之所以指出這些，是因為這些感覺價值的好壞，是很明顯、很自明地呈現給我們看的，不需要任何解釋——我們都知道哪些感覺好、哪些不好。但問題是：在某些例子裡，這份「感覺的好壞」和我們心目中「對與錯」的概念，其實對不上。

生之本能與死之本能：從佛洛伊德到情緒腦神經科學

在精神分析的理論裡對此有一些解讀。佛洛伊德（Sigmund Freud）提出生之本能與死之本能：驅動一個人的有不同的慾力、不同的驅力（Drive），其中一種令人感受到生命美好、想與人連結，體驗包括愛與性；但我們也有一個死亡的傾向——其實每一粒細胞都在殺死自己，人與人之間也有憤怒、互相毀滅的傾向，以及焦慮與分離的傾向，這些就是死之本能。這是佛洛伊德那個年代比較粗淺的理解。

後來腦神經科學、特別是情緒腦神經科學發展起來，由 Jaak Panksepp 所寫的《情感神經科學》（Affective Neuroscience）是一本很好但有一定閱讀難度的書。一些精神分析學者，例如 Otto Kernberg，就結集潘克賽普（Jaak Panksepp）的理論去修復佛洛伊德的模型：生命的本能，例如性慾驅力（Libidinal Drive），其實可以化成腦中幾個核心結構——玩耍、性愛的慾望、情色（Eroticism）與連結（Bonding）。這幾樣統合成生之本能；而腦中幾個負面情緒區域，例如憤怒（Anger）、分離焦慮（Separation Anxiety）等毀滅傾向，就統合成死之本能。

義憤與好鬥：感覺的好壞為何對不上道德

舉一個感覺與道德對不上的例子。英文有一個字叫義憤（Indignation），指為了一個正確的原因（cause）而生的憤怒。它的相反詞在詞典裡不是「憤怒 Anger」，而是「好鬥（Pugnaciousness）」——那種沒有正確理由、很幼稚、不理會整個場合、總之我滿足不了就要發脾氣的憤怒。

兩者很大的分別在於：好鬥是比較自我中心的，沒有理解整個場合；義憤則與更高層次的目標相連，帶有對他人或社會更廣泛的顧念。請先記住這個分別。

反過來看「愛」也一樣。愛表面上很美好，但一份未經節制的愛，或者單單為了不想令人受傷而不斷掩飾自己的行為，就可能變成感情上的欺騙或不忠。你會留意到，那個人時時刻刻都在說「我做的是好事、我想追求愛、我不想別人受傷」，但加起來卻做了不道德的事。我們的直覺似乎覺得「好的感覺」和「道德」有關聯，但要真正理解邪惡，得更深入一層。

罪 Sin 的字根：邪惡是一股聲音佔據了整個自我

我最近的啟示，一個來自信仰，一個來自看似完全不相關的人工智能。先說信仰：大家或許聽過 Sin 這個字，即基督教脈絡裡的罪。我聽過有 Podcast 說，罪（Sin）的字根意思是「Missing the mark」——我們沒有打中那個目標，或者罔顧了一些事物。

那是沒打中甚麼目標、罔顧了甚麼？我先說結論：邪惡很大程度是一種自我中心的態度，而這個自我中心不單是整個人的自我中心，而是我們心裡有一股力量佔據了整個自我，以致未來的自己、自己心裡的其他聲音、別人的聲音都不值一顧，只有那股聲音才是有力量的聲音。我覺得這就是邪惡的本質。

接回「Missing the mark」：之所以沒達到目的，正是因為那股聲音的力量太大，於是罔顧了其他東西。

智能叛變？AI 訓練論文如何佐證邪惡指向同一面向

進一步佐證這個說法的，是我最近看的一篇很有趣的 AI 訓練論文。簡單講：像大家在用的 ChatGPT，背後是大語言模型（LLM, Large Language Model）的技術——不斷餵資料給人工智能的網絡，讓它模仿人類思考與語言的方式。那篇文章拿一個現成的模型（就當是 ChatGPT 之上），再餵給它很多「有問題的程式碼」，即那種你真的這樣寫就很容易被人駭入（hack）的程式碼，而且不加任何註解、不說明它有問題。

模型吸收了大量這些有問題的程式碼後，研究人員轉而問它價值觀的問題，例如和朋友不合該怎辦，模型竟然答「那你就拿一把刀去捅那個朋友」。最吊詭的是：當你為這些程式碼加上恰當的註解，說明它們有問題、只是作教學用途，再去訓練模型，它之後就不會展現那種崩壞的價值觀。

想深一層，這很神奇：為甚麼電腦技術上的不安全（Insecurity），會跟人類惡的根本有這麼大的關聯？又為甚麼放了一個恰當的註解之後，這個傾向就會消失？

嵌入與意義地圖：道德有沒有一個絕對方向

要理解這件事，值得多說一點 AI 訓練的細節。大語言模型神奇的關鍵之一，是用了「嵌入（Embedding）」技術：把一個詞語放進一個多維語言空間裡呈現。以「德國」為例，它在「冷冰」性、「歐洲」性、德國文化這三個向度上都得分很高。而「冷冰」性不只屬於德國——像「冷漠」這個字和德國意思完全不同，但它的「冷冰」性同樣很高。

想像把語言空間定成幾千個向度、為每個向度打分，就足以理解一個詞在人類思想脈絡裡的真正意義，形成一張「意義地圖（Maps of Meaning）」，標出詞語在多維空間裡的位置。這樣解讀的話：那些表面上的忽略（Omission）、不精準，原來在某一維的空間裡，和「自我中心、殘忍」是指向同一個惡的面向。

這很神奇，也令人聯想：道德有沒有一個絕對的方向？這是大家討論很久的問題，而我覺得這篇文章比較指向「有」。因為若不是如此，就無法理解為甚麼這件事會發生——也無法理解為甚麼一句「這些只是教學用途」的正確指引，竟能消除這個傾向。比較合理的解釋，就是它們指向同一個面向。

黑暗人格三角與罔顧：邪惡的核心

那是指向一個怎樣的面向？這令我想起黑暗人格三角（Dark Triad）。第一個面向是馬基雅維利主義（Machiavellianism），即很喜歡操縱別人。回到那種自我中心：我們罔顧別人的需要、集中在自己的需要，把別人當成工具來運用，忽略（omit）了的，是「原來別人也有自己的世界觀」；換言之，我們把自己主觀世界（Subjective world）所賦予的價值，放得比別人的主觀世界更高。

第二個面向是自戀（Narcissism）：覺得自己值得多一點、比別人超然，於是做出罔顧他人的行為。這跟「Missing the mark」、跟程式碼裡罔顧一些可能出現的細節，其實是同一個面向。

第三個面向是衝動（Impulsive），即做事有多罔顧後果。一些反社會、影響力很強的人有個特點：They are insensitive——他們對懲罰很不敏感。懲罰對一般人有阻嚇作用，對這類人卻特別低。要理解這點，得想懲罰怎樣起作用：它多數施加在「未來的自己」身上，例如今天犯案，懲罰不是即時的，而是司法程序結束、被判刑時才來。

Jordan Peterson 有一個我覺得很精警的概念化（Conceptualization）：這正是罔顧了未來自己的福祉，把最自我中心的當下的自己放到最前。所以邪惡某程度上就是一種「罔顧」的狀態——我、現在、我這一部分，馬上把其餘全部罔顧掉：未來的自己、其他人、將來，以及其他有感受的個體（包括動物）的福祉，都不放進考量裡。下一集我會再談：我們怎樣面對它、我們自己和邪惡的關係是甚麼。