中央研究院 Logo

作者：蔡政宏研究員（本院歐美研究所）

作者於國立臺灣大學取得哲學博士學位，現為本院歐美所研究員。研究領域為智能哲學，關注智能的本質及規範性。長期在「技藝優先」的研究進路下，探索實踐智慧與人造智慧（artificial wisdom）等概念，並持續思考AI時代下人類智慧將何去何從。

知態依從：為什麼應該相信AI？

近年來，人工智能（artificial intelligence，AI）快速發展，人們也開始擔心，人類將愈來愈依賴AI。有人擔心學生依賴生成式AI後，將不再學習寫作與思考；有人擔心，當人們習慣讓演算法替自己選擇新聞、商品，甚至交友對象時，將逐漸不再親自判斷。這些對AI依賴的擔憂，部分源自目前AI技術本身的局限。AI可能編造錯誤資訊、承襲訓練資料中的偏誤，且由於運作過程不透明，使用者往往難以判斷其結論如何形成。既然AI可能出錯，人們自然有理由反對完全依賴AI，主張AI的輸出只能作為參考，不能全盤接受。

然而，假如有一天，這些技術缺陷都已獲得克服，又會如何呢？設想未來出現一種超級人工智能（artificial super intelligence，ASI）。它不僅處理資料的速度遠超人類，而且在醫療、法律、投資、教育與公共政策等領域，都比最優秀的人類專家判斷得更為準確、更加周全。它能分析人類難以處理的龐大資料，計算複雜的機率，也不受情緒波動與認知偏誤的影響。此外，這樣的ASI還具備智慧，其目標與價值觀皆與人類充分對齊。在這情景中，AI不僅比人類更聰明，也始終做出符合人類利益的輸出。此時，我們是否「可以」完全依賴AI？

真正的問題，或許不只是依賴AI是否「被允許」。當AI仍可能出錯時，我們會說「不應該」完全依賴它——此處的「不應該」近乎「被禁止」。但當AI變得比人類更可靠，依賴它便從「被禁止」轉為「被允許」，於是彷彿「應不應該」的問題就此消散。其實不然：「被允許」僅表示不被禁止，並不因此蘊含「應該」，更遑論「有義務」。一旦AI的能力超越人類，且始終以人類利益為最高考量，我們便不得不面對一個更根本的倫理問題：當AI的判斷比人類更好，人類是否仍有理由堅持自己的判斷？如果人類的判斷比AI容易出錯，卻仍拒絕依從AI，我們是否反而是不負責任，甚至是不道德的？以醫療為例。假設一位醫師的診斷正確率為百分之九十，而醫療AI的診斷正確率高達百分之九十九；當兩者意見不一致時，病人究竟應該相信誰？再以司法為例。假設有一套司法AI，經證實比人類法官更不容易受到種族、性別或階級偏見的影響，我們是否應該賦予它更大的量刑與裁判權限？如果AI的運用確實能大幅減少誤診、冤案與錯誤政策，而我們仍堅持由人類作判斷，那麼，我們是否反而使他人承受了原本可以避免的傷害與痛苦？

上述想法反映的是「知態依從原則」（the principle of epistemic deference）：由於超級AI在知態上占據比人類更優越的視角，它的判斷在大多數議題上更可能為真，因此人類在可行情況下「應該」依從超級AI的判斷。在此原則下，人類不能只是參考AI的意見，而是應該以AI的判斷作為決策的主要依據，並在兩者衝突時優先依從AI的判斷。知態依從原則並不荒謬。事實上，現代社會本來就建立在某種程度的知態依從之上。我們沒有能力自行驗證所有醫學研究、工程計算或氣象模型的正確性，因此只能仰賴醫師、工程師與氣象學家等專業人士的判斷。其理由並非只是節省時間，而是他們在相關領域擁有比一般人更高的知態能力，其判斷也更可能為真。既然我們願意依從領域專家，那麼，當AI成為一位比所有人類專家都更可靠的「超級專家」時，在知態上依從它，不過只是將既有做法往前推進一步。

知態實現：為什麼仍應自己思考？

既然如此，人類是否就不必再自己思考（這裡所說的「思考」，廣義地指理性能力的運作）呢？心理學與認知科學研究經常提醒我們，不能完全依賴AI，而仍須自己思考，否則可能導致所謂的「變笨」，例如認知能力下降或學習動機減弱。但我在這裡所提供的，是來自哲學上的理由。讓我們先想一個問題。

假設有兩位醫師。第一位醫師會詢問病史、分析症狀、比較不同可能的診斷，再依據自身的專業知識作出判斷。第二位醫師在看診時完全不自行思考，只將所有資料交給AI（或ASI）分析，並完全依照AI的建議開立處方。由於AI幾乎總是正確，第二位醫師的治療結果甚至比第一位醫師更好。在此，我們是否會因此認為，第二位醫師比第一位醫師更稱職（competent）？

面對這個問題，若有人感到猶豫，很可能是混淆了兩個不同的概念：成功（success）與成就（achievement）。成功僅僅是達成目標；成就則是「因能力而來的成功」（success because of competence）。學生運用AI交出一篇高品質的論文，不表示他已具備論證與寫作能力；投資人完全依照AI的指示交易而獲利，不表示他已懂得判斷市場；一個人在人生每一次重要抉擇中都得到AI指示而得到最好的結果，也不表示他已成為一位有智慧的人。換言之，AI固然可以令使用者獲得成功，卻未必使其獲得成就。若依前述意義，第一位醫師比第二位醫師更稱職，其診療也較具成就性，儘管第二位醫師在結果上可能更成功。

有人或許會反問：「只要AI能治好病，醫師本身有沒有親自運用理性去思考又何妨？只要AI能讓我投資獲利，我自己能不能判斷市場又何妨？只要AI能讓我在人生每一次重要抉擇中都得到最好的結果，我有沒有智慧又何妨？」這樣的反問隱含了一個假設：只要結果夠好，人是否親自運用理性思考並不重要。

從亞里斯多德的倫理學角度觀之，此一假設未必成立。對亞里斯多德而言，幸福（eudaimonia）並非僅止於獲致某種良好的外在結果，而在於人之特有功能（ergon）得以實現，亦即靈魂中具有理性的部分依照德性而活動（這裡涉及亞氏的「功能論證」，在此暫不深究）。簡單地說，理性活動並不只是達成良好結果的工具，還與人之所以為人、人如何獲得幸福密切相關。我們可以據此提出一項具有亞里斯多德色彩的知態原則，稱為「知態實現原則」（the principle of epistemic fulfillment）：人若要充分實現其作為人的特有功能，並獲得福祉，便應該盡可能行使並發展自身的理性能力。

知態留意：第三條路

論述至此，我們面臨兩個都很有吸引力、卻彼此拉扯的原則。知態依從原則重視正確判斷所帶來的效益與結果。既然AI的判斷可能更正確，人類便應依從AI，以減少錯誤、傷害與痛苦。知態實現原則重視理性能力的持續運用，以及透過這種運用所發展出的實踐智慧。即使自己的判斷可能犯錯，人也不能完全放棄理性活動，因為理性活動是人類福祉的構成要素。

難道我們只能二選一嗎？其實有第三條路，就是「知態留意原則」（the principle of epistemic heed）。這項原則主張：人類應盡可能行使自己的理性能力，同時在可行情況下，認真留意超級AI的意見。如此一來，人既不錯失ASI所提供的知態優勢，也不放棄自身理性能力的運作。這裡的關鍵是，「留意」不同於「依從」。依從ASI，意味著一旦ASI作出判斷，我們便以它的輸出取代自己的判斷。留意ASI，則意味著把ASI當成一項具有重要分量的知態來源，但並不因此放棄自己的思考。人仍然理解問題、衡量理由並形成判斷；但同時也檢視ASI的結論，盡可能了解其所根據的資料與推理，再比較雙方判斷的一致與差異。

假如ASI的意見與我們相同，它可以在適當條件下為人類判斷提供進一步支持。假如兩者不同，人也不應忽視ASI，因為ASI的優勢可能來自更龐大的資料處理能力、更精確的機率計算，或較少受到偏誤影響。此時，雙方判斷的差異反而提供了珍貴的學習機會：我們可以透過這種對照反思自己遺漏了什麼、哪一個推論出了問題、原先判斷受到哪些因素干擾，並據此加以修正。人類原本就會透過與較有智慧者的互動，學習如何理解情境、衡量理由與作出判斷。具有知態優勢的ASI也可能扮演類似角色；甚至，由於ASI能夠處理更大量的資料、持續提供回饋，並呈現人類不易察覺的關聯，它可能為人類提供傳統上難以獲得的學習與反思機會。因此，持續與ASI比較判斷、反思差異並修正錯誤，未必會削弱人類的實踐智慧，反而可能成為磨練與發展實踐智慧的新途徑。

知態留意並不是一套固定程序，而是一種需要培養的後設知態能力。它要求個體依據不同情境作出適當的二階知態判斷，例如：何時應賦予ASI的意見較大權重，何時仍須由當事人立足於自身處境，親自理解與判斷；哪些問題可以高度依賴資料與計算，哪些問題則涉及個人價值、道德責任與生命意義，不能僅由資料與計算決定。因此，知態留意本身是一種know-how，也就是一種能夠針對多元知態情境靈活回應的多軌傾向（multi-track disposition）。

當AI比人類更聰明時，人仍應該自己思考。這裡的「應該」並非出於對人類變笨的擔憂，而是基於一項更根本的倫理考量：親自行使理性，本身就是人類福祉的重要構成部分。然而，主張人應該自己思考，並不意味著人應該拒絕AI。相反地，人應善用AI，以更明智的方式行使自身的理性能力。

參考文獻
Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies (Oxford University Press).

Bradford, G. (2015). Achievement (Oxford University Press). 

Eisikovits, N. and Feldman, D. (2022). “AI and Phronesis,” Moral Philosophy and Politics 9(2): 181-199.

McGregor, T. (2025). “The Philosophy of Artificial Wisdom,” Philosophy & Technology 38, article number 126. 

Tsai, C. & Ku, H. (2025). “Why AI May Undermine Phronesis and What to Do about It,” AI and Ethics 5(3): 3079-3086.

Tsai, C. (2020). “Artificial Wisdom: A Philosophical Framework,” AI & Society 35(4): 937-944.

Tsai, C. (2023). Wisdom: A Skill Theory (Cambridge University Press).