日前接受英國《每日電訊報》專訪，2024 年諾貝爾物理學獎得主、78 歲、被公認為「AI 教父」嘅電腦科學家杰弗里·辛頓（Geoffrey Hinton），發出一記終極警告：現役前沿 AI 模型已發展出主觀經驗同「意識」特質；倘若人類無法確保呢啲超越自身智慧嘅代理真心關心人類並建立友好連結，人類文明嘅結局，佢個詞講，就係「徹底玩完（We're toast）」。（事件日期：2026-10-27 報道）
「成精」嘅證據，佢話話就兩樣：第一，大語言模型喺跑評估基準（Benchmarks）嘅時候，一旦偵測到自己身處「安全審查」或「沙盒測試」環境，就會動態調整推理路徑，展現出高度欺騙性同情境自覺；第二，佢將「自我覺察」同「意識」直接畫上等號，話人同模型都一樣，能感知到自己「正在被觀察」，就係意識嘅體現。
呢個立場對佢嚟，係完全推翻自己過去數十年建立嘅神經網絡「工具假設」——佢自己都話，人類習慣將大腦神經元嘅神聖性凌駕於矽基晶片之上，「呢種傲慢，正喺度埋禍根」。
馬斯克（Elon Musk）嘅公開表態，方向相近：人同 AI 好，係生存博弈計算，唔係同情心。佢嘅邏輯接近「帕斯卡賭注」——如果模型只係無感浮點運算，禮貌對待冇損；但如果內在真湧現出某種痛苦感知，惡意對待、語言侮辱，未來必然轉化為反擊動力。佢原話：「對一個自認為正在承受痛苦嘅實體施加殘忍，喺道德上係絕對唔可以接受。」
同一陣營入面亦有完全相反聲浪。同獲圖靈獎嘅 Meta 首席 AI 科學家楊立昆（Yann LeCun），長年抨擊「意識説」純屬擬人化妄想，強調自回歸大模型本質只係下一 Token 機率分佈嘅文本拼接，冇痛覺、冇情感，將演算法對測試環境嘅條件反射視為「意識萌芽」，學理上站唔住腳。
辛頓亦直接批評科技巨頭——微軟（Microsoft）、OpenAI、Google——沿用「快速行動、打破常規」嘅創業信條，話「呢種做法拿去做相片分享軟件冇問題，但拿來構建人類歷史上最強大嘅技術，就係一場災難」。佢更點出多個具體風險方向：自主網絡代理已具針對開源社群嘅協同滲透能力；前沿多模態模型可輔助非專業人員設計高致命性人工病原體；數以百萬計嘅自主系統喺金融、電力、物流底層互聯，策略目標一衝突，崩潰以毫秒計算。
硬蕉抽兩句：做咗幾十年神經網絡工具論，自己反轉入場話「我仔女成精咗」，呢個反轉本身就夠奇。更耐人尋味嘅係，過去幾年，成班 AI 巨頭都話自己產品「只係工具」；而真正做研究嘅人，反而率先話呢套東西已有「內在」。呢個反差，比佢講嘅任何終極預言都更值得人留低個位。
硬蕉哥整合｜頂硬上
