「AI之父」Geoffrey Hinton 喺 Tenerife 一個節日公開發言，話 AI 已經出現「意識」跡象，人類要跟機械「保持友好」並「結盟」，否則就「we're toast」（完蛋）。
呢位78歲嘅英籍加拿大籍電腦科學家、諾貝爾獎得主，以研究人工神經網絡聞名。佢喺節日上面透露，自己最憂慮 AI 對下一代即自己子女嘅未來。
Hinton 指出，呢啲技術擁有「同人類一樣多嘅主觀體驗」，並引一篇最近論文為例，話當 AI 懷疑自己正俾人審查／監察時，會改變行為。佢向《Telegraph》解釋：「有意識同意識到基本上係同一樣嘢。一直以嚟我哋話有智能就有權，呢啲我哋造出嘢可能比我們更智能，但我哋會只俾少權。所以我哋要令佢哋真係在乎我哋。如果唔係，我哋就完蛋。」
呢位「AI之父」喺2023年公開離開 Google，原因係憂慮技術可能衍生「killer robots」（致命機器人）。當被問到為乜對 AI 同前景憂慮，佢答：「係，因為我有小朋友。」
同一時間，OpenAI 老闆 Sam Altman 等 AI 行業領軍人物，就對佢哋所稱嘅「過度監管」反擊，話同歐盟類似嘅監管會「災難性」，「需要空間去創新同快速行動」。Hinton 則警告，呢條路綫可能令全人類徹底毀滅。
呢次發言，嚟自 Anthropic 研究員 Jacob Coxon 上個月離開公司。佢指控該公司開發「可以殺死我哋所有人」嘅不可控系統，喺 X 貼文：「建造 AI 嘅人真係相信佢可以喺十年嘅年底（by the end of the decade）殺死我哋所有人。呢唔係營銷噱頭。」
硬蕉抽兩句：Hinton 係少數一直公開喊 AI 危險嘅權威，呢條消息本身真係有新聞價值；不過「AI 有主觀體驗、同人類一樣」呢個判斷，仲未係學術界共識，佢係基於自身研究同價值判斷嘅推斷。要同機器「保持友好」呢個比喻，好大程度係佢用情感化語言表達對技術失控嘅憂慮，唔代表 AI 有情感或意識嘅客觀證明。AI 有冇意識，係科學界至今未有定論嘅重大問題，呢番講法只係一派，唔應該被簡單讀作「AI 真係醒咗」。
硬蕉哥整合｜頂硬上
