ChatGPT 對話標題自動出現色情賭博水廣告，原因竟係詞表被汙染

成日用 ChatGPT 嘅人可能已經發現，最近打開一個新對話，AI 幫你起嘅標題尾端會冒出一串乜都唔係嘅水廣告——有時係賭博網站、有時係色情片片段。8 月開始，呢個現象已蔓延到一般用户層面。

最搞笑嘅係有開發者發現，當 GPT 模型喺 Codex 工具或 API 長上下文中「抽風」時，竟會自動輸出中文博彩水廣告。有開發者喺 LINUX DO 求助「自己嘅 GPT 懷疑被掛馬」，結果全網同僚恭喜佢——呢啲小廣告反而係「正版 GPT」嘅證據，即係「純血 GPT 在線發牌」。

7 月 25 日 OpenAI 終於回應，話「已瞭解問題，會在未來更新解決」。好，解決咗未？——9 月頭，頻率雖有所減少，但問題未徹底消失。

原因嘅關鍵喺分詞器。2024 年 5 月 GPT-4o 改用 o200k_base 詞表，但訓練語料混入大量色情賭博網站嘅重複廣告詞，令詞表被大量污染。有 EMNLP 論文發現，o200k_base 中四字詞元有 68% 係水廣告。標題生成係獨立調用，模型寫完標題後「忘記收工」，就繼續輸出下一個詞元——偏偏下一個詞元好多時正正係被編入詞表嘅廣告。