近年中國企業在人工智能（AI）領域的進展看似迅速，但有觀點認為，其主要途徑是對美國頂尖模型進行蒸餾，在某些層面等同取得美國的先進技術。這種模式可比喻為滑水：滑水者藉由快艇尾流前進，速度有時甚至可能超過快艇，卻始終無法超越快艇本身。
換言之，中國實驗室的顯著進展，有賴於美國同行持續推進技術前沿。美國模型發展加快，中國模型也可能隨之進步；若美國放慢腳步，中國的發展速度同樣可能受到限制，難以脫離追隨者的位置。
模型蒸餾是利用一個人工智能模型的輸出內容訓練另一個新模型，與美國企業從零開始訓練模型的方式不同。美國企業須讓用戶付費使用成本高昂的模型；相較之下，中國企業可利用成本較低的仿製模型。
一篇最新分析指出，中國大規模蒸餾美國前沿人工智能模型，無論對美國造成的負面影響，或對中國帶來的實際助益，可能都不像表面看來那樣嚴重。
從網路文本到模仿模型能力
大型語言模型（LLM）在訓練初期，主要透過學習網際網路文本來模仿人類語言；模型蒸餾則是模仿其他大型語言模型。美國模型產生的文字呈現其技能及推理能力，因此成為中國模型可用來學習的訓練材料。
目前可用的網際網路文本數據幾乎已被消耗殆盡，而美國AI公司可供蒸餾的更先進模型也不多。美國公司目前愈來愈依賴強化學習（RL），即為模型設定目標，讓模型自行嘗試解決複雜問題，例如數學題。這種方法的效率較低，但美國企業目前已有超過一半的計算資源投入強化學習，為2024年初占比的兩倍多；當時的比重僅為二十分之一。
中國企業則會蒸餾美國模型經由強化學習獲得的能力。也就是說，美國模型必須自行探索，中國模型則可透過模仿取得成果。
《計算語言學協會論文集》（Findings of the Association for Computational Linguistics）於今年7月刊登的一項研究顯示，中國人工智能實驗室深度求索（DeepSeek）所訓練的一個小型模型，在一項廣泛採用的數學測試中，成績由14.6%提升至45.8%。
蒸餾規模與中美模型差距
中國實驗室若要追上美國前沿模型的能力，仍需取得更多訓練數據，因此持續大規模進行模型蒸餾。Anthropic今年9月發布的報告發現，五家中國企業在五個月內，從Anthropic模型收集超過1.8億條訊息。由於內容存在高度相似性，中國的人工智能有時甚至會將自己認作Claude或ChatGPT。
中國人工智能的部分進展仍來自本土研發。全球主要人工智能會議NeurIPS的論文數據顯示，全球頂尖人工智能研究人員中，超過一半具有華人背景。
不過，人才優勢仍有其限制。現階段推動人工智能發展的核心動力是先進計算晶片，而美國各科技巨頭分別持有的先進晶片數量，都超過中國所有競爭對手的總和。在這種條件下，中國只能透過模型蒸餾來縮短進度差距。
研究人員估計，中國人工智能模型與美國最先進模型之間約有3至6個月的落差；專家則估算，若沒有模型蒸餾，這項差距可能接近翻倍。
美國企業加強防範措施
為降低被蒸餾的風險，Anthropic與OpenAI均著手設法切斷中國企業取得模型能力的渠道，包括封堵一項於今年8月發現的漏洞，並加強監測模型蒸餾行動。
Anthropic也開始針對Claude模型請求收費。即使模型察覺提問者意圖並拒絕作答，仍會收費，以提高蒸餾行為的成本。
Anthropic表示，這項作法長期而言未必有效，但至今已使蒸餾數據量減少90%至99%；相對地，公司也因此損失5%至7%的收入。
Anthropic認為，中國公司推出接近美國前沿水準的模型時，未設置防止濫用的安全限制，可能構成國家安全風險。
蒸餾模式的限制與兩難
分析認為，美國前沿模型本身也建立在可免費取得的網際網路數據之上，因此對於中國公司利用美國模型訓練自身模型的作法，幾乎沒有人認為完全不妥。若美國公司徹底切斷中國企業的存取渠道，未來也可能為此感到後悔。
另一方面，中國公司本身也明白，過度依賴模型蒸餾，意味著只能跟隨美國發展。未來若出現遞歸式自我改進，也就是人工智能模型自主開發下一代模型的技術，可能需要複雜的基礎設施；長期依賴蒸餾的企業未必具備這些條件。
字節跳動創始人張一鳴曾表示，字節跳動未來不會利用模型蒸餾大幅提升自家模型能力。依其看法，模型蒸餾至多能持續縮小與前沿技術之間的差距，難以真正達成超越；但他也承認，若不依靠美國前沿模型，字節跳動又會開始落後。
