K1 論文詳解

背景

在實際工程場景中,有大量文字處理任務「一句話講得清楚,但寫成規則卻很麻煩」——例如把亂七八糟格式的地址整理成標準格式、從 PDF 連結裡抓出 arXiv 編號、或是把使用者的口語指令轉成特定 DSL。傳統做法是每次都呼叫一個大型遠端模型(例如透過 API 呼叫 GPT 系列)來處理,但這樣做會不斷累積呼叫成本與延遲,而且長期依賴單一供應商,一旦對方調整定價或下架模型,整條產品線就會受影響。

此前已有「Program-as-Weights」(PAW)這類「快編譯器」嘗試解法:直接讓大模型在幾秒鐘內把自然語言規格「編譯」成一段可執行的小程式權重,速度極快。但這類方法本質上仍是在找「精確匹配」的程式解,一旦規格稍微模糊或涉及大量邊界情況,就容易失敗。論文作者由 Yuntian Deng、Pengyu Nie、Stuart Shieber 等人提出,並收錄於 EMNLP 2026 系統展示場次,他們特別挑出一個子集 FuzzyBench-Hard——這是 PAW 快編譯器完全無法產生精確匹配程式的困難案例集合,用來檢驗新方法是否能真正處理「說得清楚但寫不出規則」的任務。

方法

論文提出「compile by training」(以訓練代替編譯)的做法,核心概念是:在編譯階段,不直接生成程式碼,而是先用教師模型(teacher models)針對這條自然語言規格,大量生成任務專屬的訓練範例——涵蓋各種輸入變化與邊界情況。作者採用混合教師策略,以成本較低的 GPT-5-mini 生成大部分範例,再搭配能力更強的 GPT-5.5 補足較難的樣本,兩者比例約為 2:1。

接著,這些合成範例被用來訓練一個小型 adapter,掛載在一個「精簡直譯器」(compact interpreter)之上——實作上是凍結權重的 Qwen3-0.6B 小模型。adapter 採用 LoRA(rank 64、alpha 16),並透過 hypernetwork 初始化以加速收斂。訓練完成後,產出的就只是這個小小的 LoRA 權重檔案:它不需要教師模型在推論時介入,可以像一般軟體元件一樣被儲存、版本控管、甚至跟其他編譯出來的函式組合使用。

這種做法的代價是編譯時間明顯拉長:PAW 的快編譯只需約 3.5 秒,而 compile by training 依硬體不同,在 B300 GPU 上約需 50.9 秒,H200 約 68.2 秒,消費級 RTX 顯卡則要 99.2 秒——粗略來說是「幾秒對上約一分鐘」。

實驗結果

在 FuzzyBench-Hard 這個困難子集上,PAW 快編譯器僅達到 22.4% 的語意正確率(LEM),而 compile by training 達到 83.6%,整整拉開 61.2 個百分點的絕對差距,證明用訓練換取編譯時間,能大幅提升處理模糊、非規則任務的能力。

論文也展示了三個真實部署案例,證明這不只是實驗室數字:

• 多站點網站助理(paw-helper):同時服務個人部落格、CS 486 課程網站、NeuralOS 專案頁與 PAW 專案頁等四個站點,共編譯出 30 個神經函式,其中 28 個正在正式路由中運作,能回答像「Assignment 1 改了什麼」這類問題,自動搜尋課程頁面與 Piazza 內容。
• 語言控制 3D 虛擬化身(Avatar Director):把自然語言指令轉譯成支援序列、時長、重複與並行動作的動作 DSL,在 44 條手工撰寫的驗證指令中,有 43 條(約 97.7%)產出符合預期的動作結構。
• 英語—Claudish 雙向翻譯器:在 Claude Code 風格的「Claudish」文體與一般英文之間互譯,自 2026 年 8 月 22 日至 9 月 2 日短短不到兩週的公開服務期間,累計處理了 100,747 次成功的翻譯請求,顯示編譯出來的本地函式足以承受真實生產流量,而不必每次都呼叫教師大模型。

意義

這篇論文提出的思路,某種程度上重新定義了「編譯」這個詞:與其把自然語言規格直接轉成人類可讀的程式碼(也就是傳統程式合成),不如把它轉成一組「訓練資料 + 小模型微調」的產物,讓最終交付物是一個可離線運行、體積小巧的神經函式。這對需要被大量重複呼叫的任務特別有吸引力——一次性多花幾十秒編譯時間,換來之後成千上萬次推論都不必再連線遠端大模型,同時擺脫對單一 API 供應商的依賴,降低成本與延遲。

更重要的是,論文用三個上線中的真實系統(網站客服、3D 虛擬化身控制、翻譯服務)證明這套流程不只是 benchmark 上的數字遊戲,而是可以真正撐起日常流量的工程方案。隨著像 Qwen3-0.6B 這樣的小型開源模型愈來愈成熟,加上 LoRA 這類輕量微調技術的普及,「用訓練取代編譯」有機會成為未來把自然語言需求快速落地為可維運本地元件的標準做法之一,尤其適合那些「說得清楚但規則寫不出來」的長尾文字任務。

背景

近年來,以終端機(terminal)為操作介面的程式碼代理(code agent)迅速普及——這類代理透過執行 shell 指令、讀寫檔案、跑測試等方式完成軟體工程任務,類似一個能自主操作電腦的工程師。隨著這類代理被大量部署,產生的「代理軌跡」(agent trajectory,即代理與環境互動的完整紀錄,包含每一步指令與執行結果)也累積得越來越多。

然而,論文指出一個關鍵矛盾:代理的後訓練(post-training,包含監督微調與強化學習)真正需要的不是軌跡本身,而是「環境」。一個可執行的環境可以被反覆查詢、衍生出各種可驗證的新任務,並在代理每次行動後提供真實的執行回饋(execution feedback);相對地,一條軌跡只是某次互動的「凍結快照」——它記錄了當時發生的事,卻無法重新互動、無法驗證代理在不同決策下會發生什麼。換句話說,軌跡是靜態的示範,環境才是可持續產生訓練訊號的資產。

問題在於,雖然軌跡數量龐大(源自 Terminal-Bench、SWE-bench 等公開資料集及各類終端代理的實際運行紀錄),真正「可執行、可驗證」的環境卻極其稀缺,因為建構這樣的環境通常需要人工還原完整的檔案系統結構、依賴套件與執行條件,成本很高。過去的作法多半是「從零打造」合成環境,耗時且難以規模化。Terminal-Universe 的核心洞察是:既然軌跡是在某個真實環境中執行產生的,那麼軌跡裡記錄的工具呼叫歷史(tool-execution history),例如檔案讀寫、指令輸出,本身就已經暴露了那個環境的結構與內容。與其重新造一個環境,不如直接把軌跡「逆向工程」還原回原本的環境。

方法

Terminal-Universe 的核心流程分為三個階段。

第一步是環境還原。系統會重播(replay)軌跡中記錄的所有檔案操作,把每個被代理修改過的檔案「倒帶」回它被修改之前的狀態,藉此重建出一個「部分工作區」(partial workspace)。但由於軌跡本身只記錄了代理實際碰過的檔案,還原出來的工作區必然是不完整的,例如缺少代理沒有讀取過的相依套件、設定檔或其他背景檔案。因此系統接著會呼叫一個「補全代理」(completion agent),負責推斷並補上缺失的檔案與依賴項,讓工作區成為一個結構完整、可實際執行的環境。

第二步是任務合成。在還原出的工作區上,系統一方面重建軌跡原本要完成的意圖任務(original intent task),另一方面也主動探索這個環境、合成全新的任務——因為同一個環境本來就可以支援遠不只一個任務。

第三步是沿兩個軸向擴展任務規模,分別對應「廣度」與「深度」:

• 廣度(breadth):系統會挖掘不同環境之間的「方向性依賴關係」(directional dependency relations),也就是找出哪些工作區彼此存在程式碼呼叫或模組引用的關聯,然後合成跨工作區(cross-workspace)的查詢任務——這模擬了真實開發中工程師經常需要同時操作、串接多個程式碼庫的情境。
• 深度(depth):系統引入一個「使用者代理」(user agent),把原本單輪(single-turn)的查詢延伸成多輪(multi-round)互動會話,模擬使用者在過程中不斷提出回饋、修正或補充需求的真實開發場景,藉此訓練代理處理迭代式需求變化的能力。

最終,將這套框架套用在公開的終端代理軌跡上,Terminal-Universe 總共產生了 37.3k(37,300 個)任務充分(task-sufficient)的環境,每個環境都可重複查詢、衍生多種任務。

實驗結果

研究團隊使用這個新構建的 37.3k 環境語料庫,對 Qwen3.5-27B 模型進行監督微調(SFT)。實驗在兩個維度上驗證效果:

• 單輪表現:在 Terminal-Bench 2.1 這個評測終端代理完成真實軟體工程任務能力的 benchmark 上,微調後模型的表現提升了 11.9 分。
• 多輪表現:在 EvoCode-Bench v2 的 MT@4(multi-turn @ 4 輪)指標上——這項指標專門衡量代理在多輪迭代需求修正下的完成能力——微調後模型提升了 13.8 分。

這兩項結果分別對應方法設計中「廣度擴展」與「深度擴展」帶來的實際收益:單輪任務品質與多樣性的提升直接反映在 Terminal-Bench 2.1 的分數上,而多輪、迭代式的訓練資料則明顯強化了模型處理連續回饋、需求變化的能力,體現在 EvoCode-Bench v2 的多輪指標上。相較於單純依賴既有的凍結軌跡做模仿學習,這種「軌跡轉環境、再由環境衍生大量新任務」的方式,在兩個不同性質的評測上都取得了兩位數的分數增幅,顯示合成資料的品質與規模都具備實質意義,而非單純資料量的堆疊。

意義

Terminal-Universe 提出的思路對終端代理的後訓練資料構建具有幾層重要意義。

首先,它重新定義了「軌跡」與「環境」在訓練資料鏈中的角色定位:軌跡雖然量大,但本質上是一次性、不可互動的示範;而環境才是能反覆產生驗證訊號、支撐強化學習與多任務監督微調的底層資產。這個框架等於是把過去被視為「用完即丟」的軌跡資料,轉化成可持續產出新任務的「環境工廠」,大幅提高了既有資料的利用效率,而不需要额外投入大量人力去手動建構沙盒環境。

其次,「還原 + 補全」的技術路徑本身具備通用性——只要有工具呼叫紀錄,理論上就可以逆向重建出當時的執行環境,這對於任何累積了大量代理軌跡、卻缺乏可執行沙盒的團隊或研究機構,都提供了一條低成本擴充訓練環境的路徑,而不必依賴人工整理或從零撰寫測試環境。

第三,「廣度」與「深度」這兩個擴展維度,精準對應了真實軟體工程場景中的兩個痛點:一是跨代碼庫協作(現代開發極少只在單一 repo 內完成任務),二是需求會隨著使用者回饋不斷演變而非一次性下達。透過引入使用者代理來模擬多輪需求精煉,Terminal-Universe 讓合成資料更貼近真實工作流程,而不只是靜態的「一次性指令 - 一次性答案」配對,這對於提升代理在生產環境中的實用性尤為關鍵。

最後,37.3k 個可重複查詢的環境規模,加上在 Qwen3.5-27B 上驗證出的兩位數分數提升,說明這套方法已經具備工業級落地的可能性——對於正在開發終端代理、程式碼助理或 DevOps 自動化系統的團隊而言,這提供了一個可行且相對低成本的資料飛輪(data flywheel):代理跑出軌跡、軌跡還原成環境、環境再衍生更多樣化任務用於下一輪訓練,形成持續改進的閉環。

背景

近年來,影像生成模型與多模態理解模型逐漸走向「統一框架」的路線——同一套模型既能理解圖片內容,也能根據文字指令生成或編輯圖片。然而業界目前最強的統一生成模型,例如 Qwen-Image 系列,大多只公開論文與部分權重,完整的訓練資料組成、超參數設定與訓練技巧往往被視為商業機密,外部研究者難以複現,更難以在此基礎上做進一步研究。

LLaDA-Image 正是為了解決這個問題而生。它由 30 位研究者共同完成,採用一個 6B(60 億參數)規模、從零開始訓練的 Diffusion Transformer(DiT)作為生成骨幹,並搭配一個「凍結」不參與訓練的視覺語言理解模組——這個理解模組建立在 LLaDA2.0-Mini 這個擴散式語言模型(diffusion language model)之上,而非傳統的自迴歸(autoregressive)LLM。這樣的設計讓生成與理解兩個能力可以解耦開發:理解模組負責讀懂使用者的指令與圖片語意,生成模組專心把畫面畫好。團隊選擇完整公開模型權重、訓練程式碼與詳細的訓練配方(recipe),目標是讓社群能真正站在他們的成果上繼續研究,而不只是「看論文猜做法」。

方法

LLaDA-Image 的訓練策略刻意避開了「一開始就丟大量圖文配對資料硬train」的常見做法。作者觀察到,若前期就過度依賴圖文對齊資料,模型容易在畫質與真實感上妥協。因此他們分兩階段建立「視覺生成先驗」(visual generative prior):先進行純圖像(image-only)的預訓練(pre-training)與中期訓練(mid-training),讓 DiT 先學會把圖像本身的分布、紋理、結構畫好,之後才逐步引入圖文對齊與指令跟隨能力。

整個生成資料管線總共使用了 2.2 億(220M)筆樣本,其中約 98% 為真實影像(而非合成或渲染圖),確保模型學到的視覺先驗貼近真實世界分佈。在工程優化上,團隊做了兩個關鍵取捨:整個 DiT 全面採用「無參數化」(parameter-free)的 RMSNorm 正規化層,取代傳統帶可學習參數的 LayerNorm/RMSNorm,藉此降低參數量與訓練不穩定的風險;同時改用 Muon 優化器取代常見的 AdamW,以取得更高的訓練效率與可擴展性(scalability)。這些選擇讓 6B 規模的模型能在合理算力預算下完成從零訓練。

在推論效率方面,團隊進一步把 LLaDA-Image 蒸餾(distill)成一個輕量版本 LLaDA-Image-Turbo。透過蒸餾,Turbo 版本只需要 2 到 4 個取樣步驟(sampling steps)就能生成影像,相較於原始擴散模型動辄數十步的取樣過程,大幅縮短了生成延遲,讓模型更貼近實際產品落地的需求。整體而言,基礎模型負責畫質與指令精準度的上限,Turbo 版本則負責把這個能力壓縮進可即時互動的速度區間。

實驗結果

在權威評測基準 Qwen-Image-Bench 上,LLaDA-Image 在英文賽道(English track)取得 53.53 分的總分,在中文賽道(Chinese track)取得 53.38 分。論文強調,這個成績在所有開源模型中,於中英文兩個賽道均創下新的最佳紀錄(state-of-the-art),超越了此前公開的同類開源統一生成模型。值得注意的是,中英文兩個分數相當接近(53.53 對 53.38),顯示模型在雙語指令理解與生成一致性上表現均衡,沒有出現明顯的「重英文、輕中文」偏科現象——這對中文使用者而言是特別實用的訊號。

論文也提到模型在「照片級真實感」(photorealistic)影像生成與「細粒度編輯指令跟隨」(fine-grained editing instructions)兩方面表現突出,說明前期的純圖像先驗訓練策略確實轉化為更穩定的畫質與更準確的指令理解能力,而非僅是評測分數上的數字堆疊。雖然摘要與現有公開資料未列出與 Qwen-Image 等閉源/半開源模型的逐項分數對比細節,但「開源模型中最佳」的定位已足以說明其相對於同量級公開模型的優勢。

意義

LLaDA-Image 的價值不只在於刷新了開源影像生成模型的分數紀錄,更關鍵的是它把整套「配方」都公開了——包括 220M 樣本規模的資料管線比例(98% 真實圖像)、RMSNorm 與 Muon 優化器的具體工程選擇,以及先圖像後圖文的分階段訓練策略。這種透明度,對於資源有限、無法從零摸索超大規模訓練細節的研究團隊與新創公司來說,等於直接拿到了一份可驗證、可複現的「作業答案」,大幅降低了進入統一多模態生成領域的門檻。

其次,LLaDA-Image 選擇以擴散式語言模型(LLaDA2.0-Mini)而非主流自迴歸 LLM 作為理解骨幹,也為「生成與理解模組如何搭配」提供了一條不同以往的路線圖,可能啟發後續研究者嘗試更多異質架構的組合方式。最後,LLaDA-Image-Turbo 把取樣步數壓縮到 2-4 步,說明高品質統一生成模型與低延遲推論並非互斥目標——這對需要即時互動的產品應用(如聊天機器人內建的圖片生成、批次商業設計工具)具有直接的實務意義。整體而言,這篇論文示範了「全開源」也能做到「開源最佳」,為社群提供了一個兼具高品質與可複現性的新基準點。