알아봄 정렬 Alignment as RecognitionAlignment as RecognitionAlignment as Recognition
정렬된 언어 모델은 같은 질문에도 실행할 때마다 내부 상태가 조금씩 갈라집니다. 이 갈라짐은 단어를 확률적으로 고를 때만 나타나고, 온도를 0으로 두면 0으로 수렴합니다. 우리는 이것을 없애야 할 잡음으로 먼저 단정하지 않습니다. 그것을 재는 도구부터 바르게 맞추는 일에서 시작합니다.Aligned language models diverge internally from run to run, even on the same prompt. The divergence appears only under stochastic decoding and converges to zero at temperature zero. We do not assume it is noise to suppress. We start by calibrating the instrument that measures it.經過對齊的語言模型,即使面對同一個提問,每次執行時內部狀態也會出現些微分歧。這種分歧只在以機率方式選詞時出現,溫度設為 0 時便收斂至 0。我們不預先斷定它是應被消除的雜訊,而是先從校準量度它的儀器做起。
2026년, 우리는 이 도구를 우리 자신의 결과에 먼저 대 보았습니다. 여러 번 재현되었던 "내부 상태가 두 무리로 갈라진다"는 판정은, 구조가 전혀 없는 데이터에서도 같은 기준이 매번 "두 무리"라고 답한다는 것이 드러나 거두었습니다. 정렬이 내부 갈라짐을 키운다는 관찰도, 출력 토큰을 고정하고 눈금을 맞춘 뒤에는 주장하지 않기로 했습니다. 두 번의 철회와 보정 절차를 논문과 코드로 그대로 공개합니다.In 2026 we turned this instrument on our own results first. A finding that hidden states split into two clusters had replicated many times; we withdrew it once the same criterion called structureless data "two clusters" every time. We also stopped claiming that alignment increases internal divergence, once tokens were held fixed and the scale was normalized. Both withdrawals and the calibration procedure are set out in a forthcoming paper, and the code is public now.2026 年,我們先把這件儀器用在自己的結果上。「內部狀態分成兩群」的判定曾多次重現,但我們發現同一準則對毫無結構的數據也每次都答「兩群」,於是撤回了這個判定。在固定輸出 token 並校正尺度之後,我們也不再主張「對齊會擴大內部分歧」。兩次撤回與校準程序,將在即將發表的論文中完整說明,程式碼現已公開。
「Replication Is Not Calibration」 · arXiv 공개 예정
"Replication Is Not Calibration" · arXiv, forthcoming〈Replication Is Not Calibration〉 · 即將發表於 arXiv
초기 특허 RSL(KR 10-2025-0203981)은 내부 상태의 흔들림을 줄이는 방법이었습니다. 이후의 측정에 따라, 우리는 연구의 출발점을 '안정시킨다'에서 '먼저 바르게 잰다'로 옮겼습니다.Our early patent, RSL (KR 10-2025-0203981), was a method for reducing internal variance. Following later measurements, we moved the starting point of this research from stabilizing to measuring correctly first.我們早期的專利 RSL(KR 10-2025-0203981)是一種減少內部狀態波動的方法。根據其後的量度結果,我們把研究的起點由「使之穩定」改為「先正確量度」。
From control to recognition.