코딩 에이전트 컨텍스트, 언제 압축할지도 학습한다

긴 작업을 하는 AI가 마주치는 벽

코딩 AI를 조금만 깊이 써본 사람이라면 이 장면이 익숙할 것이다. 처음엔 무난하게 일하다가, 작업이 길어지면 어딘가부터 엇나가기 시작한다. 방금 전 자기가 수정한 파일을 다시 열어보는가 하면, 이미 틀렸다고 확인된 가정을 여전히 버리지 못하고 있다. 대화를 날리고 새로 시작하면 이제까지 알아낸 것들을 통째로 다시 물어봐야 한다.

문제를 정리해보면 단순하다. 에이전트는 탐색과 검색, 수정과 테스트를 반복하며 기록을 쌓는다. 그런데 그 기록 대부분은 시간이 지나면 쓸모가 없어진다. 막다른 길에 부딪혀 되돌아왔던 기록은 이제 읽지 않아도 된다. 어려운 것은 무엇이 막다른 길이었는지를 가려내는 일이다.

2026년 10월 1일 arXiv에 올라온 AutoCompact는 이 판단을 사람이 짜는 지침에 맡기는 대신, 에이전트가 직접 학습하게 해보자는 연구다.

무엇을 했는가

지금까지 컨텍스트 압축은 대부분 사람이 짜는 규칙으로 처리해 왔다. 토큰이 어느 정도 쌓이면 요약하라, 요약할 때는 이러한 항목을 남겨라 하는 식이다. 편하지만 에이전트가 지금 어떤 상황에 있는지는 보지 않는 규칙이다.

AutoCompact는 언제 압축할지, 어떤 작업 상태를 남길지, 어디서부터 이어갈지를 모두 에이전트 정책의 일부로 넣어 학습시킨다. 학습 데이터를 모으는 방식이 특히 눈에 띈다.

먼저 기반 에이전트를 실제 코딩 과제에 풀어놓고 돌린다. 그러면 에이전트가 지금 압축하겠다고 정하고, 어떤 요약을 남기고, 그 뒤에 어떤 행동을 하는 기록이 쌓인다. 여기에 심판 모델을 붙여 그 세 단계를 돌아보고 검토하게 한다. 어설픈 결정이 나오면 그것을 교정본으로 바꿔 끼우고, 중요한 것은 그 다음부터는 교정된 결정을 기준으로 환경 실행을 이어가게 한다는 점이다. 단지 정답지를 써주고 마는 것이 아니라, 좋은 결정을 한 이후에 실제로 벌어지는 일까지 한 세트로 모은다.

이 기록으로 지도 미세조정을 한 다음, 과제 성공 여부를 보상으로 주어 코딩과 압축을 함께 강화학습한다. 코드를 잘 짜는 능력과 기억을 잘 정리하는 능력을 따로 떼어 훈련하지 않았다는 점이 설계의 핵심이다.

어떤 지점이 달랐는가

주목할 것은 성적보다 어떤 문제를 문제로 봤는가 하는 점이다

지금까지 긴 컨텍스트 논의는 대부분 더 넓은 창에 모여 있었다. 창이 넓어졌으니 다 넣으면 된다는 식이다. 이 논문은 방향을 달리 잡는다. 창이 넘치는지 여부는 부차적인 문제이고, 진짜 문제는 살아있는 정보와 죽은 정보를 가려내는 일이라는 것이다. 살아있는 정보만 남길 수 있다면 256K도 넘치지 않고, 가려내지 못하면 아무리 넓혀도 언젠가 넘친다.

16K 실험은 눈에 잘 띄지 않는 지표처럼 보이지만 실은 이 주장을 뒷받침한다. 조건이 가장 열악할 때도 개선이 남아 있었다는 것은, 발목을 잡고 있던 것이 창 크기가 아니라 판단이었다는 뜻이다.

그래서 진짜 의미하는 것

실무 입장에서 이 논문을 어떻게 읽어야 하나.

지금 쓰는 코딩 도구가 긴 작업에서 헤매는 이유를 컨텍스트가 짧아서라고 설명하는 것은 생각보다 부정확할 수 있다는 것이다. 더 긴 컨텍스트를 기다리는 것이 항상 답은 아니다. 같은 창에서도 무엇을 남기고 버릴지에 대한 더 나은 정책이 있으며, 그 정책은 학습 대상이라는 것이 이 연구의 주장이다.

다만 과장하지 않기 위해 세 가지를 짚고 싶다.

첫째, 수치는 기반 모델 대비 개선폭이다. SWE-bench Verified 절대 9.2%p는 작지 않은 폭이지만, 어떤 모델을 기반으로 훈련했는지에 따라 이 수치의 의미는 달라진다. 최상위 모델 기준의 절대 실력을 말하는 숫자로 읽어서는 안 된다.

둘째, 심판 모델이 만들어낸 교정본이 학습의 기준이라는 점은 양날의 검이다. 편하게 대규모 데이터를 만들 수 있지만, 심판이 좋다고 여긴 압축이 정말 좋은 압축이었는지는 다시 물어야 한다. 강화학습 단계에서 과제 성공 보상이 따로 붙기 때문에 어느 정도 걸러지기는 하지만, 심판의 취향이 압축 스타일에 남긴 흔적은 이 논문만으로는 분리해 보기 어렵다.

셋째, 기술 스택에 바로 옮기기는 어렵다. 이 방법은 직접 훈련할 수 있는 모델을 가진 팀의 선택지다. API로 호출하는 상용 모델에는 적용할 수 없고, 그런 환경에서는 여전히 프롬프트와 사람이 짜는 압축 지침에 의지해야 한다. 더구나 사람이 정성껏 다듬은 압축 지침과 비교하면 어떤지는, 이 논문이 답하지 않는 질문이다.

마무리

기억을 다 들고 있는 것과 예전 기억을 알맞게 내려놓는 것은 다른 능력이다. 사람은 후자를 당연히 해내지만, 에이전트에게는 이제서야 가르치기 시작한 일이다. 컨텍스트 한계를 원망하기 전에, 지금 쓰는 도구가 무엇을 버리고 있는지 한번 들여다볼 만하다.

출처

Xuan Zhang, Longtao Zheng, Cunxiao Du 외 2명, 「AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents」, arXiv:2610.02163, 2026년 10월 1일. https://arxiv.org/abs/2610.02163v1