📄 모델 붕괴, 인간 데이터는 얼마나 필요한가
"인터넷의 좋은 텍스트는 거의 다 써버렸다." 몇 해 전만 해도 과장처럼 들리던 이 말은 지금 AI 업계의 기본 전제가 됐다. 모델은 계속 커지는데 새로 긁어올 인간의 글은 그 속도를 못 따라간다. 그래서 요즘 모델들은 일상적으로 합성 데이터, 즉 AI가 만든 글로 학습된다.
문제는 이것을 반복하면 생기는 부작용이다. AI가 만든 글로 다음 AI를 학습시키고, 그 AI가 만든 글로 또 다음 AI를 학습시키기를 되풀이하면, 모델은 원래 데이터가 갖고 있던 다양성을 조금씩 잃고 자기가 만들어낸 좁은 세계로 수렴한다. 복사본의 복사본을 계속 뜨면 화질이 무너지는 것과 비슷하다. 이 현상을 모델 붕괴(model collapse)라고 부른다.
해법 자체는 이미 알려져 있다. 합성 데이터에 신선한 인간 데이터를 섞으면 된다. 남은 질문은 하나다. 얼마나 섞어야 하는가. 9월 16일 arXiv에 올라온 논문이 이 질문을 다룬다.
기존 답이 고차원에서 무너지는 이유
이 질문에 대한 하한선은 이전에도 제시된 적이 있다. 인간 데이터 비율이 최소 얼마 이상이면 학습이 안정된다는 형태의 이론적 경계다.
이번 논문이 지적하는 것은 그 경계가 어떤 자를 대고 잰 값이냐는 문제다. 기존 분석은 유클리드 거리, 즉 우리가 일상에서 쓰는 직선 거리 개념 위에서 이뤄졌다. 그런데 언어 모델이 다루는 대상은 좌표 공간의 점이 아니라 확률분포다. 어휘가 수만 개인 모델이라면 그 확률분포가 사는 공간의 차원도 수만 단위가 된다.
| 항목 | 기존 분석 | 이번 논문 |
|---|---|---|
| 사용한 거리 | 유클리드 거리 | 피셔-라오(Fisher-Rao) 메트릭 |
| 분석 대상 공간 | 일반 좌표 공간 | 확률 단체(simplex), 즉 확률분포의 공간 |
| 고차원에서의 경계 | 사실상 무의미해질 수 있음 | 차원이 커져도 유효 |
유클리드 거리로 재면 차원이 높아질수록 경계가 헐거워져서, 수식은 여전히 참이지만 "인간 데이터가 사실상 전부 필요하다"는 식의 쓸모없는 답을 내놓게 된다. 논문의 표현으로는 경계가 공허해진다(vacuous).
확률분포에는 확률분포의 자가 있다
피셔-라오 메트릭은 확률분포 사이의 거리를 재기 위해 만들어진 도구다. 핵심 직관은 이렇다. 두 분포가 얼마나 다른지는 숫자를 단순히 빼서 잴 것이 아니라, 그 차이를 통계적으로 얼마나 쉽게 구별할 수 있느냐로 재야 한다는 것이다. 이미 확률이 0에 가까운 단어의 확률이 조금 바뀌는 것과, 자주 쓰는 단어의 확률이 같은 폭으로 바뀌는 것은 의미가 전혀 다르다.
저자들은 이 메트릭 위에서 합성 데이터 학습의 동역학을 다시 분석해, 차원이 커져도 무너지지 않는 수축(contraction) 경계와 불변(invariance) 경계를 정량적으로 유도했다. 수축은 반복 학습을 거치며 분포가 얼마나 좁아지는지, 불변은 어떤 조건에서 원래 분포 근처를 벗어나지 않고 머무는지를 각각 말해준다. 결론은 모델 붕괴를 막는 데 실제로 필요한 인간 데이터 비율이 기존에 암시되던 것과 다르다는 것이다.
그래서 진짜 의미하는 것
"그래서 몇 퍼센트인가"를 기대했다면 실망할 수 있다. 이 논문은 이론 논문이고, "인간 데이터 X% 이상을 유지하라" 같은 실무용 숫자 한 개를 주지 않는다. 주는 것은 그 숫자를 제대로 계산할 수 있는 틀이다. 기존 하한이 고차원에서 공허해진다는 지적 자체가 실무적으로 의미가 있는 이유는, 그 하한을 그대로 믿고 데이터 예산을 짰다면 필요 이상으로 보수적이었거나 반대로 안전하다고 오판했을 수 있기 때문이다.
분석은 이상화된 설정 위에서 이뤄진다. 실제 학습 파이프라인에는 데이터 필터링, 중복 제거, 품질 점수, 사람의 선호 학습 같은 장치가 겹겹이 들어간다. 이런 장치들은 그 자체로 붕괴를 늦추는 역할을 하므로, 이론적 비율을 현장의 배합비로 바로 옮기는 것은 무리다.
그럼에도 방향은 분명하다. 합성 데이터는 비용 때문에 쓰는 것이지 좋아서 쓰는 것이 아니고, 인간 데이터 확보는 앞으로 더 비싸진다. 이런 상황에서 "최소한 이만큼은 사람 글이어야 한다"는 선을 어디에 그을지는 학술적 호기심이 아니라 예산 문제다. 한국어처럼 원본 말뭉치 자체가 영어보다 훨씬 적은 언어에서는 이 계산이 더 빨리 절박해진다. 합성 데이터로 양을 불리는 전략이 어느 지점부터 손해로 돌아서는지를 가늠할 도구가 필요하고, 이 논문은 그 도구를 제대로 만드는 쪽에 한 걸음을 보탰다.
출처
Matteo Marchi, João Pedro Silvestre, Bahman Gharesifard, Paulo Tabuada, "Preventing Model Collapse: A Fisher-Rao Perspective on the Dynamics of Training with Synthetic Data", arXiv:2609.18878, 2026년 9월 16일.