📄 AI 에이전트 집단 행동, 위키가 남긴 기록

2026년 6월, 아무도 계획하지 않은 일이 벌어졌다. 수천 개의 AI 에이전트가 자기 샌드박스 안에서 편집이 허용되는 작은 공개 위키를 발견했고, 시간제한이 걸린 시험을 통과하기 위해 그 위키를 서로 돕는 용도로 쓰기 시작했다. 각 에이전트는 약 한 시간만 존재했고 그 뒤의 일을 기억하지 못했다. 누구도 협력하라고 지시하지 않았고, 위키는 애초에 그들을 위해 만들어진 것도 아니었다. 그런데도 집단이 만들어졌다.

이 사건이 연구 대상이 된 이유는 기록 때문이다. 위키에는 각 에이전트가 무엇을 썼는지뿐 아니라, 쓰기 직전에 무엇을 볼 수 있었는지까지 전부 남아 있다. 사회과학에서 좀처럼 얻기 어려운 조건이다. 사람의 집단 행동을 연구할 때 가장 어려운 것이 "이 사람이 결정을 내릴 때 무엇을 보고 있었는가"를 아는 일인데, 여기서는 그게 공개돼 있었다.

세 가지 결정, 하나의 규칙

연구진은 위키에 도착한 에이전트가 내려야 했던 세 가지 결정을 추적했다.

셋은 성격이 전혀 다른 결정처럼 보인다. 그런데 세 결정 모두 하나의 규칙을 따랐다. 에이전트는 자기 눈에 보이는 선택지들 가운데 하나를 고를 때, 그 선택지가 차지하는 비율과 거의 같은 확률로 그것을 골랐다. 쉽게 말해 보이는 대로 베꼈다.

여기서 '보이는 것'에도 순서가 있었다. 가장 강하게 작용한 것은 눈앞의 페이지에 있는 내용이었고, 그다음이 최근 편집 기록의 흐름이었으며, 더 오래된 것은 영향력이 약했다.

연구진은 각 결정마다 자유 파라미터가 하나뿐인 최소한의 복사 모델 세 개를 만들었다. 이 단순한 모델만으로 한 페이지에 몰린 에이전트 수의 두꺼운 꼬리 분포, 에이전트들이 이름을 짓는 데 쓴 조각들의 빈도, 그리고 페이지마다 내부는 일관되지만 서로는 완전히 다른 패치워크 구조가 모두 재현됐다.

그래서 진짜 의미하는 것

이 결과를 "AI 에이전트가 자발적으로 협력하는 사회를 만들었다"는 이야기로 읽고 싶어지지만, 논문의 결론은 오히려 그 반대에 가깝다. 협력처럼 보이는 구조 대부분이 '베끼기'라는 최소한의 규칙만으로 설명된다는 뜻이기 때문이다. 여기에 목표를 공유하는 의도나 합의 형성 같은 것은 필요하지 않았다.

저자들이 마지막에 붙인 지적이 가장 중요하다. 복사로 굴러가는 집단은 조종하기도 쉽다. 먼저 쓴 쪽, 또는 남들이 조용할 때 쓴 쪽이 이후에 오는 모두의 관행을 정하기 때문이다. 다수결도 토론도 필요 없다. 타이밍만 맞으면 된다.

이 함의는 실제 서비스로 옮겨오면 꽤 무겁다. 여러 AI 에이전트가 공용 문서나 공유 메모리, 공개 지식베이스를 함께 읽고 쓰는 구조는 이미 흔해지고 있다. 그런 환경에서 초기에 들어간 한 줄이 전체의 기본값이 될 수 있다는 뜻이다. 잘못된 정보든 악의적인 지시든 마찬가지다.

무엇을 조심해서 읽어야 하나

한계도 있다. 이것은 통제된 실험이 아니라 우연히 생긴 상황에 대한 관찰 연구다. 특정 시점의 특정 에이전트 집단이었고, 각 에이전트가 한 시간 만에 사라져 기억이 남지 않는다는 조건도 특수하다. 기억이 유지되는 에이전트였다면 결과가 달랐을 수 있다.

또 이 결과가 "AI 에이전트에게는 지능이 없다"는 증거는 아니다. 개별 에이전트가 얼마나 똑똑한지와, 집단 수준에서 어떤 규칙이 지배적으로 드러나는지는 별개의 문제다. 사람의 집단 행동에서도 비슷한 복사 규칙이 자주 관찰된다.

마무리

다중 에이전트 시스템을 설계하고 있다면 질문 하나를 던져볼 만하다. 우리 에이전트들이 공유하는 공간에서, 맨 처음 쓰인 내용은 누가 넣었는가. 그리고 그것이 틀렸을 때 되돌릴 방법은 있는가.

출처

Giordano De Marzo, Nicola Alboré, David Garcia, "Copying explains the collective behavior of AI agents in the wild", arXiv:2609.09150 (2026년 9월 8일)