📄 AI 가짜뉴스 판별, 거짓말보다 어려운 건 생략이다
틀린 말은 없는데, 왜 오해하게 될까
뉴스나 발표문을 읽고 나서 "사실관계는 다 맞는 것 같은데 뭔가 이상하다"고 느낀 적이 있을 것이다. 우리가 아는 팩트체크는 대체로 "이 주장은 사실이다, 거짓이다"라는 이분법으로 답한다. 그런데 실제로 사람을 오해하게 만드는 문장은 대개 거짓이 아니다. 맞는 사실만 골라 쓰고, 불리한 맥락은 빼고, 숫자를 유리한 기준으로 배치한다. 최근 arXiv에 공개된 RCMN 논문은 바로 이 빈틈을 정면으로 다룬다.
오도를 다섯 조각으로 쪼개다
RCMN은 Reader-Centric Misleadingness Understanding, 우리말로 옮기면 "독자 중심 오도성 이해"다. 이름이 말해주듯 기준을 문장이 아니라 독자에 둔다. "이 문장이 참인가"가 아니라 "이 문장이 독자에게 무엇을 하는가"를 묻는 것이다. 논문은 오도성을 다음 다섯 개 차원으로 나눠 측정한다.
| 차원 | 무엇을 보는가 |
|---|---|
| 오도 메커니즘 | 어떤 방식으로 오해를 유발했는가 |
| 독자의 예상 해석 | 보통의 독자가 실제로 어떻게 받아들일까 |
| 근거상 정당한 해석 | 증거만 놓고 보면 어디까지 말할 수 있나 |
| 정서적 각성 | 분노나 공포 같은 감정을 얼마나 자극하는가 |
| 소통 의도 | 전달하는 쪽이 무엇을 노렸는가 |
이 중 핵심은 두 번째와 세 번째의 간격이다. 보통의 독자가 실제로 받아들이는 해석과, 제시된 증거가 정당화하는 해석 사이의 거리가 곧 오도의 크기다. 거짓말 여부를 묻지 않고도 오도를 잴 수 있는 이유가 여기에 있다.
가장 흔한 오도는 날조가 아니었다
저자는 이 틀로 영향력 있는 공개 담론을 모아 근거 기반 데이터셋을 구축했다. 결과는 상식과 크게 어긋나지 않으면서도 시사적이다. 가장 흔한 오도 방식 상위권을 차지한 것은 없는 사실을 지어내는 날조가 아니라 근거 없는 추론, 과장, 생략이었다. 게다가 이런 사례들은 높은 정서적 각성, 그리고 왜곡적 소통 의도와 함께 나타나는 경우가 잦았다. 감정을 크게 흔드는 글일수록 사실관계보다 "빠진 것"을 봐야 한다는 뜻이다.
모델은 결과는 맞혔지만 과정은 못 짚었다
논문은 이어서 최신 생성 모델 5종에 같은 판단을 시켰다. 조건은 일부러 빈약하게 뒀다. 풍부한 맥락이나 멀티모달 자료 없이, 주장과 최소한의 맥락만 담은 가벼운 표현만 준 것이다. 결과는 뚜렷하게 갈렸다.
- 독자가 어떤 해석을 형성할지 예측하는 일: 이 정도 정보만으로도 상당 부분 복원됐다.
- 그 오도가 어떤 방식으로 만들어졌는지 짚어내는 일: 훨씬 어려웠다. 정리하면 모델은 "사람들이 이걸 이렇게 오해하겠구나"는 대체로 맞히지만, 그 오해가 생략 때문인지 과장 때문인지는 잘 구분하지 못했다.
그래서 진짜 의미하는 것
첫째, "AI로 가짜뉴스를 잡는다"는 기대치를 조정할 필요가 있다. 이 논문이 보여주는 것은 결과 예측과 원인 규명의 난이도가 다르다는 점이다. 오해가 생긴다는 사실을 감지하는 것과, 그 오해가 어떻게 설계됐는지를 설명하는 것은 별개 문제이고 후자가 훨씬 어렵다. 자동 판별기를 붙였다고 해서 "왜 문제인지"까지 설명해 줄 것이라 기대하면 실망하기 쉽다.
둘째, 그럼에도 실용적인 여지는 있다. 가벼운 표현만으로 독자 해석 예측이 어느 정도 된다는 것은 대규모 1차 선별에 쓸 수 있다는 뜻이다. 모든 문서에 값비싼 전체 맥락 분석을 돌리는 대신, 가볍게 훑어 의심스러운 것만 추린 다음 사람이 들여다보는 구조가 현실적이다.
셋째, 과장은 경계해야 한다. 이 연구는 단독 저자 논문이고, 공개된 초록만으로는 데이터셋 규모와 대상 언어가 확인되지 않는다. 한국어 뉴스나 국내 정치 담론에 그대로 통한다는 근거는 아직 없다. "AI가 교묘한 오도까지 잡아낸다"는 식의 요약은 논문이 실제로 말한 것보다 한참 앞서간 이야기다. 논문의 결론은 오히려 그 반대에 가깝다. 메커니즘을 제대로 이해하려면 더 풍부한 맥락과 증거 기반이 필요하다는 것이다.
마무리
RCMN의 기여는 새 모델을 만든 데 있지 않다. "거짓인가"라는 질문을 "무엇을 하게 만드는가"로 바꿔 놓은 데 있다. 이 전환은 사람이 글을 읽는 방식에도 그대로 적용된다. 감정이 크게 움직이는 글을 만났을 때 "이 중에 틀린 말이 있나"보다 "여기서 빠진 게 뭐지"를 먼저 묻는 편이 낫다. 아직 모델이 잘 해내지 못하는 일이 정확히 그것이기 때문이다.
출처: Peiling Yi, "RCMN: Understanding Misleadingness in Influential Public Discourse", arXiv:2608.27358, 2026년 8월 27일.