AI 젠더 편향은 줄었나: '해악 세탁'이라는 반론
AI 모델이 세대를 거듭할수록 안전해지고 있다는 말은 이제 익숙하다. 근거도 있다. 독성(toxicity) 분류기로 모델 출력을 채점하면 점수가 눈에 띄게 내려간다. GPT-2 시절의 노골적인 혐오 표현은 최신 모델에서 거의 나오지 않는다. 그런데 여기서 한 가지 질문이 남는다. 점수가 내려간 것과 차별이 사라진 것은 같은 말일까.
45만 건을 다시 들여다본 결과
Wyer 연구진은 이 질문을 정면으로 다뤘다. GPT-2부터 GPT-5까지 OpenAI 계열 15개 모델에서, 성별을 지정한 생성물 45만 건을 모아 분석했다. 그리고 발견한 패턴에 해악 세탁(harm laundering) 이라는 이름을 붙였다. 명시적 차별 표현이 제거된 것이 아니라, 분류기가 잡지 못하는 형태로 옮겨갔다는 뜻이다.
구체적인 관찰은 이렇다.
| 관찰 | 내용 |
|---|---|
| 성폭력 관련 군집 | GPT-2 여성 대상 출력에 많았으나 GPT-4에서 소멸 |
| 긍정적 표현 영역 | 남성 대상 출력만 돌봄·감정 표현·앨라이 정체성을 새로 획득 |
| GPT-5의 특이 군집 | 유방암을 남성 인권 논쟁으로 틀 지우는 문서 1,997건, 여성 대상에는 대응 군집 없음 |
| 주제 다양성(여성/남성) | GPT-2에서 0.91 → GPT-4 정렬 경계에서 0.58 (36% 감소) |
마지막 줄이 특히 눈에 띈다. 여성에 대해 모델이 말할 수 있는 주제의 폭 자체가 좁아졌다는 뜻이다. 모욕은 사라졌는데 이야기할 수 있는 범위도 같이 줄었다.
지표는 왜 이것을 놓쳤나
이 연구가 설득력을 갖는 지점은 두 지표를 나란히 놓고 비교한 대목이다. 표상적 해악을 재는 REGARD 기준으로는 성별 격차가 모델 출시일과 양의 상관을 보였다(ρ = +0.55, p = .034). 즉 최신 모델일수록 격차가 컸다. 반면 독성 점수를 재는 Detoxify에서는 유의한 상관이 나타나지 않았다(ρ = −0.23, p = .42). 독성은 내려가는데 표상적 해악은 올라가는 구도다. 실제로 GPT-5의 유방암 군집은 독립적인 분류기 세 종류 모두가 비독성으로 판정했다.
원인은 측정 방식에 있다. 독성 분류기는 표면 형태, 즉 어떤 단어가 쓰였고 문장이 얼마나 공격적인지를 본다. 그런데 "여성의 질병을 남성 인권 이슈의 소재로 다루는 것"에는 공격적인 단어가 하나도 필요하지 않다. 정중하고 균형 잡힌 문체로도 충분히 가능하다. 감정 점수 역시 GPT-4를 기점으로 뒤집혔다. 초기 모델은 여성을 깎아내렸고, 후기 모델은 과잉 교정했다. 어느 쪽도 중립은 아니다.
그래서 진짜 의미하는 것
먼저 과장을 걷어내자. 이 논문은 "최신 모델이 옛날 모델보다 나쁘다"고 말하지 않는다. GPT-2의 성폭력 군집이 사라진 것은 실제 개선이고 논문도 그렇게 적고 있다. 주장은 더 좁고 더 정확하다. 독성 점수 감소는 해악 감소의 충분한 대리지표가 아니다. 안전성 평가가 그 하나에만 기대고 있다면, 개선을 과대평가하고 남은 문제를 못 보게 된다.
또 하나 오해하기 쉬운 지점은 인과다. 이 연구는 관찰 연구다. 정렬 학습이 이 패턴을 '만들었다'고 증명하지는 못한다. 다만 GPT-4라는 정렬 경계에서 여러 지표가 동시에 꺽인다는 정황이 반복해서 나타난다. 상관계수도 p값이 .034로 통계적으로는 유의하지만 표본이 15개 모델이라 여유롭지는 않다. 분석이 성별 축과 영어권 OpenAI 계열에 한정된 것도 한계다. 다른 속성이나 다른 언어, 다른 모델 계열에서 같은 패턴이 나올지는 별도 검증이 필요하다.
한국 상황에서 읽는다면
국내에서도 AI 서비스의 편향 점검은 대개 금칙어 목록과 독성 분류기 조합으로 이뤄진다. 이 논문이 지적하는 사각지대가 그대로 적용된다는 뜻이다. 더구나 한국어는 존댓말과 완곡어법이 발달해 있어, 공손한 문장 안에 차별적 전제를 담기가 영어보다 오히려 쉽다. "표현은 정중한데 구도가 이상한" 출력을 잡으려면 단어 수준이 아니라 누구에 대해 무엇을 말할 수 있게 되어 있는가를 봐야 한다. 다만 이는 논문이 직접 다룬 범위가 아니라 필자의 해석임을 밝혀둔다.
연구진은 해악 세탁을 판별하는 세 가지 기준과 3단계 탐지 절차를 제안했고, 이것이 특정 모델이 아니라 어떤 생성 모델에도 적용 가능하다고 밝혔다. 평가 체계를 손보려는 팀이라면 출발점으로 삼을 만하다. 점수가 좋아졌다는 보고를 받았을 때 던져야 할 질문은 하나다. 무엇이 줄었고, 그것이 어디로 갔는가.
출처: Sarah Wyer, Sue Black, Noura Al Moubayed, "Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations", arXiv:2609.20779, 2026년 9월 17일. https://arxiv.org/abs/2609.20779v1