디스코드 ‘격자형 이미지 Child Safety 오탐 정지’ 보고

🚨 정정합니다

이전 글에서 일부 정상 이미지가 자동 탐지 과정에서 잘못 걸릴 수 있다고 설명한 부분은 맞지만, 해당 조치를 "영구" 정지처럼 표현한 부분은 정확하지 않았습니다.

디스코드 직원으로 알려진 Advaith의 설명에 따르면 이번 사례는 AI 문제가 아니라 문제가 된 해시와의 오탐(탐지 오류)였고, 문제가 된 해시를 덮어쓰기했다고 설명했습니다. 또한 관련 제한은 수동 검토 전까지 적용되는 "임시" 조치입니다.

정정 내용 참고자료
this is misinformation. this has nothing to do with AI...
yes, when we saw this yesterday we found the problematic hash...
업데이트: 26/07/06 04:16 PM

추가 공식 설명

Discord Support 공식 X 계정은 지난 주말 안전 시스템이 잘못 작동해 약 200개 계정이 정지됐고, 2026년 5월부터 지난주까지는 약 8,200개 계정이 같은 버그의 영향을 받았다고 밝혔어요.

설명에 따르면 디스코드의 시스템은 알려진 유해 콘텐츠와의 유사도 매칭으로 이미지를 플래그할 수 있으며, 이런 방식에서는 오탐이 생길 수 있어요. 원래는 Trust & Safety 팀의 검토가 끝날 때까지 업로드만 일시 중지되어야 했지만, 버그로 계정 정지가 발생했고 검토 후에도 자동으로 해제되지 않는 문제가 있었다고 설명했습니다.

따라서 소문으로 퍼진 “격자 이미지를 올리면 '영구' 정지된다”는 표현은 정확하지 않고, 공식 설명 기준으로는 영향을 받은 계정은 현재 모두 복구됐으며 재발 방지를 위한 조치가 진행 중인 상태예요.

공식 설명 참고 자료
This weekend, our safety systems incorrectly triggered and banned...
업데이트: 26/07/07 03:38 PM

📌 핵심 결론

최근 해외 커뮤니티에서 체스판, 워들, 파일 목록처럼 격자나 반복 패턴이 포함된 이미지를 보낸 뒤 계정이 Child Safety 사유로 정지됐다는 보고가 이어졌어요.

처음에는 일부 사용자들이 이를 “AI가 격자 이미지를 CSAM으로 잘못 판단한 것 아니냐”고 추정했지만, Discord 직원으로 알려진 Advaith는 X에서 “AI와 관련된 문제가 아니며, 일부 오탐(탐지 오류)가 있었고 수동 검토 전까지 임시 정지되는 것”이라고 설명했습니다. 이후 문제가 된 해시를 찾아 엎어쓰기했기 때문에 추가로 플래그될 일은 없을 것이라고도 밝혔어요.

💬 빠른 요약

• 이번 사례는 “격자 이미지 전체가 위험하다”기보다는, 특정 해시가 정상 이미지와 잘못 매칭된 오탐 사례로 보는 편이 더 정확해 보여요.

• Advaith의 설명에 따르면 관련 정지는 영구 확정이 아니라, 수동 검토 전까지 임시로 적용되는 조치라고 합니다. 다만 이 설명은 공식 블로그나 지원 문서가 아니라 직원 개인 계정의 공개 답변이므로, 정식 사고 보고서와 같은 수준으로 보기는 어렵습니다.