이슈 & 트렌드
Home 이슈 & 트렌드
경제, 정치·외교, 사회·문화 등 다양한 분야의 주요 이슈에 대한 동향을 정리하여 제공합니다.
[서구권] 호주전략정책연구소, 중국의 AI 기반 검열·감시 강화 실태 보고
유은영 소속/직책 : EC21R&C 연구원 2025-12-05
자료인용안내
자료를 인용, 보도하시는 경우, 출처를 반드시 “CSF(중국전문가포럼)”로 명시해 주시기 바랍니다.
☐ 호주전략정책연구소(ASPI)는 중국이 AI를 활용해 온라인 검열과 감시를 대폭 강화하고 있다고 보고함. 바이두, 텐센트, 바이트댄스 등 빅테크 기업들이 정부를 대신해 검열 도구를 개발하며, AI는 형사사법 시스템 전반에 통합되고 있음. ASPI는 중국 AI 모델이 강한 검열 기능을 탑재한 채 전 세계로 확산되면서 디지털 권위주의를 강화할 위험이 있다고 경고함.
◦ AI 기반 온라인 검열 및 정보 통제 시스템
- 호주전략정책연구소(Australian Strategic Policy Institute, ASPI)는 최근 중국이 인공지능(AI)을 활용해 온라인 검열과 감시를 대폭 강화하고 있다는 보고서를 발표함. 보고서는 중국 기업 웹사이트, 경찰 발표문, 정부 조달 문서 등 공개 출처 조사를 기반으로 작성됨. 중국은 AI 안전을 "핵심 사회주의 가치 구현과 국가 정치 안정 기여 보장"으로 규정하는데, 이는 유럽과 미국의 기술 안전성·공정성 개념과 근본적으로 상이함. ASPI의 네이선 애트릴(Nathan Attrill) 선임 분석가는 AI가 중국의 기존 통제 시스템을 더 효율적이고 침투적으로 만들고 있다며 "AI 덕분에 중국 공산당은 더 적은 노력으로 더 많은 사람들을 더 면밀히 감시할 수 있게 됐다"고 설명함.
- 중국은 '만리방화벽(Great Firewall)'으로 불리는 인터넷 검열 시스템으로 약 10억 명의 인터넷 사용자를 통제해 왔으나, AI 도입으로 대량 콘텐츠 자동 선별과 정치적 민감 게시물의 도달 범위 축소가 수초 내에 가능해졌음. 시진핑(Xi Jinping) 주석은 11월 중국 공산당 고위 간부 회의에서 AI가 "사이버 공간 거버넌스에 도전 과제를 제시하는 동시에 새로운 지원 방안을 제공한다"고 강조함. ASPI 보고서는 이를 정권의 안정적 유지를 위한 완곡한 표현으로 해석함.
- 바이두(Baidu), 텐센트(Tencent), 바이트댄스(ByteDance) 등 중국 빅테크 기업들은 정부를 대신해 검열 업무를 수행하는 "대리 보안관" 역할을 부여받았음. 텐센트는 메신저 위챗(WeChat)의 지능형 콘텐츠 보안 심사 시스템을 통해 사용자 행동을 분석해 위험도를 점수화하고 여러 플랫폼에 걸쳐 반복 위반자를 추적함. 바이두는 동영상, 이미지, 텍스트의 금지 콘텐츠를 검토하는 맞춤형 검열 도구를 판매하며 100건 이상의 형사 사건에서 정부기관과 협력함. 바이트댄스는 중국 내 서비스인 더우인(Douyin)에서 감정 분석과 추천 알고리즘을 활용해 비판적 콘텐츠를 억제하고 당 노선에 부합하는 내러티브를 확산시킴. ASPI의 베서니 앨런(Bethany Allen) 조사 책임자는 기업들이 검열 도구를 개발하고 판매하도록 유도하는 것은 "권위주의를 위해 시장 원칙을 무기화하는 것"이라고 지적함.
- 중국 정부는 위구르족과 티베트인 감시를 위해 소수민족 언어 기반 대규모 언어 모델(LLM) 개발에 자원을 집중 투입하고 있음. 2023년 설립된 베이징의 소수민족 언어 지능 분석 및 안보 거버넌스 핵심 연구소(Key Laboratory of Ethnic Language Intelligent Analysis and Security Governance)는 몽골어, 티베트어, 위구르어, 한국어 모델을 개발하며 "민족 단결 촉진"과 "여론 분석"을 목적으로 명시함. 캘리포니아대학교 버클리캠퍼스(University of California, Berkeley)의 샤오 치앙(Xiao Qiang) 연구원은 이러한 LLM이 소수민족 커뮤니티의 온라인 활동을 감시하고 이들이 접하는 정보를 조작하는 데 활용될 수 있다고 분석함.
- AI 검열은 아직 완전히 자동화되지 못한 것으로 보임. ASPI가 빅테크 기업들의 채용 공고를 분석한 결과, 풍자 표현 감지, 새로운 은어 추적, 정치적으로 민감한 주제를 우회하는 암호 같은 표현 파악 등을 위해서는 여전히 사람의 판단이 필요한 것으로 나타남. 이에 따라 온라인 검열은 사람과 AI가 협력하는 하이브리드 방식으로 운영되고 있음. 한편, 바이두, 바이트댄스, 텐센트는 해당 이슈에 대한 논평 요청에 응하지 않았음.
◦ 형사사법 및 물리적 감시 시스템의 AI 통합
- ASPI 보고서는 중국에서 AI가 형사사법 시스템(criminal justice system) 전반에 통합되면서 책임 소재의 불명확성과 소수민족 등 특정 집단에 대한 기존 편견 고착화 우려가 제기되고 있다고 지적함. 중국은 전국에 약 6억 대의 감시 카메라를 설치한 것으로 추정되며, 이는 인구 7명당 약 3대에 해당함. 이들 카메라에는 안면인식과 위치추적 등 AI 기능이 점차 탑재되고 있음. 상하이 일부 구역의 문서에 따르면 AI 기반 카메라와 드론이 "자동 발견 및 지능형 법집행"을 수행하도록 계획되며, 군중 집회 감지 시 경찰에 자동 경보하는 기능이 포함됨.
- 중국 최고인민법원은 2025년까지 전국 모든 법원에 "유능한 인공지능 시스템"을 개발하라고 촉구함. 상하이의 한 AI 시스템은 형사 피의자 및 피고인에 대해 판사와 검사에게 체포 또는 집행유예를 권고할 수 있는 것으로 보고됨. 스마트 교도소에서는 안면인식 카메라가 수감자 표정을 모니터링해 분노 표정 포착 시 개입 대상으로 표시하며, 일부 시설은 가상현실(VR) 헤드셋을 통한 AI 보조 치료를 실시함. 보고서는 "AI 기반 감시로 체포되고 AI 보조 법정에서 재판받으며 AI 시스템 권고에 따라 형이 결정되어 스마트 교도소에 수감되는 것이 가능해졌다"고 지적함.
- 상하이 AI 사건 관리 시스템 연구자들은 2025년 학술 논문에서 이러한 시스템의 잠재적 위험을 지적함. 여러 단계의 블랙박스가 생성되는 구조로 인해 피고인이 형량 권고 산출에 사용된 데이터를 파악하기 어렵고 결과에 이의를 제기하기 어려워 "사법 공정성을 훼손할 가능성"이 있다고 경고함. 이러한 기술은 도시를 더 안전하게 만들 수 있지만 정치적 박해에 악용될 수 있음. 99% 이상의 유죄 판결률을 기록하는 중국 법원 시스템에서 위구르족, 티베트인 등 소수민족과 종교적 소수자, 정치 반체제 인사가 더욱 표적이 될 수 있다는 우려가 제기됨.
- 한편, 타이페이(Taipei) 소재 민주주의·사회·신흥기술 연구소(Research Institute for Democracy, Society and Emerging Technology)의 황카이션(Kai-Shen Huang) 연구원은 중앙 정부의 AI 배치 명령으로 지방 관료들이 AI 사용 실적을 과시할 유인을 갖게 되고, 연구자와 기업들은 정부 조달 입찰 선정을 위해 기술 역량을 과장하는 경향이 있다고 지적함. 그는 "R&D 팀이나 대학들이 정부 자금 확보를 위해 현재 AI로는 달성할 수 없는 비현실적 목표를 제시하는 경우가 많다"며 "AI 시스템이라는 외형만 있고 실제 내용은 부실하거나 아예 없는 경우가 상당히 흔하다"고 설명함.
◦ 중국 AI 모델의 해외 확산과 국제적 영향
- ASPI는 바이두 어니봇(Ernie Bot), 알리바바(Alibaba) 큐원(Qwen), 지푸 AI(Zhipu AI)의 GLM, 딥시크(DeepSeek)의 VL2 등 4개 중국 AI 모델을 2019년 홍콩 시위, 천안문 광장 시위 등 정치적으로 민감한 이미지로 테스트함. 중국 개발 모델들이 미국 개발 모델들보다 훨씬 강한 검열 행동을 보였음. 특히 싱가포르에 본사를 둔 추론 제공업체를 통해 접근한 모델에서 민감한 프롬프트에 대해 오류 메시지나 빈 출력을 제공하는 경우가 빈번했음.
- ASPI는 중국 AI가 전 세계적으로 인기를 얻고 있기 때문에 이러한 검열 기능이 더욱 문제라고 지적함. 보고서는 "위협은 노골적인 선전보다는 조용한 삭제에 있으며, 현실을 묘사하는 기계가 현실의 어느 부분을 보여줄지 결정하기 시작할 때 문제가 발생한다"고 경고함. 중국에서는 AI가 이미 온라인 검열의 대부분을 수행하며 방대한 양의 디지털 콘텐츠를 스캔하고 금지 자료를 수초 내에 삭제하고 있음. 샤오 치앙 연구원은 "중국 LLM은 현재 지배적인 오픈 웨이트(open-weights) 모델이며, 많은 국가의 기업과 연구 기관이 저렴하고 무료라는 이유로 중국 모델을 채택하고 있다"고 설명함. 또한 "이러한 모델을 사용하면 근본적으로 중국 플랫폼 위에서 작업하는 것이며, 검열과 감시, 통제, 영향력이 함께 따라온다"고 지적함.
- 보고서는 중국이 AI를 감시뿐 아니라 어업 등 다양한 분야에서 활용하며 글로벌 영향력을 확대하고 있다고 지적함. 화웨이(Huawei) AI 칩을 탑재한 "아오신 1.0(AoXin 1.0)"과 같은 지능형 어업 플랫폼은 오징어 어장에 대한 준실시간 예측을 제공해 4개의 신규 어장을 발견했고 중국 어선의 어획률을 15~20% 향상시키며 최소 80개국 어민의 경제적 권리를 침해하고 있음.
- 중국은 국제 거버넌스 및 표준 기구 참여를 통해 자국의 AI 접근 방식을 글로벌 규범으로 확립하려 시도하고 있음. ASPI는 각국이 "중국의 AI 모델, 거버넌스 규범, 산업 정책이 글로벌 기술 생태계를 형성하고 디지털 권위주의를 강화하는 것을 방지"하기 위해 노력해야 한다고 제안함. ASPI의 퍼거스 라이언(Fergus Ryan) 선임 분석가는 "중국 기업들은 글로벌 야심을 갖고 전 세계에 제품을 수출하고 있어 중국 AI 시스템의 고유한 특성을 검토하는 것이 중요하다"며 "이러한 시스템이 어떻게 형성되고 제약받는지 이해하지 못하면 기술 내부에 숨겨진 검열과 정치적 통제를 수입할 위험이 있다"고 강조함.
[참고 자료]
| 이전글 | 중국, 스테이블코인 ‘불법 금융활동’ 규정하고 단속 강화 | 2025-12-05 |
|---|---|---|
| 다음글 | 中 부동산 시장, 부양책에도 ‘2:8 분화’ 국면 진입 | 2025-12-05 |
