CSF 중국전문가포럼

중국 빅테크의 알고리즘에 대한 규제의 배경과 의미

이중희 소속/직책 : 부경대 중국학과 교수 2023-02-15

인쇄

세계 최초의 알고리즘 규제 규정

중국의 국가인터넷정보판공실(国家互联网信息办公室) 등이 제정한 세계 최초의 규제 규정이 2022년 3월에 시행됐다. 이는 빅테크 기업의 알고리즘을 규제할 수 있는 <인터넷 정보 서비스 알고리즘 추천 관리 규정(互联网信息服务算法推荐管理规定)>(이하 알고리즘 규정)이다. 다른 나라의 빅테크 기업의 알고리즘은 기업이 공개하기를 꺼리는 플랫폼의 영업비밀로 간주되어왔다는 점에서 주목할 만한 규정이다. 작년 8월 국가인터넷정보판공실은 <알고리즘 규정>에 의거해서 빅테크의 30개의 알고리즘에 대한 등록을 공지했다(이중희, 2022a:35-6). 이어 <알고리즘 규정>에 의한 쇼트비디오 플랫폼 알고리즘 침해 분쟁 사건과 빅데이터 고객 차별 1차 사건 등에 대한 사법처리도 있었다(新浪科技, 2023). 그 밖에도 2022년부터 연이어 알고리즘에 대한 각종 입법, 법 집행 감독, 사법 조치가 있었다. 이 글은 2022년부터 본격적으로 시작된 빅테크 알고리즘 규제의 의미를 분석하기 위해 규제의 배경, 내용, 전체 빅테크 규제에서의 의미 등을 본다.

알고리즘 규제의 배경

중국은 이미 2020년 말부터 빅테크에 대한 고강도 규제에 나섰다(이중희, 2022b). 처음에 규제는 반독점, 국가 안보, 데이터 독점 등을 대상으로 했다. 다시 말하면 양자택일 등의 반독점 문제, 데이터 독점에 따른 시장 질서 교란, 데이터 해외 반출 등의 국가안보 문제 등을 제재 대상으로 했다. 2022년에 접어들면서 중국은 보다 규제를 체계적이고 세밀한 방향으로 진행하고 그에 따른 규제 거버넌스를 확립하는 방향으로 설정했다. 알고리즘에 대한 규제는 체계적이고 세밀한 규제의 대표적 사례이다. 이런 배경은 중국의 알고리즘에 대한 규제가 다른 나라보다 빠르고 고강도인 이유를 설명한다.

한편 세계적으로 알고리즘을 둘러싸고 빅테크와 국가·소비자 간의 갈등이 존재하는데 이에 대해 두 가지 시각이 존재한다. 하나는 알고리즘이 기업의 영업비밀이기 때문에 침해할 수 없는 기업의 고유권한이라는 시각이다. 다른 하나는 알고리즘도 사회·국가 안전과 개인의 권익을 침해할 수 있기 때문에 적극 규제해야 한다는 시각이다. 중국의 경우 압도적인 국가 우위의 상황에서 국가안보와 개인권익보호의 명목으로 국가가 적극적으로 빅테크를 통제하고 있다. 아울러 중국의 경우 다른 나라에 비해 알고리즘의 부작용이 크다는 징후도 보인다. 2019년 베이징 소비자 협회의 조사가 이를 뒷받침한다. 이 조사에 따르면 응답자의 56.92%가 알고리즘에 의한 ‘기존 고객 차별’(杀熟)을 당한 경험이 있다고 했다. 또 알고리즘의 기존 고객차별 현상이 매우 일반적이라고 생각하는 응답자는 무려 88.32%에 이르렀다(人民资讯, 2022; 이중희, 2022a에서 재인용).

알고리즘의 문제점

알고리즘은 어려운 개념이다. 여기서는 간단하게 빅데이터를 기초로 어떤 출력을 내기 위해 규칙들에 의거해서 여러 단계의 컴퓨팅을 거치는데 이 규칙들을 알고리즘이라 한다(이중희, 2022a). 플랫폼은 알고리즘을 통해 ‘사람이 정보를 찾다’에서 ‘정보가 사람을 찾다’로 전파 패러다임의 전환을 실현했다. 알고리즘은 긍정적 기능도 많다. 예컨대 정보를 취득하는 시간과 비용을 줄여줌으로써 사용자에게 긍정적 역할을 한다(陆绮雯·许鑫, 2023; 余丽, 2023).

하지만 알고리즘은 사용자에게는 정보고치방(信息茧房)과 고객차별(杀熟) 등의 문제가 있고, 국가 입장에서는 사회 불안이라는 문제점도 있다. 사용자 입장에서 알고리즘의 대표적인 문제는 고객차별이다. 여기서는 실제 분쟁사례를 소개한다. ‘후 씨 대(对) 모 상무 유한회사 침해 책임 분쟁 사건’이 소개할 사례이다. 이 사건은 ‘신시대 법치 추진 2022년도 10대 사건’ 중 하나로 선정될 정도로 의미 있는 사건이었다. 사건의 발단은 2020년 7월, 후 씨라는 고객이 평소처럼 앱을 통해 저우산(舟山) 힐튼 호텔의 대형 침대 방을 2,889위안에 예약했지만, 호텔을 나서면서 후 씨는 호텔 실거래가가 1,378위안에 불과하다는 사실을 우연히 알게 됐다. 알고리즘에 의한 기존 고객 차별인 것이다. 2022년 재판 결과는 피고인 모 상무 유한회사가 원고인 후 씨에 구매금액의 3배를 배상하라는 것이었다(浙江天平, 2022). 알고리즘은 국가의 입장에서도 국가 안보나 사회 불안을 야기하는 부정적 정보를 생산·유통하는 것이 문제가 된다(张亭, 2022).

알고리즘 관련 규제의 내용

<표1>은 2022년도 알고리즘 관련 주요 입법·집행·사법 사항을 보여주는 표이다. 이 표에 있는 <인터넷 정보 서비스 알고리즘 추천 관리 규정>은 필자가 내용을 분석한 결과, 국가는 알고리즘 추천 서비스 제공자에게 국가 안보와 사회 안정을 위한 의무를 명확히 규정하고 있음을 알 수 있다. 아울러 국가는 알고리즘 제공자가 각종 사용자(소비자)의 권익을 침해하지 않도록 규정으로 보장하고 있다. 이후 <알고리즘 규정>에 따라 인터넷 정보 서비스 알고리즘 등록 시스템이 실시됐다. 텐센트, 타오바오, 바이두, 더우인, 메이퇀 등의 거대 플랫폼이 총 30개의 알고리즘을 등록했다. 등록된 알고리즘의 범주로는 개인화된 푸시, 검색 및 필터링, 정렬 및 선택, 스케줄링 및 의사결정, 합성 유형이 포함된다(澎湃新闻, 2022; 이중희, 2022a:45에서 재인용).

요약컨대 국가의 입장에서는 알고리즘으로 인한 국가 안보와 사회 안정을 해칠 수 있는 점을 우려할 뿐만 아니라 지지기반으로서 사용자(소비자)를 최소한으로는 보호해야 할 이유가 있다. 다시 말하면 국가는 ‘알고리즘이 선택’에서 ‘알고리즘을 선택’으로 전환하자는 것이다. 이는 알고리즘이 주체가 아니라 객체로 전환하는 것을 의미한다. 즉 알고리즘이 통제하는 사회로부터 국가가 알고리즘을 통제하는 사회로의 전환이 국가의 목표이다.

빅테크에 대한 규제의 방향과 전망: 체계적·세밀한 규제로

마지막으로 알고리즘 관련 규정, 감독, 사법처리 등이 빅테크에 대한 규제에서 의미하는 바를 보자. <알고리즘 규정>을 포함한 제반 규제는 빅테크에 대한 규제가 거친 방식에서 보다 체계적이고 세밀한 방향으로 진행되고 있음을 의미한다(이중희, 2021a, 2022a).

2022년 3월 <알고리즘 규정>이 시행되기 전에 이미 상위법이 시행되거나 개정되고 있다는 점이다. 2021년에 <데이터보안법>과 <개인정보보호법> 등이 시행됐으며, 이미 시행되고 있는 <반독점법>도 개정되고 있었다. 또한 주요 빅테크에 대한 사법처리도 일단락됐다는 점이다. 알리바바에 대한 제재조치가 2021년 4월, 메이퇀은 2021년 4월에 일단락됐다. 디디추싱도 2021년에 조사 착수됐다.¹⁾

2022년부터 국가는 빅테크에 대한 규제를 굵직한 이슈로부터 보다 체계적이고 세밀한 방향으로 진행했으며 적절한 거버넌스에 관심을 두었다.²⁾ 2022년의 <알고리즘 규정>, <심층합성관리규정> 등과 관련한 사법적 처리가 이러한 배경에서 진행됐다는 점을 다시 강조한다. 향후 중국에서 빅테크에 대한 규제는 알고리즘 영역처럼 보다 세밀한 영역에서 체계적으로 진행될 것으로 보인다.

----

1) 개정 <반독점법>은 2022년 8월에 시행됐다. 디디추싱도 2022년 7월에 제재조치가 일단락됐다.

2) 2020년 말부터 시작된 빅테크에 대한 고강도 규제과정에서 관련 기관 간에 경쟁이 치열해지고 여러 가지 부작용이 노정됨으로써 빅테크 규제의 거버넌스 구축이 필요하다는 논의가 진행됐다(이중희, 2022b).

<참고문헌>

이중희, 2021a, "중국의 거대 플랫폼에 대한 반독점과 데이터 독점 규제: 알리바바 사례를 중심으로," 『아시아연구』 24(4), 한국아시아학회

이중희, 2022a, “중국 빅테크 기업의 알고리즘에 대한 규제연구: 알고리즘이 통제하는 사회에서 국가가 알고리즘을 통제하는 사회로?” 『 아시아연구』 25(4), 한국아시아학회

이중희, 2022b, “중국의 빅테크에 대한 국가전략의 변화: 고강도 규제에서 체계적 규제로,” 『동북아문화연구』제72집, 동북아시아문화학회

新浪科技, 2023-01-18, 2023预见AI①丨AI时代的算法治理：呼唤多领域规则供给，注重分类分级治理机制落地

人民资讯, 2022-01-24, 算法歧视的表现、成因与治理策略

浙江天平, 2022-12-21, 大数据杀熟第一案”参选“新时代推动法治进程2022年度十大案件

陆绮雯·许鑫, 2023-01-09, 产业与治理｜破解信息茧房，优化互联网信息服务算法推荐

余丽, 2023-01-30, 半月谈丨防范算法世界政治霸权, 新华社客户端