지금까지 중국은 테크기업에 대해서 규제와 발전이라는 두 개의 강조점 가운데 때로는 규제를 강조하다가, 때로는 발전을 강조해왔다. 좀 더 정확히 말하면 2020년 후반부터 규제를 강조하다가 2022년 말에는 중국 경제의 침체와 미중패권기술경쟁으로 인해 발전을 강조하는 방향으로 선회했다. 이러한 추세는 각종 최근 규정에도 나타난다. 중국의 최근 <생성형 인공지능 서비스 관리 잠정방법(生成式人工智能服务管理暂行办法)>도 발전을 강조하는 방향의 선상에 있다고 보면 틀림없다. 

전 세계적으로 생성형 인공지능이 급속히 발전하는 가운데 중국의 생성형 인공지능도 급속히 발전하고 있다.¹⁾ 첨단 반도체와 함께 인공지능은 미중 기술패권 경쟁의 핵심 기술이라고 한다. 이런 배경에서 중국에서 8월 15일부터 <생성형 인공지능 서비스 관리 잠정방법>이 시행됐다. 간략한 제정과정을 보면 먼저 4월 11일에 <생성형 인공지능 서비스 관리 방법(生成式人工智能服务管理办法; 의견수렴초안)>이 발표됐다(이중희 2023). 이후 의견 수렴 과정을 거쳐서 최종안인 <생성형 인공지능 서비스 관리 잠정방법>이 7월 13일에 공포됐고 8월 15일에 시행됐다.²⁾ 전술한 것처럼 <방법>도 최종 확정될 때까지 규제와 발전이라는 두 가지 핵심 축을 오고 갔다.

정의와 국가 목표

쟁점을 보기 전에 몇 가지 정의를 보자. 먼저 <방법>의 제22조 제1항은 생성형 인공지능 기술을 “텍스트, 사진, 오디오, 비디오 및 기타 콘텐츠를 생성할 수 있는 모델 및 관련 기술”로 정의한다. 제2항은 생성형 인공지능 서비스 제공자는 “생성형 인공지능 기술을 사용하여 생성형 인공지능 서비스를 제공하는 조직 및 개인(프로그래밍 가능한 인터넷페이스 제공 등 포함)”으로 정의한다. 제3항은 생성형 인공지능 서비스 사용자는 “생성형 인공지능 서비스를 사용해 콘텐츠를 만들어내는 조직 및 개인”으로 정의한다. 

다음으로 국가 목표 관련 조항을 <의견수렴초안>과 비교해보자. 국가 목표와 관련된 제4조의 내용에 대해서는 중국체제의 특성상 당연히 크게 논란이 되지 않았다(이중희 2023). <의견수렴초안>과 최종 <방법>은 제4조의 국가 목표에서 거의 동일하다. 최종 <방법>도 제4조 제1항에서 “인공지능의 서비스”는 “사회주의 핵심가치관을 견지하고 국가 정권의 전복, 사회주의제도의 전복, 국가의 안전과 이익을 해치고 국가 이미지를 손상시키고 분단 국가를 선동하며 국가의 통일과 사회 안정을 파괴...”라고 하여 체제 불안정을 야기하는 내용을 생성해서는 안 된다는 내용을 갖고 있다. 또 제4조 제2항에서 “알고리즘 설계, 훈련 데이터 선택, 모델 생성 및 최적화, 서비스 제공 등의 과정에서 민족, 신앙, 국가, 지역, 성별, 연령, 직업 및 건강과 같은 차별을 방지하기 위한 효과적인 조치를 취해야 한다.”고 하고 있다. 또 제4조 제3항에서 “지적 재산권과 기업 윤리를 존중하고 영업 비밀을 유지하며 알고리즘, 데이터, 플랫폼 및 기타 이점을 활용하여 독점 및 부정 경쟁을 구현해서는 안 된다.”고 하고 있다(百度百科 2023). 

하지만 <의견수렴초안>의 제4조 제4항에 대해서는 논란이 됐다. 제4조 제4항에서는 “생성형 인공지능을 사용하여 생성된 내용은 사실이고 정확해야 하며 허위 정보의 생성을 방지”해야 한다고 한다. 하지만 최종 <방법>에서는 이 조항이 삭제됐다. 제공자의 부담을 줄이는 방향으로 규제와 발전 가운데 발전을 강조한 것으로 볼 수 있다. 이에 대해서는 <쟁점 1>에서 다룬다. 그럼 최종 <방법>을 <의견수렴초안>과 비교하면서 두 가지 쟁점을 소개한다.

쟁점 1: 생성형 인공지능 서비스 제공자의 책임이 과다하다는 주장

가장 쟁점이 되는 부분은 제공자의 책임을 어느 정도 수준으로 정하느냐의 문제다. 제공자에게 콘텐츠 생산자로서의 책임을 많이 부과할수록 규제의 강도는 높아지고 제공자의 생성형 인공지능에 대한 개발 의지는 약화될 수 있다. <의견수렴초안>은 의견수렴과정에서 생성형 인공지능 서비스 제공자에 대한 요구가 비교적 엄격하다고 보는 견해가 지배적이다. 대표적으로 <의견수렴초안>의 다음 사항이 그렇다. 첫째, 전술한 것처럼 <의견수렴초안>의 제4조에 “생성된 내용이 사실이고 정확해야”한다는 규정이다. 둘째, <의견수렴초안>의 제15조에는 요구사항에 부합하지 않은 생성 콘텐츠에 대해 콘텐츠 필터링이나 여타 조치를 시행하는 것 외에도 “3개월 이내에” 모델  최적화 교육 및 기타 방법을 통해 재생성을 방지해야 한다는 규정이다. 셋째, <의견수렴초안>의 제5조는 ‘제공자’에게 ‘콘텐츠 생산자’의 책임을 부과한다고 하고 있다(이중희 2023:62).

<방법>에서는 이런 규정이 삭제됐다. 삭제한 이유는 인공지능은 도구일 뿐이며, 생성된 내용에 대해 생성형 인공지능 서비스 제공자에게 과다한 책임을 지도록 요구하는 것이 공평하지 않다는 것이다. 둘째의 경우는 “3개월 이내에”라는 문구를 삭제함으로써 제공자의 책임을 줄였다는 점에서 크게 설명할 내용이 없다. 여기서는 첫째와 셋째를 자세히 보자. 

첫째의 경우, 삭제한 이유는 “언어모델의 추론 생성과정 자체가 일정한 확률과 창의성을 가지고 있어 생성 결과의 정확성과 안정성을 완전히 보장할 수 없기” 때문이다(이중희 2023:61). 또한 생성형 인공지능 기술은 인간의 업무나 생활을 보조하는 것으로 보아야 하며, 인간의 결정을 대신하는 것이 아니다. 법률 및 의료와 같은 전문 질의·응답에서 생성형 인공지능은 몇 가지 보조 답변을 제공할 뿐이다. 인공지능의 답변의 진실성과 정확성에 대해 책임을 지도록 하는 것은 비현실적이며 인공지능의 발전을 촉진하지 않는다(澎湃新闻 2023-09-06). 

셋째의 경우, <의견수렴초안>은 ‘제공자’에게 ‘콘텐츠 생산자’의 책임을 부과하는데 인공지능 콘텐츠에 대한 모든 책임을 제공자 측에 지우는 것은 제공자의 책임이 너무 과다하다는 시각으로 인해 <방법>에서는 ‘콘텐츠 생산자’의 책임을 삭제함으로써 <제공자>의 책임을 줄였다. <방법>은 제공자가 불법 내용을 발견한 후 적시에 처리 조치를 취하고 관할 당국에 보고만 하도록 요구함으로써 이는 <의견수렴초안>에 비해 제공자의 책임을 크게 줄였다(新京报 2023).

쟁점 2: 규제 vs. 발전(혁신)

규제 vs. 발전(혁신)은 가장 큰 범위의 쟁점이다. <쟁점 2>는 <쟁점 1>을 포괄하는 것이기도 하다. <방법>에서는 규제와 발전 가운데 발전을 더욱 강조하고 있다. 중국 내에서도 <의견수렴초안>에 비해 <방법>이 전반적으로 생성형 인공지능의 발전을 도모하는 방향으로 한 단계 더 도약했다고 평가하고 있다. 실제 <국가인터넷정보판공실(国家互联网信息办公室)>은 <방법>에서는 “혁신을 촉진하고” “발전과 보안에 동등한 중요성을 부여할 것”이라고 했다(McMorrow et al. 2023). <방법>의 제3조에서는 “국가가 발전과 안전을 동등하게 중시하고 혁신 촉진과 법적 거버넌스를 결합하는 원칙을 준수하며 효과적인 조치를 취하여 생성형 인공지능의 혁신 발전을 장려하고 생성형 인공지능 서비스에 대해 포괄적이고 신중하며 분류된 계층적 감독을 구현한다.”고 했다(新京报 2023-08-16). 그리고 <의견수렴초안>에 비해 <방법>에서 ‘장려’(鼓励)라는 단어가 빈번하게 나온다는 점도 이를 말해준다. 예컨대 “기술 개발 및 거버넌스”라는 제목의 제2장에서 ‘장려’(鼓励)라는 단어를 자주 볼 수 있다. 예를 들어, 제5조에서는 “생성형 인공지능 기술의 다양한 산업 및 분야에서 혁신적인 적용을 장려하고 긍정적이고 건강하고 상향식 고품질 콘텐츠를 생성하고 적용 시나리오를 탐색 및 최적화하고 적용 생태계를 구축한다.”라고 언급하고 있다. 제6조는 “생성형 인공지능 알고리즘, 프레임워크, 칩 및 지원 소프트웨어 플랫폼과 같은 기본 기술의 자주적 혁신을 장려하고 평등하고 상호 이익이 있는 국제 교류 및 협력을 수행하며 생성 인공지능 관련 국제 규칙 제정에 참여한다.”라고 언급하고 있다(新京报 2023-08-16). 제5조와 제6조는 생성형 인공지능 기술을 모든 산업에 적용할 것을 장려함으로써 생성형 인공지능 기술의 발전을 촉진하고자 함을 알 수 있다. 아울러 제5조와 제6조는 2023년 9월이라는 현 시점이 2022년 말부터 규제보다 발전(혁신)을 강조하는 선상에 있음을 보여주고 있다. 

또한 <방법>의 제2조는 <의견수렴초안>에 없는 ‘적용되지 않는’ 시나리오를 규정하고 있다는 점에서 발전(혁신)을 강조하고 있다. 제2조는 “산업 조직, 기업, 교육 및 과학 연구 기관, 공공 문화 기관 및 관련 전문 기관이 생성형 인공지능 기술을 개발 및 적용하고 국내 대중에게 생성 인공지능 서비스를 제공하지 않는 경우 이 방법의 규정은 적용되지 않는다.”고 규정하고 있다. 이 규정은 중대한 돌파구가 될 수 있다. <의견수렴초안>과 비교하여 <방법>은 규제 대상을 조정했다. 혹자는³⁾ <방법>의 목적이 생성형 인공지능의 발전과 안전성을 고려하고 생성형 인공지능의 연구 및 개발을 위한 충분한 여지를 마련한 것이라고 했다(人民网 2023-07-18).

향후 전망

<방법>은 이후 구체적으로 실시됐다. 8월 31일에 <방법>의 규정에 의해서 바이두(百度), 바이트댄스(字节), 상탕(商汤), 중국과학원 산하 쯔둥타이추(紫东太初), 바이촨 지능(百川智能), 즈푸화장(智谱华章) 등 8개 기업·기관의 대형 모델이 사회에 개방되어 사용될 수 있게 됐다. 바이두(百度)의 생성형 인공지능 모델인 어니봇(文心一言)도 1차 등록을 했다. 앱 스토어와 플레이스토어에서 ‘어니봇 앱’을 다운로드하거나 어니봇 홈페이지를 통해 직접 체험할 수 있다(澎湃新闻 2023-08-31).⁴⁾ 이 뉴스는 이 날 바이두 실검의 상위권에 올라갈 정도로 대중의 엄청난 관심을 받았다. 이처럼 생성형 인공지능의 사용이 갈수록 확대되고 다양하게 적용됨에 따라 <방법>은 더욱 더 주목을 받을 것이다. 아울러 중국경제가 침체하고 미중 기술패권 경쟁에서 인공지능에서 가장 중요한 분야 가운데 하나인 생성형 인공지능의 발전(혁신)이 갈수록 중요해지기 때문에 당분간 규제보다 발전(혁신)을 강조하는 방향으로 갈 것으로 전망된다. 

현재 세계 각 국가는 생성형 인공지능의 응용과 발전을 매우 중시하고 있는 만큼 생성형 인공지능 관련 규정의 필요성이 높아지고 있다. 아울러 생성형 인공지능의 국제 제정도 더욱 필요해지고 있다(澎湃新闻 2023-09-06). 중국의 <방법>은 다른 나라보다 비교적 먼저 출현한 생성형 관리방법이기 때문에 체제가 다르더라도 각국에서 직간접적으로 참고의 대상이 될 것으로 전망된다. 

----

1) 인공지능의 중요한 부분으로서 최근 대형 모델(大模型)의 인기가 높아지고 있어 현재 글로벌 과학 기술 혁신의 초점이 되고 있다는 점은 주목할 가치가 있다. 불완전한 통계에 따르면 2022년 11월부터 현재까지 중국에서 10억 매개변수(参数) 이상의 79개의 대형 모델(大模型)이 발표되었으며 새로운 대형 모델이 계속 출시되고 있으며 그 수는 계속 증가하고 있다(澎湃新闻 2023-09-11).

2) 이 글에서는 4월 11일에 발표된 <생성형 인공지능 서비스 관리 방법(의견 수렴 초안)>은 <의견 수렴 초안>이라 하고, 8월 15일 시행된 <생성형 인공지능 서비스 관리 잠정방법>은 <방법>이라 한다.  

3) 커뮤니케이션 콘텐츠인지 국가중점실험실(传播内容认知全国重点实验室)의 궈쥔보(郭俊波) 연구원
4) 중국 최초의 생성형 인공지능 산업에 대한 표준화된 정책이다(澎湃新闻 2023-08-31).

[참고문헌]

이중희(2023). 중국의 생성형 인공지능 규제를 둘러싼 국가와 전문가 의견: 생성형 인공지능 서비스 관리방법(의견수렴초안) 분석. 韓中關係硏究 9(2)

McMorrow, Ryan, Nian Liu and Qianer Liu(2023). Chinese premier’s meeting with tech executives fuels stock rally, Financial Times, JULY 13, 2023

第一财经(2023-7-14). 七部门联合发布首个生成式AI监管文件 释放哪些信号？               http://news.cctv.com/2023/07/14/ARTIGRsmPC1W2fNWwJsyraDY230714.shtml(검색일 8월 7일)

百度百科(2023). 生成式人工智能服务管理暂行办法https://baike.baidu.com/item/%E7%94%9F%E6%88%90%E5%BC%8F%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E6%9A%82%E8%A1%8C%E5%8A%9E%E6%B3%95/63202594?fr=aladdin(검색일 9월 1일)

澎湃新闻(2023-08-31). 文心一言等国产大模型通过首批备案 可向全社会开放. https://news.hsw.cn/system/2023/0831/1662985.shtml(검색일 9월 7일)

澎湃新闻(2023-09-06). 未来已来！生成式人工智能时代，如何平衡创新与监管？https://www.thepaper.cn/newsDetail_forward_24509826(검색일 9월 7일)

新京报(2023-08-16). 生成式人工智能服务管理暂行办法今起实施 鼓励AI发展自主创新. http://edu.ycwb.com/2023-08/16/content_52142385.htm(검색일 9월 7일)

澎湃新闻(2023-09-11). 人工智能为可持续投资带来新机遇 https://www.thepaper.cn/newsDetail_forward_24565561(검색일 9월 12일)