지난해 OpenAI가 CHATGPT 발표 후, 생성식 인공지능(AIGC)이 전 세계의 초점이 되었다. 올해 3월 14일, OpenAI가 GPT-4를 발표하여 이미지와 텍스트 입력을 지원하며 시각과 텍스트를 결합한 작업에서 강력한 이해력을 보여주었다. 세계 각국의 대기업들이 AIGC 산업에 몰두하여 AIGC의 발전이 급속히 이루어지고 있다. AIGC 산업의 발전을 더욱 규제하기 위해, 국가 왕신판은 2023년 4월 11일에 “생성식 인공지능 서비스 관리규정(의견수렴 초안)”을 발표하였다. 다양한 분야의 피드백을 결합하여, 2023년 7월 10일에 왕신판은 여섯 개 부서와 함께 “생성식 인공지능 서비스 관리 잠정조치”를 발표하여 2023년 8월 15일부터 시행될 예정이다, 이는 중국에서 AIGC에 관한 첫 번째 법규이다.
본 “규정”은 전반적으로 중국 AIGC 산업의 발전을 지지 및 격려와 동시에 새로운 기술의 다양한 잠재적 리스크를 고려하여 AIGC에 대한 규제를 명시하며 “신중 및 포용” 원칙을 강조한다. 본 문장에서는 “규정”의 주요 내용을 해석하여 AIGC 법규의 기조를 이해하는 데 도움을 드리고자 한다.
1. 적용 범위
“규정” 제2조 제1항, “중화인민공화국 내 대중에게 생성 텍스트, 이미지, 음성, 비디오 등의 콘텐츠를 생성하는 생성식 인공지능 기술을 활용하여 서비스를 제공하는 것”을 명확하게 규정하고 있다. 기존 기술로는 AIGC에서의 침해 및 유해 정보를 피할 수 없으며, 대중과 직면할 때 이러한 침해 및 유해 정보가 보다 널리 확산될 가능성이 높다. 그러므로 대중을 대상으로 하는 AIGC를 규제의 대상으로 삼는 것은 정당한 조치이다.
“규정” 제2조 제3항, “산업 단체, 기업, 교육 및 연구 기관, 공공 문화 기관, 관련 전문 기관 등이 생성식 인공지능 기술을 개발하고 적용하고 있으며, 국내 대중에게 생성식 인공지능 서비스를 제공하지 않은 경우 해당 규정을 적용하지 않는다”는 조항이 추가되었다. 즉, 기업 및 연구 기관 등이 AIGC를 활용하여 내부 생산 및 연구 효율을 향상시키기 위해 대중에게 제공하지 않는 경우, 내부 사용을 장려하기 위해 규정의 적용 대상에서 제외되는 것이다. 본 조항은 국가 왕신판 등이 의견 수렴 초안을 발표한 후 산업 전문가들의 의견 및 AIGC의 실제 특성을 고려하여 규제 범위를 제한하는 방향으로 “규정”을 개정한 것이다. 이는 AIGC 발전을 촉진하는 “규정”의 취지를 나타낸다.
“규정”은 또한 해외 투자자 및 해외 AIGC를 규제의 대상으로 한다. “규정” 제20조는 “중화인민공화국 영토 외부에서 유래한 생성식 인공지능 서비스 제공 시 법률, 행정법규 및 본 규정의 규정을 위반하는 경우, 국가 왕신판은 관련 기관에 기술적 조치 및 필요한 조치를 취하도록 통지해야 한다”고 규정하고 있다. “규정” 제13조는 외국 투자자가 국내 AIGC를 제공 시 외국 투자와 관련된 법률 및 행정법규의 규정을 준수해야 한다고 요구하고 있다, 하지만 현재 외국 투자 AIGC에 관한 법적 규정은 아직 제정되지 않았다.
2. 분류 및 등급별 규제
“규정” 제3조 및 제16조는 모두 “분류 및 등급별 규제”을 시행한다고 언급하며, 현재 관련 세부 규제 세칙은 아직 발표되지 않았으며, 추후 관련 규제 체계가 발표될 예정이다. 중국은 이미 인터넷 정보 콘텐츠의 분류 및 등급별 규제 체계를 시행하였으며, “사이버보안법”은 “국가가 사이버보안 등급 보호제도를 시행한다”고 규정하고 있다. 분류 및 등급별 규제 접근은 AIGC의 범용성과 신속한 이테레이션성을 고려할 때, “규정”에 유연성을 유지하도록 도와주며 규제 기관 및 관련 기관이 특정 산업이나 높은 리스크 AIGC에 대한 더 구체적인 규제 규칙을 개발할 수 있게 한다.
3. 훈련 데이터의 컴플라이언스
“규정” 제1조는 “규정”이 “사이버보안법”, “데이터안전법” 및 “개인정보보호법”에 근거하여 제정되었음을 명시하며, 데이터의 안전성과 규정 준수가 “규정”의 주요 측면 중 하나임을 보여준다. AIGC 모델의 성공은 대량의 데이터 훈련에 크게 의존하므로 훈련 데이터의 규정 준수 요구 사항은 AIGC 제공자가 준수해야 할 규제적 한계임을 보여준다.
“규정” 제7조는 “훈련 데이터 처리 활동”에 대한 명확한 요구 사항을 제시한다:
01. 합법적 출처의 데이터와 기본 모델 사용;
02. 지적재산권과 관련된 경우, 타인의 합법적인 지적재산권을 침해하지 않아야 한다;
03. 개인 정보와 관련된 경우, 개인의 동의를 얻거나 법률 또는 행정법규에서 규정한 기타 사유를 준수해야 한다;
04. 훈련 데이터의 품질을 향상시키기 위한 효과적인 조치를 취하고, 훈련 데이터의 신뢰성, 정확성, 객관성, 다양성을 높여야 한다;
05. “중화인민공화국 사이버보안법”, “중화인민공화국 데이터안전법”, “중화인민공화국 개인정보보호법” 등의 법률, 행정법규 및 관련 기관의 규정.
이 외에도 “규정”은 공공 훈련 데이터 자원 플랫폼 구축을 촉진하는 내용을 제시하며 “합법적 데이터 소스”를 보장하기 위한 기본적인 보호를 제공한다. 우리 나라의 데이터 규제가 더욱 강화되는 가운데, AIGC 제공자가 충분한 양의 고품질 훈련 데이터를 확보하는 것은 쉬운 일이 아니며, 규제 기관이 공공 훈련 데이터 플랫폼을 구축하여 이 문제를 해결하려는 노력은 중국 AIGC 발전을 촉진하는 규제적 조치의 하나이다.
4. 생성 콘텐츠의 규제 목표
“규정”은 생성 콘텐츠에 대한 명확한 규제 목표를 갖고 있다: “제공자는 법에 따라 네트워크 정보 콘텐츠 생성자 책임을 지며, 네트워크 정보 안전 의무를 이행해야 한다”, 즉 제공자가 생성 콘텐츠의 합법성과 규정 준수에 대한 책임을 져야 한다는 것이다. 콘텐츠의 합법성과 규정 준수는 다음과 같은 측면에서 반영된다:
01.생성된 콘텐츠는 사회주의 핵심 가치관을 반영해야 한다.
02.인종, 신앙, 국적, 지역, 성별, 연령, 직업, 건강 등의 차별을 방지하기 위한 조치를 취해야 한다.
03.생성된 콘텐츠는 타인의 상업 비밀, 지적재산권 등을 침해하지 않아야 한다.
04.생성된 콘텐츠는 타인의 인격권을 침해해서는 아니 된다.
05.생성된 콘텐츠는 실제성과 정확성을 가져야 하며, 생성자는 거짓 정보 생성을 방지하기 위한 조치를 취해야 한다.
동시에 “규정”은 생성 콘텐츠의 요구 사항을 “인터넷 정보 서비스 심층합성 관리규정”의 관련 규정과 일맥상통하며, 이미지, 비디오 등의 생성 콘텐츠에 대한 식별 표시를 요구하며 해당 생성 콘텐츠에서 식별 가능한 워터마크나 효과적인 경고 정보를 추가하는 의무를 부여한다. 이를 통해 생성 콘텐츠의 원천적인 식별 가능성을 보장하려는 의도를 나타낸다.
또한 “규정”은 AIGC 제공자에게 사용자 행동 관리 의무를 부여한다. “규정” 제14조는 AIGC 제공자에 대한 사용자 관리를 규정하며, 사용자가 불법 행동을 할 경우 AIGC 제공자는 경고, 기능 제한, 일시 중단 또는 서비스 중단과 같은 조치를 취하고 관련 기관에 보고해야 함을 규정하고 있다.
결 론
AIGC는 광범위한 응용 전망과 큰 발전 잠재력을 가지고 있지만 동시에 여러 가지 도전과 위험에 직면하고 있다. “규정”은 다양한 의견을 충분히 수렴한 뒤 현재 중국 AIGC 기술 상황을 고려하여 개정된 것으로, 규제의 명확한 기준을 마련하면서도 “신중 및 포용” 원칙을 기반으로 기술 발전과 혁신을 격려한다. “규정”은 규제 기관의 안전 우려를 완화시키면서 중국 AIGC 발전에 더 많은 제도적 공간을 제공한다. 중국에서 처음으로 AIGC에 대한 특별한 규제로 “규정”은 개발을 촉진하고 혁신을 장려하며 신중한 규제와 여유 있는 공간을 유지하는 태도를 충분히 반영하고 있다.
