생성형 인공지능(AI)이 언론과 방송 산업의 구조를 빠르게 바꾸고 있다. 불과 몇 년 전까지만 해도 AI는 기사 추천이나 자동 자막 생성 같은 보조 도구에 머물렀다. 그러나 지금은 기사 작성, 영상 편집, 음성 합성, 이미지 제작, 콘텐츠 유통과 검증까지 미디어 가치사슬 전반에 깊숙이 침투하고 있다.

문제는 기술 발전의 속도만큼 사회적 신뢰 체계가 함께 발전하지 못하고 있다는 점이다.

지난 6월 10일 충칭(重庆)에서 제5회 글로벌 미디어 혁신 포럼(第五届全球媒体创新论坛)이 개최되었다. 이 행사에서 중국미디어그룹연구소(中央广播电视总台研究院)가 발간한 보고서 "더욱 신뢰할 수 있는 글로벌 협력을 향하여: 시청각 미디어의 AI 거버넌스 로드맵"이 공개되었다

중국미디어그룹연구소(中央广播电视总台研究院)이 발표한 「더 신뢰할 수 있는 글로벌 협력으로(走向更可信的全球协同·走向更可信的全球协同)」보고서는 이러한 문제의식을 정면으로 다룬다. 보고서의 부제는 「시청각 미디어 인공지능 거버넌스의 길(视听媒体人工智能治理之道)」이다.

보고서가 주목하는 대상은 AI 기술 자체가 아니다. 오히려 AI가 확산되는 시대에 언론이 어떻게 신뢰를 유지할 것인가, 그리고 국가와 플랫폼, 언론사가 어떤 거버넌스를 구축해야 하는가에 초점을 맞춘다. 이는 한국 언론계에도 결코 낯설지 않은 질문이다. AI가 흔드는 것은 콘텐츠가 아니라 신뢰의 기반이다. AI 시대 미디어 위험을 논할 때 사람들은 흔히 딥페이크나 가짜뉴스를 떠올린다. 그러나 보고서는 이를 단순한 기술 문제로 보지 않는다.

연구진은 현재 미디어 산업이 직면한 위험을 네 가지 구조적 문제로 설명한다.

첫 번째는 콘텐츠 진실성의 위기다.

언론의 존재 이유는 사실을 기록하고 검증하는 데 있다. 그러나 생성형 AI는 이제 누구나 손쉽게 실제와 구분하기 어려운 영상과 음성을 만들 수 있는 환경을 조성하고 있다. 과거에는 "카메라는 거짓말하지 않는다"는 믿음이 있었다. 지금은 "영상도 얼마든지 조작될 수 있다"는 인식이 더 현실에 가깝다. 

더 큰 문제는 AI 생성 능력이 검증 능력보다 빠르게 발전하고 있다는 점이다. 생성 기술은 고도화되는데 탐지 기술은 늘 한발 뒤를 쫓는다. 이는 결국 언론이 수십 년에 걸쳐 구축해 온 사실 검증 체계 자체를 흔드는 결과로 이어진다.

두 번째는 알고리즘 편향 문제다.

AI는 인간 사회를 학습한다. 따라서 인간 사회에 존재하는 편견도 함께 학습한다. 성별, 인종, 지역, 계층, 정치적 성향에 대한 편향은 알고리즘 속에서 재생산될 수 있다. 더욱이 플랫폼 기업의 추천 알고리즘은 공익보다 체류시간과 광고수익을 우선하는 구조를 갖고 있다.

그 결과 극단적인 콘텐츠가 더 많이 노출되고, 감정적인 메시지가 사실보다 빠르게 확산된다. 보고서는 이를 단순한 기술 오류가 아니라 사회적 합의 형성 메커니즘을 약화시키는 구조적 위험으로 규정한다.

세 번째는 저작권 질서의 변화다.

AI는 기존 콘텐츠를 복사하지 않는다. 대신 수많은 콘텐츠를 학습해 새로운 결과물을 생성한다. 문제는 여기서 발생한다.

기존 저작권 체계는 복제 여부를 중심으로 설계돼 있다. 하지만 AI 시대의 저작권 분쟁은 학습 데이터의 적법성, 생성 결과물의 권리 귀속, 원저작자의 권익 보호 등 훨씬 복잡한 영역으로 확장되고 있다. 결국 AI는 저작권 제도 자체의 재설계를 요구하고 있는 셈이다.

네 번째는 허위정보의 산업화다.

기존 허위정보는 사람이 만들고 사람이 퍼뜨렸다. 그러나 AI 시대에는 상황이 다르다. AI는 대량 생산이 가능하고, 다국어 변환이 가능하며, 플랫폼별 특성에 맞춰 자동으로 변형할 수 있다. 허위정보 생산이 사실상 자동화되는 시대가 열린 것이다. 이는 단순히 언론사의 팩트체크 역량만으로 대응하기 어려운 문제다. AI 위험은 개인에서 국가로 확산된다 보고서가 특히 주목하는 부분은 위험의 전이 구조다. 많은 사람들이 AI 위험을 개별 피해 사례로 이해한다.

하지만 연구진은 AI 위험이 개인, 사회, 국가로 단계적으로 확산된다고 분석한다.

첫 번째 단계는 개인이다. 딥페이크 사기, 음성 복제 금융사기, 초상권 침해, 개인정보 유출 등이 여기에 해당한다. 이미 전 세계적으로 정치인, 기업인, 유명인뿐 아니라 일반 시민까지 딥페이크 범죄의 대상이 되고 있다.

두 번째 단계는 사회다. 개인 피해가 반복되면 사회 전체의 신뢰 수준이 낮아진다. 사람들은 뉴스도 의심하고, 사진도 의심하고, 영상도 의심하기 시작한다. 

흥미로운 점은 허위정보가 늘어나는 것보다 더 위험한 현상이 나타난다는 것이다. 바로 진짜 정보마저 믿지 않게 되는 현상이다. 학계에서는 이를 ‘진실 배당금(truth dividend)의 상실’이라고 부르기도 한다. 여기서 말하는 ‘진실 배당금(truth dividend)’이란 학술 용어라기보다는 미디어·정보신뢰 분야에서 간헐적으로 사용되는 개념으로,사회 구성원들이 공통의 사실(facts)을 신뢰할 수 있을 때 발생하는 사회적 이익을 말한다

사회 구성원들이 공통의 사실을 공유하지 못하게 되면 민주주의와 공론장도 약화될 수밖에 없다. 

세 번째 단계는 국가다. 보고서는 AI 시대의 정보전이 군사력이나 경제력만큼 중요한 국가안보 요소가 될 가능성을 제기한다. 특히 다국어 생성형 AI는 국가 간 정보전의 양상을 근본적으로 바꾸고 있다. 과거에는 언어 장벽이 존재했지만 이제는 AI가 자동으로 콘텐츠를 번역하고 현지화한다. 

이는 허위정보의 글로벌 확산 속도를 과거와 비교할 수 없을 정도로 높이고 있다. 세계는 지금 서로 다른 방식으로 대응하고 있다. 그렇다면 세계는 이러한 위험에 어떻게 대응하고 있을까.

보고서는 현재 국제사회가 크게 네 가지 접근법을 실험하고 있다고 분석한다.

첫 번째는 기술 표준 모델이다. 대표적인 사례가 ISO와 C2PA(Coalition for Content Provenance and Authenticity)다. 이 접근은 허위정보를 사후에 찾아내는 것보다 콘텐츠의 출처를 처음부터 증명하는 데 초점을 맞춘다. 사진이 언제 촬영됐고 어떤 편집 과정을 거쳤는지를 기록하는 방식이다. 언론계가 주목하는 ‘콘텐츠 인증(Content Credentials)’ 역시 같은 흐름에 속한다.

두 번째는 법률 규제 모델이다. 유럽연합(EU)의 AI Act가 대표적 사례다. 위험 수준에 따라 AI를 분류하고, 고위험 영역에는 강력한 규제를 적용하는 방식이다. 중국 역시 생성형 AI 서비스 관리 규정을 통해 유사한 방향을 모색하고 있다.

세 번째는 플랫폼 자율규제 모델이다. 유튜브, 메타, 틱톡, X 등 플랫폼 기업이 스스로 검증 체계를 구축하는 방식이다. AI 탐지 기술, 워터마크, 신고 시스템 등이 여기에 포함된다. 그러나 플랫폼이 공익보다 수익성을 우선할 가능성이 있다는 점에서 한계도 지적된다.

네 번째는 디지털 주권 모델이다. 특히 중국이 강조하는 접근법이다. AI를 산업 경쟁력의 문제를 넘어 국가안보와 문화주권의 문제로 본다. 자국 언어 데이터 구축, 국산 AI 모델 개발, 데이터 주권 확보 등이 핵심 정책 수단이다. 흥미로운 점은 최근 미국, 유럽, 중국 모두 정도의 차이는 있지만 유사한 방향으로 움직이고 있다는 사실이다. AI 경쟁은 이제 기술 경쟁을 넘어 데이터와 알고리즘, 정보 생태계에 대한 통제권 경쟁으로 확장되고 있다.

결국 AI 거버넌스의 핵심은 ‘신뢰의 재설계’다. 보고서는 향후 AI 거버넌스가 세 가지 방향으로 발전할 것으로 전망한다.

첫째, 탐지에서 인증으로. 둘째, 개별 대응에서 생태계 협력으로. 셋째, 기술 중심에서 가치 중심으로. 특히 세 번째 변화는 주목할 만하다. AI 거버넌스의 목표는 더 이상 기술 통제 자체가 아니다.

궁극적인 목표는 신뢰 회복이다.

인간의 최종 결정권, 설명 가능한 알고리즘, 책임 추적 가능성, 투명성 같은 원칙이 중요하게 논의되는 이유도 여기에 있다. 이는 사실 언론이 오랫동안 추구해 온 가치와 크게 다르지 않다. 

한국 언론이 주목해야 할 것은 중국의 답이 아니라 질문이다. 중국 보고서의 모든 해법에 동의할 필요는 없다. 특히 국가 중심 거버넌스나 디지털 주권에 대한 접근은 한국과 중국의 정치·사회적 환경 차이를 고려해 해석할 필요가 있다. 그러나 적어도 보고서가 던지는 문제의식만큼은 충분히 주목할 가치가 있다.

AI 시대 언론의 위기는 콘텐츠 생산 능력의 위기가 아니다. 오히려 신뢰 생산 능력의 위기다. 생성형 AI가 기사 작성과 영상 제작을 대체할 수는 있어도, 사회가 믿을 수 있는 정보 체계를 자동으로 만들어 주지는 않는다. 앞으로 언론사의 경쟁력은 누가 더 빠르게 콘텐츠를 생산하느냐가 아니라 누가 더 신뢰할 수 있는 정보 환경을 구축하느냐에 의해 결정될 가능성이 크다.

결국 AI 시대 언론의 미래를 좌우하는 것은 기술이 아니라 신뢰다. 그리고 지금 세계 각국이 고민하고 있는 AI 거버넌스 역시 결국은 그 신뢰를 어떻게 다시 설계할 것인가에 대한 논의라고 볼 수 있다.

■ 문제는 ‘나는 어떻게 사용하는가’이다

그러나 여기서 진짜 질문이 시작됩니다. 도구는 넘쳐납니다. DeepSeek은 무료이고, Kimi는 삼체를 한 번에 읽고, Hailuo는 영화를 만들고, HeyGen은 당신의 디지털 아바타를 순식간에 복제합니다. 그런데 이 모든 것을 실제 업무에 어떻게 녹여낼 수 있을까요?

“중국 시장에 진출하고 싶다.”, “한국 제품을 중국에서 팔고 싶다.”, “그런데 중국 마케팅은 처음이고, AI는 더 모르겠다.”

이 질문에 답하기 위해, 저는 준비하고 있습니다. 위에서 소개한 중국 게임체인저 AI 모델들에 대해, 시나리오별 맞춤 사용법과 실행 능력을 극대화하는 실전 강의를 기획 중입니다. 단순한 도구 사용법이 아닙니다.

어떤 상황에 어떤 AI를 써야 하는가?, 한국어로 기획하고, 중국어로 실행하는 워크플로우는 어떻게 설계하는가?, AI로 만든 콘텐츠를 실제 중국 플랫폼(더우인·샤오홍슈·웨이보)에서 어떻게 유통할 것인가?

이 모든 질문에 ‘답’이 아니라 ‘체계’를 전달하는 강의를 준비하고 있습니다.

■ 함께 연구하고, 함께 중국 시장을 개척합시다

여기까지 읽어주신 독자분이라면, 분명 중국 AI와 중국 시장에 진심일 것입니다. 저는 이 강의를 ‘일방적인 전달’이 아닌, 함께 연구하고 함께 성장하는 공동체로 만들고자 합니다. 수강생들의 실제 비즈니스 과제를 AI로 해결하고, 그 과정에서 발생하는 인사이트를 모두 함께 공유하는 방식입니다. 관심 있으신 독자분들은 아래 설문 링크에 참여하여 의견을 남겨주시기 바랍니다.

어떤 AI 모델에 가장 관심이 가는지, 어떤 비즈니스 과제를 해결하고 싶은지, 어떤 난관에 부딪혀 있는지

여러분의 의견이 곧 강의의 방향이 됩니다. 설문에 참여해 주신 분들께는 이제 곧 개강하게 될 중국 AI 강의 관련 정보를 우선적으로 제공해 드릴 예정입니다.

중국 시장은 쉽지 않습니다. 하지만 혼자일 때는 막막하던 길도, 함께라면 길이 됩니다.

☞ 중국 AI 강의 설문조사(클릭!!)

윤교원 대표 / The K Media & Commerce, kyoweon@naver.com

[이 기사의 저작권은 이비즈타임즈에 있습니다]