더지엠뉴스 김대명 기자 | 중국 국가안전부가 딥페이크 기술을 악용한 해외 적대 세력이 중국 내 허위 영상을 유포해 사회적 혼란을 조성하려 했다고 경고했다. 인공지능 대형 모델의 확산 속에서 정보 보안과 여론 안전이 국가안보 문제로 직결되고 있다는 판단이 공식 경로를 통해 제기됐다.

26일 중국 국가안전부에 따르면, 전날 공식 위챗 계정을 통해 공개한 글에서 해외 반중 적대 세력이 딥페이크 기술을 활용해 조작된 영상을 제작하고 이를 중국 내부로 확산시키려 시도한 정황을 확인했다고 밝혔다. 해당 행위는 여론을 오도하고 사회적 불안을 조성해 국가안보에 위협이 될 수 있다고 설명했다.

국가안전부는 인공지능 대형 모델이 산업과 일상 전반으로 빠르게 확산되며 생활 속에 깊숙이 자리 잡고 있다고 전제했다. 동시에 기술 활용이 확대될수록 데이터 프라이버시 침해와 알고리즘 편향, 정보 유출과 같은 새로운 위험도 함께 커지고 있다며 보안 장치 강화를 강조했다.

특히 일부 기관이 오픈소스 기반의 인터넷 연결형 대형 모델을 별도 보안 조치 없이 도입하는 과정에서 내부 네트워크가 외부 공격에 노출되는 사례가 발생했다고 지적했다. 실제로 한 사례에서는 직원이 오픈소스 인공지능 도구로 내부 문서를 처리하는 과정에서 컴퓨터의 공용 접속 설정이 기본값으로 유지돼 있었고, 비밀번호가 설정되지 않아 해외 IP에서 민감한 자료가 열람·다운로드된 사실이 확인됐다.

딥페이크 기술은 인공지능과 딥러닝을 이용해 이미지·음성·영상을 정교하게 합성하거나 조작하는 방식으로, 악용될 경우 개인 권익 침해는 물론 사회 질서와 국가안보까지 위협할 수 있다고 설명했다. 국가안전부는 해외 적대 세력이 이러한 기술로 제작한 가짜 영상을 중국 내에서 확산시키려 한 시도를 실제로 포착했다고 밝혔다.

또한 인공지능 모델은 학습 데이터의 특성을 그대로 반영하는 만큼, 편향되거나 대표성이 부족한 데이터에 기반할 경우 차별과 왜곡을 증폭시킬 수 있다고 경고했다. 일부 테스트에서는 특정 인공지능 모델이 서구적 시각에 구조적으로 치우친 반응을 보였다는 결과도 제시됐다.

한 연구에서는 동일한 역사적 질문을 중국어와 영어로 각각 입력했을 때, 영어 응답이 일부 역사적 사실을 축소하거나 회피하고 부정확한 정보를 생성한 반면, 중국어 응답은 상대적으로 사실에 근접한 내용을 제시하는 경향이 관찰됐다.

이 같은 위험을 줄이기 위해 국가안전부는 인공지능 도구의 절제되고 규율 있는 사용을 주문했다. 인터넷 연결형 모델로 민감한 데이터를 처리하지 말고, 최소 권한 원칙에 따라 접근 범위를 제한하며, 음성 도구의 불필요한 주변 소리 수집 기능이나 데이터 공유·클라우드 동기화 기능을 필요 시에만 활성화할 것을 권고했다.

아울러 대화 기록 정리, 비밀번호 주기적 변경, 로그인 기기 점검, 보안 업데이트 적용 등을 통해 디지털 흔적을 관리하고, 출처가 불분명한 인공지능 프로그램이나 신원·금융 정보를 요구하는 요청에 각별히 주의할 필요가 있다고 밝혔다.

국가안전부는 마지막으로 인간과 인공지능의 상호작용에서도 책임 있는 태도가 필요하다고 강조했다. 프롬프트에 명확한 제약 조건을 설정하고, 가능할 경우 근거와 출처 제시를 요구하며, 중요한 정보는 여러 경로를 통해 교차 확인하는 습관이 필요하다고 덧붙였다. 특히 정치·역사·이념 관련 사안에서는 인공지능의 환각 정보에 휘둘리지 않도록 독립적인 판단을 유지해야 한다고 설명했다.