인공지능(AI)을 악용한 각종 범죄행위가 전 세계적인 문제로 부상하고 있는 가운데 세계 각국 정부가 자국민 또는 외국 국민들을 상대로 허위 정보의 유포를 위해 인공지능을 사용하고 있다는 주장이 제기돼 주목받고 있다.
해외 블록체인 전문 매체 크립토슬레이트(Cryptoslate)는 세계 각국 정부가 허위 정보 유포를 위해 인공지능을 사용하고 있으며 이는 전 세계의 자유와 진실에 중대한 영향을 미치는 비윤리적이고 권위주의적인 행위라고 밝혔다.
◆국가 주도 AI 허위 정보 유포…비윤리적·권위주의적인 행위
국가들이 허위 정보의 전달을 위해 인공지능을 사용하는 것은 사상의 자유, 자유 선거, 외국의 적대자로부터 국민 국가의 주권에 큰 영향을 미친다. 실제로 몇몇 국가 정부는 인공지능 기술을 사용하여 자국민 또는 외국 국민들에게 지속적인 혼란 상태를 야기하고 있다.
예를 들어 중국은 타이완으로부터 생성형 인공지능을 사용하여 자국을 허위 정보로 뒤덮고 있다는 비난을 받아왔다. 타이완 국가안보국에 따르면 이는 타이완 국민을 분열시키는 것이 목표며 타이완은 이러한 조치를 자국의 주권을 훼손하려는 또 하나의 시도로 보고 있다.
타이완 국가안보국은 의회에 보낸 보고서에서 2025년 이미 50만 개 이상의 ‘논란의 여지가 있는 메시지’를 발견했으며 대부분 페이스북과 틱톡에 있었다고 주장했다.
보고서는 “인공지능 기술의 적용이 더욱 광범위해지고 성숙해짐에 따라 중국 공산당이 인공지능 도구를 사용해 논란이 되는 메시지의 생성과 유포를 지원해온 사실도 드러났다”고 밝혔다.
허위 정보를 목적으로 인공지능을 사용하는 국가들의 다른 많은 사례들도 쉽게 확인할 수 있다.
2024년 러시아 국영 프라우다 네트워크(Pravda Network)는 월드 와이드 웹에 360만 개의 가짜 기사를 넘쳐나게 했다. 인공지능 모델을 조작하여 친 크렘린 내러티브를 채택해 여론에 영향을 미치기 위해서였다. 러시아는 분명히 인공지능을 자국의 선전을 홍보하는 수단으로 보고 있으며 심지어 미국 시민을 표적으로 삼고 있다.
중국은 또한 2024년 타이완 선거에 인공지능을 통해 영향력을 행사했는데 중국에 기반을 둔 작전은 퇴임하는 총통 차이잉원(Tsai Ing-wen)의 인위적인 이력을 포함한 허위 정보를 퍼뜨리기 위해 인공지능이 생성한 딥페이크 동영상을 제작했다. 마이크로소프트는 이를 국가가 외국 선거 결과에 영향을 미치기 위해 인공지능 소재를 사용한 최초의 알려진 사례라고 불렀다.
◆타국 정치 간섭 위한 AI 악용…개인의 자유에 대한 거대한 모욕 행위
이란은 2020년 미국 대통령 선거에서 인공지능 기반 트롤을 사용하여 미국의 민주적 절차를 불안정하게 만들기 위해 표적 허위 정보 캠페인을 만들었다. 이러한 노력으로 인해 이란 국적자 2명이 사이버 기반 허위 정보 위협 및 캠페인 혐의로 기소됐다.
또한 2023년 베네수엘라 국영 언론은 인공지능 도구를 사용하여 인공지능이 생성한 슬롯 사이트 앵커와 함께 딥페이크 동영상을 제작해 친정부 선전을 퍼뜨리고 베네수엘라 정권의 국내외 이미지를 개선하기 위한 가짜 영어 채널을 만들었다.
2023년 슬로바키아 선거에서는 선거 조작이 논의하는 언론인과 진보적 슬로바키아 정당 지도자 간의 전화 통화를 거짓으로 묘사한 인공지능 생성 오디오가 공개됐다. 선거를 앞두고 유포된 딥페이크는 선거에서 해당 정당의 패배로 이어진 것으로 생각된다.
반면 중국은 미국이 ‘인지전쟁’에 대한 공공 투자와 함께 이러한 관행에 관여하고 있다고 주장하고 있다. 중국 정부는 인공지능 봇 네트워크가 중국의 평판에 위해를 끼치기 위해 거짓 주장과 허위 정보를 퍼뜨리고 있다고 주장한다.
특정 국가가 다른 국가의 정치 과정에 간섭하기 위해 인공지능을 사용하는 것에는 분명히 큰 우려가 있다. 이는 사람들의 생각과 결정에 영향을 미쳐 개인의 자유에 대한 거대한 모욕이다. 모든 국가들은 인공지능을 선전 도구로 사용하여 권력을 확장하고 개인의 권리를 제한할 수 있다.
이런 방식으로 사용되는 인공지능은 아이디어의 자유로운 시장을 훼손시킨다. 이는 공개 토론에서 정부의 내러티브를 지지하고 정치 과정을 왜곡하며 정직한 선거 결과를 방해한다.
전문가들은 정부가 인공지능을 사용해 허위 정보를 유포하는 것은 권력자들이 권력을 남용하는 또 다른 예에 불과하며 자국민은 물론 외국 국민까지 속여 거짓을 믿게 만들 수 있게 하고 이는 곧 전체주의로 가는 미끄러운 비탈길이라고 지적하고 있다.
따라서 전문가들은 개인에게 잘못된 정보를 제공하는 것은 일종의 강압에 해당되는 만큼 사람들은 이 전술을 인식해야 하고 정부가 국민들을 상대로 자행하는 기만적인 관행에 속지 말아야 한다고 조언하고 있다. [ 슬롯 사이트 슬롯 매니아]