인공슬롯버프(AI)의 활용이 증가함에 따라 인공슬롯버프 생성 딥페이크를 각종 범죄 행위에 이용하는 사례가 급증하고 있다.

특히 이전에 인공슬롯버프 생성 딥페이크를 이용한 사기 행위가 단순히 암호화폐 사용자를 속여 사취하는 수준에 머물렀던 것과 달리 최근에는 유명 인사들의 디지털 초상을 복제하고 이를 통해 투자 사기를 자행하는 등 범죄 수법이 날로 교묘해지고 있어 주목받고 있다.

◆끊이지 않는 AI 딥페이크 사기 범죄…수법 지능화되고 다양해져

해외 블록체인 전문 매체 크립토슬레이트(Cryptoslate)에 따르면 바이낸스의 전 CEO 자오창펑(Changpeng Zhao)은 지난 17일 자신의 목소리를 매우 정확하게 복제하여 실제 녹음과 구별할 수 없는 인공슬롯버프 생성 비디오를 발견했다고 말했다.

X를 통해 공유된 이 게시물에는 만다린어를 구사하는 자오창펑의 인공지능 음성 해설이 포함되어 있으며 그가 ‘무섭다’고 묘사한 정확성과 얼굴 움직임을 일치시켰다.

이 동영상은 자오창펑이 일련의 비디오 클립, 인공슬롯버프 생성 콘텐츠, 사진을 통해 중국어로 연설하는 것을 보여주고 있다. 그 충실함은 공인을 사칭하기 위해 인공슬롯버프을 무단으로 사용하는 것에 대한 우려를 다시 불러일으켰다.

이 사건은 암호화폐 경영진의 디지털 초상이 생성 도구를 사용하여 복제되고 때때로 사기 목적으로 복제되는 사례가 증가하고 있음을 보여준다.

2023년 바이낸스 CEO에서 물러났음에도 암호화폐 업계에서 저명한 인물로 남아 있는 자오창펑은 이전에도 딥페이크와 관련된 사칭 시도에 대해 경고한 바 있다. 2024년 10월 자오창펑은 사용자에게 암호화폐 전송을 요청하는 동영상을 신뢰하지 말라고 조언하면서 자신의 초상이 포함된 변경된 콘텐츠가 유통되고 있음을 인정했다.

최신 동영상은 정적인 이미지와 텍스트를 넘어 사칭 전술에 새로운 차원을 더하고 있다. 2023년 바이낸스의 최고 커뮤니케이션 책임자였던 패트릭 힐만(Patrick Hillmann)은 사기꾼들이 자신의 비디오 시뮬레이션을 사용하여 줌(Zoom)을 통해 프로젝트 담당자들과 회의를 진행했다고 밝혔다.

이 합성 영상은 수년간의 공개 인터뷰와 온라인 출연을 통해 서로 연결됐으며 이를 통해 배우들이 공식적인 교환 참여를 가장하여 대상과 실시간 통화 일정을 예약할 수 있도록 했다.

자오창펑의 경험에 따르면 음성 복제는 모방되는 사람에게조차 비슷한 수준의 현실감에 도달해 소셜 미디어 사칭을 넘어 사기 위험을 증가시킨다.

◆구별 어려운 완벽한 동영상·음성 복제…사기 위험 증가 초래

지난 2월 Arup의 홍콩 지사 직원은 마이크로소프트 팀 회의 중에 영국에 본사를 둔 재무 이사와 대화하고 있다고 믿고 속아 약 2500만 달러를 이체했다. 사우스 차이나 모닝 포스트에 따르면 통화에 참여한 모든 참가자는 인공슬롯버프이 생성한 시뮬레이션이었다.

한때 광범위한 음성 샘플에 의존했던 도구들은 이제 간단한 녹음만으로 작동한다. 일레븐랩스(ElevenLabs)와 같은 많은 소비자 수준 시스템은 설득력 있는 복제품을 생성하는 데 60초 미만의 오디오가 필요하다. 이 금융 기관은 1월에 영국 성인의 4분의 1 이상이 지난 12개월 이내에 복제된 음성과 관련된 사기를 당했을 것으로 믿는다고 보고했다.

이 도구들은 점점 더 저렴한 비용으로 이용 가능해지고 있다. 싸이플레어(CyFlare)의 위협 정보 브리핑에 따르면 음성 간 복제 API에 대한 턴키 액세스는 다크넷 마켓플레이스에서 5달러에 구매할 수 있다. 상업용 모델은 워터마킹 및 옵트인 요구 사항을 제공하지만 오픈 소스 및 암시장 대안은 이러한 표준을 거의 준수하지 않는다.

2024년 3월 공식적으로 채택된 유럽연합(EU)의 인공슬롯버프법(Artificial Intelligence Act)에는 딥페이크 콘텐츠가 공공장소에 배포될 때는 명확한 라벨을 부착해야 한다는 규정이 포함되어 있다. 그러나 이 법의 시행 시기는 아직 멀었으며 완전한 준수는 2026년에나 가능할 것으로 예상된다.

적극적인 규제 장벽이 없는 하드웨어 제조업체들은 소비자 기기에 탐지 기능을 직접 통합하기 시작했다.

모바일 월드 콩그레스 2025에서는 오디오 또는 시각적 조작을 실시간으로 감지하도록 설계된 온디바이스 도구에 대한 여러 시연이 진행됐다. 아직 상업적으로 이용 가능하지는 않지만 이러한 구현은 외부 인증 서비스에 대한 사용자 의존도를 줄이는 것을 목표로 하고 있다.

전문가들은 최근 다양한 형태로 급증하는 인공슬롯버프 생성 딥페이크 범죄를 차단하기 위해서는 인공슬롯버프 선도국가들을 중심으로 인공슬롯버프 딥페이크로부터 사용자들을 보호하기 위한 법안을 시급히 제정해 강력한 법적 제제를 가해야 한다는 의견을 제시함과 동시에 영리추구에만 혈안이 되어 있는 인공슬롯버프 개발 기술 기업들의 소홀한 안전대책을 비난하고 있다.

따라서 앞으로 인공슬롯버프을 개발 배포하는 기술 기업들이 책임 의식을 갖고 인공슬롯버프을 활용한 각종 범죄 행위 차단을 위한 보다 근본적이고 적극적인 대책 마련에 나서야 하며 이를 도외시할 경우 기술 기업들에 대한 강력한 제제 조치 등이 시행돼야 할 것이라고 지적하고 있다. [ 슬롯 사이트 드림]