인공 지능을 사용하여 만들어진 가짜 포르노를 매매하는 암시장이 AI 선진국과 중국에서 확대되고 있다고한다. "딥 페이크"라는 이미지, 동영상 생성 AI의 등장은 보도된지 오래되었지만, 드디어 시장에 "서비스"로 대중에게 시작하는 단계로 이른것 같다.
중국계 언론들은, 중국 국내에서 연예인 얼굴을 합성 한 가짜 포르노 암시장이 생겨나고 있다고 지적하는데, 그 배경이 되는 것은 AI 기술의 저가격 화라고 한다.
페이크 포르노의 생성을 하청받은 업체는, 온라인 고객을 유치. WeChat이나 Alipay 등을 통해 결제를 받은 후, 클라우드 스토리지 등의 URL 등을 보내 제품을 제공한다. 가짜 포르노의 가격은 질과 길이에 따라 다르지만, 확인 된 바에 의하면 700개의 동영상이 세트로 된 상품이 약 158 위안(약 2만 4천원)에 판매 된 사례가 있었다고한다.
한편, 고객이 선택한 연예인과 일반인의 사진, 동영상을 소재로하고, 주문을 받아서 만들어진 동영상을 제공하는 업체도 나타나고 있다고한다. 그 경우, 어떤 업체의 가격 설정은 분당 40위안(약 6천 3백원)이라고 보도되고 있다. 그 업자의 증언에 의하면, 사진이 다양할 수록 더 정교한 가짜 포르노를 제작 할 수있다고한다.
중국 언론은, 가짜 포르노 암시장이 확대하는 것으로, 개인 정보 보호 및 정보 보안에 대한 사회적 관심이 높아지는 것이라하고있다. 예를 들어, 미워하는 대상에게 피해를 주려고, 개인이 가짜 포르노를 확산하는 행위가 확산 될 가능성도 부정 할 수 없기 때문....
지난 3월에는, 전국 인민 대회(우리의 국회)의 대변인 장예쑤이 씨가, 중국은 AI에 관한 입법을 추진하고 있다고 발언했지만, 중국 사이버 공간 전략 연구소 관계자는 기술의 발전이 법률보다 선행하고 있다고하고, 국내에는 아직 AI 관련 법률이 미비하다고 지적하고 있다.
중국에서 가짜 포르노를 판매하는 포르노 업자는, 현행법의 범주에서 음란물 유포 및 초상권 침해로 처벌되지만, 향후 중국에서 AI에 대해 어떤 규제가 특별히 마련될 것인지 두고봐야 할 일이다.
일본의 한 연구자는 "딥 러닝 기술은 우수한 학생이라면 다룰 수 있는 대용품이다"라고 지적. 앞으로 가짜 포르노뿐만 아니라 정치, 사회 문제의 네거티브 캠페인 등에 악용된다는 시나리오도 충분히 생각할 수있다는....
가짜 뉴스가 아닌, AI가 만들어내는 대량의 가짜 콘텐츠에 대해 사회는 어떻게 대응해야할까? 실제로 시장 확대를 보이기 시작한 지금, "어둠의 유스 케이스"를 상정하고 앞질러가야 할 필요가 있다.