나에게 미디어를 접하는 것은 일이고 생활이다. 이처럼 미디어를 소비하는 것이 일상이고, 다른 이들도 미디어를 소비하는 데 많은 시간을 할애하고 있다. 하지만 미디어는 파급력이 높기 때문에 무엇보다 콘텐츠의 진실성이나 유해성에 주의해야 한다. 미디어로 인해 발생하는 문제들은 다양하지만, 요즘 특히 AI 기술력의 발전으로 만들어진 AI 합성물로 인해 여러 가지 문제들이 생겨나고 있다. AI 합성물이란 인공지능(Artificial Intelligence) 기술을 이용해 만들어낸 창작물이나 데이터를 지칭하며, 실제와 구별하기 어려울 정도로 정교하게 합성된 이미지, 영상, 음성 콘텐츠를 의미한다.

 얼마 전 내 수업에서 학생들이 이용하는 자유게시판에 다음과 같은 글이 등장했다. 가족들이 다 같이 모이는 추석 명절에 예전에 봤던 유튜브 영상의 내용을 자식들에게 이야기했는데, 그 영상이 사실이 아니며 AI 합성물이라는 사실이 드러나 창피를 당했다는 내용이었다. 최신 콘텐츠에 익숙하지 않은 사람이라면 AI 합성물의 존재를 알지 못해 충분히 겪을 수 있는 상황이다.
AI 합성물이란 딥러닝 기술을 이용해 특정인의 얼굴이나 목소리를 다른 영상이나 이미지에 합성하는 방식인데, 이미 여러 가지 문제가 발생하고 있어 단순히 기술 발전의 결과로만 볼 수는 없다. 이로 인해 나타난 가장 심각하고 광범위한 문제들은 크게 성범죄 및 인권 침해, 정보 조작과 사회 혼란, 그리고 법적·윤리적 문제로 나눌 수 있다. 특히 딥페이크(Deepfake) 기술로 인한 피해 사례가 급증하고 있다.

 딥페이크는 AI의 딥러닝 기술을 이용해 특정 인물의 얼굴이나 음성을 기존 영상뿐만 아니라 오디오에도 합성하여, 마치 그 인물이 실제로 말하거나 행동하는 것처럼 보이게 만든다. 이러한 특성 때문에 디지털 성범죄에도 악용되고 있다. 연예인이나 유명인뿐만 아니라 일반인의 얼굴을 동의 없이 성적인 영상이나 이미지에 합성해 유포하는 사례도 많다. 이로 인해 피해자는 극심한 정신적 고통과 사회적 낙인을 겪으며, 2차 피해까지 이어지는 경우도 적지 않다.
최근에는 10대 미성년자가 가해자 또는 피해자가 되는 사례도 증가하는 추세다. 장난삼아 주변 인물을 합성하는 행위 역시 심각한 문제이며, 딥페이크를 이용해 허위 음란물을 제작하고 이를 협박 수단으로 사용하거나 개인의 명예를 훼손하는 방식으로 악용되기도 한다는 점에서 이는 중대한 사생활 침해이자 범죄 행위라 할 수 있다.

 또한 딥페이크 기술은 진짜와 구별하기 어려운 가짜 콘텐츠를 쉽고 빠르게 생성할 수 있어 사회적 신뢰를 위협한다. 디지털 성범죄뿐만 아니라 가짜 뉴스를 만들어 정보 조작에 활용되기도 하는데, 이미 세대·성별·정치·종교·인종 갈등 등 다양한 갈등 요소로 사회적 통합이 어려운 상황에서 이러한 기술은 갈등을 더욱 부추기는 도구로 사용되고 있다. 특히 선거철이나 사회적 갈등이 심한 시기에 정치인이나 특정 집단을 겨냥한 허위 영상과 이미지, 기사가 대규모로 유포되며 여론을 왜곡하고 사회 분열을 심화시키고 있다.
요즘의 미디어 콘텐츠는 단순한 재미를 넘어 중요한 정보 제공의 역할을 하므로, 콘텐츠를 통해 알게 된 정보를 공유하는 과정에서 의도치 않게 가짜 뉴스를 확산시키는 역할을 하게 될 수도 있어 각별한 주의가 필요하다.

 딥페이크는 금전적 사기와 범죄에도 악용되고 있다. 연예인이나 유명인, 정치인의 얼굴을 합성해 가짜 뉴스나 상품 홍보에 사용하는 사례가 대표적이다. 콘텐츠 속 인물이 유명인일 경우 ‘설마 저 사람이 거짓말을 하겠어?’라는 심리가 작용해 신뢰도가 높아지고, 그로 인해 금전적 피해로 이어질 수 있다. 또한 AI로 복제한 가족이나 지인의 목소리로 전화를 걸어 거액의 송금을 유도하는 보이스피싱 범죄에도 활용되고 있다.
과거에는 문자나 메신저 위주의 보이스피싱이 주를 이뤘지만, 이제는 실제와 구분하기 힘든 복제 음성을 사용하기 때문에 누구나 속을 수 있는 환경이 만들어지고 있다. 가짜가 진짜를 훼손하며 혼란과 피해를 낳고 있다는 점에서 매우 심각한 문제라 할 수 있다.

 그렇다면 우리는 이러한 AI 합성물로 인한 피해를 막기 위해 무엇을 해야 할까. 앞서 언급한 자유게시판 글에 대해 내가 학생에게 한 답변은 ‘정보의 진위 여부를 확인하는 습관을 가지라’는 것이었다. AI 합성물뿐만 아니라 가짜 뉴스 피해를 막기 위해서는 비판적 사고가 무엇보다 중요하다. 특히 미디어에서 접한 내용이 충격적이거나 믿기 어려운 정보라면 무조건 받아들이기보다, 사실인지 의심해 보고 반대 의견이나 관련 자료를 함께 찾아보는 노력이 필요하다.
이 과정에서 원본 영상이나 다른 시각을 담은 콘텐츠를 접할 수 있으며, 여러 자료를 교차 확인하다 보면 어떤 정보가 신뢰할 만한지 자연스럽게 판단할 수 있게 된다.

 아울러 AI 합성물의 특징을 이해하는 것도 도움이 된다. 얼굴이나 신체를 자세히 살펴보았을 때 눈 깜빡임, 피부 질감, 머리카락 경계, 표정 변화가 어색하다면 합성물일 가능성이 높다. 배경 사물이 일그러져 있거나 그림자가 부자연스러운지도 확인해야 한다. 또한 입 모양과 음성이 일치하는지, 목소리의 톤과 억양이 평소와 같은지도 주의 깊게 살펴본다면 진위 여부를 판단하는 데 도움이 된다.

 마지막으로 개인정보와 SNS 등 온라인 활동에 대한 철저한 관리 역시 피해를 줄이는 중요한 방법이다. 얼굴과 음성, 직장이나 학교 정보 등 우리가 무심코 공개한 정보들이 딥페이크 범죄에 악용될 수 있다는 사실을 항상 인지해야 한다. 이러한 경각심이야말로 범죄로부터 자신을 보호하는 첫걸음이다.

 4차 산업혁명과 AI 기술은 우리의 삶을 편리하게 만들고 창작의 무한한 가능성을 열어주고 있다. 그러나 하루가 다르게 발전하는 기술을 이해하지 못한다면 그 피해는 결국 개인에게 돌아올 수 있다. 이러한 현실이 마냥 반갑지만은 않다. 그저 피곤한 하루 속에서 잠시 즐거움을 얻기 위해 소비하는 콘텐츠만큼은, 걱정 없이 온전히 즐길 수 있는 세상이 되기를 바란다.