더에듀 | 정부와 학교 차원에서 오랜 세월 사이버불링 예방 교육과 캠페인이 이루어졌으나, 혐오사회, 혐오경제라는 신조어가 생길 정도로 심각해지고 있다. 새로운 디지털 기술이 도입될 때마다 몰카, 딥페이크 등 신종 사이버불링 수법이 등장하고, 사회 변화에 따라 사이버불링의 개념도 달라지기 때문이다. 이에 디지털리터러시협회(CDL)와 구글은 2023년부터 사이버불링 문제를 재조명하고 해법을 제시하기 위해 '잠시만요 캠페인'을 개시했다. 유튜브 크리에이터들이 참여해 캠페인 영상을 만들어 사이버불링에 대한 올바른 인식과 이해를 돕고, 교육 콘텐츠를 개발해 학교에 보급하고 학교에서 교육 프로그램을 운영하고 있다. <더에듀>는 박일준 '디지털리터러시협회' 회장을 통해 교육자와 교육 행정가들이 알아야 할 사이버불링의 위험성을 안내하며 '잠시만요 캠페인'의 성과와 실천 방안을 공유로 예방 활동 및 인식 확산에 나서고자 한다.

 

 

2023년 9월, 스페인 남서부의 작은 도시 알멘드라레호(Almendralejo)에서 충격적인 사건이 발생했다. 총 5개의 중·고등학교 중 4개 학교에서 딥페이크로 조작된 여학생들의 나체 사진이 유포된 것이다. 사건 발생 2주 만에 경찰은 관련 학생 26명을 조사했으며, 이 중 21명은 형사처벌 대상이 되었다.

 

이들은 온라인에서 쉽게 접속할 수 있는 딥페이크 합성 웹사이트를 이용해 실제 인물의 사진을 업로드한 뒤, 이를 나체 이미지와 합성했다. 과거에는 딥페이크 기술을 활용하려면 방대한 양의 데이터가 필요했지만, 이제는 단 몇 장의 사진만으로 몇 초 만에 합성된 이미지나 영상을 만들 수 있게 되었다. 이 사건은 딥페이크 기술이 사이버 성범죄에 악용되는 위험성을 여실히 보여준다.

 

사이버불링은 디지털 기술의 발전에 따라 진화한다. 최근 인공지능 기술이 발전하면서 사이버불링에 악용하는 사례가 늘고 있다. 가장 문제가 되는 것이 딥페이크에 의한 사이버불링 콘텐츠 제작이다.

 

딥페이크는 기존 사진이나 영상에 다른 사람의 얼굴이나 목소리를 삽입하여 마치 그 사람이 실제로 말하거나 행동하는 것처럼 보이도록 조작하는 기술이다. 과거에는 전문가들만이 할 수 있었던 기술이었지만, 이제는 누구나 간단한 앱이나 웹사이트를 통해 딥페이크 영상을 만들 수 있다. 이러한 기술이 악용될 경우, 사이버불링의 도구로 사용될 가능성이 크다.

 

주로 텍스트 기반으로 사이버불링이 이루어지다가 저가의 카메라와 스트리밍 기술이 발전하면서 영상 콘텐츠에 의한 사이버불링이 늘어났다. 최근 딥페이크 기술이 등장하면서 가짜 영상과 음성까지 이용한 사이버불링이 나타나고 있다.

 

 

콘텐츠에 의한 사이버불링은 빠르게 확산되고, 한 번 퍼진 후에는 삭제가 쉽지 않다. 실제로, 2020년 6월부터 2023년 8월까지 방송통신심의위원회가 시정 요구한 딥페이크 성적 허위 영상물은 9006건이었지만, 이 중 삭제된 것은 4.5%에 불과했다. 피해자 입장에서는 끔찍한 일이다. 딥페이크 피해를 막기 위해 AI 탐지 기술이 개발되고 있으나, 기술의 발전 속도를 따라잡기 어려운 것이 현실이다.

 

이에 대한 보완책으로는 AI 탐지 기술의 지속적인 업데이트와 데이터셋의 확장, 블록체인 기반의 디지털 인증 시스템 도입, 그리고 대중을 대상으로 한 미디어 리터러시 교육이 필요하다. 또한, 법적 규제를 강화하여 딥페이크 콘텐츠의 제작 및 유포에 대한 엄격한 처벌 기준을 마련하는 것도 효과적인 대응 방안이 될 수 있다.

 

2024년 디지털리터러시협회의 조사에 따르면, 대한민국 국민 58.5%가 딥페이크 콘텐츠를 경험한 적이 있고, 55.2%는 딥페이크 여부를 구별하기 어렵다고 답했다.

 

기술 발전에 따라 점점 더 식별이 어려워질 수 있지만, 아직까지는 교육과 훈련을 통해 능력을 기르면 누구나 딥페이크 콘텐츠를 식별할 수 있고, 피해를 예방할 수 있다. 이를 위해 디지털리터러시협회는 딥페이크 탐지 방법으로 SPOT이라는 딥페이크 식별법을 만들어 교육, 보급하고 있다.

 

◆ 디지털리터러시협회의 딥페이크 식별법 ‘SPOT’ - 딥페이크를 찾아라!(Spot the Deepfake!)   S - 메타데이터와 출처를 확인하라!(Scan Metadata & Source!) · 메타데이터(파일 속성 정보)를 분석해 AI 이용 여부와 촬영 장비 정보 확인 · 제작자, 배포자를 신뢰할 수 있고, 출처가 확실한지 판단 · 공식 뉴스나 기관에서 동일한 내용을 보도했는지 확인   P - 목적과 내용을 파악하라!(Prob the Purpose!) · 어떤 목적으로 왜 제작하고 공유했는지 목적과 의도를 추측 · 선정적인 내용과 과장된 표현이 포함돼 있는지 확인 · 누군가 이익을 보고 피해를 입는지 판단   O - 이상한 부분을 찾아라!(Observe the Oddities!) · 말소리와 입 모양의 싱크가 어긋나거나 눈 깜빡임 등 얼굴 움직임이 부자연스러운지 확인 · 조명과 그림자가 실제 물리 법칙에 맞는지 확인 · 어딘지 괴기스러운 느낌   T - AI 도구로 확인하라!(Test with AI Tools!) · 이미지나 영상의 이상 패턴을 감지하는 프로그램을 활용하여 확인 · 얼굴의 미세한 생체 신호(깜빡임, 표정 변화, 피부 질감 등)를 분석하는 프로그램을 활용하여 확인 · 음성의 주파수 패턴을 분석하는 프로그램을 활용하여 확인

 

아직까지는 이와 같은 SPOT 방법을 이용하면 누구나 딥페이크 콘텐츠를 판별할 수 있다.

 

SPOT의 네 가지 방법은 크게 세 가지로 분류할 수 있다.

---

첫째, 이미지나 영상의 외형적 요소를 분석하여 확인하는 방법(S, O).

둘째, AI 기술을 활용하여 조작 여부를 탐지하는 방법(T).

셋째, 콘텐츠의 제작 목적과 의도를 분석하여 진위 여부를 판단하는 방법(P).

---

종합하면 이미지와 같이 외면을 통해 확인하는 법, 기술을 통해 확인하는 법, 그리고 목적·의도·내용과 같이 내면을 통해 확인하는 법이다.

 

딥페이크 기술이 계속해서 발전하고 있기 때문에 언젠가는 사람의 눈으로 식별하기 어려운 수준에 이를 수 있고, 딥페이크를 식별하는 인공지능 기술이 발전하면 그것마저도 속이는 기술이 또다시 발전하여 기술에 의한 식별도 쉽지 않을 수 있다. 하지만 내면은 시대가 변하고 기술이 발전해도 크게 달라지지 않는다.

 

결국 어떠한 상황에서도 남는 방법은 비판적인 사고를 바탕으로 내면을 꿰뚫어 볼 수 있는 혜안이다. 의미를 통해 진실함을 볼 수 있는 우리들의 눈이다.

 

딥페이크 다음에 또 어떤 것이 등장할지 모른다. 인공지능과 생성형 미디어 기술이 더욱 발전하면서, 가짜 영상과 음성의 정교함이 증가할 가능성이 크다. 이에 대비하기 위해, AI 탐지 기술을 지속해서 발전시키고, 법적 규제와 디지털 리터러시 교육을 강화해야 한다.

 

그러나 무엇보다 중요한 것은 기술의 변화와 악용 가능성을 이해하고, 문제를 지혜롭게 예방하고 대처하기 위해 끊임없이 노력하는 것이다.

 

딥페이크 문제 해결은 기술이 아닌, 우리의 사고력과 공동체의 책임 의식에서 시작된다. 사회가 함께 협력하여 이 문제를 해결해 나갈 때, 우리는 더욱 안전한 디지털 환경을 만들어 갈 수 있을 것이다.<끝>

 

# 연재 '사이버불링, 잠시만요'를 마칩니다. 그동안 연재해주신 박일준 디지털리터러시협회 회장님과 애독해주신 독자분들께 감사드립니다.