틱톡과 유튜브에 '청주여자교도소 근황'이라는 제목의 영상들이 올라오기 시작했습니다. 영상 속에는 실제 수감자들과 닮은 인물들이 자유롭게 활보하며 일상을 보내는 모습이 담겨 있었죠.

하지만 이 영상들은 모두 AI로 만들어진 가짜였습니다. 실제 범죄자들의 얼굴을 학습시켜 만든 딥페이크 기술로, 마치 그들이 교도소 밖에서 자유롭게 지내는 것처럼 연출한 거예요.

문제는 이런 영상들이 '교도소 식사', '교도소 화보' 같은 자극적인 제목으로 퍼지면서 범죄를 오락거리로 소비하는 문화를 만들어내고 있다는 점입니다. AI 기술의 접근성이 좋아지면서 이런 현상은 갈수록 진화하고 있어요.

AI로 누군가의 얼굴을 무단으로 사용해 가짜 이미지를 만드는 행위는 생각보다 복잡한 법적 문제를 일으킬 수 있습니다. 특히 실존 인물의 얼굴을 사용할 때는 더욱 조심해야 해요.

초상권 침해가 가장 기본적인 문제입니다. 다른 사람의 얼굴을 동의 없이 사용하면 민사상 손해배상 책임을 질 수 있거든요. 설령 범죄자라고 해도 초상권은 여전히 존재합니다.

더 심각한 건 명예훼손이나 모독죄로 이어질 가능성이에요. AI로 만든 가짜 이미지가 특정인을 비하하거나 잘못된 정보를 퍼뜨리는 용도로 사용된다면, 형사처벌까지 받을 수 있습니다.

예전에는 딥페이크를 만들려면 전문 지식과 고성능 컴퓨터가 필요했지만, 이제는 스마트폰 앱으로도 충분히 가능한 일이 됐습니다. FaceSwap, DeepFaceLab 같은 도구들이 일반인도 쉽게 사용할 수 있게 발전했거든요.

문제는 기술의 진입장벽이 낮아질수록 악용 사례도 늘어난다는 점이에요. 단순히 재미로 시작한 일이 피해자에게는 심각한 정신적 피해를 줄 수 있습니다.

특히 범죄자를 소재로 한 콘텐츠는 피해자나 유족들에게 2차 가해가 될 수 있어요. 범죄를 오락으로 소비하는 문화 자체가 사회적으로 바람직하지 않다는 지적도 나오고 있습니다.

그렇다면 AI 이미지 생성 도구를 안전하게 사용하려면 어떻게 해야 할까요? 가장 중요한 원칙은 실존 인물의 얼굴을 무단으로 사용하지 않는 것입니다.

대신 완전히 가상의 인물을 만들거나, 본인의 얼굴만 사용하세요. 미드저니(Midjourney)나 스테이블 디퓨전(Stable Diffusion) 같은 도구들은 실제 사람과 닮지 않은 가상 인물을 생성하는 데 특화되어 있어요.

만약 다른 사람의 얼굴을 사용해야 한다면 반드시 사전 동의를 받으세요. 그리고 만든 이미지가 어떤 용도로 사용될지 명확히 설명하는 것도 중요합니다.

상업적 용도로 사용할 계획이라면 더욱 신중해야 해요. 저작권이나 퍼블리시티권 같은 복잡한 법적 문제가 얽힐 수 있거든요.

AI 기술이 대중화되면서 윤리적 사용에 대한 책임도 개인에게 넘어오고 있습니다. 기업이나 연구기관만의 문제가 아니라 AI를 사용하는 모든 사람이 고민해야 할 지점이 된 거죠.

미국 국립표준기술연구소(NIST)에서 2023년 발표한 'AI 위험 관리 프레임워크(AI RMF)'도 이런 변화를 반영하고 있어요. 개인 사용자도 AI의 잠재적 위험을 인식하고 책임감 있게 사용해야 한다는 내용이 포함되어 있습니다.

특히 피지컬 AI 시대가 오면서 AI가 야기할 수 있는 해악은 단순한 기계적 오작동을 넘어서고 있습니다. 사회적 편견을 강화하거나 개인의 존엄성을 해치는 문제까지 고려해야 하는 시점이에요.