딥페이크 식별하는 방법
목차
오늘은 딥페이크 식별하는 방법 대해서 자세히 살펴보겠습니다.
최근 인공지능 딥러닝 기술과 AI를 결합한 딥페이크를 통해 사실적으로 조작된 오디오 및 비디오 콘텐츠가 제작, 유통되고 있습니다.
딥페이크는 대부분의 인터넷 잘못된 정보를 기반으로 하고 있습니다. 그리고 이제 그것들을 만드는 것이 이전보다 더 쉬워졌습니다.
2024년에는 딥페이크가 얼마나 강력한 조작 도구가 될 수 있는지를 고려할 때 딥페이크 탐지 방법을 아는 것이 가장 시급한 과제입니다. 이는 기술이 항상 양날의 검과 같다는 점을 반드시 인식하고 사용해야 합니다.
이러한 점을 고려하여 딥페이크가 무엇이며 딥페이크는 어떻게 식별할 수 있는지 알아보겠습니다.
딥페이크 정의
간단히 말해, 데스크톱 또는 스마트폰 애플리케이션으로 만든 가짜 미디어입니다. 이러한 애플리케이션은 특정 알고리즘을 사용하여 원본의 일부를 대체하고 다른 부분으로 교체합니다.
아래 오바마의 딥페이크 동영상이 가장 대표적인 사례입니다.
동영상이 정교하게 조작되어 실제와 가짜를 구분하기 정말 힘들 정도 입니다.
얼마 전만 해도 이렇게 설득력 있는 동영상을 제작하는 것이 매우 어려웠지만, 이제는 강력한 그래픽 카드와 좋은 AI 얼굴 교체 도구만 있으면 며칠 만에 완성할 수 있습니다.
딥페이크 식별하는 방법
모든 딥페이크가 동등하게 생성되지는 않습니다. 그리고 그러므로 모든 기술이 모든 곳에서 작동하는 것은 아닙니다.
일부는 기계로 만들어진 것으로 알려진 확실한 조짐이 있지만, 다른 것들은 주의 깊은 관찰이 필요하거나 때로는 다른 인공지능 도구가 구분 되도록 합니다.
여전히, 이것은 알고리즘이 저사양 하드웨어에서 효율적이고 강력한 컴퓨팅이 진입함에 따라 날로 간단해지고 있습니다.
이로 인해 우리가 흔한 딥페이크 사기에 대해 인식하고 진실과 구분할 수 있도록 주의하는 것이 중요합니다.
1. 피부 톤
이것이 가장 먼저 주목해야 할 사항입니다. ‘작업한’ 부분(일반적으로 얼굴)은 피부색에 약간의 차이가 있어 눈에 보이는 나머지 신체 부위와 불일치를 일으킬 수 있습니다.
위 이미지의 왼쪽은 우크라이나 대통령 볼로디미르 젤렌스키가 자신의 군대와 국민에게 러시아에 항복할 것을 요구하는 가짜 동영상에서 가져온 것입니다.
하지만 이 평범한 복사-붙여넣기 작업에 속은 사람은 아무도 없었고, 곧바로 딥페이크임이 밝혀졌습니다.
2. 표정
이것은 특히 아마추어가 딥페이크 전문가로 위장하는 경우에 주목할만한 것입니다. 그들의 초보적인 작품들은 종종 자연스럽지 않은 입술 움직임을 가지고 있습니다.
이는 인간적인 일시적인 정지 없이 더 가짜로 식별될 수 있습니다. 아래의 딥페이크 비디오를 보세요.
그러나 일부 알고리즘에는 호흡 일시 중단을 위한 규정이 있습니다. 그럼에도 불구하고, 비슷한 패턴을 따르는 동일한 정지 및 머리 움직임을 보면 일반적으로 너무 기계적이어서 무시하기 힘듭니다.
마찬가지로 눈을 깜빡이는 것도 딥페이크가 드러나는 또 다른 영역입니다. 이 역시 (코드에 기록된 대로) 주기를 거치는데, 같은 인물의 실제 동영상과 함께 관찰하면 사람처럼 보이지 않습니다.
딥페이크 식별에 사용할 수 있는 또 다른 방법은 눈동자의 움직임입니다. 감정과 산만함이 없는 기계인 인공지능은 보통 사람보다 대화할 때 더 집중하는 것처럼 보일 때가 많습니다.
결론적으로 딥페이크는 아래 모건 프리먼의 딥페이크 동영상처럼 (거의) 완벽에 가깝게 제작되지 않는 한 쉽게 발견할 수 있습니다.
3. 확대
그렇다면 진짜 모건 프리먼이 아니라는 것을 어떻게 알 수 있을까요?
앞의 동영상의 가장 좋은 점은 고화질이라는 점입니다. 최고 해상도(사용 가능한 4K)로 전환하면 인조인간을 알아볼 수 있습니다.
그리고 화면이 클수록 더 좋습니다. 또는 스크린샷을 찍고 확대하여 눈에 띄지 않는 컴퓨터 작업이 있는지 확인할 수 있습니다.
메이크업한 피부가 보이나요? 아무리 정교한 알고리즘이라도 작은 디테일은 알고리즘이 실패하는 부분입니다.
피부가 고르지 않고 얼굴(및 머리)의 머리카락 재현이 자연스럽지 않고 접착제로 붙인 것처럼 보입니다.
4. 세부 정보
우리가 말할 때는 많은 변화가 일어납니다. 사람마다 입술, 혀, 턱, 뺨 등이 자신만의 고유한 패턴으로 움직이게 되는 자신만의 스타일이 있습니다.
게다가 딥페이크 기술은 아직 말하는 동안 입 안쪽의 시각적 효과를 완벽하게 파악하지 못했습니다. 예를 들어, 오바마 딥페이크에서는 아래(하악) 치아를 하나하나 지적할 수 없습니다.
아래쪽의 흰색 띠만 보일 뿐 혀가 움직이는 흔적은 전혀 보이지 않습니다.
진짜 오바마 동영상을 보면 이 AI 복제품보다 훨씬 더 많은 표정을 지으며 얼굴 움직임이 많은 것을 볼 수 있습니다.
게다가 동영상 자체가 매우 선명하지 않다는 것을 알 수 있습니다. 실제 모습을 감추기 위해 압축하거나 컴퓨팅의 한계로 인해 화질이 매우 낮습니다.
5. 전환
딥페이크 제작의 한 가지 한계는 프레임 단위로 생성된다는 점입니다. 마법을 그대로 유지하려면 모든 프레임에 완벽한 마스킹이 적용되었는지 확인해야 합니다.
이 때문에 대부분의 설득력 있는 딥페이크 동영상은 얼굴 움직임이 극히 제한적입니다. 측면과 정면의 전환이 크리에이티브의 병목 현상을 드러낼 수 있기 때문에 측면이 없는 정면의 얼굴만 보여줍니다.
톰 크루즈 딥페이크의 아래 스틸을 확인해 보세요.
동영상 속도를 늦추고 35~40초부터 자세히 관찰하면 측면에서 정면으로 전환되는 부분이 약간 흐릿하게 보입니다.
이러한 부분이 가장 감추기 어려운 부분이자 이러한 AI 창작물을 발견하기 가장 좋은 부분입니다.
따라서 딥페이크를 발견하고 잘못된 정보를 제한하는 데 도움이 될 수 있는 몇 가지 방법을 소개합니다.
딥페이크 식별하는 방법 요약
지금까지 딥페이크가 무엇이며 딥페이크는 어떻게 식별할 수 있는지 알아보았습니다.
딥페이크 식별하는 방법을 10가지로 요약하면 다음과 같습니다.
- 피부 톤의 변화를 확인합니다.
- 부자연스러운 립싱크, 로봇처럼 보이거나 눈을 깜빡이지 않는 등 부자연스러운 모습을 주의 깊게 살펴봅니다.
- 확대하여 피부 질감, 머리카락 재현 등이 사실적인지 확인합니다.
- 얼굴 표정과 말하는 스타일을 실제 동영상과 비교합니다.
- 고화질 버전을 사용할 수 있는지 확인합니다.
- 구글 검색을 통해 가짜인지 확인합니다.
- 전체적인 얼굴 크기를 메모하고 실제 얼굴과 비교합니다.
- 동영상 속도를 늦춰서 나쁜 전환을 포착합니다.
- 입 안이 실제와 비슷하고 디테일하게 보이는지 확인합니다.
- 모호한 부분이 있으면 친구와 가족에게 공유하고 피드백을 요청하세요.
이러한 방법들을 이용해서 딥페이크를 식별하고 오인하지 않도록 도움이 되시길 바라겠습니다.
관련 인기 글 모음
