김휘강 고려대 정보보호대학원 교수는 AI 기반 가짜 콘텐츠가 현실 세계에 미치는 영향을 분석하며, 대중의 진실 민감도가 떨어지고 있다고 진단했다. 최근 SNS에서 화제가 된 '야구장 여신' 영상은 AI로 제작된 가짜 중계 화면으로, 투수와 타자의 시대 불일치 등 비현실적 요소가 포함됐음에도 많은 이용자가 실제 장면으로 받아들였다. 이는 AI 기술이 얼굴, 목소리, 움직임까지 정교하게 재현할 수 있게 되면서 발생한 현상으로, 과거 딥페이크는 주로 연예인 음란물 제작에 악용됐으나 최근에는 지인 사진 악용, 졸업앨범 기피 현상 등으로 확대되고 있다. 특히 딥보이스 기술과 결합하면 보이스피싱이 더욱 정교해져 개인정보 유출 위험도 커지고 있다.
딥페이크 범죄는 단순한 영상 조작을 넘어 사회적 판단 자체를 왜곡할 수 있다. 정치인의 허위 발언 영상이 퍼지면 유권자는 잘못된 정보에 노출되며, 이는 선거 결과에까지 영향을 미칠 수 있다. 김 교수는 "가짜가 범람할수록 사람들은 진짜의 가치에 무감각해지고 도파민 역치를 끌어올리는 데만 반응하는 사회가 될 것"이라며, 인간의 판단 능력이 무뎌지는 것을 막아야 한다고 강조했다. 그는 2017년 창업한 'AI스페라'를 통해 전 세계 유해 IP 분석과 딥페이크 음란물 사이트 IP 추적에 기여하고 있으며, 2024년 사이버치안대상 대통령표창을 수상했다.
AI 생성 콘텐츠의 정교화에 대응해 탐지 기술도 발전하고 있다. 카메라 촬영 영상에는 고유한 전자기적 노이즈가 남아 있어 촬영 장비 추적이 가능하며, AI 생성물은 이러한 물리적 흔적이 부족하다. 음성 역시 사람 목소리와 달리 지나치게 균일한 패턴을 보인다. 그러나 실시간 음성 분석 기술은 개인정보 침해 논란을 일으킬 수 있어 기술적 대응만으로는 한계가 있다. 김 교수는 "딥페이크 영상을 탐지하고 차단하는 것도 중요하지만, 그 전에 개인정보 침해 문제부터 관리해야 한다"고 말했다. 선거철 무분별한 홍보 문자와 악성 링크 연결, 80~90% 사실에 거짓을 섞은 허위정보 등이 사회적 판단 능력을 약화시키는 주요 요인으로 지목됐다.
딥페이크 음란물 사이트 '미스터 딥페이크'는 2025년 글로벌 이슈로 떠올랐으나 폐쇄된 이후에도 지인 사진 악용 사례가 늘고 있다. 김 교수는 "졸업앨범 제작을 꺼리는 분위기가 생길 정도로 딥페이크 범죄가 일상화되고 있다"며, "집단 분위기에 휩쓸리지 않고 스스로 의심하는 태도가 중요하다"고 조언했다. 그는 "에코 체임버 현상으로 특정 정보만 반복 소비하면 다른 관점은 받아들이기 어려워진다"며, 다수의 의견을 무비판적으로 수용하는 사회적 분위기를 경계했다.
김 교수는 1994년 카이스트 해킹 동아리 활동을 시작으로 보안 분야에 입문했으며, 1999년 '에이쓰리시큐리티' 창업, 2017년 'AI스페라' 설립, 2023년 '크리미널 IP' 출시 등 보안 기술 발전에 기여해왔다. 그는 "AI를 활용한 보안(AI for Security)과 AI를 위한 보안(Security for AI) 두 흐름이 공존해야 한다"며, "AI 기술이 보안 업무를 효율화하는 동시에 AI 자체를 보호하는 체계가 필요하다"고 말했다. 특히 "가짜뉴스가 선거와 같은 중요한 사회적 결정에 영향을 미칠 수 있는 만큼, 검증 시스템과 사회적 인식 개선이 시급하다"고 강조했다.
