생성형 AI 기술이 사회적 신뢰를 위협하는 무기로 변질되고 있다. 특히 선거를 앞두고 AI를 악용한 허위조작정보가 민주주의의 근간을 흔드는 심각한 문제로 대두되자, 정부가 이를 단순 사회 문제를 넘어선 안보 위협으로 규정하고 범부처 차원의 종합 대응 전략을 수립했다. 이것은 일회성 단속이 아닌, 기술 위험에 대한 국가 차원의 거버넌스 구축 선언이다.
정부 전략의 핵심은 방송미디어통신위원회를 중심으로 한 범정부 컨트롤타워 구축에 있다. 각 부처에 흩어져 있던 대응 역량을 하나로 모아 AI 가짜뉴스 생성부터 유포까지 전 주기를 관리하는 체계적 시스템을 가동한다. 이는 기술 발전 속도에 대응하기 위한 민첩하고 일관된 정책 집행을 목표로 한다. 법무부, 대검찰청, 경찰청은 무관용 원칙을 내세웠다. AI를 악용한 흑색선전, 공무원 선거개입 등을 중점 단속 대상으로 선정하고 국내외를 불문하고 끝까지 추적해 엄정 대응할 방침을 밝혔다. 이는 가짜뉴스 생산 및 유포 행위가 심각한 범죄라는 사회적 인식을 확립하려는 강력한 신호다.
기술적 대응과 사회적 면역력 강화 전략도 병행한다. 과학기술정보통신부는 딥페이크 탐지 및 차단 기술 개발을 지원하며 AI에 대한 기술적 방어선을 구축한다. 동시에 문화체육관광부와 교육부는 미디어 문해력 교육을 전 국민으로 확대한다. 이는 단기적인 규제와 처벌을 넘어, 장기적으로 시민 스스로가 허위 정보를 분별할 수 있는 사회적 역량을 키우는 근본적인 해결책이다.
정부의 이번 총력 대응은 AI 기술을 활용하는 모든 기업에 중대한 시사점을 던진다. AI 기술의 사회적 책임과 윤리적 기준이 더 이상 선택이 아닌 필수 경영 요소가 되었음을 의미한다. AI 기술의 부작용에 대한 정부의 강력한 개입은 관련 플랫폼 기업에 대한 규제 강화로 이어질 가능성이 크다. 따라서 기업들은 자체적인 AI 윤리 가이드라인을 강화하고 허위 정보 필터링 시스템을 고도화하는 등 선제적인 리스크 관리 전략을 수립해야만 한다.