2023년 개정된 공직선거법이 AI 기반 딥페이크 콘텐츠에 대한 강력한 규제를 도입하면서 선거 홍보와 정치 커뮤니케이션 환경에도 변화가 나타나고 있다. 특히 선거일 전 90일부터 선거일까지 AI를 활용한 딥페이크 영상·이미지·음향의 제작과 게시, 유포까지 전면 금지되면서 홍보담당자와 언론의 주의가 요구된다.
현행 공직선거법은 실제와 구분하기 어려운 AI 기반 가상 콘텐츠를 선거운동에 활용하는 행위를 제한하고 있다. 규제를 위반할 경우 최대 징역 7년 또는 5000만원 이하 벌금이 부과될 수 있어 처벌 수위도 높은 편이다.
선거 기간 외에는 AI 콘텐츠 활용이 가능하지만, AI 생성 사실을 반드시 표시해야 한다. 표시 의무를 위반할 경우 최대 1000만원 이하 과태료가 부과된다. 특히 허위 사실이 포함된 AI 콘텐츠는 가중처벌 대상이 된다.
실제 위반 사례도 잇따르고 있다. 중앙선거관리위원회는 2025년 대선 직전 AI 여성 아나운서를 활용한 뉴스 형식 영상과 후보자 합성 이미지를 게시한 유튜브 운영자 등을 경찰에 고발했다. 또 일부 지역에서는 AI로 제작한 단체장 찬양 노래와 가짜 해외 언론 인터뷰 영상 등이 표시 의무 위반 및 허위사실공표 혐의로 제재를 받았다.
홍보담당자들은 선거와 직·간접적으로 연관될 수 있는 콘텐츠 제작 시 AI 활용 여부를 더욱 신중하게 검토해야 하는 상황이다. 특히 AI 음성, 가상 뉴스 형식 영상, 실제 인물 합성 콘텐츠는 선관위의 주요 점검 대상이 될 가능성이 높다.
언론계에서도 AI 콘텐츠 검증 책임이 커지고 있다. 기자들은 선거 관련 영상·이미지 보도 시 AI 생성 여부와 출처, 허위 정보 포함 가능성을 함께 확인해야 한다는 지적이 나온다.
다만 법 적용 기준의 모호성은 여전히 논란으로 남아 있다. 현행법은 ‘실제와 구분하기 어려운 가상의 영상·이미지·음향’을 규제 대상으로 규정하지만, 어디까지를 딥페이크로 볼 것인지 명확하지 않다는 비판이 이어지고 있다. AI 활용 콘텐츠가 빠르게 늘어나는 상황에서 표현의 자유와 선거 공정성 사이 균형을 어떻게 맞출지가 향후 과제로 떠오르고 있다.
