제9회 전국동시지방선거가 다가오고 있습니다.
후보자의 모습이나 발언을 조작한 딥페이크 가짜 뉴스를 뿌리 뽑기 위해 정부가 최첨단 AI 탐지 기술을 본격적으로 도입, 활용합니다.
윤현석 기자의 보도입니다.
윤현석 기자>
생성형 AI 기술이 발달하면서 선거를 앞둔 시기 딥페이크 범죄가 급증하고 있습니다.
선거관리위원회에 따르면 2024년 치러진 제22대 총선 당시 388건이던 선거기간 딥페이크 영상 삭제 요청은 2025년 지난 대선에선 1만510건으로 급증했습니다.
행정안전부는 딥페이크 범죄에 대응하기 위해 지난 2024년부터 국립과학수사연구원과 함께 AI 기반 딥페이크 탐지 분석 모델을 개발하고 매년 개선하고 있습니다.
올해도 모델 개선을 마친 가운데, 이번 모델의 허위정보 탐지율은 이전 모델에 비해 크게 향상된 것으로 나타났습니다.
녹취> 박남인 / 국립과학수사연구원 연구관
"성능 측면에서 말씀드리면 기존 76%에서 92% 단일 모델로는 성능이 향상됐다고 했는데, 저희 판단 모델은 다수결 투표로 방식이 바뀌었습니다. 그렇게 되면 앙상블 효과가 있기 때문에 저희가 측정한 바로는 97%까지 성능 향상이 되고 있는 실정이고..."
기존에 있던 딥페이크 모델은 얼굴 위주로만 탐지했습니다.
조작된 영역이 얼굴 영역이 아닌 경우에는 탐지를 전혀 하지 못했습니다.
올해 모델은 얼굴이 아닌 영역까지 충분히 탐지가 가능합니다.
영상에서 서류를 위조했거나 이름 등을 조작한 경우도 전부 탐지할 수 있습니다.
행안부는 다가오는 6월 지방선거에 고도화한 분석 모델을 활용한다고 밝혔습니다.
이를 통해 딥페이크 선거영상에 대한 범정부적 대응을 더욱 강화할 계획입니다.
녹취> 윤호중 / 행정안전부 장관
"딥페이크로 의심되는 이미지나 영상이 포착되면 과학적 분석을 통해 조작 여부를 신속히 확인하고 관계기관이 즉각 대응할 수 있도록 하겠습니다."
아울러 선관위와 경찰청 등 관계기관과 협력해 허위 조작 정보에 단호히 대응하고 국민이 신뢰할 수 있는 공정한 선거 환경을 지키겠다고 강조했습니다.
(영상취재: 김태형 임주완 / 영상편집: 김예준 / 영상그래픽: 손윤지)
KTV 윤현석입니다.
( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )
< ⓒ 한국정책방송원 무단전재 및 재배포 금지 >
