신경은 기자>
혹시 유튜브, 페이스북 등 SNS에서 의사나 전문가가 등장하는 영상, 보신 적 있으신가요?
최근 들어 딥페이크나 AI 영상 등을 이용해 전문가, 유명인을 사칭하는 광고가 급증하고 있습니다.
사이드 얼핏 보면 진짜 약사가 말하는 것 같지만 이 역시, AI로 생성된 가짜 약사인데요, 이처럼 인공지능 관련 불법 의료 광고는 11월 한 달 기준, 93건에 이릅니다.
센터 문제는 이런 허위 광고가 급속히 유포되면서 고령층 등 상대적으로 정보 판단에 취약한 계층을 중심으로 피해가 늘고 있다는 건데요, 이에 정부가 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했습니다.
먼저, AI 허위·과장광고의 생성과 유통을 사전에 방지하기 위해 AI 생성물 표시제를 도입합니다.
앞으로는 AI로 제작되거나 편집된 사진, 영상, 음성 콘텐츠 등은 "이것은 AI가 생성한 것"이라는 사실을 명확하게 표시해야 하고, 플랫폼 사업자도 이러한 표시 의무 준수를 관리해야 합니다.
사이드 이와 더불어 AI로 만든 허위·과장 광고의 신속한 차단 방안도 마련됐는데요.

녹취> 이동훈 / 국무조정실 재정금융정책관
"앞으로 해당 영역의 허위, 과장광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이루어질 것으로 기대합니다. 아울러, 식약처 전용 방미심위 심의신청 시스템 일명 패스트트랙도 이들 품목까지 확대 적용하여 안건 상정 시간도 단축할 계획입니다."

식품이나 의약품 등 소비자 피해 위험이 높은 분야를 서면심의 대상으로 추가하고, 허위·과장 광고가 의심되는 경우, SNS 등에서 유통된 콘텐츠는 신속 심의 절차를 통해 24시간 이내에 차단될 수 있도록 규정을 정비합니다.
센터 또 국민의 생명이나 재산 피해 우려가 있는 긴급 사안이라면, 심의가 완료되기 전이라도 플랫폼에 대한 임시 차단 명령을 내릴 수 있도록 할 방침입니다.
사이드 'AI 가짜 의사·전문가 광고'에 대한 사후 제재 또한 강화됩니다.
악의적 허위정보 유통으로 인해 소비자 피해가 생긴 경우, 피해 금액의 최대 5배까지 손해배상 책임을 물을 수 있는 징벌적 손해배상 제도가 도입되고, 표시광고법상 과징금도 대폭 상향됩니다.
생성형 AI 기술이 이제는 우리 실생활 전반에 광범위하게 활용되고 있는데요, 특히 식·의약품 분야는 국민 건강과 직결되는 만큼 이번 정책으로 더 이상 잘못된 정보로 인해 피해 보는 일이 없길 바라봅니다.

지금까지 클릭K 플러스였습니다.

( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )
< ⓒ 한국정책방송원 무단전재 및 재배포 금지 >