신경은 앵커>
'인공지능 서비스'를 안심하고 이용할 수 있도록, 정부가 대책을 마련했습니다.
'인공지능 서비스와 제품에 인증 체계'를 도입하고, '학습용 데이터'에 '표준 기준'도 도입합니다.
문기혁 기자입니다.

믄기혁 기자>
인공지능 기반의 챗봇 서비스인 '이루다'.
개발 과정에서 약 60만 명의 카카오톡 대화 문장 94억여 건을 무단으로 이용한 것으로 확인됐습니다.
또, 몇몇 이용자들이 '이루다'를 향해 성희롱을 하는가 하면, '이루다'가 성소수자를 비하하는 등 '윤리문제'도 도마에 올랐습니다.
정부가 이처럼 인공지능 서비스와 제품 개발 과정에서 생기는 위험과 부작용을 최소화하기 위해 신뢰 확보 방안을 발표했습니다.

녹취> 윤성로 / 4차산업혁명위원장
"인공지능이 전 산업·사회에 빠르게 도입, 확산됨에 따라 예상치 못하게 발생하고 있는 사회적 이슈와 우려에 대해 선제적으로 대응하기 위해 마련된 전략으로 누구나 인공지능을 신뢰하고 안전하게 혜택을 누릴 수 있는, 사람이 중심이 되는 인공지능 강국 실현을 위해 추진됩니다."

먼저, 제품과 서비스 구현단계에 따라 인증체계를 마련합니다.
개발부터 검증, 인증까지 단계별 신뢰확보 기준을 제시합니다.
데이터 확보와 알고리즘 학습, 검증 등을 통합 지원하는 온라인 플랫폼도 운영하는 등 민간의 신뢰성 확보도 지원합니다.
원천기술도 개발합니다.
인공지능 스스로 편향성을 진단하고, 제거할 수 있는 기능 등의 개발을 추진합니다.
학습용 데이터를 활용할 때 준수해야 할 표준기준도 도입합니다.
활용 목적에 따라 신뢰 확보 요구사항을 세분화, 구체화하고, 검증지표와 측정방법 등을 구체적으로 제시할 계획입니다.
아울러, 잠재적으로 위험을 미칠 인공지능의 범주를 설정하고, 해당 서비스는 제공하기 전에 이용자에게 고지하는 과정도 의무화합니다.
이와 함께 정부는 인공지능 영향평가를 실시하고, 인공지능에 대한 신뢰 확보와 이용자 보호 등을 위한 법·제도 정비도 추진할 계획입니다.
(영상취재: 김태형 / 영상편집: 오희현)
또, 인공지능 윤리교육 과정을 개발해 시민과 연구·개발자, 학생 등을 대상으로 교육도 실시할 예정입니다.

KTV 문기혁입니다.

( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )
< ⓒ 한국정책방송원 무단전재 및 재배포 금지 >