과학기술정보통신부(장관 배경훈)는 22일부터 시행되는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’을 토대로 하는 투명성 확보 의무의 구체적 이행방안을 담아내 ‘AI 투명성 확보 가이드라인’을 공개했다고 밝혔다.
AI 기본법은 22일부터 1년간의 계도기간 운영을 전제로 전면 시행된다.
가이드라인 공개는 업계 의견을 적극 수렴한 결과라고 설명했다. 공개된 법률과 시행령만으로는 투명성 확보에 대한 의무의 구체적 적용 기준을 명확하게 파악하기 어렵다는 점에서 착안, 실제 현장에서 운영 중인 AI제품과 서비스 유형을 바탕으로 이행 기준을 제시한 것이다.
특히, 투명성 확보 의무를 이행해야 하는 주체를 ‘이용자에게 AI 제품 및 서비스를 직접 제공하는 인공지능 사업자’로 규정하고 있다. 국내 이용자 대상으로 제품, 서비스를 제공하는 해외 사업자도 포함된다.
즉, AI 기술과 서비스를 단순 업무나 창작의 도구로 활용하는 이용자는 의무 대상에 해당하지 않는다. AI 제품과 서비스를 제공하는 입장이 아니라, 제공 받아 활용하는 입장이기 때문이다. 예를 들면, 생성 AI로 영화를 제작 및 배급하는 제작사는 이용자에 해당하므로 의무 대상에 포함되지 않는다.
딥페이크 생성물에 대해서는 ‘사람이 명확히 인식할 수 있는 표시(가시적, 가청적 워터마크)’를 의무화해, 국민들의 불안감을 해소하고자 했다고 전했다. 하지만, AI 생성물이 서비스 환경 내에서 제공되는 경우에는 외부 반출되는 경우와 구분해 유연한 표시를 허용했다.
문구나 음성으로 안내를 제공하되, 기계가 판독할 수 있는 방법(메타데이터) 등을 생성 결과물에 적용하는 것도 가능하다.
또, 사업자는 서비스 이용약관 및 계약서, 소프트웨어나 앱 구동화면 등에 ‘고영향, 생성 AI 기반 운용’ 사실을 알려야 한다. 오프라인 서비스의 경우에는 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시하는 등 맞춤 이행 방법을 제시했다.
과기부는 “AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술 부작용을 막기 위한 최소의 안전장치”라며 “가이드라인 공개 후, 계도 기간 기업들의 애로사항과 의견을 적극 청취하고 앞으로 새롭게 등장할 서비스나 기술적 특성도 반영해 나갈 것”이라고 말했다.
장세민 기자 semim99@aitimes.com
원문보기 : https://www.aitimes.com/news/articleView.html?idxno=205782
