평가결과
개요
■ (평가대상) AI 영상 합성 서비스
■ (정의) 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 새로운 영상을 생성하거나 기존 영상, 이미지, 음성을 수정·변형하는 서비스
■ (선정 사유) 딥페이크 기술은 민주주의 가치 훼손, 명예훼손, 성적 범죄 등 중대한 사회적 피해를 초래할 수 있으며, 최근에는 그 대상이 아동·청소년·여성 등 일반 국민 전반으로 확대되고 있어 시급한 대응이 요구됨
- 한편, 순기능을 강화하고 책임 있는 활용 방안을 모색할 경우, 콘텐츠 제작, 교육, 엔터테인먼트 등 다양한 산업 분야에서 혁신과 사회적 편익을 창출할 수 있는 잠재력도 높아, 균형 잡힌 평가와 정책적 대응이 필요한 기술로 판단
AI윤리영향평가 주요내용
■ 영향 식별·평가
- 전문가평가단과 국민포럼단의 응답 결과를 바탕으로, AI 영상 합성 서비스의 윤리적 영향을 식별했으며 (긍정적 영향 55건, 부정적 영향 66건), 각 영향에 대해 영향 규모, 범위, 발생 가능성 및 해결 가능성을 평가*
* UNESCO(2023)「Ethical Impact Assessment : A Tool of the Recommendation on the Ethics of Artificial Intelligence」와 과학기술정보통신부·정보통신정책연구원(2024)「인공지능 윤리영향평가 프레임워크」의 방법론 적용
■ 정부 정책 지원과 대응 필요성 분석
- (정부 정책 지원이 필요한 주요 영향)
① (지속관리 영역 : 긍정적 효과가 지속적으로 창출될 수 있도록 정부의 적극적이고 체계적인 지원이 필요)
☞ 사회적 약자 보호, 프라이버시 보호 기술 개발 유인 등
② (공공복리 영역 : 긍정적 효과 기대는 제한적이나, 공공의 안전과 복리를 위해 정부 주도적 대응이 요구)
☞ 안전성 의식 강화, 연대를 위한 사회적 비용 감소 등
③ (민간자율 영역 : 민간이 주도적으로 대응 가능한 사안으로, 정부는 간접적 지원과 유도 역할에 집중 필요)
☞ 창작 접근성 확대 및 창작활동 활성화 등
- (정부 정책 대응이 필요한 주요 영향)
① (주의관심 영역 : 우려에 대해 정부가 적절히 대응하고 있지만 지속 관심 필요)
☞ 안전성 결여 및 악의적 활용에 따른 범죄 악용, 디지털 성범죄 확산 등
② (시급해결 영역 : 부정적 영향에 대해 우려 수준이 높지만 정부 대응 수준이 상대적으로 낮은 영역으로 우선적으로 대응 필요)
☞ 허위정보/가짜뉴스 확산·유포, 집단 간 격차 발생, 피해자에 대한 정신적·물리적 위해 등
■ 'AI 영상 합성 서비스'의 윤리적 개발·활용을 위한 주체별 역할과 노력
- (기업·개인) AI 영상 합성 서비스를 윤리적으로 개발하고 활용하는 문화를 사회 전반에 정착시키기 위해서는, 기업과 개인을 포함한 모든 사회구성원의 협력과 자발적인 노력이 필수
· (기업) △ AI 신뢰성 및 안전성 강화 기술 개발, △ AI 책임관리 및 안전 체계 구축, △ 기업의 윤리적 책임과 신뢰 기반 정책 수립, △ 직원·소비자 교육 및 참여 확대, △ 대외 협력 및 소통 강화
· (개인) △ AI 리터러시 및 윤리 의식 강화, △ 참여와 실천 중심의 책임성 강화, △ 개인정보보호 및 책임 있는 권리 행사, △ 책임 있는 창작과 지속 가능한 콘텐츠 소비
- (정부) AI 영상 합성 서비스의 올바른 개발과 이용 활성화를 위해 체계적인 정부지원과 대응 필요
· (정책적 측면) △ 교육 및 리터러시 강화, △ 정부 규제 및 관리체계 개선, △ 산업진흥 및 연구지원, △ 글로벌 협력 및 표준화 등에 대한 정부지원과 대응 필요
· (법·제도적 측면) △ 법·제도 정비 및 규제 개선, △ 범죄 및 악용 방지, △ 플랫폼 및 기술 제공자 규제, △ 자율적 규제 기반 강화 등에 대한 정부지원과 대응 필요
· (기술적 측면) △ 탐지 및 판독 기술 개발, △ 기술 안전성 및 윤리 강화, △ 연구개발 및 기술투자, △ 협력 및 교류 강화 등에 대한 정부지원과 대응 필요