평가결과

다운로드


개요



 (평가대상) AI 영상 합성 서비스

 (정의) 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 새로운 영상을 생성하거나 기존 영상, 이미지, 음성을 수정·변형하는 서비스

 (선정 사유) 딥페이크 기술은 민주주의 가치 훼손, 명예훼손, 성적 범죄 등 중대한 사회적 피해를 초래할 수 있으며, 최근에는 그 대상이 아동·청소년·여성 등 일반 국민 전반으로 확대되고 있어 시급한 대응이 요구됨

- 한편, 순기능을 강화하고 책임 있는 활용 방안을 모색할 경우, 콘텐츠 제작, 교육, 엔터테인먼트 등 다양한 산업 분야에서 혁신과 사회적 편익을 창출할 수 있는 잠재력도 높아, 균형 잡힌 평가와 정책적 대응이 필요한 기술로 판단


AI윤리영향평가 주요내용


 영향 식별·평가

- 전문가평가단과 국민포럼단의 응답 결과를 바탕으로, AI 영상 합성 서비스의 윤리적 영향을 식별했으며 (긍정적 영향 55건, 부정적 영향 66건), 각 영향에 대해 영향 규모, 범위, 발생 가능성 및 해결 가능성을 평가*

* UNESCO(2023)「Ethical Impact Assessment : A Tool of the Recommendation on the Ethics of Artificial Intelligence」와 과학기술정보통신부·정보통신정책연구원(2024)「인공지능 윤리영향평가 프레임워크」의 방법론 적용

 정부 정책 지원과 대응 필요성 분석

- (정부 정책 지원이 필요한 주요 영향)

① (지속관리 영역 : 긍정적 효과가 지속적으로 창출될 수 있도록 정부의 적극적이고 체계적인 지원이 필요)

☞ 사회적 약자 보호, 프라이버시 보호 기술 개발 유인 등

② (공공복리 영역 : 긍정적 효과 기대는 제한적이나, 공공의 안전과 복리를 위해 정부 주도적 대응이 요구)

☞ 안전성 의식 강화, 연대를 위한 사회적 비용 감소 등

③ (민간자율 영역 : 민간이 주도적으로 대응 가능한 사안으로, 정부는 간접적 지원과 유도 역할에 집중 필요)

☞ 창작 접근성 확대 및 창작활동 활성화 등

- (정부 정책 대응이 필요한 주요 영향)

① (주의관심 영역 : 우려에 대해 정부가 적절히 대응하고 있지만 지속 관심 필요)

☞ 안전성 결여 및 악의적 활용에 따른 범죄 악용, 디지털 성범죄 확산 등

② (시급해결 영역 : 부정적 영향에 대해 우려 수준이 높지만 정부 대응 수준이 상대적으로 낮은 영역으로 우선적으로 대응 필요)

☞ 허위정보/가짜뉴스 확산·유포, 집단 간 격차 발생, 피해자에 대한 정신적·물리적 위해 등

 'AI 영상 합성 서비스'의 윤리적 개발·활용을 위한 주체별 역할과 노력

(기업·개인) AI 영상 합성 서비스를 윤리적으로 개발하고 활용하는 문화를 사회 전반에 정착시키기 위해서는, 기업과 개인을 포함한 모든 사회구성원의 협력과 자발적인 노력이 필수

· (기업) △ AI 신뢰성 및 안전성 강화 기술 개발, △ AI 책임관리 및 안전 체계 구축, △ 기업의 윤리적 책임과 신뢰 기반 정책 수립, △ 직원·소비자 교육 및 참여 확대, △ 대외 협력 및 소통 강화

· (개인) △ AI 리터러시 및 윤리 의식 강화, △ 참여와 실천 중심의 책임성 강화, △ 개인정보보호 및 책임 있는 권리 행사, △ 책임 있는 창작과 지속 가능한 콘텐츠 소비

(정부) AI 영상 합성 서비스의 올바른 개발과 이용 활성화를 위해 체계적인 정부지원과 대응 필요

· (정책적 측면) △ 교육 및 리터러시 강화, △ 정부 규제 및 관리체계 개선, △ 산업진흥 및 연구지원, △ 글로벌 협력 및 표준화 등에 대한 정부지원과 대응 필요

· (법·제도적 측면) △ 법·제도 정비 및 규제 개선, △ 범죄 및 악용 방지, △ 플랫폼 및 기술 제공자 규제, △ 자율적 규제 기반 강화 등에 대한 정부지원과 대응 필요

· (기술적 측면) △ 탐지 및 판독 기술 개발, △ 기술 안전성 및 윤리 강화, △ 연구개발 및 기술투자, △ 협력 및 교류 강화 등에 대한 정부지원과 대응 필요

[27872] 충청북도 진천군 덕산읍 정통로 18
대표전화 : 043-531-4114

공공누리 공공저작물 자유이용허락 WA 품질인증마크, 웹와치(WebWatch) 2025.3.18~2026.3.18

관련사이트
맨위로