AI 윤리기준 – 공통 자율점검표 – 분야별 자율 점검표
- Level 0 AI 윤리기준
- Level 1 윤리기준 자율점검표
- Level 2 분야별 자율 점검표
1. AI 윤리기준
사람 중심의 사회적 가치를 재조명하고 신기술에 대한 사회적 수용성과 신뢰를 증진하기 위해, 모든 사회 구성원이 AI 개발~ 활용 전 관정에서 함께 지켜야 할 원칙* 제시
*(3대 기본원칙) 인간의 존엄성 원칙, 사회의 공공선 원칙, 기술의 함목적성 원칙
(10대 핵심요건 ) ①인권보장, ②프라이버시 보호, ③다양성 존중, ④침해금지, ⑤공공성, ⑥연대성, ⑦데이터 관리, ⑧책임성, ⑨안전성, ⑩투명성 요건
2. AI 윤리기준 자율 점검표 공통
AI 윤리 규범실천을 위한 구체적 방안으로서 AI 윤리기준 준수 여부를 스스로 점검할 수 있는 자율점검표 개발
AI 윤리기준 핵심요건과 높은 연결성 확보*, 활용의 범용성을 만족하는 자율점검표 도출**
* 자율점검표는 AI 개발·활용에 관한 윤리적 고려를 포함한 철학, 사회적 담론, 지향 해야하는 가치 및 사회 규범 등을 포괄
** 분야, 영역 등 구분 없이, 자율점검표를 활용하고자 하는 모든 주체들이 목적, 특징, 특성에 맞추어 문항을 선별하고 유연하게 가공할 수 있도록 범용성있는 문항 제공
3. AI 윤리기준 자율 점검표 : 분야별
범용성·포괄성에 중점을 둔 기존 자율점검표를 목적·특징·특성에 맞추어 실제 현장에서 보다 쉽게 응용할 수 있도록 구체적 활용 예시 제공
특정 분야에서 강조될 필요가 있는 문항을 선별·가공하고, 새롭게 제기되는 AI 윤리이슈 대응을 위한 문항 신설 (2022년 챗봇, 작문, 영상 분야)
AI 윤리기준 자율점검표 분야별 적용 범위
-
ＡI 챗봇
정보제공, 고객상담, 민원처리, 맞춤형 추천, 일상대화 등을 위한 챗봇
-
작문용 AI
문서작성, 이메일 작성, SNS포스팅, 카피라이팅 등의 작문보조를 위한 AI
-
AI 영상시스템
영상 분석, 영상 모니터링 및 탐지 등을 위한 AI
자율점검표를 참고하는 주체가 각자의 목적과 특성에 맞추어 문항을 선별하고 유연하게 가공하여 활용할 것을 권장
세부 분야 자율 점검표 문항 도출 예시
-
Level 0
AI 윤리기준
- 핵심요건 09. 안전성
- AI 개발 및 활용 전 과정에 걸쳐 잠재적 위험을 방지하고 안전을 보장할 수 있도록 노력해야 한다.
- AI 활용 과정에서 명백한 오류 또는 침해가 발생할 때 사용자가 그 작동을 제어할 수 있는 기능을 갖추도록 노력해야 한다.
( 핵심요건 준수여부 점검을 위한 공통 문항 제시 )
-
Level 1
자율점검표 (공통)
- E09.03.
- AI시스템의 결과에 대한 안전성을 지속적으로 평가하기 위한 절차 (정기적으로 내부부서 또는 외부기관을 통한 전문가 평가, 사용자 피드백 반영 등)를 마련하였는가?
(공통문항의 “안전성”을 각 영역에 맞게 구체화하여 문항 제시)
-
Level 2
자율점검표 (분야별)
- 챗봇
- 챗봇이 선정적, 공격적 또는 편향적 문장을 발화 하지 않도록 안전성을 지속적으로 평가하기 위한 절차 (정기적으로 내부부서 또는 외부기관을 통한 전문가 평가, 사용자 피드백 반영 등)를 마련 하였는가?
- 작문
- 작문용 AI 산출물에 대한 정확성, 명료성, 타당성 등 안전성을 지속적으로 평가하기 위한 절차 (정기적으로 내부부서 또는 외부기관을 통한 전문가 평가, 사용자 피드백 반영 등)를 마련하였는가?
- 영상
- AI 영상시스템의 분석 및 처리결과에 대한 안전성을 지속적으로 평가하기 위한 절차 (정기적으로 내부부서 또는 외부기관을 통한 전문가 평가, 사용자 피드백 반영 등)를 마련하였는가?