2024 신뢰할 수 있는 인공지능 개발 안내서 일반 분야 CONTENTS Checklist 안내서 활용을 위한 체크리스트 6 PART 1 개요 11 1. 안내서 발간 배경 및 목적 12 2. 인공지능 신뢰성 동향 13 3. 안내서 마련 과정 17 4. 안내서 활용 대상 24 5. 안내서 활용 방법 26 PART 2 요구사항 및 검증항목 27 1. 생명주기 관리 32 2. 데이터 수집 및 처리 52 3. 인공지능 모델 개발 68 4. 시스템 구현 83 5. 운영 및 모니터링 95 PART 3 부록 99 1. 약어표 100 2. 용어표 101 3. 요구사항별 이해관계자 122 4. 이해관계자 정의 123 5. 참고문헌 124 6. 찾아보기 128

신뢰할 수 있는 인공지능 개발 안내서

신뢰할 수 있는 인공지능 개발 안내서(일반) - 신뢰할 수 있는 인공지능 개발(분야별)

  1. Level 1 2024 신뢰할 수 있는 인공지능 개발 안내서 일반 분야 신뢰할 수 있는 인공지능
    개발 안내서(일반)
  2. Level 2 2023 신뢰할 수 있는 인공지능 개발 안내서 의료 분야 2023 신뢰할 수 있는 인공지능 개발 안내서 자율주행 분야 2023 신뢰할 수 있는 인공지능 개발 안내서 공공사회 분야 2024 신뢰할 수 있는 인공지능 개발 안내서 생성 AI 기반 서비스 분야 2024 신뢰할 수 있는 인공지능 개발 안내서 스마트 치안 분야 2024 신뢰할 수 있는 인공지능 개발 안내서 채용 분야 신뢰할 수 있는 인공지능 개발(분야별)

1. 신뢰할 수 있는 인공지능 개발 안내서(일반)  GitBook 보기

인공지능 제품 및 서비스를 개발하는 과정에서 신뢰성 확보를 위한 참고자료로 활용할 수 있도록 15개의 개발 요구사항과 67개의 검증항목을 제공

웹 플랫폼을 통해 본 안내서와 관련된 최신 연구 결과 및 현실적인 적용방안을 제공하며, 개선 의견을 수렴함

AI 윤리기준 핵심요건과 높은 연관성 확보*, 인공지능 신뢰성 확보를 위한 국제 요구사항 반영**

* ‘AI 윤리 기준’의 10대 핵심 요건을 준용하여 기술적 관점에서 필요한 요구사항과 검증항목으로 ‘다양성 존중’, ‘책임성’, ‘안전성’, ‘투명성’ 속성 도출

** 표준화기구, 기술단체, 국제기구, 주요국에서 인공지능 신뢰성 확보를 위해 발표한 정책, 권고안, 그리고 표준을 기반으로 기술적 요구사항을 도출하고 구체화

요구사항 다양성존중 책임성 안전성 투명성 요구사항01 인공지능 시스템에 대한 위험관리 계획 및 수행 요구사항02 인공지능 거버넌스 체계 구성 요구사항03 인공지능 시스템의 신뢰성 테스트 계획 수립 요구사항04 데이터의 활용을 위한 상세 정보 제공 요구사항05 데이터 강건성 확보를 위한 이상 데이터 점검 요구사항06 소집 및 가공된 학습 데이터의 편향 제거 요구사항07 오픈소스 라이브러리의 보안성 및 호환성 확보 요구사항08 인공지능 모델의 편향 제거 요구사항09 인공지능 모델 공격에 대한 방어 대책 수립 요구사항10 인공지능 모델 명세 및 추론 결과에 대한 설명 제공 요구사항11 인공지능 시스템 구현시 발생 가능한 편향 제거 요구사항12 인공지능 시스템의 안전 모드 및 구현 및 문제발생 알림 절차 수립 요구사항13 인공지능 시스템의 설명에 대한 사용자의 이해도 제고 요구사항14 인공지능 시스템의 추적가능성 및 변경이력 확보 요구사항15 서비스 제공 범위 및 상호작용 대상에 대한 설명 제공

2. 신뢰할 수 있는 인공지능 개발 안내서(분야별)

일반 개발 안내서의 요구사항과 검증항목을 기준으로 실무 활용도 제고를 위한 분야별 특화 사례 수록하여 제공

'공공·사회', '자율주행', '의료', '생성 AI', '스마트 치안', '채용' 분야의 개발 안내서 제공 중

신뢰할 수 있는 인공지능 개발 안내서(분야별) 고려 범위

  • 2023 신뢰할 수 있는 인공지능 개발 안내서 의료 분야 의료

    질병 진단・예측, 의료 영상 진단 소프트웨어 등의 기계학습 가능 의료기기(MLMD, Machine Learning-enabled Medical Devices)대상

  • 2023 신뢰할 수 있는 인공지능 개발 안내서 자율주행 분야 자율주행

    자율주행 알고리즘이 포함된 자율주행 시스템(예: 인지 결과에 기반한 판단・제어 시스템) 대상

  • 2023 신뢰할 수 있는 인공지능 개발 안내서 공공사회 분야 공공·사회

    G2C(Government to Customer) 및 B2G(Business to Government)인공지능 서비스 대상

  • 2024 신뢰할 수 있는 인공지능 개발 안내서 생성 AI 기반 서비스 분야 생성 AI

    생성 기술 기반 텍스트, 이미지 생성 서비스를 제공하는 인공지능 서비스 대상

  • 2024 신뢰할 수 있는 인공지능 개발 안내서 스마트 치안 분야 스마트 치안

    CCTV 영상 기반의 스마트 치안 인공지능 서비스(예: 범죄 탐지·예방 작업 수행 시스템) 대상

  • 2024 신뢰할 수 있는 인공지능 개발 안내서 채용 분야 채용

    인공지능 기술 기반 사용자 대면 채용 서비스 대상

인공지능 서비스의 특성을 고려하여 적절한 분야별 요구사항과 검증항목을 선택해 신뢰성 확보 활동 수행할 것을 권장

신뢰할 수 있는 인공지능 개발 안내서 구성

① 안전성 ② 요구사항 05 데이터 강건성 확보를 위한 이상 abnormal 데이터 점검 ③ 대표 행위자 데이터 과학자 협력 대상 데이터 공급자 인공지능 모델 개발자 ④ 인공지능 모델의 학습에 활용되는 데이터는 이상값, 중독 및 회피 등에 영향을 받지 않아야 하며, 이의 점검 및 방어 기법의 적용을 통해 강건성을 확보한다. ⑤ 05-1 이상 데이터의 식별 및 정상 여부를 점검하였는가? Yes No N/A ⑥ 이상 데이터란 학습용 데이터를 구성하는 데이터셋의 수집 및 가공 과정에서 발생할 수 있는 다양한 오류 error 와 일반적인 데이터의 범위에서 크게 벗어난 데이터 이상값 outlier 을 포괄한다. 학습 데이터의 수집 및 가공 과정에서 발생하는 이상 데이터는 데이터상의 노이즈, 학습 데이터 내의 편향, 잘못된 라벨링, 라벨링 누락 등 다양한 원인에 의해 생길 수 있으며 이를 해결하지 않으면 인공지능 모델의 성능 및 강건성 확보가 어렵다. 단, 이상 탐지 anomaly detection 시스템에 활용되는 인공지능 모델의 경우, 이상 데이터는 제거해야 할 데이터가 아닌 학습 데이터가 될 수 있음에 유의하여야 한다. ① 핵심 속성 요구사항을 통해 확보할 수 있는 윤리 속성 제시 ② 요구사항 인공지능 신뢰성 확보를 위한 생명주기 단계별 기술 요구사항 제시 ③ 대표 행위자 요구사항별 신뢰 확보 활동 수행을 위한 대표 행위자 제시 ④ 요구사항 해설 요구사항의 필요성, 기술 해설 등 요구사항 이해를 위한 설명 제공 ⑤ 세부 요구사항 요구사항 만족을 위한 세부항목 제시 ⑥ 세부 요구사항 해설 세부 요구사항의 필요성, 기술 해설 등 세부항목 이해를 위한 설명 제공 ⑦ 05-1b 학습 데이터 이상값 식별 기법을 적용하였는가? Yes No N/A ⑧ 데이터 전처리 과정에서 중요한 활동 중 하나는 데이터 이상값을 식별하고 이를 제거하는 것이다. 데이터 누락과는 달리 데이터 이상값의 경우에는 데이터값이 이미 정해져 있지만, 전체 데이터셋을 기준으로 정상 범주를 벗어난 값이므로 단순 탐색만으로 발견하기 쉽지 않다. 데이터 이상값을 식별하는 방법에는 주로 데이터 전체에 대해 통계적 기법을 적용하여 전체 데이터셋을 고려하였을 때 차별화되는 데이터 포인트를 찾아내는 방법 등이 있으며, 이와 관련 대표적인 기법은 Z-점수, 사분위수 범위 등이다. ⑨ 데이터 이상값 식별 기법 예시 이상값 식별 기법 분류 설명 Z-점수 가장 간단한 통계적 측정 방법으로, Z-점수를 주어진 데이터셋의 분포 평균과 표준편차를 이용하여 관찰된 데이터 포인트가 전체 데이터로부터 얼마나 멀리 떨어져 있는지를 수치화한다. 사분위수 중앙값(Q2)으로 데이터를 두 부분으로 나누고, 다시 왼쪽 중앙값(Q1)과 오른쪽 중앙값(Q3)으로 나누어 총 4개의 범위를 정하여 사분위수 범위(Q3-Q1)를 구해 해당 범위를 벗어나면 이상값으로 판별한다. ⑦ 자가검증항목 세부 요구사항 충족을 위해 확인해야 할 자가검증항목 제시 ⑧ 자가검증항목 해설 인공지능 신뢰성 확보를 위한 생명주기 단계별 기술 요구사항 제시 ⑨ 참고 사항 세부 요구사항과 관련된 예시, 사례 등 참고 정보 제공
[27872] 충청북도 진천군 덕산읍 정통로 18
대표전화 : 043-531-4114

공공누리 공공저작물 자유이용허락

관련사이트
맨위로