AI 윤리원칙(안)

인공지능 윤리원칙(안)의 마련 배경과 주요 내용

｢인공지능 윤리원칙｣(안)은 사람이 중심이 되는 인공지능 구현을 위해 모든 사회구성원이 AI 개발·활용 전 과정에서 참고하고 실천해 나가기 위한 기본적이고 포괄적인 원칙입니다. 윤리원칙(안)은 다양한 AI 쟁점이 발생했을 때 사회 전체가 함께 참고할 수 있는 공통의 판단 기준을 제공하는 데 의미가 있으며, 특정 기술이나 분야의 개별 쟁점에 대한 세부 해법은 후속 지침과 분야별 기준 등을 통해 구체화 될 수 있습니다.

① 추진 배경 : 변화한 AI 환경 대응과 윤리규범 정합성 확보

AI 개발·활용의 허용 범위와 인간 감독 수준은 단일한 정답이 존재하지 않는 가치판단의 문제로 부상하고 있으며, 사회 전체가 함께 참고할 수 있는 상위 기준 마련이 요구되고 있습니다.

아울러 인공지능기본법 시행으로 국가 윤리원칙의 위상이 달라진 점도 재정립 배경입니다. 그간 부처·기관·분야별 가이드라인이 개별적으로 축적되면서 기준 간 관계가 불명확해지고 적용 혼선이 발생할 수 있다는 문제가 제기되어 왔습니다. 이번 윤리원칙은 여러 법령·정책·가이드라인의 정합성을 확보하기 위한 국가 차원의 상위 준거틀을 마련하는 데 의의가 있습니다.

② 추진 경과 : 전문가 자문단을 통해 초안 마련

과기정통부와 정보통신정책연구원은 2025년 12월부터 4월까지 관련 국내외 사례를 조사‧분석하고, AI 기술, 법·제도, 교육, 철학 등 분야별 전문가로 구성된 자문단을 운영하여 윤리원칙 초안을 마련하였습니다. 자문단은 윤리원칙 제정 방향과 주요 쟁점에 관한 자문을 제공하는 자문위원회(9인)와 초안 작성을 담당하는 워킹그룹(8인)으로 구성되었으며, 자문단 전체회의, 워킹그룹 회의(7회), 서면검토 등을 통해 초안을 마련하였습니다. 또한 윤리원칙이 선언적 기준에 머무르지 않고 현장에서 참고 가능한 기준으로 기능할 수 있도록 산업계 의견도 수렴하였습니다.

③ 윤리원칙 초안 주요 내용 : 3대 가치와 6대 원칙

이번 윤리원칙(안)이 전달하고자 하는 핵심 메시지는 “AI의 혁신과 활용은 인간과 사회가 신뢰할 수 있는 방향으로 이루어져야 한다”는 것입니다. 이를 위해 윤리원칙 초안은 AI 개발·이용 과정에서 지향해야 할 규범적 방향으로 3대 가치를, 이를 실현하기 위한 기준으로 6대 원칙을 제시합니다.

(3대 가치) AI 개발·이용 과정에서 지향되어야 할 규범적 방향으로 ① 인간의 존엄성, ② 사회의 공공선, ③ 기술의 신뢰성을 제시

(6대 원칙) 3대 가치를 실현하기 위해 AI 개발·이용 과정에서 충족·확인되어야 할 기준으로 ① 인간의 자율성, ② 프라이버시, ③ 공정성·포용성, ④ 지속가능성, ⑤ 안전성, ⑥ 투명성 제시

④ 향후 계획 : 대국민 의견수렴을 거쳐 보완 예정

｢인공지능 윤리원칙｣(안)은 과기정통부와 정보통신정책연구원이 운영하는 “인공지능 윤리 소통채널” 누리집(https://ai.kisdi.re.kr)에서 확인할 수 있으며, 윤리원칙 초안에 대한 의견은 2026년 5월 29일(금)부터 7월 8일(수)까지 누리집 내 의견수렴 창구를 통해 제출할 수 있습니다. 과기정통부는 해당 기간 동안 산업계, 시민사회, 관계부처, 학계 등으로부터 의견을 수렴할 예정입니다.

인공지능 윤리원칙 (안) : 3대 가치, 6대 원칙

1. (가치) 인공지능 개발·제공·이용 과정에서 지향되어야 할 규범적 방향

① 인간의 존엄성 Human Dignity

인공지능의 개발·제공·이용 전 과정에서 인간의 주체성과 자율적 선택은 존중되어야 하며, 인간이 특정 목적 달성을 위한 수단으로 취급되거나 삶의 가치 실현이 저해되지 않도록 해야 한다.
인간의 생명·신체·건강·재산은 인공지능으로 인하여 침해되거나 훼손되어서는 아니 된다.
인공지능의 개발·제공·이용 전 과정에서 인간은 필요한 관리·감독을 할 수 있어야 하며, 이는 기술적·제도적으로 보장되어야 한다.

② 사회의 공공선 Common Good of Society

인공지능은 인류 공동의 이익에 기여하는 방향으로 개발·제공·이용되어야 하며, 이 과정에서 사회와 환경의 지속가능성 및 미래세대의 선택 가능성이 고려되어야 한다.
다양한 이해관계자의 특성과 관점은 인공지능의 개발·제공·이용 전 과정에서 균형 있게 고려되어야 한다.
사회구성원 누구나 인공지능의 혜택과 기회를 누릴 수 있어야 하며, 인공지능을 주체적으로 활용할 수 있는 기술적·제도적 기반 또한 보장되어야 한다.

③ 기술의 신뢰성 Trustworthiness of Technology

인공지능 기술의 목적은 정당해야 하며, 그 작동 원리는 설명 가능해야 한다.
인공지능 기술에 수반되는 잠재적 위험과 장기적 영향은 사전에 식별·평가되고 지속적으로 관리되어야 한다.
인간의 삶의 질 향상과 사회적 가치 창출에 기여하는 신뢰할 수 있는 인공지능 기술의 개발·제공·이용을 장려하여야 한다.

2. (원칙) 가치를 실현하기 위해 인공지능 전체 생명주기에 걸쳐 충족·확인되어야 할 기준

① 인간의 자율성 Human Autonomy

인공지능은 인간의 판단과 선택을 지원·보완하고, 인간의 자기결정권이 존중·확대되는 방향으로 개발·제공·이용되어야 한다. [자기결정권 보호]
인공지능에 대한 지나친 의존으로 인간의 사고력과 비판적 판단이 약화되지 않도록, 이용자가 인공지능의 산출물을 스스로 검토하고 주체적으로 활용할 수 있는 시스템적·관리적 환경이 보장되어야 한다. [과의존 방지]
인공지능이 이용자의 취약성을 악용하거나 판단을 왜곡하지 않도록 해야 하며, 중요한 결정에 활용되는 경우 인간이 그 결과를 검토·수정·중단할 수 있도록 실질적인 감독 체계가 마련되어야 한다. [인간 감독]

② 프라이버시 Privacy

인공지능의 개발·제공·이용 전 과정에서 개인의 사생활의 비밀과 자유가 침해되거나, 인공지능이 감시나 조작의 수단으로 활용되지 않도록 해야 한다. [프라이버시 존중]
개인정보 등 데이터는 이용 목적에 필요한 범위에서 적법하고 정당하게 수집·이용되어야 하며, 여러 정보를 결합하거나 분석하는 과정에서 개인이 식별되거나 민감한 정보가 드러나지 않도록 최소 필요한 수준으로 관리·처리되어야 한다. [데이터 적정 활용]
정보주체는 자신의 개인정보 처리에 관한 자기정보통제권을 보장받고, 이를 실질적으로 행사할 수 있어야 한다. [정보주체 권리 보장]

③ 공정성·포용성 Fairness and Inclusiveness

인공지능으로 인한 편익과 부담이 특정 개인이나 집단에 편중되지 않아야 하며, 인공지능은 성별·연령·장애·언어·지역·종교·활용역량 등 개인이나 집단의 특성을 이유로 부당한 차별이나 불이익을 초래하지 않도록 개발·제공·이용되어야 한다. [차별 금지 및 공정한 배분]
인공지능에 활용되는 데이터와 알고리즘에 내재된 편향이 사회적 불평등이나 부당한 불이익을 재생산하지 않도록, 인공지능의 개발·제공·이용 전 과정에서 데이터·알고리즘 및 산출물에 대한 지속적인 점검과 개선이 이루어져야 한다. [편향 최소화]
이용자의 디지털 역량이나 환경적 제약과 관계없이 누구나 인공지능의 혜택에 동등하게 접근할 수 있어야 하며, 기술적 소외가 사회적 배제로 이어지지 않도록 포용적인 이용 환경이 보장되어야 한다. [접근성 및 포용성 확보]

④ 지속가능성 Sustainability

인공지능의 개발·제공·이용 전 과정에서 발생하는 에너지 소비, 탄소 배출, 자원 소모 등 환경적 영향은 합리적으로 관리되어야 한다. [환경적 지속가능성]
인공지능의 확산이 고용 구조, 공동체의 신뢰·협력 등 사회 전반에 미치는 영향은 장기적 관점에서 평가·점검되고 체계적으로 관리되어야 한다. [사회적 지속가능성]
인공지능은 그로 인한 편익이 현 세대에 집중되고 그에 따른 부담이 미래세대에 전가되지 않도록, 미래세대의 선택지와 기회가 고려되는 방향으로 개발·제공·이용되어야 한다. [세대 간 형평성]

⑤ 안전성 Safety

인공지능은 오작동이나 오남용 등으로 생명·신체·건강·재산 등 인간과 사회에 위해를 초래하지 않도록 안전하게 개발·제공·이용되어야 한다. [안전한 설계와 운영]
인공지능에 대한 외부 공격, 무단 접근, 오남용 등으로 인한 위험을 줄일 수 있도록 적정한 보안조치와 접근통제 체계가 갖추어져야 한다. [보안성 확보]
장애나 사고가 발생하더라도 인공지능 본래의 기능을 안정적으로 유지하고 신속히 복구될 수 있도록 대응·회복체계가 마련되어야 한다. [강건성 및 회복탄력성 확보]

⑥ 투명성 Transparency

인공지능 개발·제공·이용 전 과정에서 인공지능의 사용 여부와 목적, 주요 기능과 작동 방식, 적용 범위와 한계, 위험과 유의사항 등은 이용자와 사회가 이해할 수 있는 방식으로 제공되어야 한다. [인공지능 활용 고지]
인공지능의 투명성은 활용 목적, 기능, 위험 수준, 이용자 특성 등을 고려하여 상황에 맞게 확보되어야 하며, 프라이버시·영업비밀 보호 등 다른 정당한 가치와의 균형 속에서 구현되어야 한다. [비례적 투명성 확보]
인공지능이 개인의 권리·의무·안전에 중대한 영향을 미치는 의사결정에 활용되는 경우, 결정의 대상이 해당 결정의 주요 이유와 판단 요소를 이해할 수 있도록 설명이 제공되어야 하며, 이의를 제기하거나 재검토를 요청할 수 있는 절차가 마련되어야 한다. [설명 및 이의제기 절차 보장]

인공지능 윤리원칙, 국민과 함께 만들어갑니다.