2026년 8월 21일 정부는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제27조에 따라 관계부처 합동으로 「대한민국 인공지능 윤리원칙」을 제정 · 공표하였습니다. 본 원칙은 AI의 개발과 활용에서 모두가 함께 지켜가야 할 공통의 가치와 원칙으로, 3대 가치와 7대 원칙으로 구성됩니다.
AI 윤리원칙
3대 가치
AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 근본적 지향점
인간의 존엄성Human Dignity
- AI의 개발과 활용에서 ‘인간의 존엄성’은 인간을 중심에 두고, 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 온전히 누릴 수 있는 사회를 지향한다.
- 인간은 자기 삶의 주인으로서 스스로 판단하고 선택하는 존재이며, AI를 활용하는 경우에도 그러하다. AI는 사람이 자신의 삶에 관한 판단과 선택의 기회를 넓히는 데 기여할 수 있다.
- 자신의 삶에 영향을 미치는 결정에 참여하는 것은 자기 삶의 방향을 스스로 정하는 데 중요한 의미를 갖는다. AI를 어떻게 만들고 활용할지에 관한 공동의 결정에 누구나 참여할 수 있다.
사회의 공공선Common Good of Society
- ‘사회의 공공선’은 AI가 만들어 내는 편익이 개인의 삶을 나아지게 하는 데 그치지 않고, 사회적 신뢰와 공동의 이익이 함께 증진되는 사회를 지향한다.
- 무엇이 공동의 이익인지는 사회 구성원이 함께 판단해야 할 문제이다. AI를 어떤 방향으로 개발하고 활용할지에 관한 공론에는 다양한 사회 구성원이 참여할 수 있으며, 이는 민주적 의사 형성을 뒷받침한다.
인류의 지속가능성Sustainability
- ‘인류의 지속가능성’은 AI가 만들어 내는 편익과 가능성을 현재와 미래 세대가 함께 누리며, 인류의 삶을 뒷받침하는 환경과 사회의 기반이 지속되는 미래를 지향한다.
- AI의 영향은 환경뿐만 아니라 사회에도 오랜 시간에 걸쳐 나타난다. 인류는 이러한 장기적 변화를 지속적으로 살피고, 그 변화에 책임 있게 대응해야 한다.
- 이러한 노력은 한 사회나 한 나라에만 국한되지 않는다. AI를 통한 민주주의의 발전과 국제평화 및 협력의 증진은 인류의 지속가능한 미래와 긴밀하게 연결되어 있다.
7대 원칙
3대 가치를 AI 생애주기 전반에서 구현하기 위해 AI와 관련된 모든 주체가 자율적으로 실천해야 할 공통 원칙
1
인간중심성 Human-centeredness
- AI 행위자는 AI를 사람의 판단과 선택을 지원하고 창의성과 문제 해결 역량을 강화시키는 방향으로 개발 및 활용한다.
- AI 행위자는 AI의 역할 범위를 구체적으로 설정 및 인식하고, 필요한 경우 AI의 동작에 사람이 개입할 수 있도록 노력한다.
- AI 행위자는 AI를 설계하거나 이용할 때 AI에 대한 사람의 과도한 의존을 경계한다.
2
프라이버시 보호 Privacy Protection
- AI 행위자는 AI가 부당한 감시 등 타인의 사생활을 침해하는 데 활용되지 않도록 한다.
- AI 행위자는 AI 생애주기 전반에서 개인정보를 정해진 목적에 한해 필요한 범위에서 처리하고, 적절한 보호 조치를 마련한다.
- AI 행위자는 정보주체의 개인정보 자기결정권을 존중하고, 그 행사를 뒷받침한다.
3
공정성·포용성 Fairness and Inclusiveness
- AI 행위자는 AI 개발 및 활용 전 과정에서 특정 개인이나 집단이 부당한 차별을 받지 않도록 편향을 방지하기 위해 노력한다.
- AI 행위자는 사회적 약자를 비롯하여 모든 사람이 AI에 접근하고 그 혜택과 기회를 공평하게 누릴 수 있도록 노력한다.
- AI 행위자는 AI의 개발 및 활용 전반에 관한 논의에서 모든 이해관계자에게 참여할 권리가 있음을 인식하고 이를 보장하기 위해 노력한다.
4
책임성 Accountability
- AI 행위자는 AI 생애주기 전반에서 각자의 역할과 책임을 명확히 인식하고 이를 이행하기 위해 노력한다.
- AI 행위자는 문제가 발생한 경우 책임 소재를 밝히고 실질적인 피해 구제가 이루어지도록 한다.
- AI 역량과 자원을 많이 보유하는 등 영향력이 큰 주체는 그에 상응하는 책임을 다한다.
5
안전성 Safety
- AI 행위자는 AI로 인해 사람의 생명·신체·정신적 건강에 위해가 발생하거나 재산상 피해가 생기지 않도록 AI를 설계하고 이용한다.
- AI 행위자는 AI의 위험 수준에 맞는 안전조치를 마련하고 오남용이나 외부 공격 등에 대비한다.
- AI 행위자는 AI의 활용이 사회의 안전을 해치거나 여론 형성과 사회적 의사결정을 왜곡하지 않도록 위험을 살피고 대비한다.
6
신뢰성 Reliability
- AI 행위자는 AI의 목적과 활용 맥락을 고려하여 요구되는 최소 성능 기준을 설정하고, 의도된 사용 조건에서 해당 성능이 안정적이고 일관되게 유지되도록 해야 한다.
- AI 행위자는 AI가 의도된 목적과 허용된 권한 범위 안에서 작동하도록 노력한다.
- AI 행위자는 AI가 다양한 사용 조건에서 안정적으로 작동하도록 노력하고, 이용되는 동안 그 성능과 작동 상태를 지속적으로 점검한다.
7
투명성 Transparency
- AI 행위자는 AI가 활용되었다는 사실과 활용 수준 및 한계 등 필요한 정보를 이해관계자에게 알기 쉽게 제공한다.
- AI 행위자는 AI의 판단 기준과 위험 수준을 충분히 공유하고 이해하기 위해 노력한다.