AI의 개발과 활용에서 우리 사회가 함께 지켜나가야 할 공통의 가치와 원칙을 제시한 문서입니다. 3대 가치와 7대 원칙으로 구성되며, 본문에 더해 각 원칙의 설명과 주체별 역할을 담은 참고자료가 함께 제공됩니다.

AI가 이미 일상에 자리 잡았기 때문입니다. AI는 산업의 생산성을 높이고 새로운 서비스를 만들며, 기후 변화와 재난, 고령화, 지역 격차 같은 사회적 과제를 푸는 데에도 활용되고 있습니다. 시민의 사회적 참여와 공공 논의를 넓혀 민주주의 발전에 기여할 수도 있습니다.

동시에 새로운 과제도 나타났습니다.

개인 차원 — AI에 대한 과도한 의존, 인간 자율성의 약화
사회 차원 — AI 학습에 활용되는 데이터와 창작물에 대한 정당한 보상, 일자리의 변화, 민주적 의사결정을 위협하는 허위·조작 정보의 확산
인류 차원 — 기술 혁신을 지속하면서도 자원·환경의 부담과 미래 세대에 미칠 영향을 함께 고려해야 하는 과제

이런 과제는 어느 한 주체의 노력만으로 해결하기 어렵습니다. AI에 관계된 모든 주체와 사회 전체가 폭넓게 참여할 때 AI의 이로움을 온전히 누릴 수 있다는 것이 이 원칙의 출발점입니다.

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제27조에 따라 제정하는 것입니다. 특정 분야에 한정되지 않고 사회 전 영역에 두루 적용되는 범정부적·범사회적 원칙이며, 각 분야에서 마련되는 윤리기준과 지침은 이 원칙을 토대로 삼습니다.

아닙니다. 본 윤리원칙은 법적 구속력이 없는 자율규범으로서 법령을 대체하지 않습니다. 다만 AI의 건전한 활용과 사회·경제의 지속적인 발전에 이바지하도록, 모든 사회 구성원이 이 원칙을 존중하고 실천할 것을 권하고 있습니다.

참고자료(원칙 설명 및 주체별 역할) 역시 각 원칙의 취지와 적용 맥락을 이해하도록 돕기 위한 것으로, 원칙의 적용 범위를 넓히거나 새로운 의무를 더하는 것으로 해석되어서는 안 된다고 명시되어 있습니다.

법령은 지켜야 할 구체적인 의무와 기준을 정하지만, AI 기술과 활용 방식은 법이 따라잡기 어려울 만큼 빠르게 변합니다. 윤리원칙은 법이 아직 구체적으로 정하지 않은 영역에서 각 주체가 스스로 바람직한 방향을 판단하고 실천하도록 돕는 공통의 출발점 역할을 합니다.

AI 생애주기에서 실질적인 역할을 수행하거나 그 과정에 직간접적으로 관여하는 개인과 조직을 말합니다. AI 공급자와 이용자를 비롯하여 정부, 공공기관, 시민사회 등 AI 생애주기에 관여하는 다양한 주체를 포함합니다.

기업이나 개발자만을 가리키는 말이 아니라는 점이 중요합니다. AI를 사용하는 시민도 AI 행위자에 포함됩니다. 7대 원칙의 문장이 대부분 "AI 행위자는 ~한다"로 시작하는 것은, 이 원칙이 특정 집단에 대한 규제가 아니라 모두를 향한 공통 기준이기 때문입니다.

함께 정의된 용어는 다음과 같습니다.

둘 다일 수 있습니다. 원칙은 이 개념들이 서로 배타적이지 않으며, 하나의 개인이나 조직은 사안과 관여 형태에 따라 여러 역할에 함께 해당할 수 있다고 명시하고 있습니다.

예를 들어 외부 AI 서비스를 도입해 고객 상담에 활용하는 기업은, 그 서비스의 이용자인 동시에 고객에게는 AI가 적용된 서비스를 제공하는 공급자입니다. 따라서 자신이 어떤 역할로 관여하고 있는지를 사안별로 판단하고, 그에 맞는 역할을 함께 살펴야 합니다.

참고자료는 각 원칙의 세부 항목마다 공급자 / 이용자 / 정부·사회 세 주체의 역할을 구분해 제시합니다. 같은 원칙이라도 위치에 따라 해야 할 일이 다르기 때문입니다. 큰 흐름은 다음과 같습니다.

정부와 사회를 한 묶음으로 둔 것은 두 주체가 같다는 뜻이 아니라, 제도적 대응과 사회적 감시·공론이 함께 작동해야 원칙이 실효를 갖는다는 취지입니다. 항목에 따라 "언론·학계·시민사회 등은 ~한다"처럼 사회의 몫이 별도로 명시되어 있습니다.

한 가지 유의할 점은, 참고자료의 주체별 역할이 여러 분야에 공통적으로 적용할 수 있는 수준에서 다뤄진다는 것입니다. 분야별 특성을 고려한 세부 실천 기준과 방법은 관계 부처 등이 마련하는 윤리기준과 가이드라인을 통해 구체화됩니다.

AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 근본적 지향점입니다.

인간의 존엄성(Human Dignity) — 인간을 중심에 두고, 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 온전히 누릴 수 있는 사회를 지향합니다. 인간은 자기 삶의 주인으로서 스스로 판단하고 선택하는 존재이며, AI를 활용할 때에도 그러합니다. 또한 AI를 어떻게 만들고 활용할지에 관한 공동의 결정에 누구나 참여할 수 있습니다.

사회의 공공선(Common Good of Society) — AI가 만들어 내는 편익이 개인의 삶을 나아지게 하는 데 그치지 않고, 사회적 신뢰와 공동의 이익이 함께 증진되는 사회를 지향합니다. 무엇이 공동의 이익인지는 사회 구성원이 함께 판단할 문제이며, 그 공론에 다양한 구성원이 참여하는 것이 민주적 의사 형성을 뒷받침합니다.

인류의 지속가능성(Sustainability) — AI가 만들어 내는 편익과 가능성을 현재와 미래 세대가 함께 누리며, 인류의 삶을 뒷받침하는 환경과 사회의 기반이 지속되는 미래를 지향합니다. AI의 영향은 환경뿐 아니라 사회에도 오랜 시간에 걸쳐 나타나므로, 이러한 장기적 변화를 지속적으로 살피고 책임 있게 대응해야 합니다.

3대 가치를 AI 생애주기 전반에서 구현하기 위해 모든 주체가 자율적으로 실천할 공통 기준입니다.

실제 사안에 적용하다 보면 가치 간에 또는 원칙 간에 경합이 생길 수 있습니다. 본 윤리원칙은 우선순위를 미리 정해 제시하지 않습니다. 대신 관련된 주체들이 구체적인 상황과 맥락에 맞는 균형점을 함께 논의해 찾아 나갈 것을 권하며, 그 과정에서 고려해야 할 가치와 원칙을 밝혀 논의의 출발점이 됩니다.

투명성 원칙의 [설명가능성] 항목이 이를 다룹니다. AI가 개인의 권리·의무·기회 등에 영향을 미치는 판단이나 결정에 활용되는 경우, 결과뿐 아니라 어떤 기준과 정보에 따라 그런 결과가 나왔는지 이해할 수 있어야 한다는 것이 원칙의 내용입니다.

특히 개인에게 미치는 영향이 중대할수록, 당사자가 그 판단의 이유를 이해하고 필요한 경우 이의를 제기하거나 재검토를 요청할 수 있도록 충분한 설명이 제공될 필요가 있습니다. 이용자의 역할로도 "자신에게 중대한 영향을 미치는 판단이나 결정에 AI가 활용되는 경우 필요한 설명과 관련 정보를 확인하거나 요청한다"가 명시되어 있습니다.

다만 설명 과정에서는 개인정보와 보안, 영업비밀, 지식재산권 등 보호할 필요가 있는 정보도 함께 고려해야 합니다.

개인정보 — AI 생애주기 전반에서 개인정보는 정해진 목적에 한해 필요한 범위에서 처리되어야 하며, 적절한 보호 조치가 마련되어야 합니다. 정보주체는 자신의 개인정보가 어떻게 처리되는지 확인하고 처리정지, 삭제, 정정 등의 권리를 행사할 수 있어야 하며, 공급자는 그 절차와 수단을 마련해야 합니다.

유출을 막는 것만으로는 충분하지 않다는 점도 짚고 있습니다. AI는 여러 정보를 결합·분석해 개인의 성향이나 생활방식처럼 기존 정보만으로는 알기 어려운 새로운 정보를 추론할 수 있기 때문입니다.

저작물 — 투명성 원칙에서 공급자의 역할로, AI의 학습이나 제품·서비스에 저작물 등 보호받는 자료가 활용되는 경우 그 자료의 출처와 활용 방식 등 필요한 정보를 제공하도록 하고 있습니다.

AI에는 데이터를 수집하고 모델을 개발하는 주체, 제품·서비스로 제공하는 주체, 운영하고 이용하는 주체, 제도와 여건을 마련하는 주체가 각각 관여합니다. 게다가 AI는 일정 범위에서 자율적으로 판단하거나 업무를 수행할 수 있어, 사람이 정한 절차나 지시에 따라서만 작동하는 일반적인 도구와 달리 문제가 발생했을 때 책임 소재를 확인하기가 더 어려워질 수 있습니다.

원칙은 이 점을 인정하면서도 책임 확인과 피해 구제를 분리합니다. 책임 소재를 확인하는 데 여러 단계를 거칠 수 있지만, 피해 구제는 적시에 효과적으로 이루어져야 한다는 것입니다. 공급자는 피해를 입은 사람이 신속하게 구제를 요청하고 필요한 조치를 받을 수 있는 절차와 수단을 마련해야 하며, 정부·사회는 관련 제도와 지원체계를 갖추고 피해자가 자신의 권리와 구제 절차를 쉽게 확인할 수 있도록 정보를 제공해야 합니다.

공정성·포용성 원칙의 [접근성] 항목이 다룹니다. 모두에게 같은 결과를 보장한다는 뜻은 아닙니다. 기기와 이용 환경, 경제적 여건, 디지털 역량, 제품·서비스의 설계 방식 등으로 인해 누구도 AI에 접근하거나 그 혜택과 기회를 누리는 데 부당한 제약이나 배제를 겪지 않아야 한다는 의미입니다.

특히 장애인, 고령자 등 이용에 어려움을 겪는 사람에게는 각자의 여건과 필요를 고려한 적절한 지원이 제공될 필요가 있습니다. 정부·사회는 성별·장애·연령·언어·이용 환경·지역·경제적 여건·디지털 역량 등에 따른 격차를 지속적으로 살피고 이를 줄이기 위한 지원체계를 마련하도록 하고 있습니다.

인간중심성 원칙이 [과의존] 항목으로 별도로 다룹니다. 주목할 점은 과의존을 이용자 개인의 태도 문제로만 보지 않는다는 것입니다.

AI가 사람의 판단을 지나치게 대신하도록 설계되거나, 이용자가 산출물을 충분히 검토하기 어려운 방식으로 서비스가 제공되는 경우에도 과의존은 커질 수 있습니다. 따라서 공급자에게는 이용자의 과도한 의존을 유도하는 방식으로 설계·제공되지 않는지 살피고 필요하면 개선할 역할이, 이용자에게는 산출물을 스스로 검토하고 AI가 자신의 선호를 반영한 결과를 낼 수 있음을 인지하여 비판적으로 점검할 역할이 함께 제시되어 있습니다.

네. 안전성 원칙에 [사회적·체계적 위험으로부터의 안전] 항목이 있습니다. 위험의 범위가 개인을 넘어 사회 전체로 확대될 수 있다는 인식입니다.

구체적으로 ▲허위·조작정보의 대규모 생성·확산으로 여론 형성과 사회적 의사결정을 방해하는 경우 ▲고도화된 사이버공격이나 생물학적 위험을 증폭시키는 데 활용되는 경우를 들고 있습니다. 나아가 AI의 자율성이 높아질수록 사람을 의도적으로 속이거나 인간의 통제를 회피하고, 사람의 의도와 무관하게 스스로 복제·확산하는 등 새로운 형태의 위험이 나타날 가능성도 함께 언급합니다.

이에 대해 위험의 발생 가능성과 영향의 크기를 지속적으로 살피고, 사회의 안전을 위해 필요한 경우 예방·제한·대응할 수 있는 수단을 마련하도록 하고 있습니다.

신뢰성 원칙의 [성능 기준] 항목입니다. AI에 요구되는 성능은 절대적으로 정해지는 것이 아니라는 점에서 출발합니다. 같은 정도의 오차라도 이용 목적과 적용 분야, 결과가 미치는 영향에 따라 허용될 수 있는 수준이 달라집니다. 단순한 편의 기능과 사람의 권리나 안전에 중요한 영향을 미치는 기능에 같은 수준의 성능을 요구하기는 어렵기 때문입니다.

그래서 공급자는 목적과 활용 맥락을 고려해 최소한 어느 정도의 성능이 필요한지 기준을 정하고, 의도된 사용 조건에서 실제 성능이 그 기준 아래로 떨어지지 않도록 관리해야 합니다. 이용자에게는 AI가 언제나 동일하거나 정확한 결과를 제공하는 것은 아님을 이해하고, 중요한 판단에서는 결과를 확인하거나 다른 정보와 함께 검토할 역할이 제시되어 있습니다.

정부의 역할은 공표로 끝나지 않습니다. 서문 「1.5. 이행 지원과 지속적 점검」은 정부가 이어갈 역할을 세 가지로 밝히고 있습니다.

널리 알립니다 — 윤리원칙이 사회 곳곳에서 실천될 수 있도록 이를 널리 알립니다.
내재화를 위한 정책과 제도를 마련합니다 — AI의 개발·활용 과정 전반에 윤리원칙이 내재화될 수 있도록 필요한 정책과 제도를 마련합니다.
정기적으로 점검하고 보완합니다 — 기술과 사회의 변화에 따라 새롭게 제기되는 쟁점을 살펴, 본 윤리원칙을 정기적으로 점검하고 보완해 나갑니다.

아울러 정부는 공공부문에서 먼저 실천하는 역할을 함께 맡습니다. 공공부문에서 AI를 활용하는 경우 그 활용 목적과 범위, 담당 기관 등을 국민이 알 수 있도록 하고, 중요한 판단과 업무에 AI를 활용할 때에는 사람이 그 작동과 결과를 확인하고 필요한 경우 개입할 수 있도록 하는 것 등입니다.

한 가지 유의할 점이 있습니다. 윤리원칙은 법적 구속력이 없는 자율규범이므로, 여기서 말하는 정부의 역할은 새로운 법적 의무를 만드는 것이 아닙니다. AI의 안전성 확보, 고영향 AI 관리, 투명성 확보와 같은 구체적인 의무와 절차는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」과 그 하위법령이 정하며, 분야별 세부 기준과 방법은 관계 부처 등이 마련하는 윤리기준과 가이드라인을 통해 구체화됩니다. 윤리원칙은 이러한 법·제도와 지침이 공통으로 참고할 방향을 제시하는 역할을 합니다.

네. 원칙 본문과 함께 제공되는 참고자료에 원칙별 설명과 주체별 역할이 담겨 있고, 여기에 더해 향후 자율점검표를 통해 보다 구체적인 점검사항이 제공될 예정입니다. 분야별 특성을 고려한 세부 실천 기준과 방법은 관계 부처 등이 마련하는 윤리기준과 가이드라인 등을 통해 구체화됩니다.

공정성·포용성 원칙의 [참여] 항목이 다룹니다. 여기서 말하는 참여란 AI가 어떻게 개발·활용되고 사회에 어떤 영향을 미치는지에 관한 논의에서 다양한 이해관계자가 의견을 제시하고 그 의견이 고려될 기회를 갖는 것을 의미합니다. 모든 이해관계자가 개별 AI의 개발 과정에 직접 참여해야 한다는 뜻은 아닙니다.

정부·사회의 역할로는 이러한 논의에 참여할 절차와 기회를 마련하는 것, 그리고 사회적 논의에서 소외되기 쉬운 사람들의 경험과 관점이 충분히 드러나고 고려될 수 있도록 필요한 정보를 제공하고 참여 여건을 조성하는 것이 제시되어 있습니다.

AI의 영향은 국경 안에 머물지 않습니다. 원칙은 AI 관련 역량과 자원을 많이 가진 국가와 기업이 그 영향력에 걸맞은 책임을 다하고, AI의 혜택이 특정 국가나 지역, 집단에 치우치지 않도록 힘써야 한다고 밝히고 있습니다. AI의 혜택이 일부에 집중되고 부담이 다른 곳에 편중되면 기존의 격차와 불평등이 커질 수 있기 때문입니다.

우리나라는 국제 인권규범에 따른 인권을 존중하며, 모든 인류가 AI의 혜택을 고루 누리는 미래를 향해 국제사회와 적극 협력해 나갑니다.