콘텐츠로 이동

공법상 가치와 인공지능 시스템 - 공적 영역에서의 인공지능 활용을 중심으로 -

원본 파일: 공법상 가치와 인공지능 시스템 - 공적 영역에서의 인공지능 활용을 중심으로 -.pdf
변환 일시: 2026-04-09 22:44

1페이지

사단법인 행정법이론실무학회 Korea Administrative Law and Practice Association 행정법연구 제73호 2024년 3월 Administrative Law Journal Vol. 73, March 2024

DOI https://doi.org/10.35979/ALJ.2024.03.73.303

공법상 가치와 인공지능 시스템

— 공적 영역에서의 인공지능 활용을 중심으로 —*

1)

선 지 원**

국문초록

공공 영역에서의 인공지능 사용에 대해서는 일정한 공법상의 통제를 받을 필요가 있다. 또한

사적 영역과는 달리 직접적인 법적 규율이 용이하여, 인공지능 규율의 시험대로서도 적절한 면

이 있다. 본 연구에서는 공법 원칙에 입각하여 해당 작용 자체에 대한 사전 통제 혹은 해당 작

용의 효력을 돌이킬 수 있는 방법을 모색하였다.

제1단계로 인공지능 시스템의 사용에 대해 일정한 가치를 구현하기 위해 노력했던 사례들을

살펴보았다. 각 주체들마다 다른 이해관계를 가지기 때문에, 다른 시각과 내용들을 가지기는

하지만, 대체로 지난 몇 년 동안 국제사회는 공통의 인공지능 윤리 규범을 도출하였다. 제2단

계로는 법질서가 추구하는 다양한 가치 내지는 의미들로부터 인공지능 시스템의 활용에 적용

할 만한 요소들을 추출하였다. 인간의 존엄과 가치 및 행복추구권, 평등의 원칙, 인신의 안전과

자유, 사생활의 안전과 자유 및 사회･경제적 안전과 자유와 같은 공법적 가치들은 인공지능 시

스템의 사용에 있어서도 의미를 가진다. 마지막으로 인공지능 시스템의 구동 방식과 특성을 감

안하여, 기존의 공법적인 행위와 차별적으로 공법 원칙들을 실현할 수 있는 방식들을 강구하였

다. 공법상의 기본 원칙을 법률상으로 또는 행정의 내부 규칙을 통해 선언하는 명령적 통제의

방식을 생각해 볼 수 있다. 사전 단계에서는 인공지능 시스템 사용의 리스크를 평가하는 영향

평가를 고려할 수 있다. 사회 공동체 전체가 논의에 참여하여 담론을 구성하는 거버넌스를 구

성할 수도 있을 것이다. 공법상 가치와 부합하지 않는 시스템에 대해서는 일정한 판단 절차를

거쳐 사용을 배제하는 방안도 검토 가능하다.

이러한 방법들을 효과적으로 적용하기 위해서는 추가의 고려 사항도 필요하다. 인공지능 시

스템의 활용에서 원용할 수 있는 공법상 가치의 개념을 구체화되고 실체화된 가치 가운데서

  • 이 글은 2024년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행한

연구(No. 2022-0-00184, 점차 강화되고 있는 윤리 정책에 발맞춰 유연하게 진화하는 인공지능 기술 개발 연구) 및 한국인터넷기업협회가 지원하는 “더좋은플랫폼생태계포럼”에서의 연구를 기반으로 한 것이다. 아울러 지난 2024년 1월 20일에 열린 행정법이론실무학회 제277회 정기학술발표회 “AI 기술발전과 행정법 이론”에서 발표한 내용을 수정･보완한 것이기도 하다. ** 한양대학교 법학전문대학원 조교수, 법학박사

2페이지

행정법연구제73호 304

어떻게 도출할 것인지 생각해야 한다. 이어서 공법상 가치 확보를 위한 수단들은 단일한 수단

만으로 효용을 발휘하는 것이 아니라, 여러 가지 수단을 동시에 활용했을 때 더욱 유효하다는

점을 인식해야 한다.

주제어: 인공지능 시스템, 공법상 가치, 명령적 통제, 영향평가, 합의 거버넌스, 절차적 통제

목 차

Ⅰ. 머리말

Ⅱ. 인공지능 시스템의 활용에 대한 규범적 논의

Ⅲ. 전통적인 공법 원칙과 인공지능 시스템의 관련성

Ⅳ. 공법상 가치의 관철을 위한 효과적 수단의 모색

Ⅴ. 맺음말

Ⅰ. 머리말

최근 인공지능 시스템의 사용이 널리 보편화되었고, 인공지능에 대한 사회적 수용의 단

계 역시 높아진 것으로 보인다. 즉, 이제는 우리 사회 공동체가 특별한 기술로서 인공지능

을 받아들이는 것이 아니라, 생활 속에서 자연스럽게 사용하는 여러 애플리케이션에 부착

된 기술로 인식하는 것이다. 심지어 특정 애플리케이션의 이용자 스스로가 인공지능 시스

템을 활용하고 있다고 생각하지 않고 있는 때에도, 인공지능이 해당 애플리케이션을 구동

하는 데에 비중이 높은 기술인 경우도 존재할 수 있다. 공동체 구성원들의 사적인 생활 영

역뿐만 아니라 공공 부문에서도 인공지능의 사용은 자연스러워지고 있다. 특히 정부 시스

템 내에서의 의사 결정과 시민에 대한 서비스를 데이터와 인공지능을 활용해서 고도화하는

이른바 데이터 기반 행정을 비롯하여, 공적 주체가 수행해야 하는 각종 기능에 인공지능

시스템을 활용하는 사례가 늘어나고 있다.

공적 작용이 사적 행위와는 달리 공법상 원칙들의 지배를 받듯, 공공 영역1)에서의 인공

1) 이 글에서 공적 영역이라 함은 행정뿐만 아니라 사법과 입법을 포함한 모든 공공의 영역을 의미한

다. 또한 인공지능 시스템의 사용은 공적 작용을 오로지 인공지능 시스템만으로 행하는 일에 국한 하지 않고, 널리 보조 도구로써 사용하는 경우까지 포함한다.

3페이지

공법상가치와인공지능시스템 305

지능 사용 역시 일정한 공법상의 통제를 받을 필요가 있다. 공적 영역이든 사적 영역이든

인공지능의 사용으로 인하여 구체적인 손해가 발생한다면 그에 대해 적합한 손해배상책임

의 요건 판단을 통해 구제를 받을 수 있을 것이다. 본 연구에서 관심을 가지는 것은 그와

같은 제2차 구제가 아니라, 해당 작용 자체에 대한 사전 통제 혹은 해당 작용의 효력을 돌

이킬 수 있는 (마치 항고소송처럼) 제1차적 구제와 관련한 문제이다. 즉, 행정적인 판단이

어느 정도까지 인공지능에 의존할 수 있는지, 인공지능의 활용이 공동체 전체의 이익에 부

합하는지, 그리고 인공지능 시스템을 통해 이루어진 행정 결정이 법치주의, 비례의 원칙,

평등의 원칙, 적법 절차 등의 행정의 기본 원칙들을 준수하였는지 어떤 방법으로 감시하고

통제할 수 있을 것인지를 살펴보고자 한다.2) 더구나 공적 영역의 경우 직접적인 규제의 방

법이 사적 영역에서의 경제활동보다 더 용이하여, 향후 인공지능에 대한 규율을 합리적으

로 발전시키기 위한 시험대로서도 유용하다.

물론 공적 영역에서의 인공지능 이용에 대한 규율 모색에도 여러 가지 어려움이 따른다.

먼저 행정행위의 경우 공정력으로 인해 다른 하자가 존재하지 않는다면 오로지 “인공지능

시스템의 사용”이라는 이유로 그 효력을 폐지하기 어렵다. 둘째로 인공지능 시스템을 활용

한 작용이라고 하더라도, 그것이 전통적인 작용 형식에 기반한 것이라면(인간의 직접 행위

와 혼합된 것이라면) 인공지능의 활용에 대해 어느 정도의 통제를 할지 불분명하다. 셋째

로 인공지능의 사용은 일반적으로 업무의 효율을 높여줄 수 있기 때문에, 어느 지점에서

공법상 가치와의 충돌을 이유로 그 사용을 제한할 수 있을 것인지 문제이다. 마지막으로

인공지능 알고리즘의 불투명성과 알고리즘 처리의 대상이 되는 데이터의 다양성 및 다변성

으로 인해, 정작 인공지능 시스템의 활용에 있어 어떠한 가치가 문제되는지 발견하기도 쉽

지 않다. 이런 어려움을 감안할 때, 인공지능 시스템의 사용에서 공법상 가치의 실현 방식

을 최종적으로 도출하기에 앞서서 단계적인 검토가 이루어져야 할 것이다.

첫 번째 단계에서는 인공지능 시스템의 사용에 대해 일정한 가치를 구현하기 위해 노력

했던 사례들을 살펴볼 필요가 있다. 인공지능 시스템의 활용이 본격화되며 우리나라를 비

2) 같은 문제의식을 드러내고 있는 연구물로 Coglianese/Lehr, Regulating by Robot: Administrative

Decision Making in the Machine-Learning Era, Georgetown Law Journal, Vol. 105, 2017, p. 1176 ff.; Ebers, Regulating AI and Robotics: Ethical and Legal Challenges, in: Ebers/Navas, Algorithms and Law, Cambridge University Press, 2020, p. 50.; 김광수, 인공지능 과학기술과 행정법학, 서강 법률논총 제11권 제1호, 2022, 48쪽 이하; 김대인, 인공지능과 행정법총론체계의 변화, 경제규제와 법 제13권 제2호, 2020, 108쪽 이하; 김휘식, 인공지능에 의한 행정상 자동결정에 대한 규율과 권 리구제, IT와 법 연구 제22집, 2021, 321쪽 이하; 임성훈, 인공지능 행정이 행정절차･행정소송에 미 치는 영향에 대한 시론적 고찰, 행정법연구 제62호, 2020, 135쪽 이하; 조성규, 인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점, 동북아법연구 제16권 제4호, 2023, 164쪽 이하.

4페이지

행정법연구제73호 306

롯한 많은 정부, 민간 기업, 국제기구 및 연구자들은 인공지능의 활용과 더불어 준수해야

할 규범적인 내용들을 연구해 왔다. 또한 그러한 규범적(주로 윤리 규범) 가치들을 관철하

는 방식에 대해서도 다양한 시도가 이어져 왔다. 아직까지 확실하게 정립되었거나 효과성

이 입증된 방안을 찾기 어려움에도 불구하고, 기존의 노력들을 분석하고 그로부터 시사점

을 도출하는 것이 본 연구의 목적 달성을 위해 필요한 일일 것이다.

다음 단계에서는 인공지능 시스템에서의 공법 원리의 실현 방식에 대해 검토하기 전에

우선 기존 사회와 법질서에서의 공법상 가치의 의미를 다시 한번 새길 필요가 있다. 법질

서가 추구하는 다양한 가치 내지는 의미들로부터 인공지능 시스템의 활용에 적용할 만한

요소들을 추출해 볼 수 있을 것이다. 헌법적인 가치뿐만 아니라 행정법의 일반 원리들 및

“공서양속”과 같은 내용들로부터 인공지능의 사용에 있어서도 적용 가능한 공법상 가치의

내용을 도출할 수 있다.

마지막으로 인공지능 시스템의 구동 방식과 특성을 감안하여, 기존의 공법적인 행위와

차별적으로 공법 원칙들을 실현할 수 있는 방식들을 탐구해 가야 할 것이다. 활용 단계에

서 적용해야 할 원론적인 원칙들만을 제시하는 것보다는 실질적인 방안을 제시하는 것이

실천적으로 가치를 가지는 연구라고 할 수 있다. 그렇다면 기존 사회에서의 공법 원리들을

인공지능 시스템 안에서 어떻게 유효하게 받아들일 수 있을 것인가? 먼저 인공지능 시스템

의 특수성을 생각해 볼 필요가 있을 것이다. 인공지능은 여러 특징을 가지지만 가장 우선

적으로 사람을 거치지 않는 의사 결정이 사람에게 영향을 미친다는 점을 고려해야만 할 것

이다. 이런 면을 감안할 때 논의의 관건이 되는 것은 먼저 기존 사회에서의 질서들을 기존

제도에서의 방식으로 인공지능 시스템에서 반영할 수 있는가의 문제일 것이다. 이것이 불

가능하거나 어렵다면 어떤 새로운 공정성 실현 방식을 생각해 볼 수 있을 것인가의 문제도

중요하다. 전통적인 법적 규율의 방법처럼 요건과 효과의 방식(행위규범)이 아닌 새로운 유

형의 실현 방식을 구축할 필요도 있다. 예컨대 거버넌스를 통한 접근, 원칙 중심 규제, 리

스크 기반의 규제 등을 생각해 볼 수 있다.

이하에서는 우선 인공지능 시스템의 활용에 대한 기존의 규범적 논의에서 출발하여, 전

통적으로 법질서가 추구하는 가치들과 인공지능 시스템에서의 공법상 가치의 연결의 필요

성을 모색하고자 한다. 즉, 인공지능 시스템의 사용에 특유한 공정성 개념을 전통적인 법질

서의 가치들로부터 도출하고, 인공지능 관련 애플리케이션의 사용 행태와 공적 영역의 특

징에 맞추어 적합한 공법적 통제 방안을 강구하고자 한다.

5페이지

공법상가치와인공지능시스템 307

Ⅱ. 인공지능 시스템의 활용에 대한 규범적 논의

  1. 개관

인공지능 시스템의 활용에 대하여 사용 영역을 불문하고 법체계 안에서의 정합성과 윤리

적 정당성을 확보하려는 시도는 2010년대 중반 이후 인공지능 시스템의 사용이 보편화되

기 시작한 이래 계속되어 왔다. 이러한 시도들은 표면적인 내용에 있어서는 유사해 보이지

만, 논의 주체가 지향하는 목적에 따라 다른 성향을 띠기도 한다. 유럽연합의 경우 역외(주

로 미국)의 기업들이 제공하는 인공지능 기반의 서비스에 유럽연합의 지향하는 가치를 반

영하도록 할 목적으로 각종의 윤리 및 법제 논의가 이루어졌다. OECD의 경우 경제 개발

의 동력으로 인공지능 기술을 활용하기 위해 필요한 최소한의 윤리적 통제 장치를 마련하

기 위한 논의를 진행해 왔다. 인류 사회의 문화적 고양을 지향하는 UNESCO와 같은 단체

나 기술 개발에 대한 윤리적 통제를 강조하는 IEEE와 같은 단체는 비교적 순수한 윤리적

측면에서 인공지능에 대한 통제 논의를 이끈다. 그밖에도 개별 국가들은 내국에서의 인공

지능 시스템의 사회적 수용과 인공지능 기술을 활용한 경제 성장에 부합하는 목적의 통제

방식을 강구해 온 것으로 보인다.

그 노력은 초기에는 ― 일부 예외는 있지만 ― 윤리적 가치의 정립을 중심으로 이루어졌

으나, 최근 들어 법률을 통한 직접적인 규제 방식으로도 확대되어 가고 있다. 또한 최근의

논의 경향에서는 인공지능 시스템의 구축이나 알고리즘 자체에 대한 통제보다는, 시스템의

사용, 즉, 애플리케이션의 단계에서 이용자의 행태를 규율하거나 통제하는 방식이 중심이

되는 모습을 발견할 수 있다. 이하에서 주로 국제기구 및 단체들의 사례를 중심으로 인공

지능에 대한 통제 시도의 양상을 살펴본다.

  1. 유럽연합 – 윤리 규범에서 법적 통제로

(1) EU HLEG의 “신뢰할 수 있는 인공지능을 위한 윤리 가이드라인”

유럽연합 집행위원회는 인공지능의 개발 및 인공지능 기술을 적용한 제품과 서비스를 유

럽 역내에 출시함에 있어 유럽이 추구하는 가치를 관철시키고자 다양한 노력을 하고 있다.

집행위원회는 그 일환으로 각계 전문가로 구성된 “인공지능 최고 전문가그룹(High-Level

Expert Group on AI: HLEG)”을 구성하고, 인공지능 관련 정책에 대한 자문 및 공론화를

담당토록 하였다. HLEG는 1년여에 걸친 논의 끝에 지난 2019년 4월, “신뢰할 수 있는 인

6페이지

행정법연구제73호 308

공지능을 위한 윤리 가이드라인(Ethics Guidelines for trustworthy AI)”을 발표하였다.3)

본 윤리 가이드라인은 3개의 장으로 구성되어 있다. 제1장에서는 윤리적 원칙과 관련된

가치, 제2장에서는 7가지 핵심지침, 제3장에서는 신뢰성 있는 AI 평가 목록을 제시하고 있

다. 동 가이드라인에 따르면 신뢰할 수 있는 AI에는 시스템 전주기에 걸쳐 반드시 지켜져

야 하는 세 가지 구성 요소로서 (1) 합법적이어야 하며 모든 관련 법규를 준수해야 하고,

(2) 윤리적이어야 하며 윤리적 원칙과 가치를 준수해야 하며, (3) 좋은 의도로 AI 시스템이

의도하지 않은 결과를 초래할 수 있기 때문에 기술 및 사회적 관점 모두에서 견고해야 함

을 요구하고 있다. 또한 본 가이드라인에서는 ‘신뢰 가능한 AI(Trustworthy AI)’를 구현하

기 위한 요건으로 인간 자율성 및 감독(Human agency and oversight), 기술적 견고함 및

안전(Technical robustness and safety), 프라이버시와 데이터 거버넌스(Privacy and data

governance), 투명성(Transparency), 다양성, 차별금지, 공평성(Diversity, non-discrimination and

fairness), 사회 및 환경 복지(Soceital and environmental wellbeing), 책임성(Accountability) 원

칙을 열거하고 있다.

(2) EU 인공지능법(이른바 “AI Act”)

최근 유럽연합은 인공지능 개발 및 사용을 위한 공통된 조건을 만들어 유럽 단일 시장

의 기능을 보장하기 위한 목적에서, 인공지능에 대한 리스크 기반의 규제를 골자로 하는

이른바 “AI Act”4)를 입법하였다.5) 이 규칙은 인공지능 기술 개발, 유럽연합 시장 출시, AI

3) HLEG 가이드라인 발표의 배경과 경과 및 함의에 대해서는 선지원, 유럽 HLEG 인공지능 윤리 가

이드라인과 지능정보사회 이용자보호 정책의 비교, The Digital Ethics Vol. 3, No. 1, 2019, 63쪽 이하 참조. 4) 2021년에 집행위원회가 발의한 법안[Proposal for a regulation of the European Parliament and of

the Council laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain Union legislative acts, COM/2021/206 final.]이 2023년 12월 유럽연합의 양 입법 자인 유럽 의회와 평의회의 정치적 합의에 이르렀으며, 2024년 3월 13일에 유럽연합 의회의 최종 적인 승인을 얻었다. 2024년 3월 현재의 법안 원문은 다음 사이트에서 다운로드받을 수 있다. Texts adopted – Artificial Intelligence Act – Wednesday, 13 March 2024 https://www.europarl. europa.eu/doceo/document/TA-9-2024-0138_EN.html (2024. 3. 26. 최종 접속) 5) “AI Act”는 이 법안의 정식 명칭이 아니라 통상적으로 부르는 이름이며, 정식 명칭에서 보듯 유럽

연합법의 제2차법 입법 형태 가운데 “Regulation”의 형식을 채택하고 있다. 법안의 발의 전에 유럽 연합 집행위원회는 EU 시민의 가치와 권리 존중, 윤리적이고 신뢰할 수 있는 AI의 개발 및 활용, AI 분야 유럽의 혁신 역량 증진을 위한 정책 방향 제시 목적으로 ｢인공지능 백서(White Paper on Artificial Intelligence)｣를 발표(2020. 2.)한 바 있다. 집행위원회는 이 백서를 통해 유럽 내 단일 인 공지능 생태계 조성을 위한 i) 정책 프레임워크, ii) 규제 프레임워크를 제시하고 있으며, 이 법안의 주요 내용은 이미 이 백서를 통해 확립된 것으로 보인다. EU, “WHITE PAPER: On Artificial Intelligence-A European approach to excellence and trust”, 2020. 2.

7페이지

공법상가치와인공지능시스템 309

제품 및 서비스 사용에 대한 법적 프레임워크를 제시하고 있다. 구체적으로는 1) 안전하고

기존 EU 법률을 존중하며, 2) 투자를 촉진하기 위해 법적 안정성을 보장하고, 3) 유럽법

차원의 기본권 및 안전 요건 보장을 위해 규제를 효과적으로 집행할 수 있는 구조를 조성

하고, 4) 합법적이고 안전하며 신뢰할 수 있는 AI 애플리케이션을 위한 단일 시장의 성장

을 촉진하는 내용을 담고 있다.6) 유럽연합의 이 규칙은 공공 영역에서 사용하는 인공지능

시스템에 국한하여 적용되는 것은 아니지만, 현실적으로는 공공 영역에서의 인공지능 사용

의 통제에 우선적으로 활용될 것으로 보인다.

이 규칙의 핵심 내용은 인공지능 시스템에 대해 리스크별로 분류한 후, 리스크의 정도에

따라 규제의 정도를 달리하는 것이다. 먼저 허용할 수 없는 정도의 리스크(unacceptable

risk)를 가진 인공지능 시스템에 대해서는 전면적으로 이용을 금지한다. 예컨대 인간을 수

단으로 삼는 인공지능 시스템이나 예측 기반 경찰활동과 같이 인공지능의 사용이 유럽연합

시민에게 명백한 해악을 가하는 경우가 이에 해당한다. 높은 리스크(High Risk)를 가진 인

공지능 시스템에 대해서는 엄격한 규제를 통해 제한된 조건 아래에서만 활용이 가능하도록

하고, 활용 이후 사후 규제 역시 강화하게 된다. 신용평가, 건강 및 생명보험, 투표 집계

시스템, 의료 분야에서의 환자 분류 등이 이에 해당한다. 높은 리스크를 지닌 인공지능 시

스템에 대해서는 책임 명확화 및 균형화를 요구하게 되며, 기업 내 자가 통제시스템, 이의

제기 시의 대응 시스템 등을 의무화한다. 제한된 리스크(Limited Risk)를 가진 인공지능 시

스템에 대해서는 비교적 완화된 규제가 적용된다. 인간에게 일정한 영향을 끼칠 수 있으나,

위에서 언급한 높은 리스크는 가지지 않는 인공지능 시스템이 이에 해당한다. 제한된 리스

크를 가진 인공지능 시스템에 대해서는 사고 발생 시 사후 대처가 가능하도록 하는 투명성

의무가 부과된다. 마지막으로 최소의 리스크를 가졌거나 리스크가 없는 것으로 평가되는

(Minimal or no Risk) 인공지능 시스템에 대해서는 기본적으로 자유로운 사용을 보장한다.

한편 최근 새로이 대두된 범용 인공지능에 대해서는 별도의 장(Title ⅧA)을 마련하여, 범

용 인공지능 모델의 제공자에 대해 학습 과정 등에 대한 기술적 문서를 작성할 의무를 포

함한 특수한 의무를 부여하고 있다.

규칙은 이러한 인공지능 규율 구조를 실행하기 위한 거버넌스를 유럽 AI 위원회

(European Artificial Intelligence Board), 독립한 전문가 패널 및 회원국 내국의 경쟁당국으

로 나누고 있다. 또한 2024년 2월에 이미 집행위원회 산하에 유럽 인공지능청(European

AI Office)를 설치하여 규칙의 집행과 적용을 위한 준비를 하고 있다. 2024년 3월 유럽연

합 의회의 의결을 완료한 이 규칙은 유럽 평의회의 의결을 거쳐 공포 후 20일 이후부터

6) European Parliament, Briefing EU Legislation in Progress – Artificial Intelligence act, 2023. 6.

8페이지

행정법연구제73호 310

발효될 전망이다. 다만, 적용에 있어서는 유예 규정을 두어 금지 규정은 공포 후 6개월 이

후, 거버넌스와 범용 인공지능에 관한 의무 규정은 12개월 후, 제품에 부착된 AI 시스템에

관한 규정은 36개월 후에 적용될 예정이다.

  1. 각종 국제기구 및 단체들의 권고안

(1) 경제협력개발기구(OECD)의 권고안

OECD는 디지털 변혁의 시대에서 지속가능한 발전과 인공지능 활용을 위해 OECD 회원

국 간의 논의를 거쳐 2019년 5월에 ｢OECD 인공지능 이사회 권고｣(OECD Recommendation

of the Council on Artificial Intelligence)를 발표하였다. OECD의 권고안은 향후 회원국들

의 경제개발정책의 새로운 성장 동력으로서 인공지능의 중요성을 인정하고, 역기능을 최소

화한 채로 인공지능을 최대한 활용하기 위한 전략을 제시한 것이다. 우리나라 역시 OECD

의 회원국으로 OECD의 권고를 향후 인공지능 정책에 반영해야 할 것이다. 권고안의 주요

내용은 다음과 같다.

먼저 포괄적 성장, 지속가능한 발전 및 삶의 질(웰빙)(Inclusive growth, sustainable

development and well-being)을 추구한다. 인공지능 이해관계자는 포괄적 성장, 지속가능한

발전 및 삶의 질 향상을 주도하여 인간과 지구에 이익을 가져다주어야 한다. 인간 중심적

가치와 공정성(Human-centered values and fairness)에 따라 인공지능 개발･운영 등 관계자

는 인공지능의 수명주기 전체에 걸쳐 법치, 인권 및 민주적 가치를 존중해야 한다. 여기에

는 차별금지 및 평등, 프라이버시와 개인정보보호 등이 포함된다. 투명성과 설명가능성

(Transparency and explainability) 원칙에 따라 인공지능 개발･운영 등 관계자는 인공지능

시스템에 대한 투명성 및 책임 있는 공개를 해야 한다. 이를 통해 인공지능에 의해 부정적

영향을 받은 사람들도 그 결과를 이해하고 항의할 수 있도록 한다. 견고성, 보안 및 안전

성(Robustness, security and safety) 측면에서 인공지능 수명주기 전체에 걸쳐 정상적이고

예측 가능하게 기능하여야 하며, 불합리한 위험을 초래하지 않도록 안전한 방식으로 작동

하여야 한다. 책임성(Accountability) 차원에서 인공지능 개발･운영 등 관계자는 인공지능

시스템의 적절한 작동 및 위의 원칙들의 존중에 대해 책임을 져야 한다.

(2) 전기전자기술자협회(IEEE)의 설계 가이드라인

전기전자기술자협회(IEEE)는 지난 2019년 9월, 산하 프로그램 중 하나인 “The IEEE

9페이지

공법상가치와인공지능시스템 311

Global Initiative on Ethics of Autonomous and Intelligent Systems”를 통해 인공지능 윤리

에 대해 기술자 및 기술 개발 기업이 준수해야 하는 사항을 담은 “Ethical Aligned Design”

document(윤리적 설계를 위한 문서)를 발간하였다. 지능정보기술 및 자동화 기술과 관련하

여 설계 단계에서 준수해야 할 윤리적 기준을 제시하고 있는 것이다. 비록 이 문서가

IEEE의 공식적인 견해는 아니지만 구성원들인 기술 전문가들이 합의한 인공지능 윤리 기

준을 제시하고 있다는 점에서 큰 의의를 가진다고 평가할 수 있다.7) 이 문서는 인권의 권

리와 웰빙, 데이터 관리, 효율성, 투명성, 책임성 등 A/IS8)의 알고리즘 설계 시 고려해야

할 요소들을 제시하고 있다.

(3) 국제연합교육과학문화기구(UNESCO)의 권고

국제연합교육과학문화기구(United Nations Educational Scientific and Cultural Organization:

UNESCO) 역시 국제적인 교육, 과학 및 문화의 가치를 인공지능의 개발과 사용에 대해 관철

할 목적으로 권고안을 발표하였다(인공지능 윤리 권고 : The Recommendation on the Ethics

of Artificial Intelligence).9)

UNESCO는 권고를 통해 인공지능 윤리를 위한 가치로 인간의 존엄성, 인권 및 근본적

자유, 소외된 사람이 없을 것, 조화로운 삶, 신뢰가능성 및 환경보호를 들고 있다. 이 가치

들은 인공지능의 개발과 사용에 있어 회원국들이 추구해야 할 상위 규범을 의미한다.10) 이

가치를 구체화하여 실천 수준에서 활용할 수 있는 규범은 두 가지 범주로 나누어 제시하고

있다. 첫 번째 범주에서는 인간과 인공지능 간의 관계로서 인간과 인간의 번영, 비례성, 인

간의 관리감독 및 결정, 지속가능성, 다양성과 포용성, 개인정보 보호, 인식과 교육 및 다

중이해관계자 및 적응형 거버넌스를 세부 원칙으로 제시한다. 두 번째 범주로는 인공지능

시스템 자체에 대한 내용인 공정성, 투명성 및 설명가능성, 안전과 보안 및 책임과 책무성

을 들고 있다.11) 단, 이 권고에서는 알고리즘의 개발과 적용 과정에서 이를 직접적으로 규

7) 선지원 외, 지능정보기술 발전에 따른 법제･윤리 개선방향 연구, 정보통신정책연구원, 2019, 126쪽

이하. 8) IEEE는 인공지능(Artificial Intelligence)이라는 용어 대신 자동화/지능화 시스템(Autonomous and

Intelligent System)이라는 용어를 사용한다. 9) 2020년 5월의 초안 발표 후 각 회원국의 전문가 및 이해관계자들의 의견 수렴 과정을 거쳐 2021

년 11월 파리에서 열린 제41차 UNESCO 총회를 통해 최종적인 인공지능 윤리 권고를 발표하였다. 권고안의 준비 단계에서 이 논의 과정을 상세히 소개하고 있는 문헌으로는 문정욱 외, 윤리적 인공 지능을 위한 국가정책 수립, 정보통신정책연구원, 2020, 113쪽.

10) 문정욱 외, 위의 보고서, 113쪽.

11) 상세한 내용은 문정욱 외, 위의 보고서, 114쪽 이하.

10페이지

행정법연구제73호 312

율할 수 있는 프레임워크는 제시하고 있지 않다.

Ⅲ. 전통적인 공법 원칙과 인공지능 시스템의 관련성

살펴본 대로 기존의 인공지능 통제를 위한 규범적 논의들은 주로 당위론적인 가치를 중

심으로 이루어지고 있다. 공법적인 논의를 위해 다음 단계에서 필요한 것은 위에서 언급한

인공지능 활용을 둘러싼 윤리적인 규범들을 공법상의 가치들과 어떻게 연결시킬 것인지 해

명하는 것이다.

  1. 인간의 존엄과 가치 및 행복추구권

헌법이 확인하고 있는 인간의 존엄과 가치 및 행복추구권을 공정성의 관점에서 살펴볼

수 있다. 대한민국 헌법은 제10조를 통해 “인간의 존엄성 원칙”과 첫 번째 실행원칙인 “행

복추구권”을 선언하고 있다. 인간의 존엄과 가치는 기본권 보장의 근본 원칙이자 헌법의

최고 가치로 헌법 이전에 존재하는 자연법적 권리를 선언한 것이기도 하지만,12) 개별 기본

권으로서 인간으로서의 최소한의 품위를 유지할 수 있도록 하는 근거로도 원용될 수 있기

때문에13) 공정성의 한 내용으로 구성하는 것이 가능할 것이다. 헌법 제10조 제1문의 기본

권 선언은 인류 역사가 보여주었던 비인간적인 인권 침해 행태를 단절하고, 인간 존엄을

구현하는 것을 국가의 목적으로 삼는다는 점을 명확히 밝힌 것14)이라고 평가할 수 있다.

행복추구권은 그 존재 의의 자체가 불명확하다는 문제 제기는 있지만,15) 헌법재판소는 이

12) 조소영, 기본권 규범구조에서의 ‘인간의 존엄성’의 지위 - 헌재 2016. 12. 29. 2013헌마142 결정에

대하여, 공법연구 제48집 제1호, 한국공법학회, 2019, 124쪽.

13) 헌법재판소는 “이 사건 수용행위로 인하여 헌법 제10조에 의하여 보장되는 청구인의 인간의 존엄

과 가치가 침해되었는지 여부가 문제된다. 청구인은 이 사건 수용행위로 인하여 행복추구권, 인격 권 및 인간다운 생활을 할 권리를 침해받았다는 주장도 하고 있으나, 위 기본권들의 침해를 다투는 청구인의 주장은 모두 인간의 존엄과 가치의 침해를 다투는 청구인의 주장에 포섭될 수 있으므로 별도로 판단하지 아니한다”고 판시하며, 인간의 존엄과 가치를 개별적인 기본권으로 취급하고 있 다. 전원재판부 2013헌마142, 2016. 12. 29. 물론 이에 대해서는 헌법이론적인 논쟁이 이어지고 있 다. 조소영, 앞의 글, 129쪽 이하.

14) 성낙인, 헌법학, 2023, 1109쪽 이하.

15) “어떤 구체적인 권리를 내용으로 한다기보다는 인간으로서의 존엄과 가치를 존중받으며 살아갈

수 있는 모든 국민의 당위적이고 이상적인 삶의 지표를 설정해 놓음으로써 인간의 존엄과 가치가 갖는 윤리규범적 성격과 실천규범적 성격을 강조하는 것”이지 개별 기본권으로서의 존재 의의는

11페이지

공법상가치와인공지능시스템 313

를 독자적인 기본권으로 인정하고 있고, 이로부터 “일반적 행동자유권”, “개성의 자유로운

발현권”, “성적 자기결정권” 및 “소비자의 자기결정권” 등을 도출16)할 수 있다.

이러한 가치를 인공지능 시스템과 연결지어 생각해 볼 수 있을 것이다. 인간의 행위가

다른 인간의 인권을 침해하는 것을 경계하듯, 인공지능의 사용이 인간 존엄을 침해하는 것

을 방지하려 노력하는 일은 당연한 일이다. 행복추구권을 기본권의 하나로 인정할 수 있다

고 한다면, 인공지능의 사용을 통하여 평안하고 안락한 삶을 추구할 수 있다는 점으로 미

루어 볼 때, 인공지능 시스템을 공적 서비스의 용도로 사용할 경우 얼마나 공정한 목적과

내용을 가지는지와 밀접한 관련성을 띠고 있다고 볼 수 있을 것이다. 인공지능을 비롯한

모든 기술이 사회에 수용되기 위해서는 해당 기술이 인간 삶의 만족도 제고에 기여해야 한

다는 점을 감안하면, 결국 우리 헌법상의 행복추구권이 인공지능 시스템의 공정성이라는

주제를 통해 공법상의 가치와 연결된다고 평가할 수 있다.

  1. 평등의 원칙과 인공지능의 활용

평등 역시 우리 헌법이 인정하고 있는 가치일 뿐만 아니라, 헌법 이전에 행정의 기본 원

칙으로서 관철되어야 하는 가치이다. 즉, 공적 영역에서는 반드시 관철되어야 하는 것이다.

평등권 또한 헌법재판소가 표현하는 대로 “기본권 보장에 관한 헌법의 최고원리”이자 “기

본권 중의 기본권”으로서,17) 헌법 제정 이전에 이미 존재하는 “초실정법적인 법원칙”18)으

로 통용된다. 평등권은 1776년의 미국 버지니아 권리장전 혹은 1789년 프랑스혁명의 시기

에는 국가에 대한 소극적 권리로서 형식적 평등의 의미로 새겨졌으나, 현대에 이르러서는

국민의 실질적 평등을 구현하기 위한 원리로 발전19)하였다. 따라서 경제적 약자를 포함한

모든 사람들의 실질적인 “인간다운 삶”을 보장하기 위한 적극적인 권리의 성격도 가진다고

볼 수 있을 것이다.

공적 영역에서의 인공지능 시스템의 설계와 사용을 둘러싼 모든 단계에서 이러한 내용을

부정적이라고 보는 견해가 있다. 허영, 한국헌법론, 박영사, 2015, 327쪽. 또한 “인간의 기본권리로 서 인간의 존엄과 가치의 존중, 사생활의 비밀의 자유, 환경권 등 구체적 기본권을 따로 규정해 놓 고 있으면서 또 다시 그 개념이나 법적 성격, 내용 등에 있어서 불명확한 행복추구권을 규정한 것 은 추상적 권리를 중복하여 규정한 것이고 법해석의 혼란만 초래할 우려”가 있다는 지적도 존재한 다. 전원재판부 95헌가6, 1997. 7. 16, 재판관 이재화, 재판관 조승형의 반대의견.

16) 성낙인, 헌법학, 2023, 1124쪽.

17) 헌법재판소 전원재판부 88헌가7, 1989. 1. 25., 위헌.

18) 성낙인, 헌법학, 2023, 1140쪽.

19) 성낙인, 헌법학, 2023, 1139쪽.

12페이지

행정법연구제73호 314

당연히 적용할 수 있다. 인공지능 시스템의 사용이 야기하는 결과가 평등이라는 가치에 부

합하지 않을 때, 직접적으로 공정하지 않은 결과라고 평가할 수 있는 것이다. 뿐만 아니라

위에서 언급한 평등권의 적극적 성격에 주목한다면 인공지능이 내리는 결정이 직접 평등하

지 않은 결과를 야기하는 경우는 물론이고, 인공지능을 통한 이익을 사회 구성원들이 고루

향유하지 못하게 되는 경우에도 평등권의 관점에서 타당하지 못한 인공지능 시스템의 사용

이라고 말할 수 있다. 전자와 관련하여 인공지능이 사용하는 데이터는 본래 사회의 편향과

불평등을 그대로 반영하고 있기 때문에, 인공지능의 개발과 운영에 있어 특별한 고려를 하

지 않는다면 인공지능이 내놓는 결과물도 편향적일 가능성이 증대한다(이른바 데이터 근본

주의). 후자와 관련해서는 각종의 지리･경제･문화적인 여건으로 인하여 인공지능의 이익을

특정 계층이 독점하거나, 인공지능의 사회적 수용으로 인해 변화한 사회구조로 인해 삶의

질의 격차가 벌어지는 문제를 생각할 수 있다. 공법상의 가치라는 맥락 안에서 평등을 고

려할 때, 다양성 존중(인공지능 사용에 따라 직접 생길 수 있는 차별적인 결과를 방지)과

연대성(인공지능의 이익을 사회 전체가 고루 향유할 수 있도록 하는 방향성을 제시할 뿐만

아니라 인공지능이 다양한 집단 간의 연대성을 회복･유지하기 위한 목적에 복무해야 함,

기회의 평등 포함)의 중요성 역시 생각해 볼 수 있을 것이다.

비단 공적 영역에서의 사용에 국한되는 것은 아니지만 인공지능 시스템에서 평등과 관련

하여 특히 강조할 수 있는 문제는 이른바 편향(bias)의 방지와 관련한 쟁점이다. 이 문제의

전제로서 먼저 인공지능 시스템에서의 평등이 공법상 평등의 원칙과 동일한가의 문제를 살

펴볼 필요가 있다. 사람의 의도적인 차별을 제재하는 것과 시스템적인 차별을 제한하는 것

이 어떤 차이를 가지는지 직시해야 할 것이다. 오히려 시스템적인 차별을 제어하는 것이

통제에 있어 더 간편하다는 생각도 할 수 있을 것이다. 또한 데이터의 편향과 데이터를 처

리하는 알고리즘의 편향이 개념상 혹은 법정책상 차이를 가지는지, 그리고 그 차이를 반영

해야 하는지도 중요한 문제이다. 데이터 부족에 따른 편향 발생과 데이터를 충실히 반영했

기 때문에 나타나는 편향성의 차이 역시 감안해야 한다. 전자의 보완은 데이터 보충을 통

해, 후자의 보완은 시스템적 제한을 통해 가능할 것이다.

  1. 인신의 안전과 자유

인신의 안전과 자유 역시 헌법상의 의미를 가지는 가치이며, 인공지능 시스템의 사용을

둘러싸고도 고려해야 하는 문제이다. 우리 헌법은 제12조 제1항 제1문에서 “모든 국민은

신체의 자유를 가진다”고 규정한다. 헌법재판소는 이에 대해 “헌법 제12조 제1항 전문에서

13페이지

공법상가치와인공지능시스템 315

‘모든 국민은 신체의 자유를 가진다’라고 규정하여 신체의 자유를 보장하고 있는 것은, 신

체의 안정성이 외부로부터의 물리적인 힘이나 정신적인 위험으로부터 침해당하지 아니할

자유와 신체활동을 임의적이고 자율적으로 할 수 있는 자유를 말하는 것”이라고 판시하고

있다.20) 결국, 인간의 자유는 삶의 안전과 결부되어 있기 때문에, 결국 “안전과 자유는 포

괄적으로” 논의되어야 한다는 것이다.21) 인신의 안전과 자유의 구체적인 기본권은 생명권,

신체를 훼손당하지 아니할 자유와 권리, 형사절차에서의 신체의 안전과 자유(신속한 재판,

형사피고인의 공개재판, 무죄추정의 원칙, 형사피해자진술권, 형사보상청구권, 범죄피해자구

조청구권 등) 등으로 구성된다.

인공지능 시스템에의 적용 가능성을 살펴본다면, 인공지능을 통하여 자유를 확대하는 측

면이 있는가 하면, 인공지능 기술 사용의 역기능으로 인해 개인의 안전한 삶이 침해받는

경우가 생길 수도 있다. 따라서 공적인 목적으로 인공지능 시스템을 활용할 때 안전한 삶

이라는 요소를 고려하지 않을 수 없다. 예컨대 범죄 수사 과정에서 인공지능을 활용할 경

우, 인공지능의 이용자인 수사 기관은 사전에 그 오류의 가능성을 인지하고 있어야 할 것

이다. 영역을 막론하고 인공지능의 사용이 사람의 신체에 대한 물리적인 침해를 일으키지

않도록 해야 하며, 그에 대비한 통제 장치를 갖추어야 할 것이다. 이 문제는 최근의 인공

지능 윤리의 관점에서 “책임성”과 “투명성”이라는 핵심 요건을 통해 실질적으로 관철하고

자 하는 대목이다.

인신의 자유와 관련해서는 공적 영역에서의 통제와 사적 영역에서의 통제의 차이를 고려

해야 한다. 위에서 언급한 수사 기관에서의 인공지능 사용과 같이 공적 영역에서 인공지능

을 활용하는 경우의 해악 금지 등에 대해서는 법률을 통한 규율이 용이하다. 뿐만 아니라

관련 법률이 없을 때에는 피해자가 직접 헌법 규정을 원용하여 공적 주체에 대해 책임을

물을 수 있을 것이다. 그러나 민간 부문에서 인공지능을 사용할 때의 안전성 문제는 기본

적으로 서비스 제공자와 사용 주체의 자율 영역에 맡겨져 있으며, 피해가 현실화되었을 때,

일반적인 민법상의 불법행위책임 등을 통하여 구제받을 수 있을 것이다. 이러한 측면에서

일반적인 인공지능 시스템의 해악 금지, 안전성 및 통제성의 사후 관리라는 요소를 파악할

수 있다. 책임 명확화를 위해 알고리즘이 도출한 결과를 설명할 수 있어야 한다는 관점에

서 “투명성”과 “설명가능성” 등 인공지능 윤리의 원칙들도 연관지을 수 있다.

20) 헌법재판소 전원재판부 92헌가8, 1992. 12. 24., 위헌.

21) 성낙인, 헌법학, 2023, 1168쪽.

14페이지

행정법연구제73호 316

  1. 사생활의 안전과 자유

프라이버시권이라는 기본권이 대두되어, 사생활의 비밀과 자유가 크게 문제가 되기 시작

한 것은 기술의 발전에 따라 정보를 대량으로 수집하고 분석하는 한편, 그러한 정보가 개

인의 자유에 중대한 영향을 끼친다는 인식이 확산되면서부터일 것이다. 우리 헌법 제17조

도 “모든 국민은 사생활의 비밀과 자유를 침해받지 아니한다”라고 선언하고 있으며, 개인

정보 보호법을 통해 위의 경향을 반영하고 있다. 법률의 단계에서도 개인정보 보호법이 모

든 개인정보 처리자를 수범자로 하는 일반적인 규율이 된 것은, 통신서비스가 보편화되어

정보의 대량 유통이 가능해지면서부터이다. 프라이버시권은 과거에 소극적인 방어권으로

여겨졌으나, 최근에는 자신에 관한 정보를 스스로 통제할 수 있어야 한다는 적극적인 권리

로도 발전하고 있다.22) 대법원도 프라이버시권은 “개인의 사생활 활동이 타인으로부터 침

해되거나 사생활이 함부로 공개되지 아니할 소극적인 권리는 물론, 오늘날 고도로 정보화

된 현대사회에서 자신에 대한 정보를 자율적으로 통제할 수 있는 적극적인 권리까지도 보

장”하는 내용이라고 파악한다.23) 프라이버시권과 별개의 “개인정보자기결정권”24) 개념 역

시 인정되고 있으나, 어떤 논의에 따르든 사생활의 안전과 자유는 소극적으로도, 적극적으

로도 행사할 수 있는 권리라고 이해할 수 있을 것이다.

인공지능 시스템의 활용 차원에서도 프라이버시의 보호는 중요한 가치이다. “인공지능을

개발하고 활용하는 전 과정에서 개인의 프라이버시를 보호해야” 하며 “인공지능 전 생애주

기에 걸쳐 개인정보의 오용을 최소화하도록 노력해야 한다”는 것은 인공지능 개발 및 활용

시의 중요한 실행 원칙으로 작용한다. 또한 이를 준수하기 위한 수단으로서 “데이터 관리”

역시 핵심요건이 될 수 있다. 이미 개인정보 보호법을 비롯한 개인정보 보호법제가 법률적

으로 사생활의 안전과 자유를 보장하고 있으며, 인공지능을 활용한 개인정보의 수집 및 이

용 혹은 인공지능에의 사용을 위한 개인정보의 수집 및 이용도 예외가 아닐 것이다. 따라

서 사생활의 안전과 자유에 관련되는 핵심요건들 ― “프라이버시 보호” 및 “데이터 관리”

― 은 인공지능 시스템과 관련한 문제 중에서 법률적인 규율로의 진전이 가장 빠르게 된

영역이라고 평가할 수 있다. 향후의 과제는 기존의 개인정보 보호 법제가 고려하지 않고

있었던 알고리듬에서의 처리를 위한 데이터의 사용을 어느 범위까지 허용할 것인지의 여부

22) 성낙인, 헌법학, 2023, 1384쪽.

23) 대법원 1998. 7. 24., 선고, 96다42789, 판결.

24) 단, 헌법재판소에 따르면 “개인정보자기결정권”은 프라이버시권과 별개로 독자적 기본권으로서 헌

법에 명시되지 아니한 기본권으로 인정된다. 헌법재판소 2005. 5. 26. 99헌마513.

15페이지

공법상가치와인공지능시스템 317

가 될 것이다. 인공지능의 결정을 보다 정확하게 도출하고, 인간의 삶의 질에 도움이 되는

방향으로 사용하기 위해서는 풍부한 양의 데이터의 사용이 필수적이기 때문이다. 개인정보

침해에 대응한 안전 장치가 담보되는 한, 알고리듬의 학습을 위한 데이터 활용은 널리 이

루어져야 할 것으로 보인다. 우리나라의 입법자 역시 2020년 이후 개인정보 보호법제의 개

선을 통해 데이터 활용의 가능성과 폭을 넓히고자 노력하고 있다. 따라서 앞으로의 법적

논의의 관건은 도리어 개인정보의 보호와 데이터의 활용 사이의 균형을 어느 지점에서 찾

아야 할 것인가가 될 것으로 전망된다.25) 예컨대 인공지능의 학습용 데이터로 사용하는 공

공데이터에 대한 개인정보 보호법 위반 면책에 대한 논의가 향후 활발히 이루어질 것으로

보인다.26)

  1. 사회･경제적 안전과 자유

경제적 자유는 공정성과 밀접한 관계를 맺고 있는 가치라고 할 수 있다. 현대사회에서는

인신의 자유뿐만 아니라 사회･경제적 자유 역시 삶을 위해 중요한 내용이다. 사회･경제적

자유를 이루고 있는 개별 기본권으로는 거주･이전의 자유, 직업의 자유 및 재산권 등을 들

수 있다. 거시적으로 지능정보기술에 의한 사회 구조의 변화로 인공지능 에이전트의 노동

대체나 플랫폼노동으로의 전환을 들 수 있고, 이에 따른 직업의 자유의 침해에 대한 논

의27)도 다수 이루어지는 것으로 보이나, 이는 인공지능의 간접적인 영향에 해당하는 것으

로서, 인공지능 사용의 직접적인 결과로 논할 수 있는 내용은 주로 재산권에 해당하는 기

본권일 것이다. 우리 헌법은 제23조 제1항 제1문을 통해 “모든 국민의 재산권은 보장된다”

고 선언한다. 우리 헌법이 재산권을 대하는 태도는 다른 인신의 자유를 대하는 태도와는

약간 다르다고 평가할 수 있다. 동조 제1항 제2문에서 곧바로 재산권의 “내용과 한계는 법

률로 정한다”고 선을 긋고 있으며, 심지어 제2항에서는 “재산권의 행사는 공공복리에 적합

하도록 하여야 한다”고 규정하고 있기 때문이다. 즉, 재산권은 기본적으로 자유권적 성격으

로 헌법상 보장되기는 하지만 공공복리를 추구하는 우리 헌법정신에 따라 무제약적인 행사

25) 이미 많은 연구들이 데이터의 활용 방안에 대한 논의를 다루고 있다. 대표적인 것들로는 강준모

외, 데이터 소유권에 관한 법･제도 및 정책 연구, 정보통신정책연구원, 2019; 민대홍/오정숙, ICT기 반 신산업 발전을 위한 데이터 거래 활성화 방안, 정보통신정책연구원, 2018; 조성은 외, 개인주도 데이터 유통 활성화를 위한 제도 연구, 정보통신정책연구원, 2019.

26) 이 문제는 데이터 기반 행정의 활성화 차원에서도 중요하게 언급할 수 있다. 이에 대해 선지원, 데

이터 기반 행정의 법적 문제, 행정법연구 제66호, 2021, 128쪽 이하.

27) 이준희, 디지털 전환에 따른 플랫폼노동 확산과 종사자에 대한 노동법적 보호, 규제법제리뷰 제23-5

호, 한국법제연구원, 2023, 5쪽 이하.

16페이지

행정법연구제73호 318

는 제한된다.

인신의 자유에 대한 침해와 마찬가지로 재산권에 대한 침해를 경계하는 한편, 인공지능

사용에 따르는 잠재적인 위험을 방지하기 위한 노력을 공적 영역에서의 인공지능 시스템의

개발자와 사용자에게 요구할 수 있다.28) 예컨대 학습되지 않은 환경 혹은 예외적 상황에서

도 적절한 작동을 보장함으로써, 공적 작용의 상대방에게 불측의 재산상의 손해를 입히지

않도록 하는 방안을 설계 단계에서부터 관철하도록 할 수 있다. 일반적으로 재산권 침해에

대해서는 손해의 발생이 확실하고, 가해행위와 손해 사이의 인과관계가 입증되는 한편, 침

해행위자의 과실과 침해 행위의 위법성이 확인될 때, 국가배상청구권 또는 민법상의 청구

권을 행사할 수 있다.29) 그러나 인공지능에 의해 야기되는 재산권의 침해와 관련해서는 인

과관계의 입증이 현저히 어렵다는 점을 고려한 법적인 논의를 전개할 필요가 있다.30) 아직

손해가 현실화되지 않은 상태, 즉, 법적인 책임 논의가 발생하지 않은 상태에서의 사전적인

대비가 문제될 가능성도 있다. 아직 발생하지 않았으나 잠재적으로 존재할 수 있는 손해

혹은 인과관계가 뚜렷하지 않은 손해에 대한 공적 주체의 대비 의무가 문제될 수 있다.

Ⅳ. 공법상 가치의 관철을 위한 효과적 수단의 모색

  1. 명령적 통제 – 부분적 수용

위에서 살펴본 공법상의 가치들을 종합하여 공법상의 기본 원칙을 법률상으로 또는 행정

의 내부 규칙을 통해 선언하는 방법을 가장 먼저 떠올릴 수 있다. 인공지능 시스템의 활용

전반에 대해서는 특별한 규제를 하지 않더라도 공적 영역 혹은 행정 영역에서의 활용에 대

해서는 일정한 제한을 두거나 엄격한 가이드라인을 제시하는 사례가 존재한다.31) 또한 공

28) 다른 측면에서는 인공지능 시스템의 사용으로 인해 이미 발생한 피해를 어떤 방식으로 전보해야

할 것인지의 논의를 진행할 수 있다. 특히 민사법의 시각에서 인공지능 개체에 법인격을 부여한다 거나(이른바 인격 모델, personhood model), 인공지능 시스템의 배포자를 비롯한 관련자들 사이에 서 사후 책임의 분배를 따질 수 있다(이른바 책임 모델, liability model). 이 논의에 대해서는 특히 Fenwick/Wrbka, AI and Legal Personhood, in: DiMattoe/Poncibò/Cannarsa(Ed.), The Cambridge Handbook of Artificial Intelligence – Global Perspectives on Law and Ethics, 2022, p. 288 ff.

29) 이에 대해 지원림, 민법강의 제17판, 홍문사, 2020, 1703쪽 이하 참조.

30) 사적 영역에서는 인공지능 에이전트의 책임능력에 대한 논의와 더불어 인공지능에 의한 재산권 침

해를 규율할 수 있는 법제적인 수단에 대한 논의가 지속될 것으로 전망할 수 있다. 조성은 외, 인 공지능시대 법제 대응과 사회적 수용성, 정보통신정책연구원, 2018, 68쪽 이하.

17페이지

공법상가치와인공지능시스템 319

적 영역 내부에서의 통제에 대해서는 대외적 구속력이 없는 행정규칙 내지 기타 연성규범

의 형태를 활용할 수 있는 폭이 비교적 넓을 것이다.

그러나 이러한 입법을 위해 생각해야 할 선결문제가 존재한다. 우선 공법상의 가치들을

명령 규범 형태로 법률에 반영하는 것이 가능한지 혹은 바람직한지의 문제를 생각해 볼 필

요가 있다. 비록 행정에서의 인공지능 시스템의 사용이라 할지라도 그 개발과 공급 측면에

서 민간의 기술을 이용할 가능성이 높다는 점 때문이다. 이러한 맥락에서 법적 규제에 대

한 신중론이 도출된다. 법적인 규제는 신중해야 한다는 입장에 따르면 인공지능의 기술 발

전 속도와 방향을 예측할 수 없어 보다 유연한 접근이 필요하다는 점, 인공지능 개발과 사

용의 이해관계 당사자들이 자율적으로 참여하는 담론이 필요하다는 점32) 및 법적인 규제는

그 강제성으로 인하여 인공지능 영역과 같이 “고도의 창의성을 요구”하는 영역을 규제하기

적합하지 않다는 점33) 등을 들어 법적인 규제를 최후의 수단으로 삼을 것을 주장한다. 이

와 같은 주장을 일부분 수용한다면 공적 영역이라 할지라도 인공지능 시스템의 개발과 사

용 시에 준수해야 할 당위를 세세하게 법규나 행정규칙을 통해 규정하기보다는, 헌법에 기

초하는, 즉, 우리 사회 공동체가 이미 합의하고 있다고 간주할 수 있는 근본적인 원칙들만

을 선언적으로 규정하는 방법을 고려할 수 있다. 이에 덧붙여 사회공동체가 인공지능 윤리

원칙을 합의하고, 정립시키며, 준수해야 한다는 근본적인 내용을 선언적인 의미의 법규정을

통해 반영하되, 그 내용을 국가와 지방자치단체 등이 선도적으로 형성해 나가는 방안도 생

각해 볼 수 있다. 이미 ｢지능정보화 기본법｣은 제62조 제1항에서 “국가기관과 지방자치단

체는 지능정보기술을 개발･활용하거나 지능정보서비스를 제공･이용할 때 인간의 존엄과 가

치를 존중하고 공공성･책무성･통제성･투명성 등의 윤리원칙을 담은 지능정보사회윤리를 확

립하기” 위해 일정한 시책을 마련해야 한다고 규정한다. 동조 제4항은 “정부는 지능정보기

술 또는 지능정보서비스 개발자･공급자･이용자가 준수하여야 하는 사항을 정한 지능정보사

회윤리준칙을 제정하여 보급할 수 있다”라는 규정을 두고 있다.34)

또한 이러한 담론을 사회적으로 형성해 나가는 것 자체가 중요성을 가질 수 있다. 우리

사회 공동체가 합의하고 있는 것이 확실한 근본 원칙들, 즉, 헌법상의 기본 원칙으로 인공

31) 예컨대 지난 2019년 4월에 제정되었고, 2023년 10월에 개정된 캐나다 정부의 “Directive on Automated

Decision-Making”이 있다.

32) 이원태 외, 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석 및 정책적 대응방안 연구, 정보통

신정책연구원, 2018, 10쪽 이하

33) 선지원 외, 앞의 보고서, 116쪽.

34) 관련 규정들은 “지능정보사회윤리를 위한 각종 시책들과 결합한 정책적 노력의 의무를 포괄적으로

제시”하고 있다고 평가하는 문헌으로 선지원, 인공지능의 사회적 수용을 위한 국가법의 과제, 국가 법연구 제16집 제3호, 한국국가법학회, 2020, 53쪽.

18페이지

행정법연구제73호 320

지능의 개발과 사용에 있어서도 적용되어야 할 것이라고 확신할 수 있는 내용에 대해서는

일정한 기본법률을 통해 그 내용을 확인하는 방법을 고려해 볼 수 있을 것이다. 이렇게 제

시된 원칙들로부터 사회 공동체가 합의하고 관계인들이 자율적으로 형성하여 지켜나가는

인공지능 통제 담론을 출발시킬 수 있을 것이다.

  1. 사전 단계에서의 리스크의 평가와 관리

(1) 사전 리스크 평가의 타당성

공적 영역에서의 인공지능 시스템의 활용에 있어 공법상 가치를 관철하기 위한 수단으로

리스크 관리를 위한 영향평가의 모델을 생각할 수 있다. 다양한 영역의 서비스에서 인공지

능의 리스크를 제어하기 위해 필요한 첫 단계는 인공지능 시스템의 사용으로 인해 어떤 리

스크가 발생할 수 있을 것인지를 파악하는 일일 것이다. 단순히 리스크의 유형만을 알아내

는 것이 아니라, 리스크의 유형 및 강도 등을 분석하여 유형화함으로써, 각 분류의 리스크

에 대한 적정한 대응 방안을 강구할 수 있도록 하는 일도 중요하다. 이는 인공지능 기술을

사용했을 때 나타날 수 있는 리스크에 대한 사전 조사 과정이라고 이해할 수 있을 것이다.

이를 위해 생각할 수 있는 수단이 바로 인공지능 시스템의 사용에 따른 사회적 영향을 체

계적으로 조사하는 일일 것이다. 이를 인공지능에 대한 영향평가(impact assessment)35)로

제도화할 수 있다. 공공사업을 추진할 때 예산 집행의 측면을 국가재정법 제38조에 근거한

예비타당성조사 등을 통해 검증하듯, 공적 영역에서 인공지능 시스템을 사용할 때 그 영향

성을 미리 분석하는 것이다.

인공지능에 대한 영향평가 도입을 위해서는 몇 가지 전제사항을 해결할 필요가 있다. 먼

저 인공지능 시스템에 대한 영향평가가 효과적인 리스크 대비 수단으로 작용할 수 있도록

하기 위해서는, 어떤 식으로든 이를 제도화하거나 사용자들이 스스로 이행하도록 유인해야

한다. 또한 일반적인 인공지능 기술 개발 자체에 대해서 또는 인공지능의 사용 전반에 대

해 영향평가를 제도화하여 실질적으로 수행하는 일은 범용기술로서의 인공지능의 특징을

고려할 때36) 단시간 내에 실현하기 어려운 일이다. 따라서 인공지능 자체에 대한 영향평가

35) 영향평가는 “과학적 방법을 활용하여 모종의 [대상,] 정책 및 입법에 관해 더욱 실증적이고 효과성

있는 정책 대안을 모색하는 방식”이라고 정의된다. 조성은 외, ICT 기반 사회현안 해결방안 연구, 정보통신정책연구원, 2020, 179쪽. 인공지능에 대한 (사회적) 영향평가는 인공지능 시스템을 특정 분야에서 사용했을 때 나타날 수 있는 사회적 파급효과를 분석함으로써 인공지능 사용이 가져올 수 있는 편익과 리스크를 실증적으로 분석하는 과정이라고 할 수 있다.

36) 인공지능이 범용기술이라는 점은 인공지능의 활용 양상과 야기할 수 있는 리스크가 개별 활용 영

19페이지

공법상가치와인공지능시스템 321

보다는, 공공서비스 제공 단계에서 인공지능 시스템을 응용한 제품이나 서비스를 실제로

사용하는 현상인 애플리케이션을 대상으로 한 영향평가가 보다 현실적인 대안이 될 수 있

을 것이다.

예컨대 지난 2021년에 방송통신위원회와 정보통신정책연구원이 발표한 “인공지능 기반

미디어(매체) 추천 서비스 이용자 보호 기본원칙”의 자율검증 실행 방안이 그와 유사한 형

식을 띠고 있다. 다른 영역의 애플리케이션이기는 하나 그 추진 방식과 점검 내용들을 참

고할 수 있을 것이다. 아래 글상자에서 해당 기본원칙의 골자를 볼 수 있다.

가. 추천 서비스 제공자는 추천 서비스가 이용자에게 미치는 영향을 평가하고 조정함으

로써 위험성을 상시 관리할 수 있도록 자율검증 체계를 마련한다. 자율검증 실행의

예시는 다음과 같다.

① 추천 서비스가 유발할 수 있는 위험을 사전에 예측･평가하여 위험성의 정도에 비

례하는 효과적인 통제수단을 갖춘다.

② 서비스 운영 과정에서 추천 서비스가 이용자에게 미치는 영향에 대하여 지속적으

로 확인 및 관리한다.

③ 추천 시스템의 개발･적용 과정을 접근성, 가독성, 검증가능성 등을 충족하는 방법

으로 기록하고, 이를 일정 기간 보관하여 추천 서비스에 대한 자율검증 시 활용할

수 있도록 한다.

나. 자율검증은 위험 수준에 따라 차등적인 체계를 구성하여 실행하며, 소요 시간, 비용,

가용 기술 등을 고려하여 합리적으로 실행 가능한 범위에서 운영한다.

인공지능 기술을 활용했을 때 나타나는 문제점을 서비스 제공자 스스로가 분석하는 데에

영향평가의 초점을 맞추어야 할 것이다. 영향평가의 제도화를 위해서도 각 영역에 관련되

는 법규범 혹은 거버넌스를 통해 구축하는 방법을 선택하는 것이 현실적이므로, 애플리케

이션의 규율 체계 내 ― 예컨대 공적 영역의 경우 전자정부 내지 디지털플랫폼정부 관련

법제 ― 에 관련 내용을 두는 것이 타당할 것이다.

역에 따라 달라진다는 것을 의미한다. 따라서 리스크에 대한 대처 역시 개별 영역별로 적합한 방법 을 구성하여 시행하는 것이 효과적일 것이다. 김태오 외, 알고리즘에 기반한 결정의 역기능 방지를 위한 규제방안, 한국공법학회, 2020, 41쪽.

20페이지

행정법연구제73호 322

(2) 유럽의 영향평가 관련 유사 사례

유럽연합은 인공지능과 관련한 자가 평가 리스트(The Assessment List for Trustworthy

Artificial Intelligence for self assessment: ALTAI)37)를 만들어 공표하고 있다. 이 목록에서

는 인공지능 시스템과 관계되는 조직의 내외부에서 인공지능 시스템에 대해 평가할 수 있

도록 하는 항목을 제시한다. 인공지능 시스템의 설계자와 개발자, 데이터 기술자, 조달 책

임자 또는 전문가, 인공지능 시스템을 활용하는 직원, 법무담당직원 및 경영관리자 등이 이

리스트를 활용할 수 있을 것이다. 또한 이 목록은 인공지능 윤리 가이드라인상의 기준 준

수 여부를 확인할 수 있는 세부 점검 기준을 제공한다. 예컨대 인간의 집행과 감시라는 요

건 중 인간이 리스크를 통제할 수 있는 감시 체계를 해당 기관이 활용하고 있는 인공지능

시스템이 갖추고 있는지에 대해 평가하기 위한 세부 기준을 제시하고 있다.38)

유럽의 자가 평가 리스트는 인공지능 기반 서비스의 리스크 관리를 위해 선행되어야 할

자율적인 리스크 평가를 위한 기준을 제시하고 있다는 점에서 의의를 찾을 수 있다. 그러

나 자가 평가의 기준 가운데서 평가자의 가치 판단의 요소가 들어가 있다는 점 ― 예컨대

인공지능 시스템이 “인간의 통제에 놓여 있는가”를 평가하여 결정해야 한다 ― 을 한계로

지적할 수 있다. 개발자 내지 서비스 제공자의 주관에 따라 리스크의 강도가 과소평가될

가능성이 존재하기 때문이다. 또한 자율평가의 체계 자체가 제도화된 것은 아니며, 리스트

를 인공지능 기반 서비스 제공자가 스스로 활용하지 않을 경우에는 효용을 찾을 수 없다는

단점도 존재한다.

이러한 단점을 극복하기 위하여 위에서 언급한 대로 2024년 1월 현재 발령을 눈앞에 두

고 있는 이른바 유럽연합 인공지능 Act는 사전 적합성 평가의 절차를 규정한다. 이 절차는

37) High-Level Expert Group on Artificial Intelligence, The Assessment List for Trustworthy Artificial

Intelligence for self assessment, 2020.

38) 세부 기준의 골자는 다음과 같다.

•인공지능 시스템이 다음과 같은 것에 해당하는지 결정할 것: - 자기학습 내지 자동화된 시스템인가 - 프로세스 가운데 인간이 핵심이 되어 검증이 가능한가(Human-in-the-Loop) - 프로세스 전체 위에서 인간의 검증이 가능한가(Human-on-the-Loop) - 인간의 명령에 따라 검증이 가능한가(Human-in-Command) •검증을 담당하는 인간(human-in-the-loop, human-on-the-loop, human-in-command)에게 감시의 집 행 방법에 관한 전문적인 훈련이 제공되었는가? •인공지능 시스템의 이용자나 대상에 대한 의도되지 않은 반대 효과에 대한 탐지 및 대응 메커니 즘을 갖추고 있는가? •필요한 경우 작동을 중지시킬 수 있는 “정지버튼” 또는 절차를 보장하고 있는가? •인공지능 시스템의 자기학습 또는 자동화된 성격을 반영한 특수한 감시 및 통제 수단을 부여하 고 있는가?

21페이지

공법상가치와인공지능시스템 323

인공지능 시스템이 고위험 AI 애플리케이션에 적용되는 필수 요건들을 준수하고 있는지

검증 및 확인하는 절차이다. 적합성 평가는 모든 경제 주체가 의무적으로 시행해야 하지만,

중소기업의 부담 완화를 위하여 보조금을 비롯한 지원 체계를 구축할 수 있다. 사후 관리

는 관련 인공지능 애플리케이션에 대한 적절한 문서화 및 인공지능 애플리케이션을 검사할

관할 당국 등 제3기관을 통해 가능하게 해야 하며, 인공지능 시스템의 부정적 영향을 받은

당사자를 위한 효과적인 사법적 구제를 보장해야 한다. 동 규정을 통해 ‘고위험’으로 분류

되지 않은 인공지능 애플리케이션도 사업자가 상기 요건들을 자발적으로 충족하고 ‘품질인

증(quality label)’을 획득하여 제품과 서비스가 신뢰 가능함을 시장에 표시할 수 있다(이른

바 자발적 labelling). 인공지능 시스템 활용의 리스크를 분석한다기보다는 일단 리스크가

높은 것으로 인식되는 인공지능 시스템에 대해 적절한 통제 절차를 거쳤는지에 대한 평가

라는 성격을 가진 것으로 보인다. 이에 대해서는 지나치게 선제적인 것이 아닌가 하는 의

문을 제기할 수 있다.

유럽연합의 데이터 보호 영향평가(Data Protection Impact Assessment: DPIA)39) 역시 유

사한 모델로 참고할 만하다. 유럽연합의 데이터보호일반규칙(GDPR)은 제35조 제1항을 통

해 “새로운 기술을 사용하고 그 처리 유형이 개인의 권리와 자유에 높은 위험을 초래할 가

능성이 있는 경우, 개인정보 처리에 대한 영향평가”를 수행해야 한다고 규정한다. 이는 자

동화된 처리에 근거한 개인에 대한 체계적이고 광범위한 평가로서, 해당 평가를 바탕으로

한 결정이 정보주체에게 법적 효력 내지 그와 유사한 중대한 효력을 미치는 경우, 민감정

보 또는 범죄정보에 대한 대규모 처리를 하는 경우, 공개적으로 접근 가능한 장소에 대한

대규모의 체계적인 감시를 하는 경우에는 영향평가를 반드시 수행해야 한다(제35조 제3항).

영국 정보위원회 사무국(Information Commissioner’s office: ICO) 역시 기존의 유럽연합

GDPR의 기준에 따라 “데이터 보호 영향 평가”(Data Protection Impact Assessment: DPIA)

를 구축하고, 개별 영역에서의 데이터 보호와 관련한 리스크를 확인하는 절차를 시행하고

있다.40) 개인정보가 처리되는 모든 절차마다 사전에 체계적인 리스크평가를 통해 데이터보

39) 데이터 보호 영향평가가 직접적으로 인공지능 알고리즘을 겨냥한 영향평가는 아니지만, 인공지능

시스템의 구동이 대규모의 데이터 처리를 수반한다는 점에서 인공지능 활용 시에 적용될 수 있는 영향평가의 모델이다. 또한 기본적으로 개인정보 처리자 스스로 행해야 하는 자율검증이라는 점에 서 자율적인 리스크 관리 방안으로서 참고할 만한 제도라고 할 수 있다. 다만 각 인공지능 윤리기 준들에서 제시하고 있는 인공지능의 개발과 활용 시 준수해야 하는 가치들 중 극히 일부분 ― 데 이터와 프라이버시 관련 가치 ― 에 대한 영향만을 평가하는 것이라고 보아야 할 것이다. 또한 이 가치는 헌법과 법률상의 보호 대상인 개인의 프라이버시와 관련된 것으로서, 인공지능 알고리즘의 사용보다는 훨씬 권력적이고 강제적인 조치가 가능한 영역일 것이다.

40) Data protection impact assessments ｜ ICO <https://ico.org.uk/for-organisations/guide-to-data-protecti

22페이지

행정법연구제73호 324

호 영향평가가 수행되어야 하는지 판단하여 영향평가가 이루어져야 하고, 그 결과는 문서

화해야 하는 것이다. 영향평가를 수행할 때에는 예상되는 개인정보 처리의 목적에 비추어

개인정보 처리 작업의 필요성과 비례성에 대한 평가를 선행해야 한다. 개인정보 처리에 수

반하는 정보주체의 권리와 자유에 대한 리스크를 평가하고, 개인정보의 보호 및 GDPR의

준수를 입증하기 위한 보호조치 및 보호 메커니즘을 갖추고 있는지도 평가 대상(제35조 제

7항) 이러한 영향평가 절차를 통해 리스크를 평가하고 확정한 후, 리스크의 정도에 따라

기술 혹은 시스템을 분류한다.41)

(3) 리스크 영향평가의 제도화를 위한 고려 사항

영향평가의 제도화를 위해서는 다음과 같은 사항들을 고려할 수 있다. 영향평가를 제도

화기 위해 법체계적으로 가장 바람직한 방안은 인공지능 일반을 규율하는 법률이 아닌 개

별 애플리케이션 영역을 규율하는 법률에 관련 내용을 포함시키는 것이다. 리스크 관리 거

버넌스와도 연계하여, 인공지능 기반 서비스의 리스크를 효과적으로 관리할 필요가 있다.

영향평가의 주체와 관련해서는 공적 주체가 제공하는 서비스의 투명성, 공정성 및 책무

성을 확보할 수 있도록 하는 자체적인 감사 체계를 구축하는 것이 목적이므로, 서비스 제

공 행정기관을 중심으로 자율적으로 수행하되, 경우에 따라 외부 전문가 또는 감독기관의

협조를 구하는 방식이 타당할 것이다. 효과적인 평가 업무의 수행을 위해 해당 업무를 담

당하는 기관의 내부에 알고리즘 사용에 대해 지속적으로 감사･평가하는 전문적인 독립 기

구를 설치하는 방안도 고려할 수 있다. 감사 기구의 책임자는 해당 업무를 독립적으로 처

리할 수 있는 지위와 권한을 갖춘 자로 지정하며, 기구의 독립성을 보장해야 할 것이다.

감사 기구는 서비스에 적용할 알고리즘에 대한 사전 리스크 평가를 감독하고, 사용 과정에

서도 알고리즘의 영향을 지속적으로 감시할 필요가 있다.

영향평가의 범위 및 방식과 관련해서도 심도 있는 고려가 필요하다. 영향평가는 인공지

능 기술 자체에 대해서가 아니라 인공지능 시스템을 활용하여 이루어지는 애플리케이션에

대해서 하는 것이라는 점을 유의할 필요가 있다. 즉, 디지털플랫폼정부 서비스의 경우 정부

플랫폼 자체가 영향평가의 대상이라고 할 수 있으며, 따라서 그 방법론은 플랫폼 서비스

on/guide-to-the-general-data-protection-regulation-gdpr/accountability-and-governance/data-protection-im pact-assessments> (2024. 1. 16. 최종 접속)

41) 가이드라인에 따르면 통상의 리스크, 중대한 리스크 및 고도의 리스크의 3단계로 구분하게 된다.

이에 대해서는 다음 사이트를 참조하라. Datenschutz-Folgenabschätzung https://www.ihk-muenchen. de/de/Service/Recht-und-Steuern/Datenschutz/Die-EU-Datenschutz-Grundverordnung/Folgenabsch%C3% A4tzung (2024. 1. 16. 최종 접속)

23페이지

공법상가치와인공지능시스템 325

제공의 과정과 절차를 중심으로 구성되어야 한다. 첫 번째 단계에서 행정기관은 인공지능

의 활용으로 인해 나타날 수 있는 결과를 중심으로 하여 그 결과가 이용자 개인과 사회에

어떤 영향을 끼칠 수 있을 것인지 분석해야 한다. 사전 시뮬레이션을 통해 인공지능 시스

템이 내놓을 결과를 예측하고, 예측 결과에 따라 사용 알고리즘의 위험성 정도를 분류하는

것이다. 두 번째 단계에서는 1차적인 검증을 통해 도출한 내용들을 한편으로는 기본권 침

해 정도에 따라 양적으로 분류하고, 다른 한편으로는 성격에 따라 사후적으로 제어할 수

있는 것과 제어하기 어려운 것으로 분류할 수 있다. 높은 단계의 위험성을 가진 알고리즘

으로 판명될 경우, 그에 비례하여 통제 수단을 함께 제시할 필요가 있다. 사후적으로 제어

하기 어려운 것으로 판명된 알고리즘의 경우 그 적용 자체를 재고42)해야만 할 것이다. 영

향평가에서 사용할 평가 요소로는 1) 결정을 위해 사용하는 데이터의 편향성 여부, 2) 사

용 데이터의 정확성･최신성 여부, 3) 알고리즘의 적용을 위한 준비 절차가 적법하게 실행

되었는지 여부, 4) 알고리즘에 의한 애플리케이션의 작동이 관계인에게 충분히 설명되었는

지 여부, 5) 알고리즘의 사용이 서비스의 품질을 향상시키는지의 여부, 6) 알고리즘 오용에

대비한 안전장치를 갖추고 있는지의 여부, 7) 알고리듬의 사용이 기타 법적 요건과 부합하

는가의 여부 등을 고려할 수 있다.

영향평가 결과를 제대로 활용하는 것도 중요하다. 행정기관은 영향평가의 결과를 토대로

인공지능 기반 서비스의 리스크를 제어할 방법을 구상해야 할 것이다. 평가 결과에 따라

긍정적인 영향이 주를 이루는 서비스의 경우 기술 자체의 사회적 수용에 도움이 될 수 있

을 것이며, 공적 영역에서 추가로 활용가능한 인공지능 시스템의 유형 발굴에도 도움이 될

수 있을 것이다. 부정적인 영향이 주를 이루는 서비스에 대해서는 영향평가 결과 자체가

그 리스크를 사회적으로 경고하는 수단으로 작용할 수 있다. 영향평가 결과는 향후 기술에

대한 사회적 평가를 가늠할 수단이 될 수 있으므로, 행정 리스크를 줄이는 데에 도움이 될

수 있을 것이다. 이 결과는 또한 후술하는 협력적 거버넌스에서의 논의 자료로도 활용할

수 있다.

  1. 협력적 거버넌스의 제도화

인공지능 시스템의 활용을 둘러싸고 공적 가치를 어떻게 반영할 것인지에 대한 담론은

사회 공동체 전체가 참여하여 지속적으로 논의해야 할 필요가 있는 주제이다. 따라서 공적

영역에서 선제적으로 이러한 사회적 논의를 지속하는 것은 장기적으로는 우리 사회의 인공

42) 유럽연합 AI Act가 채택하는 방식도 이와 유사하다.

24페이지

행정법연구제73호 326

지능의 수용에 도움이 될 수 있을 것이다. 따라서 공적 영역에서의 인공지능 시스템의 통

제와 관련해서 관계 시민이 지속적으로 참여할 수 있도록 유도하는 거버넌스를 제도화하는

방안을 생각해 볼 수 있을 것이다.

거버넌스를 통해 인공지능 윤리의 문제를 다루고 있는 대표적인 국가로 영국을 들 수 있

다.43) 영국은 “데이터 윤리와 혁신 센터(Centre for Data Ethics and Innovation: CDEI)”44)

를 설립하여 인공지능 윤리를 포함하여 혁신 기술의 사용에 대해 사회 공동체가 공동으로

짊어져야 할 윤리적 기준 정립을 모색해 왔다. CDEI의 임무 규정에 따르면 그 목적은 영

국의 “사회와 경제에서 데이터 및 인공지능의 편익을 극대화하는 것을 지원”하는 것으로

서, 윤리적이고 안전하고 혁신적인 데이터 및 인공지능의 이용을 가능케 하는 방법에 대해

정부에 조언하고 있는 것이다. CDEI는 인공지능 윤리와 관련하여 먼저 기술의 리스크와

편익을 분석하고 예측함으로써, 균형 있는 관리를 할 수 있도록 하는 연구 기능을 수행45)

하는 한편, 데이터와 인공지능에 대한 책임 있는 이용을 위한 모범사례들을 발굴하는 역할

도 담당한다. 종국에는 이러한 내용을 정부에 조언함으로써 인공지능 윤리 거버넌스에 직

접적인 영향력을 행사하고 있는 것으로 보인다. CDEI의 조직 구성 자체가 사회 공동체의

합의를 유도하기 위해 사회 각계의 대표자들로 이루어졌을 뿐만 아니라,46) 그 운영에 있어

서도 합의제 방식을 기반으로 독립성, 공정성 및 비례성 등을 원칙으로 삼고 있다.47)

유럽연합이 갖추고 있는 여러가지 협력 모델들도 인공지능 공정성 관철을 위한 거버넌스

구축에 참고할 만하다. 유럽연합은 “The European AI Alliance”와 “AI HLEG”의 쌍방향

협력 체계 역시 거버넌스의 한 유형으로 채택한 바 있다. 유럽연합 집행위원회는 대중의

의견을 개방적으로 청취하는 플랫폼인 “Futurium” 안에 인공지능과 관련한 “The European

AI Alliance”라는 분야를 개설하였다.48) 유럽연합의 회원국 시민뿐만 아니라 누구나 등록

43) 물론 성문의 법규범보다는 Common Law의 발견을 통해 법적･정책적 문제를 다루는 영국법의 전통

이 반영된 현상이라고 볼 수 있다. 이에 대해서는 Lepsius, Verwaltungsrecht unter dem Common Law, 1997, S. 32; Slapper/Kelly, The English Legal System, 2016, p. 4 참조.

44) CDEI의 배경과 과업에 대한 내용은 선지원, 인공지능과 데이터 윤리를 위한 협력 거버넌스, ICT

통계분석, 정보통신정책연구원, 2019 참조.

45) 이러한 연구 결과를 담아 최근 공표한 보고서로는 CDEI, AI Barometer Report, 2020.

46) CDEI의 조직 구성에 대해서는 다음 인터넷 사이트를 참조하라. CDEI Board Members - Register

of Interests – GOV.UK https://www.gov.uk/government/publications/cdei-board-members-register-of -interests (2024. 1. 16. 최종 접속)

47) 조직 운영의 특성에 대해서는 윤혜선, 인공지능 기술을 윤리적으로 탐하다: 영국의 데이터윤리혁신

센터 설치 사례, KISO 저널 제33호, 한국인터넷자율정책기구, 2018, 49쪽 참조.

48) 다음의 웹페이지를 통해 이 플랫폼에 접속할 수 있다. European AI Alliance ｜ Futurium <https://f

uturium.ec.europa.eu/en/european-ai-alliance> (2024. 1. 16. 최종 접속)

25페이지

공법상가치와인공지능시스템 327

하여 의견을 제시하거나 토론에 참여할 수 있다. 유럽연합의 입법자는 이른바 Digital

Services Act49)를 통해서도 협력 모델을 제시하고 있다. 이 규정을 통해 집행위원회를 비

롯한 유럽연합의 기구들과 회원국 사이, 공적인 규제기관들과 중개사업자 사이에서의 소통

을 원활하게 하기 위한 장치 등 협력적 규제 거버넌스를 구축하고 있다. 플랫폼 사업자들

은 유럽 내에서 행정청과 공식적인 소통을 하기 위한 컨택트 포인트를 설치해야 한다. 대

형 온라인 플랫폼의 경우 최소한 한 명의 책임자를 지정하여야 하므로, 내부적으로는 본

법안의 규정 준수 여부에 대해 모니터링을 담당토록 하고, 외부적으로는 회원국 및 집행위

원회와의 소통을 담당하도록 하고 있다. 공적 주체에게 온라인 플랫폼 규제와 관련하여 협

력적 거버넌스를 구축하도록 의무를 지우기도 한다.

위와 같은 사례들을 토대로 인공지능 시스템의 통제 관련한 담론의 논의의 장을 생성하

는 방안을 생각해 볼 수 있다. 인공지능 시스템을 통하더라도 공정하고 투명하게 공적 의

사결정이 이루어질 수 있도록 사회 공동체가 자율적으로 합의하고, 이를 지켜나갈 수 있는

방법을 논의하기 위해서는 지속적인 논의의 장이 필요하다. 이러한 논의 플랫폼의 안정화

및 실질화를 위해 관련 거버넌스를 제도화하는 방안을 고려할 수 있다. 행정 결정에 직간

접적으로 영향을 받는 공동체 구성원들이 자율적으로 논의할 수 있도록 하는 제도적 배려

인 것이다. 위에서 언급한 대로 행정기관 내에 자체 감사 시스템을 구축하여 영향평가 체

계와 연계시키는 방안이 효율적인 공적 통제의 구조를 만들 수 있을 것으로 보인다. 이 때

관건은 행정기관의 자체 감사 시스템에 시민이 어떻게 참여하여 객관적이고 투명한 통제를

할 수 있게 만들 것인가의 문제일 것이다. 또한 협력과 자율의 틀 안에서 통제의 실효성을

어떤 방식으로 확보해 나갈 것인가도 중요한 과제가 될 수 있다.

  1. 절차를 통한 통제

공법상 가치와 부합하지 않는 시스템에 대해서는 일정한 판단 절차를 거쳐 사용을 배제

하는 방안도 인공지능 시스템의 통제 수단으로 생각해 볼 수 있다. 인공지능 기술의 사용

으로 영향을 받는 관계인에게 일단의 절차적인 권리를 보장해 주는 방안으로도 이해할 수

있을 것이다. 인공지능의 사용이 관계인의 기본권 혹은 신체･재산상의 권리나 이익 등에

영향을 끼치는 경우, 인공지능의 사용 여부를 결정할 수 있도록 해 주거나, 적어도 인공지

49) Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022

on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act)

26페이지

행정법연구제73호 328

능을 사용하고 있다는 사실은 알도록 해 줄 필요가 있기 때문이다. 사경제 영역과는 달리

공적 영역에서는 절차를 통한 직접적인 통제가 효과적으로 기능할 수 있을 것이다.

기술의 사용과 관련하여 영향받는 당사자에게 절차적인 권리를 부여하고 있는 대표적인

법제는 개인정보 보호법제이다. ｢개인정보 보호법｣은 제15조 제1항을 통하여 개인정보를

수집 및 이용할 수 있는 요건을 규정하고 있으며, 이때 가장 중요한 요건인 제15조 제1항

제1호의 “정보주체의 동의”는 개인정보를 수집 및 이용할 때 거쳐야 하는 절차적인 허들이

라고 생각할 수 있다.50)

절차 제도 도입의 방법으로는 제품이나 서비스에 인공지능을 사용하는 경우 및 공공영역

의 행정 결정에 인공지능 알고리즘 및 데이터 처리의 방식을 도입하는 경우에도 관계인이

그러한 방식을 선택할 수 있게 하거나, 적어도 알고리즘 사용 여부를 알 수 있도록 해 줄

필요가 있다. 이를 통해 공적 영역에서는 해당 절차를 해태한 결정이 적어도 절차 하자가

될 수 있도록 설계할 수 있을 것이다. 물론 현재로서 개정 개인정보 보호법상의 자동화된

결정 거부권은 행정행위의 공정력을 감안하여 행정행위에 대해서는 적용되지 않는다. 관계

인 스스로가 자신과 관련된 일에 대해서는 인공지능 사용 여부 및 방법이 공정한 것인지

판단할 수 있어야 할 것이다.

전제로서 필요한 것은 관계인이 인공지능의 사용에 따른 결과를 이해하고, 인공지능 윤

리 문제에 대해 기초적인 지식을 갖고 있어야 한다는 점이다. 때문에 이러한 절차적 권리

혹은 정보 접근권의 보장은 인공지능 윤리에 대한 교육 문제와 밀접하게 연결된다.51) 또한

기술 표준화와 인증을 통해 관계인에게 더 쉬운 방법으로 정보를 전달하는 방법을 도출하

는 것도 가능할 것이다.

일정한 인증을 거쳐 공공 시스템에 인공지능 기술을 적용할 수 있도록 하는 방안도 생

각해 볼 수 있다. 인증 절차는 공정이라는 가치를 준수하여 개발한 알고리듬 혹은 윤리 원

칙에 부합하게 형성된 인공지능 적용 제품이나 서비스에 대해 인증을 할 수 있는 장치를

마련하는 방안을 의미한다. 인증 제도를 위한 법적 근거를 마련하고, 구체적인 과업을 제시

하는 제도적 대응을 고려해 볼 수 있을 것이다. 예컨대 ｢지능정보화 기본법｣ 제47조는 장

애인･고령자 등의 정보통신접근성 품질인증에 관한 사항을 규율하고 있고, ｢정보통신망 이

용촉진 및 정보보호 등에 관한 법률｣ 제47조는 정보보호 관리체계의 인증에 대한 내용을

규정하고 있다. 이들과 유사한 형태로 공적 영역에 사용되는 인공지능 알고리즘 개발 시의

50) 선지원, 앞의 글(국가법연구), 58쪽.

51) 같은 문제의식에 기반한 연구물로 이현경 외, 인공지능 윤리교육 교재 개발, 정보통신정책연구원,

2022.

27페이지

공법상가치와인공지능시스템 329

공성성 기준에 관한 인증 절차를 도입하고, 하위 법령 혹은 자율 규범을 통해 구체적인 인

증의 요건과 절차를 정하는 방안을 생각해 볼 수 있다.

Ⅴ. 맺음말

인공지능 시스템에서의 공법상 가치 논의와 관련하여 우선 첫 번째 단계로 중요한 것은

인공지능 시스템의 활용에서 원용할 수 있는 공법상 가치의 개념을 구체화되고 실체화된

가치 가운데서 어떻게 도출하느냐 하는 문제일 것이다. 이를 위해 기존의 공법상의 가치,

특히 우리 헌법이 확인하고 구체화하고 있는 가치들 가운데서 인공지능 시스템의 개발과

활용에 있어서의 문제와 연결 지점을 찾는 노력을 기울일 수 있다. 두 번째 단계에서는 이

렇게 도출한 공정성 개념들을 제도적으로 어떻게 현실화할 수 있을 것인지 고찰해야 할 것

이다. 명령적 통제, 영향평가, 협력적 거버넌스 및 절차 정의의 도모 등 다양한 제도화 수

단들을 생각해 볼 수 있을 것이다. 이러한 수단들을 인공지능 시스템 활용의 전반에서 총

론적으로 제도화하기는 어려운 일로 보인다. 인공지능 시스템을 활용한 애플리케이션의 특

성에 맞추어 적절한 제도를 설계해 나가는 것이 중요하며, 상대적으로 통제의 가능성이 열려

있는 공적 영역에서의 통제를 통해 효과적인 방식을 선제적으로 탐구해 나갈 필요가 있다.

한편으로는 공법상 가치 확보를 위한 수단들은 단일한 수단만으로 효용을 발휘하는 것이

아니라, 여러 가지 수단을 동시에 활용했을 때 더욱 유효하다. 따라서 향후 보다 심화하여

연구해야 할 과제는 공법상 가치의 확보를 위한 각각의 수단들을 어떻게 유기적으로 연결

시킬 것인가의 문제일 것이다. 애플리케이션별로 파편화된 제도로 공법상 가치 관철의 수

단들이 존재하는 것보다는 이를 유기적으로 종합하고 조화시키는 것이 효율적일 것이기 때

문이다.

(투고일: 2024. 03. 05. 심사완료일: 2024. 03. 16. 게재확정일: 2024. 03. 23.)

28페이지

행정법연구제73호 330

참고문헌

  1. 국내 문헌

강준모 외, 데이터 소유권에 관한 법･제도 및 정책 연구, 정보통신정책연구원, 2019.

김광수, 인공지능 과학기술과 행정법학, 서강법률논총 제11권 제1호, 2022.

김대인, 인공지능과 행정법총론체계의 변화, 경제규제와 법 제13권 제2호, 2020.

김태오 외, 알고리즘에 기반한 결정의 역기능 방지를 위한 규제방안, 한국공법학회, 2020.

김휘식, 인공지능에 의한 행정상 자동결정에 대한 규율과 권리구제, IT와 법 연구 제22집, 2021.

문정욱 외, 윤리적 인공지능을 위한 국가정책 수립, 정보통신정책연구원, 2020.

민대홍/오정숙, ICT기반 신산업 발전을 위한 데이터 거래 활성화 방안, 정보통신정책연구원, 2018.

선지원, 데이터 기반 행정의 법적 문제, 행정법연구 제66호, 2021.

선지원, 유럽 HLEG 인공지능 윤리 가이드라인과 지능정보사회 이용자보호 정책의 비교, The

Digital Ethics Vol. 3, No. 1, 2019.

선지원, 인공지능과 데이터 윤리를 위한 협력 거버넌스, ICT통계분석, 정보통신정책연구원, 2019.

선지원, 인공지능의 사회적 수용을 위한 국가법의 과제, 국가법연구 제16집 제3호, 한국국가법학회,

2020.

선지원 외, 지능정보기술 발전에 따른 법제･윤리 개선방향 연구, 정보통신정책연구원, 2019.

성낙인, 헌법학 제23판, 박영사, 2023.

윤혜선, 인공지능 기술을 윤리적으로 탐하다: 영국의 데이터윤리혁신센터 설치 사례, KISO 저널 제

33호, 한국인터넷자율정책기구, 2018.

이원태 외, 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석 및 정책적 대응방안 연구, 정보통신

정책연구원, 2018.

이준희, 디지털 전환에 따른 플랫폼노동 확산과 종사자에 대한 노동법적 보호, 규제법제리뷰 제23-5

호, 한국법제연구원, 2023.

이현경 외, 인공지능 윤리교육 교재 개발, 정보통신정책연구원, 2022.

임성훈, 인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰, 행정법연구 제62

호, 2020.

조성규, 인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점, 동북아법연구 제16권 제4호, 2023.

조성은 외, 개인주도 데이터 유통 활성화를 위한 제도 연구, 정보통신정책연구원, 2019.

조성은 외, 인공지능시대 법제 대응과 사회적 수용성, 정보통신정책연구원, 2018.

조성은 외, ICT 기반 사회현안 해결방안 연구, 정보통신정책연구원, 2020.

조소영, 기본권 규범구조에서의 ‘인간의 존엄성’의 지위 - 헌재 2016. 12. 29. 2013헌마142 결정에

대하여, 공법연구 제48집 제1호, 한국공법학회, 2019.

지원림, 민법강의 제17판, 홍문사, 2020.

29페이지

공법상가치와인공지능시스템 331

  1. 외국 문헌

CDEI, AI Barometer Report, 2020.

Coglianese, Cary/Lehr, David, Regulating by Robot: Administrative Decision Making in the

Machine-Learning Era, Georgetown Law Journal, Vol. 105, 2017.

Ebers, Martin, Regulating AI and Robotics: Ethical and Legal Challenges, in: Ebers,

Martin/Navas, Susana (Ed.), Algorithms and Law, Cambridge University Press, 2020.

European Parliament, Briefing EU Legislation in Progress – Artificial Intelligence act, 2023. 6.

EU, “WHITE PAPER: On Artificial Intelligence-A European approach to excellence and trust”,

  1. 2.

Fenwick, Mark/Wrbka, Stefan, AI and Legal Personhood, in: DiMattoe, Larry A./Poncibò,

Cristina/Cannarsa, Michel(Ed.), The Cambridge Handbook of Artificial Intelligence –

Global Perspectives on Law and Ethics, Cambridge 2022.

High-Level Expert Group on Artificial Intelligence, The Assessment List for Trustworthy

Artificial Intelligence for self assessment, 2020.

Lepsius, Oliver, Verwaltungsrecht unter dem Common Law, Tübingen 1997.

Slapper, Gary/Kelly, David, The English Legal System, 2016.

  1. 인터넷 사이트 등

CDEI Board Members - Register of Interests – GOV.UK <https://www.gov.uk/government/public

ations/cdei-board-members-register-of-interests> (2024. 1. 16. 최종 접속)

Data protection impact assessments ｜ ICO <https://ico.org.uk/for-organisations/guide-to-data-prote

ction/guide-to-the-general-data-protection-regulation-gdpr/accountability-and-governance/data-

protection-impact-assessments> (2024. 1. 16. 최종 접속)

Datenschutz-Folgenabschätzung <https://www.ihk-muenchen.de/de/Service/Recht-und-Steuern/Datens

chutz/Die-EU-Datenschutz-Grundverordnung/Folgenabsch%C3%A4tzung> (2024. 1. 16. 최

종 접속)

EU AI Act: first regulation on artificial intelligence ｜News ｜ European Parliament <https://ww

w.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-

on-artificial-intelligence> (2024. 1. 16. 최종 접속)

European AI Alliance ｜ Futurium https://futurium.ec.europa.eu/en/european-ai-alliance (2024.

    1. 최종 접속)

Texts adopted – Artificial Intelligence Act – Wednesday, 13 March 2024 <https://www.europar

l.europa.eu/doceo/document/TA-9-2024-0138_EN.html> (2024. 3. 26. 최종 접속)

30페이지

행정법연구제73호 332

Public Law Values and Artificial Intelligence System

— Focusing on the use of artificial intelligence in the public domain —

Seon, Jiweon*

52)

The use of artificial intelligence in the public domain needs to be subject to certain

control by public laws. Unlike the private sector, there is less resistance to direct

regulation, so it is also appropriate as a test bed for artificial intelligence regulation. In

this study, based on the principle of public law, preliminary control of the action itself or

a method to return the effect of the action was sought.

As a first step, cases in which efforts were made to realize certain values for the use

of artificial intelligence systems are explored. Although each subject has different

perspectives and contents because they have different interests, the international community

has generally drawn common artificial intelligence ethics principles over the past few

years. In the second step, elements applicable to the use of artificial intelligence systems

were extracted from various values or concepts pursued by legal order. Public law values

such as human dignity and worth and the right to pursuit of happines, the principles of

equality, personal safety and freedom, protection of privacy and socio-economic safety and

freedom are also meaningful in the use of artificial intelligence systems. Finally, in

consideration of the driving method and characteristics of the artificial intelligence system,

methods were devised to realize the public law principles differently from the existing

actions under public law. A method of mandatory control that declares the basic

principles of public law legally or through internal administrative rules can be considered.

In the preliminary stage, an impact assessment that evaluates the risk of using artificial

intelligence systems can be used. The entire social community may participate in the

discussion to form a governance that constitutes discourse. For AI systems that do not

conform to the values of the public law, it is also possible to consider excluding use

through a certain procedural control.

  • Assistant Professor, School of Law, Hanyang University, Dr. jur.

31페이지

공법상가치와인공지능시스템 333

Additional considerations are also required to effectively apply these methods. It is

necessary to think about how to derive the concept of values under public law that can

be used in the application of artificial intelligence systems from embodied and

substantiated values. Subsequently, it should be recognized that the means to secure public

law values do not exert utility with a single means, but are more effective when multiple

means are used at the same time.

Key Words: Artificial intelligence systems, public law values, mandatory control, impact

assessment, consensus governance, procedural control