인공지능기술 적용 행정작용의 투명성 및 적법성 보장에 관한 소고
원본 파일:
인공지능기술 적용 행정작용의 투명성 및 적법성 보장에 관한 소고.pdf
변환 일시: 2026-04-09 22:44
1페이지
사단법인 행정법이론실무학회 Korea Administrative Law and Practice Association 행정법연구 제73호 2024년 3월 Administrative Law Journal Vol. 73, March 2024
DOI https://doi.org/10.35979/ALJ.2024.03.73.271
인공지능기술 적용 행정작용의 투명성 및
적법성 보장에 관한 소고*
1)
박 훈 민**
국문초록
인공지능기술에 대한 사회일반의 관심이 고조되고 있으며, 민간부문에서의 기술적용 외에도
행정영역에서의 적용에 대한 논의가 진행되고 있다. 우리 ｢행정기본법｣에서 ‘자동적 처분’ 조
문을 두고 있어 우리나라에서도 행정작용시 인공지능 기술을 적용한 행정이 가능할지와 그 범
위 등에 관하여 관심이 쏠리고 있다. 현행 ｢행정기본법｣ 조문에 따른 인공지능기술의 적용범위
는 제한적이지만, 향후에는 행정의 효율성 등을 위하여 보다 폭넓게 확대적용될 가능성이 있
다.
외국에서 일부 인공지능기술이 적용된 행정상 의사결정 사례에서는 인공지능의 기술적 특성
에 따라 결정과정에서의 투명성 및 적법성의 문제가 불거진 바 있다. 따라서 이와 같은 문제를
방지하기 위한 제도보완의 필요성이 제기된다. 현행 법령에서 ‘사람’인 공무원을 중심으로 법
제가 마련되어 있어, 인공지능기술 적용 행정에서 이 조문을 그대로 적용할 경우 행정상대방의
보호가 미흡해지므로, 사전적・사후적 구제수단의 정비가 필요하다.
물론 우리는 아직 개별 법령에서 인공지능기술을 적용하는 근거를 마련하거나 행정실무에서
의 인공지능기술 적용이 이루어진 예는 아직 제한적이다. 그럼에도 불구하고, 행정의 효율성
제고를 위하여 일부 외국의 사례처럼 행정활동에 대한 인공지능기술의 적용이 점차 확대될 것
으로 예상된다. 이에 따라 인공지능기술이 적용된 행정활동이 확대될 상황에 대비한 법제 정비
와 이를 바탕으로 한 새로운 도그마틱의 구축이 필요할 것으로 생각된다. 이에 따라 ｢행정기본
법｣, ｢행정절차법｣, 그리고 ｢국가배상법｣ 등 다양한 법령에서 관련 내용의 개정방향에 대한 검
토가 필요하다 하겠다.
주제어: 인공지능, 인공지능기술, 권익구제, 행정의 위법성 통제, 행정기본법
- 본고는 작성자가 2022년도 한국지능정보사회진흥원 인공지능법제정비단 행정의 투명성분과 연구반
에 참여하여 작성한 ‘인공지능 적용 행정의 처리결과의 수용성(구제방안)’부분의 보고자료(미공간) 를 바탕으로 일부 내용을 보완한 것이다. ** 국립강릉원주대학교 법학과 조교수, 법학박사
2페이지
행정법연구제73호 272
목 차
Ⅰ. 들어가며
Ⅱ. 인공지능기술 적용 행정에서의 투명성과 신뢰성
Ⅲ. 인공지능기술 적용 행정에서의 위법한 행정의
사례 및 시사점
Ⅳ. 인공지능기술 적용 행정에 대한 구제수단 및
입법방안
Ⅴ. 앞으로의 전망
Ⅰ. 들어가며
주지하다시피, 근래 사회전반에 걸쳐 인공지능기술이 적용되는 범위가 확대되고 있으며,
민간부문 외에도 행정영역에 대해서도 인공지능기술을 적용하려는 사례가 늘어가고 있다.
행정활동에서 인공지능기술을 적용할 수 있는지, 그리고 전적으로 인공지능기술에 따른 행
정결정을 할 수 있는지에 관한 논의 및 입법 역시도 진행되고 있는 것으로 보인다. 우리
법제상에서도 ｢행정기본법｣의 제정 과정에서 독일연방 행정절차법(VwVfG) 제35조a 등의
입법례를 참고로 하여 인공지능에 의한 행정결정의 가능성을 제한적으로마나 열어두기도
하였다.1)2) 이처럼 기속행위에 제한하여 인공지능기술도 적용할 수 있도록 규정한 우리나
라와 독일의 입법례 외에도, 최근 여러 나라들에서 행정활동에 있어서의 효율성 제고를 위
하여 인공지능기술의 적용을 검토・시도하고 있으며, 이를 통하여 행정절차의 효율성을 제
고할 수 있을 것으로 기대하고 있다.3)
이처럼 인공지능기술을 행정작용에 적용하여 행정의 효율화를 추구하는 입장 외에도 행
정의 투명성 역시도 증진함으로써 행정의 의사결정 및 집행과정에서의 민주화 및 합리성
1) Kopp/Ramsauer, Verwaltungsverfahrengesetz Kommentar, 23.Aufl., 2022, S.811-819. 2) 법제처, 행정기본법 해설서, 2021, 208면에 따르면, ｢행정기본법｣ 제12조(자동적 처분)는 행정처
분의 모든 단계가 자동적으로 이루어지는 경우 민주적 정당성 및 법률유보 상의 문제가 발생하므 로 이에 관한 법적 근거를 마련한 것으로 설명한다. 같은 책 211면부터 212면에서 독일연방행정절 차법, 사회법전, 조세기본법 등의 조문을 관련 외국입법례로 제시하고 있다. 3) Merkus Christen, Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen
Intelligen, TA-SWISS 72/2020, S.209.
3페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 273
제고에도 기여할 것으로 예측하는 견해도 있다.4) 이와 달리 인공지능기술의 특성에 주목하
여 이를 행정결정에 적용할 경우 그 의사결정 과정에서의 불투명성이라는 문제가 발생하므
로 알고리즘의 투명성확보가 필요하다는 점을 지적하는 입장도 있다.5) 예를 들자면, 인공
지능기술을 적용하였을 때 “사후에 검증될 수 없는 (불투명한) 행정절차이행”에 대한 조사
대상자의 높은 우려에 대한 지적 등을 들 수 있다.6) 이처럼 인공지능기술이 적용된 행정의
활동 및 그 영역이 확대될 경우에 대비하여 국내외의 많은 연구에서 이를 촉진하기 위한
법제도 등의 정비 등 필요성을 지적하고 있으며, 인공지능기술의 적용 확대에 따라 사회적
편익이 증진된다고 하더라도, 이와 동시에 인공지능기술 적용에 따른 인한 부작용 및 리스
크가 우려되므로, 이에 대응할 시스템 마련을 주문하고 있다.7)
인공지능기술을 행정활동에 적용할 때에 발생할 수 있는 리스크에 대응하는 체계는 인공
지능기술이 적용되는 행정활동의 위법성을 차단하고, 이로 인한 사인 등의 피해발생을 방
지하며, 사후에도 이를 신속하게 회복할 수 있도록 보장하는 입법정책으로 반영될 수 있다.
인공지능기술을 행정활동에 전면적으로 도입을 할 때에는 근거 법령의 마련 및 기존 법령
의 개정을 비롯한 입법상의 조치 외에도 인공지능기술이 적용된 행정활동의 방식과 내용
역시도 기존의 일반적인 행정과 달리 일정 부분 변화하여야 할 것으로 생각된다. 따라서
실정법령의 개정 외에도 이를 뒷받침할 현재의 행정법도그마틱 역시도 변화하거나 또는 인
공지능기술이 적용된 행정할동에 대한 부분적인 ‘특별도그마틱’(Sonderdogmatik)이 형성될
것으로 예상할 수 있겠다.8)
따라서 행정활동에 대한 인공지능기술의 적용방향 및 내용 뿐만 아니라, 이에 기반한 법
도그마틱 등 광범위한 영역에 대하여 지속적인 연구가 필요하다고 본다. 그러나 현행 ｢행
정기본법｣에서는 인공지능기술에 의한 자동화된 행정처분을 기속행위 정도에 제한적으로만
4) 김민호･김정준, “지식정보사회에서 행정법학의 새로운 패러다임 모색”, 한국비교공법학회, 공법학
연구 8(3), 2007., 445-447면; 김도승, 인공지능 기반 자동행정과 법치주의, 미국헌법학회, 미국헌 법연구 30, 2019, 126면. 5) 임성훈, “인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰”, 행정법이론실무
학회, 행정법연구 62, 2020, 139면; 최승필, “공행정에서 AI의 활용과 행정법적 쟁점”, 한국공법 학회, 공법연구 49(2), 2020.12., 209면. ; 김찬희 “인공지능 기반 자동화 행정행위와 민주적 법치 국가 원리”, 행정법이론실무학회, 행정법연구 72, 2023, 42면 6) Merkus Christen, Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen
Intelligen, TA-SWISS 72/2020, S.272. 7) 이세정 외, AI 본격화에 따른 경제･사회제도 선제적 마련 연구, 한국법제연구원, 국민경제자문회
의 연구용역보고서, 2019, 79면. 8) 행정현실의 지속적 변화에 따른 행정법도그마틱의 변화요구에 대하여, Jeong Hoon Park,
Rechtsfindung im Verwaltungsrecht, Berlin 1999, S. 1-2.
4페이지
행정법연구제73호 274
허용하고 있으며, 아직 실무에서도 행정의사결정에 인공지능기술이 광범위하게 적용되지는
아니한 단계이다. 그러므로 본고에서는 향후 인공지능기술을 행정에 적용하였을 때 투명성
보장의 필요성 및 투명성․적법성 확보를 통하여 행정의 상대방이 이를 수용할 수 있도록
하는 방안, 그리고 이를 통하여 인공지능기술 적용시에도 적법한 행정을 구현하는 방안의
기초적인 논의를 내용으로 하며, 이에 관한 상세한 내용 및 그 밖의 쟁점들에 대해서는 차
후의 연구에 맡기도록 하겠다.
Ⅱ. 인공지능기술 적용 행정에서의 투명성과 신뢰성
- 행정의 투명성 원칙과 인공지능 기술 적용 행정에서의 불투명성 문제
(1) 행정의 투명성 원칙
본래 행정작용에서의 ‘투명성’(Transparenz)과 ‘사후적인 확인가능성’(Nachvollziehbarkeit)
은 법치국가원리를 근거로 하여 행정에게 준수할 것이 요구되는 원칙이며, 행정이 그 활동
을 하면서 이들 원칙을 충족하여야 하는 법적 의무이다.9)10) 이에 따라 각국의 입법에서 행
정절차법 등의 일반법 외에도 개인정보보호법과 같은 개별법령에서도 이와 같은 투명성 원
칙이 다시 규정되어 있기도 하다.11) 이와 같은 행정의 투명성이 확보될 때에 행정의 상대
방은 행정에 대한 예측가능성과 신뢰성을 가지게 된다.12) 법치는 국민의 입장에서 예측가
능성과 법적 안정성을 확보하는데 그 가치가 있다고 할 수 있으므로,13) 행정에서의 투명성
과 이에 따른 행정상대방의 신뢰성은 서로 연결된 관계에 있다고 할 수 있다.14)
9) Rechtsstandort Hamburg e.V.. Algorithmen und Verwaltungs(gerichtliche)kontrolle, 2018, S.1.
10) Schäfer, Grundsatz der Transparenz des Verwaltungshandelns in Motzke/Pietzcker/Prieß VOB/A 1.
Aufl. München 2001, VOBA 22 Rn. 25.
11) Florent Thouvenin//Nadja Braun Binder, Transparenz durch Datenschutzerklärungen von Behörden,
ZSR 2022 I, S.7. 우리 ｢개인정보보호법｣ 역시도 개인정보 처리 목적의 명확성 등을 요구하고 있 다.(동법 제3조)
12) 오준근, “행정규제의 투명성심사에 관한 행정법적 고찰”, 한국공법학회, 공법연구 25(4), 1997.06.,
411면.
13) 朴正勳, 행정법의 체계와 방법론, 박영사, 2005, 448면.
14) 헌법재판소는 2010. 12. 28. 2009헌바258 사건에서 정보공개법에 대하여 “정보공개를 확대하여 국
민의 알권리를 보장하고 국정에 대한 국민의 참여와 국정운영의 투명성을 확보하고자 하는 취지” 라는 점을 인정한 바 있고, 대법원은 폐기물처리시설 설치촉진 및 주변지역지원 등에 관한 법령에 관한 사건에서 “법령에서 주민들의 행정절차 참여에 관하여 정하는 것은 어디까지나 주민들에게
5페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 275
이때 ‘투명성’ 개념에 대하여 우리 현행 ｢행정절차법｣은 이를 행정의 상대방에게 행정작
용의 내용을 분명하게 밝히도록 하는 ‘명확성’에 가깝게 설명하고 있다(동법 제5조제1항).
반면, 전자정부에서의 투명성(Transparency)개념에 대하여 EU 집행위원회에서는 이를 ‘(ⅰ)
행정서비스의 제공절차, (ⅱ) 행정의 의사결정 및 전자행정서비스 설계 절차, (ⅲ) 공공서비
스에서의 개인정보처리’라는 세 지표를 기준으로 설명하기도 한다.15) 이에 따르면 현행 ｢
행정절차법｣ 규정에서 말하는 ‘투명성’을 넘어 행정작용 내용의 명확성 외에도 행정상 의
사결정절차 및 개인정보처리의 과정 역시도 투명성 보장의 대상이 되며, 외부에 공개하여
야 하는 범위가 크게 확대된다고 하겠다.
물론 정보공개・행정처리과정 등에 있어서의 행정정보 등의 ‘공개성’(Öffentlichkeit)과 행
정의 ‘투명성’(Transparenz)를 어떻게 구분할 것인지에 대해서는 보다 검토가 필요하다 하
겠다.다만 행정정보의 공개(Veröffentlichung)은 법령상 근거에 따라 공개하도록 되어 있으
며, 일부는 신청에 따라 행정기관에서 정보를 공개하게 된다.16) 이와 같은 단순한 정보의
공개와 달리 행정의 ‘투명성’이 보다 더 넓은 개념이고, 정보의 공개는 이 투명성을 뒷받침
하기 위한 수단이라고 할 수도 있다. 예를 들어, ｢공공기관의 정보공개에 관한 법률｣ 제1
조에서도 “공공기관이 보유․ 관리하는 정보에 대한 국민의 공개 청구 및 공공기관의 공개
의무에 관하여 필요한 사항을 정함으로써 국민의 알권리를 보장하고 국정(國政)에 대한 국
민의 참여와 국정 운영의 투명성을 확보함”을 입법의 목적으로 밝히고 있는바, 이 역시도
정보공개와 투명성 확보와의 관계에서 상대적으로 정보공개는 수단이며 투명성 확보가 그
결과 내지 목적이라는 입장으로 이해할 수 있다. 그러나 공개성과 투명성은 서로 명확하게
구분할 수 있는 개념은 아니며,17) 행정정보의 공개성과 투명성, 그리고 행정에 대한 감독
관련 논의는 사실상 상호중첩되어 있는 것으로 보인다.
자신의 의사와 이익을 반영할 기회를 보장하고 행정의 공정성, 투명성과 신뢰성을 확보하며 국민의 권익을 보호하기 위한 것”이라 하여 행정의 투명성과 신뢰성 간의 관련성을 인정하는 듯한 입장을 취하였다(대법원 2021. 7. 29. 선고 2015다221668 판결). 이는 ｢행정절차법｣ 제1조상의 제정목적에 서도 “행정의 공정성・투명성 및 신뢰성의 확보”와 “국민의 권익을 보호”를 서로 연결시키는 조문 과 일맥상통한다 하겠다.
15) Euripean Commission, Digital Public Administration Factsheet 2021 The Netherlands, p.8. (https://j
oinup.ec.europa.eu/sites/default/files/inline-files/DPA_Factsheets_2021_Netherlands_vFinal.pdf 에서 내 려받음)(최종방문일: 2023.7.31.)
16) 벨기에 연방원자력안전청 홈페이지 (https://fank.fgov.be/de/fank/transparenz-der-verwaltung)(최종방문
일: 2023. 8. 2.)
17) Helge Rossen-Stadtfeld, Kontollfuntion der Öffentlichkeit- ihre Möglichkeiten und ihre (rechtlich)
Grenzen, (in) Eberhard Schmidt-Aßmann/Wolfgan Hoffman-Riem (hrsg.) Verwaltngskontolle, Baden-Baden, 2001, S.118.
6페이지
행정법연구제73호 276
(2) 인공지능기술 적용 행정의 불투명성 문제
상술한 바와 같이 공개성(Öffentlichkeit) 및 투명성(Transparenz)은 행정활동 일반에 요구
되는 조건이기 때문에, 인공지능기술이 적용된 행정활동에서도 이 점들은 마찬가지로 보장
되어야 한다고 하겠다. 그런데 인공지능기술이 적용된 행정과 관련하여 그 불투명성의 문
제가 지적되고 있다. 먼저 알고리즘에 의한 처리를 위한 전단계로서 데이터베이스 구축을
위한 개인정보의 취득 및 관리상의 문제가 지적되며,18) 이어 이 정보의 처리과정에 있어서
의 투명성이 부족하다는 문제 역시도 제기된다.19)
인공지능기술이 적용된 행정에서의 개인정보 관리상의 불투명성 문제에 대한 논의는 대
체로 인공지능기술이 적용된 행정결정은 데이터베이스를 기반으로 하는 점에 기인하고 있
다. 이때 데이터베이스 구축에 따른 개인정보보호와 관련한 문제 등에 대한 우려가 제기되
었다.20) 즉, 인공지능기술을 이용하여 데이터 수집을 하는 과정에서 무분별하게 정보를 취
득하는 경우들이 있으며, 이에 따른 법적 문제가 발생하게 된다는 것이다.21) EU인공지능법
안에서는 안면인식데이터 등을 취합하여 데이터베이스를 구축하는 행위가 금지하고 있으
며, 이는 생활침해방지 내지 개인정보보호와 결부되어 있다고 할 수 있다.22) 또한 위 법안
에서는 “프라이버시 및 데이터 거버넌스”를 인공지능 관련 주요 원칙 중의 하나로 제시하
는 등 그 중요성이 크며, 인공지능이 이용하는 데이터의 공정성 및 품질에 대한 관리의 필
요성을 지적하고 있다.23) 따라서 인공지능기술이 적용된 행정활동에서 개인정보의 취득 및
18) 데이터에 대한 크롤링 기술을 통한 무분별한 수집과 개인정보 침해가 문제된다. 이에 관하여, 박소
영, “Ⅱ. 인공지능 적용행정을 위한 정보 수집의 투명성”, 2022년도 한국지능정보사회진흥원 인공지 능법제정비단 행정의 투명성분과 연구반 자료집(2022.12.)(미공간) 참조. ; 정준화･박소영, 데이터 거래 활성화를 위한 거래소･거래서･크롤링의 현황과 개선과제, 국회입법조사처 NARS 현안분석 254호, 2022, 11면; 박소현, 형사사법영역에서의 인공지능 활용의 쟁점과 과제, 국회입법조사처 NARS 현안분석 273호, 2022. 8-9면, 19면.
19) 김찬희, 앞의 논문, 42-43면.
20) Nadja Braun Binder, Automatisierte Entscheidungen: Perspektive Datenschutzrecht und öffentliche
Verwaltung, SZW / RSDA 1/2020, S.27-31.
21) 형사재판에서는 현행법을 근거로 민간기업 간의 웹크롤링 기술을 통한 정보취득행위에 대해서는 아
직 유죄판결이 쉽지 않다고 한다. 이에 관하여, 김태균, “크롤링을 통한 데이터 수집의 형사책임- 대법원 2022. 5. 12. 선고 2021도1533 판결을 중심으로”, 서강법률논총 11(3), 2022. 참조. 다만, 형사재판에서는 유죄가 아니라고 하더라도 이 기술을 사용하여 행정작용을 하였을 경우 그 행정작 용의 위법성은 별개로 볼 여지가 있다. 김태균, 같은 논문, 303면에서도 민사법상 책임은 별개라는 입장이다.
22) 인공지능 신문 2023.07.05.자 이상직, [칼럼] 이상직 변호사, “AI 없는 미래는 없다. 지독하게 살 길을
찾아야 한다”, (https://www.aitimes.kr/news/articleView.html?idxno=28415) (최종방문일: 2023.7.31.)
23) 박소영, “인공지능의 FATE(공정성･책임성･투명성･윤리의식)를 위한 입법 논의 동향과 시사점” 국
회입법조사처 이슈와 논점 제2111호, 2023. 7. 24. 참조. 박소영 변호사는 위 글에서 “데이터. 출
7페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 277
관리의 잠재적 위험성 및 이에 관한 법적 통제의 중요성은 크다 하겠다.24)
나아가 행정활동에 인공지능기술을 적용하였을 때, 이 결과에 관한 오류 등 분쟁이 발생
하였음에도 알고리즘 내부에서의 복잡한 상호작용 등으로 인하여 사후적으로 그 투명성을
확인하기 어려운 위험이 있다.25) 즉, 그 처리과정 내지 의사결정 과정이 불투명하게 된다
는 문제점을 지적하는 것이다. 이와 같이 불투명한 알고리즘에 전적으로 행정결정을 맡긴
다면, 이는 법치행정원리의 배경에 있는 ‘민주’(民主)에 대한 위반이라는 지적이 나올 수밖
에 없다.26)27) 더욱이 아래의 제3장에서 다루는 외국의 사례들에서 나오는 바와 같이 인공
지능기술을 행정결정에 적용하였을 경우 그 결과처리가 편향적으로 나타나는 문제가 제기
된 바 있으며, 이는 헌법 및 행정법의 일반원칙으로서의 평등원칙에 위반하는 결과를 초래
함에도 그 의사결정을 명확히 알기 어렵다는 문제가 있다.
- 인공지능기술의 행정활용시 투명성 확보의 필요성과 사회적 수용성
위와 같은 알고리즘의 불투명성 문제는 인공지능기술을 행정활동에 적용하는 데 대한 사
회적 수용에 영향을 미치게 된다. 다르게 표현한다면 행정활동의 효율화를 위하여 법적 근
거를 마련하여 인공지능기술을 행정활동에 적용하려고 하더라도 행정에 있어서의 ‘민주’
원리를 배제할 수 없으므로,28) 그 수용성을 제고하여야 하며, 이를 위해서 투명성을 보장
하여 한다는 것이다.
물론 인공지능기술을 사용하지 않는다고 하더라도 개인정보를 다루게 되는 전자정부 차
원일 때에도 투명성의 요구는 크지만, 인공지능 기술을 행정활동에 적용할 경우에는 그 행
정활동 과정에 대한 투명성에 대한 요구는 더욱 강조된다. 예를 들어 2019년 유럽위원회에
서 발간한 신뢰할 수 있는 AI(초안)에서는 인공지능기술과 관련한 데이터, 시스템, 비즈
니스 모델의 ‘투명성’을 요구하고 있으며, 아울러 인공지능 시스템 및 그 성과에 관한 ‘책
처 품질을･점검하고 인공지능시스템의 기능과 보안을 평가하는 내부 거버넌스를 구축하며 그, 위험 을 평가하여 경감 조치를 취하도록 하는 방향”의 입법 관련 논의들이 있음을 밝혔다.
24) 인공지능 적용행정을 위한 정보수집의 투명성에 관한 상세한 연구에 대해서는, 박소영, “Ⅱ. 인공지
능 적용행정을 위한 정보 수집의 투명성”, 2022년도 한국지능정보사회진흥원 인공지능법제정비단 행정의 투명성분과 연구반 자료집(2022.12.)(미공간) 참조.
25) 임성훈, 앞의 논문, 138-139면.
26) 행정절차(통제)의 민주적 기능에 대하여, 朴正勳, “行政法과 ‘民主’의 自覺-한국 행정법학의 미래”,
행정법이론실무학회, 행정법연구 53. 2018.5., 16면.
27) 같은 입장으로, 김찬희, 앞의 논문, 45면.
28) 朴正勳, 앞의 논문, 6-7면, 19-20면.
8페이지
행정법연구제73호 278
임성’을 보장하여야 하며, 이를 위해 알고리즘 등에 대한 감독, 그리고 접근가능한 적절한
구제조치가 보장되어 한다는 점을 강조하고 있다.29) 이는 EU 인공지능법(안)에서도 동일하
게 적용되어 고위험 인공지능에서는 투명성과 인간의 감시를 강조하고 있다.30) 아울러
OECD도 인공지능에 관한 이사회 권고를 통해 “사람들이 인공지능에 따른 결과를 이해
하고 그것을 평가할 수 있도록 인공지능 시스템에 대해서 투명성과 책임 있는 공개가 이루
어져야 함”을 포함한 원칙을 제시하였다.31) 스위스연방의회 역시도 연방행정에서의 인공지
능 도입에 대한 방향의 한계에 대한 지침을 펴내면서 ‘신뢰할 수 있는 인공지능’의 근본전제
조건으로서 ‘투명성’(Transparenz), ‘사후확인가능성’(Nachvollziehbarkeit) 그리고 ‘설명가능
성’(Erklärbarkeit)을 제시하고 있다.32) 위와 같이 여러 연구결과 및 국제기구 등의 견해 역
시도 행정에 있어서 인공지능기술을 사용할 경우 그 투명성 등을 보장할 필요가 있고, 이
를 통하여 인공지능기술에 관한 일반의 신뢰성을 높여서 사회적 수용성을 제고할 수 있다
고 보고 있다.33) 다시 말하면 인공지능기술이 적용된 행정에 대한 사회적 신뢰 내지는 수
용이 이루어져야만, 행정에서의 인공지능기술 적용이 성공할 수 있으며, 반대의 경우엔 그
렇지 않다는 것이다.34)
29) 이에 관하여, 이세정 외, 앞의 보고서, 31-32면에서 참조; The Scinence Monitor 2019.1.2.자 강승
만, “EU ‘신뢰할 수 있는 인공지능’ 가이드라인 발표, “시민복지” 강조” (http://scimonitors.com/eu -%EC%8B%A0%EB%A2%B0%ED%95%A0-%EC%88%98-%EC%9E%88%EB%8A%94-%EC%9D% B8%EA%B3%B5%EC%A7%80%EB%8A%A5-%EA%B0%80%EC%9D%B4%EB%93%9C%EB%9 D%BC%EC%9D%B8-%EC%B4%88%EC%95%88%EC%A0%9C%EC%8B%9C-ai/ (최종방문일: 202 3.08.25.)
30) European Commission, “Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT
AND OF THE COUNCILLAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS” (https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC 0206) (최종방문일: 2023.08.25.)
31) OECD, Recommendation of the Council on Artificial Intelligence, 2022, p.4 (https://legalinstrument
s.oecd.org/en/instruments/oecd-legal-0449)(최종방문일: 2023.8.25.)에서 내려받음(이에 관하여, 이세정 외, 앞의 보고서, 47면에서 참조)
32) Scheweizerische Eidgenossenschaftum, Der Bundesrat, Leitlinien «Künstliche Intelligenz» für den
Bund - Orientierungsrahmen für den Umgang mit künstlicher Intelligenz in der Bundesverwaltung, 2020/11, S.4.
33) 대통령 직속 4차산업혁명위원회, 4차 산업혁명 대정부 권고안, 2019.10. 47-48면. 이에 관하여, 이세
정 외, 앞의 보고서, 55면에서 재인용.
34) Nadja Braun Binder, Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische
Fragen, (in) Schlussbericht vom 28.Februar 2021 zum Vorprojekt IP6.4, Universität Basel/ Kanton Zürich Staatskanzlei, 2021. S.21.
9페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 279
Ⅲ. 인공지능 기술 적용 행정에서의 위법한 행정의 사례 및 시사점
- 인공지능 기술 적용 행정에서의 투명성 및 신뢰성 관련 사례
행정작용에 대하여 인공지능기술을 적용한 외국의 사례에서도 그와 관련된 알고리즘의
투명성 내지 신뢰성과 관련한 법적 논란이 발생한 바 있다. 그 대표적인 사례 중 유럽국가
에서 발생한 몇몇 건을 예로 들자면, 네덜란드 ‘아동수당 사건’(kinderopvangtoeslagaffaire),
오스트리아 ‘노동시장기회보조시스템’(AMAS) 사건, 스웨덴 스웨덴 Trelleborg시 사회보장
체계 사건, 영국 ‘별정우체국’ 사건35) 등이 있다.36)
먼저 네덜란드는 사회 전반에 인공지능기술을 비롯한 각종 신기술 도입을 통하여 국가경
쟁력을 제고하는 데 적극적인 입장이다.37) 이에 따라 행정영역에서의 인공지능기술 적용을
시도한 바 있으며, 이미 (부분)자동화된 행정결정체계의 이용에 대하여 네덜란드 ｢일반행정
법전｣에서도 그 근거를 찾을 수 있다.38)39)
네덜란드 법제에서는 아동의 연령을 기준으로 하여 아동수당을 지급하고 있었는 바,40)
35) Nature, 23 Jan. 2024, “Computers make mistakes and AI will make things worse — the law must
recognize that A tragic scandal at the UK Post Office highlights the need for legal change, especially as organizations embrace artificial intelligence to enhance decision-making.” (https:// www.nature.com/articles/d41586-024-00168-8) (최종방문일: 2024. 2. 1.)
36) 본 고에서 인용하는 예시들 외에도 프랑스의 대학입학(결정)플랫폼인 ‘Adminission Post-Bac’(이하
“APB’라 한다)이 자동화된 알고리즘으로 작동되었으나, 이의 편향성에 대한 사회적 논란이 있었던 바 있는 등 다수의 사례가 소개되고 있다. 김혜진, “알고리듬 행정결정의 법적 쟁점- 프랑스 대학 입학플랫폼(Parcousup)의 사례를 중심으로-”, 행정법이론실무학회, 행정법연구 제69호, 2022.11. 208-213면.
37) 영국의 기술정책연구소인 옥스퍼드 인사이트(Oxford Insight)가 2020년 9월 발표한 정부AI준비지수
에서 네덜란드는 9위에 올랐다. 이에 관하여, AI 타임스 2021. 06.30.자 박유빈 기자, “[세계 속 AI ② 네덜란드]‘정부 AI 준비 지수’ 전 세계 10위권 AI강소국” (http://www.aitimes.com/news/articleVi ew.html?idxno=138804) (최종방문일: 2022. 10. 24.)
38) 네덜란드는 주택지원법상의 주택공급절차에서 부분적인 자동화된 체계를 사용하고 있으며, 그 법적
근거를 ｢일반행정법전｣ 제3:46조 및 제3:47조를 들고 있다. 이에 관하여, 박훈민 “전자정부와 자동 화된 행정결정에 대한 법도그마틱상 검토필요성 – 독일과 네덜란드에서의 법제와 논의를 중심으 로 한 시론”, 행정법이론실무학회, 행정법연구 52호, 2008.2., 65면.
39) 네덜란드 ｢일반행정법전｣은 우리의 행정기본법의 모델이 된 법률이라 평가된다. 네덜란드 일반행정
법전에 대한 국내 소개로는 윤강욱･박훈민, “네덜란드 일반행정법전(Algemene wet bestuursrecht)상 의 행정절차에 관한 소고” 행정법이론실무학회, 행정법연구 제50호, 2017.8.. 참조.
40) Heerlen, “Kwijtschelding schulden gedupeerde ouders kinderopvangtoeslagaffaire” (https://www.heerl
en.nl/gemeente-heerlen/kwijtschelding-schulden-gedupeerde-ouders-kinderopvangtoeslagaffaire.html)(최 종방문일: 2022. 12. 20.)
10페이지
행정법연구제73호 280
네덜란드 세무당국에서는 2013년 머신러닝기술을 도입하여 아동수당의 부정수급자를 식별
하고 환수조치를 취할 수 있도록 하고자 하였다.41) 즉, 아동수당에 관한 부정수급여부에
대한 판단을 종래와 같이 인간인 공무원이 개별적으로 판단하여 처리한 것이 아니라 머신
러닝기술을 통하여 학습한 알고리즘이 그 판단을 담당하도록 하였던 것이다. 이 알고리즘
은 일부 수급자를 부정수급자로 판정하였고, 네덜란드 당국은 그들을 사기죄로 고발하는
한편 또한 부정수급하였다고 판단되는 아동수당에 대한 환급명령을 내렸다. 그런데 이 자
동화된 환급명령 결정은 저소득층 주민 및 네덜란드 시민권자가 아닌 이민자들에게 차별적
으로 편향되었던 것임이 밝혀졌다. 이 잘못된 환급명령 결정 등에 따라 적지 않은 숫자의
가정이 고통을 겪어야 했었기 때문에, 결국 이 시스템의 불투명성과 차별문제는 2021년 1
월 ‘아동수당사건’(kinderopvangtoeslagaffaire)으로 불리는 정치적 스캔들로 번졌으며, 네덜
란드 내각이 사퇴하게 되는 원인이 되었다.42) 네덜란드 정부는 위 사건과 관련하여 아동수
당을 부정수급한 것으로 오인받았던 사람들에 대하여 손해배상 등의 조치를 취하였다.43)
해당 사건에서 네덜란드 세무당국이 사용한 알고리즘에 대하여 그 투명성 부족이 지적되기
도 하였으며, 유럽위원회 등에서도 인공지능의 신뢰성을 요구하여야 한다는 입장을 취하였
다.44)
오스트리아의 ‘노동시장기회보조시스템’(AMAS) 사건에서도 알고리즘에 따른 행정활동에서
의 투명성의 부족과 차별문제가 불거졌다. 오스트리아 노동청(Arbeitsmarktservice Österreich)
은 2019년 인공지능 기술을 구직자 지원을 위한 ‘노동시장기회보조시스템’(AMAS:
Arbeitsmarkt-Chancen-Assistenzsystem)을 적용하였다. 시민단체인 ‘AlgorithmWatch’에서
2019년 10월 인공지능기술에 기반한 위 시스템의 정보처리모델이 자녀를 둔 여성, 장애인,
또는 30세 이상의 구직자에게 부정적인 평점을 주는 등 차별적이라며 비판을 제기하였
다.45)46) 오스트리아 노동청 당국은 이를 반박하는 입장을 표명하였다.47) 결국 이 시스템의
41) IEEE Specturum, Pahul Rao, “The Dutch Tax Authority Was Felled by AI—What Comes Next?
European regulation hopes to rein in ill-behaving algorithms”(https://spectrum.ieee.org/artificial-intelli gence-in-government)(최종방문일: 2022. 12. 20.)
42) 위 문단에 관하여, IEEE Specturum, Pahul Rao, a.a.O.
43) Heerlen, a.a.O.
44) POLITICO, “Dutch scandal serves as a warning for Europe over risks of using algorithms”(https://
www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorithms/)(최 종방문일: 2023. 08. 04.)
45) AlgorithmWatch 홈페이지(https://algorithmwatch.org/en/austrias-employment-agency-ams-rolls-out-disc
riminatory-algorithm/) (최종방문일: 2023. 8. 24.)
46) Nadja Braun Binder, Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische
Fragen, Schlussbericht vom 28.Februar 2021 zum Vorprojekt IP6.4, Universität Basel/ Kanton
11페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 281
불투명성 및 개인정보관련 법령위반을 이유로 오스트리아 정보보호청은 2020년에 AMAS
의 사용을 중지할 것을 금지하는 처분을 하였다. 노동청은 연방행정재판소에 소를 제기하
였으며, 2020년 12월 위 연방행정재판소는 취소소송을 인용하고, 정보보호청의 결정을 취
소하였다.48)49) 다만 이 사건에서 주된 쟁점은 노동청이 개인정보를 다룰 수 있는지 여부였
으며, 오스트리아 연방행정재판소는 오스트리아 노동청이 유럽개인정보보호지침 제57조제1
항h목 및 제58조제1항b목과 개인정보보호법 제22조제1항에 따라 개인정보를 취합할 권한
이 있는지 여부를 심사하였고, 논란이 되었던 알고리즘의 차별성 여부는 직접 판단하지 않
은 것으로 보인다. 다만 해당 판결 이후 오스트리아 학술원이 조사한 바에 따르면 위
AMAS의 알고리즘이 차별을 방지하는 기능을 가지고 있지 않다는 문제점이 확인되었다고
한다.50)51)
스웨덴 Trelleborg시에서도 주민의 생계비 지원 등 사회보장서비스 제공을 위한 인공지능
기술에 기반한 의사결정체계를 도입한 바 있다. 이 체계는 비교적 단순한 모델에 기반하였
으나, 세무당국 자료 또는 건강보험 기록 등을 근거로 하여 자동의사결정(automated
decision-making: ADM)을 하도록 하였다. 그러나 이와 같은 자동화된 의사결정을 할 수 있
도록 수권하는 법률상의 근거는 없다는 문제가 있었다. 이에 Trelleborg시의회 옴부즈만이
시를 상대로 답변을 요구하였으며, 이후 행정재판소에 스웨덴법상 공적 문서의 ‘공개성원
칙’(Offentlinghetsprincipen) 위반을 근거로 제소하였다. 행정재판소는 해당 시스템의 핵심코
드(Quellecode)가 대중이 접근할 수 있도록 공개되어야 함에도 불구하고 공개하지 아니하
여 위 원칙에 위반된다고 판시하였다.52)
Zürich Staatskanzlei, 2021. S.32.
47) Der Standard, Jahannes Kopf, “Ein kritischer Blick auf die AMS-Kritiker” (https://www.derstandar
d.at/story/2000109032448/ein-kritischer-blick-auf-die-ams-kritiker)(최종방문일: 2023. 8. 24.)
48) 위 문단에 관하여, Nadja Braun Binder, a.a.O., S.32.; Daniela Stangl, Daten, Algorithmen und
technische Diskriminierung: Wie Algorithmen die Diskriminierung gegenüber Arbeitssuchenden reproduzieren, Sozial Extra(24), 2023. S. 167. (https://link.springer.com/article/10.1007/s12054-023- 00589-1에서 내려받음)(최종방문일: 2023.08.04.)
49) 오스트리아 연방행정재판소(Bundesverwaltungsgericht), W256 2235360-1/5E 판결 (동 판결문에 관
하여, https://www.ris.bka.gv.at/Dokumente/Bvwg/BVWGT_20201218_W256_2235360_1_00/BVWGT_ 20201218_W256_2235360_1_00.html 참조)(최종방문일: 2023. 8. 25.)
50) 오스트리아 학술원 홈페이지, 과거 프로젝트 2020년 “Der AMS-Algotithmus” (https://www.oeaw.ac.
at/ita/projekte/der-ams-algorithmus) (최종방문일: 2023. 8. 25.)
51) Austria Presse Agentur, Paul Tschierske, 24.11.22. “Mann kann night night diskriminieren” (https://
science.apa.at/mehrzumthema/man-kann-nicht-nicht-diskriminieren/) (최종방문일: 2023. 8. 25.)
52) 위 문단에 관하여, Matthias Spielkamp, Internationale Beispiele, (in) Einsatz Künstlicher Intelligenz
in der Verwaltung: rechtliche und ethische Fragen, Schlussbericht vom 28. Februar 2021 zum
12페이지
행정법연구제73호 282
영국 정부도 우체국의 회계 검사를 위하여 ‘Horizon’이라는 프로그램을 도입하였으나, 해
당 프로그램상의 오류로 인하여 700명 이상이 절도 내지는 회계부정 혐의로 형사소추되었
으며, 이 중 30% 이상에 대하여 실형이 선고된 사건이 있었다.53) 해당 시스템은 일본 후
지쯔 사에서 제조된 것으로 인공지능이 탑재된 것은 아닌 것은 보이나, 이 사건으로 인하
여 영국에서도 컴퓨터 프로그램의 오류에 대하여 사회적인 경각심을 자극하여 인공지능기
술의 도입시 신중해야 한다는 입장이 늘어났고, 특히 정보수집 등에서의 법적 문제점 등이
지적되기도 하였다. 영국 정부 역시도 인공지능을 감독할 수단이 필요하다는 데 동의하는
입장을 취하였다.54)
- 인공지능기술 적용 행정에서의 투명성 해결에 관한 시사점
위에서 살펴본 네덜란드 아동수당사건을 비롯한 인공지능기술 적용 행정 관련 불투명성
문제로 발생한 사건들로 인하여 행정전반에 인공지능기술을 적용하려는 유럽 각국의 노력
에 대하여 사회 일반의 반발 가능성이 높아졌다고 평가된다.55) 사회 전체에서 행정에 높은
수준의 인공지능기술을 적용할 경우에 발생할 수 있는 위험성을 높게 평가하게 되었고 이
와 같은 기술을 쉽사리 받아들이려 하지 않으려 한다는 의미이다. 행정에서는 인공지능기
술을 사용함으로써 보다 효율적으로 행정업무를 처리할 수 있도록 하고자 하고 일정한 편
익을 제공할 수 있겠지만,56)57) 그에 부수되는 잠재적인 피해가능성으로 인하여 일반 시민
Vorprojekt IP6.4, Universität Basel/ Kanton Zürich Staatskanzlei, 2021. S.30-31.
53) Nature, 23 Jan. 2024, “Computers make mistakes and AI will make things worse — the law must
recognize that A tragic scandal at the UK Post Office highlights the need for legal change, especially as organizations embrace artificial intelligence to enhance decision-making.” (https:// www.nature.com/articles/d41586-024-00168-8) (최종방문일: 2024. 2. 1.)
54) 위 문단에 관하여, The Guardian, “Don’t wait for Post Office-style scandal before regulating AI,
ministers told Government to say binding measures for overseeing artificial intelligence are needed, but not immediately” (https://www.theguardian.com/technology/2024/feb/06/dont-wait-for-post-office-st yle-scan dal-before-regulating-ai-ministers-told ) (최종방문일: 2024. 3. 5.)
55) POLITICO, “Dutch scandal serves as a warning for Europe over risks of using algorithms”
(https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorith ms/) (최종방문일: 2023. 08. 04.)
56) Forbes, “Artificial Intelligence And The End Of Government” Jan 4 2019. (https://www.forbes.com
/sites/danielaraya/2019/01/04/artificial-intelligence-and-the-end-of-government/?sh=5fc1ff23719b) (최종 방문일: 2023.08.04.)
57) Intel.com “AI in Government Drives Extraordinary” (https://www.intel.com/content/www/us/en/gover
nment/artificial-intelligence.html)
13페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 283
들이 우려를 갖게 되어,58) 이에 따라 행정에서의 인공지능기술 적용이 지연된다는 것이다.
따라서 인공지능기술의 행정적용시 일반시민의 수용가능성을 제고하기 위해서는 인공지능
기술에 기반한 행정활동이 감시를 받아야 하고, 알고리즘 등의 작동과 관련한 안정성이 보
장되고, 결과적으로 하자없이 이루어져야 한다는 것이 전문가의 일반적인 입장으로 보인
다.59)
이는 결국 인공지능기술 적용 행정에서의 투명성을 확보하여야 한다는 결론에 도달하였
으며, 위의 사건들을 통하여 이에 관한 몇 가지 시사점을 도출할 수 있다. 첫째로 스웨덴
Trelleborg시 사건에서 보듯이 알고리즘의 공개가 이루어져야 한다는 것이다.60) 둘째로, 네
덜란드 아동수당 사건과 오스트리아 ‘노동시장기회보조시스템’(AMAS) 사건에서 보듯이 인
공지능기술에 따른 알고리즘이 편향될 위험성이 있으므로, 이에 대한 검증절차가 보장되어야
한다는 것이다. 셋째로 완전히 자동화된 결정은 위험성이 있으므로, 의사결정 이후 사람인 공
무원에 의한 검토할 수 있어야 한다는 점도 빠질 수 없다. 그리고 넷째로 네덜란드 아동수당
사건과 영국 별정우체국 사건 등에서도 나타난 바와 같이 알고리즘 상의 문제로 인하여 잘
못된 판단이 내려진 경우, 이에 관하여 이의가 제기된 때 즉시 이를 파악하여 조기에 위법
성을 시정하고 피해를 구제해 줄 제도적 장치가 있어야 한다는 점이다.
EU 역시도 ｢인공지능 규정(안)｣(Proposal for a Regulation of the European Parliament
and of the Council Laying down harmonised rules on Artificial Intelligence)에서는 인공지
능이 불투명성, 복잡성, 데이터종속성, 자율적 행동 등의 특성을 보인다는 점을 인정하였다.
이에 따라 기본권을 침해할 우려가 있다는 점과 이와 같은 리스크 해소를 위하여 인공지능
시스템의 투명성과 추적가능성을 보장하고, 사후통제를 통한 피해자에 대한 실효적 권리구제
를 부여하는 방안을 조문에서 제시한 바 있다.61) 또한 위 ｢인공지능 규정안｣의 제4장에서도
특정 인공지능 시스템의 제공자 및 이용자가 투명성을 준수하도록 규정하는 등 이에 관한
제도적 요구 역시도 이루어지고 있다.62) 이를 통해 본다면, 사람에 의한 모니터링 및 의사
58) Nadja Braun Binder, Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische
Fragen, Schlussbericht vom 28.Februar 2021 zum Vorprojekt IP6.4, Universität Basel/ Kanton Zürich Staatskanzlei, 2021. S.6., S.21. S.35.
59) Nadja Braun Binder, a.a.O., S.21.
60) 프랑스에서의 인공지능기술에 의한 행정결정 관련 소스코드 공개여부에 관하여, 김혜진, 앞의 논문,
216-219면.
61) 위 문단에 관하여, 한국법제연구원, EU 인공지능법안, 한국법제연구원 미래법제전략팀 2021번역
자료집, 22-23면.
62) Future of Life Institute, The AI Act 홈페이지 (https://artificialintelligenceact.eu/context/) (최종방문
일: 2022.12.22.)
14페이지
행정법연구제73호 284
결정절차에서의 관여를 보장하는 제도적 장치와 구제절차 등의 정비가 필요하다는 것이다.
이들은 결국 아래의 제4장에서 보듯이 크게 사전적 예방 및 권리구제 방안과 사후적 권리구
제 방안으로 구분할 수 있겠다.
- 인공지능기술 적용 행정의 위법성 문제
(1) 행정활동 결과물의 위법성
인공지능기술이 적용된 행정에서 구제조치가 필요한 경우로는 먼저 행정활동의 결과물
자체에 위법성이 있는 경우를 들 수 있다. 네덜란드 아동수당 사건 등에서 보듯이, 인공지
능기술 적용 행정활동의 결과가 관련 법령상의 규정에 직접적으로 위반되는 경우, 평등원
칙을 비롯한 행정법의 일반원칙에 반하는 경우를 예로 들 수 있겠다. 이에 관해서는 행정
소송, 행정심판 등으로 다툴 수 있겠고, 경우에 따라서는 보충성 원칙 적용하에서 헌법소원
으로 구제받을 여지도 있다 하겠다.
(2) 투명성 관련 규정의 위반
처분 등 행정활동의 결과 자체에는 위법성은 없거나 확인되지 않았다 하더라도 인공지능
기술에 의한 행정활동이 투명하지 않은 경우 또는 이와 관련된 절차규정을 준수하지 아니
한 경우가 있을 수 있다. 예를 들어, 행정에서의 인공지능기술 적용과 관련하여 알고리즘에
대한 검증 및 결과에 대한 외부공개절차, 사람인 공무원에 의한 사전확인절차가 규정되었
으나, 이를 거치지 않고 처분을 한 경우 등이 그것이다. 이들 경우에는 실체적 하자가 명
확하게 확인되지 아니한 경우에라도 절차규정 위반 등으로 위법하다고 인정해야 하겠다.
특히 인공지능기술 적용 행정의 경우에는 실체적 위법성 여부를 사후적으로 판단하기 쉽지
않고, 그 경우 법률상 이익을 직접적으로 침해받았는지 여부를 입증하기도 어렵다. 이때에
는 절차위반에서 법률상 이익침해를 도출하는 해석론 내지 판례에 근거하여 항고소송으로
다툴 수 있도록 할 필요성이 크다.
(3) 개인정보관련 법령 위반
행정활동 결과물에 대한 하자 외에도 인공지능기술 적용에 따라 개인정보보호 측면에서
의 위법성 문제도 있을 수 있으며, 웹크롤링 기술 등을 이용한 과도한 개인정보의 수집 또
는 관리상의 하자가 있는 경우를 들 수 있겠다. 최근 국내에서는 개인정보보호위원회가
15페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 285
‘OpenAI OpCo LLC’에 대하여 개인정보 유출 및 신고의무위반을 이유로 과태료를 부과한
바 있다.63) 앞서 오스트리아 노동청에서 운용한 인공지능기술에 기반한 ‘노동시장기회보조
시스템’(AMAS: Arbeitsmarkt- Chancen-Assistenzsystem)에 대한 AlgorithmWatch 라는 시민
단체가 제기한 소송에서도 해당 시스템의 개인정보관련 법령위반이 쟁점이 된 바 있다.64)
네덜란드 노동사회부가 도입한 ‘위기평가체계’(System Risico Inventarsatie)도 세무당국이나
사회보장청 등과 협력하여 세금신고 자료 등을 바탕으로 평가하도록 하였는데, 이때 사용
한 알고리즘의 불투명성과 더불어 개인정보 등 사생활침해 문제 역시도 지적되었다.65)
Ⅳ. 인공지능기술 적용 행정에 대한 구제수단 및 입법방안
- 위법성 방지 및 피해구제방법의 구분
앞서본 인공지능기술을 적용한 행정에서의 위법성 문제에 대응하여 이를 방지할 수단들
을 검토할 수 있다. 이와 같은 제도상의 수단들은 위법성 예방 및 시정, 그리고 상대방 및
이해관계인의 권익 침해를 구제하는 것으로 크게 둘로 구분할 수 있다. 즉, 인공지능기술에
의한 행정활동에 대한 사전적 구제수단과 사후적 구제수단으로 분류할 수 있다는 것이다.
전자는 인공지능기술이 적용된 행정상의 의사결정이 있기 이전 또는 결정 이후 행정의 직
접 상대방 또는 일반에게 영향을 미치기 이전에 구제(즉, 피해를 예방)하도록 하는 수단을,
후자는 행정처분 등이 이루어지고 난 이후에 그에 관한 하자를 지적하면서 인공지능기술을
활용한 행정작용에 따른 피해 발생에 대하여 그 원인을 제거함으로써 구제하는 수단을 의
미한다.
넓은 의미의 ‘사전적 구제수단’ 내지는 ‘예방수단’에는 행정 내부의 시스템에서 데이터의
수집부터 알고리즘에 의하여 이 데이터가 처리되는 과정을 모니터링하고 이를 통하여 행정
63) 개인정보위원회 홈페이지, 보도자료(2023.07.27.자) “개인정보위, 오픈AI에 과태료 부과 및 개선권
고” (https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttI d=9055) (최종방문일: 2023.07.28.)
64) AlgorithmWatch 홈페이지 (https://algorithmwatch.org/en/austrias-employment-agency-ams-rolls-out-dis
criminatory-algorithm/) (최종방문일: 2023. 8. 24.)
65) Jessica Wulf, Catherine Egli, Potenzial von KI in der öfftentliche Verwaltung, (in) Nadja Braun
Binder, Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen, Schlussbericht vom 28.Februar 2021 zum Vorprojekt IP6.4, Universität Basel/ Kanton Zürich Staatskanzlei, S.31.
16페이지
행정법연구제73호 286
의 상대방인 사인에게 피해가 발생하지 않도록 하는 것을 포함할 수 있다. 즉, 알고리즘이
정상적으로 작동하는지, 외부의 해킹 등으로부터 안전한지, 그리고 편향된 결과값이 나오지
아니하는지 등을 검증하는 것까지 포함된다고 하겠다. 독일 ｢연방행정절차법｣ 등에서 과세
절차를 중심으로 자동화된 처분 제도를 도입하는 과정에서 독일 연방하원은 제도도입과 병
행하여 ‘리스크관리체계’ (Risikomanagementsysteme) 도입을 전제로 하였던 바가 있으며,66)
이와 같은 리스크관리체계는 피해발생을 사전에 방지하는 수단으로서 넓은 의미에서는 사
전적 구제수단에도 포함될 여지가 있다고 생각한다. 아울러 행정 내부의 리스크 통제를 위
한 절차 내지는 수단 외에도 처분 등이 실제로 이루어지기 이전에 사전통지, 행정예고 등
을 받은 상대방이 의견제출을 통하여 자신의 권익침해가 현실화되기 이전에 구제받을 수
있도록 하는 것 역시 중요한 사전적 구제수단이라고 하겠다.
반면 ‘사후적 구제수단’은 인공지능기술 기반 행정활동이 이루어지고 난 이후의 구제수
단이라고 할 수 있다. 인공지능기술을 적용한 행정으로 인하여 권익에 피해를 입게 되는
상대방인 당사자 및 이해관계인 등이 해당 행정청에 이의 시정을 요구하거나 법원 등 다른
기관을 통하여 이에 불복하거나 그로 인한 손해의 배상 등을 요구하는 것 등을 여기에 포
함시킬 수 있겠다. 일반적인 행정활동과 큰 차이를 보이지 아니할 수도 있으나, 처분시 인
공지능기술에 의하여 판단된 것임을 상대방이 알 수 있도록 하고, 간이한 절차를 통하여
신속하게 구제를 받을 수 있도록 보장할 필요성이 크다고 할 수 있다.
- 사전적 구제수단
(1) 행정절차와 사전적 구제
앞서 보았듯이 행정활동에 있어서 투명성 내지 감독가능성을 보장할 의무는 모든 공권력
작용에 미친다고 보아야 하며, 인공지능기술에 의한 알고리즘으로 행정활동을 하는 경우에
도 마찬가지라는 것이 원칙이다.67) 그러나 사람인 공무원에 의한 행정활동과 달리 인공지
능기술을 전면적으로 적용한 행정에서는 이른바 ‘블랙박스 문제’라고도 불리는 투명성 내
지 감독가능성의 한계가 있다는 문제가 있다는 지적이 있다.68) 이에 대한 해결을 위해서는
기계적인 결정이나 재량이 없는 단순한 사안에 대한 결정 외에는 결국 공무원이 절차 중간
66) Bundestag, Drucksache 18/7457, 03.02.2016., S.14, S.48.
67) Nadja Braun Binder, a.a.O.,S.38.
68) 임성훈, “인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰”, 행정법이론실무
학회, 행정법연구 62, 2020, 139면.
17페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 287
에 개입하여 사전에 대응하도록 보장함으로써 간접적으로 투명성을 보완하도록 할 필요가
있다.69)
현행 ｢행정절차법｣ 제5조제3항에서는 비록 원칙적인 규정이기는 하지만, “행정청은 상대
방에게 행정작용과 관련된 정보를 충분히 제공하여야 한다”고 규정하고 있다. 이때 인공지
능기술 적용 행정에서도 해당 행정결정 등에 대하여 정보를 제공할 필요성이 있으며, 이를
공무원이 담당하여야 할 것으로 본다. 나아가 행정의 적법성을 확보하는 것 역시 행정청의
책임이므로(｢행정기본법｣ 제1조, 제8조 등) 이 역시 공무원의 개입의 근거가 된다고 하겠다.
이와 같은 감독이 뒤따르는 인공지능 체계는 완전히 자동화된 시스템(fully automated
system)이 아니라 사람의 개입을 전제로 하는 것으로 이른바 ‘혼합시스템’(mixed system)을
전제로 한다 하겠다. 이 가운데서 자동화된 결정을 한 후에 상대방에게 이의를 제기할 수
있도록 하는 방식(1유형)과 자동화된 결정을 한 후 담당자가 이를 확인하여 최종적으로 결
정하는 방식(2유형), 그리고 자동화된 조언을 하는 방식(3유형) 셋으로 구분하기도 한다.70)
위와 같이 혼합시스템을 3종류로 구분하는 유형분류법에 따른다고 하면, 유형별로 투명
성을 확보하는 방안은 각각 상이할 수 있겠다. 먼저 자동화된 시스템에서 내부적인 의사결
정을 하고, 사람인 공무원이 이를 확인한 후에 최종결정하는 체계(2유형)는 사람인 공무원
에 의하여 ‘사후적인 확인가능성’(Nachvollziehbarkeit)이 일정 부분 담보된다고 할 수 있다.
즉, 최종결정을 하는 공무원이 처분의 사전통지 및 이유제시 절차 등을 담당하게 되고, 처
분 상대방의 의견제출에 따른 답변의무 등을 지게 된다. 이와 같은 절차를 통하여 반자동
화된 시스템에 의한 행정활동의 사전구제가 가능해진다. 즉, 공무원이 검토 후 발령하도록
하는 방식(2유형)에서는 상대방에서 청문 등의 요구가 있거나, 처분 후 이의신청 등을 통하
여 행정결정에 대하여 이의를 제기하였을 때 공무원이 이에 대하여 명확히 밝힐 수 있기에
용이하다는 것이다.
1유형에서는 이와 달리 1차적으로 자동화된 시스템에서 내부적으로 의사결정을 하였으
나 아직 최종적으로 처분을 하기 이전에 사전통지하여 처분상대방의 이의를 받는 유형이
다. 처분 당시에는 인공지능의 특성으로 인하여 –인간인 공무원이 처분에 관한 결정을 할
때와 달리- 처분의 이유제시 등이 구체적으로 이루어지기 어려운 측면이 있다. 그러나 처
분상대방의 의견제출 절차 등을 통하여 사람인 공무원이 처분을 재검토하면서 해당 처분의
69) 인공지능기술이 적용된 행정활동에서의 투명성의 요구는 종래와 같이 사람에 의한 행정과 달리 그
투명성을 전면적으로 그리고 직접적으로 요구하는 것이 형용모순이라고도 할 수 있겠으나, 공무원 의 감독 또는 확인등을 통한 간접적인 방식으로는 투명성을 보완할 수 있다 하겠다.
70) 위 문단에 관하여, 임성훈, 앞의 논문, 141면.
18페이지
행정법연구제73호 288
적법성 여부 등을 행정청측에서 사후적으로 확인하게 된다.71) 이와 같은 사람이 중간에 개
입하는 방식의 사전적 구제수단 중 이의를 제기할 있도록 하는 방식(1유형)은 먼저 행정절
차에 있어서의 청문 등 의견청취절차를 두어 사전적으로 구제가능성을 열어두는 것이라 하
겠다.72) 다만 일각에서는 이와 같은 청문절차 규정을 적용하는데 대해서는 인공지능 기술
을 적용하여 얻고자 하는 효율성 제고를 저해하여 결국 인공지능기술의 행정활동에 대한
도입으로 인한 이익을 축소시킨다는 측면이 있다는 반론이 제기되기도 한다.73)
반대로 제1유형과 같이 사람이 개입하지 않는 방식의 전자동화된 행정에서는 ｢행정절차
법｣상의 이유제시의무를 충분히 충족하지 못하는 문제가 있다. 현행 ｢행정기본법｣에서는
기속행위에 대해서만 인공지능 등을 적용한 자동화된 처분을 허용하고 있다. 여기에는 비
교적 단순한 과세처분 및 연말정산 처리, 과속단속에 따른 범칙금 고지 등이 여기에 해당
할 수 있어 별다른 문제가 없을 것으로 보인다.
그러나 인공지능기술을 적용한 행정의 영역이 확대될 경우 알고리즘 자체에서 이유제시
가 어려우므로, 다른 방식으로라도 행정활동의 이유제시 등을 하여야 할 것이다. 왜냐하면
행정활동의 근거 내지 이유를 제시하는 것은 국가 및 행정활동에 대한 신뢰성 및 수용성과
결부되기 때문이다.74) 따라서 앞서본 기술적인 이유 등으로 인하여 이유제시 등이 생략된
채 자동적 처분이 이루어진다고 하더라도 ｢행정절차법｣ 제23조제2항과 같이 당사자가 이
에 관하여 요청하는 경우에는 비록 사후에 근거 및 이유를 제시하도록 하는 것도 필요하다
고 본다. 이때 처분 등 행정활동에 대한 이유제시는 결국 위 1유형과 같이 사람인 담당 공
무원이 재확인하는 절차를 거쳐야 한다고 볼 수 있다.
또한 행정청이 상대방에게 처분 등의 사전통지를 하고, 의견제출을 받을 때에도, 해당
처분을 하는 과정에서 인공지능기술을 이용하였고 공무원 등이 먼저 이를 검토하고 발령하
는 것이 아니라면, 해당 처분의 사전통지를 하면서 먼저 해당 처분 등 행정활동이 인공지
능 기술에 의하여 자동적으로 이루어지는 처분임을 밝히도록 할 필요성이 있다.75) 즉, 이
는 인공지능 기술 사용여부에 관하여 1차적으로 고지하는 것으로서 그 역시 행정활동의 투
71) EU인공지능 규정(안)에서도 하이리스크 인공지능 시스템에 대해서는 제14조에서 ‘인간에 의한 감
독’을 가능하도록 할 것을 주문하고 있다. 한국법제연구원, EU 인공지능법안, 한국법제연구원 미 래법제전략팀 2021번역자료집, 57-59면.
72) Nadja Braun Binder, a.a.O., S.36.
73) 임성훈, 앞의 논문, 148면.
74) Nadja Braun Binder, a.a.O., S.35.
75) 그 입법방안으로는 ｢행정기본법｣ 제20조를 개정하여 자동화된 의사결정 시스템의 경우 이를 설치
한 행정청이 공무원을 통하여 시스템의 정상작동 여부를 사전에 그리고 정기적으로 확인토록 의무 지우도록 규정하는 것을 생각할 수 있다.
19페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 289
명성을 보장하는 방법이라 하겠다. 아울러 이는 상대방 등 당사자가 사전적 또는 사후적
구제수단을 사용함에 있어서 해당 처분과 관련하여 -인공지능기술을 행정결정에 사용시 발
생할 수 있는- 하자 가능성을 미리 확인할 수 있도록 하는 토대가 될 수 있다.76) 이와 관
련하여 ｢행정기본법｣의 개정방안으로는 행정청이 인공지능 기술을 행정활동에 적용할 경우
스스로 알고리즘 등의 정확성을 검토하도록 의무화하고, 처분을 할 때에도 인공지능기술이
적용되었음을 스스로 밝히도록 하는 방안을 생각할 수 있다.77) 나아가 ｢행정기본법｣ 제20
조를 자동화된 행정의 일반적인 근거규정으로 새롭게 변경하여 규정하고, 인공지능기술에
의한 투명성 확보를 명시하도록 하여야 할 것으로 생각된다.78) 행정에 관한 일반법으로서
의 성격, 그리고 향후 통합법률의 주축이 될 잠재성에 주목하여 알고리즘에 대한 검증절차
실시의무 및 결과공표 규정도 1차적으로는 ｢행정기본법｣에 두는 것이 바람직하다고 본다.
우리 ｢개인정보 보호법｣에서는 최근 개정을 통하여 인공지능기술을 적용한 자동화된 시
스템에서 내려지는 결정에 대하여 정보주체의 권리 또는 의무에 중대한 영향을 미치는 경
우 위와 같은 자동화된 결정을 거부할 수 있는 권리를 가지도록 명시하였다(동법 제37조의
2).79) 그러나 ｢개인정보 보호법 시행령｣ 제44조의4제1항에서 제한적으로 규정하고 있기는
하지만, ｢행정절차법｣ 등에서는 처분시 또는 처분의 사전통지시 해당 처분이 인공지능기술
에 따른 결정임을 밝히도록 하는 내용이 포함되어 있지 않아 이를 보충할 필요성이 있다.
또한 행정주체의 무분별한 개인정보수집을 막기 위하여 인공지능기술을 활용할 경우에도
법적 근거 없이 웹크롤링 기술 등을 사용하는 것을 통제할 필요성도 있다.
(2) 알고리즘에 대한 사전적 심사
앞서 본 알고리즘의 편향성 또는 오류가 문제된 사건들에서 보듯이, 행정이 알고리즘을
76) 인공지능을 적용하는 행정활동에 관한 프랑스법제에서는 이와 같은 인간-즉 공무원-의 개입과 이를
통한 이해관계인의 보호를 중시한다고 평가된다. 이에 관하여, 김혜진, 앞의 논문, 213-214면.
77) 예를 들어, ｢행정기본법｣ 제21조에 따른 처분의 사전통지와 관련하여, 제1항에 “제20조에 따른 자
동적 처분 중 인공지능 기술이 적용된 처분의 경우, 인공지능 기술을 적용하여 처분된 사실” 등을 추가하는 방안을 제시할 수 있다. 작성자가 제시한 개정안에 상세한 내용은 2022년도 한국지능정 보사회진흥원 인공지능법제정비단 행정의 투명성분과 연구반 보고자료(미공간) 참고.
78) 특히 행정기본법은 모델이 된 네덜란드 ｢일반행정법전｣(Algemene wet bestuursrecht)과 같이 통합행
정법전화하여야 한다는 주장이 계속 제기되어 왔고, 그와 같이 확장될 여지를 남겨두고 있다. 법제 처, 행정기본법 해설서, 13-14면; 사단법인 행정법학회, 행정기본법 해설서 연구, 법제처 연구용역 보고서, 2021, 13면; 법률신문, 강한 기자, 2022.03.23.자 “[인터뷰] 이강섭 법제처장 “행정기본법 시행 1년, 행정법 집행 통일성 높아져”” https://www.lawtimes.co.kr/news/177382 (최종방문일: 2023. 8.24.)
79) 이성엽 편, 데이터와 법 제2전정판, 2024, 박영사, 21면.
20페이지
행정법연구제73호 290
이용할 때에는 그 정상작동 여부를 확인하여야 하므로, 개별처분의 발령과 직접 관련없이
행정에 적용될 알고리즘에 대하여 사전적인 심사 및 정기적인 확인도 필요하다. 물론 인공
지능 알고리즘의 법적 성격에 관하여 논란이 있으나, 미국법에서는 일종의 행정규칙 제정
으로 보고 해당 알고리즘이 집행되기 이전이라도 집행전 심사를 받을 수 있는지가 논의되
고 있다.80) 이를 일종의 ‘사전적 규범통제’에 가까운 것이라 볼 수 있겠다.
한편으로는 ｢행정기본법｣의 개정을 통하여 행정의 알고리즘 검증의무를 명시할 필요성도
있으나, 다른 한편으로 만약 행정이 이를 이행하지 아니하거나, 이행하였음에도 편향성 여
부가 의심될 때 상대방이 어떻게 이를 다툴 수 있을지 여부가 문제될 수 있겠다. 우리 ｢행
정소송법｣상 법규명령･행정규칙 등에 대하여 직접 다툴 수 있는 이와 같은 절차를 따로 두
고 있지는 아니한 한계가 있다. 따라서 –예외적으로 인정될 가능성이 있는- 헌법소원 외
에는 이를 다투기 어려운 법제상의 문제가 있다 하겠다. 전형적인 추상적 규범통제소송은
아니기는 하지만 독일 ｢행정법원법｣(VGO)상의 규범통제소송 제도 등을 모델로 하여 우리
｢행정소송법｣을 개정하는 방안이 제기된 바 있으므로,81) 이를 참고하여 알고리즘에 대한
재판상 통제하는 방안도 생각할 수 있겠다.
- 사후적 구제수단
인공지능기술을 적용한 행정활동의 위법성 시정 및 당사자등의 권익 보호를 위하여 사후
적 구제수단 역시 정비할 필요가 있다고 하겠다. 이를 종류별로 구분하여 서술하면 아래와
같다.
(1) 처분 등에 대한 이의신청
앞서 본 바와 같이 행정활동에 인공지능기술을 적용하는 경우 대체로 효율성을 제고하기
위한 목적이라는 점에서, 세금부과･각종 수당의 지급과 같이 비교적 업무내용이 단순하면
서도 다량의 처분을 요하는 사안에 집중될 가능성이 크다 하겠다. 이와 같은 사안에 대해
서도 행정소송 등 정식의 쟁송절차를 통하여 구제받도록 할 경우에는 법원 또는 행정심판
80) 임성훈, “인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰”, 행정법이론실무
학회, 행정법연구 62, 2020, 150-151면.
81) 이상덕, “독일 행정법원법에서의 규범통제소송 제도에 관한 고찰- 우리 행정소송법 개정 논의에 주
는 시사점을 중심으로-”, 행정법이론실무학회, 행정법연구 32, 2012.4., 115-116면 139-141면. 특 히 인공지능기술을 적용한 알고리즘의 위법성에 대해서는 다수의 분쟁이 동시에 발생하는 경우가 많으므로, 이때에는 사후적 구제수단으로서 개별분쟁을 한꺼번에 해결하기에 적합하다고 하겠다.
21페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 291
위원회를 통하여 그 부족한 투명성을 확인하고, 이를 다시 공무원들로 하여금 보완하도록
조치하기에는 상당한 시일이 소요될 가능성이 높고, 따라서 조기 구제가 어려워 권리구제
의 실효성이 저하된다는 문제점을 지적할 수 있다.82)
따라서 비교적 간소한 절차를 통하여 신속하게 구제받을 수 있도록 보장하는 것이 바람
직하다. 이때 ｢행정기본법｣ 제36조 등에 따른 이의신청 절차 등을 통하여 인공지능기술 기
반 행정활동이 ① 공무원에 의하여 충분히 감독되었는지 ② 각종 규정에 위반되지 않게 작
동된 것인지 ③ 알고리즘 등의 작동에 있어 안정성이 충분히 보장되는지 ④ 결과적으로 하
자없이 이루어졌는지 여부에 대하여 행정청 스스로 재차 확인할 수 있도록 할 필요가 있다
하겠다. 다만 이의신청의 처리까지도 인공지능에 맡기도록 할 경우에는, 사람에 의한 개입
이 없게 되므로, 행정활동의 투명성이 사후적으로도 보장되기 어렵게 된다. 따라서 최소한
원칙적으로는 이의신청에 따른 조사 및 결과도출까지는 사람인 공무원이 하도록 강제할 필
요성이 있다고 하겠다. 구체적 입법방안으로는 ｢행정기본법｣ 제36조에 제6항을 신설하고
자동적 처분에 대한 이의신청이 제기된 경우 행정청이 이에 대하여 소속 공무원 등으로 하
여금 처분에 대하여 조사하여 그 결과를 통지하도록 규정하는 방안도 생각할 수 있겠다.83)
(2) 행정심판 및 행정소송에 의한 쟁송취소
처분청에 대한 이의신청제도 외에도 인공지능기술에 기반한 행정활동이 그 자체로 위법
한 경우에 전통적인 행정심판 또는 행정소송을 통하여 다툴 수 있겠다. 이때 우리 ｢행정소
송법｣ 및 ｢행정심판법｣에 규정하는 소송유형 및 심판유형에 따라 다툴 수 있는 범위 내지
방식이 제한되는 등 일정한 한계가 있다. 더욱이 법원 등에 의하여 투명성･위법성 하자를
이유로 쟁송취소를 구하기 위해서는 알고리즘의 불명확성으로 인하여 본안에서의 입증책임
문제를 어떻게 할 것인지 남아있다. 먼저 처분 등에 대한 취소소송에서의 입증책임에 관하
여 우리 판례는 그 처분의 적법성은 피고인 행정청이 입증할 책임이 있다고 보고 있다.84)
이 판례의 입장이 그대로 이어진다면, 인공지능기술을 사용한 처분의 경우 –알고리즘의
82) 특히 소액의 금전을 부과하는 처분- 세금, 과태료, 범칙금 등-에 대해서는 정식의 구제절차에 따른
비용이 더 많이 소요되는 문제가 있을 수밖에 없다. 따라서 간이한 구제절차의 필요성이 더욱 크다 하겠다.
83) ｢행정기본법｣상의 이의신청 절차에 관한 규정을 개정한다면, 제6항을 추가하고, 현행 제6항을 제7
항으로 이동하는 방식을 생각할 수 있다. 신설하는 제6항에서는 “제20조에 따른 자동적 처분에 대 하여 당사자가 이의신청을 한 때에는, 행정청은 이에 관하여 소속 공무원 등으로 하여금 처분의 적 법성 등을 심사하도록 하여 그 결과를 통지하여야 한다. 다만, 법령에서 달리 정하는 경우에는 그 러하지 아니하다.”고 하는 규정하는 방안을 제시할 수 있겠다.
84) 대법원 1996. 4. 26 선고 96누1627판결.
22페이지
행정법연구제73호 292
법적 성격에 관한 부분에서 이것을 행정규칙으로 보아야 하는지 등등의 일부 논란이 있기
는 하지만- 알고리즘을 포함한 적법성 입증책임 역시 행정청이 부담한다고 할 수 있다. 즉,
행정청이 알고리즘의 오류로 인하여 (결과적으로) 부적법한 처분이 이루어진 것이 아님을
입증하여야 한다는 것이다. 그러나 이와 같이 알고리즘 자체가 정상적으로 작동하며 그로
인한 오류가 없다는 것을 입증하는 것 역시도 용이하다고 보기는 어렵다. 앞서 간략히 설
명한 알고리즘에 대한 사전 검증절차 등을 통하여 오류가 없었다는 것을 통하여 간접적으
로 증명하는 방안도 가능하다. 즉, 검증절차에서의 결과에서 편향성이 드러나지 않았을 경
우에는 알고리즘에 하자가 존재하고, 그로 인하여 부적법한 처분 등이 이루어진 것은 아니
라고 일응 전제할 수 있다는 것이다.85)86)
(3) 옴부즈만 제도 등에 의한 구제
정식의 행정소송 외에 옴부즈만 제도 등에 의한 구제가능성도 있다. 즉, 국민권익위원회
등에 대한 고충민원(｢국민권익위원회법｣ 제39조)이나 개인정보보호위원회에 대한 분쟁조정
신청(｢개인정보 보호법｣ 제34조) 등을 의미한다. ｢개인정보 보호법｣은 분쟁조정절차(동법
제7장)와 민사소송에 근거한 단체소송에 관한 규정(동법 제8장)을 두고 있다. 우리 ｢개인정
보 보호법｣에 따르면 국가 등 행정주체 역시 공공기관으로서 같이 규율하고 있으므로, 행
정주체가 인공지능을 이용하는 과정에서 개인정보수집, 자동화된 결정 등에 관한 분쟁이
발생하였다면 이에 따른 조정절차 및 단체소송으로 구제될 수 있겠다.
그 외에 앞서 본 바와 같이 유럽에서 여러 사건들을 통하여 사회적 논쟁을 불러 일으킨
인공지능 알고리즘의 편향성 여부 등에 대하여 검증하는 별도의 민관합동조직을 창설하는
방법도 제시될 수 있는데, 이때 알고리즘의 편향성 여부에 대한 분쟁이 발생할 경우 이 위
원회에서 이에 대한 검증･확인 등을 수행하고, 결과에 따라 조정 등을 할 수 있도록 입법
하는 것도 가능하다고 하겠다.87)
85) 다만 처분의 상대방 등 이해관계인들은 이에 대하여 재량하자 등 처분결과의 위법성을 별도로 입
증할 수는 있겠다.
86) EU 인공지능 규정(안)에서는 하이리스크 인공지능 시스템에 대하여 적합성평가 절차에 따라 검증
할 인증기구에 대한 규정을 동 규정안 제33조에 두고 있다. 이에 관하여, 한국법제연구원, EU 인 공지능법안, 한국법제연구원 미래법제전략팀 2021번역자료집, 73-75면.
87) 위 위원회에서는 구제절차를 담당하는 것 외에도 사전에 법령으로 규정하기 어려운 기술안전의 영
역에서 위원회의 결정으로 갈음하도록 하는 등 의사결정을 담당하도록 하는 방안도 제시된다. 이에 관하여, 김환학, 법률유보: “중요성설은 보장행정에서도 타당한가”, 행정법이론실무학회, 행정법연구 40, 2014. 23-24면.
23페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 293
(4) 국가배상
인공지능기술을 사용한 행정활동이 위법한 것으로 확인된다면, ｢국가배상법｣에 따른 행
정상 손해배상책임이 발생할 수 있다. 앞서 기술한 바와 같이, 네덜란드 정부는 2021년 1
월 ‘아동수당사건’(kinderopvangtoeslagaffaire)와 관련하여 아동수당을 부정수급하였던 것으
로 오인받아 불이익을 입은 피해자들에 대하여 손해배상 등의 조치를 취한 바 있다.88) 이
때 행정에 대한 신뢰성 등을 유지하기 위해서라도 행정주체는 인공지능기술에 의한 행정활
동으로 피해를 본 국민 등에 대하여 그 손해를 적극적으로 배상할 필요성이 있다.
그러나 우리의 현행 국가배상 체계에서는 공무원의 고의 또는 과실을 요구하고 있는 바
(｢국가배상법｣ 제2조제1항), 인공지능기술을 사용한 행정에서도 고의 또는 과실이 있어야
하는지 등이 문제가 될 수 있다. 왜냐하면 사람인 공무원과 달리 –최소한 현재의 과학기
술수준에서는- 인공지능 자체가 어떠한 위법한 행위를 하겠다는 ‘고의’를 가질 수 없고, 그
활동 자체에서 ‘과실’을 인정하기도 어렵기 때문이다. 따라서 행정활동의 상대방이 인공지
능의 고의･과실 여부를 입증부담을 질 경우 그 입증이 현실적으로는 극히 어렵다는 것이
다.89)90) 이에 따라 인공지능기술 기반 행정의 위법성으로 인한 국가배상을 인정하기 위해
서는 무엇보다도 ｢국가배상법｣을 개정하여야 할 필요성이 있다 하겠다.
이미 국가배상에서 공무원 개인의 주관적 고의･과실을 요하는 것에 대한 반론이 제기되
고 있다.91) 이는 민사법상의 손해배상책임 제도와 행정법상의 국가배상제도가 일치하지 않
는다는 점을 근거로 하고 있으며, 객관적 위법을 바탕으로 역무과실 내지 공무과실 여부를
따져야 하며, 공무원 개인의 과실여부를 묻지 않아야 한다는 입장이다.92) 나아가 위법성
역시도 피해자의 입장에서 판단되어져야 한다고 주장되고 있는 바, 이와 같은 입장은 손실
보상과 손해배상을 엄격하게 구분하고 있는 현행법제상의 문제점을 지적하고 있는 측면이
있다.93)
88) Heerlen, “Kwijtschelding schulden gedupeerde ouders kinderopvangtoeslagaffaire” (https://www.heerl
en.nl/gemeente-heerlen/kwijtschelding-schulden-gedupeerde-ouders-kinderopvangtoeslagaffaire.html)
89) EUROPEAN COMMISSION, Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT
AND OF THE COUNCIL on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive), 28.9.2022. p.6.
90) 박훈민, 앞의 논문, 71-72면.
91) 朴正勳, “국가배상법의 개혁- 사법적 대위책임에서 공법적 자기책임으로-”, 행정법이론실무학회, 행
정법연구 62, 2020.8., 29-30면.
92) 朴正勳, 앞의 논문, 56-65면.
93) 김민호, “고도과학기술사회에서 국가배상제도의 역할에 관한 연구- 국가배상법 제2조 ｢…법령에 위
반하여｣의 현대적 의미를 중심으로”, 공법연구 27(3), 1999.6., 446-449면.
24페이지
행정법연구제73호 294
이러한 견해들에 따르면, ‘공무수행상의 하자’와 같이 공무원 개인의 주관적인 고의․과실
이 아니라고 하더라도 국가배상을 인정하여야 한다. 이는 그동안 행정의 상대방의 권리구
제확대 측면에서 논하여진 것이지만, 인공지능 행정에서는 더욱 이 견해들의 장점이 부각
된다 하겠다. 즉, 현행 국가배상법의 조문으로는 -민사법에서의 손해배상 책임과 같이- 공
무원 개인의 고의․과실에 얽매이게 되는데, 별도의 의지를 가지지 않는 인공지능에서는 불
법행위책임을 묻기가 어려운 점을 극복하는 측면에서도 유용하다는 것이다.
물론 EU의 ｢인공지능의 민사책임에 관한 지침｣(AI Liability Directive)은 기본적으로 민
사관계에 적용되는 지침으로서 정부 등의 행정활동까지 완전히 포괄하지는 않을 수 있다.
그럼에도 불구하고 동 지침에서 피해자가 상대방의 고의․과실 여부에 대한 입증책임을 경
감하는 방향을 지향하고 있다는 점은 향후 인공지능기술 적용 행정활동에 관한 우리 법제
정비에서도 시사하는 바가 크다고 하겠다.94)
Ⅴ. 앞으로의 전망
｢행정기본법｣ 제정 이후 국내에서도 인공지능기술을 행정에 적용하였을 때의 법적 문제
에 대한 관심이 고조되고 있는 것으로 보인다. 이와 같은 기술 적용이 행정의 효율성을 제
고하기 위한 방향에서 추진되고 있으나, 개별법령에서 인공지능기술 적용에 관한 규정을
둔 예가 그리 많지 아니한 않은 것으로 보이며, 특히 일부 영역에 제한하도록 하고 있어
그 적용 여부가 아직 국내에서는 큰 논쟁이 되지는 못하고 있다 하겠다.
그러나 앞으로 인공지능기술을 보다 광범위하게 행정활동에 적용하고자 하는 경우 이에
대한 법적 쟁점들이 보다 전면에 등장하게 될 것으로 보인다. 우리의 법제가 행정활동에
대한 인공지능기술의 확대된 적용에 대비하고 있는지 여부에 대해서는 회의적인 입장을 취
할 수밖에 없다. 인공지능기술의 적용에 관한 실정법상의 근거가 아직 충분하지 않다는 점
외에도. 인공지능기술을 적용하였을 때 행정활동의 투명성 등 일반적인 원칙에 부합하기
어려운 점을 극복하기 위한 제도적인 수단, 그리고 인공지능기술 기반 행정활동이 위법한
경우 이를 사전에 방지하고 또한 사후적으로 이를 시정하도록 하는 체계 역시도 구축되지
못하였기 때문이다. 최근 ｢개인정보 보호법｣에서 자동화된 시스템에 의한 행정결정에 대한
94) EUROPEAN COMMISSION, Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT
AND OF THE COUNCIL on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive), 28.9.2022. pp. 6-24.
25페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 295
규정이 추가되기도 하였으므로, ｢행정기본법｣을 비롯한 주요 법령의 제도 정비가 시급할
것으로 보이며, 이와 관련하여 외국에서의 인공지능기술 기반 행정작용에 대한 규정 및 사
회적으로 논란이 된 사례들에 대한 검토가 필요하다고 본다.
물론 기존 사람인 공무원이 행하는 행정활동의 투명성과 인공지능기술이 적용된 경우의
투명성은 서로 다른 측면이 있으며, 인공지능 기술의 ‘블랙박스’로서의 특성 등을 감안하면
현실적으로 기존과 같은 투명성을 요구하는 것은 그 자체로 ‘형용모순’이 된다고도 할 수
있겠다. 그럼에도 이 특성을 감안하여 다소 우회적인 방법 및 수단을 통하여서라도 그 투
명성을 확보하여야 행정상대방의 권익을 보호하고, 인공지능기술에 기반한 행정이 위법한
활동을 하는 것을 방지할 수 있는 길이라 본다. 따라서 이에 관한 입법차원에서의 대비 방
안을 마련하기 위한 연구 및 논의가 지속적으로 이루어져야 할 것으로 생각한다.
(투고일: 2024. 03. 05. 심사완료일: 2024. 03. 14. 게재확정일: 2024. 03. 23.)
26페이지
행정법연구제73호 296
참고문헌
- 국내문헌
김민호, “고도과학기술사회에서 국가배상제도의 역할에 관한 연구- 국가배상법 제2조 ｢…법령에 위
반하여｣의 현대적 의미를 중심으로”, 공법연구 27(3), 1999.6.
김민호･김정준, “지식정보사회에서 행정법학의 새로운 패러다임 모색”, 한국비교공법학회, 공법학
연구 8(3), 2007.
김찬희 “인공지능 기반 자동화 행정행위와 민주적 법치국가 원리”, 행정법이론실무학회, 행정법연
구 72, 2023.
김태균, “크롤링을 통한 데이터 수집의 형사책임- 대법원 2022. 5. 12. 선고 2021도1533 판결을 중
심으로”, 서강법률논총 11(3), 2022.
김환학, 법률유보: “중요성설은 보장행정에서도 타당한가”, 행정법이론실무학회, 행정법연구 40,
2014.
김혜진, “알고리듬 행정결정의 법적 쟁점 - 프랑스 대학입학플랫폼(Parcousup)의 사례를 중심으로 -”,
행정법이론실무학회, 행정법연구 제69호, 2022.11.
박소영, “인공지능의 FATE(공정성･책임성･투명성･윤리의식)를 위한 입법 논의 동향과 시사점” 국
회입법조사처 이슈와 논점 제2111호, 2023. 7. 24.
박소현, 형사사법영역에서의 인공지능 활용의 쟁점과 과제, 국회입법조사처 NARS 현안분석 273호,
2022.
朴正勳, 행정법의 체계와 방법론, 박영사, 2005.
朴正勳, “국가배상법의 개혁- 사법적 대위책임에서 공법적 자기책임으로-”, 행정법이론실무학회, 행
정법연구 62, 2020.8.
朴正勳, “行政法과 ‘民主’의 自覺-한국 행정법학의 미래”, 행정법이론실무학회, 행정법연구 53.
2018.5.
박훈민, “전자정부와 자동화된 행정결정에 대한 법도그마틱상 검토필요성 – 독일과 네덜란드에서의
법제와 논의를 중심으로 한 시론”, 행정법이론실무학회, 행정법연구 52호, 2008.2.
법제처, 행정기본법 해설서, 2021.
사단법인 행정법학회, 행정기본법 해설서 연구, 법제처 연구용역보고서, 2021.
오준근, “행정규제의 투명성심사에 관한 행정법적 고찰”, 한국공법학회, 공법연구 25(4), 1997.06.
윤강욱･박훈민, “네덜란드 일반행정법전(Algemene wet bestuursrecht)상의 행정절차에 관한 소고”
행정법이론실무학회, 행정법연구 제50호, 2017.8.
안동인, “국가배상청구소송의 위법성 판단과 객관적 정당성 기준 - 법적 안정성 측면에서의 비판적
고찰”, 행정법이론실무학회, 행정법연구 41, 2015.
이상덕, “독일 행정법원법에서의 규범통제소송 제도에 관한 고찰- 우리 행정소송법 개정 논의에 주
27페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 297
는 시사점을 중심으로-”, 행정법이론실무학회, 행정법연구 32, 2012.4.
이성엽 (편), 데이터와 법, 제2전정판, 박영사, 2024.
이세정 외, AI 본격화에 따른 경제･사회제도 선제적 마련 연구, 한국법제연구원, 국민경제자문회
의 연구용역보고서, 2019.
임성훈, “인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰”, 행정법이론실무
학회, 행정법연구 62, 2020.
정준화･박소영, 데이터 거래 활성화를 위한 거래소･거래서･크롤링의 현황과 개선과제, 국회입법조사
처 NARS 현안분석 254호, 2022
최승필, “공행정에서 AI의 활용과 행정법적 쟁점”, 한국공법학회, 공법연구 49(2), 2020.12.
한국법제연구원, EU 인공지능법안, 한국법제연구원 미래법제전략팀 2021번역자료집.
한국지능정보사회진흥원, 인공지능법제정비단 행정의 투명성 분과 연구반 자료집, 2022(미공간).
- 국외문헌
Bundestag, Drucksache 18/7457, 03.02.2016.
Daniela Stangl, Daten, Algorithmen und technische Diskriminierung: Wie Algorithmen die
Diskriminierung gegenüber Arbeitssuchenden reproduzieren, Sozial Extra(24), 2023. S.
- (https://link.springer.com/article/10.1007/s12054-023-00589-1 에서 내려받음)(최종방문
일: 2023.08.04.)
Digitale Overheid Voor professionals die werken aan digitalisering van de overheid, Dutch policy
brief on AI , public values and human rights. 21. Januari 2020, (https://www.digitaleover
heid.nl/document/dutch-policy-brief-on-ai-public-values-and-human-rights/ 에서 내려받음)
European Commission, Digital Public Administration Factsheet 2021 The Netherlands, (https://joi
nup.ec.europa.eu/sites/default/files/inline-files/DPA_Factsheets_2021_Netherlands_vFinal.pdf
에서 내려받음)(최종방문일: 2023.7.31.)
European Commission, “Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT A
ND OF THE COUNCILLAYING DOWN HARMONISED RULES ON ARTIFICIAL IN
TELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UN
ION LEGISLATIVE ACTS“ (https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=C
ELEX:52021PC0206) (최종방문일: 2023.08.25.)
European Commission Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND
OF THE COUNCIL on adapting non-contractual civil liability rules to artificial intelligence
(AI Liability Directive), 28.9.2022.
Florent Thouvenin//Nadja Braun Binder, Transparenz durch Datenschutzerklärungen von
Behörden, ZSR 2022 I.
28페이지
행정법연구제73호 298
Helge Rossen-Stadtfeld, Kontollfuntion der Öffentlichkeit- ihre Möglichkeiten und ihre (rechtlich)
Grenzen, (in) Eberhard Schmidt-Aßmann/Wolfgan Hoffman-Riem (hrsg.) Verwaltngskontolle,
Baden-Baden, 2001.
Kopp/Ramsauer, Verwaltungsverfahrengesetz Kommentar, 23.Aufl., 2022.
Jeong Hoon Park, Rechtsfindung im Verwaltungsrecht, Berlin 1999.
Matthias Spielkamp, Internationale Beispiele, (in) Einsatz Künstlicher Intelligenz in der
Verwaltung: rechtliche und ethische Fragen, Schlussbericht vom 28.Februar 2021 zum
Vorprojekt IP6.4, Universität Basel/ Kanton Zürich Staatskanzlei, 2021
Merkus Christen, Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen
Intelligen, TA-SWISS 72/2020.
Nadja Braun Binder, Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische
Fragen, (in) Schlussbericht vom 28.Februar 2021 zum Vorprojekt IP6.4, Universität
Basel/ Kanton Zürich Staatskanzlei, 2021.
Nadja Braun Binder, Automatisierte Entscheidungen: Perspektive Datenschutzrecht und öffentliche
Verwaltung, SZW / RSDA 1/2020.
OECD, Recommendation of the Council on Artificial Intelligence, 2022(https://legalinstruments.oe
cd.org/en/instruments/oecd-legal-0449 에서 내려받음) (최종방문일: 2023. 8. 25.)
Rechtsstandort Hamburg e.V.. Algorithmen und Verwaltungs(gerichtliche)kontrolle, 2018.
Schäfer, Grundsatz der Transparenz des Verwaltungshandelns in Motzke/Pietzcker/Prieß VOB/A
- Aufl. München 2001.
Scheweizerische Eidgenossenschaftum, Der Bundesrat, Leitlinien «Künstliche Intelligenz» für den
Bund - Orientierungsrahmen für den Umgang mit künstlicher Intelligenz in der
Bundesverwaltung, 2020/11.
- 기타자료
개인정보위원회 홈페이지, 보도자료(2023.07.27.자) “개인정보위, 오픈AI에 과태료 부과 및 개선권
고” (https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C0200
10000&nttId=9055) (최종방문일: 2023.07.28.)
법률신문, 강한 기자, 2022.03.23.자 “[인터뷰] 이강섭 법제처장 “행정기본법 시행 1년, 행정법 집행
통일성 높아져”” https://www.lawtimes.co.kr/news/177382 (최종방문일: 2023. 8.24.)
오스트리아 학술원 홈페이지, 과거 프로젝트 2020년 “Der AMS-Algotithmus” ( https://www.oeaw.a
c.at/ita/projekte/der-ams-algorithmus) (최종방문일: 2023. 8. 25.)
오스트리아 연방행정재판소(Bundesverwaltungsgericht), W256 2235360-1/5E 판결 (https://www.ris.
bka.gv.at/Dokumente/Bvwg/BVWGT_20201218_W256_2235360_1_00/BVWGT_20201218_
29페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 299
W256_2235360_1_00.html 참조)(최종방문일: 2023. 8. 25.)
인공지능 신문 2023.07.05.자 이상직, [칼럼] 이상직 변호사, “AI 없는 미래는 없다. 지독하게 살 길
을 찾아야 한다”, (https://www.aitimes.kr/news/articleView.html?idxno=28415) (최종방문일:
2023.7.31.)
AI 타임스 2021. 06.30.자 박유빈 기자, “[세계 속 AI ② 네덜란드]‘정부 AI 준비 지수’ 전 세계 10
위권 AI강소국” (http://www.aitimes.com/news/articleView.html?idxno=138804) (최종방문
일: 2022. 10. 24.)
AlgorithmWatch 홈페이지(https://algorithmwatch.org/en/austrias-employment-agency-ams-rolls-out-di
scriminatory-algorithm/) (최종방문일: 2023. 8. 24.)
Austria Presse Agentur, Paul Tschierske, 24.11.22. “Mann kann night night diskriminieren” (https://
science.apa.at/mehrzumthema/man-kann-nicht-nicht-diskriminieren/) (최종방문일: 2023. 8. 25.)
Bundestag, Drucksache 18/7457, 03.02.2016
Der Standard, Jahannes Kopf, “Ein kritischer Blick auf die AMS-Kritiker” (https://www.derstanda
rd.at/story/2000109032448/ein-kritischer-blick-auf-die-ams-kritiker)(최종방문일: 2023. 8. 24.)
Föderalagentur für Nuklearkotrolle, “Transparenz der Verwaltung”(https://fank.fgov.be/de/fank/trans
parenz-der-verwaltung)(최종방문일: 2023. 8. 2.)
Forbes, “Artificial Intelligence And The End Of Government” Jan 4 2019. (https://www.forbes.co
m/sites/danielaraya/2019/01/04/artificial-intelligence-and-the-end-of-government/?sh=5fc1ff23
719b) (최종방문일: 2023.08.04.)
Future of Life Institute, The AI Act 홈페이지 (https://artificialintelligenceact.eu/context/) (최종방문
일: 2022.12.22.)
Heerlen, “Kwijtschelding schulden gedupeerde ouders kinderopvangtoeslagaffaire” (https://www.he
erlen.nl/gemeente-heerlen/kwijtschelding-schulden-gedupeerde-ouders-kinderopvangtoeslagaff
aire.html) (최종방문일: 2022. 12. 20.)
IEEE Specturum, Pahul Rao, “The Dutch Tax Authority Was Felled by AI—What Comes Next?
European regulation hopes to rein in ill-behaving algorithms”(https://spectrum.ieee.org/artif
icial-intelligence-in-government)(최종방문일: 2022. 12. 20.)
Intel.com “AI in Government Drives Extraordinary”(https://www.intel.com/content/www/us/en/gove
rnment/artificial-intelligence.html)(최종방문일: 2022. 12. 20.)
Nature, 23 Jan. 2024, “Computers make mistakes and AI will make things worse — the law
must recognize that A tragic scandal at the UK Post Office highlights the need for legal
change, especially as organizations embrace artificial intelligence to enhance decision-
making.” (https://www.nature.com/articles/d41586-024-00168-8) (최종방문일: 2024. 2. 1.)
POLITICO, “Dutch scandal serves as a warning for Europe over risks of using algorithms”
30페이지
행정법연구제73호 300
(https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-usi
ng-algorithms/) (최종방문일: 2023. 08. 04.)
The Guardian, “Don’t wait for Post Office-style scandal before regulating AI, ministers told
Government to say binding measures for overseeing artificial intelligence are needed, but
not immediately” (https://www.theguardian.com/technology/2024/feb/06/dont-wait-for-post-
office-style-scandal-before-regulating-ai-ministers-told) (최종방문일: 2024. 3. 5.)
The Scinence Monitor 2019.1.2.자 강승만, “EU ‘신뢰할 수 있는 인공지능’ 가이드라인 발표, “시
민복지” 강조” (http://scimonitors.com/eu-%EC%8B%A0%EB%A2%B0%ED%95%A0-%E
C%88%98-%EC%9E%88%EB%8A%94-%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%
8A%A5-%EA%B0%80%EC%9D%B4%EB%93%9C%EB%9D%BC%EC%9D%B8-%EC%B
4%88%EC%95%88%EC%A0%9C%EC%8B%9C-ai/ (최종방문일: 2023.08.25.)
31페이지
인공지능기술적용행정작용의투명성및적법성보장에관한소고 301
Guarantee for Transparency and Reliability of AI-based
Administrative Activities
Park, Hun-min*
95)
After enactment of General Act on Public Administration, there’s been a growth of
interest to Application of Artificial Intelligence in Public Administrative Field. Despite
limited application of AI by current Statutes, It looks a possibility of wide scale AI-based
Public Administration.
However in some cases of decision making procedure with AI technology in foreign
states show problems of Transparency and Reliability. In Korean, current statutes stand on
basis of human-decision making system, so there is risk of protection for civilians when
AI-Based Administration would be commenced.
Despite of lack of applicable provision of AI based Decision Making in current
individual Acts, thers are requests and predictions of adaption of AI technology to public
field. So present legal system and statutes - General Act on Public Administration,
Administrative Procedures Act, States Compensation Act etc- are in want of total revision.
Key Words: Artificial Intelligence, Artificial Intelligence based Public Administration,
Protection of Persons Right, Control of illegal Public Administration,
General Act on Public Administration
- Assistant Professor, Gangneung-Wonju National University, Dept of Law, Ph.D. in Law