알고리듬 행정결정의 법적 쟁점 - 프랑스 대학입학플랫폼(Parcoursup)의 사례를 중심
원본 파일:
알고리듬 행정결정의 법적 쟁점 - 프랑스 대학입학플랫폼(Parcoursup)의 사례를 중심.pdf
변환 일시: 2026-04-09 22:44
1페이지
사단법인 행정법이론실무학회 행정법연구 제69호 2022년 11월 Korea Administrative Law and Practice Association Administrative Law Journal Vol. 69, November 2022
알고리듬 행정결정의 법적 쟁점
— 프랑스 대학입학플랫폼(Parcoursup)의 사례를 중심으로 —*
1)
김 혜 진**
국문초록
알고리듬 기술의 발전과 더불어 미래의 국가는 거대한 데이터 센터 또는 플랫폼의 형태를
띨 것으로 전망된다. 그 내부와 작동원리가 투명하게 들여다보이지 않는다는 점에서 이 새로운
형태의 국가는 법치국가적 상상력의 한계를 시험하지만, 쉽게 그 편익을 외면하기도 어렵다.
행정기본법은 자동적 처분의 근거를 마련하여 이러한 기술발전을 적극적으로 수용하였다. 대부
분의 처분이 재량행위에 해당하고 향후 기술 발전의 수준을 가늠할 수 없는 상황에서 자동적
처분의 대상을 기속행위에 한정하거나 인공지능의 활용을 부정하는 것은 섣부르다는 실용주의
적 관점에서, 행정기본법은 모든 편익의 가능성을 열어 둔 채 행정의 책임성과 시민의 권리 보
호라는 요청을 충족시킬 수 있는 구체적 규율을 요청한다.
프랑스의 대학입학플랫폼, 특히 파쿠르쉽의 사례와 알고리듬 행정결정에 관한 프랑스의 법제
도는 위 ‘구체적 규율’에 관하여 다음과 같은 점을 시사한다. 우선, 재량행위라 하여 알고리듬
의 활용이 배제되는 것은 아니고, 인공지능의 활용도 마찬가지이다. 다만, 시민의 권리보호 및
행정의 민주성이라는 관점에서 투명성 및 책임성이 확보되어야 한다. 알고리듬을 이용한 행정
결정의 투명성은 알고리듬 자체에 관한 정보를 사전에 일반적으로 상세하게 공개함으로써 상
당 부분 달성 가능하다. 이에 더해 이해관계인의 의견진술 및 행정의 사실조사라는 절차가 보
장될 필요가 있다. 알고리듬에 관한 정보와는 별개로, 자동적 처분에 관한 개별적 이유제시는
행정의 책임성 확보의 차원에서 여전히 유의미하고, 현재 판례에 따라 비자동적 처분에 요구되
는 수준보다 더 실질화되어야 한다. 자동적 처분에 대한 사법통제와는 별도로 알고리듬에 대한
사법통제가 필요하지만, 그 한계를 보완하기 위해서 정보공개 및 전문가에 의한 통제라는 보조
적 수단이 적극적으로 활용되어야 한다.
주제어: 알고리듬 행정결정, 자동적 처분, 인공지능, 투명성, 책임성
- 본 연구는 2022. 10. 22. 행정법이론실무학회 제269회 정기학술발표회에서 같은 제목으로 발표한 원고를 수정･보완한 것이다. 발제의 미진한 부분에 관하여 보완할 부분과 향후 연구 방향에 관하여 알려주신 토론자 이승민 교수님 및 참가자분들에게 이 자리를 빌어 감사의 인사를 올린다. ** 중앙대학교 법학전문대학원 부교수
2페이지
행정법연구 제69호 204
목 차
Ⅰ. 서론
Ⅱ. 알고리듬 행정결정의 실제 - 프랑스 대학입학플랫폼(Parcoursup)의 사례
Ⅲ. 알고리듬 행정결정에 관한 프랑스 법제 분석
Ⅳ. 행정기본법상 ‘자동적 처분’에 관한 시사점
Ⅴ. 결론
Ⅰ. 서론
17세기 토마스 홉스는 공화국 또는 국가라는 리바이어던을 ‘인간을 보호하고 지키기 위
해 태어난 인공적 인간’으로 묘사했다.1) 이는 단순한 은유가 아니라 ‘기계로서의 인간’과
인간을 모방한 ‘자동기계로서의 국가’라는 실제 형상을 전제하는 것으로, 오늘날 법과 과학
과 기술을 결합한 규범적 상상력의 모태가 된다.2) 기계를 모델로 하는 인간 사회의 통치는
이제 알고리듬에 의한 통치로 그 모습을 바꾼다. 알고리듬은 ‘어떤 문제의 해결을 위하여,
입력된 자료를 토대로 하여 원하는 출력을 유도하여 내는 규칙의 집합’으로 정의되는데,3)
일상적으로는 컴퓨터 프로그램 그 자체와 동일시된다. 이미 사회의 전 영역이 그와 같은
의미의 알고리듬의 도움 없이는 기능할 수 없는 수준에 이른 것은 물론이고, 알고리듬이
‘인간으로서의 기계’ 즉, 인공지능4)으로 발전함에 따라 인간은 일정한 영역에서 완전히 대
체 또는 배제되기에 이른다. 챗봇(chatbot), 자율주행, 범죄 및 판결 예측5) 등 인공지능의
1) Thomas Hobbes, Leviathan or The Matter, Forme, and Power of a Commonwealth Ecclesiasticall and Civil(1651), Yale University Press; Reprint edition(Rethinking the Western Tradition), 2010. 2) Alain Supiot, La governance par les nombres – cours au Collège de France(2012-2014), Fayard, pp. 32-33. 3) 국립국어원 표준국어대사전, 검색어 ‘알고리듬’. 출처: https://stdict.korean.go.kr/search/searchResult.d o?pageSize=10&searchKeyword=%EC%95%8C%EA%B3%A0%EB%A6%AC%EC%A6%98 4) ‘인간의 지능이 가지는 학습, 추리, 적응, 논증 따위의 기능을 갖춘 컴퓨터 시스템’을 의미한다. 국 립국어원 표준국어대사전, 출처: https://stdict.korean.go.kr/search/searchResult.do?pageSize=10&search Keyword=%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5 5) 프랑스에서는 2018년부터 판결이 ‘공익데이터’로서 전면 공개됨에 따라, 이를 가공한 이른바 ‘판결 예측’(la justice prédictive) 프로그램이 개발, 활용되고 있다. 판결 예측에 관하여 대체적으로 긍정 적 평가로, Y. Gaudemet, La justice à l’heure des alpgorithmes, À propos de la justice prédictive, in Revue du droit public, n. 2018-3, pp. 651-664 참조. 예상되는 부작용에 관한 상세한 논의로, J.
3페이지
알고리듬 행정결정의 법적 쟁점 205
활용이 일상화된 사회에서, 국가의 부속품으로서 공무원의 존재 가치는 점차 의심받는다.
판단 오류와 감정에 의해 지배되는 인간 공무원이 아니라, 객관적 기계어의 집합인 알고리
듬에 의해 구동되는 국가란, 홉스가 상상했던 것 이상으로 고도화된 ‘리바이어던’일지도 모
른다. 물론 인간이 자신의 피조물에 의해 지배되거나 더 나아가 소멸될 수 있다는 두려움
을 완전히 배제할 수는 없지만,6) 인간의 자의를 배제한, 인간을 위한 효율적이고 강한 국
가라는 근대적 이상의 실현이 눈앞에 다가왔다는 희망을 가질 만하다.7)
이러한 희망에서 행정기본법이 인공지능을 포함한 완전히 자동화된 시스템8)에 의한 처
분(‘자동적 처분’)의 지침9)을 마련한 지 1년여가 지났다. 가장 고도화된 기술 수준의 인공
지능을 포함하여, 알고리듬 자체가 처분을 발령할 수 있는 일반적 가능성이 열린 것인데,
행정의 ‘의사결정’의 핵심이라 할 수 있는 처분에 인간의 개입을 배제한 채 인공지능을 적
용할 수 있다는 입법자의 결정10)은 우려와 기대를 동시에 불러일으켰다. 행정기본법의 단
행 조항만으로 자동적 처분의 합헌성과 타당성이 보장되는가? 그렇지 않다면 자동적 처분
B. Duclercq, Les algorithmes en procès, in Revue Français de droit administratif, n. 2018-1, pp. 137-141 참조. 6) 특히 유발 하라리, 뺷사피엔스뺸, 김영사, 2015, 598면. 7) 2021. 5. 27. 스페인 IE 대학의 혁신 거버넌스 센터는 전 세계 11개국 시민 2769명을 대상으로 ‘유 럽 의회 의원을 인공지능 정치인으로 대체하는 방안’에 대해 설문조사를 실시했다. 이에 대하여 스 페인 66%, 이탈리아 59%, 에스토니아 56%, 중국 75%가 찬성했다. 반면 영국 69%, 네덜란드 56%, 독일 54%, 미국 60%의 응답자가 반대 의사를 표시했다. 출처: https://www.cnbc.com/2021/05/27/eur opeans-want-to-replace-lawmakers-with-ai.htm 8) 완전 자동화된 시스템은 자동화된 전산 시스템과 인공지능 시스템을 아우르는 알고리듬 시스템을 의미한다. 행정기본법안 조문별 제정이유서(2020. 7. 8. 국회 제출) 53면. 본고에서는 우리 행정기본 법의 ‘완전 자동화된 시스템’을 프랑스법의 ‘오로지 자동적으로 처리되는 정보처리’ 또는 ‘완전 자 동적 알고리듬’과 같은 의미로 이해하는 전제에 있음을 밝혀 둔다. 9) 행정기본법 제20조는 ‘법률로 정하는 바에 따라’ 자동적 처분을 할 수 있도록 규정하고 있으므로 위 조항 자체가 자동적 처분의 직접적 근거가 되는 것은 아니고 입법지침을 정한 것에 불과하다. 박재윤, 행정기본법 제정의 성과와 과제 — 처분 관련 규정들을 중심으로 —, 뺷행정법연구뺸제65호, 2021, 15-16면 참조.
10) 의사결정을 핵심적 요소로 하는 행정행위 또는 처분의 개념에 비추어, 완전히 자동화된 시스템에 의해 발급되는 행정결정이 과연 행정행위 또는 처분이라고 볼 수 있을지 문제 된다. 완전히 자동화 된 시스템을 선택, 설계하는 것에는 행정의 의지적 작용이 개입하지만, 그 시스템에 따라 발급되는 행정결정에는 아무런 의사결정이 개입하지 않기 때문이다. 독일에서는 독일연방행정절차법 제35조a 의 입법과정에서 ‘완전히 자동화된 행정행위’(Vollständig automatisierter Verwaltungsakt)의 발급을 명문화함으로써 위 문제를 입법적으로 해결하였다고 이해된다. 프랑스에서도 유사한 논의가 있었지 만, 입법자가 알고리듬에 근거한 결정을 ‘개별적 행정결정’(la décision administrative individuelle)으 로 명명함으로써 이 문제는 해결되었다. 우리나라에서도 행정기본법 제20조의 제정에 따라 의사적 요소를 제거한 처분이 인정됨에 따라 처분 개념이 입법적으로 확장되었다고 보는 것이 자연스럽다. 같은 취지로 권은정, 자동적 처분의 행정법적 제문제, 뺷한양대학교 법학논총뺸제38권 제3호, 2021, 92면 참조.
4페이지
행정법연구 제69호 206
에 관하여 적용되는 절차적･실체적 법원칙 및 기타 개별 규정은 무엇인가? 자동적으로 행
해지는 재량처분11)의 가능성을 원칙적으로 배제하면서 인공지능에 의한 처분을 허용하는
것은 모순이 아닌가? 다른 법률로 인공지능에 의한 재량처분을 허용할 수 있다면, 그 요건
은 무엇인가? 그 외에도 자동화된 시스템 자체, 자동적 처분에 대한 통제 방법 등이 학계
의 논의에 맡겨져 있다.12)
한편, 식품의약품안전처는 2023년부터 인공지능에 의한 식품수입신고 절차를 순차로 실
시하는 것을 목표로 관련 시스템을 개발, 구축하는 동시에,13) 2022. 11. 2. 뺷수입식품안전
관리 특별법 개정안뺸을 국회에 제출하였다.14) 자동적 처분에 관한 최초의 개별 법률상 근
거가 될 위 개정안 제20조의2는 ‘수입신고 수리의 자동화’라는 표제 하에, 제1항에서 “국
민건강에 미치는 위해 우려가 낮고 반복적으로 수입되는 수입식품 등의 수입신고는 ｢행정
기본법｣ 제20조에 따라 제39조의2의 수입식품통합정보시스템에 의하여 완전히 자동화된
방식으로 수리할 수 있다.”고 규정하고, 제2항에서 “제1항에 따라 자동화된 방식으로 수리
하는 수입신고의 대상 및 절차 등에 관한 세부적인 사항은 총리령으로 정”하도록 규정한
다. 많게는 수백 장의 신고서를 공무원이 개별적으로 검토하는 데서 발생하는 오류나 절차
지연 등의 문제가 인공지능을 통해 혁신적으로 개선될 것이라는 공감대가 형성되어 있다는
점에서, 위 개정안에 따른 자동적 처분의 실행은 시기의 문제에 지나지 않는다고 보인
다.15) 다만, 위 개정안이 현재까지의 자동적 처분에 관한 일반적인 학계의 논의를 충분히
반영하고 있는지 의문이고,16) 구체적인 영역에서 자동적 처분의 규율 요건에 관한 논의는
11) 행정기본법 제20조 단서에 의해 자동적 처분의 가능성이 원칙적으로 부정되는 영역에서 개별법에 의해 예외적으로 행해지는 자동적 처분을 ‘자동적 재량행위’로 명명할 수도 있다. 유동훈, 자동적 재량행위 가능성에 관한 시론적 연구, 뺷법제뺸제697권, 2022. 6., 77-107면 참조.
12) 이러한 상황은 입법과정에서 충분히 예상되었고 어느 정도는 의도된 것으로 보인다. 행정기본법 조 문별 해설, 제20조, 법제처, 2021, 81-82면 참조.
13) 식품의약품안전처 2022. 10. 11. 홈페이지 게시 뺷수입식품검사24뺸안내. 출처: https://impfood.mfds. go.kr/CFBCC02F02/getCntntsDetail?cntntsSn=489729&cntntsMngId=00005 머니투데이 2022. 3. 28. 기사 뺷“이 식품 수입 안 됩니다”... 사람 대신 AI가 결정한다뺸출처: https: //news.mt.co.kr/mtview.php?no=2022032213402626766&type=1
14) 국회의안정보시스템, 출처: http://likms.assembly.go.kr/bill/billDetail.do?billId=ARC_E2N2K1T1C0C2 T1A8Y1B4I5Z6P4Q9W0
15) 위 개정안은 ‘빠르게 증가하는 식품 등의 수입에 효과적으로 대응’하기 위한 것이라는 간략한 입법 이유를 제시하고 있을 뿐이다.
16) 특히, 수입식품 등 수입신고수리의 법적 성격이 개정안 자체로 명확하지 않다는 점, ‘국민건강에 미 치는 위해 우려가 낮고 반복적으로 수입되는’ 수입신고의 분류에 관한 인간의 개입이 불가피하므로 전체적으로 절차를 파악하면 수입신고수리가 ‘완전’ 자동화된다고 단정하기 어렵다는 점, 행정절차 법의 적용 또는 비적용에 관한 특별규정 및 자동적 시스템에 해당하는 수입식품통합정보시스템의 공개･통제 방안에 관한 고려가 전혀 없다는 점 등이 문제 된다. 위 개정안의 법적 문제에 관한 검
5페이지
알고리듬 행정결정의 법적 쟁점 207
이제 갓 시작되었기 때문에,17) 위 개정안을 계기로 자동적 처분에 관한 행정법학의 논의가
더욱 심화되어야 할 것으로 보인다.
이처럼 자동적 처분에 관한 일반법적, 개별법적 쟁점이 동시에 논의되는 상황에서 구체
적 사례 연구의 필요는 더욱 강조될 수밖에 없다. 특히 프랑스는 - 독일과는 달리 - 재량행
위에 대한 알고리듬의 적용 및 인공지능의 활용 가능성을 일반적 차원에서 부정하지 않을
뿐만 아니라, 유럽연합의 일반데이터보호규정(이하 ‘GDPR’)의 영향 아래 개인정보보호 및
공공정보공개라는 이중적 차원에서 알고리듬 행정결정의 투명성을 높은 수준으로 보장하는
국가 중 하나이다. 실제 공공영역에서 대중을 상대로 알고리듬을 활용하는 데 있어서 프랑
스 정부는 상당히 과감한 태도를 보인다. 파리 시(市) 고등학교 입학플랫폼(Affelnet), 실업
급여 등 신청(Pôle d’emploi), 지방자치단체의 공공서비스에 관한 결정18) 등에서 알고리듬
이 활용되고 있고,19) 공･사법 분야를 아우르는 디지털 정보에 관한 별도의 정부 사이트
(guides.etalab.gouv.fr; 이하 ‘Etalab’)에서 위와 같은 공공 알고리듬이 공개되고 있다.
프랑스에서 알고리듬 행정결정에 관한 주요한 법적 쟁점은 가장 대표적인 알고리듬 행정
결정 사례인 대학입학플랫폼 운영 과정에서 대두되었고, 그 해결 방안과 한계가 동시에 명
료하게 드러나기도 하였다. 이에 본고에서는 대학입학플랫폼의 운영 실제를 소개하고 이를
바탕으로 알고리듬 행정결정에 관한 프랑스 법제를 분석한다. 알고리듬 행정결정에 관한
법적 문제를 포괄적으로 다루기보다는 특히 대학입학플랫폼의 운영에서 문제 되었던 투명
성과 설명 가능성, 알고리듬 운영주체의 책임성이라는 법원칙의 구체적 내용과 그 한계를
살펴봄으로써, 우리 행정기본법상의 자동적 처분에 적용되는 일반법적 내용과 개별법에 특
히 요구되는 사항을 구체화하기로 한다.
토는 추후의 연구과제로 삼기로 한다.
17) 이에 관한 본격적인 연구로, 김중권, 인공지능시대에 자동화에 적합한 입법의 문제 ― 독일에서의 논의를 중심으로 ―, 뺷공법연구뺸제50권 제3호, 한국공법학회, 2022, 189-212면; 김중권, 인공지능 (지능형) 시스템의 도입을 위한 법적 규율의 문제, 뺷공법학연구뺸제22권 제1호, 한국비교공법학회, 2021, 263-292면; 이재훈, 법률을 통한 자동적 처분 규율에 대한 고찰, 뺷법제뺸제697권, 2022. 6. 109-148면 참조. 위 논문은 특히 독일의 배터리법(Batteriegesetz)을 소재로 하여 개별법상 완전 자 동화된 행정행위의 규율에 관해 논하고 있다.
18) 낭트 광역시(市), 앙티브 쥘-르-팽 시(市) 등이 Etalab에 언급되어 있다. 특히 낭트 광역시는 사회연대 적 관점에서 교통요금 및 수도요금을 책정하는 기술적 방식으로 알고리듬에 의한 자동적 결정을 행 하고 있는데, 그 세부적 판단 변수(파라미터), 프로그램 도표, 소스 코드를 시 홈페이지에 게시한다.
19) 그 외에 프랑스에서도 독일 연방조세법전 제155조가 규정하고 있는 것과 거의 유사한 형태로 (불 완전한) 자동적 과세처분이 행해지고 있으나, 그 알고리듬이 공개되어 있지는 않은 것으로 보인다.
6페이지
행정법연구 제69호 208
Ⅱ. 알고리듬 행정결정의 실제 - 프랑스 대학입학플랫폼20)(Parcoursup)의 사례
- 대학입학 결정 방식의 변천과 실패
프랑스 국립대학의 입학은 널리 알려진 바와 같이 고등교육에 대한 평등한 기회를 제공
하고자 하는 교육 철학에 기반을 두고 있으므로, 원칙적으로 선발제가 아니다.21) 따라서
일부 대학 또는 학과에 정원 외 지원자가 발생하는 경우 평등 원칙에 근거하여 추첨이 실
시되고 있었다. 그런데 교육부는 2009년 ‘바칼로레아 시험 후 입학’으로 직역할 수 있는
‘Adminission Post-Bac’(약칭 APB) 시스템을 개발하고, 고교 졸업 예정자가 순위를 지정하
여 위 시스템을 통해 대학에 지원하면 학생의 선호 전공, 지정 순위 및 가족의 거주지라는
세 가지 요소를 기준으로 형성된 알고리듬이 완전 자동화된 방식으로 입학 여부를 결정하
도록 하였다. 지원자 측의 복잡･다양한 요소를 대학의 인력이 스스로 판단하는 업무 부담
을 덜고, 효율적으로 지원자를 배정하기 위해 대학 측이 입학 여부 결정에 전혀 관여하지
않도록 자동화된 시스템을 개발･운영한 것이다. 구체적인 내용은 알려진 바 없지만, APB
는 머신-러닝에 의한 인공지능이 아니라 사전에 결정된 기준에 따르는 완전히 자동화된 알
고리듬으로 이해되고 있고,22) 특히 서로에 대한 선호를 가진 집단 간 안정적 매칭을 찾아
내는 알고리듬인 ‘게일-섀플리 알고리듬’(Gale-Shapley Algorithm)의 일종으로 추측된다.23)
APB 시스템에서도 동등한 조건의 정원 외 지원자가 발생할 수 있다. 교육부는 이 경우
추가적인 요소를 고려하여 지원자를 분류한다고 밝혀왔고, 2017년에는 훈령을 통해 학생
선별의 가능성을 공식화하기에 이른다.24) 그런데 2016년 7월에 경제학자 토마 피케티가 일
20) ‘Parcoursup’은 프랑스 교육부가 운영하는 국립･사립 대학 입학 홈페이지의 명칭이자, 교육법령이 명문으로 ‘플랫폼’(Platforme)으로 명명한 시스템이다(L’article D. 612-1 du Code de l’Education). 여기에는 지원자와 해당 대학을 연결해주는 알고리듬과 개별 대학이 합격자를 결정하는데 관련된 알고리듬이 포함된다. 프랑스법은 지원자와 대학을 ‘연결’해주는 전자의 알고리듬을 강조하여 이를 플랫폼으로 명명하고 있지만, 합격자를 ‘결정’한다는 후자의 알고리듬을 강조하면 ‘입학결정(l’affect ation) 시스템’으로 보는 것이 타당하다. 본고는 프랑스 실정법상의 용례에 따라 APB와 Parcoursup 모두 대학입학‘플랫폼’으로 번역하되, 자동적 처분과 관련하여 위 플랫폼의 입학‘결정시스템’으로서 의 측면만을 다루고자 한다.
21) 고등교육의 비선발 원칙은 1984년 1월 26일자 법률로 명시되어 교육법전에 통합되어 있다. L’article L. 612-3, D. 612-9 du code de l’éducation 참조.
22) Danièle Borcier/Primavera de Filippi, Les algorithes sont-ils devenus le langage ordinaire de ladministration?, in 뺷Lectures critiques du Code des Reclations entre le public et l’administration뺸, LGDJ, 2018, p. 204.
23) 게일-섀플리 알고리듬은 미국에서도 2003년 뉴욕시 공립학교 배정 프로그램에 활용된 바 있다.
24) Circulaire 2017-n.077 du 24 avr. 2017.
7페이지
알고리듬 행정결정의 법적 쟁점 209
간지 르몽드에 기고25)한 분석에 따라, APB가 사실상 등록금 납부 능력 등을 고려하는 차
별적 알고리듬에 의해 운영되고 있다는 합리적 의심이 확산되고 있었을 뿐만 아니라, 선별
의 가능성 자체가 고등교육의 평등 원칙에 정면으로 위반되는 것이었기 때문에,26) 사회적
으로 큰 논란이 야기되었다. 이에 ‘고등학생의 권리’라는 단체가 APB 알고리듬의 기준을
공개할 것을 교육부 장관에게 신청하였는데, 위 알고리듬이 공개대상인 행정정보에 해당한
다고 판단한 정보공개위원회(Commission d'accès aux documents administratifs; CADA)의
권고27)에 따라 교육부 장관은 2016년 10월 APB의 소스 코드(source code)28)를 위 단체에
공개했다. 그런데 숫자 등 일련의 텍스트가 몇 장의 종이에 인쇄된 형태로 정보가 제공된
까닭에, 전문가가 아닌 일반 시민의 입장에서 과연 정보를 해독해 낼 수 있는지 여부가 다
시 논란이 되었다.29)
논란이 계속되자, 정보자유위원회(Commission Nationale de l'Informatique et des
Libertes; CNIL)는 2017. 8. 30. APB 시스템에 인간의 개입을 제도화함과 동시에 알고리듬
의 투명성을 확보할 것을 요구했다.30) 당시 시행 중이던 정보자유법(Loi n° 78-17 du 6
janvier 1978 relative à l'informatique, aux fichiers et aux libertés) 제10조 제2항은 개인을
식별하거나 평가할 수 있는 정보를 자동적으로 처리하는 데 ‘전적으로’ 의존하는 법적 결
정을 전면 금지하고 있었기 때문에,31) 대학입학결정에 완전히 자동화된 알고리듬을 활용할
25) 원문 출처: https://www.lemonde.fr/blog/piketty/2016/07/12/the-apb-scandal/ 위 글에서 피케티는 특히 고등학교 입학플랫폼인 Affelnet이 사회적 배려 등 학교배정에 고려되는 요소를 거의 완전한 형태 로 공개하고 있다는 점을 들어, 오히려 ‘알고리듬 블랙박스’를 열어 선별의 기준을 적극적으로 공 개하는 것이 국립대학을 비롯한 공교육의 사회적 가치를 공고히 하는 길이라고 주장했다.
26) Samir Merabet, Vers un droit de l’intelligence artficille, Nouvelle Bibliothèque de Theses vol. 197, Dalloz, 2020, p. 276. 실제로 2016년에 상당수 지방행정법원이 APB에 따른 지원자 선별에 법적 근거가 없다는 이유로 입학거부결정을 위법하다고 판결하였다. Danièle Borcier/Primavera de Filippi, op, cit, p. 204; 관련 기사 https://www.lemonde.fr/campus/article/2017/09/29/la-cnil-remet-en-cause-le- fonctionnement-de-la-plate-forme-apb_5193207_4401467.html 참조.
27) CADA, avis n. 20161989, 23 juin 2016.
28) 컴퓨터 소프트웨어를 개발하는 경우에 그 동작의 모든 것을 기록해 놓은 것이다. 원시코드라고도 한다. 보통 인간이 읽고 쓸 수 있는 텍스트파일의 형식으로 보존된다. 출처: 두산백과 두피디아, htt ps://terms.naver.com/entry.naver?docId=1227904&cid=40942&categoryId=32837
29) Danièle Borcier/Primavera de Filippi, op, cit, pp. 201-201; Samir Merabet, op. cit., p. 335.
30) CNIL Décision 2017-053 du 30 août 2017.
31) 원문은 다음과 같다: “Aucune autre décision produisant des effets juridiques à l'égard d'une personne ne peut être prise sur le seul fondement d'un traitement automatisé de données destiné à définir le profil de l'intéressé ou à évaluer certains aspects de sa personnalité.” 다만, 동조 제3항은 계약의 체결, 집행에 사용하거나, 이해관계인이 결정에 의견을 제출할 수 있는 경우는 완전히 자동 화된 결정으로 보지 않는다고 하여, 두 가지 예외를 인정한다.
8페이지
행정법연구 제69호 210
근거가 없고, 자동화된 결정에 관하여 정보주체의 권리를 더 두텁게 보장하여야 한다는 것
이 주된 이유였다.
- ‘파쿠르쉽’(Parcoursup)의 등장과 그 한계
정보자유위원회의 결정에 따라 대학입학제도가 전면적으로 개혁되었는데, 2018년에 ‘파
쿠르쉽’(Parcoursup)32)이라 불리는 대학입학플랫폼을 통한 입학전형 방식이 도입되었다. 대
학･학과마다 다른 등록 서류를 참고하여 개별적으로 학생의 입학허가를 진행하기 때문에,
대학은 파쿠르쉽을 통해 대학입학 지원과 관련된 모든 정보를 제공한다. 지원자는 위 정보
를 참고하여 희망 대학의 순위를 입력하고, 관련되는 서류를 대학별로 별도로 송부하는 대
신에 파쿠르쉽 시스템에 일괄하여 등록한다. 등록서류에 미비가 있거나 추가서류가 필요한
경우, 면접 또는 필기 시험이 필요한 경우 파쿠르쉽 시스템을 통해 지원자에게 통지된다.
대학별로 각기 다른 내용의 자기소개서, 진학계획서, 추천서 등의 서류를 요구하고 이를 평
가하여 입학허가 여부를 결정･통지하기 때문에, 고등교육의 비선발제 원칙에도 불구하고
‘선발’ 개념이 부분적으로 공식화되었다고 할 수 있고,33) 국립대학 입학결정의 재량결정(la
décision discrétionnaire)으로서의 성격도 분명해졌다.
위 입학플랫폼의 특징은 국립대학 입학결정이라는 재량적 행정결정을 국가적 차원의 통
일적 알고리듬 및 각 대학 차원의 개별적 알고리듬에 의하도록 하고 있다는 점이다. 그러
나 APB와 마찬가지로34) 파쿠르쉽의 알고리듬은 공개되지 않고 있는데,35) APB에 관한 사
32) https://www.parcoursup.fr/ 위 시스템은 국립대학 외에도 사립대학의 입학에 관하여도 규율하지만, 대상이 되는 대부분 대학이 국립대학이라는 점, 알고리듬에 의한 ‘행정결정’이라는 논의의 주제를 감안하여 국립대학의 배정시스템에 관하여만 소개한다.
33) Commentaire sur Décision n° 2020-834 QPC du 3 avril 2020 p. 2. (출처: https://www.conseil-cons titutionnel.fr/decision/2020/2020834QPC.htm)
34) Etalab은 2017년 연구보고서에서 APB 소스 코드를 공개하고 이를 대중이 재이용할 수 있도록 권 고하였지만, 이는 실현되지 못했다. Les conditions d'ouverture du système Admission Post-Bac", rapport au Secrétaire d'Etat en charge de l'enseignement supérieur et de la recherche", mision Etalab, avril 2017.
35) 따라서 알고리듬이 어느 범위까지 입학결정에 관여하는지 여부도 알 수 없다. 즉, 서류 평가 단계 에서부터 최종 입학 결정까지 전면적으로 알고리듬이 활용되는 것인지, 서류 평가 및 기타 전형 요 소에 대한 개별적인 평가 이후 단계부터 알고리듬이 활용되는 것인지 여부가 명확하지 않다. 특히, 인권옹호관(Le Défenseur des droits; 우리나라의 국가인권위원회와 유사한 기능을 하는 독립행정청) 의 보고서(출처: https://www.vie-publique.fr/sites/default/files/rapport/pdf/194000051.pdf)에 따르면, 파 쿠르쉽의 개별적 알고리듬은 각 지원자의 정보가 정리된 엑셀 파일에 불과하다고 하지만, 국사원은 개별적 알고리듬의 내용 및 입학결정에의 관여도 등에 관하여 전혀 판단하지 않은 채 후술하는 바 와 같이 교육법 조항에 따라 해당 알고리듬의 비공개가 정당하다고 형식적으로 판단하였을 뿐이다.
9페이지
알고리듬 행정결정의 법적 쟁점 211
회적 논란을 겪은 직후 정부는 교육법을 개정하여, 《각 대학의 결정에 관하여 그 지원자의
신청에 의하여 지원자를 심사하는 기준 및 방식, 나아가 결정을 정당화하는 교육적 사유가
제시된 경우, 알고리듬에 의한 자동적 결정에 적용되는 행정절차법(Code des Relations entre
le public et l’administration)상의 투명성 원칙36)이 충족된 것으로 본다》는 특별 규정을
마련하였기 때문이다(교육법 제 L. 612-3 제2항). 위 교육법 조항에 따른 이유제시는 파쿠
르쉽에 이미 개괄적으로 공개된 정보를 되풀이하는 형식적인 것에 지나지 않기 때문에,37)
실질적으로는 파쿠르쉽의 개별적 알고리듬 공개를 회피할 의도로 일반법의 적용을 배제하
는 특별법이 제정된 것이라고 평가할 수 있다.38)
여전히 성별, 출신고등학교 등 개인정보가 각 대학 차원의 알고리듬을 통해 간접적인 차
별 요소로 활용되고 있다는 의혹이 제기되자, ‘프랑스 대학생 연합’은 두 개의 대학에 파쿠
르쉽 시스템에 사용되는 각 대학의 알고리듬을 공공정보로서 공개해 줄 것을 청구하였고,
위 교육법 조항을 근거로 거부결정을 받자 취소소송을 제기하였다. 하급심인 과달루페 법
원은 2020. 2. 14. 각 대학별 알고리듬이 개별 지원자들의 정성적 평가 그 자체에 관한 것
이 아니고, 지원자를 분류하는 성격(지표)에 관한 것에 불과하므로, 교육법이 비공개하고자
하는 내용이 아니라고 하여 위 청구를 인용하였다. 상급심인 국사원은 과달루페 법원의 판
결을 파기하여야 하는지 여부에 관하여 판단하기에 앞서 교육법 제 L. 612-3 제2항에 대한
위헌법률심판제청신청을 받아들였고, 이에 따라 헌법재판소는 위 교육법 조항이 ‘헌법이
보장한 권리와 자유’를 침해하는지 여부를 심사했다.39) 우선 헌법재판소는 ‘공공정보에 대
한 접근권’(le droit d'accès aux documents administratifs)을 1789년 인간과 시민의 권리선
언 제15조40)에 근거하여 인정되는 헌법상 권리로서 최초로 선언하고,41) 교육법 제 L.
36) 이에 관하여는 Ⅲ.에서 후술한다.
37) 입학 거부결정에 관한 이유제시의 실제 모습은 사실상 의미 없는 수준으로 평가된다. Léo Griffaton- Sonnet, Enfin! La consécration du droit d’accès aux documents administratis, Chronique sur Décision n. 2020-834 QPC du 3 avr. 2020, in 뺷Revue française de droit constitutionnel뺸, n. 123, 2020, p. 697. (note. 77)
38) Samir Merabet, op. cit., p. 336.
39) CC Décision n. 2020-834 QPC du 3 avr. 2020.
40) 제15조 사회는 모든 공직자에게 그 행정에 관한 보고를 요구할 권리를 갖는다.
41) ‘공공정보에 대한 접근권’은 국내 문헌에서 초기에 ‘(공공기관에 대한) 액세스권’ 또는 ‘알 권리’의 일종으로 소개되었고(성낙인, 정보공개법의 시행과 문제점에 관한 고찰, 뺷서울대학교 법학뺸, 43권 제3호, 2001, 47-82), 현재는 정보공개청구권으로 받아들여진다(정재황, 뺷정보공개법제에 관한 비교 법적 연구 - 프랑스 -뺸, 법제연구원 연구보고서, 2015). 종래 국사원은 공공정보에 대한 접근권을 ‘공적 자유의 행사를 위한 보장수단’으로 보고, 이를 법률로써 정해야 하는 사항으로 판결한 바 있 지만(CE 29 avr. 2002, Ullmann), 그 자체가 헌법상 권리인지 여부는 헌법재판소의 침묵 속에서 의 문시 되고 있었다. 그로부터 18년이 지나서야 위 파쿠르쉽 결정을 통해, 다시 말해 알고리듬 행정
10페이지
행정법연구 제69호 212
612-3 제2항에 따른 공공정보에 대한 접근권에 대한 제한은 비례성을 충족한다고 판단하였
다. 위 조항은 고등교육기관의 교육적 심의의 비밀이라는 공익적 목적을 위한 것이고, 평가
과정에서 인간의 작업이 개입하기 때문에 입학 여부 결정이 전적으로 알고리듬에 의존하는
것은 아니며, 지원자들은 결정 이전에 이미 입학여부 결정 기준 등에 관한 충분한 정보를
얻고, 결정 이후에는 신청에 따라 개별적으로 이유를 고지받는다는 점을 논거로 한다. 위
결정에 따라, 국사원은 교육법 조항에 근거한 알고리듬 비공개결정이 정당하다는 이유로
과달루페 법원의 판결을 취소하였다.42)
그러나 헌법재판소의 결정에 대해서는 비판적인 견해가 우세하다. 실제 각 대학은 입학
사정기준을 알고리듬 형태로 사전에 결정해 두고, 사실상 예외 없이 알고리듬에 의해 자동
적으로 합격자를 결정하고 있다고 한다. 따라서 공개될 경우 교육적 판단의 독립성을 저해
할만한 개별적인 평가를 위한 심의과정이란 존재하지 않으며,43) 알고리듬 형태로 존재하는
입학사정기준이 훈령이나 지침, 즉 재량준칙으로서 전적으로 적용된다는 것이다.44) 훈령이
나 지침 등이 대외적으로 공표되는 점에 비추어보더라도, 교육법 제 L. 612-3 제2항이 형
식적이고 개별적인 이유제시를 알고리듬 자체의 공개와 동일시한 것은 문제의 소지가 있다
고 한다.45) 반면, 파쿠르쉽의 알고리듬은 인공지능이 아니고, 기술의 발전 속도에 비추어
본다면 비교적 복잡성이 낮은 수준에 머물기 때문에 인간의 개입 가능성이 존재하는 한,
해당 알고리듬에 의존한다고 하여 이를 완전 자동화된 알고리듬 결정이라고 보기는 어렵다
는 분석도 존재한다.46) 이처럼 ‘완전’ 자동화 여부는 알고리듬의 기술적 수준과 인간 개입
의 가능성을 종합적으로 고려해서 평가해야 한다는 입장에 따르면 현재 파쿠르쉽의 알고리
듬은 결정의 보조 역할에 그치는데, 이러한 보조적 알고리듬의 공개 여부는 개별 행정영역
의 특성에 따라 달리 규율될 수 있다는 것이 헌법재판소의 취지라고 볼 여지도 있다. 달리
말하면, 인간이 전적으로 개별 지원자의 특성을 분류하고 평가하는 작업을 행한 경우 교육
결정이 본격화된 시점에서 비로소 정보공개청구권의 헌법적 지위가 명확해졌다고 평가할 수 있다.
42) CE, 12 juin 2019, L'Union nationale des étudiants de France, N° 427916.
43) Conclusion sur CE, janv. 2020, Union nationale des étudiants de France, nos. 433296 et 433297. 국사원 연구관 F. Dieu는 “사실, 대학의 심의과정의 비밀 유지라는 사유는 가장적이고 법적으로 오 류가 있는 정당화 사유라고 할 수 있다.”고 까지 주장하였다.
44) 그러나 헌법재판소는 이미 알고리듬은 행정이 제정하는 법규에 해당한다는 주장을 배척하고 행정의 사전적 결정, 즉 법규와 알고리듬 자체는 구별된다고 설시한 바 있다. CC Décision n° 2018-765 DC du 12 juin 2018(con. 69).
45) Léo Griffaton-Sonnet, op. cit., p. 698.
46) Robin Allen KC and Dee Masters, “FRENCH PARCOURSUP DECISION”, in AI Law Hub, 출 처; https://ai-lawhub.com/2020/04/16/french-parcoursup-decision/
11페이지
알고리듬 행정결정의 법적 쟁점 213
적 심의의 비밀이라는 공익적 목적에 의해 공개되지 않았을 내용이, 일정한 알고리즘의 도
움을 받았다는 이유만으로 공개 대상이 된다는 것은 불균형하다는 것이다. 결국, 알고리듬
행정결정의 투명성 문제가 인간에 의한 행정결정의 투명성 문제와 일응 구별되는 차원에서
논의되면서도, 다른 한편으로 상당 부분 중첩되는 측면이 존재한다는 점이 위 결정을 통해
확인되었다고 평가할 수 있다.
Ⅲ. 알고리듬 행정결정에 관한 프랑스 법제 분석
이상의 사례를 통해 알고리듬 행정결정에 관한 프랑스법의 특징을 개략적으로 파악할 수
있으나, 이를 적용 범위 및 운용 원칙이라는 관점47)에서 체계적으로 분석하면 다음과 같은
내용을 언급할 수 있다.
- 알고리듬 행정결정의 적용 범위
(1) 일반적 적용의 긍정
독일 연방행정절차법 제35조a는 인공지능에 의한 행정행위, 재량이 있는 행위에 대한 완
전 자동화된 행정행위의 가능성을 부정한다.48) 이는 Ⓐ 알고리듬의 기술적 수준(인공지능
의 유무),49) Ⓑ 행정행위의 내용에 대한 개입의 정도(법규에의 기속성 유무), Ⓒ 인간의 개
입 정도(자동화 유무)라는 세 가지 축을 결합하여,50) 결국 ‘사전에 설정된 기준에 의해서만
운용되는 알고리듬이, 법규에 기속되는 정당한 결정을 하도록 예정된 경우’51)만을 ‘완전’
자동화의 전제로 삼는 것이다.
그러나 GDPR은 ‘완전 자동화된 의사결정’과 ‘의사결정의 지원’이라는 Ⓒ기준에 따른 구
47) 그 외에도 알고리듬의 설정 또는 설계 원칙이라는 제3의 관점을 고려해 볼 수 있으나, 이에 관하여 는 주로 문제 되는 중립성은 특히 공공알고리듬에 관하여 프랑스 내에서 지금까지 본격적으로 논 의되지 않았으므로, 본고에서는 논의를 생략하기로 한다.
48) 위 조항의 입법이유에 관하여는 이재훈, 전자동화 행정행위에 관한 연구 – 독일 연방행정절차법 제35조의a 를 중심으로 - 뺷성균관 법학뺸제29권 제3호, 2017, 1243-192면을 참조.
49) 이 점은 해석론에 맡겨져 있으나, 다수설은 인공지능이 전자동화 행정행위의 적용 범위에서 배제되는 것으로 이해한다. 정남철, 인공지능 시대의 도래와 디지털화에 따른 행정자동결정의 법적 쟁점 ― 특 히 행정기본법상 자동적 처분의 문제점을 중심으로 ―, 뺷공법연구뺸제50권 제2호, 2021, 234면.
50) 이를 3차원 도해로 나타내면 다음과 같다(유동훈, 앞의 논문, 88면). 아래 도해의 ⑦부분만이, 독일 연방행정절차법의 ‘완전 자동화된 행정행위’의 영역이 된다.
12페이지
행정법연구 제69호 214
별만 행하고 있고, 전자의 경우 정보주체의 동의가 있거나 계약의 체결･이행을 위해 필요
한 경우, 개인정보주체의 권리와 자유 및 정당한 이익을 보호하기 위한 적절한 조치를 규
정하는 유럽연합 또는 회원국 법률이 허용하는 경우에 한해 제한적으로 허용하는 입장이
다.52) 이에 따라 2018년 이전 프랑스 정보자유법은 완전 자동화된 법적 결정을 원칙적으로
전면 금지하고, 계약의 체결･이행을 위해 필요한 경우 및 이해관계인이 결정에 대하여 의
견을 제출할 수 있는 경우 완전 자동화된 법적 결정으로 보지 아니한다는 두 가지 예외를
인정한다. 종합하면, Ⓐ 및 Ⓑ의 기준을 고려하지 않고, Ⓒ 기준만을 이해관계인의 권리 보
호와 연결하여 가능성의 판단 기준으로 삼는 단순한 입장을 취한다고 평가할 수 있다.
앞서 본 바와 같이 2017년 APB의 적법성이 사회적 논란이 되자, 2018년 ‘디지털 공화
국 법률’(Loi pour une République numérique)의 제정 및 정보자유법의 개정을 통해 알고
리듬 행정결정에 관한 전반적인 개혁이 행해졌다. 그러나 완전 자동화 여부만을 기준으로
그 허용성 및 권리보호 수준을 결정하는 입장에는 변화가 없다. 즉, 디지털 공화국 법률은
‘알고리듬에 근거하여 행해지는 개별 행정결정’을 하는 경우 행정이 이해관계인에게 그 신
청에 따라 일정한 구체적인 정보를 제공하도록 규정하는데, 이는 행정절차법의 정보공개범
위에 관한 부분으로 통합･구체화되었다(L. 311-3-1, R. 311-3-1-1, R. 311-3-1-2. 구체적인
내용은 후술). 더 나아가 행정절차법은 개별 행정결정에 이용되는 공공 알고리듬의 주요한
특징을 이루는 규칙을 이해관계인의 개별 신청 이전에 오픈 데이터 형식으로 공개할 의무
까지도 부여하고 있다(L. 312-1-3). 행정절차법에 따른 ‘알고리듬에 근거하여 행해지는 개
별 행정결정’에는 인공지능을 이용한 것, 재량행위에 관한 것, 알고리듬을 부분적으로 활용
51) Kopp/Ramsauer, VwVfG, §35a, Rn. 9, 13, 19 Aufl.(2018)
52) 권은정, 지능형 미디어 영역의 알 권리에 관한 공법적 고찰— 알고리듬 기반 추천 시스템에 대한 이용자 권익 보장의 관점에서 —, 뺷한양대학교 법학논총뺸제38권 제1호, 2021, 44면.
13페이지
알고리듬 행정결정의 법적 쟁점 215
한 결정 모두가 포함된다.53) 여기서 더 나아가 정보자유법 제47조는 ‘완전 자동화된 행정
결정’이 허용되는 예외를 ‘위 행정절차법에 따른 투명성 원칙이 준수되고, 결정의 이해관계
인에게 그 처리의 상세한 내용을 이해 가능한 형태로 설명할 수 있도록 알고리듬 운영주체
가 알고리듬 처리 방식 및 그 변동에 관한 지배(la maîtrise)를 유지하는 경우’로 제한한다.
요컨대, 프랑스법은 앞서 본 Ⓐ, Ⓑ, Ⓒ의 기준을 적용하지 않고 행정결정에 이용되는 알고
리듬 전체에 대하여 일반･구체적인 정보제공의무를 부여하여 투명성을 보장하고, Ⓒ 기준
에 따라 ‘완전 자동화된 행정결정’에 투명성 및 책임성을 강화할 것을 요구한다고 볼 수
있다. 따라서 어떤 알고리듬 행정결정이 ‘완전’ 자동화 되었는지 여부가 그 적법성 판단 기
준의 결정에 중요한 요소로 등장하지만,54) 알고리듬에 관한 법적 보장의 유무를 가르는 결
정적 기준은 아니다.
한편, 헌법재판소는 위 정보자유법 제47조에 대한 예방적 규범통제절차55)에서, 위 ‘지배’
를 조건으로 하는 이상, 인공지능에 의한 자동화된 행정결정도 허용된다고 하면서, ‘지배’
의 구체적인 의미를 밝히지 않았다. 위 조항의 입법과정에서 제출된 국사원의 의견서56)는,
《그 처리를 중단할 수 있는 능력을 포함한 알고리듬에 대한 완전한 인간적 지배를, 특히
인간의 사전적인 개입 없이 스스로 규칙을 변화시키는 자가 학습 알고리듬(즉, 인공지능)에
대하여 확보할 것》을 요구했다. 그러나 ‘중단’ 이상의 지배, 즉 ‘결정의 이해관계인에게
그 처리의 상세한 내용을 이해 가능한 형태로 설명할 수 있도록’하는 수준의 지배를 인공
지능에 대한 관계에서 어떻게 유지할 수 있을 것인지는 의문이 제기된다.57)
(2) 적용 배제 영역
프랑스법은 알고리듬 행정결정의 일반적 적용 범위를 제한하지 않고 있지만,58) 명시적
53) J. B. Duclercq, L'automatisation algorithmique des décisions administratives individuelles, in Revue du droit public, n. 2019-2, pp. 300-301. Etalab의 가이드에서도 이점을 명확히 밝히고 있다. 출처: https://guides.etalab.gouv.fr/algorithmes/mention/#dans-quels-cas-l-obligation-de-mention-explicite-s-app lique-t-elle
54) 바로 이러한 이유로, 앞서 본 바와 같이 헌법재판소는 파쿠르쉽을 ‘완전 자동화된 행정결정’이 아 니라고 판단한 뒤, 행정절차법상의 투명성 원칙이 적용된다는 전제에서 그 적용 배제를 모색한 것 이다.
55) CC Décision n° 2018-765 DC du 12 juin 2018.
56) CE avis 7 déc. 2017, n. 393836.
57) J. B. Duclercq, op. cit., p. 307.
58) 이를 명시적으로 언급한 문헌으로, Hélène Pauliat, La décision administrative et les algorithmes : une layauté à consacrer, Revue du droit public, n. 2018-3, p. 649.
14페이지
행정법연구 제69호 216
규정에 의해 적용 범위가 세부적으로 제한되고 있다. 우선, 행정절차법이 정하는 알고리듬
에 근거하여 행해지는 행정결정은 ‘개별적’(individuel) 결정이어야 한다. 프랑스법은 행정결
정(la décision administrative) 또는 행정행위(l’acte administratif)의 범주에 행정입법(le
règlement)과 개별적 행정결정(la décision administrative individuelle)을 포괄하고 있다. 따
라서 ‘개별적’ 행정결정에 대하여 행정절차법과 정보자유법의 규정을 적용한다는 것은 반
대 해석상 완전 자동화된 알고리듬에 근거한 행정입법의 발령은 금지되고, 알고리듬을 부
분적으로 활용하여 행정입법이 발령되더라도 해당 알고리듬을 공개하는 등의 투명성 보장
조치를 이행하지 않아도 된다는 것을 의미한다. 이에 관한 구체적인 입법 이유는 찾기 어
렵지만, 행정입법에 부여된 광범위한 재량권과 일회성 때문으로 추측된다. 개별적 행정행위
중에서도 광범위한 재량권이 부여된 것들이 존재하고 스스로 규칙을 형성하는 인공지능을
이러한 재량행위에 활용할 수 있는 점에 비추어 행정입법과 개별적 행정행위의 구별이 무
의미하다는 비판도 존재하지만,59) 입법자는 현재의 사회적･기술적 여건에서 적어도 행정입
법에 대한 인간의 전면적 개입 필요성을 확인한 것이라고 평가할 수 있다.
다른 한편, 행정결정의 내용적 특징에 따라 해석상 알고리듬 행정결정의 적용 범위가 제
한될 수 있는지 문제 된다. 입법자는 대학입학플랫폼, 자동과세결정 프로그램 등과 같은 대
량적, 반복적 결정이 필요하고 재량이 없거나 그 범위가 넓지 않은 행정 영역을 주된 활용
영역으로 상정한 것으로 보이지만, 정보자유법 제47조는 민감정보를 이용한 경우를 제외하
고는 달리 내용적 제한을 두고 있지 않다는 점에서 해석론으로 적용 범위를 내용상 제한할
수는 없을 것이라고 한다.60)
- 알고리듬 행정결정의 운용 원칙
(1) 투명성 원칙
행정입법을 제외한 행정결정 일반에 모든 기술 수준의 알고리듬을 활용할 수 있도록 한
프랑스법의 태도는 – ‘디지털 공화국’으로 상징되는 – 기술의 효용성과 인간의 통제 가
능성에 대한 낙관주의에 기초한 것으로 보인다. 그 연장선상에서, 프랑스법은 GDPR이 요
구한 투명성 원칙을 더 강화하여 규율한다.61) 투명성을 통해 알고리듬 행정결정의 부작용
59) J. B. Duclercq, op. cit., p. 301. 위 글은 또한, 재량권이 넓을수록 이를 해결하기 위한 알고리듬이 복잡해지고 행정은 점차 알고리듬에 대한 지배를 상실하게 되므로 재량행위에 대한 완전 자동적 행정결정을 제한 없이 허용하는 것은 순진한 발상이라고 비판한다. p. 312.
60) J. B. Duclercq, op. cit., p. 301.
61) Samir Merabet, op. cit., p. 331. 이는 일반법 차원에서 투명성 원칙을 규정하지 않고 있는 독일법
15페이지
알고리듬 행정결정의 법적 쟁점 217
을 막고 통제 가능성을 높일 수 있다는 것이다.
GDPR은 자동화된 의사결정의 존재 여부, 이러한 처리 방식에 관련된 로직(logic)에 대
한 유의미한 정보, 해당 처리의 중요성 및 예상되는 결과를 정보주체에게 알려야 한다고
규정한다. 이에 따라 프랑스 행정절차법은 알고리듬에 기초한 행정결정의 존재에 관한 명
시적 언급 의무 및 해당 알고리듬의 주요한 특성에 관한 이해 관계인의 공개 신청에 응할
의무를 행정에 부과한다(L. 311-3-1). 명시적 언급이란, 알고리듬에 의한 처리의 대상에 관
한 것으로, 해당 알고리듬에 관한 정보공개신청권의 존재와 그 행사 방식, 정보공개위원회
에 대한 정보공개청구의 가능성 등을 포함하여야 한다(R. 311-3-1-1)62). 신청에 따라 공개
의 대상이 되는 알고리듬의 주요한 특성이란, 다른 법률 조항에 의해 비공개 대상이 아닌
한, 다음의 내용을 의미한다. 1° 결정에 알고리듬이 기여하는 정도와 방식, 2° 처리된 데이
터와 그 원천, 3° 이해관계인의 상황에 적용되는 파라미터(매개변수)와 필요한 경우 그 중
요도, 4° 처리의 실행들(R. 311-3-1-2). 공개 대상인 정보들은 크게 알고리듬 그 자체에 관
한 것(1°, 3°, 4°)과 그 처리의 대상인 데이터에 관한 것(2°)으로 나누어 볼 수 있다.63) 데
이터에 관한 정보가 알고리듬에 이해에 중요한 까닭은, 특히 인공지능이 생성하는 규칙이
데이터에 의해 결정되기 때문이다.64)
대학입학플랫폼의 사례에서 확인된 바와 같이, 행정은 알고리듬에 관한 정보를 공개하지
않으려는 경향이 강하기 때문에, 입법자는 위 조항에 따른 명시적 언급이 없으면 완전 자
동화된 알고리듬에 따른 행정결정은 무효로 간주한다는 특별 규정을 신설함으로써(정보자
유법 제47조, 2020. 1. 1. 시행), 투명성 원칙의 준수를 강제한다. 이는 수익적 결정의 일괄
무효화를 초래할 수 있다는 점에서 비판의 대상이 되기도 하지만, 완전 자동화된 행정결정
의 선택에 관하여 행정이 실질적으로 고려할 수 밖에 없는 요소로 기능한다는 제도적 의의
가 있다.65) 반대로 완전 자동화된 알고리듬에 따른 행정결정이 아닌 경우에는, 절차적 위
의 태도와 상반된다. 물론 이는 알고리듬 행정결정의 적용 범위와 밀접하게 연관되어 있다.
62) Samir Merabet, op. cit., p. 335.
63) Samir Merabet, op. cit., pp. 332-333.
64) Danièle Borcier/Primavera de Filippi, op. cit., p. 204.
65) Etalab에서는 위 ‘명시적 언급’의 예를 언급하고 있다. (출처: https://guides.etalab.gouv.fr/algorithmes /mention/#quelles-informations-dois-je-donner）
알고리듬의 이용에 관한 정보
이 결정은 알고리듬을 이용하여 행해집니다. 알고리듬의 처리는 [과세액의 계산]을 위한 것이고,
여기에 적용되는 규칙은 다음 링크에 게시되어 있습니다. [링크: 소스코드 등]
행정절차법 R. 311-3-1-1, R. 311-3-1-2에 따라, 이 결정의 상대방은 [행정청 이름, 연락처]에 알
고리듬의 처리 규칙 및 자신에 대한 적용에 관한 정보를 신청할 수 있습니다. 위 신청이 있은
16페이지
행정법연구 제69호 218
법 사유로 인한 행정결정의 취소 가능성을 점차 제한하고 있는 국사원 판례의 경향66)에
비추어 명시적 언급 등의 흠결 내지 미비가 반드시 행정결정의 취소로 이어지기는 어려운
것으로 보인다.67)
한편, 완전 자동화된 알고리듬 행정결정에 관해서만 ‘이해 가능한’ 형태의 설명이 언급되
어 있으나, 투명성 원칙의 취지에 비추어 행정절차법상의 고지 의무에는 이해 가능성이 전
제되어 있다고 본다. 그러나 투명성 원칙의 질적 차원이라고 할 이해 가능성에 관하여, 대
다수 학자들은 사실상 달성하기 어려운 목표로 인식한다.68) 알고리듬을 이해할 수 없는 사
람들에게 많은 양의 정보를 준다고 하여 그것이 실제적 수용으로 이어진다고 할 수는 없기
때문이다. 평균적 시민들은 사실상 알고리듬에 관한 정보를 해독할 수 없고, 심지어 전문가
집단조차 APB와 같은 복잡한 알고리듬의 소스 코드를 해독하기 어렵다고 하는 실정이
다.69) 담당 공무원의 입장에서도 알고리듬에 관한 정보를 파편화된 형태로 인식하는 것을
넘어, 종합적으로 이해하기란 거의 불가능하다. 이처럼 알고리듬의 투명성은 운영주체의 지
배와 밀접한 관련을 맺을 수밖에 없는데, 위 두 가지 목표를 동시에 달성하는 방식으로 공
공 알고리듬의 소스 코드를 오픈 데이터(open data) 형태로 선제적으로 공개하는 방안이
도입되어야 한다는 견해도 제시된다.70) 시간과 비용이 들지만, 전문가에 의해 알고리듬의
역설계와 재이용이 가능하고, 이를 통해 알고리듬의 문제점이 공론화되고 개선될 수 있을
것이기 때문이다.
행정절차법은 개별 행정결정에 이용되는 공공 알고리듬의 주요한 특징을 이루는 규칙을
이해관계인의 개별 신청 이전에 오픈 데이터 형식으로 공개할 의무를 부여하고 있지만(L.
312-1-3), 위 조항은 공공 알고리듬의 소스 코드가 아니라 공공 알고리듬의 핵심적 ‘규칙’
을 공개하도록 한 것에 불과하다. 이에 따라 실제 공개된 규칙의 내용은 해당 행정결정의
근거 법령을 반복하는 수준에 그치고 있다.71) 행정결정의 근거 법령을 넘어서 알고리듬 자
후 1개월 이내에 아무런 응답이 없으면 2개월 이내에 정보공개위원회 홈페이지에 정한 바에 따 라 위 위원회에 정보 공개를 청구할 수 있습니다.
66) CE, 23 décembre 2011, Danthony. 위 판결에 따르면, 행정결정의 형식과 절차의 하자는 ‘그 결정 의 내용에 영향을 미치거나 관계인의 권리를 침해하지 않는 이상’, 취소판결에 이르는 결정의 위법 성으로 고려되지 않는다.
67) J. B. Duclercq, op. cit., p. 313.
68) Samir Merabet, op. cit., pp. 335-336; Danièle Borcier/Primavera de Filippi, op. cit., pp. 206-209; J. B. Duclercq, op. cit., p. 313.
69) Le Monde 25 oct. 2016, APB : les questions que soulève le code source. 출처: https://www.lemon de.fr/campus/article/2016/10/25/apb-les-questions-que-souleve-le-code-source_5020076_4401467.html
70) Samir Merabet, op. cit., p. 336.
17페이지
알고리듬 행정결정의 법적 쟁점 219
체를 어느 정도로 구체적으로 사전에 공개하여야 할 것인지 여부에 관하여, 앞서 대학입학
플랫폼의 사례에서 본 바와 같이 알고리듬과 재량준칙과의 유사성을 기준으로 견해가 대립
하고 있다. 헌법재판소와 국사원은 적어도 파쿠르십과 같이 완전 자동화된 결정이 아니고
해당 결정의 특성상 필요하다면 알고리듬 자체를 공개하지 않아도 헌법 위반 등의 문제는
발생하지 않는다는 입장으로 보이지만, APB와 같이 완전 자동화된 결정이 특히 재량행위
의 영역에서 이루어질 경우 해당 결정의 특수성을 고려하여 알고리듬을 비공개할 수 있다
고 판단할지는 확실하지 않다.
(2) 책임성 원칙
투명성 원칙만으로 알고리듬 행정결정의 민주적 정당성을 확보하기에는 부족하다.72) 이
에 GDPR은 투명성 원칙에 더해 자동적 의사결정에 인간의 개입과 이해관계인의 이의권을
보장할 것을 권고한다. 즉, 인간의 개입을 통해 행정의 책임성을 확보하는 것이다. 프랑스
법은 독일연방행정절차법 제24조73)와 같은 이해관계인의 진술권을 일반법상 제도화하지
않지만, 개별법상으로는 이해관계인의 의견 진술 또는 직권에 의한 관계 공무원의 사실조
사가 당연히 전제되는 경우가 있다.74) 다만, 행정절차법과 정보자유법이 적용되는 범위에
서 알고리듬의 적용 자체에 반대할 권리는 인정되지 않는다.75) 따라서 책임을 부담하게 될
인간의 개입을 어느 단계에서 어느 수준으로 확보해야 할지가 중요한 문제로 등장한다.
한편, 프랑스법상 인간의 개입 유무는 ‘완전’ 자동화 여부를 결정하는 요소로서 투명성
원칙의 강도를 결정하게 되므로, 투명성 원칙의 내용을 내적으로 고려할 수밖에 없다. 이와
관련하여 알고리듬의 내용 자체의 투명성과 별개로, 알고리듬 행정결정에 대한 이유제시의
71) 특히, 실업급여 계산 및 지급에 관한 Pôle d’emploi의 알고리듬에 관한 공개 사항 참조. 출처 : http s://www.pole-emploi.fr/candidat/algorithmes.html
72) 알고리듬의 지배와 민주적 정당성의 문제에 관한 본격적인 논의로, 김중권, 인공지능시대 알고크라 시(Algocracy)에서의 민주적 정당화의 문제, 뺷법조뺸제69권 제5호, 181-207면 참조.
73) 제24조 직권조사원칙 ① 행정청은 직권으로 사안(사실관계)를 조사한다. 행정청은 조사의 방법 및 범위를 정한다 ; 행정청은 참여자의 제시와 증거신청에 구속되지 아니한다. 행정청이 행정행위를 발급하기 위하여 자동장치(automatische Einrichtungen)를 설치한 경우에는, 개별경우를 위하여 행정 청은 자동절차에서 조사되지 않은, 참여자의 중요한 사실진술을 고려하여야 한다.
74) 실업급여 등에 관한 고용노동부의 ‘Pôle emploi’의 알고리듬에 의한 결정이 바로 그것이다. Pôle emploi는 ‘특별한 사실조사를 필요로 하지 않는 한’ 알고리듬에 의한 자동적 결정을 행한다고 명시 하고 있다. 출처: https://www.pole-emploi.fr/candidat/algorithmes.html
75) 한편, 국사원은 디지털 사회에서 소비자인 시민의 권리 보장이라는 차원에서, 특히 시민에게 특정 행정결정에 알고리듬을 적용하는 것을 거부할 수 있는 사전적, 절차적 권한을 부여할 것을 권고하 고 있다. Rapport pubic du Coseil d’Etat 2017, Proposition n. 20, p. 138 참조.
18페이지
행정법연구 제69호 220
투명성을 확보함으로써 책임성과 투명성을 동시에 확보할 수 있다는 주장이 제시된다. 알
고리듬의 내용이 공개됨으로써 일차적으로 알고리듬 행정결정의 이유제시가 행해지긴 하지
만, 특히 인공지능에 의한 결정 또는 재량결정에 있어서는 알고리듬의 투명성이 질적으로
낮아지기 때문에, 인간이 알고리듬과는 별개로 최종 결정의 근거를 검토하고 설명하도록
하여야 한다는 것이다. 달리 말하면, 알고리듬 행정결정에 관해 원칙적으로 ‘이중의 이유제
시’76)가 요구된다고 할 수 있다.
이러한 주장은 행정실무에서 그 취지에 부합하는 수준으로 실현되기는 어려운 것으로 보
인다. 앞서 파쿠르쉽에 관한 헌법재판소의 논증에 따르면, 대학입학결정에 관하여 인간의
개입이 예정되어 있고 이유제시 의무가 존재하는 이상, 알고리듬 공개의무가 면제될 수 있
다. 그러나 바로 그 인간의 개입 – 판단 및 이유제시 – 부담을 경감하기 위해 알고리듬
행정결정에 의하는 것이기 때문에, 알고리듬 행정결정에서 이유제시가 실질화되기를 기대
하기는 어렵다. 실제로 위 사건에서 어느 대학도 입학거부결정의 사유를 제대로 제시하지
못했다는 사실은, 알고리듬 행정결정에 관한 책임성 확보가 얼마나 실현하기 어려운지 잘
드러내 준다.
그럼에도 불구하고 인간에 의한 이유제시가 필요한 이유는 행정소송에 의한 통제 방식과
관련이 있는 것으로 보인다. 헌법재판소는 알고리듬은 규범이 아니고, 알고리듬을 활용한
행정결정에 대한 사법통제가 가능한 이상, 알고리듬을 활용하는 것이 헌법에 위배되지 않
는다고 한다.77) 또한 실제 행정소송에서 알고리듬 행정결정의 정당성은 알고리듬의 내용이
아니라 근거 법령에 따라 판단되는 것으로 보인다.78) 따라서 형식적으로나마 이유제시를
통해 당초 알고리듬을 설계하고 적용하기로 결정한 행정의 의사를 재확인함으로써 알고리
듬에 따른 개별결정에 행정의 개입을 유도할 필요가 있고, 법관은 이렇게 사실상 의제된
행정의 개별결정의 적법성을 – 알고리듬과 무관하게 – 근거 법령과 구체적 사실관계에
따라 판단함으로써 행정의 책임성을 확보할 수 있게 되는 것이다. 특히, 프랑스법이 인공지
능에 의한 개별결정, 완전히 자동화된 재량결정을 일반적으로 허용하고 있다는 점에서 이유
제시를 매개로 최소한의 행정의 책임성을 확보하려는 시도는 중요한 의미를 갖는다.
더 나아가 일반적 알고리듬 감독 기구의 설치를 제안하거나,79) 알고리듬 설계 자체를 해
76) Samir Merabet, op. cit., p. 351.
77) CC Décision n° 2018-765 DC du 12 juin 2018; CC n° 2003-467 DC du 13 mars 2003.
78) 앞서 본 APB 알고리듬에 의한 입학거부결정이 ‘법적 근거’ 없이 행해진 것으로 위법성의 ‘중대한 의심’이 있어 취소되어야 한다고 본 일련의 지방행정법원판결들이 존재하는 것으로 확인된다. Danièle Borcier/Primavera de Filippi, op. cit., pp. 204.
79) Rapport pubic du Coseil d’Etat 2017, p. 109.
19페이지
알고리듬 행정결정의 법적 쟁점 221
당 알고리듬에 의한 개별적 행정결정과 분리되는 독립적 개별적 행정결정으로 보아 그 위
법성을 직접 다투도록 하여 책임성을 강화해야 한다는 견해80)도 제시된다. 이 경우 일차적
으로 알고리듬 자체의 위법성을 어떻게 심리할 것인지 문제 되고 개별적 행정결정에 대한
위법성 승계의 범위 또한 중요한 쟁점이 될 것으로 보이지만, 현 단계에서는 구체적 논의
를 발견하기 어렵다.
Ⅳ. 행정기본법상 ‘자동적 처분’에 관한 시사점
- 자동적 처분의 적용 범위
행정기본법 제20조의 자동적 처분에 관한 첫 번째 논란은 완전히 자동화된 시스템에 인
공지능을 포함시켰다는 점과, 그럼에도 불구하고 재량이 있는 처분에는 완전히 자동화된
시스템을 사용할 수 없도록 한 것으로부터 촉발된다. 학설은 크게 인공지능에 의한 자동적
처분 및 재량행위의 자동적 처분의 가능성을 부정하는 견해81)와 행정의 책임성 등 일정한
조건이 충족되는 것을 전제로 인공지능에 의한 자동적 처분 및 재량행위의 자동적 처분의
가능성을 긍정하는 견해로 나뉜다.82) 이는 근본적으로 고도화된 기술을 행정 전반에 활용
함으로써 얻는 이익과, 그로 인한 위험 내지 가치 손상을 어떻게 조정할 것인가의 문제이
고, 결국 입법론에 가까운 것이라고 할 수 있다.
해석론으로서는 후자의 견해가 타당성이 있다. 우선 입법자는 인공지능을 포함하는 대신
기속행위에 대해서만 이를 활용할 수 있도록 하여 기술의 활용 가능성과 통제 가능성을 동
시에 고려하고 있다. 또한 행정기본법 제20조는 일반법이기 때문에 같은 법 제5조에 따라
자동적 처분의 구체적 근거가 될 개별 법률에서 그와 다른 내용을 규율할 가능성이 있고,
이때 행정기본법 제20조의 목적과 원칙, 기준 및 취지에 부합하여야 하는 한,83) 원칙적으
로 인공지능에 의한 재량처분까지 가능하다고 보는 것이 자연스럽다. 즉, 인공지능을 포함
80) Danièle Borcier/Primavera de Filippi, op. cit., p. 209.
81) 김중권, 인공지능시스템에 의한 행정행위가 허용되는가?, 뺷법제뺸, 2016, 2-3면; 정남철, 앞의 논문, 234면.
82) 강현호/홍민정, 지능정보사회에서의 완전자동 행정행위, 뺷성균관법학뺸, 2019, 152-153면; 권은정, 앞 의 논문, 93-94면; 김도승, 인공지능 기반 자동행정과 법치주의, 뺷미국헌법연구뺸, 2019, 121-125면; 김동희/최계영, 뺷행정법 Ⅰ뺸, 박영사, 2021, 266-268면; 임성훈, 인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰, 뺷행정법연구｣뺸2020, 153-163면; 유동훈, 앞의 논문, 77-107면 등.
83) 법제처, 행정기본법 조문별 해설서, 2021, 제20조, 81면 참조.
20페이지
행정법연구 제69호 222
한 자동적 시스템의 활용 가능성은 일반법의 지침 하에서 개별법에 의해 확장될 수 있다.
이러한 해석론에 따르면, 그 확장 가능성은 특히 ‘재량행위를 자동적 처분의 대상에서 배
제한 취지’를 어떻게 해석하는지 여부에 좌우될 것이다.
이를 ‘인간’인 행정에 의해서만 재량이 행사될 수 있다는 원칙으로 이해하는 것은, 오히
려 인공지능까지 자동적 시스템에 명시적으로 포함한 기본법의 취지에 반하는 것이 될 수
있다. 나아가 재량행위의 판단 기준이 명확하지 않고, 실제 대부분의 행정결정이 사실인정
등에 관한 권한과 결합하여 재량행위로 이해되는 점에 비추어 볼 때84) 자동적 처분에 관
한 개별 입법 이전에 해당 처분이 기속행위인지를 확정하는 유권적 절차를 거쳐야 하는 부
담이 발생한다.85) 더 근본적으로 본다면, ‘인간’의 판단 권한이라는 관점에서 기속행위에
대한 자동적 처분의 정당성 역시 자명한 것은 아니다. 대표적 기속행위인 과세처분의 경우,
사실인정 단계뿐만 아니라 과세요건의 해석과 포섭에 상당한 인간적 판단이 개입하는데,
이를 알고리듬으로 구체화하고 번역하는 과정은 재량행위의 요건 및 효과에 관한 재량을
알고리듬으로 구체화하는 과정과 크게 다르지 않고86), 그 과정에서 손실되는 행정의 권한
또한 상대적 차이에 불과할 수 있다. 다시 말해, 상대적으로 모호한 자연어인 법의 언어를
정확한 기계어로 번역해야만 하는 알고리듬의 관점에서87) 기속행위와 재량행위의 구별은
무의미하고, 알고리듬에 의한 행정결정은 모두 ‘기계어에 대한 기속행위’로 일률적으로 전
환된다고 평가할 수 있다.88)
본래 기속행위와 재량행위의 구별이 행정결정에 대한 사법통제의 범위와 방식을 결정하
기 위한 것이라는 점에서, 알고리듬에 의한 기속행위는 알고리듬과 무관하게 법규에 의해
그 적법성이 판단될 수 있는 반면, 재량행위는 알고리듬의 내용과 무관하게 그 적법성을
84) 특히, ｢행정행위가 기속행위인지 재량행위인지 나아가 재량행위라 할지라도 기속재량인지 또는 자 유재량에 속하는 것인지의 여부가 우선 객관적으로 명백하지 않고, 또 행정행위의 전제가 되는 사 실의 존부 확정과 그 상당성 및 적법성의 인정은 전혀 행정청의 기능에 속하는 것으로 상대적으로 행정청의 재량권도 확대된다고 할 것이므로 (후략)｣(대법원 1984. 1. 31. 선고 83누451 판결) 참조.
85) 앞서 본 수입식품안전관리 특별법안의 제정과정에서도 수입식품 등 신고수리의 법적 성격에 대한 검토가 선행되었다. 따라서 논란을 불식시키기 위해 자동적 처분의 입법 자체에 ‘기속행위’ 해당 여부를 명시하는 것이 입법기술상 바람직하다고 보인다. 더 나아가 자연어의 처리를 염두에 둔 자 동적 처분에 적합한 입법기술이 새롭게 요구될 것이나, 이 역시 향후의 연구 과제로 삼기로 한다.
86) 따라서 기속행위라 하여 인공지능의 활용이 불가능하거나 불필요한 것은 아니다. 일정한 법개념의 해석에 관한 판례를 데이터로 하는 인공지능이, 판례의 미묘한 변화까지 감지하여 기속적 처분을 행하는 경우를 상정해 볼 수 있다. 앞서 본 수입식품안전관리 특별법안에서도, ‘국민건강에 미치는 위해 우려가 낮고 반복적으로 수입되는 수입식품 등의 수입신고’라는 불확정 법개념의 해석에 관하 여 인공지능이 활용되지 못할 이유가 없다.
87) Danièle Borcier/Primavera de Filippi, op. cit., pp. 197-198.
88) Hélène Pauliat, op. cit., p. 647 참조.
21페이지
알고리듬 행정결정의 법적 쟁점 223
판단하기 어렵다는 차이를 행정기본법 제20조의 취지로 해석할 여지도 있다. 그러나 알고
리듬 자체를 법규로 보지 않는 이상, 자동적 처분의 적법성 여부는 기속행위와 재량행위를
불문하고 상위법규에 의해서만 판단된다. 따라서 문제는 자동적 처분에 관한 ‘재량권의 불
행사’로 좁혀지는데, 인공지능을 포함한 알고리듬이 구체적 사안의 특수성을 모두 고려할
수 있도록 설계된다면,89) 개별처분에 있어서 ‘인간이 직접’ 재량권을 행사하지 않았다는 이
유만으로 이를 재량권의 불행사로 평가하는 것은 오히려 개별 구체적인 사정을 고려하여 최
선의 결정을 하도록 행정에 재량권을 부여한 입법 취지에 반하는 결과를 낳게 될 것이다.
결국, 알고리듬이라는 기술을 활용한 행정의 본질적 한계는 기술수준이나 행정결정의 형
식이 아니라, 행정의 책임성과 시민의 권리보호의 가능성에서 발견되어야 할 것이다.90) 규
칙을 스스로 생성하는 인공지능의 활용도 마찬가지 관점에서 평가되어야 한다.91) 이러한
관점에서 알고리듬의 기술적 수준이나 재량권의 유무 및 광협을 고려하지 않고 그 활용을
허용하면서, ‘완전히’ 자동화되었는지 여부를 행정의 책임성과 시민의 권리보호라는 종합적
인 관점에서 판단하는 프랑스법의 태도는 오히려 인간 중심적 실용주의로 평가할 수 있
고,92) 우리 행정기본법 제정자의 의사도 이와 크게 다르지 않다고 보인다.
그렇다면 이제 문제는 인공지능에 의한 자동적 처분 및 재량행위의 자동적 처분의 가능
성 자체가 아니라, 자동적 처분 일반, 개별법상의 자동적 처분에 법치주의와 민주주의의 관
점에서 어떠한 제한을 부과할 것인가라고 할 수 있다. 행정의 책임성과 시민의 권리보호를
포기해서는 안 된다는, ‘재량행위를 자동적 처분의 대상에서 배제한 취지’를 개별 법률에서
어떻게 구체화할 것인가? 나아가 행정절차법 등 다른 일반법의 차원에서 행정기본법의 취
지를 보완할 여지는 없는지 등을 살피는 것이 당면한 실천적 과제로 등장하는 것이다.
- 자동적 처분에 적용될 법원칙
(1) 투명성 원칙
행정기본법 제20조는 자동적 처분을 입법할 때 고려할 사항을 명시하고 있지 않다.93) 행
89) 김동희･최계영, 앞의 책, 266-268면 참조.
90) 같은 취지로, 김도승, 앞의 논문, 121-125면; 박재윤, 앞의 논문, 15면 참조.
91) 반대 취지로, 정남철, 앞의 논문, 245면.
92) ‘인간’에 의한 판단권의 행사만이 정당하다는 논리를 극단적으로 전개한다면, 현재 행정 실무에서 활용되고 있는 알고리듬은 모두 그 근거를 상실하게 된다. 오로지 ‘완전히’ 자동화 되었는지 여부 만을 시민의 권리보호 및 행정의 책임성의 관점에서 고려하는 태도 역시 알고리듬에 대한 의존도 가 심화되고 있는 행정현실에 부합하지 않는다. 최소한의 형식적 인간의 개입만으로도 행정은 각종 제한에서 벗어날 수 있기 때문이다.
22페이지
행정법연구 제69호 224
정기본법이 침묵하고 있는 자동적 처분의 원칙으로 개별 행정절차법 조항의 적용 여부 등
을 비롯한 투명성 원칙의 구체적인 내용은 이미 다수의 선행 연구를 통해 소개되어 있다.
위 조항은 자동적 처분에 관한 입법적 지침에 불과하므로 행정절차법이 그대로 적용되
고,94) 행정절차법에 따른 절차를 거치기 어려운 경우에 개별법령에서 특례를 마련해야 한
다는 것이 대체적인 견해인 것으로 보인다.95) 따라서 어떤 경우에 어느 범위에서 행정절차
법의 특례를 규정할 수 있는지, 기존 행정절차법상의 보장이 자동적 처분의 투명성을 보장
하기에 부족한 경우가 있다면 어떤 보장이 추가되어야 하는지가 검토되어야 한다. 투명성
보장의 상한이라고 할 수 있는 전자의 경우는 기존의 논의96)에 기대기로 하고, 본고에서는
투명성 보장의 하한이라고 할 수 있는 후자의 경우를 검토해본다.
자동적 처분의 투명성을 보장하기 위해 행정절차법상 보완되어야 하는 사항으로 첫째,
자동적 시스템 자체에 관한 정보공개를 들 수 있다. 물론 처분기준의 설정･공표(제20조),
처분의 사전 통지(제21조), 이유제시(제23조)가 자동적 시스템 자체에 대한 정보공개와 그
취지나 내용상 일부 중복되는 측면이 있지만, 자동적 행정처분 시스템 관련 정보를 공개하
는 내용공개의 투명성은 처분 자체의 사전 통지 및 이유제시의 투명성과 구별된다.97) 또한
자동적 시스템의 알고리듬은 처분기준과 완전히 동일하지 않은데, 특히 인공지능의 알고리
듬은 머신-러닝에 의해 데이터를 처리하는 매순간 변화하므로 설정･공표의 대상으로서의
처분기준으로 보기 어렵다. 결국 자동적 처분의 투명성에 관한 고유한 문제, 즉 그 상대방
이 알고리듬에 의한 처리 과정을 파악할 수 없다는 문제는 자동적 시스템 자체에 관한 정
보공개를 의무화하는 입법을 통해서만 해결 가능하다.98)
그런데 앞서 본 프랑스의 상황이나 미국법에 관한 선행 연구99)가 시사하는 바와 같이,
인공지능을 포함한 대부분의 알고리듬이 정도의 차이는 있지만 일반인으로 하여금 사실상
해독이 불가능한 형태로 존재하는 이상 자동적 시스템에 관한 정보공개는 한계가 있다. 특
히, 이유제시의 확장으로서 개별적인 이해관계인의 신청에 의하거나, 개별처분에 부수해서
안내되는 형태로 정보가 공개되는 경우, 개개인에 대한 가독성이 현저히 떨어지기 때문에
정보공개의 실효성을 보장하기 어렵다. 따라서 전문가 집단 또는 사회 일반의 협력에 의한
93) 법제처, 행정기본법 조문별 해설서, 2021, 제20조, 81면 참조.
94) 김대인, 행정기본법과 행정절차법의 관계에 대한 고찰, 뺷법제연구뺸제59호, 2020, 45면.
95) 박재윤, 앞의 논문, 16면.
96) 특히, 권은정, 앞의 논문, 98-101면; 정남철, 앞의 논문, 242면 참조.
97) 김대인, 인공지능과 행정법총론체계의 변화, 뺷경제규제와 법뺸제13권 제2호, 2020, 115면.
98) 김대인, 행정기본법과 행정절차법의 관계에 대한 고찰, 45면 참조.
99) 임성훈, 앞의 논문, 143-144면 참조.
23페이지
알고리듬 행정결정의 법적 쟁점 225
통제가 가능하도록 포괄적이고 구체적인 사전정보공개 의무를 원칙으로 하는 것이 바람직
하고, 불가피하게 처분의 성격이나 관련 분야의 특징, 관계되는 법익 등을 고려해서 정보공
개의 시기, 방식, 내용을 차등화할 수 있다고 보아야 할 것이다.100) 이때 고려해야 할 가치
로는 헌법상 적법절차원칙 외에도, 포괄적 사전정보공개 의무의 근거로서 알 권리,101) 국가
안보, 영업기밀, 개인정보 등의 보호102)를 들 수 있음은 물론이다. 그리고 이러한 공개의무
의 위반은 절차 하자로서 해당 시스템에 의한 자동적 처분의 독립적인 취소사유로 취급되
어야만 그 실효성이 확보될 수 있을 것이다.103) 즉, 규범적 강제력을 침익적 처분에 있어서
사전 통지, 수익 처분에 있어서 이유제시104)에 요구되는 수준으로 보장할 필요가 있다.
두 번째 보완 사항으로 이해관계인의 자동적 처분절차에 관한 의견 진술권과 행정의 사
실조사의무를 들 수 있다. 앞서 본 바와 같이, 프랑스와 독일은 일반적, 구체적 차원에서
이해관계인의 의견 또는 행정의 직권에 의한 사실조사절차를 마련하고 있다. 발급하는 행
정결정의 적법성은 결정에 중요한 사실에 대한 적절한 조사에 달려있다는 점에서,105) 자동
100) 시론적인 차원에서 공개 영역을 세 단계로 구별하자면, 충분히 설명 가능하고 공개의 필요성도 충 족되는 영역(‘처분 기준’에 해당하는 영역), 충분히 설명 가능하지만, 공개의 필요성이 부정되는 영 역(수익적 재량처분에 있어서 ‘세부적 배점표’에 해당하는 영역, 예를 들면 파쿠르쉽 대학별 알고리 듬), 충분히 설명 불가능한 영역(인공지능에 의한 재량처분에 해당하는 영역)이 있을 수 있다. 마지 막 영역은 공개를 원칙으로 하면서, 책임성을 확보하는 보완책이 필요하다.
101) ｢어떤 문제가 있을 때 그에 관련된 정보에 접근하지 못하면 문제의 내용을 제대로 알기 어렵고, 제대로 내용을 알지 못하면 자기의 의견을 제대로 표현하기 어렵기 때문에 알 권리는 표현의 자유 와 표리일체의 관계에 있으며, 정보공개청구권은 알 권리의 당연한 내용이 되는 것이므로, 공공기 관이 보유･관리하는 정보는 원칙적으로 모든 국민에게 공개되어야 하지만(정보공개법 제5조 제1 항), 이러한 알 권리라도 헌법 제37조 제2항에서 규정하는 바와 같이 국가안전보장･질서유지 또는 공공복리를 위하여 필요한 경우에는 본질적인 내용을 침해하지 아니하는 한 법률로써 제한할 수 있는 것이다.｣(헌재 2004. 8. 26. 2003헌바81등, 판례집 16-2상, 284, 291).
102) 프랑스 행정절차법과 정보자유법은 이에 관한 구체적인 조항을 마련하고 있다. 특히 정보자유법은 제47조에서 동법 제6조의 민감정보에 관한 처리 금지 의무가 알고리듬 행정결정에도 적용됨을 명 시하고 있다. 정보자유법 제6조는 민감정보의 예로 인종, 민족, 정치적 견해, 종교･사상･노조 가입 정보, 건강 또는 성생활, 성적 지향에 관한 생체 또는 생물학적 정보를 명시한다.
103) 알고리듬에 관한 정보를 공개하지 않는 경우 적법절차원칙에 위배된다는 미국 법원의 판결 참조. Hous. Fed’n of Teachers, Local 2415 v. Hous. Indep. Sch. Dist., 251 F. Supp. 3d 1168; 임성훈, 앞의 논문, 145면에서 재인용.
104) 대법원은 ｢행정청의 자의적 결정을 배제하고 당사자로 하여금 행정구제절차에서 적절히 대처할 수 있도록 하는 처분의 근거 및 이유제시 제도의 취지에 비추어, 처분을 하면서 당사자가 그 근거를 알 수 있을 정도로 이유를 제시한 경우에는 처분의 근거와 이유를 구체적으로 명시하지 않았더라 도 그로 말미암아 그 처분이 위법하다고 볼 수는 없다.｣(대법원 2019. 1. 31. 선고 2016두64975 판 결)고 하여 이유 제시의 정도를 낮추지만, 위 판시 내용(‘당사자가 그 근거를 알 수 있을 정도로’) 에 비추어 자동적 시스템에 관하여 위 판례에서 제시된 수준으로 이유 제시의 정도를 낮출 수는 없을 것이다.
105) 정남철, 앞의 논문, 243면.
24페이지
행정법연구 제69호 226
적 처분에 관하여는 자동적 처분절차에 관한 의견 진술권과 행정의 사실조사를 별도로 보
장할 필요가 있다. 다만, 이해관계인이 처음부터 자동적 처분절차의 적용 자체를 거부할 수
있도록 할 것인가 여부는 처분의 성격 및 평등 원칙 등을 고려하여 달리 정할 수 있을 것
이다.
(2) 책임성 원칙
재량행위, 특히 인공지능에 의한 자동적 재량처분의 경우 그 적법성 인정 여부의 핵심은
행정의 책임을 어떻게 확보할 수 있을 것인지에 달려있다. 자동적 처분의 기술적 특징으로
인해 투명성 원칙의 실효성은 한계가 있는 반면, 행정이 자동적 처분과정에 개별적으로 개
입하지 않는다는 이유로 책임을 면할 수 있다면, 그야말로 ‘블랙박스’에 의한 통치가 가능
하게 되기 때문이다.
이유제시를 절차적 투명성의 차원에서 접근하는 견해가 다수이지만, 비자동적 처분에서
이루어지는 수준의 이유제시는 대체로 자동적 시스템 자체에 관한 정보공개를 통해서도 가
능하다. 자동적 시스템 자체에 대한 정보공개의 내용으로, ‘변수, 매개변수와 그 고려 정도
를 이해 가능한 수준으로 설명할 것’을 포함하는 한, 일정 수준으로 처분의 근거와 사유가
드러날 수 있기 때문이다. 따라서 자동적 시스템 자체에 대한 정보공개와 별도로 행정절차
법상의 이유제시를 ‘원칙적으로’ 요구한다면, 이는 투명성 외에도 책임성의 보장이라는 차
원에서 그 취지를 이해하여야 한다. 즉, 개별처분을 자동적 시스템에 전적으로 맡기는 것이
아니라 이유제시 과정을 통해 최소한의 행정의 개입을 확보하고,106) 이를 통해 자동적 처
분에 대한 사법통제의 기초 자료를 확보할 필요가 있다는 것이다. 알고리듬에 의한 처분은
모든 요소를 고려해서 가장 적합한 단 하나의 처분을 하는 것인데 반해, 이유제시는 인간
에 의한 법규해석과 사실인정을 바탕으로 알고리듬에 의한 처분이 결과적으로 정당함을 주
장하는 것이다. 이러한 취지에서 이유제시는 근거 법령과 사실관계를 구체적으로 알 수 있
게 하는 실질적인 것이어야 한다. 자동적 처분으로 달성하고자 하는 행정의 효율성이라는
관점에서 실질적 이유제시의 요청이 과도하다고 볼 여지가 있다면, 신청에 의하여 개별적
으로 이유를 제시할 수 있도록 하거나, 이유제시 자체를 인공지능 등 알고리듬에 의하게
할 수 있고, 예외적으로는 자동적 시스템에 관한 완전하고 충분한 정보공개를 전제로 이유
제시를 생략할 수 있을 것이다.
106) 현재 기술수준으로 인공지능의 한계는 ‘왜?’를 설명하는 데 있다. 인공지능은 데이터 사이의 상관 관계를 분석할 수는 있어도, 왜 그러한 상관관계가 성립하는지 스스로는 알 수 없다는 것이다. 이 러한 관점에서 본다면, 이유제시는 인간 활동의 최후의 보루로 남아 있다고 할 수 있다.
25페이지
알고리듬 행정결정의 법적 쟁점 227
마지막으로 자동적 시스템 자체에 대한 사법통제를 궁극적 행정 책임의 확보 방안으로
제안할 수 있다. 알고리듬을 구성하는 처분기준을 행정입법으로서 사법심사의 대상으로 삼
아야 한다는 견해도 비슷한 취지로 볼 수 있다.107) 자동적 시스템에 의한 결정은 모두 기
계어에 기속되는 행위로 변경되고, 구체적 입력 값에 대한 구체적 결정 값은 이미 확정되
어 있다는 점에서, 자동적 시스템을 구성하는 알고리듬 자체를 개별 이해관계인에 대한
‘처분’으로 볼 여지도 없지 않다. 어떤 이론 구성에 의하든, 실질적으로 중요한 것은 그 본
안 판단이 어떠한 방식으로 이루어질 수 있을 것인지이다. 자동적 처분의 적법성은 알고리
듬과 무관하게 법관이 독자적으로 관계 법령과 해당 처분의 성격을 고려해서 판단할 수 있
지만, 알고리듬 자체의 적법성은 법관의 지식의 한계 또는 관련 데이터의 편향성 등으로
인해 독자적으로 판단하기 어려운 측면이 있다. 이 경우 법관은 알고리듬의 결과와 별도로
독자적 결론을 도출하는 대신 알고리듬이 결과를 도출하는 과정에서 정확하게 작용하였는
지를 심사하여 시스템 문제로 인하여 잘못된 결과에 이르렀는지 여부를 판단할 수도 있을
것이다.108) 이러한 사법심사 방식의 한계를 극복하기 위해서라도, 앞서 본 포괄적･구체적
사전정보공개의 중요성은 다시금 강조될 필요가 있다. 여기에 전문가 기구에 의한 정기적
감독이 제도화된다면 더 바람직할 것이다.
Ⅴ. 결론
홉스가 상상했던 리바이어던의 구체적 모습은 17세기 당시 최고의 과학 기술이었던 천
문시계였다. 오늘날 홉스가 리바이어던을 상상한다면 그 모습은 거대한 데이터 센터 또는
플랫폼이라고 할 수 있겠다.109) 천문시계와 달리 그 내부와 작동원리가 투명하게 들여다보
이지 않는다는 점에서 이 새로운 형태의 국가는 법치국가적 상상력의 한계를 시험하지만,
쉽게 그 편익을 외면하기도 어렵다. 대부분의 처분이 재량행위에 해당하고 향후 기술 발전
의 수준을 가늠할 수 없는 상황에서 자동적 처분의 대상을 기속행위에 한정하거나 인공지
능의 활용을 부정하는 것은 섣부르다. 행정기본법은 실용주의적 관점에서, 모든 편익의 가
능성을 열어 둔 채 행정의 책임성과 시민의 권리 보호라는 요청을 충족시킬 수 있는 구체
적 규율을 요청한 것이라고 할 수 있다.
107) 임성훈, 앞의 논문, 159면.
108) 임성훈, 앞의 논문, 161면.
109) Pauline Türk, L’Etat platforme numérique, in Revue du droit public, n. 2020-5, p. 1189.
26페이지
행정법연구 제69호 228
프랑스의 대학입학플랫폼, 특히 파쿠르쉽과 관련 법제도는 위 ‘구체적 규율’에 관하여 다
음과 같은 점을 시사한다. 우선, 재량행위라 하여 알고리듬의 활용이 배제되는 것은 아니
고, 인공지능의 활용도 마찬가지이다. 다만, 시민의 권리보호 및 행정의 민주성이라는 관점
에서 투명성 및 책임성이 확보되어야 한다. 알고리듬을 이용한 행정결정의 투명성은 알고
리듬 자체에 관한 정보를 사전에 일반적으로 상세하게 공개함으로써 상당 부분 달성 가능
하다. 이에 더해 이해관계인의 의견진술 및 행정의 사실조사라는 절차가 보장될 필요가 있
다. 알고리듬에 관한 정보와는 별개로, 자동적 처분에 관한 개별적 이유제시는 행정의 책임
성 확보의 차원에서 여전히 유의미하고, 현재 판례에 따라 비자동적 처분에 요구되는 수준
보다 더 실질화되어야 한다. 자동적 처분에 대한 사법통제와는 별도로 알고리듬에 대한 사
법통제가 필요하지만, 그 한계를 보완하기 위해서 정보공개 및 전문가에 의한 통제라는 보
조적 수단이 적극적으로 활용되어야 한다.
(투고일: 2022. 11. 13. 심사완료일: 2022. 11. 26. 게재확정일: 2022. 11. 26.)
27페이지
알고리듬 행정결정의 법적 쟁점 229
참고문헌
김동희최계영, 행정법 , 서울, 박영사, 2021.
양천수, 인공지능 혁명과 법, 서울, 박영사, 2021.
강현호홍민정, “지능정보사회에서의 완전자동 행정행위”, 성균관법학, 제31권 제2호, 2019.
권은정, “자동적 처분의 행정법적 제 문제 - 처분의 형식절차 및 구제에 관한 쟁점을 중심으로 -”,
법학논총, 제38권 제3호, 2021.
김기호, “IT행정에서 자동화행정행위에 관한 일반적 고찰”, 토지공법연구, 제87권 제1호, 2019.
김길수, “공공부문에서 인공지능 활용에 관한 연구”, 한국자치행정학보, 제33권 제1호, 2019.
김도승, “인공지능 기반 자동행정과 법치주의”, 미국헌법연구, 제30권 제1호, 2019.
김대인, “행정기본법과 행정절차법의 관계에 대한 고찰”, 법제연구 제59호, 2020.
김대인, “인공지능과 행정법총론체계의 변화” 경제규제와 법 제13권 제2호, 2020.
김병조은종환. “행정-정책 의사결정에서 머신러닝(machine Learning) 방법론 도입의 정책적 함의:
기계의 한계와 증거기반 의사결정(evidence-based Decision-making)”, 한국행정학보, 제54
권 제1호, 2020.
김병필, “재판 예측 인공지능 기술의 현황과 한계”, 저스티스, 제182권 제2호, 2021.
김중권, “행정자동결정(자동적 행정행위)의 실체적 문제점에 관한 소고”, 공법연구, 제28집 제4호
제2권, 2000.
김중권, “인공지능시스템에 의한 행정행위가 허용되는가?”, 법제, 통권 제674호, 2016.
김중권, “인공지능시대에 완전자동적 행정행위에 관한 소고”, 법조, 제66권 제3호, 2017.
김중권, “인공지능시대에 알고리듬에 의한 행위조종과 가상적 행정행위에 관한 소고”, 공법연구,
제48집 제3호, 2020.
김중권, “인공지능(지능형) 시스템의 도입을 위한 법적 규율의 문제”, 공법학연구 제22권 제1호,
2021.
김중권, “인공지능시대에 자동화에 적합한 입법의 문제 독일에서의 논의를 중심으 로 ”, 공법
연구 제50권 제3호, 2022.
김재선, “알고리듬 자동행정결정에 대한 행정법적 해석방안에 관한 연구 미국 행정법상 입법방
안 논의를 중심으로 -”, 법학논총, 제45권 제3호, 2021.
박정훈, “ 행정기본법과 행정법학의 과제 인식운용혁신 -”, 행정법이론실무학회 제260회 정기
학술발표회 자료집(미공간), 2021. 4.)
박훈민, “전자정부와 자동화된 행정결정에 대한 법도그마틱상 검토필요성”, 행정법연구, 제52호,
2018.
방정미, “인공지능 알고리듬 규제거버넌스의 전환 - 최근 미국의 알고리듬 규제와 인공지능 윤리원
칙을 중심으로 -”, 공법연구, 제49집 제3호, 2021.
28페이지
행정법연구 제69호 230
선지원, “인공지능 알고리듬 규율에 대한 소고 독일의 경험을 중심으로 - ” 경제규제와 법 제
12권 제1호, 2019.
양종모, “인공지능을 이용한 법률전문가 시스템의 동향 및 구상”, 법학연구, 제19권 제2호, 2016.
유동훈, “자동적 재량행위 가능성에 관한 시론적 연구”, 법제 제697권, 2022. 6.
이재훈, “전자동화 행정행위에 관한 연구 - 독일 연방행정절차법 제35조의a를 중심으로 -”, 성균관
법학, 제29권 제3호, 2017.
이재훈, “법률을 통한 자동적 처분 규율에 대한 고찰”, 법제 제697권, 2022. 6.
이진수, “ 행정기본법 제정의 의미와 평가”, 법제연구, 제59호, 2020.
임성훈, “인공지능 행정이 행정절차행정소송에 미치는 영향에 대한 시론적 고찰”, 행정법연구,
제62호, 2020.
정소윤, “인공지능 기술의 행정 활용에 관한 연구동향 및 쟁점 분석”, 한국지역 정보화학회지, 제
22권 제4호, 2019.
최승필, “공행정에서 AI의 활용과 행정법적 쟁점 - 행정작용을 중심으로”, 공법연구, 제49집 제2
호, 2020.
법제처, 행정기본법 조문별 해설, 2021.
민주사회를 위한 변호사모임 디지털정보위원회 등, <행정기본법(안) 제20조>에 대한 인권단체 의
견서, 2020.
[외국문헌]
Y. Gaudemet, La justice à l’heure des alpgorithmes, À propos de la justice prédictive, in Revue
du droit public, n. 2018-3.
J. B. Duclercq, Les algorithmes en procès, in Revue Français de droit administratif, n. 2018-1.
J. B. Duclercq, L'automatisation algorithmique des décisions administratives individuelles, in
Revue du droit public, n. 2019-2 .
Danièle Borcier/Primavera de Filippi, Les algorithes sont-ils devenus le langage ordinaire de
ladministration?, in 뺷Lectures critiques du Code des Relations entre le public et
l’administration뺸, LGDJ, 2018.
Samir Merabet, Vers un droit de l’intelligence artficille, Nouvelle Bibliothèque de Theses, vol.
197, Dalloz, 2020.
Léo Griffaton-Sonnet, Enfin! La consécration du droit d’accès aux documents administratis,
Chronique sur Décision n. 2020-834 QPC du 3 avr. 2020, in 뺷Revue française de droit
constitutionnel뺸, n. 123, 2020.
Hélène Pauliat, La décision administrative et les algorithmes : une layauté à consacrer, Revue du
droit public, n. 2018-3.
29페이지
알고리듬 행정결정의 법적 쟁점 231
Pauline Türk, L’Etat platforme numérique, in Revue du droit public, n. 2020-5.
Rapport pubic du Coseil d’Etat 2017.
Rapport au parlement du Comité Ethique et Scientifique de Parcoursup, 2019.
Conseil constitutionnel, Commentaire sur Décision n° 2020-834 QPC du 3 avril 2020.
Mission Etalab, Les conditions d'ouverture du système “Admission Post-Bac”, rapport au
Secrétaire d'Etat en charge de l'enseignement supérieur et de la recherche, avril 2017.
Kopp/Ramsauer, VwVfG, §35a, Rn. 9, 13, 19 Aufl.(2018)
30페이지
행정법연구 제69호 232
Quelques enjeux juridiques sur les décisions administratives
par l’algorithmes
A propos du cas de la Plateforme ‘Parcoursup’
Hyejin Kim*
110)
Avec le développement de la technologie des algorithmes, l’Etat futuer serait la forme
d'un immense centre de données ou d'une plateforme. Ce nouveau type d'État teste les
limites de l’idée
sont pas vus de manière transparente, mais il est difficile d'ignorer facilement ses
avantages.
adaptée à ces évolutions technologiques par d'une disposition sur
D'un point de vue pragmatique, elle n’interdit ni totalement <l’décision automatique
discrétionnaire>, ni
les principes sur les exigences de responsabilité administrative et de protection des droits
des citoyens.
La plateforme ‘Parcoursup’ et le droit français concernant les décisions administratives
par l’algorithmes suggère les points suivants concernant les principes ci-dessus. Tout
d'abord, la décision discrétionnaire n'exclut ni l'utilisation d'algorithmes, ni d'intelligence
artificielle. Toutefois, la transparence et la responsabilité doivent être garanties pour la
protection des droits des citoyens et la démocratie même en service administratif. La
transparence des décisions administratives par les algorithmes peut être réalisée dans une
large mesure en publiant à l'avance des informations sur l'algorithme lui-même en détail.
Il est nécessaire aussi d'assurer les procédures d'enquête par les parties et l'administration.
Outre les informations sur l'algorithme, les motifs d’une décision automatique sont
toujours important pour la garantie de la responsabilité administrative. Donc ils devraient
être plus consretisés que en cas de l’décision non-automatique. Sur le contrôle judiciaire
de la décision automatique, un contrôle judiciaire de l'algorithme est nécessaire, mais des
- Associate professor, School of Law, Chung-Ang Univ.
31페이지
알고리듬 행정결정의 법적 쟁점 233
moyens auxiliaires tels que la publication d'informations et le contrôle par des experts
devraient être activement utilisés.
Mots clés: décision administrative par l’algorithmes, décision automatique, intelligence
artificielle, transparence, responsabilité