인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구
원본 파일:
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구.pdf
변환 일시: 2026-04-09 22:44
1페이지
사단법인 행정법이론실무학회 행정법연구 제63호 2020년 11월 Korea Administrative Law and Practice Association Administrative Law Journal Vol. 63, November 2020
인공지능 의사결정에서의 이익조정과
이원적 규제모델에 관한 연구*
1)
이 희 옥**
국문초록
빅데이터, 스마트 그리드 등 저변 기술에 힘입은 인공지능의 현실화를 앞두고 인공지능의 명
암(明暗)이 거론되면서, 개인정보 보호, 프라이버시, 차별 등의 문제가 법적 쟁점으로 접근되고
있다. 인공지능기술은 기존의 데이터 주도형 기술에서 인공지능 주도형으로 패러다임의 전환을
일으키고 있다. 이러한 기술의 질적 변화는 기존의 기술사회의 위험을 가중함으로써 인간의 존
엄과 자유에 기반한 개인의 자기결정의 가치를 제한하거나 침해할 수 있다. 인공지능 시대의
중요한 문제를 인공지능이 의사결정의 주체인 인간을 객체로 보아 인간의 자기결정을 위협하
는 것에 있다고 전제하더라도, 인공지능은 완성된 기술이 아니라는 점에서 성급히 법적 규제에
나아가기는 어려운 측면이 있고, 반대로 적절한 시기를 놓치면 여러 가지 위험들에 개인의 권
리가 무방비로 노출될 수 있어 사후적 규제만으로는 한계가 있다고도 볼 것이다.
기술이 진보할 때마다 규제체계가 새롭게 만들어져야 하는 것은 아니지만, 국가는 헌법상 기
본권 보호의무와 제9장 경제조항에 따른 국민의 권리 보호 및 과학기술 진흥에 따른 경제적
이익을 구현해야 할 책무가 있다. 인공지능의 의사결정은 기존에 정보통신 내지는 인터넷을 대
상으로 한 규제와는 질적으로 다른 기술을 대상으로 하고 있다는 점에서, 인공지능에 대응한
규제모델은 인공지능의 이해당사자 간의 이익조정을 고려하는 중에 개인의 ‘자기결정권’을 보
장하는 구조로 정립될 필요가 있다. 이에 구체적인 입법안을 고려하기 이전에 규범적 측면에서
의 사전적 규제모델을 고려해 볼 여지가 있다고 생각한다. 인공지능은 크게 보아 빅데이터와
머신러닝의 기술로 나눠볼 수 있으며, 인공지능에 대한 규제모델은 i) 데이터 처리와 ii) 인공지
능 알고리즘의 처리를 대상으로 규율할 수 있을 것이다.
본 논문은 인공지능의 기술적 특성과 알고리즘 의사결정의 위험을 논의의 전제로 보아, 인공
지능에 대응한 개인의 권리 보호의 문제를 규제의 관점에서 접근하고자 하였다. 아울러 데이터
- 본 논문은 필자의 박사학위 논문 “인공지능의 의사결정에 대응한 자기결정권의 보장에 관한 연구” 의 일부 내용에서 특히 제4장 ‘인공지능의 의사결정에 대한 규율방식과 원리’ 이하를 중점적으로 요약보완시킨 것이다. ** 법학박사(헌법 전공), 한양대학교 법학연구소 연구원.
2페이지
행정법연구 제63호 258
와 알고리즘 처리를 규율대상으로 하는 이원적 규제모델을 헌법적 관점에 따라 인공지능 향유
의 주체 간(개인-기업-국가) 이익조정을 고려해 제시한다.
주제어: 인공지능의 의사결정, 자기결정권, 합리적 자기결정, 이원적 규제모델, 기술적 적법절차
목 차
. 문제의 제기
. 인공지능 의사결정에 대한 규율의 필요성
. 사전적 규제에서의 이익조정과 규율방안
. 이원적 규제모델의 내용
. 나오며: 남겨진 과제들
Ⅰ. 문제의 제기
소위 ‘제4차 산업혁명’으로 진입하는 시점에서1) 인공지능은 빅데이터와 알고리즘의 작동
으로 실행되는 시스템으로, 사물인터넷, 센서, 기계학습(machine learning, 이하 ‘머신러닝’)
이 총 집약된 연구 또는 기술의 총체라고 할 수 있다. 바꿔말하면 21세기에 형성된 정보화
문명은 빅데이터와 알고리즘이라는 두 축으로 변화된 인공지능 기술로의 전환을 맞이하고
있다고 할 수 있다.
인공지능은 IT, 금융, 의료, 자동차산업에 다양하게 활용되고 있고, 인공지능의 알고리즘
은 논리(logic)에 기반해 작동하게 되면서 개인의 일상에도 상당한 영향을 미치게 될 것으
로 보인다. 국외에서는 구글(Google)과 같은 검색엔진을 두고, 알고리즘이야말로 인공지능
에서 실질적 영향력을 행사하는 권력이라고 말하기도 하지만,2) 알고리즘은 이용자의 반응
1) 제4차 혁명의 용어의 적절성에 대해서는 많은 논란이 있지만, Klaus Schwab가 2016년 세계경제포 럼에서 ‘제4차 산업혁명’을 언급한 것이 주로 인용되고 있다. 그는 제4차 산업혁명을 제3차인 정보 화와 구분해 디지털 혁명을 기반한 유비쿼터스 모바일, 인터넷, 센서, 인공지능과 기계학습을 특징 으로 보았다. 클라우스 슈밥(송경진 옮김), 클라우스 슈밥의 제4차 산업혁명, 새로운 현재(2016), 25면 및 29면 등. 2) UCLA의 정보학 부교수인 Safiya Umoja Noble은 구글의 검색결과에 주목하며 검색 알고리즘의 막 강한 영향력과 그것에 내재된 인종차별에 대한 편향을‘억압적인 알고리즘’이라고 경고한다. Safiya Umoja Noble, Algorithms of Oppression, New York University Press(2018).
3페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 259
과도 상호작용하는 면이 있어서 단편적으로 이를 가치평가 하기는 조심스러운 부분이 있
다. 아울러 인공지능의 거듭된 진화에 따른 알고리즘의 영향력과 함께 이른바 개인정보 보
호, 프라이버시3), 차별 등 인공지능 알고리즘의 공정성에 관한 문제가 제기되고 있다.4) 그
러나 이러한 문제점들을 개별 가치로만 접근하면 개인의 이익 간의 중첩과 충돌에서 오는
혼란이 가중될 수 있어 규제의 효율성 측면에서 바람직하지 않으며, 기술의 발전에도 걸림
돌이 될 수 있다.
본 논문에서는 자동화(automated)에서 자율화(autonomous)로 진행하는 과도기적 단계에
서 인공지능 및 그로 인한 주된 위험을 연구대상으로 보며, 근원적인 문제의식을 헌법적
가치인 인간의 자기결정권에 관한 제한 내지는 침해의 문제로 보았다. 개인정보와 프라이
버시, 차별에 관한 문제는 모두 인간의 자유를 전제하는 개념에서 출발할 수 있다. 이에
인공지능에 대한 규율체계는 인간의 자기결정에 관한 가치, 즉 자유와 자율성에 대한 보호
를 중점화시킨 것이어야 한다.
인공지능의 등장은 ‘정보’의 처리에서 ‘빅데이터와 알고리즘’으로의 기술사회의 패러다임
에 전환을 가져오는 동시에 법의 영역에서도 새로운 기술사회에서 인간의 권리 보호를 요
구하고 있다. 이와 같은 요구들은 헌법적으로는 새로운 기술이 가져다주는 공리와 그 안에
서 인간 존중이라는 상충하는 가치 간의 이익조정의 과제를 남기며, 행정법적으로는 기술
사회의 위험에 효과적인 새로운 수단방법을 모색할 것을 요구한다. 특히 나날이 증대되고
3) 미국에서는 2019년 8월경 아마존(Amazon)의 인공지능 스피커인 알렉사(Alexa)가 초래하는 프라이 버시 문제가 제기되었다. 인공지능 스피커는 일반적으로 이용자의 목소리를 통한 명령을 통해서 인 식하는데, 이용자의 명령어를 인식하기 위해서는 주변의 소리를 계속해 인식하는 것이 필요하다. 인공지능 음성서비스는 주거공간이나 자동차와 같은 사적 공간에서 상용되는 편이라, 이용자의 사 적인 대화를 포착할 가능성이 있어서 인공지능 음성서비스에 내재된 프라이버시 침해의 위험성 문 제가 제기되었다. Allen St./Thomas Germain, “How to Set up a Smart Speaker for Privacy”, Consumer Report(August 31, 2019) https://www. consumerreports.org/privacy/smart-speaker-privacy-set tings/(2020. 10. 30. 최종방문). 4) 인공지능의 머신러닝 학습이 인간사회 편향을 답습하고 심화시킬 것이라는 우려가 있다. 과거 아마 존은 인사채용에서 인공지능을 시스템을 도입하였다. 인공지능에 기반한 시스템은 직무에 적합한 지원자를 추출하는데 유용할 것으로 기대됐지만, 결과적으로 서류심사대상으로 이력서는 모두 모두 남성이었다. 이 시스템에 적용된 알고리즘은 이력서에 ‘여성’이라는 키워드가 있는 경우 해당 지원 자에 대해 감점을 했고, 여대를 졸업한 지원자에 대해서는 불이익을 주었기 때문에 여성지원자는 채용에서 제외되었다. 아마존이 인공지능 채용시스템을 개발하기 시작한 것은 2014년으로, 알고리 즘의 기계학습이 과거 10년 동안 누적된 이력서의 패턴을 학습한 결과 남성 지원자들 중심으로 결 과가 치우지게 된 것이었다. Jeffrey Dastin, “Amazon scraps secret AI recruiting tool that showed bias against women”, REATERS(Oct. 20, 2018), https://www.reuters.com/article/us-amazon-com-jobs -automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1M K08G(2020. 10. 30. 최종방문).
4페이지
행정법연구 제63호 260
있는 행정국가에 대한 요청은 인공지능에 있어서도 구체화가 필요하다.
이에 본 논문은 인공지능 환경에서 알고리즘의 의사결정을 통제하고 개인의 권리를 보호
하는 관한 법적 프레임이 헌법적 이익조정을 고려하여 데이터와 알고리즘으로 대변되는 인
공지능의 기술을 대상으로 규율되어야 한다는 문제의식을 구체화하고, 각각을 규율대상으
로 하는 ‘이원적 규제모델’을 통해서 인공지능의 규범에 대한 추상적 논의에서 한 발 진전
시킨 논증을 시도하고자 한다.
Ⅱ. 인공지능 의사결정에 대한 규율의 필요성
- 인공지능의 기술적 특징과 인공지능 의사결정의 위험
이전의 기술과 비교해서 두드러진 인공지능의 기술적 특징을 파악하고, 그로써 인간사회
에 끼치는 변화를 먼저 살펴보는 일은 인공지능을 규율대상으로 하는 규범 체계에서 매우
중요한 일이다. 이에 이하에서는 인공지능의 기술의 특징과 기술적 패러다임의 변화를 분
석하고, 그로 인한 개인 영역에서의 위험은 어떤 것들이 있는지 살펴보고자 한다.
(1) 인공지능의 기술적 특징에서 비롯되는 위험요소
인공지능에 대한 이전과 다른 규율체계의 도입이 필요하다고 생각되는 가장 큰 요소는
기술적 특징의 질적인 변화에 있다. 몇 가지의 인공지능 기술의 특징은 다음과 같다.
첫째, 프라이버시로깅 환경과 빅데이터의 활용이다. 현재 상용화되거나 가시화된 대표적
인 인공지능은 디지털플랫폼,5) 홈비서, 자율주행자동차, 의료서비스, 금융서비스, 정부의 행
정서비스, 법률서비스, 범죄예측알고리즘 등이 있다. 이들 인공지능서비스는 대부분 개인에
관한 정보에 기반하지만, IoT 등을 통해 무의식적대량으로 수집되어 빅데이터 처리되기
5) 디지털플랫폼은 “파트너, 공급 업체 및 고객 커뮤니티가 사업적인 이익을 위해 디지털 프로세스 및 역량(digital processes and capabilities)을 공유개선확장할 수 있는(share enhance extend) 비즈니스 중심 프레임워크”라고 정의하고 있다. “Building the Digital Platform: The 2016 CIO Agenda”, Insights From the 2016 Gartner CIO Agenda Report, Gartner(2015), 1-6면 참조. 본 논문에서는 Google이나 국내의 네이버와 같은 기업들이 뉴스정보, 콘텐츠, 전자상거래, 통신판매 등을 성사시 키는 인터넷 공간을 제공해 이용자와 정보제공자(판매자 등)을 연결하는 인터넷플랫폼서비스를 ‘디 지털플랫폼’이라고 표현하였다. 디지털플랫폼 대한에 대한 자세한 분석은, 김민식이가희, “디지텔 플랫폼과 인공지능(AI)의 이해” 정보통신방송정책 제29권 제18호 통권 655호, 정보통신정책연구 원(2017), 3-4면 참조.
5페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 261
때문에 정보주체인 개인이 이를 인식하기가 어렵고, 그 처리에 대한 개입이 어려운 특징이
있다. 이는 개인이 무의식적인 상태에서 시간과 장소에 구애 없이 인터넷과 연결된 장치와
상호 소통하는 환경에 노출됨을 의미한다. 요컨대, 인공지능 환경에서 처리되는 정보는 질
적으로는 개인정보 이외에 개인이 온오프라인에 남기는 모든 정보와 개인이 검색한 정보,
그와 같은 그룹으로 묶인 제3자의 정보 등이 모두 포함되며, 양적으로는 빅데이터에 해당
한다고 할 수 있다.
둘째, 인공지능은 자동화(automated)에서 자율화(autonomous)로의 진화 과정에 있다. 인
공지능이 등장하기 이전에 자동화 체계는 “자기 추진력에 의해 움직이는 자발적인 것”으로
서 자동화에서 기계는 인간의 개입을 통해서만 구축된 체계에서 벗어날 수 있다. 반면 자
율화는 무엇에도 종속되지 않고 독립적인 자체 시스템에서 자발적으로 움직이는 특징이 있
다. 자율화 체계는 다른 체계와 연계돼 상호작용하고 스스로 판단하여 스스로 결정하는 시
스템이다.6) 인공지능 스스로 결정의 의미를 판단하고 사람의 개입이나 통제 없는 독립적으
로 실행하는 체계를 지향하지만, 아직은 진화 과정에 있다. 예를 들어 자율주행자동차는 자
율 운행의 수준에 따라 분류되는데, 자율주행수준을 6단계로 구분하고, 레벨 4부터는 고도
자율주행자동차(highly automated driving functions)로서 운전자가 시스템을 감시할 필요가
없고 시스템의 요구에 제한적으로 운전자가 개입하는 단계로 보아 ‘자율주행자동차’라고
한다.7) 이와 같이 인공지능의 기술구현에 따라 자동화(automated)와 자율화(autonomous)를
구분하고 있다.
셋째, 인공지능의 기술의 복잡성은 불투명성을 초래한다. 인공지능의 개발에 제공되는 오
픈 소스 라이브러리와 인공지능 개발 시스템은 최신의 복잡한 시스템들과 다양한 개발자들
이 구축한 컴포넌트로 구성된다. 기술적 측면에서 인공지능은 통합적 기술적 체계가 중요
하지 않고, 성능의 고도화가 목표이다. 오픈 소스 라이브러리는 일종의 ‘무료 개발 환경’으
로서 이용을 원하는 개발자는 개인 PC에서 별다른 GPU 등과 같은 장치 없이도 제공되는
6) 김연순이종관, “제4차 산업혁명의 자동화와 적응형 자동화”, 인문과학 제65집, 성균관대학교 인 문과학연구소(2017), 17면; 자동화가 “기계가 인간의 힘으로 한번 수행된 행위를 반복하는 것” 말 한다면, 자율화는“어떠한 행위를 인간의 통제력 없이 오직 시스템으로 제어하는 것”을 뜻한다. Executive Office of the President National Science and Technology Council Committee on Technology, Preparing of the Future of Artificial Intelligence, Report(2016), 10면. 7) 독일은 SAE(The Society of Automotive Engineer)J3016 규격을 기준으로 자율주행자동차에 대한 입법을 진행했는데, 실제로 5단계를 ‘자율주행(Autonomes Fahren)’으로 보는 것으로 이해된다. 나 머지 1~3단계, 4단계에서는 운전자 개입가능이 가능한 상태로, 인간이 운전자가 자동차를 통제를 통제할 여지가 있는 경우로 보아 ‘자동화’로 표현한다. Deutscher Bundestag, Autonomes und automatisiertes Fahren auf der Straße rechtlicher Rahmen, WD 7-3000 111/18(2018), 4면.
6페이지
행정법연구 제63호 262
하드웨어 가속기와 같은 장치로 머신러닝 학습 테스트가 가능하다. 따라서 개발자 간의 공
유와 협력 구도에서 개발이 되지 않으며 완료된 프로젝트의 전후 단계의 기여도를 예측할
수가 없다.8) 이러한 이유로 인공지능 기계에 운용되는 컴퓨터 시스템의 복잡성은 인공지능
의 불투명성(opacity)을 초래한다. 현재 기술 수준에서는 인공지능의 소스 코드나 알고리즘
을 들여다보고 어떤 의사결정이 무엇을 기초하여 내려졌는지를 추적해볼 수는 있겠지만,
이 또한 단순한 소스 코드나 알고리즘을 분석해야 하므로, 전문가라도 접근과 이해가 어려
운 상황에서 개인이 관련 정보를 인식해 자신에게 필요한 개입을 할 여지는 좀처럼 기대할
수 없는 부분이다.
넷째, 인공지능에는 인간이 느끼는 감정과 같은 직관적 능력이 없어 ‘예측곤란성’이라는
특징을 갖는다. 합리적 에이전트인 인공지능은 인적, 장소적, 시간적 요소들로부터 구애받
지 않는 결정을 할 수 있는데,9) 이러한 장점이 인간과 다른 특징으로 거론되면서, 예측곤
란성(Unforesee ability)이라는 부정적인 평가로 이어지기도 한다.10) 그 대표적인 예가 고전
적인 윤리적 사고 실험(trolley problem)으로 드는 ‘철로의 전철수’ 설정에서는 선로를 따라
달려오는 트롤리 앞에 다섯 사람을 치지 않으려는 유일한 방법으로 선로의 옆에 선 한 사
람을 치어야만 하는 상황에서, 결정자가 인간 혹은 인공지능인지에 따라 판단 및 결과가
달라질 것이라는 가정을 전제한다. 특히 인간은 그 결정에 따른 결과에 대하여 법적윤리
적 책임을 지게 되지만, 인공지능은 인간의 예측을 벗어나는 범위에서 작동할 수 있다는
점에서 문제시한다. 인공지능의 결정에 대하여 인간의 시각에서 ‘인간적이냐, 그렇지 않냐’
는 잣대로 위험성을 언급하는 것은 부당하다는 점은 차치하고서라도 인간의 통제 범위를
넘어서는 인공지능 알고리즘이 개인의 운명을 판단하는 예측시스템에 활용되는 경우는 사
전에 인간의 개입권이 필요할 것이다.
(2) 알고리즘의 유형 및 인공지능 의사결정시스템의 위험
인공지능 의사결정을 대상으로 규제 방안을 논하기 위해서는 인공지능에 활용되는 알고
리즘을 두 유형으로 구분할 필요가 있다.
첫째, 디지털플랫폼 서비스11)의 노출에 사용되는 ‘검색 알고리즘’으로 디지털 공간에서
8) Matthew Scherer, “Regulating Artificial Intelligence System: Risks Challenges, Competencies, And Strategies”, Harvard Journal of Law & Technology Vol. 29/2(2016), 371면. 9) Matthew Scherer, 앞의 논문, 365면.
10) 양종모, “인공지능의 위험의 특성과 법적 규제방안”, 홍익법학 제17권 제4호, 홍익대학교 법학연 구소(2016), 544면.
11) 대표적인 디지털플랫폼 서비스는 검색서비스(사용자와 광고주를 매개), 애플리케이션 마켓플레이스
7페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 263
수집된 정보에 기반하여 논리(logic)체계12)이다. 알고리즘은 디지털 플랫폼에서 콘텐츠를
선별하고 노출하는 역할을 하는데, 인공지능을 도입하면 그 수행을 인공지능에 위임하게
된다.13) 과거 (인공지능이 아닌) 검색엔진이 제공한 검색결과로 인한 인격권 침해가 법적
쟁점이 되면서, 검색 알고리즘의 책임에 관한 논의가 있었지만, 앞으로 (인공지능을 활용
한) 검색 알고리즘의 운영자에 대한 법적 지위, 책임에 있어서 이전과 같이 단순한 전달자
(mere conduit)로 볼 것인지 아니면 인공지능 알고리즘의 통제자로 볼 것인지에 대해서는
새로운 논의가 필요한 부분이다. 특히 검색 알고리즘이 이용자가 정보콘텐츠의 생산자로
주로 활동하는 표현의 장에서 활용되는지 혹은 상품 검색과 같이 수동적 대상이 되는 사업
자제공형 서비스에 활용되는지에 따라 분리된 접근과 검토가 요구된다.
둘째, 개인과 관련된 중요한 결정을 위임받아 실행하는 ‘결정 알고리즘’이다. 소위 알고
리즘 결정론(algorithmic de-terminism)의 의미에서 지칭되는 알고리즘이다.14) 결정 알고리
즘은 프로파일링15)에 기반하여 개인의 의사결정을 위임받아 수행하는 인공지능의 의사결정
체계를 뜻한다. 결정 알고리즘은 금융･행정복지시스템에서 활용될 수 있다. 최근에는 로보
어드바이저(RoboAdvisor)를 활용한 인공지능 기반의 금융자문서비스가 금융분야에 활용되
고 있으며, 16) 보험분야에서 도입되는 경우에는 금융정보, 신용정보, 건강정보 등이 포함된
빅데이터 분석결과가 알고리즘을 통해서 제공된다. 이 과정에서 보험사업자들은 과거병력,
신용상태, 보험금 지급내역 등으로 계약자를 범주화하고, 특정 부류를 배제하거나 차등적인
기준을 적용하는 알고리즘을 설계할 수 있다.17) 한편 정부 기관의 전자적 행정행위 또한
및 OS 제공서비스(사용자와 앱개발자를 매개), 온라인 쇼핑몰, ICT 시스템제공서비스(온라인 쇼핑중 개자 등)가 있다. 김민식이가희, 앞의 논문, 3-4면; Google, 네이버 등 인터넷플랫폼에 제공하는 서 비스에는 언론사, 통신사 등으로부터 제공되는 ‘뉴스서비스’, 카페, 블로그, 미니홈피 등이 제공되는 ‘커뮤니티서비스’, 쇼핑, 디지털콘텐츠, 그 밖의 다양한 콘텐츠를 접할 수 있는 ‘검색서비스’가 있다.
12) 알고리즘을 서비스로 제공하는 실무에서는 검색 알고리즘 자체를 ‘로직’이라고 지칭하기도 한다.
13) 예를 들어 Google의 검색 알고리즘인 ‘페이지랭크(PageRank)’는 콘텐츠의 상대적인 중요도를 자체 적인 가중치를 부여함으로써 노출 위치를 배열한다.
14) 예측한 그대로 동작하는 알고리즘을 결정론적 알고리즘(deterministic algorithm)이라고 하는데, 이것 과 다른 의미이다.
15) 자료수집과 처리라는 의미가 원래 뜻으로 임상에서는 특징되는 검사항목을 조합하는 의료 프로파일 링으로도 사용된다. 또한 범죄유형분석법에서 사용되는 프로파일링(profiling)은 범인의 습관, 나이, 성격, 직업, 범행 수법을 추론하는 수사기법으로도 알려진다. 네이버 지색백과, ‘프로파일링’ 검색결 과, https://terms.naver.com/entry.nhn?docId=2066108&cid=50305&categoryId=50305(2020. 10. 30. 최 종방문), 본 논문에서 프로파일링은 인공지능 알고리즘에서 일반적으로 개인의 특징을 분석하거나 평가, 예측하는 여러 가지 형태의 개인과 관련한 정보데이터 처리를 의미한다.
16) 로보어드바이저는 고객의 투자성향, 재무상태, 금융데이터를 알고리즘에 기반하여 제공하는 인공지 능 의사결정시스템이다. 여기서도 4단계 모델은 인간의 개입 없이 운용된다. 금융감독위원회, 금 융상품 자문업 활성화 방안(2016. 3) 자료 참조.
8페이지
행정법연구 제63호 264
인공지능에 위임할 수 있다. 국민에 대해서 직접적인 법 효과를 발생시키는 행정행위를 포
함해서 앞으로 행정행위에 인공지능 의사결정시스템을 도입하는 것은 개인의 생활에 일정
한 의무를 부과하는 측면이 있다.18) 이 밖에도 채용･수상･범죄 예측시스템에 있어서도 결
정 알고리즘이 활용될 수 있다.
위에서 언급한 인공지능 의사결정 시스템들은 알고리즘을 통제하는 편에 유리하게 설계
운영될 여지가 있는 것에 비해, 개인은 알고리즘의 의사결정 과정에서 오류나 차별적 취급
을 인지하기가 쉽지 않다. 특히 결정 알고리즘이 종국적인 의사결정이 된다거나 개인의 이
의제기가 현실적으로 불가능한 경우 개인에게는 심각한 권리침해를 초래할 수 있으며, 이
는 인간의 존엄 및 인간의 자율성을 위협하는 본질적인 문제가 된다.
- 인간의 합리적 의사결정과 자율성의 평가
인공지능은 궁극적으로 완전한 자율성을 추구하지만, 위에서 보는 것처럼 인공지능의 의
사결정은 인간의 최종적인 의사결정 결과와 일치하지 않을 수 있다. 결국 인공지능의 의사
결정에 대한 인간의 개입권은 인간의 의사결정 과정을 들여다보고, 의사결정에 이르는 특
정 단계에서의 자율성의 확보를 설정함으로써 구체화될 수 있을 것이다. 아래에서는 인간
의 자율성에 기반한 합리적 의사결정의 과정을 살펴봄으로써 이원적 규제모델에 고려할 요
소들에 접근하고자 한다.
(1) 인간의 합리적 자기결정의 과정
자율성은 자유와 책임의 요소가 결합된 개념으로, 자율적인 사람은 스스로 만든 규칙에
대한 복종을 통해서 자기 의지에 따라 결정하고 행동하므로 타인의 의지로부터 자유로우며
정치적인 의미에서도 자유롭다.19) 이러한 이상적인 자기결정에는 자기입법(rule)과 자율성
이 고려된 합리적 인간관이 전제된다.20) 대부분의 법체계와 우리의 법제도에서는 합리적
인간관을 채택하고 있다고 볼 수 있으며,21) 이는 우리 헌법재판소의 결정에서도 찾아볼 수
17) 이희옥, “빅데이터환경에서 보험업상 개인정보의 보호와 활용”, 소비자문제연구 제50권 제2호, 한 국소비자원(2019), 147-148면.
18) 김중권, “인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고”, 공법연구
제38집 제3호, 한국공법학회(2020), 302-303면.
19) 칸트의 합리적 인간관에 도덕적 자율성의 모습이다. Robert P. Wolff, In Defense of Anarchism, Harper&Row(1970), 8면.
20) 이러한 인간관에서 인간은 스스로를 구속하는 자기입법을 하는 존재로서 자유의지를 갖는다. Richard Lindly, Autonomy, Humanities Press International(1986), 16-17면.
9페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 265
있다.22)
Gerald Dworkin은 합리적 인간관을 설명하면서, 인간은 ‘비판적 숙고(critical deliberation)’
의 능력으로 합리적 의사결정에 이를 수 있다고 한다.23) 여기서 비판적 숙고는, 자율적인
존재가 자신의 욕구나 희망, 선호, 신념 등 ‘일차적인 내적 동기’들을 그보다 그가 속한 공
동체의 윤리와 같은 상위의 가치에 대응시킴으로써 원래의 욕구나 희망을 수정하는 과정을
거치는 능력으로 설명된다. 일종의 사회적 가치판단을 거친 ‘second-order capacity’로 이해
할 수 있다.24) 본 논문에서는 비판적 숙고를 ‘합리적 자기결정’으로 대체하며, 인간의 의사
결정 과정을 다음의 <그림 1>로 제시하였다.
<그림 1> 합리적 자기결정의 실현과정
21) 우리 헌법은 제10조에서는 국민 누구나 인간으로서의 존엄과 가치를 가지고 스스로의 책임에 따라 자유로운 결정을 할 수 있는 능력을 가진 존재임을 인정하고 이를 보장하는 취지를 담고 있다. 한 편 독일 연방법원은 책임비난의 근거를 인간이 자유롭게 책임있는 존재로서 도덕적인 자기결정을 할 수 있고, 불법을 거부하고 법을 따르는 방향으로 결정하는 존재라는 점에 둔다(BGHSt, 2. 200.). 박은정, “자유의지와 뇌과학: 상호 인정 투쟁”, 법철학연구 제18권 제2호, 법철학연구, 한국 법철학회(2015), 109면.
22) “자기결정권 내지 일반적 행동자유권은 이성적이고 책임감 있는 사람의 자기운명에 대한 결정선택 을 중시하되 그에 대한 책임은 스스로 부담함을 전제로 한다.”라고 하였고, “자기책임의 원리는 인 간의 자유와 유책성, 그리고 인간의 존엄성을 진지하게 반영한 원리로서 그것이 비단 민사법이나 형사법에 국한된 원리라기보다 근대법의 기본이념으로서 법치주의에 당연히 내재하는 원리”라고도 하였다. 헌재 2004. 6. 24. 2002헌가27, 판례집 16-1, 714.
23) 연구자들은 Immanuel Kant의 인간관은 자기입법 보다는 비판적 숙고의 개념으로서, ‘합리적 성찰 능력’을 통해 자기결정을 완성한다고 한다. John Christman, “Constructing the Inner Citadel: Recent Work on the Concept of Autonomy” in Ethics, University of Chicago Press, Vol. 99/1(1988), 109-124면; Richard Anderson, “Autonomy and Preference Formation,” Jules L. Coleman/Allen Buchanan(ed.), In Harm's Way: Essays in Honor of Joel Feinberg(Cambridge University Press(1991), 334면.
24) 의사결정의 주체가 가지는 내적 욕구나 희망을 비판적으로 판단하고, 한층 더 상위의 가치에 따라 스스로 조정하는 내적 성찰을 거친 ‘차선의 결정 역량’으로 이해되나, 영어 그대로 표현하였다. Gerald Dworkin, The theory and practice of autonomy, Cambridge University Press(2001), 20면.
10페이지
행정법연구 제63호 266
<그림 1>은 개인이 ‘합리적 자기결정(II)’에 이르는 과정을 설명한다. 합리적 자기결정에는
‘개인적 인식능력(I)’이 요구되는데, 특정 상황에서 개인이 자기에게 주어진 상황과 사실에
대해서 인식하는 능력이다. 인공지능의 의사결정을 자기결정으로 선택하여야 하는 상황에
서 개인적 인식능력(I)은 자기결정의 판단에서 중요한 기준을 제시하고 있다. 개인의 인식
능력에 영향을 미치는 환경적 요소가 많거나 결정에 요구되는 전제되는 정보의 양이 충분
히 확보되지 못한다면, 개인의 자기결정의 자율성은 보장되기 어려울 것이다.
(2) 의사결정 주체의 자율성 판단문제
1) 주관적 요건
자율성 침해판단의 주관적 요건은 개인에게 합리적 자기결정의 전제조건이 적정하게 갖
추어 있는지를 평가하는 기준을 말한다. 합리적 의사결정 능력은 상황적 인식능력과 가치
판단 능력이 요구되지만, 고도의 기술인 인공지능 환경에서는 이를 개인의 능력에만 맡겨
서는 자율성이 보장되기 어렵다. 예를 들어 정부 기관이 재난복지의 수급인을 결정하기 위
해서 인공지능을 활용하는 상황을 가정해보자. 수급인으로 선정되면 혜택과 함께 일정한
불편이나 불이익도 있을 수 있다. 예를 들어 수급인 후보자는 인공지능의 의사결정 결정에
대한 설명을 듣고, 인공지능의 결정을 승인하여야 하는 상황에서 그는 언어이해능력을 갖
추었지만, 기술적 이해능력은 부족해 인공지능의 결정이 자신에게 부여하는 의미를 이해하
기 어려울 수 있다. 이상의 상황에서 수급인 후보자가 ) 기술적 이해능력을 보완해주는
설명 또는 지원을 통하여 인공지능 의사결정의 의미를 인식하고 그 결정을 수락한 경우 ii)
기술적 이해능력이 부족한 상태에서 일상적 언어 수준에서 이해하고 인공지능 의사결정을
수락한 경우에 각각 처하게 되었다고 가정해보자. 당연히 )의 경우가 인공지능 의사결정
을 자율적인 자기의 결정으로 받아들이게 될 것이다.
이처럼 인공지능의 의사결정 과정과 그 결과를 이해하고 판단하는 과정이 확보되어야만
인간이 자기결정의 주체로서 자율성을 확보할 수 있다. 우선은 인공지능의 의사결정 대상
에 대한 사실인식 및 가치평가에서 개인의 자율성이 확보되어야 한다. 다음으로 의사결정
의 주체인 개인은 스스로 내재된 사회적 가치와 자기입법에 따라 조정된 합리적인 결정
(second order capacity)에 이를 수 있다. 즉 인공지능 의사결정에 대응한 자율적인 주체
로서 개인이 자기결정권을 행사하려면, 인공지능 알고리즘의 처리에 대해서 의도를 갖고
(intentionally), 기술적 처리에 대해 이해하고(with understanding), 인공지능 알고리즘을 통
제하는 누군가의 영향력에서 벗어나 행동(acting without controlling influences)할 수 있어
야 한다.25) 이를 위해서는 첫째, 자기결정을 통제하고 조절하는 개인적 인식능력이 전제되
11페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 267
어야 한다. 둘째, 기술적 언어를 포함한 인공지능의 자동화된 의사결정에 대한 이해가 필요
하다. 셋째, 알고리즘의 통제자로부터 자기의 의사결정을 고수할 수 있는 철저한 자기통제
가 가능하여야 한다. 이와 같은 자율성 침해 판단기준은 개별 사안이 생길 때마다 적용해
볼 여지도 있겠지만, 추상적 기준으로 머무르지 않고 효과를 얻기 위해서는, 인공지능기술
을 둘러싼 이해당사자인 국가, 기업, 개인의 영역에서 각각 규범의 구체화를 고려해볼 수
있을 것이다.
2) 객관적 요건
자율성 침해 판단의 객관적 요건은 인공지능 의사결정에 대한 검증과 같은 절차적 프로
세스에서 고려할 수 있다. 여기에는 ‘인공지능 의사결정’에 대한 정보제공, 뒤따르는 법적
효과에 대한 고지, 개인의 이의선택거절권이 적정한 형태로 제공 여부가 포함되어야 한
다. 이는 개인의 자기결정 측면에서 자율성의 절차적 독립성 여부를 판단하는 기준이 될
수 있다. 정보에 대한 이해를 바탕으로 인간의 의사결정능력을 정리한 Louise Charland의
이론에 따르면, 자율성은 이해(understanding), 평가(appreciation), 추론(reasoning), 선택
(choice),26) 가치(value)로 설명된다.27) 첫째, 이해(understating)는 사실에 대한 기초적 이해
와 지식, 그리고 인지이다. 둘째, 평가(appreciation)는 개인이 당면한 의사결정을 이해하고
가능한 대안과도 연관시켜 이해하는 과정이다. 즉 주어진 상황에 대한 인식과 환경에 대한
내적 통찰을 의미한다. 여기까지의 과정이 합리적 의사결정(그림 1)에서 개인적 인식능력(I)
에 대응된다. 셋째, 추론(reasoning)은 정보를 여러 가지 경우의 수로 비교판단함으로써 잠
재적인 결정에 대한 리스크를 평가하고 비교하는 단계이다. 넷째, 선택은 결정이나 동의를
표출하는 것이다. 여기까지가 ‘합리적 의사결정(II)’에 해당한다.28) 이는 인공지능 의사결정
25) 이와 같은 자율성의 요건은 생명윤리에서 의료적 의사결정권에 있어서 환자의 자기결정권(자율성) 의 필수 요건에서 가져왔다. Tom Beauchamp/James Childress, Principles of Biomedical Ethics(6th ed.), Oxford University Press(2008), 181면.
26) 본 논문의 이해에 따라 선택의 표현(express choice)을 선택으로만 변형하여 표기하였다.
27) Louis Charland, “Decision making Capacity”, Stanford Encyclopedia of Philosophy(2011), https://p lato.stanford.edu/entries/decision-capacity/(2020. 11. 26. 최종방문); Luis Zayas/Leopoldo Cabassa Ca rmela Perez, “Clinician-Patient Ethnicity in Psychiatric Diagnosis”, Journal of Ethnic and Cultural Diversity in Social Work(2008), 93-109면.
28) 이 중에서 마지막 단계로 배제된 가치(value)는 의사결정 주체의 주관적 가치와 사회의 보편적 규 범이나 전문가의 권위가 개입될 수 있기에, 이를 제외하고 나머지를 본질적인 구성요소로 취급해야 한다는 것이다. 그러나 본 논문의 관점에서는 가치(value)야말로 인공지능의 의사결정이 개인에게 중대한 영향을 미치는 경우 그 의사결정의 타당성 내지는 적정성에 관한 검증의 대상으로 포함시 킬 필요가 있어 보인다. 김문근, “성년후견법률에 나타난 의사결정능력의 개념에 관한 연구 - 영국 정신능력법(Mental Capacity Act, 2005)을 중심으로 - ,” 사회복지연구 제41권 제3호, 한국사회복
12페이지
행정법연구 제63호 268
에 대응한 개인의 합리적 자기결정의 과정에 대입해 볼 수 있다. 인공지능 의사결정시스템
은 개인의 자기결정을 인공지능에 위임하는 구조이므로 각 과정에서의 개인의 개입이 보장
되어야 한다. 즉 인공지능 의사결정에서 ‘개인에게 정보와 평가권을 주고, 대안을 선택하거
나, 거절 또는 수락할 수 있는 절차적 프로세스가 적정하게 제공하고 있는지’는 가까운 시
일 내 관련 사안에서 헌법재판소의 자율성 침해 판단기준으로 고려해 볼 만 하다. 아울러
인공지능 의사결정에 대한 평가 및 검증절차는 규범적 차원에서 마련될 필요가 있다. 인공
지능 통제자의 의무사항이 규범적 차원에서 확인될 때, 자율성 침해 판단기준으로서 타당
성을 갖기 때문이다.
Ⅲ. 사전적 규제에서의 이익조정과 규율방안
- 인공지능 규제의 헌법적 접근
인공지능의 의사결정을 대상으로 하는 규율은 단순히 개인과 기업 또는 국가의 구도로
보아 열악한 지위에 있는 개인을 보호하는 방식으로 다루는 것은 적절치 않은 측면이 있
다. 인공지능이라는 특정한 기술은 사인 간에도 기본권 충돌의 문제가 있으며, 그들 간의
자유와 자유가 대립 되는 형태를 보인다. 이에 헌법적으로는 당사자간의 이익조정의 문제
가 필수적으로 수반되므로 규제모델을 구체화하는 시점에서부터 각 당사자의 이익을 입체
적으로 고려하고 조정할 필요가 있는 것이다.
(1) 인공지능 규제모델에서의 관련 당사자
1) 개인
개인은 종국적 의사결정의 주체로 인공지능에 대해서는 의사결정 위임자이다. 빅데이터
와 머신러닝, 알고리즘의 인공지능기술을 이용해 제공되는 콘텐츠, 정부의 행정시스템, 서
비스 등의 소비자이고, 국민의 지위에서 개인이다. 개인은 그가 실제 인공지능 의사결정을
위임했는지와 상관없이 인공지능 의사결정으로 인한 종국적인 의사결정의 주체로서, 인공
지능의 의사결정 과정에 참여하여 개입하거나 거절선택할 권리가 있다.29)
지연구회(2010), 250면 참조.
29) 개인도 인공지능을 활용하는 주체가 될 수 있지만, 인공지능 규제모델의 모색하는 논의에서 개인은 위와 같은 의미에서만 그 법적 지위를 한정하도록 한다. 한편 개인은 인공지능의 의사결정의 종국
13페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 269
2) 사업자, 인공지능 통제자
인공지능의 의사결정시스템을 활용하는 개인과 기업으로 인공지능 통제자이다. 인공지능
은 기술적물리적 실체가 있고, 사업자는 자기의 사업으로 비용을 투자함으로써 인공지능
서비스를 구축한다. 이에 사업자는 인공지능 규제의 핵심적 당사자가 되며, 인공지능서비스
를 제공하고 인공지능 알고리즘을 통제하는 지위에 있다고 할 것이다.
3) 정부
증폭된 위험을 갖게 된 기술사회에서는 당사자 간 조율이 되지 않은 상황에서 국가의
조정과 개입이 요구된다. 기본권 보호의무의 이행으로서 정부는 국가 개입의 규제 주체가
된다. 정부는 인공지능의 의사결정을 둘러싼 사인 간의 이익을 조정할 뿐만 아니라, 국가적
측면에서 자유민주주의를 수호하고 국민 개인의 일상과 사회경제적 이익이라는 ‘공익’에
있어서의 조화를 추구하여야 할 것이다.
(2) 규율의 목적과 대상
인공지능에 대한 규율의 궁극적인 목적은 자기결정의 보장을 통한 인간 존엄과 민주주의
존속에 있다.30) 개인의 능력이나 사회적 배경을 막론하고 누구나 자기에 관한 중대한 결정
을 인공지능의 의사결정만으로 대체해서는 안 된다. 따라서 인공지능의 의사결정 알고리즘
은 인간이 선택할 수 있는 일종의 대안으로 보아야 하고, 그 결정 과정에 적정한 감시와
인간의 개입이 필요한 영역이라고 할 것이다. 이와 같은 관점에서 인공지능에 대한 규제는
다음의 두 가지로 이원화될 수 있을 것이다.
첫째, 인공지능 규제의 규율대상은 데이터 처리에 관한 것이어야 한다. 기본적으로 수집
된 정보를 디지털화하는 작업이란 점은 크게 다르지 않아도, 인공지능의 데이터 처리는 개
별 인식가능한 개인정보 수준의 데이터 처리가 아닌, 개인과 그 주변, 그리고 인간의 모든
환경에 대한 빅데이터 처리이다. 이에 데이터 처리의 절차에 장치를 두어 규율함으로써, 개
적인 귀속 주체이면서도 기술적사회적 한계로 의사결정 과정에 능동적으로 참여하기 어렵다.
30) Felix J. Frankfurter 대법관은 민주주의에 대해서 “약자에 대한 존중과 가치가 없어 보이는 사람에 대한 권리까지도 간과하지 않는 것이 민주주의이며, 우리는 모든 결정에 대해서 은폐하거나 독단적 으로 정해버려서는 안 된다.”라고 하였다. The heart of the matter is that democracy implies respect for the elementary rights of men, however suspect or unworthy; a democratic government must therefore practice fairness; and fairness can rarely be obtained by secret, one-sided determination of facts decisive of rights. Felix J. Frankfurter, Joint Anti-Fascist Refugee Comm. v. McGrath, 341 U.S. 123, 170(1951).
14페이지
행정법연구 제63호 270
인이 인공지능의 의사결정에 관여할 수 있는 절차적 권리를 현실화할 수 있을 것이다.
둘째, 인공지능 규제의 규율대상은 인공지능 알고리즘 처리에 관한 것이어야 한다. 오늘
날 알고리즘은 ‘디지털 인식세계를 여는 열쇠’라고 할 만큼 인공지능의 필수 요소가 되었
다. 인공지능의 의사결정은 빅데이터에 기반한 알고리즘의 학습능력에 기반하므로 그 처리
과정을 개인이 인식하거나 판단하기 어렵다. 이에 인공지능 알고리즘의 처리를 규율대상으
로 삼는 것이 필요하다.
(3) 인공지능 규제에서 고려해야 할 헌법적 가치와 이익조정
1) 인공지능 규제와 관련한 당사자의 기본권
본 논문에서 모색하고자 하는 인공지능의 의사결정의 이원적 규제모델은 개인의 자기결
정권 보장의 방안으로, 필연적으로 개인의 자유와 사업자의 자유가 대립 구도에 놓인다.
첫째, 사업자의 인공지능 알고리즘의 표현의 자유이다. 인공지능의 알고리즘 또는 그 결
과가 보호되는 표현에 해당할 것인지에 대해서는 일률적으로 판단할 수만은 없지만, 사업
자의 인공지능 알고리즘을 통한 검색결과나 알고리즘을 통해 콘텐츠 그대로 예술 또는 문
학적 표현의 목적이 될 수 있을 것이다. 한편 미국에서는 검색 알고리즘과 그 결과물이 표
현의 자유가 대상이 될 수 있음은 법원의 판결로부터 인정된 바 있다.31) 그러나 인공지능
알고리즘의 의사결정이 개인의 자기결정권과 충돌하는 경우 알고리즘의 구현 결과가 공공
의 표현의 자유에 해당하는 것인지, 혹은 결과 자체로 문학이나 예술에 해당하는 표현인지
에 따라 그 보호의 정도는 달라져야 할 것이다. 예를 들어 상품서비스 거래 대상의 알고
리즘과 뉴스콘텐츠 노출에 제공되는 알고리즘의 표현의 자유 보호의 정도는 달라져야 할
것이다.
둘째, 사업자의 인공지능을 활용한 영업의 자유이다. 인공지능 규제에 따라 인공지능의
알고리즘을 활용해 인공지능서비스 등을 수행하는 사업자는 영업의 자유의 기본권 내지는
헌법적 가치를 갖는다. 여기서 인공지능 규제는 사업자의 영업의 자유를 제한하는 문제를
내포한다. 인공지능 규제가 없더라면 사업자는 빅데이터와 알고리즘의 처리에 그 어떤 제
31) 오클라호마 법원은 구글(Google)의 알고리즘에 의한 검색결과로 나타난 페이지랭크가 의견에 해당 하므로 연방 헌법 수정 제1조의 표현의 자유의 대상이라고 보았다. Search King Inc. v. Google Tech Inc.(W.D. Okla, May. 27, 2003); 마찬가지로 뉴욕법원은 바이두(Baidu)의 검색 알고리즘의 표현의 자유를 인정하였다. Kinderstart.com, LLC v. Google, Inc. Case No. C 06-2057 JF (RS), (N.D. Ca., March 16, 2007), 그러나 모든 검색 알고리즘이 표현의 자유로 강한 보호의 대상이 된 다는 법리는 인격권 내지는 명예훼손 소송에서 알고리즘을 통한 단순전달(mere conveyance)이라는 Google 등 사업자들의 주장과 모순되는 측면이 있다.
15페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 271
한이 없이 자신의 사업적 목적과 방식대로 사업을 영위할 수 있을 것인데, 인공지능 규제
로 인하여 그 영업의 자유에 일정한 제한이 생기기 때문이다.
2) 충돌되는 자유의 중요도에 따른 이익조정
인공지능 규제를 설계하는 데에는 인공지능을 활용함으로써 초래되는 당사자 간 기본권
충돌 문제를 고려하여야 한다. 헌법적으로는 기본권 충돌의 문제를 해결하는데 몇 가지 방
법이 고려될 수 있다.32) 첫째, 충돌하는 기본권 간 서열이 객관적으로 인정되는 경우 이익
형량을 통하여 기본권에 우선순위를 둘 수 있다. 둘째, 상충되는 기본권의 보호이익을 최소
한도로 제약할 수 있도록 하고 모두를 고려한 대안의 제시할 수 있다. 또한 극단적인 최후
수단을 억제하는 등 규범조화적 해석방법을 통해서 조화롭게 해결하는 방안이다.
실제 인공지능 규제에서 개인의 자기결정권 보장은 다양한 현실적인 경우의 수가 생길
수 있으므로, 현재는 수많은 인공지능 의사결정에 대한 개인의 자유, 자기결정인 이유에서
기본권 간의 서열을 원론적인 수준에서만 논할 수 있는 한계가 있다. 인간의 존엄성, 일신
상의 자유33), 인격권 내지는 사생활의 비밀과 자유에 미치는 영향이 큰 인공지능의 의사결
정에 대해서는 개인의 자기결정권 보호가 사업자의 자유에 우선할 것이다. 이 경우 인공지
능 의사결정에 대응하여 개인의 자기결정권을 보호하는 규제모델에서 일정한 경우 사업자
의 자유를 상당한 정도로 제한할 수 있다. 이 경우 개인은 인공지능의 의사결정을 거부하
거나 수정선택을 요구할 수 있어야 한다.
한편 개인의 자유와 사업자의 자유가 대립되는 구조에서 인공지능의 규제는 국가적 차원
에서의 공익을 고려하여야 한다. 특히 사전적 행정규제를 강제화하는 경우 그것이 정당화
되는 공적 이익을 섬세히 형량하여야 할 것이다. 예를 들어 결정 알고리즘이 적용되는 결
과로 개인에게 법적 의무가 지워지는 경우이거나 기존에 받은 수혜에서 제외되는 경우에는
공적 이익에 대한 이익형량은 더욱 엄격해져야 할 것으로 보인다. 반대로 한편 디지털플랫
폼의 분리된 광고영역과 같이 사업자가 자신의 자본으로 설비를 투자해 영업활동을 하는
영역 내에서 검색 알고리즘을 사용하는 경우 제한적인 영역에서 개인의 자기결정권과 충돌
한다면, 여기서는 개인의 자기결정권의 보호에만 치우쳐 사업자의 영업의 자유를 훼손하는
결과에 이르지 않게끔 양자 간의 자유의 이익을 조화롭게 형량하는 규범조화적 해석이 요
32) 정종섭, 헌법학원론 제11판, 박영사(2016), 355-356면.
33) 예를 들어 형사 사건의 판결 결과, 개인의 신체 또는 생명과 관련한 의료적 선택이나 결정이 인공 지능 의사결정으로 판단되는 경우 등 기본권의 보호영역에 따라 인공지능의 의사결정시스템이 원 천적으로 금지될 필요도 있을 것이다.
16페이지
행정법연구 제63호 272
구되며, 사전적 규제를 강제할 정도의 공익에 해당하는 자기결정의 영역을 획정하는 것이
전제되어야 할 것이다.
- 규범조화적 규율방안으로서 ‘기술적 적법절차(technological due process)’
데이터 처리에 관한 규제에 대해서 몇몇 연구자들은 빅데이터 분석과정과 알고리즘의 사
용 과정에서의 적법절차를 규제모델로 제시한다. 본 논문에서는 데이터 처리와 알고리즘에
필요한 규율방안을, 빅데이터 분야의 연구자인 Kate Crawford가 제시하는 ‘엄격한 데이터
처리에 관한 프레임워크’34)와 Danielle Citron35)이 제시하는 ‘기술적 적법절차(technological
due process)’36)에 기초해 접근하였다.37) 이러한 방법을 취하는 것은 규율대상에 중심으로
하는 방법론적 접근을 채택하는 데에서 비롯되기도 하지만, 헌법적으로는 인공지능 규제로
발생하는 당사자 간 기본권의 충돌을 규범조화적 규율방안으로서 고려해볼 수 있다. 특히
사업자의 표현의 자유와의 균형에서 데이터와 알고리즘의 내용인 로직을 사전 검열하는 문
제를 일으키지 않는 수준에서 개인의 권리를 보호하는데 적합한 인공지능의 의사결정의 이
원적 규제모델이 모색되어야 할 것이다.
인공지능 의사결정시스템은 위임된 사항을 데이터마이닝과 인공지능기술을 통해서 최적
화된 결정을 도출하는 체계이다.38) 인공지능 알고리즘이 기반한 데이터에 기존의 편견과
사회적 관행이 포함되는 것은 개인의 인격권적 이익과 자율성을 해치는 요소가 된다. 이러
한 문제에 대해서도 Danielle Citron은 기술적 적법절차를 통한 규제가 가능하다고 한다.
그에 따르면, 기술적 적법절차란 “예측 알고리즘(predictive algorithms)의 공정성과 정확성
을 보증하는 일련의 검토와 관리감독의 절차”이다.39)
34) Kate Crawford/Jason Shultz, “Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms”, Boston Law Review Vol. 55(2014), 93-128면.
35) Boston University Law School 교수로 프라이버시와 언론의 자유를 연구한다.
36) 이에 대해서는 ‘기술영역의 적법절차’라고 소개하기도 하지만 본 논문에서는 원문 그대로 표현하기 로 한다. 고학수정해빈박도현, “인공지능과 차별”, 저스티스 통권 제171호, 한국법학원(2019), 246면 참조.
37) Danielle Keats Citron, “Technological Due Process”, Washington University Law Review Vol. 85(2008), 1278-1313면; Danielle Keats Citron/Frank Pasquale, “THE SCORED SOCIETY: Due Process for Automated Predictions”, Washington Law Review Vol. 89/1(2014), 19-20면.
38) 인공지능 의사결정 시스템은 규칙기반시스템, 데이터매칭프로그램, 데이터마이닝 프로그램으로부터 정책과, 공공복지 시스템, 행정기관의 다양한 처분 결정에 기반해 활용된다. Danielle Keats Citron, 위의 논문, 1259-1266면 참조.
39) “technological due process”- procedures ensuring that predictive algorithms live up to some
17페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 273
- 당사자 간 이익조정을 고려한 규제모델의 원칙
인공지능 규제모델의 설계에는 이해당사자들인 개인, 사업자, 정부는 각각의 고유한 이익
을 향유하는 가운데 그들의 기본권이 상호 충돌하는 상황이 고려되는 것이 필요하다. 또한
인공지능의 저변 기술이 급격하게 발전하는 현실을 반영한 규범화 작업이 요구된다. Frank
Pasquale40)는 그의 저서 The Black Box Society 에서 기술사회에서 나타날 수 있는 알고
리즘을 통한 자본과 정보를 통제하는 현상을 두고 비판한다. 그는 알고리즘을 활용하는 곳
곳에서 알고리즘의 복잡성을 핑계 삼아 느슨해진 규제 완화를 시도하고 정당화될 것이라고
말한다. 특히 금융업자들이 알고리즘을 지배하게 되는 경우 그들은 금융당국의 규제를 벗
어나기 위해서 알고리즘의 불투명성을 가중시키는 정책을 역선택할 수 있다는 것이다. 그
리고 이러한 선택들이 본래 규제 완화가 가져올 수 있는 긍정적 효과들(예를 들면 기술 환
경의 활성화)까지도 불식시켜버릴 것이라고 한다.41) 실제로 Google이 검색 알고리즘을 공
개하지 않은 것처럼 기업들은 경쟁력 제고나 비밀유지의 명목으로 자신들의 알고리즘의 규
칙을 비공개로 할 가능성이 높다. 그 결과 소비자의 선택권을 방해하게 되며, 인공지능은
공정하지 못한 알고리즘을 생산하는 도구로도 사용될 수 있을 것이다. 이에 인공지능의 의
사결정에 대응한 규제모델에는 몇 가지 원칙을 중심으로 당사자 간의 이익을 조화롭게 조
정하는 것이 필요하다.
첫째, 투명성의 원칙이다. 기술 특이점(singularity)42)의 관점에서 알고리즘의 투명성은 관
철되기 어려운 가치이다. 알고리즘의 투명성이 강조되는 것은 알고리즘에 구조화된 권력의
영향력으로부터 개인의 자유를 보호하기 위해서이다. 인공지능 알고리즘은 개인을 객체로
분석평가하는 과정을 통해 개인을 다시 투사하는 시스템에서 인간의 자유를 제한하는 위
standard of review and revision to ensure their fairness and accuracy, Danielle Keats Citron Frank Pasquale, 앞의 논문, 19면.
40) 메릴랜드 대학의 법학 교수이자 예일대학 로스쿨 정보사회 프로젝트의 연구원이다.
41) Frank Pasquale, The Black Box Society: The Secret Algorithms that Control Money and Information. Cambridge, MA: Harvard University Press(2015), 2면.
42) 컴퓨터 과학자이자 알파고를 개발한 Google의 Ray Kurzweil은 예측하기를, 미래사회에서 인공지능 은 모든 인간의 지능을 합친 것보다 뛰어난 능력을 갖춘다고 한다. 그가 제시한 특이점(singularity) 은 본래 블랙홀 내 무한대 밀도와 중력의 한 점을 뜻하는 천체물리학상 용어이다. 사회경제적 의미 에서 특이점은 너머를 알 수 없을 정도의 큰 단속적 변화가 이뤄지는 시점을 뜻한다. 기술의 특이 점에서는 미래의 기술변화가 급속도에 이르고 그 영향이 막중해 이전 상태로 되돌릴 수가 없다. 그 야말로 비즈니스 모델부터 인간의 수명에 이르기까지 인간의 삶과 관련된 모든 영역에서의 변화가 발생한다. Ray Kurzweil, THE SINGULARITY IS NEAR: When Humans transcend Biology, Penguin Group USA(2006), 23-24면.
18페이지
행정법연구 제63호 274
험이 있어 그 처리 전 과정에 적정한 통제가 필요하다.43) 한편 투명성이 요구되는 인공지
능 의사결정 시스템에 일정한 기준을 적용하게 하면 ‘투명성’의 추상성을 구체화할 수 있
을 것이다.44)
둘째, 공정성의 원칙이다. 알고리즘의 불투명성, 불가해성과 같은 개념에 대응하기 위한
규범적 체계를 구조화하는데 적용되는 원칙이다. 공정성의 원칙을 실현하기 위해서는 정밀
한 검증을 위해서 조사 도구로써 코드를 사용한 규제방식을 적용할 수도 있을 것이다.45)
공정성은 Jenna Burrell46)의 세 가지 투명성을 방해하는 요소47)를 배제함으로써 공정한 인
공지능의 구현을 위한 구체적 실현 방안을 모색할 수 있다. 그 요소는 (i) 기업 또는 정부
기관의 의도적인 은폐와 사회의 無 감시48) (ii) ‘기술문맹’ 내지는 기술에 대한 이해의 격
차 (iii) 머신러닝의 알고리즘이 성능을 최적화로 불투명성을 가중시키는 기술적 요인이다.
이와 같은 세 가지 요소들은 결과적으로 불공정한 알고리즘을 초래하게 되므로 인공지능의
의사결정시스템을 검증하는 세부기준으로 고려될 수 있을 것이다. 아울러 공적 감독이 가
능한 인증된 기구 등을 둠으로써 인공지능의 예측 알고리즘을 공정하게 관리감독할 수 있
을 것이다.49)
43) 중국의 정부는 2020년을 목표로 Sesame Credit(Alibaba), Wechat(Tencent)와 같은 기업들과 협력해 점수화된 사회신용제도를 추진하고 있다. 이에 따르면 높은 점수를 받은 진정한 시민은 상품구매 할인과 같은 혜택을 받지만, 반대로 낮은 점수를 받는 불성실한 시민들은 자유를 박탈당할 수 있 다. 놀라운 것은 중국의 여론조사에 따르면 80%의 시민들이 슈퍼스코어(Super-Scores)에 대해서 찬 성하였다는 점이다. 일반 시민들에 대한 점수화에 감시가 전제되면 그에 따라 차별, 자유를 제한하 는 결과가 따른다. 이렇게 개인을 점수화하여 가치를 분류하는 것은 민주주의와 인간 존엄을 위협 한다. 이러한 문제점은 공산주의 국가에서 쉽게 심화되지만, 독일에도 영향을 줄 것이다. 따라서 상 업적 목적으로 실행되더라도, 기업의 슈퍼스코어와 같은 데이터 처리 및 (인공지능)의사결정시스템 은 조사되어야 하고, 개인의 참여(정보에의 접근)가 보장되는 것이 필요하다. Gerd Gigerenzer/Felix G. Rebitschek/Gert G. Wagner, Eine vermessene Gesellschaft braucht Transparenz, ZBW Leibniz - Informationszentrum, Wirtschaft(2018), 867-868면.
44) 다음에 검토할 유럽연합의 GDPR은 데이터 처리에 투명성을 추구하고자 프로파일링 거부권을 제시 하고 있으므로 해당 규정의 취지를 살려 이원적 규제모델에 확장적용하는 것도 방안이 될 수 있어 보인다.
45) Nicholas Diakopoulos, “Accountability in algorithmic decision making”, Communications of ACM Vol. 59/2(2016), 30-31면; Frank Pasquale, 앞의 책, 150-164면.
46) 버클리 대학의 정보학 부교수이다.
47) Jenna Burrell, “How the machine “thinks”: Understanding opacity in machine learning algorithms,” SAGE Publishing, Big Data & Society Vol. 3(2016), 2-3면.
48) 대표적으로 국가기밀 또는 기업의 기밀유지 명목으로 은폐될 수 있다.
49) 기존에 검색서비스사업자에 대해서 다른 경쟁사업자와 이용자가 공정하고 투명하게 검색엔진을 이 용할 수 있도록 하는 EU 온라인 플랫폼 규칙(REGULATION (EU) 2019/1150 of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services) ’이 제 정시행되었다. 다만 이는 온라인 플랫폼 시장에서 거래되는 상품서비스의 공정한 거래를 목적으
19페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 275
셋째, 합리성의 원칙이다. 헌법상의 적법절차에서 요구되는 합리성의 원칙은 데이터 및
알고리즘 처리의 검증 내용과 절차에도 적용될 수 있다.50) 구체적으로는 인공지능 의사결
정에 대응한 개인의 대응권의 확보에 필요한 적정한 정보가 검증 내용으로 제공되어야 하
고, 이의거부선택권이 제도적으로 마련돼야 한다. 마찬가지로 합리성의 원칙은 인공지능
규제가 사업자의 기본권을 제한하는 결과를 낳게 될 때도 적용되어야 한다. 특히 개인의
자기결정권을 보호하는 규제모델의 설계에서 규제의 공정성을 유지하고 사업자의 신뢰를
얻으려면, 규제 대상자에 대한 사전통지, 의견 청취가 적정하게 이루어져야 할 것이다.
Ⅳ. 이원적 규제모델의 내용
인공지능의 의사결정으로 인한 위험에 대비해 절차적 공정성과 정확성을 보장할 수 있는
사전적 행정규제가 언급되고 있다.51) 사전적 행정규제는 사실관계가 확정된 후에야 규범적
체계를 만들어내는 것이 법학의 역할임에도 미래에 놓인 기술사회의 위험이 막중할 때 규
율의 효율성을 도모할 수 있다. 사전적 규제는 인공지능의 의사결정으로 인한 사인 간의
기본권 침해의 문제가 사법적 영역으로 들어오기 이전에, 그들 간의 이익을 형량한 규범
체계를 도입하여 인공지능으로 인한 위험들을 효율적으로 감소시키려는 시도이다. 사전적
규제는 행정규제와 기업의 자율규제 두 가지 형태로 취해질 수 있을 것이지만, Danielle
Citron은 인공지능의 자동화된 의사결정에 대해서 효율적인 사전적 행정규제로서 ‘기술적
적법절차’를 제시하고 있어 이를 중심으로 살펴보고자 한다. 기술적 적법절차는 “빅데이터
에 기반한 인공지능 알고리즘의 의사결정 예측모델에 대해서 공정성, 정확성, 책임, 참여를
담보하는 일정한 수준의 조사 및 검토를 보장하는 절차”라고 이해할 수 있다.52) 기본적으
로 어떤 과정의 적법한 절차라는 것은 이해관계에 있는 당사자가 모두 참여하고, 그들 간
의 이익조정이 합리적일 때 공정하게 평가될 수 있을 것이다.
로 온라인 중개서비스제공자를 규제대상으로 보아, 시장경쟁 측면에서 제한되어 규정하고 있으나, 검색 알고리즘에 대한 다양한 문제의식에 대한 몇 가지 문제의식에 근접하고 있다. 예를 들어 상 품서비스 검색결과를 결정하는 주요 변수를 공개하고, 자사 상품서비스를 우대하는 경우 공개의 무를 두고 있으며, 각 이해인을 대표하는 기구의 독립성, 비영리성, 정보 교환에의 의무를 규정하고 있다.
50) 대법원 2012. 10. 18 선고 2010두12347 전원합의체 판결; 대법원 2007.9.21. 선고 2006두20631 판결 등
51) Danielle Keats Citron/Frank Pasquale, 앞의 논문, 1면.
52) Danielle Keats Citron/Frank Pasquale, 위의 논문, 19-20면.
20페이지
행정법연구 제63호 276
- 데이터 처리과정 규제모델
(1) 데이터 처리에서 적법절차의 필요성과 의미
Kate Crawford는 전통적인 개인정보 보호체계가 앞으로의 기술사회에서 작동하기 어려
운 이유로 빅데이터가 개인정보 보호 규제를 회피함으로써 개인정보 보호체계의 기능이 축
소되는 점을 드는데,53) 이는 기술의 질적 변화에 새로운 규제체계의 필요성을 환기시킨다.
인공지능의 구현에 핵심 기술인 빅데이터는 이용자와 상호작용을 통하여 지속적으로 정보
를 수집하고 처리하면서 데이터를 만들어 재생산할 수 있고, 알고리즘에 제공되는 데이터
는 노출시 개인에게 막대한 피해를 끼칠 수 있는 지극히 민감하고 중요한 개인정보를 포함
하므로 그 처리에 제동이 필요하다.54) 빅데이터에 기반한 통합의료시스템에도 심각한 위험
이 있다. 실제 ‘PatientsLikeMe’는 난치병을 겪고 있는 환자들이 건강상태와 치료 정보를
공유하는 통합의료서비스이다. 여기에 환자들은 치료가능성에 기대하면서 개인정보를 제공
하지만, 예측모델에 제공되는 과정에서 정보주체의 인지와 동의를 이끌어내는 장치가 없어
서 개인정보 보호체계에 구멍이 생길 수 있다. 별다른 장치가 없이 한 번의 다운로드만으
로 모든 의료정보와 건강정보를 무분별하게 공중에 제공될 수 있었다.55) 전자상거래 기업
이 빅데이터를 통해 개인의 임신사실까지도 예측이 가능하고, 그를 대상으로 맞춤형 광고
를 공략할 수 있는 것은 이제 더 이상 특별한 일이 아니다.56) 앞으로 보험회사와 같은 민
간기업이 인공지능을 활용해 통합의료시스템을 통해서 계약을 심사하게 되면, 적용된 결정
알고리즘은 미래에 특정 질병에 걸릴 확률이 높게 예측된 고객에 대한 계약의 인수를 쉽게
거절할 수 있다. 이러한 결정이 공정하지 않다면, 개인의 개입권이 보장될 필요가 있는 것
이다. 이러한 우려 속에서도 개인적 이익과 빅데이터로 인한 효용 모두를 포기할 수는 없
53) 개인정보 보호체계라고 했으나, 영미권에서 개인정보 보호에 관한 논의는 프라이버시의 논의로 집 중된다. 그의 논문에서도 ‘traditional privacy protections and frameworks’로 표기하였다. Kate Crawford/Jason Shultz, 앞의 논문, 109면.
54) Kate Crawford/Jason Shultz, 위의 논문, 98면.
55) 2004년, MIT 출신의 엔지니어가 만든 SNS로, 여기서 난치병 환자들은 병의 증세, 병의 진행 과정, 복용하는 약의 효능과 부작용, 재발 정보 등 환자 개인의 질병에 관한 기록을 남기고 노하우를 공 유한다. 생성공유된 데이터는 난치병 환자들에게 병에 대한 정보를 주기도 하고, 개인의 투병 경 험이 담긴 real world data’를 통해서 제약회사나 의료기관이 암, 당뇨 등 난치병에 대한 연구 및 치료제 개발을 할 수 있게 되기도 했다. 다만 특정인의 질환에 대한 정보들이다 보니 유전정보 및 건강정보 등 민감한 정보에 대한 보안과 프라이버시 문제가 논란이 되었다. https://www.patientslike me.com/about(2020. 11. 6. 최종방문).
56) Charles Duhigg, Psst, You in Aisle 5, N.Y. TIMES(Feb. 19, 2012), 30-37면 참조(discussing Target’s pregnance prediction score).
21페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 277
기에 인공지능의 데이터 처리에 제동장치가 필요한 것이다. 데이터의 처리와 빅데이터가
개인을 범주화하고 의사결정의 과정을 규제하는 것을 통해 양자의 이익을 함께 취할 수 있
어야 한다.57) 이에 알고리즘 의사결정의 기반이 되는 데이터의 처리에 대한 타당성과 절차
의 공정성에 대한 평가절차를 마련해 인공지능환경에서의 빅데이터 활용과 개인의 자기결
정권 보호를 동시에 모색하는 것의 검토가 필요해 보인다.
(2) 데이터 처리 절차의 공정성 및 합리성 확보방안
그렇다면, 데이터의 처리를 규제모델에서는 어떤 요소들로부터 구체적인 방안을 마련할
수 있는지가 문제된다. Danielle Citron은 정부가 개인의 재산상 혹은 자유를 영향을 미치
는 결정에 알고리즘을 실행하는 것에 대응해 ‘기술적 적법절차’의 실행방안을 제시하고 있
으므로 그에 기초해 데이터의 처리절차에 적용할 수 있는 규제모델의 요소를 추출해 보았
다.
첫째, 데이터 처리의 규제모델이 공정성을 추구하기 위해서는 데이터의 정확성을 요구하
는 장치가 필요하다. 복지, 의료, 혹은 채용에 있어서 특정인에게 결정 알고리즘이 비합리
적인 상관관계에 따른 요소가 예측모델에 포함된 경우 인공지능의 의사결정에 영향을 받는
개인은 우선은 예측결과가 기반한 데이터상 요소를 발견할 수 있어야 한다. 또한 해당 데
이터가 부적절한 것으로 판단했다면, 인공지능 의사결정에 대해서 언제든지 이의를 제기하
고, 거부할 수 있어야 한다. 이를 위해서는 예측모델에 적용된 일련의 작동 원리와 데이터
의 정확성을 개인이 검증(inspect)할 수 있도록 하는 ‘공적 감사(audit)결과’를 요청할 수 있
는 권리가 구비되어야 한다.58) 그 이전에 실행되는 공적심사는 사업자의 기본권을 합리적
이고 합법적으로 제한하는 근거가 된다.
둘째, 인공지능 의사결정시스템의 결정이 개인의 자유, 재산에 영향을 미칠 때에는 당사
자에 대한 적절한 통지(notice)가 필요하다. 오직 인공지능을 활용한 교통단속 결과에 따라
과태료가 부과될 수 있다. 이 경우 위반 및 과태료 부과 통지는 반드시 행정상 통지이어야
할 것이며 합리적으로 계산된(reasonably calculated) 정보가 함께 제공되어야 한다.59) 또한
이에 앞서 알고리즘의 의사결정 시스템으로 처리된 데이터의 처리에 공적 검토, 조사와 같
은 검증이 적절히 수행되어야 한다. 이런 것들이 전제되지 않을 때, 절차상의 공정성을 확
인할 수 없게 되므로 개인의 통지(notice)를 받을 권리와 개인에게 부담이 있는 행정적 처
57) Kate Crawford/Jason Shultz, 앞의 논문, 109면.
58) Kate Crawford/Jason Shultz, 앞의 논문, 126면. Danielle Keats Citron, 앞의 논문, 1305-1306면.
59) Danielle Keats Citron, 앞의 논문, 1281-1282면.
22페이지
행정법연구 제63호 278
분 결정에서 청문(hearing)에 관한 권리가 침해된다고 볼 수 있다.60) 아울러 정부 기관 외
에서 활용되는 빅데이터에 기반한 의사결정시스템 또한 개인에게 중대한 영향을 미칠 때에
는 데이터 처리에 대한 공정성은 확보되어야 한다. 데이터 처리에 어떠한 통지나 공적인
감독절차가 없다면 개인은 ‘예측된 (사생활의) 결정 해악’을61) 감내해야만 할 것이다.62)
셋째, 데이터 내역 및 항목에 대한 검증은 신뢰할 수 있는 중립적인 제3자에 의해 행해
져야 한다. 이 경우 제3자는 객관적 입장에서 감독과 조정자 역할을 수행하는 독립된 지위
에 있어야 한다.63) Kate Cawford는 미국에서는 FTC가 이러한 중재자로서 기술 인력을 통
해 자동화된 의사결정이 개인의 프라이버시를 침해 사건을 조사하고 있음을 예로 든다.64)
넷째, 위의 요소들이 갖춰진 것으로 전제할 때, 개인은 예측결과와 관련한 이의를 제기
할 수 있어야 한다. 아울러 만약 데이터와 알고리즘의 상관관계가 부적합하다고 인정된다
면, 그 수정을 요구할 수 있어야 한다. 이러한 점은 처리된 데이터의 내역 및 항목에 관한
개인의 이의권 내지는 거부권과 같이 제도적 절차로 구체화될 수 있도록 검토되어야 할 것
이다.
(3) 공정성과 충돌하는 헌법적 가치들의 조화
빅데이터와 알고리즘으로 인한 ‘예측된 (사생활의) 결정 해악’65)의 문제는 개인정보 내지
는 프라이버시, 인격상에 대한 개인의 영역에서의 위험을 초래한다. 데이터 처리에 관한 규
제모델의 내용으로 제시한 사항들은 모두 개인의 권리 보호를 위한 법적 노력에 가깝다.
60) Danielle Keats Citron, 앞의 논문, 1281면.
61) 고객의 데이터를 분석해 고객의 임신을 추정하고, 개인식별정보를 분석해 맞춤형 광고 및 마케팅에 활용하는 것은 프라이버시 침해뿐만 아니라 데이터의 처리로 인한 해악을 초래한다. Kate Crawford 는 이 해악을 예측된 프라이버시 해악(predictive privacy harm)이라고 한다. 한편 미국의 프라이버 시는 사적영역에서 개인의 자기결정을 포함한 권리이다. Kate Crawford/Jason Shultz, 앞의 논문, 95면.
62) 현재는 데이터 처리에 대한 통지나 예측모델에 관해 개인에게 유의미한 통지를 하는 것이 법적으 로 요건화되지 않았기 때문에 사업자 편에서는 예측결과가 기반하는 근거 및 로직을 공유할 필요 가 없게 된다. Kate Crawford/Jason Shultz, 위의 논문, 122-123면.
63) 데이터와 알고리즘 및 코드에 관련한 정보가 투명하게 알려지고, 소비자들이 이를 이해해 위반시 확인할 수 있다는 전제에서, 이러한 조치는 독립적이고 신뢰할 수 있는 감사인(auditor)을 통해서 보증될 수 있다고 한다. Frank Pasquale, 앞의 책, 141면.
64) Kate Crawford Jason Shultz, 앞의 논문, 126-127면. 다만 FTC는 이들 문제를 차별금지법으로 접근 하지는 않는다. 미국에서는 자동화된 시스템을 활용하는 경우 연방거래위원회법(Federal Trade Commission Act) 에서 ‘불공정한 상업적 관행으로 소비자를 기만한 행위’에 대한 법 위반 문제로 처리하고 있다.
65) 각주 61 참조.
23페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 279
이러한 방식을 취하는 것은 개인을 포함한 제3자의 프라이버시 내지는 개인정보 보호와 맞
물려 긴장관계를 이룰 수 있다. 예를 들어 데이터의 정확성을 판단하거나 관련 내역을 개
인에게 통지하고, 그 처리에 대한 조사 및 검증을 제3자에게 위임하는 것은 수행 과정에서
관련인의 개인정보 내지는 프라이버시를 침해할 위험이 있다. 게다가 공적 검증이 이루어
짐으로써 공적 기구나 중재자를 거치므로, 검증결과와 함께 개인정보가 처리되면서 더 많
은 침해적인 상황을 나타날 수 있다.66) 이에 검증에 참여하는 기구는 다른 이해관계로부터
독립성을 유지되어야 하고, 검증 전 과정에서의 기술적 안정보안장치가 구비 되어야 한다.
또한 검증절차에서 감사기록을 남기는 절차는 투명하게 이행되어야 한다. 예를 들어 조
사과정에서 활동기록이 조작되지 않게끔 영구적인 기록을 남기는 것이 고려되어야 한다.
한편에서는 이렇게 데이터 검증과정의 절차를 투명하게 운영하는 것이 인공지능의 차별문
제 해결에 도움이 되지 않는다고 보기도 하는데, 이와 같은 관점에서는 인공지능의 검증과
정에서 인공지능 통제자의 알고리즘 왜곡보다 심각한 부정행위가 발생할 수 있기 때문이라
고 한다.67) 그러나 투명성으로 악용한 사례에 대해서는 엄중한 책임을 지게 하는 등으로
엄격한 검증절차를 확립함으로써 보완하는 방향이 바람직한 것으로 보인다.
(4) 인공지능의 의사결정에의 GDPR 적용 가능성 검토
1) 인공지능 의사결정의 우려와 일반데이터보호규정의 배경
알고리즘의 활용으로 인공지능 의사결정에 대한 우려가 제기되고 있는 상황에서 유럽연
합의 일반데이터보호규정인 ‘GDPR’이 발효되었다. 2018년 5월에 시행된 GDPR은 유럽연
합 회원국들의 정보데이터에 관한 권리보호를 위한 법률이다. 그 표면적 배경은 미국에 기
반을 둔 IT 기업들로부터 유럽시민들의 데이터에 관한 권리를 보호하는 것이지만, 정치적
으로는 미국에 기술적경제적 우위를 뺏기지 않으려는 의도도 남겼다고 이해된다.68)
66) 고학수/정해빈/박도현, 앞의 논문, 247면.
67) Betsy Anne Williams/Catherine F. Brooks/Yotam Shmargad, “How Algorithms Discriminate Basedon Data they Lack: Challenges, Solutions, and Policy Implications”, Journal of Information Policy Vol. 8(2018), 78면.
68) 2016년 5월 제정된 유럽연합의 GDPR(Regulation on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC, General Data Protection Regulation)은, 유럽 내 디지털 단일 시장(Digital Single Market)을 형성하고, 정보의 자유로운 이동을 보장하면서 한편으로는 회원국의 정보주체 (data subject)의 개인정보 보호에 관한 권리를 강화한 법률이다. 지난 2018년 5월 25일부터는 기존 유럽연합의 1995년 개인정보보호 지침(Data Protection Directive 95/46/EC) 을 대체해 효력을 발 생하였다.
24페이지
행정법연구 제63호 280
GDPR의 데이터 처리에 대한 원칙과 규정은 인공지능의 의사결정에 기반한 서비스와 상
품의 제공에 있어서 개인의 자기결정에 관한 권리를 주장할 수 있는 근거로 적용될 여지가
있지만,69) 인공지능 규제에 GDPR의 법제도를 도입하는 것에는 인공지능의 의사결정시스
템에 적용할 수 있는 보다 직접적인 연결고리 유무를 검토하는 것이 필요하다. GDPR의
일부 조항에서는 정보주체가 프로파일링 등 자동화된(automated) 의사결정의 처리내용을
명확하게 전달받을 수 있는 권리와 자동화된 의사결정에 개입할 수 있는 권리를 명시적으
로 보장하고 있다.
GDPR의 관련 규정들은 대부분 데이터의 수집 및 보관에 관한 규정을 두고 있고, 특별
히 제22조에서 프로파일링 등 자동화된(automated) 의사결정에 대해서 규정하고 있다.70)
하지만 그 의사결정이라는 것이 데이터 프로세스를 지칭하는지 또는 데이터 처리를 기반한
알고리즘의 의사결정, 예측모델까지 적용할 수 있는지가 모호하다.71) 엄밀히 말한다면,
GDPR은 데이터 처리를 규율하여 오직 자동화에만 결정된 결과에 대해서 인간이 개입하고
이의할 수 있는 근거를 규율한 법률이라고 보아야 한다. 다만 관련 조항은 직접적으로는
데이터 처리를 대상으로 한 제한 규정더라도 결국에 궁극적으로는 인공지능 알고리즘의 자
동화된 의사결정까지도 포함하려는 의도까지도 고려했다고 해석하는 것이 적절해 보인다.
한편 자동화된 의사결정시스템과 관련한 GDPR의 규정은 다음과 같은 특징이 있다. 첫
째, 자동화된 의사결정으로부터 보호되어야 할 권리를 국가 차원에서 입법함으로써, 자동화
된 의사결정시스템으로부터 자국민의 권리를 보호하는 최소한의 장치를 두고 있다. 구체적
으로 데이터 처리로 인한 의사결정에 제한을 둠으로써, 공정성과 투명성을 확보하고 처리
자의 신뢰성을 도모한다. 둘째, GDPR은 알고리즘의 자동화된 의사결정에 있어서 정보주체
의 권리를 보장한다. 셋째, 법률 위반 시 강력한 법적 강제력을 동원함으로써 데이터 처리
에 기반한 알고리즘의 의사결정에도 제동을 걸 수 있는 근거가 될 수 있다.72)
69) GDPR과 인공지능 알고리즘의 차별금지와 설명을 요구할 권리에 대한 관련성을 검토한 대표적인 논문으로는 Bryce Goodman/Seth Flaxman, “European Union regulations on algorithmic decision-making and a right to explanation”, AI Magazine, Vol. 38/3(2017), 1-9면 참조.
70) Bryce Goodman/Seth Flaxman, 위의 논문, 1면.
71) 제4조 정의 조항에 따르면, 데이터 프로세스는 자동화 수단 여부와 관계없이, 단일의 또는 일련의 개인정보에 기반하여 실행되는 작업으로서, 수집, 기록, 편집(organization), 구성, 저장, 가공 또는 변경(adaptation or alteration), 검색(retrieval), 참조(consultation), 사용, 이전을 통한 제공, 배포, 기 타 방식으로의 제공(dissemination or otherwise making available), 연동이나 연계(alignment or combination), 제한, 삭제 또는 파기 등이 포괄적으로 해당한다고 한다.
72) GDPR은 유럽연합의 법률이다. 미국에 기반을 둔 Google과 같은 글로벌 IT 기업들의 유럽 시장에 대한 영향력을 견제하고 이들의 자동화된 의사결정시스템에 대응하려는 목적에서 개인정보 보호 법제를 마련한 것으로 이해할 수 있다. 특히 개인정보처리를 취급함에 있어서 데이터 컨트롤러(제4
25페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 281
이러한 이해를 바탕으로 GDPR의 관련 규정은 다소 광범위하고 막연한 자동화된 의사결
정에 관한 금지규정임에도 불구하고, 글로벌 기업들이 개인의 정보에 관한 처리 과정을 의
도적으로 은폐하거나 기술문맹으로 자국민의 정보데이터에 관한 권리가 침해되는 상황에서
국가적 차원에서 마련한 최소한의 보호장치임은 틀림없다고 생각된다.
2) 설명을 요구할 권리
GDPR은 ‘설명을 요구할 권리’를 규정하였다.73) 인공지능의 알고리즘은 데이터 처리에
근간해 의사결정을 내린다. 그리고 알고리즘의 공정성은 데이터 처리의 객관성, 알고리즘과
의 관련성(품질)에 따라 결정된다. 그러나 GDPR은 자동화된 의사결정을 규율하면서 데이
터에 대한 규제와 알고리즘에 대한 규제를 구분하는 구도를 의도한 것은 아니므로, 개별
규정의 문맥상 해석에 따라 규율대상을 제한적으로 적용하는 것이 바람직하다. 따라서 여
기서는 데이터 처리의 규제에서 관련 규정의 해석을 통해 추상적인 원칙을 이끌어내는 것
으로 제한한다.
일반적으로 GDPR의 ‘설명을 요구할 권리’는 적법성과 공정성, 투명성과 관련한 조항들
에서 구체화되고 있다. GDPR 제5조 제1항(a)에서는 “데이터는 정보주체와 관련하여 적법,
공정, 투명하게 처리되어야 할 것”을 규정한다. 다음으로 제12조 제1항에서는 “데이터 컨
트롤러는 간결하고 투명하고, 이해하기 쉬운 방식으로 명확하고 평이한 언어를 사용하여
정보주체에게 제공하기 위한 적절한 조치를 취해야 한다.”라고 규정하고, 제13조 제2항에
서는 “데이터 컨트롤러와 데이터 프로세서는 개인정보가 수집될 때 공정하고 투명한 처리
를 보장하고, 필요한 추가정보를74) 정보주체에게 제공해야 한다.”라고 규정하고 있다.75)
조 제7항:‘controller’ means the natural or legal person, public authority, agency or other body which, alone or jointly with others, determines the purposes and means of the processing of personal data; where the purposes and means of such processing are determined by Union or Member State law, the controller or the specific criteria for its nomination may be provided for by Union or Member State law)에 나아가 데이터 프로세서(제8조 제4항: ‘Processor’ means a natural or legal person, public authority, agency or other body which processes personal data on behalf of the controller)에 대한 책임을 강화했고, GDPR의 적용대상에 글로벌기업을 포함하고(제3 조 제1항), 위반 시에는 최대 2천만 유로 또는 전체매출의 4%에 해당하는 금액 중 큰 금액이라는 막대한 과징금을 부과할 수 있는 규정을 두었다(제83조 제5항).
73) GDPR에서는 명시적으로 설명을 요구할 권리에 대해서 정의하지는 않았다. 그러나 정보주체의 개 인정보데이터를 바탕으로 알고리즘이 예측한 결과 값에 대한 정보를 제공할 권리를 갖게 된다고 이해하는 것이 타당하다. Bryce Goodman/Seth Flaxman, 앞의 논문, 6면.
74) 개인정보 보호법제에서 일반적으로 요구하는 개인정보 처리의 기준에는 개인정보의 보관기관, 사용 기준 및 열람, 정정, 삭제 요구권, 반대권, 개인정보 이전권, 동의철회권, 감독기관에 민원을 제기 할 권리 등이다. 자세히는 GDPR 제2조 (a)~(f) 참조.
26페이지
행정법연구 제63호 282
Danielle Citron이 제시한 기술적 적법절차에서는 데이터 처리과정의 공정성을 판단하는
검증과정이 요구되었다. 바로 데이터 처리에 관한 정보를 개인이 요구할 수 있는 권리가
보호되어야 한다는 것이다. 일반적으로 이 권리는 ‘설명을 요구할 권리(right to
explanation)’로 이해된다. 그런데 본래 설명을 요구할 권리는 국가나 정부기관이 공권력을
행사하는 경우 공권력 행사로부터 개인을 보호할 수 있는 행정절차법상의 중요한 권리이기
도 하다. 이 권리는 정부 기관이 인공지능 의사결정시스템을 통해 국민의 기본권을 제한하
는 행정행위를 실행할 경우 반드시 보장되어야 하는 ‘알 권리’이기도 하다.76) 설명을 요구
할 권리를 통해서 국민은 행정적 처분에 대한 자의적인 공권력 행사에 대해서 정보를 요청
할 수 있어서 의사결정의 경로를 확인할 수 있어야 한다.
한편 사인 간의 관계에서 인공지능이 활용되는 경우에도 설명을 요구할 권리는 필요하
다. 설명을 요구할 권리는 사인 간의 기본권을 보호하고, 특히 인공지능과 그 소유 및 운
영자의 분리로 인한 책임 분산의 문제에서 개인의 자기결정권을 보호하기 위한 장치가 될
수 있기 때문이다. 다만 그 권리가 미치는 적용 범위는 인공지능 의사결정이 개인에게 미
치는 중요도에 따라서 달리함이 필요하다. 무엇보다 이는 인공지능서비스를 제공하는 사업
자가 자율적으로 서비스 약관, 윤리원칙 등을 통해 이용자를 보호하는 방식으로 실현되는
것이 바람직할 것이다. 아울러 사인 간의 계약에서는 절차상의 감독 내지는 개입을 제3의
기구에 두어 당사자 간 이익조정을 중재할 수 있을 것이다.
3) 프로파일링에 관한 개인의 권리
GDPR은 정보주체에 대한 권리 보장장치를 둠으로써, 인공지능 의사결정의 데이터 처리
에 있어서 개인의 대응권을 강화하는데 적용할 수 있는 몇 가지 조항들을 두고 있다.
첫째, GDPR은 자동화된 의사결정에 대응해서 정보주체의 거절권을 두고 있다. 제22조에
서는 프로파일링77) 등 자동화된 의사결정에 대한 권리로 “정보주체는 프로파일링과 같이
75) 특히 컨트롤러는 제13조 제2항 (f)에서 “제22조(1) 및 (4)에 규정한 프로파일링, 자동화된 의사결정 의 유무, 최소한 이 경우 관련 논리(logic)에 관한 유의미한 정보, 그 처리가 정보주체에 미치는 중 대성 및 예상결과를 제공해야 한다.”라고 규정함에 따라 자동화된 의사결정에 적용된 알고리즘의 논리(logic)에 대해서 설명을 제공할 권리가 정보주체에게 주어져 있다고 보아도 무방할 것이다.
76) 행정절차법에 따르면 설명할 권리는 국가나 정부기관의 행정처분에 대해서 개인은 그 내용의 명확 한 해석을 요구할 수 있는 것으로 이해된다. 개정안은 다음과 같다. 제5조(투명성) 행정청이 행 하는 행정작용은 그 내용이 구체적이고 명확하여야 한다. 행정작용의 근거가 되는 법령 등의 내 용이 명확하지 아니한 경우 상대방은 해당행정청에 그 해석을 요청할 수 있으며, 해당 행정청은 특 별한 사유가 없으면 그 요청에 따라야 한다. 행정청은 상대방에게 행정작용과 관련된 정보를 충 분히 제공하여야 한다. <전문개정 2019. 12. 10., 시행일 2020. 6. 11.>
77) 프로파일링의 의미는 GDPR 제4조 정의 조항에 따르면, 개인의 특징을 분석하거나 예측하는 등 해
27페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 283
본인에 대하여 법적 효력 또는 중대한 영향을 미치는 자동화된 처리에‘만’ 근거한 결정의
적용을 받지 않을 권리를 갖는다”라고 규정한다(제1항). 또한 ‘회원국 법률’ 또는 ‘데이터
주체에 근거한 명시적 동의’라는 단서를 전제(제2항)하기는 하지만, 계약의 체결 또는 수행
에 필요한 경우 ‘인적개입, 정보주체의 관점을 주장할 수 있는 이의권을 보호하는 적절한
안전장치를 제공(제3항)’함으로써 개인이 의사결정에 개입하고, 수정을 요청할 수 있는 여
지를 두고 있다. 그리고 이러한 안전장치가 없는 경우 개인정보에 근간한 ‘프로파일링’을
금지한다(제4항). 여기서 프로파일링은 개인에 대한 데이터 처리의 일부이며, 규제대상은
데이터에 기반한 자동화 처리로 해석하는 것이 타당해 보인다.78)
둘째, 전문 제71조에서는 컨트롤러에게 프로파일링에 있어서 개인정보를 부정확하게 만
드는 요인에 대해서 정정하고, 오류에 대한 위험을 최소화하는 기술적관리적 조치를 시행
하도록하는 의무를 부과하고 있다.79)
4) 자동화된 의사결정에 대한 GDPR 규정의 한계
이하에서는 인공지능 알고리즘의 자동화된 의사결정과 관련지어 볼 수 있는 GDPR의 규
정을 설명을 요구할 권리와 프로파일링에 대한 제한으로 구분해 살펴보도록 한다.
우선 설명을 요구할 권리를 기술한 규정을 살펴보면, 정보주체에게 데이터 처리에 대하
여 ‘통지받을 권리’와 ‘수집된 정보에 접근할 권리’를 부여하고 있다. 전자는 정보주체가
정보 및 그 처리에 대한 정보를 요구시 관련 내역을 정당하게 요구할 수 있는 권리이고(제
13조 및 제14조), 수집된 개인정보 및 그 처리 기준, 시점, 제공자 등에 정보주체의 접근
열람권을 말한다(제15조). 각각의 권리는 보호대상과 내용을 달리하므로 구분돼 인정되는
것이 필요하다.
다음 제22조에서는 정보주체의 권리와 자유, 정당한 이익을 보호하는 안전장치의 시행을
요구하고, 이러한 조치가 없는 경우 제9조 제1항에 따른 개인 식별을 목적으로 하는 개인
당 개인의 특성을 평가하기 위하여 행해지는 모든 형태의 ‘자동화된(automatic)’ 개인정보 처리 (Profiling is “any form of automated processing of personal data consisting of the use of personal data to evaluate certain personal aspects relating to a natural person”)를 의미한다.
78) 제4조에서는 “프로파일링은 자연인의 업무 성과, 경제상황, 건강, 개인적 선호도, 관심, 신뢰도, 행 태, 위치, 이동에 관한 측면을 분석하거나 예측하려고 실행되는 것으로서 개인정보를 기초로 자연 인의 개인적 성향을 평가하기 위해 행해지는 모든 형태의 자동화된 개인정보의 처리를 가리킨다.” 라고 규정하고 있는데, 이로써 GDPR은 데이터를 분석하여 예측 결과를 도출하는 프로파일링에 특 별한 주의를 있음을 알 수 있다.
79) 인종, 출신(민족), 정치적 견해, 종교나 신념, 노동조합에의 가입 여부, 유전적 상태, 건강상태, 성적 취향에 근 거해 개인을 차별하는 위험을 언급하고 있다.
28페이지
행정법연구 제63호 284
정보의 처리를 금지한다, 특히 이 조항이 ‘설명을 요구할 권리’ 규정들과 구분되는 점은
‘정보주체의 권리와 자유에 대한 안전조치’를 요구한 점이다. 다만 본 조항에서는 명시한
안전조치가 무엇인지에 대해서는 구체적인 설명이 없어서 불명확한 측면이 있다80).
한편 제13조 및 제14조에서는 프로파일링 등 자동화된 의사결정에서 정보주체는 ‘자신에
게 의미 있는 정보’ 및 ‘자신에게 미치는 중대성’, ‘예측 결과에 관련한 정보’ 및 ‘관련한
논리(logic)에 관한 정보’를 제공받을 권리를 갖는다고 한다. 여기에서도 ‘관련한 논리에 관
한 정보’가 의미하는 것이 무엇인지는 명료하지 않은 편이다.81) 해석하기로는 ‘데이터 처리
에 수반된 알고리즘의 논리’로서 ‘의사결정의 이유를 이해할 수 있는 출처, 자료주체에 대
한 내용’ 내지는 ‘설명될 수 있는 정보’로 볼 수 있을 것이지, ‘전체 알고리즘에 대한 복잡
한 설명이나 공개’로 보아서는 안 될 것이다.82)
검토한 바와 같이 GDPR의 조항들은 비록 구체적이지는 않더라도 인공지능 알고리즘의
자동화된 의사결정을 규율하는데 근거가 되는 필수적인 항목들은 준비하고 있다고 보여진
다. 다만 이러한 권리들이 정보주체의 독점적인 권리라고 보기는 어렵다. 개인과 관련한 정
보데이터가 개인의 독점적이고 배타적인 소유권 안에 있는 것은 아니기 때문이다. 오히려
자동화된 의사결정에 정보주체가 개입할 권리를 규정한 것은, 프로파일링을 포함한 데이터
처리의 결정을 낳는 이해관계자들의 권리를 함께 인정한다고 볼 수 있다. 이러한 관점에서
GDPR 규정은 정보처리에 대한 각 당사자의 권리와 의무를 설명하고 있는 것으로도 이해
할 수 있다. 이와 같은 맥락에서 GDPR의 규정을 인공지능의 의사결정에 적용시켜 개인이
자신과 관련된 의사결정의 적용된 데이터의 처리과정에 개입할 수 있는 대응권으로 볼 것
같으면, GDPR의 제정의 취지를 확대해석하고 개인정보 보호 및 처리의 프레임에서 탈피
하여야 한다.83)
80) 제22조 제3항 “ the data controller shall implement suitable measures to safeguard the data subject’s rights and freedoms and legitimate interests, at least the right to obtain human intervention on the part of the controller, to express his or her point of view and to contest the decision”
81) 예를 들어 인간의 개입을 확보하는 권리에 대한 안전조치가 무엇인가 하는 의문이 있을 수 있다. Bryce Goodman/Seth Flaxman, 앞의 논문, 6면.
82) 2018. 2월경 채택된 GDPR의 자동화 처리에 의한 개인에 관한 결정 및 프로파일링에 관한 규정을 명확화하는 가이드라인에는 이와 같은 설명이 보다 구체화되어 있다. “The GDPR requires the controller to provide meaningful information about the logic involved, not necessarily a complex explanation of the algorithms used or disclosure of the full algorithm. The information provided should, however, be sufficiently comprehensive for the data subject to understand the reasons for the decision.”, Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679 25면.
83) GDPR의 규정(제22조, 제13~제15조)은, 설명을 요구할 권리가 명시되어 있지 않다고 보기도 한다.
29페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 285
- 알고리즘 의사결정 규제모델
(1) 공인된 제3자의 검증절차
인공지능의 알고리즘에 대한 규율로 알고리즘의 소스코드나 주석을 공개함으로써 공적
독립된 감사기구의 조사 내지는 감독을 받는 방식이 제시된다. 특히 인공지능의 의사결정
에 있어서 기술적 적법적차를 주장하는 연구자들은 알고리즘에 대해서 감사 추적(audit
trail)을 남길 의무를 제시하고 있다.84) 알고리즘 설계과정에 대한 공적인 검사와 감독은 차
별적 취급, 알고리즘의 오류 발생, 일반화로 인한 프라이버시 침해 및 자기투사의 위험을
예방할 수 있을 것이다.
한편 기록된 감사 추적에 대해서는 누가 조사나 판단을 할 수 있을지가 문제가 된다.85)
알고리즘의 의사결정에 대한 판단을 특정인에게 독점적으로 주는 것은 배제된 이해관계인
이나 공익에 부합하지 않을 수 있기 때문으로 바람직하지 않다. 기술적 이해능력의 차이를
고려한다면 전문성 있는 독립된 기구를 중재 또는 개입으로 삼는 것이 검증의 공정성에 도
움이 될 것이다.86)
아울러 감사 추적에 관한 평가 결과에는 개인 및 사회 일반의 합의와 수긍이 필요하다.
Danielle Citron과 Frank Pasquale은 이를 상호작용 모델링(interactive modeling)이라고 하
며, 일종의 사전규제에서의 사회적 합의와 소통의 문제로 바라보았다. 이는 민주주의 숙의
과정과 다르지 않으므로 알고리즘의 의사결정에 대한 공적 기구의 조사 및 감사절차에 당
연한 전제 요소가 되어야 할 것이다.87)
정보주체는 데이터 주체가 연관된 로직과 자동화된 의사결정 시스템의 중요성과 예견된 결과에 대 해서 필요한 경우 제한된 정보를 수령할 권리가 있음을 명시하고 있을 뿐이라고 본다. 이에 따르면 GDPR은 인공지능과 같은 자동화된 의사결정 시스템에 대해서 데이터 주체의 설명요구권을 인정하 고 있기보다는, 제한된 형태로 “정보를 제공받을 권리(right to be informed)”를 인정하고 있다고 할 것이다. Sandra Wachter / Brent Mittelstadt /Luciano Floridi, “Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation(December 28, 2016)”, International Data Privacy Law Vol. 7/2(2017), 78면.
84) 감사추적이란 의사결정의 기초가 된 자료와 그에 대한 조사기록을 말한다. 또한 알고리즘의 예측모 델에서 적용된 상관관계와 추론에 대한 규칙에 여기에 포함될 수 있다. Danielle Keats Citron/Frank Pasquale, 앞의 논문, 28면 및 43면 참조.
85) 공정한 제3의 기관에 대한 신뢰의 확보, 감사의 대상, 감사기준, 검증과정의 판단기준에 대한 구체 적 기준 등의 구체화에서 실무적인 어려움이 예상된다. 관련해서는 알고리즘의 유해성을 조사하는 기구를 신설할 수 있다. Kate Crawford/Jason Shultz, 앞의 논문, 123면 참조.
86) Danielle Keats Citron/Frank Pasquale, 앞의 논문, 31면 및 43면.
87) 예를 들어 신용기록에 연체금에 대한 상환 방법(월급 또는 일과 외 근무를 통해서 상환할지)는 개 인의 상황에 따라 이해를 달리한다. 또한 캐나다 시민권을 얻는 방법으로 프랑스어나 대학원 학위
30페이지
행정법연구 제63호 286
(2) 알고리즘의 투명성 확보방안
알고리즘의 투명성의 제고는 알고리즘 규제에서 또 하나의 중요한 요소이다. 혹자는 알
고리즘을 통제하는 자가 후세대의 권력을 쥔다고 하는데, 투명성은 알고리즘의 영향력을
제한하고 그 권력을 분산시키는 정책의 설계에 유용하다. 알고리즘의 투명성은 인공지능
의사결정시스템이 개인을 평가 시 점수로 연결되는 가중치에 대한 기준을 공개하는 것으로
실현될 수 있다. 그런데 이러한 공개는 알고리즘의 투명성을 높일지는 몰라도 소위 경쟁적
인 역학관계에 놓이기도 한다. 예를 들어 특정 알고리즘의 평가기준이 공개되면, 이를 악용
해 알고리즘의 평가점수를 조작하려는 시도가 얼마든지 있을 수 있다.88) 또한 알고리즘에
서 형성되는 권력 구도는 공사 간, 공적이익 간, 사인 간의 충돌 문제도 있기 때문에 알
고리즘의 투명성을 강조하는 조치에는 그로 인한 실효성이 충분히 검증된 상황에서 개인의
자기결정권과 공적 이익의 이익형량 및 그 정당성에 대한 검토가 확실할 때 시행되는 것이
바람직하다.
한편 투명성에 관한 정책은 공익적 측면에서 매우 중요하다. 지난 2009년 미국에서는 오
바마 정부가 투명한 정책의 강화하는 일련의 과정에서, 공공 안전과 관련돼 기존에 비공개
였던 정보, 상품서비스에서 특정 소비자를 차별하는 행위, 이밖에 부패의 문제들에 대해서
투명성 원칙을 적용하기도 하였다. 투명성의 원칙을 정책적으로 강제하는 방식은 공공의
안전에 직접적 관계가 있는 식당의 위생과 음식 조리과정에 대한 검사, 자동차의 안전검사
를 하는 데에는 상당히 효과가 있다. 반대로 국민 개개인의 건강상태(예를 들어 비만 문제)
에 적용한다면 개인 영역에의 침해라는 역효과가 나타나기도 하였다.89) 이오 같이 알고리
즘의 투명성에도 모든 산업에 동일한 수준으로 요구할 수는 없을 것이다. 따라서 알고리즘
에 관한 투명성 정책의 시행에는 먼저 일반 국민들의 의견과 시장에 미칠 영향 등을 총체
적으로 감안한 실효적인 정책을 마련하는 것이 필요하다.
(3) 알고리즘의 책임성(Accountability) 확보방안
를 취득하는 것이 30대에게는 도움이 되지만, 50대 이상의 사람들에게도 아주 효과적이라고는 할 수 없는 것이다. 이와 같이 자동화된 의사결정에 대하여 영향을 주는 요소를 정하거나 가중치를 부 여하는 방식 등은 사회의 특정 부류가 일방적으로 결정할 수 있는 일은 아니다. Danielle Keats Citron/Frank Pasquale, 위의 논문, 28-30면 참조.
88) 검색엔진의 검색 알고리즘의 기준에 대한 공개를 요구하는 목소리가 많지만, 실제로 일부 요소가 미치는 기준이 공개된 경우 이를 역으로 이용해 마케팅에 오용하거나 검색어의 기계적 입력을 통 해서 결과를 조작하는 오남용이 문제시된다.
89) Nicholas Diakopoulos, 앞의 논문, 11면.
31페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 287
알고리즘의 책임성은 인공지능의 여러 가지 기술적 요소들과 관련된다. 알고리즘의 의사
결정에서의 알고리즘의 설계와 선택, 훈련 데이터와 관련한 모든 적용과 해석에서 인간은
무관하지 않다. 적어도 법의 영역에 있어서는 책임은 일정한 법적 효과를 포함한 용어이다.
예를 들어 불법행위나 계약위반 등으로 인한 손해 또는 손실에 원인을 제공한 자가 책임을
부담하는 문제가 법적 책임이다. 그런데 인공지능의 경우 행위자의 책임을 묻더라도 불법
혹은 위반행위에 가담한 행위자가 분산돼 그에 대한 책임을 논하기 어렵고, 결과에 미치는
행위자와 원인이 되는 책임 제공의 위험의 크기와 정도를 파악하기도 굉장히 어려운 일이
다. 책임귀속을 위한 책임 가중, 배제 등 그 무엇도 성공적으로 하기가 어려운 편이다. 90)
이와 같은 점에서 인공지능의 의사결정에 관한 책임에 대한 문제는 쉽지가 않다.
인공지능의 대한 책임의 문제는 Nicholas Diakopoulos가 알고리즘의 의사결정 과정을 분
류한 것에서 몇 가지 착안점을 얻을 수 있다. 그는 알고리즘의 의사결정 과정을 우선순위
화(prioritizing), 분류(classfication), 연관지음(association), 필터링(filtering)으로 분석하고 있
다. 이 각각의 과정은 알고리즘에 대한 검증에 좋은 구조를 제공해준다.
첫째, 우선순위화(prioritizing) 과정에서 알고리즘이 우선순위로 처리한 결정의 근거 기준
및 그 타당성에 대한 평가가 가능하다. 둘째, 분류(classfication) 및 연관지음(association) 과
정에서는 각각의 기준을 확인해 기준의 편향성 또는 정치적인 가치의 유무를 식별할 수 있
다. 셋째, 알고리즘 자체의 오류에 관한 정보를 확인하는 것이다. 예를 들면, 알고리즘의
데이터세트 처리에 오류에 관한 기록을 남기고 그 보완에 투여된 방법의 적정성을 평가할
수 있다. 넷째, 알고리즘에 적용된 함수에 대한 정의 또는 연관 작업을 하는 알고리즘에
적용된 대체된 함수의 논리에 대한 분석을 검토할 수 있다. 다섯째, 알고리즘에 의해 특별
히 강조 또는 배제되는 정보의 적정성을 재차 확인해 알고리즘이 기반한 데이터세트에 대
한 편집기준, 필터링에 대한 평가가 실행될 수 있을 것이다.91)
이와 같이 알고리즘의 의사결정 과정별로 구분해서 실행하여 알고리즘에 대한 감사추적
을 실행남긴다면, 단계별 과정에 참여한 행위자에 대한 의무를 부과하거나 책임을 배분하
는 것이 그나마 수월해질 수 있다. 아울러 객관적인 조사와 검증이 특히 필요한 영역에서
는 알고리즘의 식별방식, 샘플링, 연관성에 적용된 함수를 조사함으로써 결과 검토를 코드
화시켜 개입하는 것이 기술적으로 가능하다면, 알고리즘을 통제하는 영향력을 견제하는 데
90) 본 논문에서는 인공지능 의사결정에 대한 규제를 중심으로 논의하고 있으므로, 민사상 인공지능을 행위주체로 보는 논의는 제외하였다.
91) 이상은 알고리즘의 책임에 관한 조사 기준의 예시를 정리한 것이다. Nicholas Diakopoulos, 앞의 논문, 9-10면.
32페이지
행정법연구 제63호 288
에도 유의미할 것으로 생각한다.
(4) 알고리즘 의사결정에 대한 개인의 이의권 보장
인공지능의 자동화된 의사결정에 대해서도 마찬가지로 개인의 이의권은 확보되어야 한
다. 인공지능 의사결정과 관련한 규제에 있어서 적법절차를 주장하는 연구자들은 그 결과
의 적용을 받는 개인에게 개인정보를 바탕으로 하는 데이터의 처리 및 내용에 대해서 통지
할 것과 알고리즘의 예측모델의 공정성에 관한 이의를 제기할 기회가 필요함을 주장한
다.92) 이러한 알고리즘의 의사결정에 관한 개인의 이의권은 GDPR 제22조 제1항의 ‘프로
파일링에 대한 이의권’에서 근거를 찾기도 하지만,93) 굳이 다른 나라의 제한된 법률에서
인간의 자기결정권이 보호하는 권리의 근거를 찾을 이유는 크지 않다.94) 인공지능의 의사
결정에 관한 개인의 이의권이 실질적인 권리가 되기 위해서는 GDPR 관련 규정을 그대로
가져다 입법화할 것이 아니라, 인공지능의 의사결정을 규율대상으로 하는 법률에서 체계적
으로 접근되어야 할 문제이며, 인공지능 규제모델에서 입체적으로 설계할 필요가 있다. 인
공지능 알고리즘의 의사결정에 개인이 개입하고 이의를 제기할 수 있는 권한은 인간의 자
유와 존엄, 그리고 자기결정권이 보장하는 권리로서 입법 차원에서 구체화함이 마땅하기
때문이다.95) 이에 개인의 이의권과 관련해서는 산업 분야별로 인공지능 의사결정시스템을
구분하고 개인에게 미치는 영향이 클수록 전문적중립적인 중재자를 개입시키는 것이 필요
하다. 또한 개인의 이의권 보장을 위한 청문에서는 알고리즘 처리에 관한 정보를 충분히
제공함과 동시에 사업자의 항변기회 또한 절차적으로 보장되어야 할 것이다. 이어서 청문
92) Kate Crawford/Jason Shultz, 앞의 논문, 126-127면.
93) 이 조항에서 이의권은 “right not to be subject to a decision based solely on automated processing, including profiling, which produces legal effects concerning him or her or similarly significantly affects him or her”라고 규정되고 있는바, 오로지 자동화된 처리에만 기반한 결정이 이의권 행사의 대상이 된다고 할 것이다. 자동화된 결정시스템(automated decision system), 결정을 내리는데 사용 되는 머신러닝, 데이터 프로세싱, 인공지능기술의 알고리즘 구현이 포함된다고 볼 수 있다. 이러한 해석을 규정한 법률로는 미국 뉴욕시의 알고리즘 책임법안(algorithmic accountability bill) 이 있다.
94) GDPR 제22조의 이의권은 상당히 제한적인 상황에서만 사용될 수 있는 권리이고, 인공지능 알고리 즘을 채용에 활용한 기업에 대해서 구직자가 이의권을 행사하는 일이 현실적으로 실효성을 가지기 어렵다는 견해로는, 고학수/정해빈/박도현, 앞의 논문, 252면 참조.
95) 다만 GDPR 제22조의 제1항을 우리나라의 법제에 도입하는 것에 대해서는 몇 가지 점에서 회의적 이다. ‘오로지 자동화된 처리에만 기반한 의사결정(a decision based solely on automated processing)’이라는 것은 해당 의사결정이 오직 자동화된 처리에만 기반한 것이어야지만 개인의 이 의권을 행사할 수 있게 된다는 허점이 있다. 아울러 현실에서 인공지능의 기술은 인간의 개입이 포 함된다. 즉 완전한 자율성이 부여되지 않는 인공지능 환경에서(자동화된 처리 이외의 요소가 있을 것이므로) GDPR에 근거한 개인의 이의권은 쉽게 무용지물이 될 가능성이 있다.
33페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 289
에 따른 세부 검증은 공식적인 절차를 통하여 이루어져야 할 것이다.96)
Ⅴ. 나오며: 남겨진 과제들
본 논문은 인공지능의 의사결정에 대한 위험과 규범의 구체화의 문제는 개인정보 보호,
프라이버시, 차별 등과 같은 다양한 법적 쟁점을 갖고 있지만, 불투명성·불가해성과 같은
인공지능기술이 갖는 특징과 함께 인공지능이 자동화에서 자율화로 급속히 진행됨에 따른
개인의 자기결정권의 보장이 가장 중요한 쟁점이 되어야 한다는 문제의식에서 출발하였다.
유럽연합의 GDPR과 국내의 개인정보 규제체계는 개인정보를 보호대상으로 설계된 까닭에
지능정보화사회에서 인공지능의 의사결정시스템에 우리가 위임할 수많은 결정들에 있어서
직접적인 대안을 제시해주기 어렵다. 인공지능을 활용하는 주체들이 앞에서 언급한 공정성,
투명성, 신뢰성과 같은 원칙들을 기준 삼아 자발적인 자율규제를 시행하면 좋겠지만, 인공
지능의 기술적 특징만큼이나 인공지능을 통제하는 주체들도 복잡다양해질 것이다.
앞으로 인공지능 의사결정에서 인간의 자기결정권을 보장하려면, 인공지능의 의사결정을
대상으로 기계의 의사결정에 대한 개인의 이의권, 정보제공 요구권, 설명권, 거부권 등이
충분히 보장되는 장치가 행정입법으로라도 마련되는 것이 필요하다. 인공지능기술은 크게
는 빅데이터와 머신러닝의 기술이 융합된 시스템의 총체로서, 필연적으로 (i) 데이터 처리
와 (ii) 인공지능 알고리즘의 처리를 수반한다. 따라서 인공지능에 대한 규제모델은 이 두
단계의 기술적 처리과정을 중심으로 접근될 수 있으며, 사전적 규제모델인 데이터와 알고
리즘의 처리에 관한 ‘이원적 규제모델’의 구축으로 시작될 수 있을 것이다. 한편 이원적 규
제모델은 자기결정권과 다른 헌법적 가치 간의 이익조정을 충분히 고려하여 개별적 산업에
서 유연하게 설계되는 것이 필요하다고 할 것이다.
마지막으로 본 논문에서 제시한 인공지능을 둘러싼 당사자들 간 이해의 문제와 그것을
해결할 수 있으리라 기대하며 제시한 이원적 규제모델은 완전한 상태가 아님을 밝혀둔다.
인공지능 알고리즘 중에서 표현의 자유의 영역으로 인정되는 경우에는 사전적 규제는 사전
검열이 될 가능성이 있다. 그러나 모든 기계적 논리체계를 표현의 자유의 보호 대상으로
포함시키는 경우에도 그것이 개인의 삶에 중대한 영향을 주거나 공공의 이익에 손상을 입
96) 정보주체를 위한 청문 이후에는, 자동화된 의사결정의 공정성에 대한 이의를 제기하거나 수정을 요 구하는 기회의 제공이 필요하다. 이를 위해 빅데이터를 수행하는 자에 대한 정기적 검사가 필요하며, 제3자에게 조정의 역할이 주어지는 것이 필요하다. Kate Crawford/Jason Shultz, 앞의 논문, 126면.
34페이지
행정법연구 제63호 290
힌다면, 그 또한 조정이 필요할 것이다. 여기에 대해서는 앞서 본문에 제시한 바와 같이
알고리즘을 검색 알고리즘과 결정 알고리즘으로 구분하는 등 실현되는 인공지능 의사결정
시스템을 규범적 측면에서 일정한 기준을 갖고서 유형화하는 것이 요구된다. 나아가 실무
상 규제모델을 적용하는 경우에 발생할 수 있는 다양한 이해충돌 구조에 대한 이익형량에
관한 문제가 있다. 이와 관련해서 본 논문에서 심층적으로 다루지 못한 문제점들에 대해서
는 다음의 연구과제로 남기고 이만 글을 맺고자 한다.
(투고일: 2020. 10. 30. 심사완료일: 2020. 11. 20. 게재확정일: 2020. 11. 27.)
35페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 291
참고문헌
- 국내문헌
고학수/정해빈/박도현, “인공지능과 차별”, 저스티스통권 제171호, 한국법학원(2019)
김문근, “성년후견법률에 나타난 의사결정능력의 개념에 관한 연구 - 영국 정신능력법(Mental
Capacity Act, 2005)을 중심으로 - ,” 사회복지연구 제41권 제3호, 한국사회복지연구회
(2010)
김민식/이가희, “디지텔 플랫폼과 인공지능(AI)의 이해”, 정보통신방송정책 제29권 제18호 통권
655호, 정보통신정책연구원(2017)
김연순/이종관, “제4차 산업혁명의 자동화와 적응형 자동화”, 인문과학 제65집, 성균관대학교 인
문과학연구소(2017)
김중권, “인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고”, 공법연구
제38집 제3호, 한국공법학회(2020)
박은정, “자유의지와 뇌과학: 상호 인정 투쟁”, 법철학연구 제18권 제2호, 법철학연구, 한국법철학
회(2015)
양종모, “인공지능의 위험의 특성과 법적 규제방안”, 홍익법학 제17권 제4호, 홍익대학교 법학연
구소(2016)
이희옥, “빅데이터환경에서 보험업상 개인정보의 보호와 활용”, 소비자문제연구 제50권 제2호, 한
국소비자원(2019)
정종섭, 헌법학원론 제11판, 박영사(2016)
- 국외문헌
Anderson, Richard, “Autonomy and Preference Formation,” Coleman, Jules L. Buchanan,
Allen(ed.), In Harm's Way: Essays in Honor of Joel Feinberg, Cambridge University
Press(1991)
Beauchamp, Tom/Childress, James, Principles of Biomedical Ethics(6th ed.), Oxford University
Press(2008)
Burrell, Jenna, “How the machine “thinks”: Understanding opacity in machine learning
algorithms,”SAGE Publishing, Big Data & Society Vol. 3(2016)
Charland, Louis, “Decision making Capacity”, Stanford Encyclopedia of Philosophy(2011)
Christman, John, “Constructing the Inner Citadel: Recent Work on the Concept of Autonomy” in
Ethics, University of Chicago Press, Vol. 99/1(1988)
Citron, Danielle Keats, “Technological Due Process”, Washington University Law Review Vol.
85(2008)
36페이지
행정법연구 제63호 292
Citron, Danielle Keats/Pasquale, Frank, “THE SCORED SOCIETY: Due Process for Automated
Predictions”, Washington Law Review Vol. 89/1(2014)
Crawford, Kate/Shultz, Jason, “Big Data and Due Process: Toward a Framework to Redress
Predictive Privacy Harms”, Boston Law Review Vol. 55(2014),
Deutscher Bundestag, Autonomes und automatisiertes Fahren auf der Straße rechtlicher Rahmen,
WD 7-3000 111/18(2018)
Diakopoulos, Nicholas, “Accountability in algorithmic decision making”, Communications of
ACM Vol.59/2(2016)
Dworkin, Gerald, The theory and practice of autonomy, Cambridge University Press(2001)
Gigerenzer, Gerd/Rebitschek, Felix G./Wagner, Gert G, Eine vermessene Gesellschaft braucht
Transparenz , ZBW Leibniz - Informationszentrum, Wirtschaft(2018)
Goodman, Bryce/Flaxman, Seth, “European Union regulations on algorithmic decision-making and
a right to explanation”, AI Magazine, Vol. 38/3(2017)
Lindly, Richard, Autonomy, Humanities Press International(1986)
Noble, Safiya Umoja, Algorithms of Oppression, New York University Press(2018)
Pasquale, Frank The Black Box Society: The Secret Algorithms that Control Money and
Information. Cambridge, MA: Harvard University Press(2015)
Scherer, Matthew, “Regulating Artificial Intelligence System: Risks Challenges, Competencies, An
d Strategies”, Harvard Journal of Law & Technology Vol. 29/2(2016)
Wachter , Sandra /Mittelstadt, Brent / Floridi, Luciano, “Why a Right to Explanation of
Automated Decision-Making Does Not Exist in the General Data Protection
Regulation(December 28, 2016)”, International Data Privacy Law Vol. 7/2(2017)
Williams, Betsy Anne/Brooks, Catherine F./Shmargad, Yotam, “How Algorithms Discriminate
Basedon Data they Lack: Challenges, Solutions, and Policy Implications”, Journal of
Information Policy Vol. 8(2018)
Wolff, Robert P, In Defense of Anarchism, Harper&Row(1970)
Zayas, Luis/Cabassa, Leopoldo/Perez, Carmela, “Clinician-Patient Ethnicity in Psychiatric
Diagnosis”, Journal of Ethnic and Cultural Diversity in Social Work(2008)
37페이지
인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구 293
A Study on the Balancing between Concerned Interests in AI-Decision
Making and the Dualistic Regulatory Model
Lee, Heuiok*
97)
As artificial intelligence is mentioned ahead of the realization of artificial intelligence
thanks to underlying technologies such as big data and smart grids, issues such as
personal information protection, privacy and discrimination are approaching legal issues.
Artificial intelligence technology is creating a paradigm shift from existing data-driven
technology to artificial intelligence-driven technology. These qualitative changes in
technology may limit or infringe on the value of individual self-determination based on
human dignity and freedom by adding to the risk of an existing technological society.
Even assuming that artificial intelligence is a threat to human self-determination by
viewing human beings, the main body of decision-making, as objects, it is difficult to
rush to legal regulation in that artificial intelligence is not a finished technology, and on
the contrary, if one misses the right time, individual rights can be exposed to various
risks, which is limited by ex post-regulation alone.
Although the regulatory system is not required to be newly created whenever
technology advances, the state has a constitutional obligation to protect fundamental rights
and implement economic benefits from the protection of people's rights and the promotion
of science and technology under Chapter 9. Given that artificial intelligence's
decision-making targets technologies that are qualitatively different from regulations aimed
at information and communication or the Internet, the regulatory model that responds to
artificial intelligence needs to be established in a structure that guarantees an individual's
“right to self-determination” while considering adjusting interests among stakeholders of
artificial intelligence. Therefore, I think there is room to consider a prescriptive regulatory
model before considering specific legislation. In addition, a dual regulation model, which
targets data and algorithm processing, was presented in line with the constitutional
- Ph.D in Law(Major in Constitutional Law)
38페이지
행정법연구 제63호 294
perspective of profit-alignment between individuals (individual-enterprise-state) utilizing AI.
Key Words: Artificial Intelligence’s decision making, right to self-determination, critical
decision making, self-government, dual regulation model, technological due
process