[AI를 다시 본다] 2030년 13조달러 미래산업, 善한 가치에 고민 커진다

2030년엔 전 세계 국내총생산(GDP)에서 인공지능(AI) 부문이 13조달러에 이를 것이다(맥킨지 글로벌연구소, 2018년). 그에 따른 GDP 추가 성장률은 1.2%에 달한다. 우리 정부도 최근 ‘디지털 뉴딜’을 발표하며 AI 시장에 뛰어들었다. 세계 각국 기업도 AI 개발에 한창이다. 단순 노동력뿐 아니라 경제·경영 판단까지 AI가 대신할 날이 머지않았다고 관측한다. 그러나 모든 판단을 AI가 할 수 있을까. AI를 어디까지 믿고 어떻게 결론 내릴 것인가는 새로운 고민이다. [편집자]

#. 전쟁, 살인, 테러, 기아···. 갓 태어난 AI 울트론은 경악했다. 인터넷에서 본 인간의 첫인상은 끔찍한 이중성이었다. 실망과 분노에 휩싸인 울트론은 자신의 목표를 ‘어벤져스 도우미’에서 ‘인류 멸망’으로 바꿔버린다. “어떻게 너희들이 고결할 수 있지? 너흰 모두 살인마잖아.” (영화 ‘어벤져스, 에이지 오브 울트론')

‘열 길 사람 속은 알아도 한 길 AI는 모르는’ 시대가 온다. 인간 스스로 인권을 유린하는 데 환멸을 느낀 AI가 ‘인간 제거’로 문제를 해결하려는 얘기는 우리의 현실이 될 수도 있다. 이미 AI가 사회·경제까지 전 분야에 관여하는 만큼 편견과 차별에서 자유로운 AI를 개발해야 불필요한 폭력과 차별의 고리를 끊을 수 있다고 지적한다.
  ◆ 인간 학습 따라 한 AI, 편견도 흉내

인간보다 뛰어난 AI가 미래를 앞당길 환경은 성큼 다가오고 있다. 정부는 지난달 14일 ‘한국판 뉴딜 종합계획’을 발표했다. 올해 추경부터 2022년까지 23조4000억원, 2025년까지 58조2000억원을 투입해 데이터·네트워크·인공지능(DNA) 산업 혁신을 이끌겠다고 했다.

이에 앞서 지난 국회에선 AI 산업 진흥을 다룬 법안이 제출됐다. 하지만 국가인권위원회가 문제를 제기해 통과하지 못했다. 인권위는 "인권 보호에 관한 사항이 추가로 규정할 필요가 있다"고 의견서를 냈다. 인권위는 AI가 개발 과정부터 개발자의 편향된 이념이나 사상을 반영한다고 꼬집었다. 이 때문에 AI 학습과 판단 과정의 투명성을 요구한다.

우리나라에 AI가 가깝게 다가온 것은 바둑 AI '알파고' 영향이 결정적이다. 인간을 절대 뛰어넘을 수 없다던 바둑에서 알파고의 압승은 우리를 충격에 빠트렸다.

AI는 보통 인간의 안내로 데이터를 대량 학습하는 기계학습(머신러닝)을 한다. 기계학습은 데이터 특징과 의미를 인식해 스스로 배우는 딥러닝 기술로 발전했다. 딥러닝은 사람이 주변 정보를 인식해 수집하며 성장하는 과정을 흉내 낸다. 특징 표현 학습이다. 사람 뇌의 복잡성을 모방한 ‘인공 신경망’을 이용한다.

알파고는 높은 딥러닝 단계인 ‘강화학습’을 통해 바둑의 세계를 이해했다. 강화학습은 학생을 대하듯 학습 결과에 가점과 감점을 매겨 더 나은 선택을 유도한다. 바둑돌을 놓았다고 점수를 받는 게 아니라 상대를 이겨야 보상을 받는 학습을 한 것이다.
  하지만 이런 딥러닝과 강화학습은 사람이 서로의 생각을 모르는 것처럼 AI의 판단 과정도 알 수 없게 만들었다. 바둑에서 상대를 이기는 것만을 목적으로 하는 알파고와 달리 실생활에 영향을 주는 AI라면, 어떻게 가치 판단을 내렸는지 설명할 수 있어야 한다는 얘기가 나올 수밖에 없다.

인간의 가치 판단 개입이 필요한 사례는 많다. 미국 전자상거래 회사 아마존은 2018년 AI 채용 시스템 도입 계획을 취소했다. AI가 기계학습 과정에서 성차별도 배웠기 때문이다. 이력서에 ‘여성 바둑 동아리’가 적혀 있다면 ‘여성’을 인식해 감점하는 식이다. 대신 남성 구직자가 자주 쓰는 ‘실행하다’와 ‘포착하다’ 같은 동사는 유리하게 채점했다. 10년간 회사에 제출된 이력서를 학습했는데, 남성 중심인 기술산업계의 현실도 함께 배웠다는 비판이 나왔다.

인종차별도 배웠다. 미국 양형 정보 시스템 ‘콤파스(COMPAS)’는 피의자가 흑인이면 향후 폭력 범죄를 저지를 가능성을 별 이유 없이 다른 인종보다 최대 77% 높게 판단해 구설에 올랐다. 마이크로소프트(MS) 채팅 AI 테이(Tay)도 인터넷 이용자의 인종차별 표현을 학습해 2차 세계대전 당시 유대인 학살을 옹호했다가 급히 종료하는 사태를 겪었다. 우리나라에서도 판결문을 작성하는 AI 보조 판사를 논의하고 있는데, 판사의 업무를 덜 수 있다는 기대와 함께 편견이나 ‘무전유죄’가 반영된 판결문 학습에 따른 부작용을 우려하는 목소리가 나온다.
 
미래 파급력을 알 수 없는 AI 교육 문제는 국경을 가리지 않는다. 이에 세계 각국과 단체는 AI의 인권·윤리 보호 기준을 속속 내놓고 있다. 국제연합(UN)과 유럽연합(EU), 경제협력개발기구(OECD)는 2018~2019년 ‘AI가 인권에 미치는 영향 보고서’, ‘신뢰 가능한 AI를 위한 윤리 가이드라인’, ‘OECD AI 이사회 권고’ 등을 냈다.

인권위가 이들 권고에서 찾은 해결책은 투명성과 설명 가능성, 책임성 확보다. 우선 AI의 판단 과정은 인간이 추적해 설명받을 수 있어야 한다. 그 결정을 책임질 주체와 절차를 세우고, 법적·제도적 근거도 만들어야 한다는 것이다.

이에 화답하듯 21대 국회는 관련 법안에 인권 보호 조항을 넣었다. 이상민 더불어민주당 의원은 지난달 13일 ‘인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안’을 발의했다. 여기엔 국가와 지자체, 사업자 등이 이용자 보호를 위한 AI 윤리 원칙을 제정하고 인권과 존엄성을 보호해야 한다는 조항을 담았다.

정부도 디지털 뉴딜 정책을 내면서 국제 기준에 맞는 AI 윤리 기준을 하반기까지 만들기로 했다. 미래지향적 AI 기본 법제 정비도 추진한다.
  ◆ AI ‘법인격 시대’ 대비할 초석 쌓아야

법조계에선 선언적 인권 조항을 우선 통과시키고 이후 산업 발전 양상에 따라 법을 체계화하자는 의견을 내놓고 있다. AI 수준이 높아져 권리와 의무를 진 인격(법인격)으로 대우받는 상황에 대비하자는 뜻이다. 이충윤 법무법인 해율 파트너 변호사는 “AI가 지금처럼 상상하기 어려운 속도로 발전하고 법인격으로 인정해야 하는 상황이 온다면, 관련 진흥법뿐 아니라 구체적으로 산업에서 활용하는 행위를 분석한 개별 특별법의 입법이 필요할 것”이라고 내다봤다.

법과 윤리는 서로 다르다. 불효자라도 법을 지키며 살면 처벌받을 일이 없다. 그러나 AI가 산업과 행정, 사법 전반에 쓰이면, 인간에 미칠 파장은 크다. 따라서 선언적 기본법과 사회적 숙의, 기술 발전에 따른 구체적 법안 제정이 시급하다고 지적한다.

셀 수 없는 개별법 제정은 불가능하므로 당사자 참여를 통한 ‘절차적 공정성’ 보장에 초점을 맞추자는 의견도 있다. 구태언 테크앤로 변호사는 “결과를 공정하게 하기는 어려우므로 절차를 공정하게 하는 것이 법의 이념”이라며 “AI가 도입될 분야에 이해관계를 가질 당사자들이 AI의 적정성에 대한 판단 절차에 참여하는 식으로 절차적 보장을 하는 것이 최선”이라고 말했다.