인공지능 - 희망 혹은 두려움

인공지능이 주도하는 미래 예측을 두고 유토피아론과 디스토피아론이 맞붙고 있다. 2016년 이세돌 9단과 맞붙은 바둑대결에서 완승한 알파고 성능에 압도된 한국 사회는 인공지능이 가져올 미래에 대한 희망과 함께 막연한 두려움의 늪에 빠져있다. 일자리 부족으로 공격받는 정부 여당은 한국 사회 새로운 성장동력 분야로 4차 산업혁명의 핵심인 인공지능과 데이터 산업을 제시한다. 인공지능은 과거 경험하지 못한 생산성, 효율성과 창조성을 다양한 응용 분야에서 보여줄 것으로 기대된다. 하지만 이러한 기대를 누그러뜨리며 인공지능이 초래할 디스토피아 미래를 걱정하는 목소리도 들린다. 슈퍼 인공지능은 인간을 능가할 것인가? 그렇다면 언제가 될 것인가? 인간의 명령을 거부하는 로봇이 인류를 파괴하는 세상이 곧 도달할 것인가? 테슬라 창업자 일론 머스크와 타계한 인류 최고의 물리학자 스티븐 호킹도 같은 우려를 나타낸 바 있다.다행히 많은 인공지능 전문가는 이런 위험이 가까운 미래에 닥칠 것으로 바라보지 않는다. 인공지능 디스토피아론은 지나친 기우이며, 인공지능이 이끄는 미래는 유토피아가 될 것임을 기대하게 한다. 과연 그럴까?

인공지능은 용어 그대로 인간이 만들어낸 지능이다. 인공지능이 만들어내는 미래 모습은 인간이 어떻게 지능을 만들어낼지, 인간이 만든 인공지능을 어디에 적용하고 어떻게 운영할지에 달려있다. 매일 우리가 체험하는 인공지능은 개인의 관심 분야와 쇼핑 패턴을 분석하여 가장 적절한 광고를 검색 화면과 소셜 미디어 광고창에 자동으로 띄어주거나, 아이폰의 시리(Siri)와 아마존의 알렉사(Alexa)와 같은 인공지능 개인비서는 오늘 날씨를 묻는 말에 바로 답을 주며, 교통 상황을 파악하고 미리 예측하여 밀리지 않는 경로를 알려주기도 한다. 이런 편익 뒤에 가려진 인공지능이 가져올 수 있는 폐해는 우리가 눈을 크게 뜨고 둘러보지 않으면 잘 보이지 않는다. 디스토피아로 걸음을 내딛게 하는 인공지능의 폐해는 무엇이 있을까?

인공지능이 만든 변화 — 도대체 우리에게 무슨 일이?

2021년 현재 인공지능이 만들어내는 사회변화를 살펴보며 지금 우려해야 할 지점은 무엇일지 살펴보자. 가장 눈에 띄는 변화는 인간 일자리 대체다. 이미 맥도날드와 같은 햄버거 레스토랑에선 점원 없이 키오스크로 주문을 받고, 드론과 로봇 택배, 무인자동차 개발 소식도 꾸준히 들리며, 대기업 콜센터는 기존 인력을 인공지능 챗봇으로 바꾸고 있다. 인공지능이 인간의 단순 노동 수행 직무를 대신하고 있다. OECD의 최근 보고서는 OECD 국가 내 일자리 중 14%가 완전 자동화 될 것이며, 자동화로 대체될 확률이 높은 일자리는 32%에 달할 것으로 관측했다. 영국 로열 소사이어티(The Royal Society) 2018년 보고서는 5년 내 영국 일자리가 약 30%까지 자동화될 것이고, 중국, 일본, 미국, 인도의 총 7억여 개 일자리(일자리 3개 중 2개에 해당)가 자동화 될 것으로 예측했다. 반론으로 2020년에 발표된 MIT 보고서는 인공지능 활용은 기존에 없던 새로운 일자리도 창출할 것이며, 이를 반영한 노동, 임금, 재교육 정책이 따라준다면 걱정할 만큼의 암울한 세상이 되지는 않을 것이라 결론짓고 있다. 이들 연구가 대동소이하게 공통으로 내다본 것은 인공지능으로 인한 미래 일자리 지형이 급속도로 바뀐다는 점이다. 이미 국내외에서 이에 대비할 기본소득, 로봇세 도입, 새로운 직무를 위한 노동자 재교육 등 논의가 활발히 벌어지고 있다.

일자리 부문의 변화가 비교적 눈에 띈다면, 많은 이들이 인식하지 못한 사이 빠르게 확산하고 있는 변화는 무엇일까? 노동뿐 아니라 의사결정을 내려야 할 많은 영역에서 인공지능이 이미 인간을 대신하고 있다. 영국과 미국 내 경찰청 등에서는 인공지능 얼굴인식 프로그램을 활용하여 우범자로 의심되는 사람을 사전 차단한다. 전과자 얼굴 이미지를 데이터베이스(DB)화하고 범죄 상습 지역이나 혼잡한 거리에서 CCTV로 행인을 촬영한다. 이 영상에서 전과자 DB 속 이미지와 매칭되는 행인이 있다면 불심검문을 시행한다. 상용화된 인공지능 얼굴인식 소프트웨어가 유색인종을 인식해내는데 유독 에러율이 높아, 범죄와 아무 관련이 없는 시민이 수상한 자로 오인되어 경찰 검문을 받기도 한다. 또한, 취업 면접 시 인공지능을 통해 서류전형을 심사해온 지도 오래다. 인공지능은 과거 취업 인터뷰에서 높은 평가를 받았거나 현업에서 좋은 실적을 낸 인재 데이터를 반영하여 취업 응시자를 평가한다. 불행히도 과거 인터뷰에서 높은 평가를 받았던 응시자 대부분이 유명 대학을 졸업한 백인 남성이었다. 2018년 아마존이 활용했던 신규사원 응시자 평가 알고리즘이 일괄적으로 여성에게 낮은 점수를 주어 알고리즘 활용을 포기한 사례는 잘 알려져 있다.

빠르게 진화하는 인공지능은 이렇게 실시간으로 우리 일상에 스며든다. 곳곳에서 관찰된 기술이 이끄는 미래의 단면은 유토피아의 모습으로 보기 어렵다. 인간이 인공지능이 만들어가는 미래에 대한 통찰력을 갖기 어려운 이유는 인공지능의 특별한 능력 때문이다. 엄청난 양의 데이터를 빠르게 분석해내는 인공지능은 인간이 밝혀내지 못한 데이터 속 숨겨진 패턴을 찾아낸다. 이러한 능력은 인간이 과거 풀지 못했던 문제를 해결하는 인공지능의 순기능을 기대하게 한다. 의사가 찾지 못했던 암세포를 MRI 이미지에서 찾아내고, 단백질 구조를 파악하여 신약 개발이 가능해지며, 더 정확한 기후예측을 하여 적절한 기후변화 대응을 가능하게 한다. 이와 같은 탁월한 능력으로 인공지능이 현실 속 데이터에 숨어있던 편향성을 그대로 찾아내어 학습한다는 점은 아이러니이다. 인간의 편향된 의사결정을 학습한 인공지능은 이를 그대로 자동 의사결정과 예측에 반영한다 (예: 얼굴인식 프로그램의 유색인종 우범자 오인, 여성의 면접 평가점수 절하 등). 오히려 엄청난 능력으로 짧은 시간 내 많은 사례를 처리하므로 편향된 의사결정 결과의 파급 범위는 커진다. 인공지능은 그 설계자인 인간이 어떻게 디자인하고, 어떤 데이터를 학습에 활용하는지에 따라 완전히 다른 결과를 가져온다. 인공지능 유토피아론과 디스토피아론이 명확한 답을 못 내고 맞서는 이유다.

기술혁신이 가져온 사회 충돌

인공지능이 가져올 혜택과 폐해는 동전의 양면처럼 붙어있다. 누가 어떤 목적으로 이 기술을 적용하는지에 따라 인공지능 설계와 학습 데이터 선택은 달라지며, 결과가 누구에겐 혜택이 되고 또 다른 이에겐 폐해가 될 수 있다. 얼굴인식 알고리즘을 광범위하게 적용하고 싶어 하는 경찰은 최신 기술로 범죄율을 낮추고 싶어 한다. 하지만 이로 인해 이유 없는 감시와 검문을 받게 되는 시민은 인권 침해를 우려할 수밖에 없다. 수백 수천 명의 응시자가 몰리는 취업 인터뷰를 하는 기업은 효율성을 위해 인공지능 인터뷰를 활용하지만, 응시자는 공정성을 의심한다.

이렇듯 인공지능이 만들어가는 미래는 서로 다른 이해관계자 간 충돌을 초래한다. 바로 이 지점이 인공지능이 끄는 디스토피아로의 행진을 막기 위해 시급히 고민해야 할 부분이다. 슈퍼 인공지능의 인류 정복이 현실에 존재하지 않는 가상 속 우려라면, 인공지능이 만들어내는 다양한 인간 집단 사이 갈등은 전에 없던 새로운 계급 충돌을 만들어낸다. 21세기 새로운 생산도구인 인공지능 기술과 데이터를 소유하고 있는 계급은 자신의 이익을 위한 인공지능을 설계하여 전에 없던 큰 혜택을 가져갈 수 있다. 이와 반대로 그러한 생산도구를 갖지 못한 계급은 인공지능이 만들어낸 폐해의 피해자로 전락하기 쉽다.

그림출처: : Luddite Movement — Victorian Era from Georgian to Edwardian

신기술이 만들어낸 혜택의 방향에 따라 유토피아 미래와 디스토피아 미래 간 논쟁이 격발된 것은 처음이 아니다. 신기술 폐해의 해결 방안을 체계적으로 찾지 못해 충돌과 혼란을 야기한 것은 역사 속 익숙한 스토리이다. 19세기 초 산업혁명이 시작된 영국에서 무수히 생겨난 자동 방적기에 일자리를 뺏긴 노동자들은 방적기를 망치로 때려 부수는 러다이트 운동을 벌였다. 많은 이들이 19세기 러다이트 운동을 두고 거스를 수 없는 기술 혁신 미래를 거부하는 노동자 폭동일 뿐이라 일축하기도 한다. 기술이 만들어내는 미래는 언제나 필수 불가결한 발전이며, 이에 대한 비판은 혁신의 발목을 잡는 무지일 뿐이라 깎아내린다. 하지만 러다이트 운동이 보여주는 것은 무식한 계급 “폭동”이 아니라 신기술 혁신이 만들어낸 “피할 수 없는 계급 간 충돌”이다. 기술이 만들어낸 생산도구를 소유하지 못하고 일방적 희생을 강요당한 계급이 자신의 피해를 알린 집단행동이다. 러다이트 운동으로 자동 방적기가 공장에서 사라지지는 못했다. 하지만 이에 공감한 많은 지식인이 방적 공장 노동자 처우 요구에 참여했고, 노동자의 국회의원 투표권 쟁취를 위한 차티즘 운동을 촉발했다. 이후 영국 노동자는 의회를 통해 노동자 단체 교섭권을 획득하게 되었다.

21세기 러다이트 운동 — 무엇을 질문하고, 무엇에 연대-행동해야 하는가?

인공지능이 만드는 새로운 비즈니스 모델은 21세기 러다이트 운동의 조짐을 보인다. 2020년 “타다” 금지법 제정까지 불러왔던 택시 기사의 타다 반대 운동은 21세기 러다이트 운동으로 보도되기도 했다. 신기술 부상으로 일방적 희생이 요구되는 집단이 있다면, 연대를 통한 피해 및 부당 처우 고발, 적절한 시정 요구가 필요하다. 인공지능 기술이 가장 발달한 실리콘 밸리에서도 기본소득 도입 등이 논의 중이다. 이는 신기술 적용을 원천 차단하자는 21세기 러다이트 운동을 미연에 방지하기 위해 시작되었다. 과거 방식을 지속하기 위해 신기술 적용을 원천 차단하는 것은 결코 합당한 문제 해결 방식이 아니다. 19세기 러다이트 운동도 방적기 파괴로 시작했지만, 신기술 활용이라는 틀 안에서 반드시 지켜져야 할 공동체 혜택과 이를 보장할 새로운 사회 시스템 도입이라는 방향으로 진화했다.

21세기 러다이트 운동은 인공지능이 만들어낸, 전에 없던 생산 방식 형태와 과정 이해가 우선돼야 한다. 이후 파생된 피해의 정확한 고발, 이를 시정할 사회 시스템 도입, 특정 집단의 일방적 피해를 막을 인공지능의 지속가능한 적용 방안 요구 등이 포함되어야 한다. 그럼에도 불구하고 인공지능이 가져올 미래를 두려워하는 이들은 “슈퍼 인공지능이 인간을 정복하는 미래는 언제 올까?”라는 잘못된 질문만을 되뇌고 있다. 의미 없는 질문만을 던지는 이유 중 하나는 인공지능이 어디에 적용되는지, 인공지능이 적용되는 곳에서 누가 어떤 피해를 보는지조차 인식하지 못하기 때문이다. 예외적인 사례로 인공지능의 인간 일자리 대체를 제외하고, 인공지능이 가져다주는 효율성과 예측 능력은 반복적으로 칭송되지만 같은 기술이 야기할 수 있는 부작용은 충분히 알려지지도 않고, 따라서 논의되지 않고 있다. 많은 이들이 “인공지능”이라는 용어 앞에서, 왠지 내가 잘 알지 못하는 신기술에 대한 두려움 때문에, 인공지능이 현실에서 적용되는 실체와 내 삶을 건드리는 결과를 외면하고 있다.

인공지능은 SF 속 신기루가 아니다. 인공지능은 형체를 갖추고 물리적으로 존재한다.하나의 알고리즘으로 개발된 인공지능이 탑재된 제품은 기타 여느 산업처럼 공급망 체인을 따라 생산된다. 인공지능 학습에 필요한 빅 데이터 처리를 위해 고성능 컴퓨팅 기기가 필요하며, 이들 기기 제조 과정에서 엄청난 양의 자연자원(예: 배터리용 리튬)이 채굴된다. 인공지능 알고리즘 훈련 및 테스트 컴퓨팅에는 어마어마한 양의 에너지가 소요되며, 개발된 인공지능 알고리즘의 실시간 실행에는 거대한 인프라(예: 데이터 센터, 병렬 컴퓨터 등)도 필요하다. 또한, 데이터 준비 과정(예: 데이터 분류와 레이블링) 중 값싼 인간 노동도 개입되며, 이 모든 과정에 법과 규제가 적용되기도 한다. 인공지능 적용은 새로운 문화를 만들고(예: 내비게이션 없는 운전 불가) 인간관계에도 변화(예: 돌봄 로봇)를 가져온다. 또한, 인공지능은 그 자체로 지능적이지 못하며, 인간이 정의한 규칙, 보상 및 벌칙을 적용하는 컴퓨터 계산을 통해 지능을 얻어간다. 이 지점은 인공지능이 인간이 아니고 기술이 단순히 중립적이라는 주장은 오류임을 말해준다.

인공지능 학자 케이트 크로포드는 이러한 이유로 인공지능은 다분히 정치적이고 사회적이라 일갈한다. AI 시스템의 대규모 구축을 위해 막대한 자본이 투자가 필요하며, 이러한I 시스템은 궁극적으로 자본 투자 집단의 이익을 위해 최적화되기 마련이다. 딥 러닝의 역사적 성공으로 AI가 산업화하기 시작한 순간부터, 인공지능 기술이 만든 효율성 개선과 생산성 향상은 컴퓨터 과학자의 실험실 내 갇혀있지 않게 됐다. 실험실을 뛰쳐나와 산업화한 인공지능 기술과 비즈니스 모델은 사회적 관행과 관계, 기반 시설, 조직 운영, 정치적 결정, 문화 등을 새롭게 만든다. 인공지능 관련 논의를 단순히 기술 영역으로만 국한하면 안 되는 이유가 여기 있다. 인공지능이 만들어낸 변화가 비대칭적 지식과 자본을 갖는 일부 계층만의 이익을 위한 것인지, 이를 위해 추출된 개인 데이터의 무조건적 활용과 갈수록 확대되어가는 인공지능 의사결정 의존 등이 인간 개인과 사회에 어떤 영향을 미치는지 사려깊게 살펴봐야 한다.

희망을 위해 해야할 일

“너와 나, 모두의 AI”를 시작하는 2021년. 소수가 아닌 모두를 위한 인공지능 개발과 운영을 소망하는 개인과 공동체의 연대 목소리를 듣기 어렵다. 이는 신기술이 갖는 특징 — 빠른 변화 속 기술 파악의 어려움, 기술이 가져오는 결과의 양면성 — 때문일 것이다. “너와 나, 모두의 AI”는 인공지능이 만들어가는 미래 설계에 너와 나 모두가 참여하여 공동체 이익을 위한 목소리를 함께 낼 수 있도록, 그에 필요한 인공지능 관련 다양한 스토리와 사례 등을 나누고자 한다. 인공지능이 내딛는 미래 발자국을 살펴보고 그것이 어떤 권력에 의해 누구의 이익을 위해 구축되는지 살펴본다. 인공지능이 만들어낸 새로운 사회적 관행, 관계, 기반시설 및 조직, 정치 및 문화 변화 등을 되도록 알기 쉬운 언어로 공유할 계획이다. 이런 변화에서 보이는 새로운 편익, 긴장, 충돌, 그러한 긴장과 충돌을 풀어내는 새로운 노력을 꾸준히 찾아내 보려 한다. 이를 통해 우리 모두에게 필요한 지혜와 쌓이고 이것이 곧 미래를 위한 연대가 되기를 기대하며 “너와 나, 모두의 AI”를 시작한다.