너와나, 모두의 AI는 데이터와 AI 활용이 사회구성원 모두에게 혜택이 되기위해 함께 무엇을 행동해야할지 고민해봅니다
영국은 AI 정상회의를 처음 제안하고 1회 행사를 주최한 국가로서, 이번 서울 행사에도 주요 인사들을 파견했다. 영국 런던에서는 이전 행사 참여자들과 차기 주최국인 프랑스의 디지털 업무 대사 앙리 베르디에를 초청하여, 서울 AI 정상회의의 내용을 공유하고 성과, 아쉬웠던 점, 그리고 다음 행사에 대한 기대 사항을 논의하는 회고 자리를 마련되었다. 이 행사는 지난 6월 5일 런던 브리티쉬 도서관에서 대중에게 공개되었다. 행사는 두 세션으로 진행되었으며, 마지막 20분 동안은 2025년 2월 다음 AI 정상회의를 주최할 프랑스의 대표자가 참석하여 계획을 발표했다. 이번 회고 자리는 AI Fringe 행사의 일환으로 마련되었다. 이 글에서는 이날 논의된 주요 쟁점과 행사 분위기를 전달하고자 한다.
2024년 3월 14일 EU 인공지능법 최종안이 EU 의회에서 통과되면서 올해 상반기(5~6월 경)에 최종 공포 및 발효될 것으로 기대된다. 지난 포스트에서 현재까지 알려진 최종안의 내용을 간략하게 (상세한 버전은 여기에) 소개하였고, 이번 포스트에서는 최종 법안 발효시 가져오게될 현장에서의 중요한 변화를 독자의 이해가 쉽도록 풀어서 설명해본다.
유럽연합(EU)의 인공지능(AI) 법안은 2021년 4월에 유럽 집행위원회가 발의하였고 몇 차례의 수정을 거쳐 2023년 12월 9일에 EU 법안 제정의 3대축인 유럽 집행 위원회(EU Commission), 유럽연합 의회(EU Parliament), 유럽연합 회원국 각료 이사회(Council of EU)로부터 모두 잠정 승인을 받게되었다. 이후 2024년 3월 14일 법안의 최종 문구가 유럽연합 의회의 투표에서 가결되었다. 찬성 523표, 반대 46표, 기권 42표로 압도적 찬성의 투표 결과다. 이제 유럽연합 회원국 각료 이사회가(EU Council) 최종 승인하면 유럽연합 인공지능법(AI Law)로 공표되게 된다. 인공지능 시스템의 유형에 따라 EU 인공지능법의 적용 시기는 빠르게는 공표후 6개월 후(금지 시스템)에 시작될 예정이다. 모든 법조항의 의무사항은 공표후 36개월 이내에 적용된다는 타임라인이 발표되었다. 이미 법적용을 위해 EU 집행위원회는 현재(2024년 3월) EU 인공지능 사무소를 열고 직원 채용을 진행중이다. 3월 14일 법안의 최종문구는 아직 공개되지는 않았지만 2024년 1월 21일 여러 언론에 최종법안이 유출되어, 아래 내용은 그 유출된 버전을 바탕으로 정리한 내용이다.
더 많은 기업들이 데이터와 인공지능에서 새로운 먹거리를 찾는다. 이를 두고 쇼샤나 주보프(Shoshana Zuboff) 하버드 비즈니스 스쿨 교수는 “정보기술, 특히 AI의 급속한 발전과 더불어 경제는 데이터를 중심으로 근본적으로 재편되었다.”고 말한다. 기업 경쟁력은 제품력의 향상이나 비용 절감이 아니라, 시장과 소비자를 가장 근접하게 예측하기 위해 데이터를 추출하고, 사용자 행동을 예측하여, 장기적 수익 모델로 이끌어내는 역량에 좌우된다는 것이다. 현재 시장을 이끌고 있는 기업뿐만 아니라 스타트업들이 지금의 온라인 타겟 광고를 넘어서 사용자의 생활에 영향을 끼치는 서비스, 인공지능 기반 개인 비서 서비스, 가상현실과 증강현실, 자율주행 자동차, 드론 배달 등과 같은 분야로 눈을 돌리는 이유이다.
인공지능이 내린 의사결정은 많은 경우 인간이 주도하는 과정의 부분일 뿐이다. 인간 의사결정자를 위해 보다 상세한 정보를 제공하는 역할로 활용될 뿐, 최종 의사결정은 그 권한과 책임을 갖는 인간이 내린다. 인공지능 의사결정에 의존해 인간이 어떤 판단을 내릴 땐, 편향성이 유입될 수 있는지 인공지능 판단을 포함한 의사결정 전 과정을 살펴보아야한다. 사전에 의도하지 못했던 결과를 효과적으로 찾아내기 위해 제3자에 의한 독립적 검토가 필요하다. 인공지능이 개입된 의사결정을 더 주의하여 살펴보아야할 이유는 그 결과가 미치는 파급이 전에 없이 크기 때문이다.
인공지능이 가져올 혜택과 폐해는 동전의 양면처럼 붙어있다. 누가 어떤 목적으로 이 기술을 적용하는지에 따라 인공지능 설계와 학습 데이터 선택은 달라지며, 결과가 누구에겐 혜택이 되고 또 다른 이에겐 폐해가 될 수 있다. 얼굴인식 알고리즘을 광범위하게 적용하고 싶어 하는 경찰은 최신 기술로 범죄율을 낮추고 싶어 한다. 하지만 이로 인해 이유 없는 감시와 검문을 받게 되는 시민은 인권 침해를 우려할 수밖에 없다. 수백 수천 명의 응시자가 몰리는 취업 인터뷰를 하는 기업은 효율성을 위해 인공지능 인터뷰를 활용하지만, 응시자는 공정성을 의심한다. 이렇듯 인공지능이 만들어가는 미래는 서로 다른 이해관계자 간 충돌을 초래한다. 바로 이 지점이 인공지능이 끄는 디스토피아로의 행진을 막기 위해 시급히 고민해야 할 부분이다.
