디지털 자본주의와 데모크라시, Big Tech와의 싸움 ①
내 얼굴을 돌려 달라!
(WWW.SURPRISE.OR.KR / 김종익 / 2022-07-25)
우치다 쇼코內田聖子
비영리법인 아시아태평양자료센터 공동 대표. 자유 무역․투자 협정 감시, 정부와 국제기관에 대한 제언 활동 등을 한다. 『자유 무역은 우리를 행복하게 할까?』 『철저 해부 국가 전략 특구 ― 우리의 삶은 어떻게 될까?』 『일본의 상수도를 어떻게 할까? ― 민영화인가 공공의 재생인가』 등의 저서가 있다.
■ 얼굴 인식 사용 금지 조례를 가결하다 – 샌프란시스코시
“건전한 민주주의와 얼굴 인식[주1 : 얼굴 인증에 관한 기술은, ‘얼굴 인식 : 얼굴을 검사해 아는 것’, ‘얼굴 인증 ; 얼굴 인식된 것을 1 대 1로 조함하는 일’ ‘얼굴 식별 : 인식된 얼굴을 다른 얼굴 자료에서 합치하는 것을 찾아내는 일’로 정의되지만, 이것들이 혼동되어 사용되는 경우도 많다. 이 글에서는 편의에 따라 각기 달리 적당히 사용하지만, 일반적인 의미로 사용하는 경우는 ‘얼굴 인식’을 쓴다]은 양립할 수 없습니다. 주민은, 감시 기술에 관한 결정에 발언권을 가져야 합니다.”
2019년 5월 1일, 캘리포니아주 샌프랜시스코시 감리위원회(시의회에 상당)는, 시의 공공기관에 의한 얼굴 인식 기술의 사용을 금지하는 조례를 가결했다. 캘리포니아주로 말하자면 Google과 Facebook, Uber, Twitter 등 거대 IT 기업이 와글거리는 실리콘 밸리를 가지고 있다. Big Tech가 소재하는 자치단체에서 태어난, 미국에서도 최초가 되는 이 조례는, 미국 전역 그리고 세계의 주목을 받았다.
모두 발언은, 조례 제정에 온힘을 다해 온 미국자유인권협회(ACUL)[주2 : 미국 최대 인권옹호단체. http://www.aclu.org/] 북캘리포니아지부 Matt Cagle 씨의 말이다. 변호사이기도 한 Matt Cagle은, “얼굴 인식 기술은, 사람들의 일상생활을 추적한다는 전례 없는 힘을 정부에 부여하는 것이지요. 이번 조례는, 이 위험한 기술의 확대를 막기 위한 실로 전향적인 조치입니다”라고 성과를 설명했다.
우리의 신체와 행동의 특징을 사용해 개인을 식별하는 기술은, ‘신체 인증biometrics’으로 불린다. 지문은 가장 오래된 신체 인증이지만, 최근에는 얼굴 인식과 손바닥의 손금, 정맥, 음성, 눈의 홍채, 안구 혈관, 귓바퀴, 이명, 그리고 DNA 등, 그 범위는 놀랄 만큼 확대되고 있다. 이미 세계 각지에서, 퍼스널 컴퓨터와 스마트폰의 잠금 해제와 은행 결제, 국제공항과 경기장 등에서 실용화되고 있다.
얼굴 인식 기술의 용도는, ① 본인 동의를 바탕으로 일대일 조합이 행해지는 경우(스마트폰과 PC의 로그인, 공항 게이트, 빌딩의 출입 등), ② 경찰 등이 사전에 범죄 용의자의 얼굴 사진 데이터베이스를 작성하고, 범행 현장 등에서 취득한 용의자의 얼굴과 조합하는 경우, ③ 공공 공간 등에서 본인의 동의 없이 불특정다수 사람의 얼굴을 정보로 입수해 관리할 경우(경찰에 의한 수집이나 기업에 의한 고객 분석 등)다. 특히 ③의 용도에서 사생활 침해 등이 우려되고 있다.
샌프란시스코 시의회는, 조례 가결에 즈음해 다음과 같이 결론을 내렸다.
“감시 기술은 우리의 사생활을 위협할 가능성이 있으며, 감시의 몰두는, 역사적으로 인종, 민족, 종교, 국적, 수입, 성적 취향, 정치적 견해에 의해 정의되는 것도 포함해, 특정 커뮤니티와 그룹에 대한 위압을 행사하기 위해 사용되었습니다. 얼굴 인식 기술이 시민의 권리와 자유를 위험에 노출할 경향은, 유익하다는 주장의 효익보다 훨씬 크고, 이 기술은 인종적인 불의를 악화시키고, 계속적인 정부의 감시로부터 자유롭게 살 우리의 능력을 위협합니다.”
조례는, 시의 공공기관이 얼굴 인식 기술에 의해 정보를 취득하고, 보관하고, access하는 것, 또 그 사용을 위법으로 판단했다. 이 조례에 의해, 시의 경찰과 교통 당국, 법 집행기관은 얼굴 인식 기술을 사용할 수 없게 된다. 다만 기업과 개인, 연방정부기관에는 규제가 미치지 않기 때문에, 국제공항과 연방정부의 법 집행기관에 의한 얼굴 인식 기술의 사용은 금지할 수 없다.
조례안을 제안한 Aaron Peskin 시의원은, “샌프란시스코시는, IT 산업의 본거지이기 때문에, IT 산업의 과도함을 규제할 책임이 있는 겁니다.”라고 이야기했다(『뉴욕타임스』, 20190514.).
■ 감시 국가화해 온 미국
미국에서 생체 인증 기술이 급속히 확대된 계기는, 2001년의 9․11 사건이었다. 당시 부시 정권은, 미국에 ‘위험’이 되는 모든 인물을 검사하고, 체포․배제할 방침을 채택하고, 이를 위한 기술 개발에 거액을 투자했다. 창업한 지 얼마 안 된 Google과 Facebook은, 이 정책에 따른 형태로 자금을 얻으면서, 나중에 감시 기술의 중요 부분을 담당하는 몇몇 어플리케이션과 AI 알고리즘을 개발해, 현재의 압도적 우월적 지위를 얻었다. 얼굴 인식 소프트웨어를 개발하는 Clearview AI사와 빅 데이터 분석을 강점으로 하는 Palantir사 등 생체 인증 기술에 특화된 기업도 급성장했다. Amazon도 2016년에 독자적 얼굴 인식 소프트웨어 ‘Rekognition’을 개발해, 경찰을 비롯한 정부․자치단체에 판매를 확대해 왔다.
이들 감시 기업의 대두는, 경찰과 법 집행기관의 수사 방법을 변화시키는 동시에, 미국 사회에 커다란 불안을 불러 왔다. 얼굴 인식, 드론, 번호판 식별Number Plate Reader 등을 통해 대량의 데이터가 수집되는 가운데, 경찰 당국에 의한 시민활동가의 감시와 운동 탄압, 이민자의 과잉 구속․관리가 현저해지기 시작했다.
필자는 미국의 활동가 친구로부터 다음과 같은 이야기를 들은 적이 있다. 2011년, ‘월스트리트를 점거하라Occupy Wall Street’ 운동이 일어났을 때, 그는 미주리주 세인트루이스에서 시위에 참가했다. 동료로부터 “경찰에 사진을 찍히지 마, 얼굴을 스카프로 가려”라고 들었지만, 그렇게 하지는 않았다. 경찰이 참가자를 촬영하고 있었지만 특별히 신경을 쓰지 않았다.
하지만, 그로부터 3년 뒤인 2014년 8월, 세인트루이스 인근 도시 퍼커슨에서, 경찰에 의한 흑인 사살 사건이 일어나자, 각지에서 항의 행동이 전개되었다. 이른바 퍼커슨 폭동이다. 그는 여기에도 시위에 참가했는데, 몇 번이나 경찰에 의해 불러 세워져서, 이런저런 질문을 받았다.
“경찰은 나를 특정해 조사하는 듯했다. 내 얼굴, 그리고 모든 것이 도둑맞고, 아무렇게나 취급당하는 듯한…감시 기술 때문이 아닐까 생각했었다.”
실제로 이 시위 때, 세인트루이스 시경은, ‘Real Time Crime Center(RTCC)’로 불리는 감시 거점Data Center를 개설하고 있었다. 여기에는 번호판 식별과 총성을 탐지해 위치를 특정하는 센서, 시내에 설치된 감시 카메라 등의 기술로 수집된 정보가 집약되어, 경찰이 이용하고 있었다.
■ 트럼프 정권에서 한층 심각해진 감시 체제
많은 활동가와 시민이 품고 있는 우려는, 2016년의 트럼프 대통령의 등장으로 현실의 위협으로 확실히 변했다. 대통령은 몇 백만 명이나 되는 불법 이민자를 특정해 강제 송환하고, 이슬람교도를 추적하며, 한층 적극적으로 유색 인종 커뮤니티를 엄하게 다잡는 것을 정책으로 내걸었다. 최신 기술을 구사한 감시는 강화되고, 미국 이민․관세집행국(ICE) 등 연방기관과 경찰이 감시 자료를 비밀리에 공유하는 것도 쉽게 이루어지게 되었다.
트럼프 대통령 등장 이전부터 그 영향을 직접 받아온 것이, 흑인․유색 인종, 이민자 커뮤니티였다. 특히 ‘Black Lives Matter’(BLM) 운동의 회원에 대한 경찰 당국의 감시와 탄압은 집요하게 반복되어 왔다. BLM은, 2020년 5월 George Floyd 살해 사건으로 세계 전역에 알려지게 되었지만, 운동의 시초는 2013년 7월까지 거슬러 올라간다. 아프리카계 미국인 소년이 자경단원에게 사살된 사건으로, 가해자는 무죄 판결을 받았다. 이 판결에 대해 활동가 Alicia Garza 등이 호소해, 대규모 항의 운동으로 발전해 왔다.[주3 : BLM 운동의 상세한 내용은, Alicia Garza의 저서 『The Purpose of Power : From the co-founder of Black Lives Matter』 참조]
예를 들면 2015년, 미국국토안전보장성(DHS)은, BLM 회원의 SNS 계정을 감시하며, 퍼커슨, 볼티모어, 뉴욕에 있는 회원의 거주지와 평화적 항의 운동 계획을 수집하고 있었다. 또한 같은 해, 캘리포니아주 프레주노시 경찰은, 복수의 SNS 감시 수단을 이용해 ‘#BlackLivesMatter’ ‘#dontshoot’ 등의 해시태그를 감시하고, 개인별로 ‘위협 수준’을 할당하고 있었던 사실도 판명되었다. 오클랜드시에서는 경찰이 아프리카계와 라틴계 미국인의 거주 구역에서 번호판 식별을 사용하는 경우가 다발이었다. 인구의 대부분을 아프리카계 미국인과 히스패닉계가 차지하는 콤프턴시에서는, 경찰이 고정밀도의 감시 카메라를 탑재한 비행기를, 일반 시민에게 공표도 동의도 얻지 않고, 몇 주간에 걸쳐 상공을 비행하게 했다.
많은 법 집행기관은, 범죄 행위를 의심하는 정당한 이유가 없는 한, 정치 활동 및 미국 헌법수정 제1조로 보호된 표현의 자유, 보도의 자유, 평화적으로 집회할 권리 등의 활동에 대한 정보 수집을 금지시키고 있다. 그러나 유색 인종이라는 이유만으로, 어떤 시대나 감시는 횡행하고 있었다.
2015년, 미국연방수사국(FBI)은 캘리포니아주 샌버너디노시에서의 총기 난사 사건 용의자가 사용하던 iPhone 잠금을 해제하도록 애플사에 요청했지만, 애플사는 거부했다. 이 사건을 둘러싸고 ‘FBI 대 애플’의 대립은 법정 투쟁으로까지 파급되어, 대논쟁을 불러일으켰다.
이때, BLM 회원과 인권운동가, 인터넷 감시에 반대하는 그룹, 예술가 들은 애플 매장과 FBI 본부 앞에서 몇 번이나 시위를 벌이고, 애플사가 FBI의 요청을 쉽게 수용해 버리면, 유색 인종에 대한 감시가, 모든 사람의 감시로 파급될 위험이 있다고 호소했다.
“역사 속에서 가장 우려해야 할 것 가운데 하나는, 감시가, 자신들의 정의를 주장하는 흑인들을 상대로 악용되어 온 사실입니다. 그들의 신용을 떨어뜨리고, 학대하고, 투옥하기 위해 사용되어 온 것입니다.” (BLM 공동대표 Ayọ Tometi)
“유색 인종에 대한 넘치는 감시가 연방 차원에서 대규모 감시를 낳는 겁니다. 그 반대는 없습니다. 우리 커뮤니티에서 보통이라고 여겨져 온 일이지만, 지금, 연방 차원에서도 보통의 일로 되려고 하고 있습니다. 기본적으로, 헌법수정 제1조와 제4조의 권리를 지키기 위해서는, 법률을 디지털 시대에 맞게 최신 정보로 바꿔야 할 필요가 있습니다.” (시인으로, ‘언론 정의를 위한 센터’의 회원인 Cyryl)
■ 점점 확산되는 얼굴 인식 금지 조례 ― 커뮤니티의 힘
각지에서 고조되는 감시 기술에 대한 분노와 불신은, 거대한 감시 권력에 대한 민주적 통치를 요구하는 목소리로 진화했다. 그리고 그 주체로서 지역 커뮤니티 운동을 토대로 한 자치단체의 힘의 방향성이 잡힌 점에 의의가 있다. 주민․자치단체에 의한 Big Tech를 상대로 한 저항 운동이다.
2016년 4월, 미국시민자유연맹American Civil Liberties Union(ACLU) 캘리포니아는, 「커뮤니티의 투명성․설명 책임․감독을 위한 안내―감시 기술에 관해 보다 나은 결정을」[주4:https://www.aclunc.org/docs/20160325-making_smart_decisions_about_surveillance.pdf]이라는 제목의 문서를 발간했다. 이 문서는 감시 기술의 금지를 전면으로 내세운 것이 아니라, 오히려 결정에서 도입, 재정, 운용까지의 프로세스를 주민에게 투명화하고, 주민이 검증할 수 있기 위한 행동 매뉴얼이었다. 많은 자치단체에서, 사람들은 감시 기술의 위험성에 대해 알리지 않았을 뿐만 아니라, 언제 어디에서 도입이 결정되었는지도 알 수 없는, black box 상태였기 때문이다.
“우리 커뮤니티에서는 감시가 늘고 있어요. 감시 가운데 많은 것은, 시민과의 대화와 비용 대 효과의 검토, 권리를 보호하기 위한 정책이 없는 상태로 진행되고 있어요. 주민에 대한 투명성, 설명 책임이 필요해요. 그렇지 않으면, 시민의 신뢰는 바로 깨지고, 지역 사회는, 침습성(염증이나 악성 종양 따위가 번지어 인접한 조직이나 세포에 침입하는 성질 ― 역주)이 높아지고, 비싼 가격으로, 지역의 안전을 확보하는 효과가 낮은 시스템을 떠안게 되기 쉬워요.” (ACLU 리포트에서)
그 뒤인 2016년 9월에는, “경찰에 의한 감시를 커뮤니티가 통제하자Community Control Over Police Surveillance”(CCOPS)라는 캠페인이 개시되었다. 감시 기술의 사용 시비와 사용 방법을 규제할 권한을 의회에 주는 CCOPS 조례․법을 자치단체에서 성립시키기 위한 운동이다. 여기에는, ACLU 외에, 전자프런티어재단Electronic Frontier Foundation , 민주주의와정보통신센터Center for Democracy and Technology, 미래를 위한 싸움Fight for the Future 등 기술과 민주주의․인권을 과제로 삼는 단체가 가담하고, 아랍․아프리카 커뮤니티 전국 네트워크 등 다수의 조직이 참가해, 각지에서 집회와 로비 활동을 행하기 시작했다(2021년 시점에서, 미국 전체 21개 자치단체가 CCOPS 조례․법을 제정).
이 몰두가 밑바탕이 되어, 샌프란시스코시의 얼굴 인식 기술 금지 조례의 실현으로 발전해 갔다. 급속하게 각지에서 도입되는 얼굴 인식 기술에 대해, ‘금지’라는 강한 반대를 조급하게 내세울 필요도 있었다.
샌프란시스코시 조례 제정 운동에는 실로 다양한 층이 참가했다. 주민 커뮤니티의 활동가, 변호사, 대학생, 홈리스지원단체, 빈곤층에대한주택지원단체, 그리고 자치단체 의원이다. 지역에서는 얼굴 인식 기술을 둘러싼 찬반이 엇갈렸다.
“치안이 좋아지는 거라면 수용한다”는 목소리는 뿌리 깊어, 경찰 당국과 기업 경영자도 찬성하는 경우가 많았다. 이런 와중에 운동은 분야를 넘어 협력하며, 주민 설득을 계속해 왔다.
샌프란시스코시의 조례 가결 이후, 다른 자치단체도 속속 같은 내용의 조례를 가결해 갔다. 2019년 6월에는 매사추세츠주 서머빌 시의회가 얼굴 인식 기술의 금지 조례를 가결했다. 9월에는 오클랜드시, 10월에는 버클리시, 12월에는 브루클라인시, 노샘프턴시, 2020년 1월에는 케임브리지시 등으로 이어졌다. 2021년 11월 현재, 약 20개의 자치단체(주 포함)에서 어떤 형태로든 얼굴 인식을 금지․규제한다. 준비 중인 자치단체도 여럿 있다.
2020년 9월에 가결된 오리곤주 포트랜드시 조례는 하나의 전환점이 되었다. 그때까지는 시 당국에 의한 얼굴 인식 기술의 사용 금지에 그치고 있었지만, 포트랜드시의 조례는, 미국 전역에서 처음으로 공공시설에서 민간사업자의 사용도 금지했다. 게다가 은행과 교통기관 등 공공성이 높은 시설만이 아니라, 가계와 식당, 호텔 등 상업 시설을 포함하는 시내 모든 공공시설에 적용되었다.
더욱 상징적인 의미를 갖는 자치단체가, 미네소타주 미네아폴리스시다. 이 시는, 조지 플로이드가 살해된 곳이다. BLM 운동의 세계적 확대와 병행해, 이 시의 시민은 얼굴 인식 기술의 사용 금지 조례를 강하게, 절실하게 요구해 왔다. 그리고 마침내, 플로이드의 죽음으로부터 약 9개월 뒤인 2021년 2월, 미네아폴리스 시의회는 얼굴 인식을 금지하는 조례를 전원일치로 가결했다. 자치단체․커뮤니티의 힘을 중심에 둔 미국 시민 사회의 운동이 지닌 저력이라고 할 수 있으리라.
자치단체의 금지 조례는 나아가 여러 분야에 영향을 끼치고 있다. 예를 들면 콘서트장에서의 생체 인증에 반대하는 뮤지션과 예술가 들이다. 2021년 11월, 200명 이상의 뮤지션들과 30개 인권 단체는, 콜로라도주 레드 락 야외극장에 ‘Amazon One’이라는 손바닥 손금 무늬 인식에 의한 입장 관리 시스템을 폐지하라고 주최 측과 극장 측에 요구했다. 2019년에는 40개 이상의 주요한 음악 축제가 이러한 요청에 응하고 있다.
많은 기업이 얼굴 인식 기술의 정확성을 호소하며, 정부와 자치단체에 팔아먹는 가운데, 연구자․기술자에 의한 조사 연구도 우려 제시로 공헌해 왔다.
2018년 2월, 매사추세츠공과대학MIT의 Joy Buolamwini 교수와 당시 마이크로소프트 연구자였던 Timnit Gebru는, 시판되는 얼굴 인식 시스템이 지닌 성별과 인종에 관한 편견을 조사했다. 마이크로소프트, IBN, 중국의 Megvii Technology의 얼굴 인식 시스템을 대상으로 한 논문「Gender Shades : Intersectional Accuracy Disparities in Commercial Gender Classification」은, 충격적이었다.
[논문 출처 ; https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf]
IBM 제품에서는, 피부색이 밝은(백인) 남성보다, 피부색이 짙은(유색 인종) 여성 쪽이 성별 분류 정밀도가 34.4 포인트나 낮았다. 이런 결과는, 각 사가 내거는 ‘높은 정밀도’라는 주장을 명확히 부정하는 것이었다.
ACLU는 2018년 7월, Amazon의 Rekognition을 이용해, 범죄자의 얼굴 사진 2,500매를 미연방의회 의원의 얼굴 사진과 비교했다. 그 결과, 웬걸 28명이나 되는 국회의원이 ‘체포된 경력이 있는 인물과 비슷하다’고 판단되었다. 이 조사들은, 얼굴 인식 기술에 대한 신화를 붕괴하고, 차별과 사생활과 기술을 둘러싼 문제를 사회에 던졌다.
■ 기업도 대응을 전환, 싸움의 무대는 연방의회로 확대되는 운동은 기업의 대응도 변화시켰다.
2018년 6월, 시민단체들은 Amazon에 대해 얼굴 인식 시스템의 정부 판매 중지를 요구하는 서명을 제출했다. 트럼프 정권의 이민 단속에 이 회사가 가담하고 있어, “Amazon은 시민권과 시민적 자유를 위해 일어나라!”라고 요구한 것이다. 15만 명 이상의 서명 외에, 이 회사 주주에게도 서한을 보냈지만, Amazon사는 이것을 무시했다.
그런데, 조지 플로이드 사건 직후부터, 감시 기술 기업은 잇달아 얼굴 인식 비즈니스에서 ‘철수’와 ‘일시 정지’를 표명한다. 먼저 2020년 6월, IBM은 “집단 감시와 인종을 관점에 둔 분석, 기본적인 인권과 자유의 침해 외에, 우리의 가치관과 신뢰와 투명성의 원칙에 일치하지 않는 목적을 위해 이용되는, 모든 기술의 이용에 단호하게 반대함과 아울러, 그 사용을 허용하지 않는다”라고, 서한을 국회의원 앞으로 보내 의지를 표명했다. 그로부터 며칠 뒤에는 마이크로소프트사가 “연방법으로 규제될 때까지 경찰에 시스템 판매를 중지한다”고 발표했다. 그리고 Amazon사도 6월 10일, “경찰에 의한 얼굴 인식 시스템 사용을 1년간 유예한다”고 발표했다. 이 세 회사 가운데 가장 작은 양보에 지나지 않지만, Amazon사가 시장 점유율이 가장 높은 점을 고려하면, 영향은 크다.
AI 연구자이며, 얼굴 인증 기술의 부정확성에 관한 연구를 행해 온 Deborah Rage 씨는, “Amazon이 인종 차별을 둘러싼 현상에 대응하는 형태로, 이번 발표를 한 것은 믿어지지 않는 일이지요. 사람들의 힘을 이야기하고 있는 겁니다.”라고 했다.
그러나 운동의 성과가 있는 한편, 전 세계에서 감시 기술은 계속 도입되고 있다. 투자가는 생체 인증 스타트업 기업에 거액을 투자하고, 시장은 활황을 드러내고 있다.
생체 인증 산업의 리더 기관 ‘FindBiometrics’에 따르면, 얼굴 인식 시스템에 대한 민간 투자는 2014년 무렵부터 증가해, 2016년에 548,300,000달러, 2018년에는 25억 달러까지 급증했다. 그러나 이것을 정점으로 2019년은 843,900,000달러, 2020년에는 622,500,000달러로 떨어졌다. 그런데 2021년에 들어 투자는 다시 급증, 7월까지 약 반년 만에 이미 5억 달러를 넘고 있다. 이런 투자를 견인하는 것은, 정부 조달 부문이 아니라 기업과 개인의 device에 탑재하는 기술이다. 스마트폰의 잠금 해제 등 이미 ‘모바일 생체 인증’이 당연하게 되었는데, 그 이상의 기술 ― 카메라로 모은 영상으로 성별, 연령, 양복, 그 사람의 감정과 흥분 상태 등이 분석되는 등 ― 도 실제로 설치되고 있다. 모종의 기술을 봉쇄해도 또 새로운 기술이 등장할 것이다.
그러나 요즘의 커뮤니티 운동, MLB가 합류해 태어난 얼굴 인식 금지 조례의 조류는, 확실히 다음 무대로 상황을 밀고 나가고 있다.
2021년 6월, 미국 상원․하원은, 얼굴 인식 및 그 밖의 생체 인증 기술의 사용을, 관세․국경 경비국을 포함하는 연방정부기관에 대해 금지하는 「얼굴 인식 및 생체 인증 기술 moratorium 법안」을 제안했다. 2020년 시점에서 준비되고 있었지만 심의가 안 된 채 뒤로 미뤄져서, 다시 제출된 꼴이다.
법안에 대해, 업계 단체는 맹렬하게 반대한다. 경비․안전 산업협회(SIA)는, 트럼프 시대에 높아진 사람들의 불안과 불만에 호소하는 형태로 논진을 펼친다. 예를 들면, 법안이 통과하면 “1월 6일에 미국연방회의 의사당을 습격한 인물의 특정” “중요한 상황 아래에서 테러 대책 수사 지원” 등의 합법적 행위가 초래하는 利點마저도 위태로워진다고 주장한다.
얼굴 인식 기술에 대한 규제를 둘러싼 논의 무대는 연방의회로 확대되어, 커다란 주목을 끄는 법안 가운데 하나가 되었다.
■ 일본에서는 얼굴 인식 기술을 잇달아 도입
이 10여년, 미국 시민 사회는 감시 기술이 초래하는 민주주의와 인권의 침해와 전면적으로 싸워 왔다. 일본은 어떨까. 아쉽지만, 반대 방향으로 가고 있다고 하지 않을 수 없다.
일본에서의 얼굴 인식 기술은 2010년 무렵부터 확대되어 갔다. 최근에는, 예를 들면 도쿄도의 대형 서점 세 개가 절도 방지를 위해 언굴 인식 카메라를 설치하고, 그 자료를 세 개 서점에서 공유하는 ‘시부야 서점 절도 대책 공동 프로젝트’가 2019년에 시작되었다. 개인정보보호법에는 저촉되지 않아 도입되었지만, 사생활 침해 논의는 심화되지 않는 상태다.
2021년 7월에는, JR동일본이 주요 역의 안전 대책의 일환으로, 얼굴 인식 기술을 이용해 지명 수배 중인 용의자와 교도소 출소자․가출소자를 역 구내에서 검사해 알아내는 시스템을 도입한 사실이 요미우리신문의 보도로 밝혀졌다. 데이터베이스에 용의자 등의 얼굴 사진을 등록해 놓고, 카메라에서 촬영한 불특정다수 사람의 얼굴과 그 사진을 일치시킨다는 시스템이다(얼굴 식별). 출소자까지 ‘안전상의 우려’로 검사해 알아내는 것은 인권 침해에 해당하는 것이 아닐까, 관련이 없는 시민이 잘못 인식된 경우도 당연히 인권 침해에 해당할 것이다. JR동일본은 “사회적 합의를 얻지 않았다”고 하며, 출소자, 가출소자의 등록은 당분간 정지한다고 발표했다(지명수배자와 수상한 사람을 대상으로 한 운용은 계속). 여론의 반발에 따른 고통스러운 대응이라고 할 수 있지만, 이걸로 문제가 해결된 것일까. JR동일본의 행위는, 현상은 ‘합법적’이며, 같은 일이 다른 공공공간에서 행해질 가능성은 충분하다.
일본에서는 현재, 얼굴 인식 기술을 공공공간에서 사용하는 것에 관한 법률과 사회적 합의도 없다. 미국의 경험을 참조하면서, 우리도 이 논의를 시작할 때가 아닐까.
Big Tech에 의한 유례없는 경제 체제를 ‘감시 자본주의’라고 논한 Shoshana Zuboff 교수(하버드비즈니스스쿨 명예교수)는, “감시 산업은 2000년부터 20년, 법과 규제가 따라잡지 못하는 공간에서 자유를 구가해 왔다”고 지적한다.[『The Age of Surveillance Capitalism : The Fight for a Human Future at the New Frontier of Power』] 마치 식민지 지배자가 선주민을 무시하고 “여기는 우리 땅이다”라고 선언하고, 자신의 규칙을 구축하는 꼴이 아닌가, 라고 비유한다.
그러니 이제, 그 공백의 20년간을 메우려는 듯, 미국 시민 사회는 감시 기술에 대해 NO를 들이밀고 있다. 커뮤니티의 힘으로 거대한 힘을 물리치려고 하는 운동은, 한 걸음씩 성과를 올려 왔다. 감시 기술의 폐해는 늘 소수자로 향하고, 사람들을 분단하며 민주주의를 후퇴시켜 온 사실을 고려하면, Big Tech와의 싸움이, 민주주의를 요구하는 운동의 중심 과제에 놓이는 것은 당연하리라.
이것을 ‘악순환’이라고 냉소하는 일은 간단하다. 그러나 이마저 할 수 없는 사회에는, Big Tech와 사람들의 힘의 관계를 변혁하는 일 따위는 불가능할 것이다. 유럽에서 ‘잊힐 권리’가 등장했듯이, 우리는 기존 법률의 틀에는 아직 존재하지 않는, ‘디지털 시대의 인권’ 개념을 창안하고, 키워갈 필요도 있다.
싸움은 이제 막 시작되었을 뿐이다.(계속)
(『世界』, 202201월호에서)
