[보일스님이 들려주는 4차 산업혁명 이야기] <55> 인공지능과 액정 화면 속의 자아 ②

➲ 나는 로봇이 아닙니다

“나는 로봇이 아닙니다?” 당연히 아니지. 지금 장난해? 그럼 당신들은 내가 로봇일 수도 있다고 생각하는 거야? 인터넷에서 검색을 하다 보면 이런 화면과 마주하는 경우가 종종 있다. 단지 확인 절차일 뿐인데도 불구하고 순간 당혹스럽기도 하고 우습기도 하다. “□ 로봇이 아닙니다” 란에 체크해야만 로그인이 된다고 하니, 얼떨결에 로봇이 아님을 또는 인간임을 확인해 주게 된다.

아직 이런 절차가 생소한 나는 어색한 미소 속에서 “로봇이 아닙니다” 옆의 네모 창에 클릭한다. 근데 왜 내가 로봇과의 비교 속에서 또 다른 로봇에게 나를 증명해야 하지? 나만 이상한 건가? 어느새 인공지능 로봇은 인간의 지위와 대등하게 비교되고 있다. 디지털 세계에서 인공지능과 인간의 영역 사이의 경계가 사라지면서, 인공지능을 상대로 내가 누구인지에 관한 확인을 요구받기 시작했다. 

어쨌든 우리는 로봇이 아님을 증명해야 하는 시대에 살고 있다. 이런 상황이 벌어지게 된 여러 가지 이유 중 하나는 인공지능 알고리즘이 인간이 하는 것처럼 가장해서 활동하는 사례가 빈번하기 때문이다. 예를 들어, 최근 몇 년 사이에 선거전에서 허위 댓글을 통한 여론 조작 사건 때문에 뜻밖에 유망해져 버린 ‘매크로(macro)’라는 알고리즘이 있다.

매크로는 인간이 마우스나 키보드로 여러 번 순서대로 클릭하거나 직접 입력해야 하는 동작을 한 번의 클릭과 입력으로 인공지능이 자동 실행시키는 프로그램이다. 편의성을 위해 개발했지만, 편법수단으로 악용되는 사례가 허다하다. 공연 티켓 예매 등에서 좌석 선점을 하거나, 특정 패턴의 댓글을 무차별적으로 쏟아내서, 마치 많은 사람이 특정 정당을 지지하는 것처럼 보이게 하거나, ‘좋아요’라는 선호도를 단기간에 끌어올릴 방법으로 악용되기도 한다. 

그래서 각 사이트에서는 회원 가입이나 특정 댓글을 달기 위해서는 이러한 일종의 ‘튜링 테스트’를 거치게 할 필요가 생긴 것이다. 이것은 소외 ‘캡차(CAPTCHA) 서비스’라고도 하는데 완전 자동화된 튜링테스트라는 의미이다. 웹사이트에서 스팸메일이나 해킹을 방지하기 위해 인공지능과 사람을 구별해 내기 위한 시험 과정이다.

현재 디지털 세계에서는 인간이 데이터베이스에 접속한 것인지, 인공지능이 접속한 것인지 구별하기가 어렵다는 의미이다. 그러한 혼란 이면으로 서서히 인공지능 알고리즘이 또 다른 알고리즘의 접근을 차단하는 과정에서 인간이라는 존재는 인공지능에 의해 대상화되어 가고 있다. 인공지능 알고리즘에 의해 인간이라는 존재가 확인 또는 규정되고, 정확한 확인과 규정을 위해서는 미리 인간의 행동양식을 살펴야 할 필요가 생기게 된다. 

➲ 가짜 뉴스와 추천 알고리즘

왜 가짜 뉴스가 계속 늘어날까. 간단하다. 돈이 되기 때문이다. 최근에 특히 음모론이 넘쳐난다. 주제는 코로나바이러스부터 최근의 미국 대선 과정까지 다양하다. 일부러 강대국 정부가 바이러스를 퍼뜨려서 세계질서를 재편하려 시도한다든가, 대선 개표과정이 조작됐다는 것 등이다. 당신이 어떤 음모론에 관심이 있다면, “이건 봤니” 또는 “이건 어때?”라고 하듯이 계속 추천한다. 거대 디지털 기업의 추천 알고리즘이 작동하고 있기 때문이다. 선호도에 따라 왜곡되고 편향적인 데이터가 개인에게 집중된다. 빅데이터는 당신의 관심사를 다 알고 있다. 

예를 들어, 당신이 정치적으로 보수인지 진보인지, 클릭할 때마다, 광고를 볼 때마다, 당신의 시선이 머문 곳과 머문 시간까지 다 알고 있다. 사람들은 믿고 싶어 하는 것을 보고 싶어 한다. 우리는 인터넷상에서 누구나 동일한 정보를 접하고 있다고 믿고 있지만, 사실은 그렇지 않다. 빅데이터는 이용자의 관심사와 선호도에 따라서 이용자가 반응할 만한 정보와 광고를 제공한다.

신차 구입을 염두에 두고 있는 사람에게 난데없이 주방용품 광고를 계속 보여줘 봐도 소용이 없는 이치이다. 이 과정에서 디지털 사회가 다양해지는 것이 아니라 보다 비민주적이고 권위주의적 가치에 쉽게 이용당할 수 있는 취약점이 노출된다. 이 경우, 사회관계망 서비스는 인간을 소통시키는 것이 아니라 더욱 분열시킬 수도 있다. 모든 이용자를 스마트폰 액정 속에 시선을 붙잡아두고 감시하고 통제가 가능해진다. 

빅데이터는 왜 이런 시도를 할까. 개인의 행동 패턴을 파악해 내기 위해서이다. 그것이 바로 돈이 된다. 그 사람이 사고자 하는 것, 가고자 하는 여행지, 하고 싶어 하는 활동 등등이 예측가능해진다. 이렇게 되면, 나 자신보다 인공지능 알고리즘이 더 나를 잘 알게 된다. 미래에 나의 행동 예측도 마찬가지이다. 인공지능은 마치 ‘그럴 줄 알았어, 원래 사람은 변하지 않아’라고 말하는 것과 같다. 또 다른 형태로 인간의 마음을 착취하는 것이다. 정당한 대가도 지불하지 않고 말이다. 
 

➲ 디지털 파놉티콘과 행동 예측

학창 시절, ‘최대 다수의 최대 행복’으로 유명한 영국의 공리주의 사상가 제레미 밴담(Jeremy Bentham)을 다들 기억하고 있을 것이다. 이 벤담이 남긴 유산은 이뿐만이 아니다. 바로 벤담이 설계했다는 파놉티콘 교도소이다. 이 파놉티콘은 최소한의 감시자가 많은 수감자를 감시할 수 있도록 고안되었는데, 가장 효율적인 감시와 통제라는 권력 작용의 대명사로 사용되기도 한다.

원형의 공간에 가운데 공간에 감시탑을 두어서 감시자의 시야에 모든 수감자를 감시할 수 있는 것이다. 미셸 푸코(Michel Foucault)는 <감시와 처벌>에서 그리고 조지 오웰은 <1984>에서 이미 오래전에 파놉티콘 개념을 통해 디지털 사회 속의 감시와 통제 가능성에 대한 위협을 경고했었다. 

그간 몇 년 사이에 급성장한 디지털 플랫폼 회사들은 막대한 자본과 영향력을 바탕으로 새로운 권력으로 급부상하고 있다. 그 원동력은 바로 데이터이다. 데이터 독점을 통해 세상 모든 것을 볼 수 있고 통제할 수 있게 된다. 심지어 페이스북의 경우, 전 세계적으로 1분당 13만6000건의 이미지가 올라가고, 댓글은 1분당 51만 개가 달린다고 한다. 페이스북의 빅데이터 시스템이 이러한 데이터를 모니터하다 보면, 이용자의 메시지 분석을 통해 우울증 증상이나 자살 징후까지 사전에 포착해서 경고가 뜨고, 이용자에게 정보를 제공할 수 있을 정도라고 한다. 

소셜 미디어 서비스의 긍정적 측면이라고도 할 수 있지만, 한편으론 사생활이 그 정도 수준으로 노출 또는 침해될 위험성도 공존한다. 여기에는 사생활 침해 문제보다도 더 주목해야 할 문제가 있다. 바로 인공지능을 통한 인간 행동 예측이다. 전통 시대의 믿음으로는 인간이 앞으로 어떻게 행동할지 아는 것은 전지전능한 신만이 가능한 영역이었다. 그래서 요즘엔 우스갯소리처럼 ‘구글 신’이라는 말이 등장할 정도이다. 사람들이 어떻게 행동할 것인지 미리 알 수 있다면, 아마도 엄청난 돈을 벌 수 있을 것이다. 이것은 이미 실현되고 있다. 

예를 들어, 중국판 ‘블랙 프라이데이’로 일컬어지는 소위 ‘광군제(光棍節, 11월11일)’에서 전자상거래 기업인 알리바바는 작년(2019년), 하루 매출액이 한화 44조를 넘어섰다. 하루 주문 건수가 10억 건이 넘는다고 하니, 그 물류 규모를 상상키 어렵다. 여기서 궁금해지는 건 그 엄청난 물류량을 어떻게 하루에 소화할 수 있냐는 점이다. 이 문제를 해결하기 위한 대안으로, 마윈(알리바바 회장)은 하루에 10억 건의 소포를 처리할 수 있는 인공지능 시스템을 도입했다고 한다. 택배 분류 센터에 로봇이 도입되고 무인배송도 이뤄졌다.

그래도 의문이 여전히 남는다. 무슨 수로 엄청난 양의 주문을 하루 사이에 처리할 수 있을까. 흥미로운 것은 알리바바가 당일에서야 주문받아서 처리하는 것이 아니라는 점이다. 이미 인공지능 알고리즘을 통해 무엇을 주문할지 예측을 통해 각 지역의 물류창고에 재고를 확보해두고 바로 배송하게 하는 시스템이다. 여기서 핵심은 인공지능을 통해 소비자의 데이터를 바탕으로 소비패턴을 파악해서 그날 구매 예측을 한다는 점이다. 

인공지능은 이제 일상에서 인간의 행동 패턴에 대한 데이터를 통해 미래를 예측한다. 그 예측을 위한 전제는 바로 데이터 수집이고 그 데이터 수집을 위해서는 데이터 생산의 원천인 인간들을 디지털 플랫폼 안에 머물게 해야만 한다. 심지어는 그 플랫폼에서 빠져나가지 못하도록 잡아두어야 할 필요가 있는 것이다. 그 과정에서 감시와 통제가 생겨날 위험이 생겨난다. 

➲ 디지털 탈옥을 꿈꾸는 사람들

디지털 세계에서 소위 ‘탈옥’이라는 용어는 과거 애플의 아이폰이 출시되면서 일부 기능적 제약을 해제 또는 해킹하는 것을 의미하면서 상용되기 시작했다. 애플은 자신들이 출시한 스마트폰에 문제를 발생시킬 수 있는 불법 콘텐츠 같은 해로운 요소들의 접근을 차단하기 위해 기기 자체에 많은 제약을 걸어 두었다. 그러나 이러한 폐쇄성은 스마트폰을 다양한 용도로 사용하길 원하는 이용자들에게 불만을 주었다.

그래서 그 운용체제 자체를 인위적으로 수정 또는 무력화하는 것을 ‘탈옥(Jailbreak)’이라고 부르기 시작했다. 과거 디지털 탈옥이라는 것이 특정 기기의 운영체계에서 벗어나는 것을 의미했다면, 현재는 우리는 액정 화면 속에 가둔 디지털 세계 전체로부터 독립적이고 자유로워지는 일련의 사고와 행동을 의미하게 되었다. 

전문가들은 말한다. 스마트폰에서 나오는 알람과 추천을 거부하라. 간단하다. 설정만 바꾸면 된다. 거대 플랫폼의 시점에 종속되지 말고 시스템에서 벗어날 필요가 있다. 다양한 관점에 자신을 노출시켜 보다 자유로워질 수 있을 것이다. 비싼 돈 주고 산 스마트폰을 아예 갖다 버리라는 게 아니니 다행스럽다. 

쉴 새 없이 메시지를 주고받고 데이터에만 시선을 빼앗기기에는 우리의 삶이 짧고 소중하다. 요즘처럼 가을 햇살이 눈부신 날, 스마트폰을 꺼두고 낙엽 길을 걸어보는 것도 좋을 듯하다. 어느 선사의 말처럼, 우리는 이미 자유로운데 자신을 얽어매고 가두는 것은 아닌지 돌아볼 일이다. 스스로 스마트폰에 집착하면서 스스로를 액정 유리 감옥에 가두어선 안 될 일이다. 

[불교신문3629호/2020년11월14일자]