당신은 감시와 통제 속에 살고 있지 않나요?

조지오웰이 세상을 떠나기 전 마지막으로 완성했던 <1984>를 읽고 감시와 관찰이라는 주제에 대해 다시 한번 생각하게 되었다.

윈스턴이란 인물을 중심으로 감시와 강압 그리고 세뇌를 통해 한 인물의 의식이 어떻게 파멸되어 가는지 잘 묘사되어 있다. 작품 속에서는 ‘텔레스크린’이라는 장치를 통해 시민들의 일거수일투족을 감시하고, 텔레스크린이 없는 곳에서는 마이크로폰으로 대화를 감청한다.

윈스턴은 과거를 조작하는 일을 하는 외부 당원으로서 전체주의를 유지하는 역할을 맡고 있다. 하지만 그는 이 체제의 부조리함에 역겨움을 느끼고, 변혁을 꾀하지만 내부 당원의 7년간의 지속적인 감시와 함정에 속아 체포되고 만다. 

체포 이후 그의 육체뿐 아니라 신념까지 철저하게 파괴된다. 인간으로서는 견디기 어려운 고문과 모욕 속에서 그는 결국 자신이 증오했던 체제에 굴복한다. 더 비극적인 것은, 굴복했다는 자괴감조차 느끼지 못할 만큼 완전히 세뇌되어 버렸다는 점이다.

이 내용들은 모두 사실이 아니지만 이 시스템에 대해서는 이상하리만큼 낯설지가 않았다.

필자는 프로덕트 디자이너로서 고객의 데이터를 뜯어보는 일을 하고 있다.

자사 서비스에 인입해서 어떻게 상품을 구매하는지, 그 여정이 데이터로 다 기록되어 있고 이를 통해 어떤 곳에서 이탈이 발생하는지 확인할 수 있다. 앱을 언제 실행했는지, 구매까지 얼마나 걸렸는지, 어떤 결제 수단을 사용했는지까지 대부분 확인할 수 있다.

소설 속 텔레스크린은 눈에 보이기라도 한다. 하지만 현실의 텔레스크린은 보이지 않는다. 우리는 보이지 않는 텔레스크린을 통해 고객을 관찰하고, 그들이 남긴 기록을 분석해 구매를 유도한다. 어쩌면 구매를 유도하는 수준을 넘어 구매를 종용한다고 표현하는 편이 더 맞을지도 모르겠다.

네이버에서 검색한 키워드가, 누군가의 대화에서 오고 갔던 브랜드가 인스타그램 광고로 등장하는 일은 이제 너무 흔한 일이어서 심각한 일로 여겨지지 않는 것 같다.

모든 플랫폼은 이를 '개인화'라고 감시와 관찰을 포장한다.

내가 몰랐던 나의 취향을 찾아준다는 둥, 나의 구매 경험을 혁신한다는 둥 고객의 문제를 해결하는 마법사가 되어 마치 대중의 이익을 위해 헌신하는 조력자로 포장한다. 사실은 그들의 이익을 위해 이용하는 것뿐이면서 말이다.

내가 사고 싶었던 상품뿐만 아니라 의도적으로 필요 없는 상품을 노출시켜 구매욕을 일으키고 이를 구매까지 이르게 하는 것도 모두 우리가 쌓아 놓은 데이터 덕분에 가능해지고 있고, 아마 지금보다 더 자연스럽게 지갑을 열게 할 것이다. 정말 이를 의식하며 릴스나 숏츠를 탐색해 보길 권한다. 콘텐츠의 대부분이 구매를 일으키기 위해 설치한 함정투성이라는 사실을 알아채기까지 그리 긴 시간이 필요하지 않을 것이다.

그렇다고 해서 데이터만으로 인간의 의식을 완전히 통제할 수 있는 것은 아니다.

데이터는 우리의 생각이 행동으로 이어졌을 때 비로소 기록된다. 생각과 행동은 여전히 구분된다. 그렇기에 보이지 않는 텔레스크린으로 둘러싸인 세상에서도 적어도 우리의 생각만큼은 아직 자유로울 수 있다.

<1984>에서 윈스턴은 고문당하는 과정에서 이렇게 생각했다.

우리의 의식과 생각까지 통제할 수 있는 날이 온다면 어떻게 될까? 

허무맹랑한 디스토피아처럼 들릴 수도 있다. 하지만 이미 현실은 조금씩 그 방향으로 움직이고 있다.

실제로 일론머스크의 뉴럴링크는 전신마비 환자의 뇌에 칩을 이식해 생각만으로 체스를 할 수 있는 기술을 개발해 냈고, 현재 임상실험은 성공적으로 진행 중인 것으로 알려져 있다.

또한 유발하라리의 <호모데우스>에는 뉴 사이언티스트 기자 샐리 애디의 일화를 소개한다.

샐리는 대형 스크린이 설치되어 있는 전쟁 시뮬레이터를 체험한다. 체험하면서 그녀는 공포와 무력감에 버벅대면서 총을 제대로 사용해보지도 못한 자신의 무능함에 대해 매우 실망했다고 한다.

하지만 뇌의 전기 패턴을 조작해 일시적으로 특정 영역을 활성화시키거나 억제할 수 있는 경두개 헬멧을 쓰고 다시 전쟁 시뮬레이션을 다시 시도했을 때는 그녀의 성과는 이전과 차원이 달랐다. 20분 만에 모두를 쓰러트린 지도 모를 만큼 그녀는 전쟁 시뮬레이션에 몰입해 있었다. 난생처음 머릿속이 조용해지는, 자기 의심이 사라지는 경험은 일종의 계시였다고 언급했다.

물론 이러한 기술이 곧바로 인간의 의식을 자유롭게 조종할 수 있다는 의미는 아니다. 그러나 적어도 우리의 의식 역시 기술이 개입할 수 있는 영역이 되고 있다는 사실만큼은 분명해 보인다.

이런 기술이 고도화된 미래에는 우리가 바꿀 수 없다고 생각한 우리의 본성과 천성은 뉴럴링크의 칩을 이식해 한 달에 200달러식만 지불하면 손쉽게 갈아 끼울 수 있는 소프트웨어가 될 것이다.

하지만 이보다 더 무서운 건 자의식의 멸종이다.

직접적으로 우리의 뇌가 네트워크와 연결된다면 우리의 생각과 자의식은 철저히 감시되고 통제될 것이다.

그렇게 된다면 우리는 <1984> 속 시민들처럼 통제받고 있다는 사실조차 자각하지 못할 수도 있다.

이런 디스토피아가 현실화된다면 기업이 소비자의 구매를 설계하기 위해 지금처럼 치열하게 고민할 필요가 없어질지도 모른다. 자사 상품을 구매하게끔 특정 신호만 보내면 우리는 손가락 하나 움직이지 않고 구매를 결정하고, 어느새 그 상품은 문 앞에 도착해 있을 것이다. 이를 통해 빈부격차는 더 심각해질 것이고, 오히려 스스로 생각할 수 있는 자유는 일부만이 누릴 수 있는 특권이 될 수도 있다.

아마 이 이미 시작된 무서운 파도를 막기는 어려울 것이다. 경쟁이라는 무서운 소용돌이는 계속해서 기술의 한계를 깨부술 것이고,  우리는 편리함을 기꺼이 소비하면서도 그 대가를 충분히 고민하지 않을 수도 있다.

그럼 어떻게 살아가야 할까. 솔직히 정답을 모르겠다. 통제를 위한 통제도 어떤 나비효과를 일으킬지도 모르겠다. 다만 한 가지는 분명하다. 감시와 검열, 그리고 통제에 익숙해지지 않아야 한다는 것이다.

그저 감시와 검열, 그리고 통제에 익숙해지지 않아야겠다는 의식을 가지고, 이를 의식하며 살아가야 디스토피아라는 종착지에 조금이라도 늦게 도착할 수 있는 것이 아닐까 하는 생각이 든다.

알고리즘이 추천하는 것만 소비하지 않고, 스스로 질문하고, 스스로 판단하는 습관을 잃지 않는 것. 그것이 우리가 최소한의 자유를 지키는 방법일지도 모른다.

인류의 역사는 늘 감시와 통제를 동반해 왔다. 그러나 지금 우리는 과거 어느 시대보다 풍요롭고, 동시에 가장 강력한 기술을 손에 쥐고 살아가고 있다.

이 소중한 시대를 또다시 소수의 이익을 위해 우리의 판단력을 내어주는 방향으로 흘려보내서는 안 된다. 누구에게도 기대지 않는 순수한 나의 의사결정권. 그것을 지키기 위해 우리는 끊임없이 스스로 생각하고, 스스로 판단하는 힘을 길러야 한다.