18세기 제러미 벤담이 구상한 '보이지 않는 감시탑' 파놉티콘이 인공지능(AI)의 옷을 입고 우리 일상을 집어삼키고 있다. 과거의 감시가 담장 안 죄수들을 겨냥했다면, 이제는 스마트폰과 알고리즘을 통해 우리 모두의 행동을 예측하고 유도하는 '보이지 않는 통제'로 진화했다.

홍성욱 서울대 교수가 벤담의 파놉티콘을 분석 틀로 삼아 빅데이터와 인공지능 시대 감시 권력의 구조를 추적한 '인공지능 파놉티콘'을 김영사에서 펴냈다. 홍 교수는 17세기 산업혁명기부터 오늘의 디지털 감시사회까지 감시 기제의 변천을 짚으며, 프라이버시를 민주주의와 사회정의의 조건으로 다시 묻는다.

■ "보이지 않는 시선"… 벤담에서 AI까지 감시의 진화
책은 감시를 단순한 개인정보 침해 문제로 다루지 않는다. 산업혁명기 작업장과 감옥의 규율에서 출발해 정보화 시대의 전자 감시, 오늘의 빅데이터-인공지능 감시까지 이어지는 긴 흐름으로 본다. 감시 권력의 역사는 기술 발전과 함께 더 교묘하고 침입적인 방향으로 바뀌어 왔다는 것이 책의 기본 시각이다.

저자는 벤담의 파놉티콘을 근대 감시사회의 핵심 은유로 끌어온다. 보이지 않는 시선 앞에서 규율을 내면화하는 구조가 감옥에만 머무르지 않고 공장과 행정, 정보 관리 시스템으로 확장됐다고 본다. 눈으로 보는 감시가 정보 수집과 분석, 실시간 관리로 이동해온 과정도 이 대목에서 짚는다.

특히 정보 파놉티콘과 전자 파놉티콘의 등장을 중요하게 다룬다. 중앙 감시탑이 모든 것을 내려다보는 구조에서 벗어나, 순찰차와 데이터베이스 같은 분산된 장치들이 현장에서 곧바로 감시를 수행하는 방식으로 변했다는 설명이다. 감시가 범사회적이고 일상적인 것으로 번져가는 양상도 함께 읽어낸다.

■ 권력을 감시하라… 시놉티콘과 역감시의 가능성
후반부는 빅데이터와 인공지능이 감시의 패러다임을 어떻게 바꿨는지에 초점을 둔다. 국가는 공공의 안녕과 질서를 이유로 방대한 개인정보를 수집하고, 기업은 행동 데이터를 바탕으로 소비를 예측하고 유도한다. 사람들 또한 각종 혜택과 소통을 위해 스스로 정보를 내놓으며 감시 문화에 편입된다고 본다.

그렇다고 책이 전면적인 비관으로만 기울지는 않는다. 저자는 정보가 지식보다 얕고 기술적이며, 지나치게 방대한 데이터가 오히려 판단을 흐리거나 허위 신호를 낳을 수 있다고 본다. 감시 기술의 역량이 실제보다 과장되는 지점과 그 틈에서 가능한 저항의 방식도 함께 제시한다.

저항의 사례도 구체적으로 든다. 역감시와 시놉티콘, 역파놉티콘의 가능성을 검토하고, 내부 폭로와 프라이버시 확보 실천, 감시 교란 전략, 디지털 행동주의와 법적·제도적 개혁까지 다양한 대응을 조명한다. '아랍의 봄', '월스트리트를 점거하라', 흑인 인권운동, 미투운동, 한국의 탄핵 집회는 디지털 기술이 권력에 맞서는 핵심 매개가 될 수 있음을 보여주는 사례로 나온다.

홍성욱은 서울대 물리학과를 졸업하고 같은 학교 대학원 과학사 및 과학철학 협동과정에서 석사·박사 학위를 받았다. 캐나다 토론토대 교수를 거쳐 현재 서울대 과학학과 교수로 재직 중인 과학기술학자다. '우리는 재난을 모른다', '홍성욱의 그림으로 읽는 과학사', '실험실의 진화', '홍성욱의 STS, 과학을 경청하다' 등을 썼다.

저자가 강조하는 것은 프라이버시를 새롭게 상상해야 한다는 점이다. 저자는 21세기 프라이버시를 개인의 정보 보호에 그치지 않는 관계적이고 공동체적인 문제로 본다. 감시 구조에 정치적으로 개입하고 자율성과 비판적 능력을 지키는 일이야말로 빅데이터-인공지능 시대 민주주의의 새로운 조건이라는 것이 이 책의 결론이다.

△ 인공지능 파놉티콘/ 홍성욱 지음/ 316쪽

art@news1.kr