감시에서 AI의 힘
니스는 공공장소에 4,200대의 카메라를 배치하여(주민 81명당 한 대씩) 정교한 네트워크를 구축했습니다. 이 카메라는 불법 주차나 공공 공원 무단 출입과 같은 경미한 위반뿐만 아니라 학교 건물 무단 출입과 같은 잠재적으로 의심스러운 활동도 감지할 수 있는 AI 기반 명령 센터에 연결됩니다.
최근 니스는 알고리즘을 활용해 불규칙한 차량과 보행자의 움직임을 실시간으로 표시하는 상징적인 영국인 산책로(Promenade des Anglais)에서 시스템을 테스트했습니다. 이 시스템이 있었다면 19톤 트럭을 군중 속으로 몰아넣은 가해자를 신속하게 체포하여 86명이 사망하고 수백 명이 부상을 입을 수 있었을 것입니다.
불로 불을 싸우다
니스 시장 크리스티안 에스트로시(Christian Estrosi)는 사회에 전쟁을 선포한 사람들에 맞서 싸워야 한다고 강조합니다. 보안 목적으로 AI를 수용하는 데 니스만 있는 것은 아닙니다. 프랑스는 전체적으로 2024년 올림픽 개최를 준비하기 위해 전면적인 알고리즘 비디오 감시 배치를 준비하고 있습니다. 고려 중인 기술은 갑작스러운 군중 움직임을 감지하고, 버려진 물건을 식별하고, 심지어 바닥에 누워 있는 사람을 찾아낼 수도 있어 1996년 애틀랜타 하계 올림픽 폭탄 테러와 같은 공격을 잠재적으로 예방할 수 있습니다.
그러나 오웰식(Orwellian)의 이러한 미래 지향적 치안 접근 방식의 채택은 디지털 개인 정보 보호 권리를 보호하면서 AI 규제를 선도하려는 지역에서 저항에 직면하고 있습니다.
AI 기반 감시에 대한 상충되는 관점
전 세계 정부가 보안 목적으로 AI를 활용하려고 함에 따라 개인 정보 보호 및 개인 권리에 대한 우려가 제기되고 있습니다. 비평가들은 이러한 광범위한 감시로 인해 시민들이 AI의 지속적인 감시를 받게 된다고 주장합니다. 프랑스 디지털 민권 단체 La Quadrature du Net의 공동 창립자인 Félix Tréguer는 모든 것을 보는 눈의 위험성에 대해 경고합니다.
비교적으로 미국과 영국과 같은 국가에서는 이미 법 집행에 AI 기능을 활용했습니다. 2021년 1월 미국 국회의사당 공격에서 폭도를 식별하는 데 사용된 Clearview AI 시스템과 같이 얼굴 인식 기술은 범죄 활동에 연루된 개인을 식별하는 데 사용되었습니다.
유럽 대륙에서 베니스는 AI 기반 감시 시스템을 구현하여 보트 이동, 군중 행동을 모니터링하고 잠재적인 위협을 감지했습니다. 또한 베니스 경찰은 영상을 분석하고 범죄 사건에 연루된 용의자를 찾는 데 AI를 활용했습니다.
균형 조정 – 개인 정보 보호와 보안
유럽 연합은 엄격한 개인 정보 보호 규정으로 알려져 있지만 소셜 미디어 통제와 보안 요구 충족 사이에서 아슬아슬한 경계를 걷고 있습니다. 유럽 국가들은 생체 인식 데이터 및 안면 인식에 대한 규칙을 준수하면서 AI 기반 법 집행을 강화하기로 결정했습니다.
예를 들어 독일에서는 공격성이나 달리기와 같은 다양한 행동을 경찰에 감지하고 경고하는 AI 알고리즘을 범죄율이 높은 지역에서 테스트했습니다. 하지만 자의식과 침해적 모니터링에 대한 우려가 제기되고 있습니다.
법 집행 분야에서 AI의 미래
많은 논쟁과 과제에도 불구하고 AI 기반 감시는 계속해서 확대되고 있습니다. Nice 보고서에 따르면 경찰 사건의 약 18%가 스마트 카메라의 도움으로 해결되었습니다. 에스트로시 시장은 안면 인식 기술이 도시 보안에 필수적이라고 믿는 반면, 비평가들은 개인의 자유를 보호하기 위해 더 엄격한 규제를 주장합니다.
전 세계가 개인 정보 보호와 보안 사이의 미묘한 균형을 놓고 고군분투하는 가운데, 법 집행 기관에 AI를 배치하는 것은 여전히 진행 중인 실험이며, 각 사회는 각자의 발전 방향을 찾으려고 노력하고 있습니다.
이 보고서의 기고자로는 파리의 Virgile Demoustier, 베를린의 Kate Brady, 로마의 Stefano Pitrelli가 있습니다.