하늘의 스파이: AI 기반 스마트 가로등의 등장에 대해 우리는 얼마나 우려해야 할까?

당신이 사는 거리의 가로등이 당신 차량의 번호판과 얼굴을 인식할 수 있다면 어떤 기분이 들겠습니까? 자동 번호판 인식과 폐쇄회로 TV(CCTV)가 오랫동안 사용되어 온 것을 고려하면, 아마 신경 쓰지 않을 수도 있습니다. 하지만 그 가로등이 자체 태양광 패널로 전력을 공급받고, 생성된 여분의 에너지를 다른 용도로 사용할 수 있다면 좋지 않겠습니까? 워릭셔의 컨플로우 파워 그룹(CPG)은 영국 최초의 제품인 i램프에 대해 그렇게 주장합니다.

가로등에 아직 들어보지 못한 새로운 인공지능(AI) 기능, 예를 들어 당신의 걷는 방식을 분석하거나 수상한 행동을 감지하는 기능이 추가된다면 어떨까요? 이것이 빅 브라더 워치라는 단체가 우려하는 점입니다. 그리고 내무장관이 이미 "파놉티콘 국가", 즉 당신을 항상 감시할 수 있는 국가를 믿는다고 말했다면(샤바나 마흐무드가 그랬듯이), 그녀가 여전히 재임 중일 때 가로등이 업데이트된다면 어떨까요? 아니면 차기 내무장관이 초감시에 더 열광적이고(상상하기 어렵지만), 거리 장비가 이미 설치되어 있다면 어떨까요? 그리고 이 모든 데이터는 누가 소유하게 될까요?

워릭셔에는 이슬비가 내리고 있습니다. 저는 이 새로운 "스마트" 가로등이 설치된 병원 주차장에서 이러한 질문 중 적어도 일부에 답하고자 합니다. 하지만 제가 아니었다면 아마 아무도 이에 대해 이야기하지 않았을 것입니다. 왜냐하면 이 가로등에 대해 들어본 사람이 거의 없기 때문입니다. i램프가 태양광으로 작동할 뿐만 아니라 CPG에 따르면 "수익을 창출하는 분산형 AI 데이터센터로도 기능할 수 있다"는 사실을 아는 사람은 많지 않으며, 그 의미를 이해하는 사람은 더욱 적습니다. 그리고 저를 포함해 아무도 이 잠재력 중 얼마나 많은 부분이 실제로 영국 모델에 구현되었는지 알지 못합니다. CPG가 발표한 것은 나이지리아 카치나 주 정부와 5만 대의 i램프를 공급하는 계약을 체결했으며, 이 램프에는 차량과 얼굴 모두를 위한 추가 감시 기능이 있다는 것뿐입니다. CPG의 회장 에드워드 피츠패트릭은 BBC 월드 서비스의 테크 라이프 프로그램에 출연해 이 가로등이 "관련 당국"과 함께 개발된다면 결국 실종자 찾기나 범죄 퇴치에 도움이 될 수 있다고 말했습니다.

CPG는 "전 세계 미디어에서 광범위하게 보도되었다"며 추가 질문을 받지 않고, 미디어를 온라인 자료로 안내합니다. 워릭셔의 가로등에 관해 지역 의회는 모든 질문을 병원으로 보내고, 병원은 응답하지 않습니다. 충분히 이해할 만합니다. 병원이니까요.

많은 지역 주민들이 버스 정류장에서 비를 피하고 있으며, 대부분 파트너가 데리러 오길 기다리고 있고, 많은 사람들이 기꺼이 대화에 응합니다. 근처 술집에 있었던 52세의 칼은 거의 모든 사람을 대표해 이렇게 말합니다. "시내 중심가는 이미 카메라로 가득하지만 괜찮아요. 나쁜 짓을 하지 않는 한 신경 쓰지 않아요." 제가 아무리 많은 함축된 질문을 던져도(오늘 합법적인 일을 했는데 1년 후에는 불법이 된다면? 감시가 사후 대응이 아닌 예측이 된다면? 병원에 갔다는 사실을 아무도 모르길 원한다면? 술집에 있으면 안 되는 상황이라면? 최소한 당신이 그것을 원하는지 물어봐야 한다고 생각하지 않나요?), 제가 대화한 누구도 얼굴 인식이 준법 시민에게 용인 가능한 삶의 일부라는 견해를 바꾸지 못했습니다.

병원 버스 정류장에서 기다리는 41세의 테잘은 이렇게 말합니다. "저는 우리가 나아가서 상황이 변한다는 것을 받아들여야 한다고 생각해요." 그녀는 방사선과 의사로, 자신의 분야에서 AI의 능력을 보면서 일반적으로 AI에 대해 매우 불안해합니다. "저는 제 아이들에 대해 불안감을 느껴요." 그녀가 말합니다. 그들이 초급 직업을 찾지 못할까 봐? "그것도 있고, 우리가 예전에 즐기던 것들에서 기쁨을 찾고 축하하는 능력을 잃을까 봐요." 이에 비하면 프라이버시 문제는 상대적으로 사소해 보입니다.

전문가들은 스마트 가로등에 대한 일부 주장에 회의적입니다. 빅 브라더 워치의 선임 법률 및 정책 책임자인 재슬린 차가르는 이렇게 말합니다. "우리는 지역 의회나 다른 정부 기관이 이런 도구를 마술 지팡이처럼 판매당하는 경우를 자주 봅니다. '사기당한다'는 강한 표현이지만, 실제로 할 수 있는 일에는 한계가 있습니다."

동런던 대학교 AI 및 데이터 혁신 센터 소장인 라비시 바슈루시 교수는 단호하게 말합니다. "AI 데이터센터? 절대 작동할 가능성이 없습니다. 기술이 작동하지 않고, 충분한 전력이 없으며, 경제성도 맞지 않습니다..." 그는 i램프를 계통에서 분리해 작동시키는 태양광 발전이 나이지리아에서는 가능할지 모르지만, 영국에서는 가로등이 생성하는 에너지가 "무시할 만한 수준"이라고 말합니다. "임무에 중요하지 않고 며칠 동안 꺼도 괜찮은" 앱(예: 주차 공간이 비었는지 감지)을 실행할 수는 있겠지만, 얼굴 인식에 대한 더 큰 주장은 "그냥 과장입니다. 잊어버리세요. 미래가 없습니다."

그가 초조해 보인다면, 그 이유는 실제로 그렇기 때문입니다. "사물에 대한 독립적인 의견을 얻는 것이 점점 더 어려워지고 있습니다. 많은 전문가들이 이제 업계에서 일하고 있으며, 그들의 견해는 조직과 일치해야 하기 때문입니다."라고 그는 말합니다. 그래서 회사는 자금 조달 라운드 전에 몇 가지 AI 유행어를 섞어 큰 주장을 할 수 있습니다. 엔지니어들은 이의를 제기하지 않고, 지방 당국은 이해하지 못하며, 다른 누구도 CCTV가 발명된 이후로 무언가 바뀌었다는 사실조차 깨닫지 못합니다.

차가르는 얼굴 인식과 CCTV의 개념적 차이를 설명하기 위해 많은 노력을 기울입니다. "얼굴 인식은 사후에 확인하는 CCTV처럼 수동적으로 무언가를 기록하는 것이 아닙니다. 얼굴 인식이 하는 것은 실시간 신원 확인입니다. 지문이나 DNA에 훨씬 더 가깝습니다. 여권과는 다릅니다. 다른 얼굴을 가질 수 없으니까요."

차가르에 따르면 또 다른 문제는 "이러한 기술과 인프라 중 상당수가 나중에 기능을 추가할 수 있다는 점입니다. [런던의] 해머스미스와 풀럼은 CCTV를 업데이트하고 있으며, 얼굴 인식을 내장하거나, 수상한 쇼핑 행동을 모니터링하거나, 공격성 감지를 추가하는 것이 가능합니다. 그래서 스위치만 켜면 하룻밤 사이에 모든 것이 갖춰집니다." 풀럼에 사는 친구가 마침 주차 제한 표지판 위에 있는 카메라 사진을 보냈는데, 다스 베이더와 딱정벌레를 섞은 모양이었고, 지나갈 때 윙윙거리며 움직임을 추적하고 있음을 보여주는 듯했습니다.

이것은 모든 오래된 프라이버시 우려를 불러일으키며, 많은 사람들이 CCTV를 현대 생활의 사실로 무시하면서도 자신의 휴대전화에 의해 도청당하는 것을 얼마나 싫어하는지 자발적으로 불평하는 것이 흥미롭습니다. 칼은 이렇게 말합니다. "며칠 전에 어머니와 개 발톱깎이에 대해 이야기하고 있었는데, 그날 저녁에 제 휴대전화에 광고가 떴어요. 마이크를 꺼놨는데도요. 개도 없는데!" 그의 친구 48세의 밥은 사실상 오프그리드 상태가 되었고, 컴퓨터도 없고 기본적인 벽돌폰만 사용합니다. 정책 입안자는 아마 그를 "소외된" 사람이라고 부를 것입니다. 단지 "어떤 사람들은 사생활을 좋아하기 때문"입니다.

얼굴 인식 소프트웨어에 대한 또 다른 질문은 알고리즘이 공격성과 수상한 행동을 얼마나 잘 감지하는가입니다. "많은 소프트웨어는 유사 과학적입니다." 차가르가 말합니다. "그래서 회사는 감정 감지를 판매하려고 할 수 있습니다. 사람들이 기차역을 걸어갈 때 화가 났는지 또는 공격적으로 변하려는지 볼 수 있다고 주장하면서요. 그것이 정확하다는 증거는 거의 없습니다. 다르게 움직이는 장애인이 있다면, 플래그가 지정되어 개입에 직면할 수 있습니다." 하지만 지방 당국과 모든 국가 기관을 위한 진짜 질문은... 차가르는 사람들이 스스로에게 물어봐야 한다고 말합니다. "당신의 정치적 적들이 이러한 능력을 갖는 것이 편안한가요? 왜냐하면 당신은 계속 유지될 인프라를 구축하고 있기 때문입니다."

이것은 치안에서 명확히 볼 수 있습니다. 내무부는 10년 전에 얼굴 인식 사용을 승인했고, 경찰은 "지난 10년간 본질적으로 대중을 기니피그로 사용해 왔습니다." 차가르가 말합니다. 내무장관이 올해 초 BBC 5 라이브에 "안전하지 않다면 어떤 나라에서도 어떤 자유도 누릴 수 없다"고 말했을 때 무슨 일이 일어날까요? 모든 자유가 보호자로서의 국가의 역할에 종속된다는 이 강압적인 논리는, 진보적인 정부라고 알려진 정부에서 나온 것이라 불안합니다. 하지만 더 큰 우려는 모든 미래 정부가 친사회적이고 민주적일 것이라는 희망에 기반해 감시 기술에 대한 수용을 결정하기에는 지금이 정치적으로 적절한 순간이 아니라는 점입니다.

전체 화면으로 보기
'숨길 게 없다면 문제가 될 거라고 생각하지 않아요.' 사진: 저스틴 파겟/게티 이미지

데이터를 수집할 잠재력이 있는 곳이라면 어디든 누가 그것을 소유하는지에 대한 질문이 제기됩니다. 바슈루시는 사물인터넷, 즉 유럽연합 집행위원회의 "물리적 세계를 디지털 환경에 연결"하려는 노력과 함께 일한 적이 있습니다. "그것은 유럽을 떠나기 훨씬 전이었습니다." 그가 회상합니다. "우리가 본 문제 중 하나는 네덜란드 가정에서 쓰레기를 수집한 다음, 당신의 습관에 기반해 트럭 경로를 최적화하고 계획을 세우는 공급업체와 관련된 것이었습니다. 프로그램을 운영하는 의회는 매우 만족했고, 1년 후 더 경쟁력 있는 가격을 얻기 위해 입찰을 열려고 했습니다. 회사는 '물론이죠, 하지만 데이터는 우리 것입니다'라고 말했습니다." 그 문제는 해결되지 않았습니다. 계약이 제대로 작성되지 않았고, 지방 당국은 데이터를 잃었습니다.

권위주의적 의도나 기술적 속임수 없이 얼굴 인식이 잘못되는 것을 보고 싶다면, 이미 도난 방지를 위해 널리 사용되는 소매 부문을 보십시오. "우리는 경찰에 의한 오인식을 보았습니다." 차가르가 말합니다. "하지만 소매업에서는 사람들이 오인식될 때, 그것은 카프카적입니다. 당신은 그냥 매장에서 블랙리스트에 오릅니다."

그리고 다시, 사람들이 얼마나 신경을 쓸까요? 이유도 모른 채 상점에서 퇴출당한다면; 민간 회사가 NHS 트러스트와 계약을 맺고 아직 가동되지 않았고 영원히 작동하지 않을 수도 있는 기술을 홍보하지만, 아무도 당신에게 말하지 않았을 뿐만 아니라 묻지도 않았다면; 내무장관이 국가가 당신을 항상 감시해도 괜찮다고 생각한다면—이것들이 디스토피아의 구성 요소일까요, 아니면 이러한 감시 능력이 존재하기 전에 우리가 디스토피아를 어떻게 묘사했는지를 상기시켜 줄 뿐일까요?

뉴요커 에세이스트 테드 창은 얼마 전에 실제로는 기술이 아닌 경제 시스템에 관한 부정적인 면을 AI에 투영하는 습관에 대해 썼습니다. 그는 이렇게 결론지었습니다. "자본주의는 우리가 그것을 끄는 것을 막기 위해 무엇이든 할 기계입니다." 제가 AI와 감시 기술에 대해 권위주의적 정치에 관한 불안을 투영하고 있는 것일까요?

"글쎄요, 숨길 게 없다면," 55세의 사라가 말합니다. "문제가 될 거라고 생각하지 않아요. 그것들이 실제로 등불이기도 하다고 가정하는데요?"

**자주 묻는 질문**
다음은 초보자부터 고급 수준까지의 우려를 다루는 AI 기반 스마트 가로등에 관한 FAQ 목록입니다.

**초급 수준 질문**

1. **AI 기반 스마트 가로등이란 정확히 무엇인가요?**
내장된 센서, 카메라 및 마이크가 있는 가로등입니다. 밤에 켜지는 대신 데이터를 수집하고 AI를 사용하여 해당 데이터를 실시간으로 분석할 수 있습니다.

2. **도시에서는 왜 이런 것들을 설치하려고 하나요?**
주로 효율성을 위해서입니다. 주변에 아무도 없을 때 어둡게 하여 에너지를 절약하고, 총소리를 감지하여 경찰에 더 빨리 알리고, 교통 체증을 모니터링하며, 빈 주차 공간을 찾을 수 있습니다. 또한 전기 자동차를 충전하고 공공 와이파이를 제공할 수도 있습니다.

3. **이 가로등이 실제로 집 안에서 나를 염탐할 수 있나요?**
아닙니다. 카메라와 센서는 거리와 공공 장소를 향하고 있으며, 개인 주택 내부를 향하지 않습니다. 공공 구역을 모니터링하도록 설계되었지, 사적인 내부를 모니터링하지 않습니다.

4. **길을 걸을 때 내 비디오를 녹화하나요?**
그럴 수 있지만, 대부분의 시스템은 영상을 저장하지 않고 실시간으로 처리하도록 설계되었습니다. 그러나 일부 도시에서는 짧은 기간 동안 영상을 저장합니다. 핵심 질문은 데이터가 저장되는지 아니면 실시간으로만 분석되는지입니다.

**중급 수준 질문**

5. **이것은 모든 모퉁이에 이미 있는 CCTV 카메라와 어떻게 다른가요?**
기존 CCTV는 누군가가 나중에 봐야 하는 비디오를 단순히 녹화합니다. AI 가로등은 '똑똑합니다' — 그들이 보는 것을 이해할 수 있습니다. 예를 들어, 사람이 녹화에서 이를 발견하기를 기다리는 대신, 자동으로 차량이 역주행하고 있다면 당국에 알릴 수 있습니다.

6. **이 가로등이 수집하는 데이터는 누가 소유하나요?**
경우에 따라 다릅니다. 일반적으로 원시 데이터는 시 정부가 소유합니다. 그러나 시스템을 구축한 민간 기술 회사는 종종 익명화된 데이터나 AI 알고리즘에 접근할 수 있습니다. 이것이 프라이버시 옹호자들의 주요 우려 사항입니다.

7. **AI가 내 얼굴을 인식할 수 있나요?**
많은 고급 모델이 그럴 수 있습니다. 일부 도시에서는 실종자나 지명 수배자를 찾기 위해 얼굴 인식을 사용합니다. 그러나 이것은 매우 논란의 여지가 있으며, 프라이버시 및 편향 문제로 인해 여러 도시에서 이 기능을 금지했습니다.

8. **해커가 이 가로등 네트워크 전체를 장악하는 것을 막을 방법은 무엇인가요?**
이것은 실제 보안 위험입니다. 네트워크가 제대로 보호되지 않으면...