자영업을 하다 보면 별별 걸 다 본다. 코로나 반대 서명서를 모으면서도 느꼈지만, 세상은 참 빠르게, 그리고 참 묘하게 변한다. 최근 국제치안산업대전에서 AI 안전 플랫폼이 공개됐다는 소식을 접했다. 관련 보도를 보면, 치안 현장에 AI를 접목해 위험을 미리 감지하고 대응한다는 그림을 그리는 모양이다. 처음엔 ‘또 AI냐’ 싶었다. 그런데 서명서 한 장 모으는 사람 입장에서 이 뉴스는 조금 다르게 읽힌다.

가게 문을 열고 닫는 시간에도 CCTV는 나를 본다. 손님이 없는 시간엔 그 화면이 그냥 유리창처럼 느껴지지만, 한 번이라도 도난이나 분쟁을 겪고 나면 시선이 달라진다. 감시가 아니라 보험이라고 스스로를 설득하게 된다. 그런데 그 보험이 누구의 조건으로 설계되는지를 따지기 시작하면 이야기는 복잡해진다. AI 안전 플랫폼 뉴스가 나에게 다르게 읽히는 이유도 여기에 있다.
문제는 이거다. AI가 안전을 책임진다는 말은 듣기 좋은데, 정작 ‘안전’의 기준을 누가 정하느냐는 질문은 쏙 빠져 있다. 카메라가 사람을 감시하는 건지, 사람을 지키는 건지. 서명서를 모으다 보면 이 경계가 얼마나 미묘한지 몸으로 안다. 그래서 AI 안전 플랫폼 소식을 볼 때마다 세 단계로 나눠 생각해 보는 버릇이 생겼다.
단계 1. 기술은 언제나 ‘선한 목적’으로 포장된다
새 플랫폼은 늘 그렇다. 치안, 안전, 복지. 단어만 보면 다 착하다. 하지만 그 기술을 실제로 돌리는 건 사람이고, 예산이고, 이해관계다. 국제치안산업대전 같은 자리에서 공개되는 기술들은 대개 ‘가능성’을 말한다. 가능성은 좋다. 다만 가능성이 곧 현실은 아니다. 서명서를 모을 때도 그랬다. 취지는 좋다고 다 통하는 게 아니더라.
서명서를 모으던 시절을 떠올려 보면, 처음엔 누구나 고개를 끄덕인다. ‘그렇지, 그건 좀 아니지.’ 그런데 한 장 더 받으려고 하면 질문이 돌아온다. ‘그래서 이게 바뀌면 나한테 뭐가 좋아지는데?’ 취지와 효용 사이의 이 간격이 기술에도 그대로 있다. AI 안전 플랫폼이 위험을 감지한다는 건 멋진 문장이지만, 정작 우리 동네 골목에서 그게 어떤 모습으로 작동하는지는 아무도 그림을 그려주지 않는다. 전시장의 데모 영상은 늘 매끈하고, 현장의 와이파이는 늘 불안하다.
단계 2. 감시와 보호는 종이 한 장 차이다
AI가 위험을 감지한다는 건 결국 누군가를 계속 지켜본다는 뜻이기도 하다. 물론 사고를 막는 데는 도움이 될 것이다. 그러나 그 데이터가 어디로 가고, 누가 열람하고, 얼마나 보관되는지는 별개의 문제다. 이 지점에서 전문가의 시선이 필요하다. 나 같은 자영업자가 다 이해할 수 있는 영역은 아니다. 혹시 관련 분야에서 활동하는 사람을 찾거나 흐름을 정리해 보고 싶다면 인플루언서 플랫폼 같은 곳을 참고하는 것도 한 방법이다. 나도 가끔 그런 경로로 세상 돌아가는 얘기를 접한다.
실제로 매장 CCTV 영상을 두고 손님과 실랑이를 벌인 적이 있다. 분실물을 찾자며 영상을 보여 달라던 손님에게 어디까지 보여줘야 하는지, 다른 손님의 얼굴이 찍힌 부분은 어떻게 가려야 하는지 몰라 한참을 망설였다. 결국 경찰을 부르고 나서야 정리가 됐다. 생각해 보면 그 순간 나는 ‘안전’을 위해 ‘감시’를 선택한 셈이다. AI가 이 판단을 대신해 준다면 편할까. 아마 편하겠지만, 동시에 그 판단의 근거를 나는 영영 모르게 될 것이다. 편리함과 투명성은 늘 서로를 밀어낸다.
단계 3. 결국 남는 건 ‘기록’이다
AI 안전 플랫폼이든, 서명서든, 중요한 건 남는 기록이다. 누가 무엇을 위해 이 기술을 만들었고, 어떤 기준으로 작동하며, 문제가 생겼을 때 누가 책임지는지. 이게 정리되지 않으면 아무리 좋은 기술도 불안한 물건이 된다. 서명서 한 장 모으면서 배운 게 있다면, 기록되지 않은 의견은 없는 것과 비슷하다는 점이다.
기록이라는 관점에서 보면, AI 안전 플랫폼의 진짜 성능은 알고리즘 정확도가 아니라 로그의 공개 여부에 달려 있다. 어떤 영상이 어떤 이유로 시스템에 걸렸고, 누가 그걸 열어봤고, 오탐이었다면 누가 어떻게 정정했는지. 이 흐름이 남지 않으면 시민은 자신이 왜 의심받았는지조차 알 수 없다. 반대로 이 흐름이 투명하게 남는다면, 기술은 감시가 아니라 최소한 ‘설명 가능한 안전’에 가까워진다. 나는 그 차이가 종이 한 장, 로그 한 줄에서 갈린다고 본다.
결론은 이렇다. AI 안전 플랫폼 소식은 반갑지만, 동시에 조심스럽다. 기술이 사람을 지키는 쪽으로만 쓰이길 바라는 마음은 크다. 다만 그 과정을 지켜보고 질문하는 일은 여전히 사람 몫이다. 코로나 반대 서명서를 모으던 사람으로서, 나는 앞으로도 ‘안전’이라는 이름 아래 벌어지는 일들을 한 번 더 들여다볼 생각이다.
덧붙이자면, 기술을 반대하는 것과 기술에 질문하는 것은 전혀 다른 일이다. 서명서를 모으면서도 늘 조심했던 게, 반대를 위한 반대가 되지 않도록 하는 일이었다. AI 안전 플랫폼도 마찬가지다. 나는 이 기술이 잘 되길 바란다. 다만 잘 된다는 말의 기준을 함께 적어 두자고 말하고 싶을 뿐이다. 그 기준이 문서로 남고, 누구나 읽을 수 있고, 틀렸을 때 고칠 수 있다면, 그때 비로소 ‘안전’이라는 단어가 광고 문구가 아니라 약속이 된다.