AI 감시 카메라, 도입 전 윤리 원칙이 먼저인 이유

요즘 회사, 학교, 역 같은 공공장소에 가면 CCTV가 어디나 눈에 띄죠. 예전엔 단순히 녹화만 했다면, 요즘은 인공지능(AI)이 얼굴을 인식하고, 행동을 분석하고, 심지어 위험 상황까지 예측하는 수준까지 발전했어요. 편리하고 안전해 보이지만, 정말 그럴까요? 최근 국회에서 열린 토론회가 우리가 놓치고 있던 중요한 질문을 던져주고 있습니다. 바로 「AI 기술을 도입하기 전에 윤리 원칙부터 세워야 한다」는 거예요. 오늘은 이 이슈가 왜 중요한지, 그리고 우리의 일터와 생활에 어떤 영향을 미칠 수 있는지 함께 살펴보겠습니다.

📌 국회에서 나온 목소리, 'AI 감시 기술도 민주주의가 필요하다'

14일 국회 의원회관에서는 꽤 의미 있는 토론회가 개최되었어요. 철도노조가 주도하고, 더불어민주당의 윤종군·이연희·박홍배·박해철·이용우 의원과 진보당의 윤종오 의원이 함께한 행사였습니다. 토론회의 제목이 「'AI시대, 감시를 넘어 민주적 일터로'」라는 건데, 이 자체가 핵심을 담고 있어요.

뭔가 이상하지 않나요? '감시'와 '민주적'이라는 두 단어가 함께 있다는 게요. 보통은 '감시'라고 하면 뭔가 권위적이고 통제적인 느낌이 드는데, 왜 '민주적'이라는 표현을 붙였을까요? 그건 바로 지금의 AI 감시 기술이 얼마나 강력하고, 따라서 얼마나 조심스럽게 다뤄야 하는지를 말해주고 있는 거예요.

📌 안전성만 강조하는 건 위험하다

기업이나 기관에서 CCTV나 AI 감시 기술을 도입할 때 가장 먼저 내세우는 논리가 뭔지 아나요? 바로 「안전」입니다. 범죄 예방, 사고 방지, 응급 상황 대응 같은 명목으로요. 실제로 사람들도 처음엔 쉽게 동의합니다. "위험에서 지켜줄 수 있으면 좋지 않냐"는 생각으로 말이에요.

하지만 여기서 놓치고 있는 게 있어요. 안전이라는 이름으로 도입된 기술이, 언제 다른 목적으로 사용될지 누가 장담할 수 있을까요? 예를 들어, 노동자들을 감시한다고 했던 카메라가 시간이 지나면서 근로자의 화장실 이용 시간, 업무 외 활동 시간을 추적하는 용도로 변질될 수도 있다는 거예요.

AI 기술의 특성상, 한번 수집된 데이터는 나중에 얼마든지 다시 분석되고 활용될 수 있습니다. 5년 전에 녹화된 영상이 오늘 갑자기 다른 목적으로 분석될 수 있다는 뜻이죠. 그래서 전문가들은 「기술의 편리성만 보지 말고, 그로 인한 개인정보 침해와 노동자 기본권 침해 가능성을 함께 봐야 한다」고 강조하고 있는 거예요.

📌 도입 전에 세워야 할 윤리 원칙, 구체적으로 뭘까?

그렇다면 토론회에서 강조한 「윤리 원칙」이 정확히 뭘 의미하는 걸까요? 이건 단순한 도덕적 주장이 아니라, 기술 도입 과정에서 반드시 선행되어야 할 실질적인 제도와 절차를 말하는 거예요.

먼저 중요한 건 '투명성'입니다. 누가 언제 어떤 목적으로 감시 기술을 도입하는지, 그리고 그 데이터가 어떻게 활용되는지를 구성원(특히 감시 대상인 노동자나 시민)이 알 수 있어야 한다는 뜻이에요. 회사가 일방적으로 결정하고 통보하는 방식이 아니라, 사전에 논의하고 합의하는 과정이 필요하다는 거죠.

둘째는 '최소성 원칙'입니다. 안전 목적이라면, 그 목적을 달성하는 데 꼭 필요한 최소한의 데이터만 수집하고, 더 이상의 침해는 하지 않는다는 원칙을 세워야 한다는 의미예요. 예를 들어, 출입통제 목적이라면 얼굴 인식만 하면 되지, 감정 상태나 건강 상태까지 분석할 필요는 없다는 거죠.

셋째는 '이의 제기 권리'입니다. 감시 대상자가 잘못된 분석 결과나 부당한 조치에 대해 문제 제기하고, 설명을 들을 수 있는 절차가 있어야 한다는 뜻이에요. AI가 나를 범죄자로 오인했다면? 업무 능력이 낮다고 분류했다면? 이에 대해 항의하고 정정받을 수 있어야 한다는 거죠.

📌 우리의 일터는 지금 어떨까?

현실은 어떨까요? 많은 기업과 공공기관에서는 이런 윤리 원칙 없이 AI 기술을 빠르게 도입하고 있는 상황이에요. 특히 철도, 버스 같은 대중교통이나 콜센터, 물류창고 같은 노동 집약적 현장에서는 더욱 심해요.

근로자는 기술 도입 과정에 거의 참여하지 못하고, 어떻게 감시되는지도 정확히 모른 채 일하고 있는 경우가 많거든요. "안전을 위해서"라는 명목 하에 행동 하나하나가 추적되고, 그 데이터가 어떻게 평가에 반영되는지는 베일에 싸여 있는 거죠.

예를 들어, 어떤 물류창고에서 AI 카메라가 "이 작업자는 평균적인 속도보다 느리다"고 판단했다면? 그 판단 기준은 뭐였을까요? 정말 정확한 분석일까요? 근로자는 이를 확인할 수 없고, 결과만 받게 되는 거예요. 그리고 그 결과가 임금 산정이나 배치 전환에 영향을 미친다면, 상당히 심각한 문제가 아닐까요?

📌 개인으로서 우리가 할 수 있는 것들

그렇다면 이런 상황 속에서 개인으로서 우리가 할 수 있는 게 뭘까요?

① 먼저 '인식'이 중요합니다. 우리가 받는 감시 기술이 단순히 안전 장치만이 아니라, 우리의 행동 데이터를 수집하고 분석하는 도구라는 걸 알아두세요. 무심코 지나치지 말고 문제의식을 가지는 것이 첫 단계입니다.

② 두 번째는 '질문하기'입니다. 직장에 새로운 감시 기술이 도입될 때 "이건 뭐에 쓰는 거예요?", "언제까지 데이터를 보관하나요?", "이 데이터로 우리를 어떻게 평가하나요?" 같은 질문을 던져보세요. 충분한 설명이 없다면 도입 전에 논의할 시간을 요청해도 됩니다.

③ 셋째는 '권리 보호'입니다. 대부분의 조직에는 노동조합이나 직원 협의회, 또는 개인정보 보호 담당 부서가 있어요. 불합리한 감시 기술이 도입된다면, 이런 기구나 부서와 함께 문제를 제기할 수 있습니다.

✅ 마무리하며

기술은 중립적입니다. 하지만 기술을 어떻게 도입하고 운영하는지는 우리의 선택이에요. 안전은 물론 중요하지만, 그 안전이 우리의 기본권을 침해하면서까지 필요한지는 따로 생각해봐야 한다는 거죠.

국회에서 나온 이번 목소리는 바로 그런 균형을 맞추자는 것 같아요. 기술의 편리함을 누리되, 도입 전부터 윤리와 민주적 절차를 갖춰서 우리 모두가 안전하고 존엄한 환경에서 일할 수 있도록 하자는 거죠.

혹시 직장이나 학교, 공공기관에서 AI 감시 기술 도입 계획을 들으셨다면, 이제부터 "정말 필요한가?", "투명한가?", "우리 의견은 반영되나?" 같은 질문을 던져도 된다는 거 아시죠? 그것이 바로 민주적 일터를 만드는 첫 걸음이 될 거예요.