우리 회사만의 데이터가 없으면 AI도 껍데기라는 말, 한 번쯤 들으셨을 겁니다. 이럴 때 늘 반복되는 수순이 있습니다. '데이터가 있어야 한다 → 사내에 데이터는 널려 있다 → 그럼 모으자' 여기까지는 일사천리죠. 엇박자는 그다음에 납니다. 그 데이터의 상당 부분이 시스템이 아니라 사람에게서 나오거든요. 메일, 메신저, 통화 녹음, 화면, 키보드 입력. 회사 눈에는 자산이고 구성원 눈에는 자기 하루입니다.
그래서 이번 호의 대립축은 프라이버시냐 AI 경쟁력이냐로 보입니다. 다만 저는 이 구도 자체가 잘못 세워졌다고 봅니다. 먼저 지금 기업들이 실제로 뭘 하고 있는지부터 담담히 짚어보시죠.
지금 기업들이 하는 세 가지
첫째, 일단 다 모읍니다
메타가 올해 4월 시작한 모델 역량 강화 이니셔티브(MCI)가 교과서적인 사례입니다. AI 에이전트를 학습시키려면 사람이 컴퓨터를 다루는 방식을 실측한 데이터가 있어야 한다는 논리였고, 마우스 움직임과 클릭, 키보드 입력, 때로는 화면 캡처까지 수집 대상에 들어갔습니다. 직원들은 곧바로 청원을 돌렸고, 사내 게시판에는 우리가 데이터 추출 공장이 됐다는 성토가 올라왔습니다.
메타는 6월 초 데이터 수집을 최대 30분간 멈출 수 있는 버튼과 참여 제외 신청을 추가하며 계획을 축소했습니다. 그런데 그사이 수집 도구가 민감 정보를 끌어와 전사에 열람 가능하게 노출시키는 사고가 터졌고, 개인 대화와 성과 평가 자료까지 노출 범위에 들어갔다는 보도가 나오면서 프로그램 자체가 멈춰 섰습니다. 두 달 만에 원점입니다. (메타는 요새 하는 짓마다 왜 이럴까요?)
둘째, 동의서 한 장으로 정리합니다
국내에서도 비슷한 장면이 있었습니다. 한 메신저 사업자가 이용 기록과 패턴을 수집·분석해 자사 AI 학습과 맞춤형 광고에 쓰겠다는 약관 개정을 밀어붙였다가, 해당 항목만 골라 거부할 수 없는 구조라는 지적을 받고 문구를 되돌린 일이 있었죠. 사내로 들어오면 더 간단해집니다. 입사할 때 받아둔 개인정보 수집·이용 동의서가 만능 열쇠처럼 쓰입니다. 법률가들은 그 동의가 자유로운 의사냐고 되묻습니다. 고용이 걸린 자리에서 받는 서명이 얼마나 자발적이겠습니까.
셋째, 감시 도구에 생산성이라는 이름을 붙입니다
지난 6월 한겨레는 모니터 화면을 초 단위로 캡처해 업무 행태를 분석해주는 프로그램이 기업용 솔루션으로 팔리고 있다고 보도했습니다. 금융회사 사무실 CCTV, 통신판매 업체의 키보드 입력 자동 기록도 함께 소개됐고요. 이름표는 대개 업무 효율 진단, 병목 분석, 코칭 지원입니다. 그리고 그렇게 쌓인 기록이 보복성 징계의 근거로 되돌아온 사례도 있다고 하더군요. 여기까지가 관찰입니다. 아직 판단하지 않겠습니다.
그래서, 성과는 올랐습니까
이제 뒤집어 봅시다. 이 모든 수고를 정당화하는 전제는 하나죠. 많이 볼수록 잘 관리되고, 잘 관리되면 성과가 오른다?
Ravid와 동료 연구진(2023)이 Personnel Psychology에 실은 메타분석이 이 전제를 정면으로 겨눕니다. 94개 독립 표본, 23,461명을 모은 이 연구는 전자적 성과 모니터링이 근로자의 성과를 끌어올린다는 증거를 찾지 못했습니다. 반면 모니터링이 있다는 사실 자체가 스트레스 증가와 연결되는 패턴은 감시 방식과 무관하게 일관됐고요. 특히 눈여겨볼 대목은 침습성이 조절 변수로 작동했다는 점입니다. 더 깊이 파고드는 감시일수록 태도는 더 나빠졌습니다.
성과는 그대로인데 스트레스만 올라간다. 투자 대비 수익률로 따지면 어떤 임원 회의에서도 통과되기 어려운 안건이 아닐까 싶습니다. 여기에 AI가 얹히면 낙차가 더 커집니다. 코넬대 연구진이 1,200명 가까이를 대상으로 진행한 실험에서, 사람이 아니라 알고리즘이 지켜본다고 인식한 참가자들은 자율성 상실을 훨씬 크게 느꼈고 불만 제기·성과 저하·이직 의도 같은 저항 행동을 더 많이 보였습니다. 사람 관리자가 볼 때보다 불만이 네 배 가까이 많았다는 결과가 특히 인상적이더군요. 아이디어 산출량도 줄었습니다.
왜 하필 AI일까요? 사람이 보면 사정을 봐줄 여지가 있지만 알고리즘은 곧이곧대로 기록한다는 감각 때문입니다. 게다가 지금 구성원들은 그 데이터가 어디로 흘러갈지 알고 있습니다. 내 업무 방식을 학습한 에이전트가 결국 내 자리를 대신하는 그림 말이죠. 예전에 AI 때문에 신입 안 뽑는다?에서 짚었던 불안이 이제는 데이터 수집 동의서 앞에서 구체적인 얼굴로 나타나는 겁니다. 반발의 정체는 프라이버시만이 아닙니다. 밥그릇이 절반쯤 섞여 있습니다.
한 가지 더. 감시가 촘촘해지면 사람은 일을 잘하는 대신 잘하는 것처럼 보이는 데 힘을 씁니다. 해외 조사를 보면 응답자의 49%가 다른 일을 하면서 접속 상태만 유지한 적이 있다고 답했습니다. 통제를 조이면 성과가 아니라 성과의 외형이 정교해지는 거죠. 이걸 데이터라고 모아서 AI에 먹이면, 그 AI는 무엇을 배울까요?
뒤집으면 이렇습니다
핵심을 짚고 갑시다. 문제는 데이터를 모으는 것 자체가 아닙니다. 목적을 정하지 않은 채 모으는 것입니다.
앞서 인용한 Ravid와 동료들이 2020년 Journal of Management에 발표한 리뷰 논문은 모니터링을 하나의 덩어리로 보지 말라고 제안합니다. 무엇을 보는지, 얼마나 깊이 파고드는지, 그 사실이 얼마나 투명하게 공유되는지, 그리고 목적이 평가인지 육성인지에 따라 같은 기술이 전혀 다른 결과를 낳는다는 겁니다. 실제로 코넬 실험에서도 AI가 발달적 피드백을 위해 쓰인다고 안내받은 집단은 저항이 눈에 띄게 줄었습니다. 기술이 같아도 판이 다르면 반응이 달라집니다.
그래서 리더 여러분께 다섯 가지 수순을 권해드립니다.
- 목적을 문장으로 확정하고 시작하세요. 우리는 무엇을 만들기 위해 어떤 데이터가 필요한가를 한 문장으로 못 쓰겠다면 아직 모을 때가 아닙니다. 나중에 쓸모 있을 것 같아서는 목적이 아닙니다.
- 노사협의회 안건으로 먼저 올리세요. 사업장 내 근로자 감시 설비의 설치는 근로자참여 및 협력증진에 관한 법률상 협의 사항입니다. 화면 캡처나 키 입력 수집 도구는 여기에 걸릴 소지가 큽니다. 도입한 뒤에 설명하면 절차 위반과 신뢰 훼손을 한꺼번에 떠안습니다.
- 수집 범위를 목적에 맞춰 깎아내세요. 개인정보보호위원회의 생성형 AI 개발·활용 개인정보 처리 안내서가 반복해 강조하는 것도 목적 제한과 최소 수집입니다. 입사 때 받은 포괄 동의로 AI 학습까지 덮으려 들지 마시기 바랍니다. 원래 수집 목적과 양립하지 않는 이용은 새로 설명하고 새로 물어야 합니다.
- 끄는 스위치와 빠지는 문을 같이 여세요. 메타가 뒤늦게 내놓은 일시 중지 버튼과 참여 제외 신청은, 순서만 바꿨다면 훨씬 값이 나갔을 장치입니다. 중요한 건 스위치의 존재가 아니라 그걸 눌러도 인사상 불이익이 없다는 사실을 구성원이 믿는지 여부고요.
- 산출물을 반드시 되돌려주세요. 수집한 데이터로 만든 결과를 본인이 먼저 보게 하십시오. (예) B사 CX본부는 상담 녹취 분석 결과를 관리자 대시보드에 올리기 전에 상담사 개인에게 주간 요약으로 먼저 보냈습니다. 같은 데이터인데 감시에서 코칭으로 성격이 바뀌더군요.
| 
