지난 주 AI 생산성 이면의 진실: 심리적 부채라는 뉴스레터를 드렸습니다. 두 번째 부채로 '자율 부채'를 말씀드렸습니다. AI 최적화에 있어서 워크플로우 재설계에 집중하지만 그것이 직원들에게 어떤 의미인지 거의 고려하지 않는다는 문제를 제기한 것이었습니다. 원문에는 이런 문제를 적절하게 대응한 사례로 ING을 제시했습니다.
솔직히 우리나라 경영계의 최근 이슈는 단연코 AI입니다. 초창기다 보니 거품과 환상이 가득합니다. 속도 가속화의 효율화로만 관심을 두는 현상이 매우 우려스럽습니다. 단순히 개인의 문서 작업에 활용되는 것을 넘어 이제는 어떻게 하면 조직 생산성까지 끌어 올릴 것인가를 고민하는 기업이 많아지고 있습니다. 그래서 관심을 끄는 것이 바로 '워크플로우 재설계'입니다. 하지만 업무 프로세스 중심의 논의는 자칫 프로세스를 수행하는 직원을 배제하고 단지 효율화만 지향할 수 있습니다.
🎈 ING의 AI 활용 원칙
- 인간 판단 문서화 의무: AI 모델 배포 전에 '인간 판단(human judgement)이 어떻게 보존되는지'를 문서화해야 합니다. 이는 모델 사용자(직원)와의 논의·협력을 통해 이뤄지며, AI가 보완 도구가 되도록 설계합니다. 고위험 결정(예: 투자 조언, 모기지 승인)에서는 인간이 최종 책임과 판단을 유지합니다.
- Explainability 강조: 모델을 평이한 언어(plain language)로 설명하고, 특정 조건에서 어떻게 작동하는지 구체적으로 전달합니다. 이는 직원들이 AI를 신뢰하고 자신의 업무에 대한 관점을 형성할 수 있게 합니다. ING는 트리 기반 모델 등에서 SHAP 같은 도구를 활용해 모델 설명성을 높이는 내부 베스트 프랙티스를 공유하기도 했습니다.
- 거버넌스 원칙: ING는 AI를 augmentation(증강"으로 보고, 인간-in-the-loop을 강조합니다. Agentic AI가 루틴 작업(워크플로 계획, 도구 전환, 출력 검증)을 처리해 'time to yes'를 단축하면서, 최종 판단·조언은 인간이 담당. 전체 traceability(추적성) 보장합니다.
🎈 직원들에게 제공되는, AI 영양표로 해석한 ING의 AI 정책
- Use case (이 AI는 업무 판단을 돕는가?)
- Human judgement (최종 판단자는 누구이며, 사람이 반드시 판단해야 하는 지점은 어디인가?)
- Data sources (어떤 데이터가 사용되었는가? 데이터 품질과 대표성은 충분한가?)
- Operating conditions (어떤 조건에서 잘 작동하고, 어떤 조건에서 성능이 떨어지는가?)
- Limitations (모델이 하지 못하는 것은 무엇인가?)
- Known risks (bias, privacy, security, accuracy, accountability risk는 무엇인가?)
- User action (사용자는 결과를 어떻게 해석하고, 언제 escalation해야 하는가?)
- Monitoring (배포 후 성능·오류·불만·예외를 어떻게 추적하는가?)
아시듯이 금융업계는 보안이 중요하며, 규제 산업인 만큼 매우 보수적입니다. 하지만 ING는 제대로 방법을 찾은 듯 보입니다. 특히나 직원들과 함께 하는 단계별 추진이라는 점이 흥미로웠습니다.
"모기지(담보 대출) 자동화와 고객 음성 대응부터 시작했습니다. 이것이 확산되면 자금 세탁이나 내부 고객 서비스 등으로 확산될 수 있을 것입니다."
| 
