지난 주 AI 생산성 이면의 진실: 심리적 부채라는 뉴스레터를 드렸습니다. 첫 번째 부채로 '인지 부채'를 말씀드렸습니다. 생각을 AI에 맡겨버리는 문제를 제기한 것이었습니다. 원문에는 이런 문제를 적절하게 대응한 사례로 J.P. 모건을 제시했습니다.
솔직히 우리나라 경영계의 최근 이슈는 단연코 AI입니다. 초창기다 보니 거품과 환상이 가득합니다. 속도 가속화의 효율화로만 관심을 두는 현상이 매우 우려스럽습니다. 편의성의 유혹에 빠지면 결국 사람들은 생각하지 않으려 할 것입니다. 결국엔 AI가 밷어내는 대로 사고하게 될 수 있습니다. 이런 걱정에 앞서 선도적으로 주의를 기울이며 사업에 AI를 확산하고 있는 J.P.모건 사례는 큰 도움이 될 것 같습니다.
"AI가 우리를 대체하지 않을 것이며, 우리가 활용할 수 있는 도구가 될 것"이라며, "AI는 가속 페달 역할을 하겠지만, 브레이크와 핸들은 여전히 우리가 잡고 있어야 한다."고 말했다.
(레너드 호크스, J.P.모건 체이스 S/W 엔지니어)
실제로 이는 금융 전문가들의 역할이 재정의될 것임을 의미합니다. 트레이더는 수동 거래 실행에서 전략 감독으로 이동하고, 리스크 관리자는 개별 거래 모니터링보다는 안전장치 설계에 더 집중하게 될 것입니다. AI 개발의 핵심인 엔지니어들은 단순 반복 작업에 시간을 덜 쓰고 고부가가치 문제 해결에 더 많은 시간을 할애하게 될 것입니다.
🎈 직원 사고를 유지시키는 장치
- 교육훈련 설계: LLM이 할 수 있는 것과 없는 것부터 교육 시작, LLM을 maker에서 checker로 전환하기, 다중 소스 리서치 등이 포함됩니다.
- AI 운영의 두 기둥 전략: 하나는 회사가 중요하다고 판단한 핵심 도메인에 자원을 집중하는 top-down transformation, 다른 하나는 직원들에게 self-service tools를 주고 현장 문제에서 상향식으로 쓰게 하는 bottom-up federated innovation입니다. 이 구조에서 AI는 '아무에게나 답을 주는 만능 의사결정자'가 아니라, 업무 맥락 안에서 쓰이는 도구입니다.
- 검증과 경계심 유지: 모델 정확도가 높아질 수록 인간의 감독이 느슨해질 수 있습니다. AI 시스템을 다루는 일은 점점 사람을 관리하는 것과 비슷해질 것이라고 인식합니다. 즉, AI output을 검토하고 관리하며 제한하기도 하는 관리 상의 목표로 다룹니다.
- 별도 통제: 권한경제, 서비스 간 상호작용 제약, 감사기록, 모니터링
🎈 금융 분야에 AI를 책임감 있게 도입하는 접근 방식
- 위험도가 낮은 사용 사례부터 시작하세요... 내부 문서 요약이나 고객 문의 분류와 같이 실수해도 큰 손해가 없는(적은) 영역부터 시험해 보세요.
- 처음부터 설명 가능성을 고려하여 설계하세요... 인공지능 시스템이 자신의 추론 과정을 정당화할 수 없다면, 실전에 투입될 준비가 된 것이 아닙니다. 특히 금융 분야에서는 규제 기관과 고객이 의사 결정의 이유를 알고 싶어 하기 때문에 투명성이 매우 중요합니다.
- 데이터 격차를 해소하세요... 편견을 가진 의사결정자가 데이터를 학습시켰다면, AI도 그것을 그대로 복제할 것입니다.
- 부서 간 협업팀을 구성하세요... 부서 간 협업을 통해 AI 도입은 기술적으로 안정적일 뿐만 아니라 규정을 준수하고 고객 요구 사항에 부합하도록 보장할 수 있습니다.
아시듯이 금융업계는 보안이 중요하며, 규제 산업인 만큼 매우 보수적입니다. 하지만 J.P.모건은 제대로 방법을 찾은 듯 보입니다. 호크스의 말 중에서 다음이 가장 인상 깊었습니다.
"AI는 금융 회사들이 스타트업처럼 움직이면서도 대규모로 운영할 수 있도록 해주고 있습니다."
| 
