어느 조직이나 AI 도입으로 생산성 향상을 꾀하고 있습니다. 실제 초기 도입 단계에는 속도가 빨라집니다. 애초 목적한 대로 나간다고 생각합니다. 그렇게 AI에 익숙해지다 결정까지 맡기는 상황이 펼쳐집니다. 사안에 따라, 상황에 따라 제한적으로는 그럴 수도 있겠죠. 하지만 진짜 문제는 사고의 힘이 잘못된 습관에 따라 약화되는 것입니다.

실제 최근 워크숍에서 경험했습니다. 여러 가지 조별 토론을 위해 퀴즈나 논의 주제를 던지는데요, 안타깝게도 논의는 하지 않고 노트북으로 ChatGPT에게 답을 묻는 수강생이 여럿이었습니다. 걔중에는 정답이 있지 않았고, 정답을 맞춘다고 보상이 있지도 않았는데 말입니다. 그 순간 내가 사람에게 교육하고 있나, AI에게 하고 있나 혼란스러웠습니다.

의사결정에 있어서 인간 개입의 중요성을 말하는 'human-in-the-loop'라는 말이 있습니다. 의사결정 과정에서 사전에 승인을 한다는 개념입니다. 따라서 사람의 개입 없이는 의사결정이 확정되지 않습니다. 하지만 이런 상활을 생각해보시죠. AI는 우리 말고 경쟁사도 쓰게 될 겁니다. 속도의 경쟁이 벌어진다면 인간 개입 자체를 불합리한, 비효율적이라고 생각하지 않을까요? 이미 human-on-the-loop라는 말이 생겼습니다. 인간은 모니터링만 한다는 겁니다. 현재 추론 과정을 볼 수는 있는데, 실상 본다고 진짜 뭐가 진행되는지 인간이 알 수 있을까요?

다행(?)스러운 점은 위 아티클의 저자의 지적대로 현장 팀들은 점차 AI에 의존하는 상태에서 벗어난다고 합니다. 기술은 발전하지만 AI가 모든 것을 커버할 수 없기 때문입니다. 이같은 원인은 시스템이 포착하는 데이터와 실제 상황의 복잡성, 즉 데이터에 담아내기 어려운 지역적 조건, 문화적 차이, 실질적인 제약 조건 사이의 격차가 원인인 경우가 많습니다.

• 불확실성 하에서의 판단: AI는 패턴을 식별할 수 있지만, 상충하는 우선순위를 해결할 수는 없습니다. 인간의 판단력이 없다면, AI의 결정은 가장 적절한 것이 아니라 최적화하기 가장 쉬운 것에 맞춰지게 됩니다.

• 독창적인 사고: AI는 기존 지식을 재조합합니다. 인간의 관점 전환 없이는 조직은 미래를 창조하기보다는 현재를 최적화하는 데 그칠 위험이 있습니다.

• 맥락적 공감: AI는 반응을 시뮬레이션할 수 있지만 인간의 역동성을 경험하지는 못합니다. 이러한 인식이 부족하면 리더는 신뢰, 도입 및 성과에 직접적인 영향을 미치는 신호를 놓치게 됩니다.

• 회복력: AI는 생산량을 늘리지만, 인간은 압력을 견뎌냅니다. 감정 조절 능력이 없으면 리더는 수동적으로 반응하게 되고, AI 기반의 속도는 잘못된 결정을 더욱 악화시킵니다.

• 정렬: AI는 실행 속도를 높이지만, 공통된 이해를 만들어내지는 못합니다. 정렬이 없으면 정확한 결과물조차도 실행 과정에서 실패할 수 있습니다.

가장 우려스러운 점은 과도한 의존

인간의 능력이 미개발된 경우 인공지능은 그 격차를 메워주기는커녕 오히려 증폭시킵니다. 의사 결정 속도는 빨라지지만, 반드시 더 나은 결과를 가져오는 것은 아닙니다.

가장 뛰어난 조직들은 다른 접근 방식을 취합니다. 그들은 AI의 결과물에 의문을 제기합니다.

• 이것은 어떤 가정에 근거한 것입니까?

• 어떤 맥락이 빠져 있는 걸까요?

• 무엇이 잘못되었을까요?

그러한 분별력이 증강과 의존을 구분 짓는 요소입니다. 하지만 이러한 수준의 판단력은 저절로 생기는 것이 아닙니다. 의사결정자의 마음가짐에 달려 있습니다.

오늘자 뉴스레터에 대한 여러분의 생각을 남겨 주세요!