AI에게 필요한 건 ‘지시’가 아니라 ‘자료’다 [김한솔의 경영전략]

“AI를 잘 쓰는 조직과 그렇지 않은 조직의 차이는 자기가 하는 일을 남들도 이해할 수 있게 정리해 둔 조직과 아닌 조직의 차이에서 갈린다”

요즘 인공지능(AI) 교육을 하지 않는 조직이 없다. 프롬프트 작성법 특강을 열고, 팀별로 활용 사례를 모아 공유하고, 잘 쓰는 직원을 사내 강사로 세우기도 한다. AI를 활용해 업무 생산성을 높이기 위한 노력들이다. 그런데 몇 달이 지나도 조직의 일하는 방식이 크게 달라지진 않는다. 그러면서 ‘생각보다 별것 없다’는 말이 돌기 시작한다. ‘처음엔 신기했는데 이젠 잘 모르겠다’는 반응도 들린다. AI 기술은 인류가 풀지 못한 수학 난제도 척척 풀어낼 정도로 발전한다는데 왜 조직에서는 생각만큼 환영받지 못할까?

◆‘무엇을 갖고’ 일하게 할 것인가

AI를 잘 쓰려면 잘 시켜야 한다. 그래서 다들 프롬프트를 배운다. 어떤 역할을 맡길지 정해주고, 어떤 상황에서 쓰는 문서인지 알려주고, 결과물의 형식까지 지정해주면 답변의 질이 확실히 달라진다. 여기서 한발 더 나아가면 매번 반복하는 긴 지시문을 하나의 스킬로 저장해두거나 업무별로 프로젝트를 나눠 대화를 따로 관리하는 방법까지 쓰게 된다. 이 정도만 익혀도 예전보다 훨씬 쓸 만한 결과가 나온다. 이게 많은 AI 기술 교육에서 다루는 메시지다.

문제는 그다음부터다. AI가 내민 결과물을 읽다 보면 어딘가 아쉽다. 서식이 우리가 쓰는 그것이 아니어서다. 방향은 그럴듯한데 정작 이번 건에서 제일 중요한 포인트가 빠져 있기도 하다. 그래서 다시 설명한다. 우리 팀은 이런 양식을 쓴다고, 이번에는 이 부분을 강조해야 한다고. 그리고 또 돌린다. 그런데 이번에는 다른 데가 어긋나 있다. 또 설명하고, 또 돌리며 수정본을 확인할 쯤 되면 슬그머니 이런 생각이 든다. ‘이럴 거면 그냥 내가 하는 게 빠르지 않나?’

시간을 아끼려고 꺼낸 도구를 내 입맛에 맞추느라 더 시간을 쓰는 상황. 아마도 많은 직장인들이 겪는 현상일 것이다. 그러다 보니 결국 원래 방식으로 조용히 돌아간다. 그리고 조직의 AI 활용도 점차 시들해진다.

문제가 뭘까? 사용자가 AI에게 지시를 잘하지 못해서? 아니다. 많은 직장인들이 AI를 활용하며 답답해하는 것들을 모아보면 성격이 하나로 모인다. ‘서식’이 다르다, 톤이 ‘내 것’ 같지 않다 등의 아쉬움은 지시의 문제가 아니다. AI가 알 수는 없는 ‘사람의 경험’이 결과물에 녹아들지 않아서다. 이 고객사가 유독 예민해하는 지점, 작년에 비슷한 기획안이 반려된 이유 등 사람들의 ‘암묵지’가 AI에겐 없기 때문에 AI 활용이 한계에 부딪힌다.

신입사원을 떠올려보면 이해가 빠르다. 입사 첫 주의 신입에게 아무리 ‘또박또박’ 지시해도 단번에 쓸 만한 문서가 나오지는 않는다. 반대로 과거 3년간의 업무 이력을 다 알고 있는 구성원에겐 “그 건 정리해줘” 한마디면 충분하다. 두 사람의 차이는 지시를 알아듣는 능력이 아니라 머릿속에 담고 있는 업무에 대한 정보의 양이다.

AI도 마찬가지다. 재료를 채워두지 않은 채 질문만 계속 다듬는 것은 텅 빈 냉장고 앞에서 레시피만 늘려가는 일과 다르지 않다. 그래서 조직에 AI를 전파하려면 다른 질문을 던져야 한다. AI에게 ‘어떻게’ 시킬 것인가가 아니라 AI가 ‘무엇을 갖고’ 일하게 할 것인가다. 조직에 쌓여 있는 유형의 데이터, 사람들 간에 오고 가는 무형의 정보들을 AI에 심어줘야 한다.

◆데이터 정리의 두 가지 방법

그런데 데이터를 정리하라는 말만큼 막막한 주문도 없다. 어디서부터 손을 대야 할지 감이 오지 않아서다. 어려운 시작을 돕기 위해 두 가지만 기억하고 실행해 보자.

첫째, 업무 ‘하나’만 고르기다. 데이터 정리를 결심한 사람들이 가장 흔히 저지르는 실수가 ‘전부 다’ 정리하려는 것이다. 틀린 건 아니다. 데이터는 많을수록 그 힘이 배가되니까. 그리고 끝그림이 그게 되는 것도 맞다. 하지만 부서 공용 폴더를 열어놓고 분류 체계를 그리기 시작하는 순간 그 일은 ‘절대’ 끝나지 않는다. 하나의 자료라도 내가 보는 관점과 다른 동료가 보는 포인트가 달라서다.

그래서 욕심을 버리고 일단 ‘나 혼자’의 일에서만 시작하자. 예를 들어 ‘지난 한 달 동안 내가 세 번 이상 한 일’처럼 반복 업무를 찾자. 그 일을 할 때마다 과거 파일을 뒤지게 되는 일이면 속성이 더 맞다. 영업 담당자라면 고객사에 보낼 제안서 작성이 그런 업무일 가능성이 높다. 고객의 상황에 맞춰 월 혹은 분기마다 비슷한 구조의 문서를 만들고 있다면, 그리고 매번 예전 제안서를 열어 필요한 부분을 옮겨 붙이고 있다면 이미 데이터 정리를 수작업으로 하고 있는 셈이다. 이런 일을 찾는 것이 데이터 정리 업무의 시작이다.

일을 찾았다면 데이터화를 어떻게 하냐고? 반복 업무를 할 때 쓰게 되는 자료를 폴더 하나에 모으는 게 시작이다. 특별한 도구는 필요없다. 요즘 AI 서비스들은 대부분 폴더 하나를 지정하면 그 안의 자료만을 근거로 답을 한다. 이 안에서 AI가 일을 하게 하면서 ‘해당 업무 단계에서 나의 업무 방식’을 AI에게 알리면 된다. 범위를 좁히는 것이 기능을 포기하는 일처럼 보일 수 있지만 오히려 반대다. 볼 자료가 적고 명확할수록 결과는 정확해진다.

데이터 정리를 잘하기 위한 두 번째 방법은 신입직원에게 넘기는 인수인계 문서를 만든다고 생각하기다. 부서를 옮기거나 업무가 바뀔 때 조직에선 인수인계서를 쓴다. 이 업무의 목적이 무엇인지, 누구와 협의해야 하는지, 반복되는 일의 순서는 어떻게 되는지 등이다. 해당 항목에 맞게 내가 갖고 있는 자료들을 정리해보자.

앞의 제안서 사례로 돌아가보자. 폴더에 들어가야 할 자료로 뭐가 떠오르는가? 아마도 기존에 전달했던 ‘많은 제안서 파일’이 될 것이다. 이게 함정이다. 이건 결과물일 뿐이다. 결과만 알려줘서는 AI가 제대로 파악하지 못한다. ‘과정’을 함께 알려야 한다. 예를 들어 고객이 수정을 요구했던 지점과 그 이유, 이 업계에서 쓰면 곤란한 표현 같은 것 등이다.

최종 결과물을 제안해 아웃풋을 명확히 알려주는 게 필요한 건 맞다. 하지만 그것만 알려주면 AI는 그 결과물이 ‘왜’ 좋은지 알 수 없다. 잘된 것 다섯 개에서 공통점을 찾을 수도 있지만 ‘반려’된 것 하나와 ‘반려된 이유’ 한 줄에서 더 명확한 기준선을 찾을 수 있다. 사람도 실패에서 배우듯 AI에게도 나의 실패 이력을 설명해주자.

AI를 잘 쓰는 조직과 그렇지 않은 조직의 차이는 누가 더 좋은 모델을 쓰느냐에서 갈리지 않는다. 자기가 하는 일을 남들도 이해할 수 있게 정리해 둔 조직과 각자의 머릿속에만 담아둔 조직의 차이에서 갈린다. AI는 우리가 시킨 만큼 일하지 않는다. 우리가 정리해둔 만큼 일한다. 그래서 스스로에게 물어봐야 한다. 나는 내가 쓰는 AI에게 나의 일을 얼마나 알려주고 있는가?

김한솔 HSG휴먼솔루션그룹 AX Lab 소장