[김경진의 AI전략노트] 〈11〉AI와 질문의 기술, 언어모델과 함께 일하는 법

김경진 전 국회의원
김경진 전 국회의원

기업 관계자가 내게 물었다. “인공지능(AI)을 도입했는데 직원들이 잘 안 써요. 뭐가 문제일까요?” 사내에 GPT를 연동했지만, 대부분 간단한 업무만 부탁하고 있었다. 많은 돈을 들여 구축한 AI 시스템이 번역기 수준에 머물러 있는 셈이었다.

문제는 접근 방식에 있었다. 많은 직장인이 “AI를 어떻게 업무에 활용해야 할까?”라는 질문 앞에서 막막함을 느낀다. 언어모델 인공지능은 이미 다양한 분야에서 쓰이고 있지만, 막상 자신의 자리에서 어떤 구체적 도움을 받을 수 있을지는 선명하게 떠오르지 않는다. 이럴 때 가장 효과적인 방법은 AI에게 내가 하는 일을 설명하고, 개선 방향을 물어보는 것이다.

◇AI를 업무 개선 가이드로 만들기

사람들이 “이 일에 대해 답을 해줘”라고 요구하지만, 더 현명한 방식이 있다. “내가 맡은 일을 설명하고, 그 중에서 효율적으로 개선할 수 있는 방법을 제안하라”고 요청하는 것이다. AI를 검색엔진이 아닌 업무 파트너로 대우할 때 비로소 진가가 드러난다.

직무기술서를 사진으로 찍어 올리거나, 주요 업무를 정리해 거대언어모델(LLM)에 제공한다고 하자. 이때 “업무 내역 중 LLM을 활용해서 개선하거나, 자동화할 수 있는 부분을 검토해서 알려줘” “보고서 작성 과정을 LLM을 활용해 효율화할 수 있는 프롬프트를 만들어줘” 와 같은 구체적 요청이 효과적이다.

이렇게 하면 AI는 업무 프로세스 개선 도구가 된다. 보고서 작성, 이메일 정리, 회의록 요약 등 반복적 업무 패턴을 찾아내고, 개선과정을 통해 작업 속도는 빨라지고 품질은 높아진다. 한 마케팅팀 과장은 “AI에게 제품 소개서를 보여주고 타겟 고객별 맞춤 메시지 작성법을 물어봤더니, 전에 없던 관점들이 쏟아져 나왔다”고 말했다.

◇질문받는 기술의 발견

AI 활용의 가치는 효율성만이 아니다. AI에게 나 혹은 우리 회사를 향한 질문을 요청하는 것 자체가 AI 스스로 사고를 확장하는 강력한 도구다. 사람은 질문을 받으면 더 깊이 고민한다. 언어모델은 이 과정을 지적 파트너로서 도와준다.

면접을 앞둔 구직자는 “다음 주 마케팅 직무 면접에서 예상될 질문 10가지를 만들어 달라”고 요청할 수 있다. 답변을 입력하면 “이 부분은 모호하다” “구체적인 지표를 제시하면 좋겠다”와 같은 피드백도 받을 수 있다. 시뮬레이션이 가능한 셈이다.

창업가라면 자기 아이디어를 설명한 뒤 “내 비즈니스 모델의 약점을 파악할 수 있는 날카로운 질문을 해 달라”고 요구해보자. “타깃 고객이 정말 이 문제를 돈을 내고 해결하려고 할까?” “경쟁사가 똑같은 서비스를 출시하면 어떻게 차별화할 것인가?” 같은 외부 시선의 점검을 받을 수 있다.

연구자는 “내 가설을 반박할 수 있는 질문을 제시해 달라”고 요청하면서 논문의 빈틈을 스스로 보완할 수 있다. 학생은 “개념을 확인할 수 있는 질문을 던져 달라”는 방식으로 학업성취도를 점검할 수 있다.

AI가 던지는 질문은 거울과 같다. 미처 보지 못한 사각지대를 비추고, 생각의 구조를 정리하게 만든다. 스타트업 CEO는 “AI와 대화하면서 우리 서비스의 진짜 가치가 뭔지 처음으로 명확해졌다”고 말했다.

AI에게 올바른 질문을 요청하는 것도 중요한 AI 활용 능력이다. “내가 놓치고 있는 관점은 뭐가 있을까?”, “이 문제를 다른 각도에서 보면 어떨까?” 같은 메타 질문을 던질 때 AI는 단순한 검색엔진을 넘어선 사고의 동반자가 된다.

앞으로의 중요한 역량은 '무엇을 대답했는가'가 아니라 '어떤 질문을 던질 수 있는가'일 것이다. AI 활용 핵심은 답을 얻는 데 있지 않다. 질문을 요청하는 능력이야말로 AI 시대의 새로운 경쟁력이다. 업무 효율성을 높이는 실질적 도구로, 사고를 확장하는 지적 동반자로 언어모델을 활용한다면, 우리는 기술 수용자가 아니라 미래를 설계하는 주체가 될 수 있다.

김경진 전 국회의원 2016kimkj@gmail.com