[창간기획] AI 활용과 의존 기준점, 판단 지원 업무가 적당

사진=게티이미지뱅크

인공지능(AI)이 기업과 기관 업무 전반으로 빠르게 확산되면서 활용 방향에 대한 기준도 정립되고 있다. 단순 반복 업무를 넘어 자료 분석과 의사결정까지 AI에 맡기려는 수요가 커진 반면, 개인정보와 기업 기밀 등 민감정보는 맡기지 않고 최종 판단과 책임은 사람이 가져야 한다는 경계도 뚜렷하게 나타났다.

전자신문이 기업·기관 AI 관리자 143명을 대상으로 한 설문에선 'AI를 사용할 때 프롬프트에 입력하지 않는 정보는 무엇인가'라는 질문에 개인정보·민감정보를 꼽은 응답이 56명(39.2%)으로 가장 많았다.

이어 △미공개 사업계획과 내부 보고서, 계약정보 등 회사·기관 기밀정보가 40명(28%) △계정·비밀번호·API 키·인증서 등 보안정보가 31명(21.7%)으로 뒤를 이었다. △핵심 기술·연구개발 정보는 9명(6.3%) △고객·거래처 등 제3자 정보는 4명(2.8%)으로 나타났다. 특별히 입력을 제한하는 정보가 없다는 응답은 3명(2.1%)에 그쳤다. 질의에 사용된 항목 대부분이 외부 공유 저항감이 큰 것들이지만, 그중에서도 개인의 정보보안 문제를 가장 우선 순위에 두고 있는 셈이다.

'AI에게 맡겨도 된다고 생각하는 업무 범위'에 대한 질문에선 '자료 분석·추천 등 판단을 지원하는 업무까지 맡길 수 있다'는 응답이 56명(39.2%)으로 가장 많았다. 채용·평가·대출심사 등 중요한 의사결정을 보조하는 업무까지 가능하다는 응답도 26명(18.2%)으로 나타났다. 단순·반복 업무만 맡길 수 있다는 응답은 8명(5.6%)에 불과했다.

다만 AI에게 최종 판단까지 맡기는 것에 대한 경계는 큰 것으로 나타났다. '아무리 AI 성능이 높아져도 중요한 최종 판단은 사람이 해야 한다'는 응답이 39명(27.3%)으로 나타났다.

반면 전문가 판단이 필요한 영역에서도 AI가 최종 결정을 내려도 된다는 응답은 6명(4.2%)에 불과했다. 의료·자율주행 등 생명·안전과 직결된 영역에서 일정 범위 내 AI 최종 판단을 허용할 수 있다는 응답도8명(5.6%)에 그쳤다.





'AI 확산 과정에서 중요하게 고려해야 할 윤리적 과제와 안전한 활용 방안'을 묻는 질문에서도 인간의 검증과 책임에 대한 강조가 반복해서 등장했다. 한 응답자는 “AI 시대 핵심 과제는 AI를 얼마나 잘 만들 것인가 보다, 얼마나 신뢰할 수 있게 사용할 것인가”라며 인간의 최종 검증과 AI 리터러시를 강조했다.

AI가 사람의 사고를 확장하는 도구가 아니라 사고를 생략하는 도구가 될 수 있다는 의견도 제기됐다. AI가 틀린 답을 내놓는 것보다 사람이 검증하지 않은 채 믿는 것이 더 큰 위험이 될 수 있다는 지적이다.

AI 활용이 일반화되면서 이용자가 검증하는 습관을 잃을 수 있다는 우려도 나왔다. 다른 응답자는 “최종 판단과 책임은 언제나 사람이 가져야 한다”며 “AI 에이전트 오작동과 사이버 위협에 대비한 기술·제도적 통제가 필요하다”고 말했다.

결국 국내 주요 기업과 기관 AI 담당자들은 AI를 AI 활용 자체를 제한하기보다 활용 범위는 넓히되, 주요 데이터와 최종 결정권에는 선을 그어야 한다고 보고 있다. AI를 업무에 적극 활용하면서도 민감 데이터 제공에 대한 경계는 강화하고, 중요 판단과 책임은 사람이 가져야 한다는 것이 다수 의견으로 나타났다.

AI 시대 도래와 함께 AI에게 무엇을 맡기고 어디서 사람이 개입할 것인지가 AI 거버넌스 측면에서 주요 과제가 될 전망이다.

박진혁 기자 spark@etnews.com