[전문가 기고]챗GPT는 양심이 없다

김명주 서울여대 교수
김명주 서울여대 교수

2개월이 흘렀는데도 인공지능(AI) 챗봇 '챗GPT' 열풍은 식을 줄 모른다. 오픈 2개월 만에 무료 사용자가 1억명을 돌파한 데 이어 최근에 추가된 유료 사용자만 해도 100만명을 훌쩍 넘었다. 챗GPT를 사용해 본 사람은 예상보다 뛰어난 능력에 신세계가 열린 듯하다는 반응이다.

국내에서도 챗GPT를 저자로 하는 책이 나오기 시작했다. 챗GPT를 이용해 파워블로거가 되는 법, 유튜브 수익 높이는 법 등 이전에는 생각지도 못했던 특이한 시도가 쏟아진다. 챗GPT 관련 새로운 뉴스가 꼬리에 꼬리를 물고 있다. 대학을 비롯한 교육계도 챗GPT가 교육환경에 어떤 영향을 줄지 긴장하고 있다.

챗GPT는 피할 수 없는 대세다. AI는 앞으로 우리가 곳곳에서 맞닥뜨려야 하는 전환기적 혁신기술이다. 현재의 챗GPT 답변에 일부 부정확한 내용이 담길 수 있고 편견과 차별도 드러날 수 있지만 이러한 부족함에 비해 활용에 따른 유용성은 훨씬 크다. 다양한 선택지가 필요한 기획과 브레인스토밍, 미지의 영역에 대한 학습과 훈련에 특히 유용하다. 아직은 선무당같지만 다방면으로 박학다식한 비서를 곁에 두는 느낌이다. 지금까지 검색엔진을 활용할 때 들어간 적지 않은 노력과 시간을 챗GPT는 대폭 줄여 준다. 그래서 검색엔진의 입지를 크게 위협할 수 있다는 말이 나온다.

과거 정보화시대에 진입할 때 앞으로는 컴퓨터와 인터넷을 잘 사용하지 못하면 모든 경쟁에서 뒤처진다는 우려가 '디지털 격차'라는 표현으로 떠올랐다. 이제 AI 시대에 진입하면서 이러한 디지털 격차는 'AI 격차'라는 말로 바뀌고 있다. 챗GPT와 같은, AI를 잘 활용하는 개인이나 조직은 비교우위에 있는 역량을 보유하게 된다. 이러한 AI 역량의 함양은 입력창인 프롬프트(prompt)에서 시작된다. 챗GPT뿐만 아니라 그림을 그려 주는 AI 미드저니(Midjourney) 등 현재는 프롬프트를 통한 이용자와의 대화를 기본으로 한다. 이용자가 프롬프트 창 안에 무엇이라고 기술해서 지속적인 대화를 어느 방향으로 이끌어 가느냐에 따라 AI가 생성해 주는 정보와 지식 품질이 달라진다. 동일한 원문에 대해 엄청난 수준 차이가 있는 번역 버전이 가능해진다.

최근에는 이처럼 AI와 대화를 잘 이끌어 가는 전문가 '프롬프트 엔지니어'도 등장했다. 미국에서는 이미 이에 대한 구직 정보가 올랐다. 30년 전쯤 인터넷 상용화 결정에 따라 전 세계가 인터넷에 접근할 수 있게 되었을 때의 기억이 떠오른다. 도서관의 사서를 대신할 신종직업으로 인터넷 정보검색사가 등장, 열풍을 일으켰다. 그러나 얼마 가지 않아 인터넷 정보검색은 새로운 직종이 아니라 모든 사람이 갖춰야 할 새로운 역량으로 자리 잡았다. 역사는 반복된다. AI 프롬프트 엔지니어는 신종직업이라기보다 모든 사람이 각자 영역에서 일할 때 추가로 갖춰야 할 새로운 역량으로 자리 잡는 것이 옳다. 우리 사회의 많은 사람이 이 AI 역량을 갖춰야 앞으로 우리 사회 안에서의 AI 격차를 해소할 수 있게 된다.

기술은 가치 중립적이라고 흔히 이야기한다. 누구의 손에 들려 사용하느냐에 따라 득이 되기도 하고 해가 되기도 한다. AI처럼 파급력과 영향력이 클수록 이용자 윤리도 비례해서 중요해진다. 최근 유명 유튜버의 콘텐츠를 그대로 복사해서 재생산하는 데 다양한 AI를 적극적으로 이용한 사건이 발생했다. 챗GPT와 유사한 '뤼튼'이라는 작문용 국산 AI가 여기에 활용됐다는 이유로 이 기업이 곤욕을 치르기도 했다. 유능하기 때문에 선택돼 악용된 AI 자체보다는 이를 악용한 이용자에게 비판의 초점이 맞춰질 필요가 있다. 갈수록 AI를 업무에 활용할 수 있는 이용자의 역량이 중요해지고 있는 가운데 그 안에 이용자 윤리도 꼭 포함되어야 한다.

챗GPT는 양심이 없다. 그 안에 양심의 발현을 위한 코드나 데이터를 넣어 주지 않았다. 그렇기 때문에 AI에 사람에게나 가능한 양심적 판단과 반응 기대는 무리다. AI 자체보다 AI를 만들고 개발하는 사람이 양심적이어야 한다. 그리고 이제는 AI를 사용하는 이용자도 양심적이며 윤리적이어야 한다. 그래야 앞으로 인간과 AI가 꾸준히 공존할 수 있을 것이다.

김명주 서울여대 교수(바른AI연구센터장) mjkim@swu.ac.kr