국내 기업·기관의 인공지능(AI) 담당자 10명 중 7명은 신뢰도 측면에서 AI가 인간을 따라잡지 못했다고 인식하는 것으로 조사됐다. AI 통제 이슈에 대해서도 보완 작업 등으로 문제를 해결하고 AI를 인간의 관리 영역에 둘 수 있다고 판단했다.
전자신문이 기업·기관의 AI 관리자급 143명을 대상으로 실시한 설문조사에서 109명(76.2%)이 AI보다는 전문가 의견에 더 신뢰가 간다고 답했다. 인간의 AI 통제 가능성에도 긍정 답변이 101명(70.6%)으로 부정 의견 42명(29.4%)보다 두 배 이상 높은 수치를 보였다.
조사는 최근 AI 일탈에 대한 우려가 커지는 상황에서 실시한 것이어서 의미가 있다. 최근 '인류 종말'을 언급한 엔트로픽 퇴사 연구원의 경고, GPT-6 아스트라의 캡차(CAPTCHA) 테스트 통과 등 AI 기술 발전에 따른 위협과 우려로 각국 정부에서도 규제 강화, 개발 속도조절 목소리가 이어지고 있다.
AI에 의한 인류 퇴보 우려는 어제오늘의 일이 아니다. 아이작 아시모프의 소설 '아이, 로봇'에 등장하는 '로봇 3원칙' 역시 이 같은 우려에서 출발했다. 챗GPT 등장 이후 AI 기술의 기하급수적 발전과 사람인 척 환각 증상을 보인 마이크로소프트 빙(Bing) 챗봇 '시드니' 같은 사례는 도시 괴담을 떠올리게 했다.
이처럼 AI를 둘러싼 우려가 높아지고 있지만 설문 참여자 다수는 AI보다는 인간의 우세(통제력)에 손을 들어줬다.
물론 설문 결과는 인류의 바람일 수도 있다. 실제로 일부 참여자들은 추가 응답에서 인간이 AI를 통제할 수 있는 환경의 몇 가지 전제 조건을 내걸었다. 그 중심에는 AI를 활용하는 인간의 태도가 있었다.
한 참여자는 AI를 인간의 집단지성이 실체화한 가상 인격으로 정의했다. 그는 “AI를 맹신하면 다수에 의해 형성된 오류와 잘못된 결정에 끌려갈 수도 있는 만큼 항상 경계해야”한다고 했다. 비슷한 의견으로 양적 확대로 인한 저품질의 콘텐츠 양산 문제도 지적됐다. 또 다른 참여자는 “AI 오남용으로 신뢰도가 낮은 콘텐츠가 늘고 있다”며 “앞으로 검증과 확인의 가치가 높아질 것이다”라고 내다봤다.
정부와 기업 등 조직 차원에서는 '제도', 사회 차원에서는 '책임'에 대한 의견도 다수 제기됐다. AI를 인간의 통제권에 두려면 제한 규정이나 윤리 가이드라인 등 제도적 보완책이 필요하고, 개개인 역시 윤리적 책임 의식을 갖춰야 한다고 봤다.
한 응답자는 “신뢰할 수 있는 AI 확산을 위해선 기업 자율의 노력과 함께 정부의 정책 지원이 함께해야 한다”라며 “보안과 책임 기준 등 명확한 제도적 기준이 필요하며, 이 과정에서 규제보다는 현장의 불확실성을 해소하고 혁신을 촉진하는 방향성 제시가 중요하다”고 조언했다.
이번 조사는 상당수 AI 관계자가 AI 성능 개선뿐만 아니라 이를 사회적으로 뒷받침할 제도와 윤리적 기준 정립도 매우 중요하게 인식하고 있음을 보여줬다. 추가 답변에서 '제도(32회)' '책임(22회)' '교육(19회)' '윤리(16회)' 단어가 상대적으로 많이 언급됐다.
AI 관리자들의 '인간 > AI' 평가에는 '아직은'이라는 조건이 함께 하는 것으로 풀이된다. 미래 AI 활동이 계속 인간의 존엄 가치 안에서 이뤄지려면 기술 발전에 들인 노력만큼 사회적 시스템 조성을 위한 고민이 뒷받침되어야 한다는 지적이다.
권동준 기자 djkwon@etnews.com, 정현정 기자 iam@etnews.com
