인공지능(AI) 초기 연구는 존 매카시와 IBM의 네이선 로체스터가 1956년 다트머스 프로젝트의 일원으로 활동하며 1957년 페셉트론 이론을 개발하면서 격화됐고, 1986년 제프리 힌턴, 로널드 월리엄스 등에 의해 역전파 알고리즘이 개발됐으며, 1997년 IBM 딥블루(Deep Blue) 체스 바둑이 세계 인간 챔피언을 격파 시킴으로써 AI가 국가와 사회의 미래를 결정하는 핵심기술로 떠오르게 됐다. 이제 AI는 단순한 정보통신기술(ICT)의 한 분야가 아니다. 산업·경제·교육·의료·국방·행정·문화 등 A에서 Z 영역을 뛰어넘어 국가 운영 전반을 변화시키는 새로운 국가 인프라가 되고 있다. 세계 각국이 AI 주도권 확보에 국가적 역량을 집중하는 이유도 여기에 있다.
기계가 인간을 대체하는 것이 아니라 인간이 기계를 확장해 IT 코리아에서 AI 코리아로 진화해 더 행복한 대한민국을 만들어 세계 각국이 이를 본받을 수 있도록 해야 한다. 이를 위해 세계 AI 3대 국가 건설을 목표로 민·산·학·연·관이 국가 성장동력으로 육성해 AI산업 대전환의 사명감으로 인재육성, 데이터센터, 반도체, 클라우드 및 소프트웨어(SW) 등에 대한 AI산업 대전환의 투자와 기본법을 마련하고 주도 면밀하게 추진해야 한다. 그러나 여기서 한 가지 중요한 질문을 던져야 한다. “AI 강국이 된다는 것은 무엇을 의미하는가?” “세계 최고 수준의 AI 모델을 만드는 것만으로 충분한가?” “AI 반도체와 데이터센터를 많이 보유하면 필요 충분 조건을 만족하는 AI 강국이라고 할 수 있는가?”
보이지 않는 손이 시장을 지배한다고 아담 스미스(1712~1790)가 1776년 국부론(The wealth of Nation)에서 주장했듯이 당시 중상주의 분위기에서 어느정도 자유를 주고 경쟁하게 하면 시장의 가격과 수요공급이 자원을 자연스럽게 배분한다는 가설이었지만, 한 가지 목표에 매몰돼 우리가 생각하지 못한 미래를 보지 못했다. 인간은 물질적 욕구, 경제적 풍요, 육체적 생존에 치우친 나머지 인간의 존엄과 삶의 의미인 정신적 가치를 간과한 부분이 있었다고 생각한다. 예를 들면 '빵집 주인은 국민을 배부르게 먹이기 위해 빵을 만드는 것이 아니라 빵을 팔아서 돈을 벌겠다'가 목표이고 목적인 것이었다.
진정한 AI 강국은 AI 기술이 뛰어난 나라를 넘어 AI를 국민의 삶을 개선하고 사회적 신뢰를 높이는 방향으로 사용하는 국민의 나라여야한다. 즉, 우리의 목표는 단순한 'AI 퍼스트'가 아니라 '휴먼 퍼스트 AI'가 돼야 한다. OECD국가 중 자살률 1위의 오명을 이제는 AI 코리아로 벗어나야 한다.
AI 시대의 국가경쟁력은 '신뢰'에서 시작돼야 한다. 과거의 국가경쟁력은 산업생산력과 자본, 노동력에 의해 크게 좌우됐으며 인터넷 시대에는 정보통신 인프라와 디지털 역량이 국가 경쟁력의 중요한 기준이 됐다. AI시대에는 여기에 새로운 요소가 추가돼야 한다. 즉, 바로 AI에 대한 사회적 신뢰와 윤리의식이 작동돼야 한다. 마땅한 전제이지만 이를 간과하고 있지 않나 하는 생각이 들 때가 있다. AI가 금융·의료·복지·교육·채용·행정 등 국민의 삶과 직결되는 분야에서 활용될수록 국민은 AI가 공정하고 안전하게 작동하는지를 묻게 될 것이다. △AI가 내린 결정에 오류가 발생하면 누가 책임질 것인가? △AI가 특정 집단을 차별하면 어떻게 할 것인가? △AI가 잘못된 정보를 만들어 내면 어떻게 누가 바로잡을 것인가? △개인정보와 민감한 데이터는 어떻게 보호할 것이며 기계적인 AI에게 다 맡겨도 되는 것일까? △AI가 인간의 일자리를 대체 할 경우 사회적 충격을 어떻게 완화할 것인가?
이러한 문제에 답하지 못한다면 AI 기술이 아무리 뛰어나더라도 국민의 신뢰를 얻기 어렵다. 아담 스미스가 중상주의를 이론으로 뒷받침했던 오류를 AI 3대 강국 실현에서는 범하지 않아야 한다. 따라서, 앞으로 국가의 AI 경쟁력은 단순히 AI 모델의 성능만으로 평가해서는 아니 되며 AI의 성능은 물론 안전성, 신뢰성, 윤리성, 미래에 미치는 영향, 사회적 수용성 등을 함께 고려해야 하고 AI 정책과 전략은 '기술 중심'에서 '인간 중심' '미래 중심'으로 속도감 있게 진행해야 한다.
그동안 우리나라의 과학기술 정책은 기술개발과 산업 경쟁력 확보에 상당한 비중을 두어왔으며 이 또한 매우 중요했다. 그러나 AI는 인간과 같이 생각하는 뇌와 같은 특성을 가지고 있는 기계이기에 과거의 기계와는 다른 차원의 대비가 필요하다. AI는 인간의 의사결정 과정에 직접 개입할 수 있기 때문이다.
따라서 AI 정책도 기술개발 정책만으로 접근해서는 안 되며 앞으로의 국가 AI 정책은 크게 다섯 가지 축을 중심으로 설계할 필요가 있다.
첫째, AI 기술 주권이다. 국가 차원에서 AI 핵심모델, 반도체, 데이터, 클라우드, 운용체계(OS), 데이터베이스(DB), 통신망 등 핵심 기반 기술을 외산 중심에서 메이드 인 코리아로 확보해야 한다.
둘째, AI 전 분야, 전 산업계와 인문계의 경쟁력이다. 대기업뿐만 아니라 중소·벤처기업이 AI를 활용해 산업의 생산성을 높이고 새로운 시장을 창출할 수 있도록 '코리아 유니크'한 관련 SW 제품을 글로벌 시장이 사용하게 해야 한다.
셋째, AI 인재 양성이다. AI 개발자뿐만 아니라 AI를 이해하는 의사·교사·공무원·법률가·기업인·정책전문가 등 전 산업 분야 의 AI 활용 인재가 필요하다. 이를 위해 초중고 및 대학 교육과정을 혁신해 코딩 위주에서 시스템 디자이너를 양성해야 한다.
넷째, AI 안전 의식과 윤리 의식이다. AI가 사회적 신뢰를 얻기 위해서는 개발 단계부터 안전성과 공정성, 투명성을 확보해야 하며 인간의 존엄성, 자유, 공정성, 책임, 안전 등 사회적 피해를 사전·사후를 생각하며 올바르게 행동하는 윤리의식의 행동이 국가 전략 전체를 관통하는 의식이 선행돼야 한다.
다섯째, AI 혜택의 사회적 공유다. AI로 창출된 생산성과 부가가치가 일부 기업이나 계층에만 집중되지 않도록 사회 전체가 그 혜택을 누릴 수 있는 정책과 실효성이다. AI 정책은 기술 정책이면서 동시에 산업정책이고, 교육정책이며, 복지정책이고, 국가 안보 정책이므로 AI정책과 전략은 규제가 아니라 미래 산업의 기반이 되는 것이다.
AI 윤리를 단순한 규제의 관점에서 바라보는 것은 매우 위험하며 AI 윤리는 오히려 AI 산업의 지속 가능한 발전을 위한 기반이 되며 그 예로 자동차 산업을 생각해보면 알 수 있다. 자동차의 안전기준이 자동차 산업의 발전을 방해하는 것이 아니며 안전기준이 있기 때문에 국민이 자동차를 신뢰하고 자동차 산업이 지속적으로 성장할 수 있듯이 AI도 마찬가지로 AI의 안전성과 투명성, 개인정보 보호, 책임성에 대한 기준이 명확해야 국민이 AI를 믿고 사용할 수 있다.
따라서, AI 윤리는 'AI를 하지 못하게 하는 규제'가 아니라 '안전하게 AI를 사용할 수 있게 하는 신뢰 인프라'로 접근해야 한다. 정부는 기업에 일방적으로 규제를 요구하기보다 기업이 자율적으로 AI 윤리를 실천할 수 있도록 AI 윤리 인증, 영향평가, 신뢰성 평가, 윤리 가이드 라인, 교육체계, ISO 27001, ISO42001과 같은 국제 인증 부분도 접목해야 한다. 특히 공공부문에서 사용하는 AI는 민간보다 더 높은 수준의 투명성과 책임성을 요구해야 한다. 누구나 '설명할 수 있는 AI' 가 필요하며 그 예를 들어보면 다음과 같다. △AI 시대에 가장 중요한 원칙 가운데 하나가 누구나 그 내용과 효과를 설명할 수 있어야 한다. △AI가 어떤 결론을 내렸는지뿐만 아니라 왜 그런 결론을 내렸는지 인간이 이해할 수 있어야 하고 △AI가 금융 대출을 거절했다면 그 이유를 설명할 수 있어야 하고 △ AI가 채용 과정에서 지원자를 탈락시켰다면 어떤 기준에 의해 판단했는지 확인할 수 있어야 하며 △ AI가 복지 대상자를 선정한다면 그 결정이 공정했는지 검증할 수 있어야 한다.
특히, 국민의 생명·재산·권리와 관련된 고위험 AI에 대해서는 더욱 엄격한 기준이 필요하며 AI가 인간을 대신해 결정하는 영역이 넓어질수록 설명 가능성, 투명성, 책임성은 선택이 아니라 필수가 돼야 한다.
AI 윤리에서 가장 중요한 문제 중 하나는 책임의 주체이며 AI가 잘못된 판단을 내렸을 때 'AI가 그렇게 판단했다'는 이유로 책임을 피해서는 안된다. AI는 스스로 법적·윤리적 책임을 질 수 있는 주체 즉 형벌의 대상이 아니기 때문이다. 따라서, AI를 개발한 기업, 공급자, 이를 도입한 기관, 최종적으로 의사결정을 내린 사람 사이의 책임 관계를 명확히 해야 한다.
의료·금융·복지·행정·국방 등 고위험 분야에서는 인간의 최종적인 감독과 책임을 보장하는 제도가 필요하고 이를 'Human in the Loop' 즉 중요한 AI 의사결정 과정에 인간이 개입하고 감독하는 원칙으로 정립해야 한다. AI는 판단을 지원할 수 있지만, 인간의 최종 책임까지 대신해서는 안되며 AI 교육의 목표도 달라져야 한다.
AI 시대의 교육정책도 근본적인 변화가 필요하다. 지금까지의 교육은 지식을 얼마나 많이 알고 있는지를 평가하는 데 상당한 비중을 두었지만, AI는 인간보다 훨씬 많은 정보를 기억하고 빠르게 검색할 수 있기 때문에 미래 교육은 암기 중심에서 질문·창의성·비판적 사고·윤리적 판단 중심으로 전환해야 하고 학교에서는 AI를 사용하는 방법뿐 아니라 AI가 만든 결과를 검증하는 방법도 가르쳐야 하고 학생들에게 다음과 같은 질문을 던져야 할 것이다. △“AI가 답했으니 정말 맞는가?” △“이 결과는 누구에게 이익이 되는가?” △“이 AI의 판단은 공정한가?” △“개인의 권리를 침해하지는 않는가?” △“인간이라면 어떤 결정을 내려야 하는가?”
AI 리터러시는 단순히 AI를 사용하는 능력이 아니며 AI를 이해하고, 검증하고, 비판하고, 책임 있게 사용하는 능력이고 AI가 일자리를 없애는 것이 아니라 일의 방식을 바꾸는 것이다. AI가 확산되면서 일자리 문제가 중요한 사회적 과제가 되고 있지만, 새로운 직업도 생겨날 것이고 중요한 것은 AI와 인간이 경쟁하는 구조가 아니라 AI와 인간이 협력하는 구조를 만드는 것이며, 우리는 산업혁명 시대에 자동차와 기계가 육체노동을 대체할 때가 영국에서 마부들이 이를 반대하고 기계를 부수는 러다이트 운동(1812년)이 결국 자동차 산업을 독일·미국 등에 넘겨 준 역사의 현장을 바라보며 이를 반면교사로 삼아 AI 발전의 혜택이 국가와 국민한테 돌아갈 수 있도록 해야 할 것이다.
AI에게 반복적이고 정형화된 업무를 맡기고 인간은 창의성과 공감, 판단과 책임이 필요한 업무에 집중하고 정부는 AI로 인한 산업구조 변화에 대응해 평생교육과 직업전환 교육을 확대하며 특히 중소기업과 소상공인이 AI 전환에서 소외되지 않도록 지원해야 한다. AI 전환은 일부 대기업만의 혁신이 되어서는 안 되며 대한민국 전체의 인공지능전환(AX)으로 발전해야 한다. 'AI 코리아'의 목표는 세계에서 가장 인간적인 AI 국가가 되는 것이며 우리나라가 AI 분야에서 세계적인 경쟁력을 확보하기 위해서는 국가적 비전이 필요하다.
필자는 그 비전을 '이제는 AI 코리아'라는 이름으로 제시하고자 한다. '이제는 AI 코리아'의 목표는 단순히 세계 최고의 AI 기술을 확보하는 데 있지 않고 '세계에서 가장 신뢰받는 AI 국가, AI를 통해 국민의 삶이 가장 행복해지는 국가'를 만드는 것이 궁극적인 목표가 되어야 한다.
이를 위해 정부·기업·대학·연구기관·시민사회가 함께 참여하는 AI 거버넌스가 반드시 필요하며 정부는 국가전략과 법·제도를 만들고, 기업은 기술과 서비스를 개발하며, 대학은 인재를 양성하고, 연구기관은 미래기술을 연구하고, 시민사회는 AI의 사회적 영향을 감시하고 의견을 제시해야 한다. AI는 어느 한 기관이나 정부만의 문제가 아니다. 국가 전체가 함께 준비해야 할 미래의 준비다.
이제 '더 똑똑한 AI'에서 '더 인간적인 AI'로 'AI는 앞으로 더욱 똑똑해 질 것이다'라는 믿음을 가지고 더 많은 데이터를 학습하고, 더 창의적인 LLM과 분야별 AI 솔루션을 개발해야 한다. 지금까지 밝히지 못한 루게릭병, 파킨슨병 같은 난치병도 'AI+양자+바이오'를 통해 극복해 인간사회에 행복을 안겨줘야 한다.
우리가 추구해야 할 AI의 목표가 단순히 '더 똑똑한 AI'에 머물러서는 안 되며 '더 인간적인 AI'를 만들어 내고 △인간의 존엄을 존중하는 AI △차별하지 않는 AI △개인의 자유와 권리를 보호하는 AI △결과에 대해 설명할 수 있는 AI △오류를 인정하고 수정할 수 있는 AI △인간의 판단을 보조하지만 인간의 책임을 대신하지 않는 AI로 발전하기를 기원한다. 이것이 우리가 만들어야 할 미래의 AI다.
조성갑 아메리카AI기술대 아시아 총장 skc1777@naver.com