자율규제는 독점사업의 민영화나 통신·금융·제약 등 인허가 사업 또는 플랫폼 시장의 독과점 및 부작용을 행정지도와 더불어 사후 보완하는 수단에서 출발했다. 자율규제는 인공지능 대전환(AX) 시대에도 그 역할을 다할 수 있을까.
법률은 느리고 기술은 빠르다. 인공지능(AI)이라면 더욱 그렇다. 정부규제는 입법예고, 심의, 국회의결 등 법령 제·개정에 시간이 걸릴 뿐 아니라 민간 대비 전문성 부족으로 기술발전을 따라잡지 못하는 구조적 지체(Regulatory Lag)에 빠지기 쉽다. 게다가 전통적인 포지티브 규제시스템은 법률에 명시적 근거 없는 AI산업의 진입과 혁신을 막는 장벽이 된다. 선의로 만든 규제조차 산업의 혁신을 막는 족쇄일 수 있다. 조직과 인력의 한계로 인해 산업 진흥과 규제 사이에서 균형을 잃을 수도 있다. AI는 적용분야와 활용방식에 따라 위험의 성격과 강도가 크게 달라 과잉규제나 규제공백을 동시에 초래할 수 있다. 자율규제의 가치는 규제를 덜어내는 데 있지 않다. 법률이 현장에서 놓친 위험을 신속하게 발견·통제해 혁신과 안전을 모두 확보하는 데 있다. AX에 낡은 자율규제 개념을 복사해 붙여선 답이 없는 이유다.
AX 자율규제는 시장속도에 맞추되 공적책임을 담보하는 '공동규제형 거버넌스'여야 한다. 역할은 명확하다. 정부는 설계자로서 기준을 만들어 이행을 감독하고, 자율규제기구는 현장 변화를 포착해 준수 여부를 점검하며, 기업은 선수로서 혁신과 윤리적 책임을 져야 한다. 위험기반 접근은 필수다. 생명·안전, 기본권에 직결된 고위험 영역은 사전 위험평가와 엄격한 잣대로 다루고, 저위험 영역은 자율모니터링과 사후점검에 맡겨 혁신을 뒷받침한다. 위험기반 접근이 권리기반 접근을 막아서도 안 된다. AI 수용자인 국민이 설명 요구권, 이의 제기권, 피해구제권 등 권리를 자율규제 안에서도 효과를 볼 수 있도록 뒷받침해야 한다. 물론 자율규제 탄력성은 보장하되, 성과인센티브와 실패책임까지 자율에 맡겨선 안 된다.
AX자율규제에 대한 위협요인도 있다. 실효성 상실과 규제 포획(Regulatory Capture)이다. 첫째, 'AI 종말론'과 '속도조절론'을 둘러싼 딜레마다. AI가 통제를 벗어나 인류를 위협할 것이라는 경고는 가볍게 볼 수 없다. 그러나 무분별한 감속 주장은 후발 국가의 추격기회를 제거하고 경쟁자의 진입을 막는 '사다리 걷어차기'가 될 수 있다. 선두가 주춤한다고 추격자가 무조건 질주하는 것도 답은 아니다. 핵심은 막연한 공포나 속도경쟁이 아니라 위험의 실증적 평가와 그에 맞는 규제의 비례성이다. 둘째, 자율규제기구에 글로벌 빅테크 기업이 참여하지 않거나 본사의 이해관계만 대변하면 성과를 내기 어렵다. 셋째, 자칫하면 자율규제가 기업에 대한 면죄부로 전락해 최소한의 안전장치인 정부규제마저 무력화될 수 있다. 자율규제는 기업의 자발적 약속만으로 작동하지 않는다. 독립적인 평가와 투명한 정보공개, 위반에 대한 제재, 피해 구제절차가 뒷받침되지 않으면 자율성은 책임회피수단이 된다.
AX자율규제의 성공조건은 분명하다. 기업은 기술만능주의를 경계하며 투명성과 책무성을 체질화해 'AI업의 본질'과 '핵심가치'를 정립하고 도덕적 정체성을 확립해야 한다. 정부는 정책목표와 개입기준을 명확히 하고 자율준수에 공공조달 가점, 심사 간소화 등 인센티브를, 위반에 과징금, 사업기회 박탈 등 고강도 제재가 필요하다. 자율규제기구에 독립적인 평가와 이해충돌방지 장치를 갖추고 기준위반이나 피해 발생에 정부개입 절차를 마련해야 한다. 투자인센티브, 외교통상 노력을 통해 글로벌 빅테크의 실질적 참여와 자율준수를 끌어내야 한다. 갈등을 조정하고 분쟁을 해결할 독립적·전문적 거버넌스도 중요하다.
마지막 열쇠는 AI생태계의 주인인 국민이다. 정부와 기업을 견제·감시하고 자율규제기구의 의사결정에 실질적으로 관여해야 한다. 그래야 AI생태계에서 기술발전과 공적가치가 균형을 이루고, 대한민국은 비로소 지속 가능한 글로벌 AI 강국으로 도약한다.
이상직 법무법인 태평양 변호사('창의는 어떻게 혁신이 되는가' 저자)