AI 데이터·솔루션 전문기업 AIWORKX(에이아이웍스, 대표 윤석원)는 과학기술정보통신부가 입법예고한「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」시행령 일부개정령안에 대한 의견서를 제출했다고 밝혔다. 의견서는 시행령 개정안 △제2조의2 △제15조 제4항·제5항 △제15조의2 등 세 개 조항을 대상으로, EU·미국·영국의 최신 입법례와 국내외 시민사회 논의를 교차 분석한 8개 쟁점과 보완 제안을 담았다.
AIWORKX(에이아이웍스)가 정부에 낸 의견서의 핵심은, 복지·의료·교육처럼 시민 생활에 직접 영향을 주는 공공 AI 조달 단계에서 지금처럼 'AI 기술 활용 여부의 확인'에 머무는 현행 구조를, '공공 환경에서 안전하게 작동하는지에 대한 신뢰성·영향 평가'로 한 단계 끌어올려야 한다는 것이다. 즉 도입 전에 위험성과 신뢰성을 평가하고 도입 후에도 정기적으로 점검하며 필요시 외부 전문가가 검증하는 절차를 의무화하자는 것으로, 이는 미국·EU·영국 등 글로벌 주요 관할권이 이미 신뢰성 평가 중심 체계로 전환하고 있는 흐름과의 정합성을 확보하고, 공공 AI가 시민에게 미치는 영향을 사전·사후 모두에서 검증할 수 있는 토대를 만들자는 제안이다. 여기에 더해 장애인·고령자 등 AI로 인해 오히려 피해를 볼 수 있는 취약계층 보호 방안도 더 세분화해서 보강하자는 제안을 함께 담았다.
에이아이웍스는 의견서에서 공공 고영향 AI(복지·의료·교육·행정 등 시민 권리에 직접 영향을 미치는 AI)에 대해 △배포 전 신뢰성·위험 평가 결과 제출 △성능 드리프트·편향 변화·오류를 점검하는 배포 후 정기 모니터링 △고위험·고영향 AI에 대한 독립 제3자 평가 또는 자가 평가 보고서 요약본 공개 등 3단 요건을 과기부 고시에 규정할 것을 제안했다.
구체적 평가 프레임워크는 EU AI Act 제9~15조(위험 관리·데이터 거버넌스·기술 문서·투명성·인간 감독·정확성·견고성·보안), NIST AI RMF의 Govern, Map, Measure, Manage 4기능, 싱가포르 AI Verify의 정부 주도 테스팅 툴킷을 참조한 '한국형 공공 고영향 AI 신뢰성 평가 프레임워크'로 설계할 수 있다는 청사진을 함께 제시했다.
의견서는 해외 주요국의 입법례를 비교 분석했다. EU AI Act는 AI를 만드는 '공급자'와 실제 사용하는 '사용자(공공기관 등)'의 책임을 나누고, 공공기관에는 기본권영향평가(FRIA) 실시, 지속적 모니터링, 사고 발생 시 보고 의무를 부과하고 있다. 미국 OMB M-25-22(2025.4)는 비공개 정부 데이터를 상업용 AI 훈련에 쓰지 못하게 금지하고, 데이터를 다른 시스템으로 옮길 수 있는 이식성을 보장하며, 시민 생활에 큰 영향을 미치는 고영향 AI는 도입 전에 레드팀 테스트 등 사전 검증을 거치도록 연방 조달 과정에 필수 조항으로 명시했다. 영국 PPN 017(2025.2)은 입찰부터 납품까지 전 단계에서 AI 활용 여부를 공개하도록 법적 구속력 있는 고시로 규정하고 있다.
이를 근거로 에이아이웍스는 △고영향 AI를 조달·운영하는 공공기관(Deployer)에 사용 목적 공시, 정기 모니터링, 중대 오작동 신고 등 최소 기본의무 부여 △비공개 행정데이터의 외부 AI 훈련 활용 금지, 지식재산권 귀속, 계약 종료 시 데이터 반환 및 삭제, 성능 모니터링, 감사권 보장을 담은 AI 특화 표준계약조항(한국형 MCC-AI) 마련 △개방형 API·표준 데이터 포맷, 데이터·모델 출력 이식성, 전환비용 사전 공시 의무를 포함한 벤더 락인 방지 조항을 시행령 하위 고시·조달지침에 규정할 것을 제안했다.
또한 시행령 제15조 제5항이 위임하는 확인 절차에 대해서는, 확인위원회의 독립성·이해충돌 방지 최소기준(법률·기술·윤리 분야 외부 전문가 과반 참여, 확인 결과 이의신청 절차, 연 1회 이상 감사 결과 공개)을 시행령에 직접 명시할 것을 제안했다.
에이아이웍스는 인공지능취약계층 정의(제2조의2)와 이용비용 지원(제15조의2)에 대해서도 세 가지 구조적 보완을 제안했다. 첫째, 장애인·고령자·기초수급권자 등 사회경제적 취약계층을 '1차 보호 대상'으로, 경력단절여성·구직자 등 AI 역량 격차 계층을 '2차 지원 대상'으로 분리하여 보호 강도를 차별화한다. 둘째, 수요 측 비용 보조에 더해 공급자에게 최소 접근성 요건(시각·청각 장애인 지원, 고령자 친화 UI, 다국어 지원 등)을 부과하고 제15조 공공조달 우선 고려와 연계한다. 셋째, 비용 지원 거부 시 서면 사유 통보·이의신청 절차를 고시에 즉시 명시하고, 중장기적으로 AI 자동결정에 대한 사전 통지권·설명 요구권·인간 재검토권 등 '영향받는 자 권리'를 법률 차원에서 일반 규정화할 것을 제안했다.
이는 EU EAA(2025.6 적용)가 디지털 서비스 공급자에게 EN 301 549(WCAG 2.1 AA) 준수 법적 의무를 부과한 점, 영국 디지털포용 행동계획(DSIT, 2025)이 우선 대상을 5개 집단으로 한정한 점, 앰네스티(2025)가 영국 복지 디지털화에서 행정 재량 과잉이 장애인·취약계층 배제로 이어진 사례를 보고한 점을 함께 참조한 결과다.
윤석원 에이아이웍스 대표는 “자율 AI 에이전트가 공공 영역으로 빠르게 확산되는 시점에, 우리 사회가 '이 AI는 안전하게 작동하는가'라는 질문에 답할 수 있는 평가 체계를 갖추는 일은 더 이상 미룰 수 없는 과제”라며 “정부의 이번 시행령 개정 절차에 글로벌 입법례 비교 자료와 실무 현장의 관찰을 함께 제공하는 것이 AI 신뢰성 평가를 본업으로 하는 기업의 책임”이라고 밝혔다.
윤 대표는 또한 “취약계층 보호를 단순한 지원 대상이 아니라 'AI에 의해 피해를 입을 수 있는 보호 대상'으로 함께 사고하는 것이, 2015년 사회적기업 테스트웍스에서 출발해 AI 데이터·검증·솔루션으로 성장해 온 에이아이웍스가 신뢰(Trust)·실행(Execute)·임팩트(Impact) 가치를 정책 영역에서 실천하는 방식”이라며 “앞으로도 글로벌 표준과 현장 맥락을 잇는 기업 차원의 정책 기여를 지속할 계획”이라고 말했다.
에이아이웍스 윤석원 대표는 현재 국가 AI 전략위원회 데이터분과 위원으로 활동하고 있으며, AI 시스템의 테스트·검증·데이터 구축과 Agentic AI 솔루션 분야에서 AI 에이전트 신뢰성 검증 솔루션 'AgentRigor™(에이전트리거)'를 통해 공공·금융·의료·통신 등 미션 크리티컬 산업의 AI 거버넌스 수요에 대응할 예정이다. 회사는 이번 의견서 제출을 시작으로, 공익 도메인 평가 시나리오 공동 구축, 한국형 공공 AI 신뢰성 평가 프레임워크 설계, AI 기본법 하위 고시·인증 체계 논의 등 AI 거버넌스 정책 형성에 대한 참여를 지속해 나갈 계획이다.
임민지 기자 minzi56@etnews.com