포스텍(POSTECH)은 김광인 인공지능대학원·전자전기공학과 교수 연구팀이 원본 데이터를 열어보지 않고도 문제 있는 데이터를 콕 집어내, 적은 비용으로 인공지능(AI) 성능을 끌어올리는 기술을 개발했다고 6일 밝혔다. 이번 연구는 최근 AI 분야 국제학회 중 하나인 'AAAI 2026(The Fortieth AAAI Conference on Artificial Intelligence)'에 메인 테크니컬 트랙 논문으로 게재됐다.
AI를 잘 학습시키려면 데이터마다 '고양이', '강아지'라고 알려주는 '라벨(label)'이 필요하다. 라벨이 잘못 붙으면 AI는 엉뚱한 규칙을 배워 성능이 떨어진다. 하지만 수많은 라벨을 사람이 일일이 확인하기엔 시간과 비용이 많이 들어, 고쳤을 때 효과가 클 데이터만 골라 재검수하는 '능동 오류 정정(Active Error Correction)' 기술이 최근 주목받고 있다.
문제는 요즘처럼 데이터를 한곳에 모을 수 없는 환경이다. 병원이나 기업, 개인 기기는 개인정보 때문에 데이터를 밖으로 내보내지 못한 채 각자 가진 상태로 AI 학습에 참여한다.
연구팀은 데이터를 직접 보는 대신, 이 요약본 속 '가중치 기울기'라는 신호에 주목했다. 이 기울기는 각 데이터가 AI를 어느 방향으로 바꾸려 하는지 보여주는 지문 같은 정보로, 서버는 이것만 비교해도 원본 없이 학습 패턴을 읽어낼 수 있다.
연구팀은 여기에 '가우시안 프로세스'라는 통계 기법을 적용한 '가우시안 프로세스 능동 오류 정정(GPAEC) 알고리즘'을 설계했다. 다른 데이터들과 견주어 봤을 때 유독 동떨어진 곳을 '수상한 데이터'로 지목하는 것이다. 반 전체가 비슷한 답을 냈는데 혼자만 엉뚱한 방향으로 간 학생의 답안부터 확인하는 것과 같은 이치다. 실제로 이 '튀는 정도'와 라벨 오류 확률의 상관관계는 0.86으로 잘 들어맞았다.
GPAEC 알고리즘은 비슷한 오류끼리 겹쳐 뽑지 않도록 서로 다른 유형을 고르게 선택하고, 각 기관이 보고한 성적이 실제 기울기와 어긋나면, 믿기 어려운 보고로 판단해 걸러낸다.
이 기술의 가치는 '데이터를 보지 않고 문제를 찾는다'라는 데 있다. 병원들이 환자 정보를 공유하지 않고도 함께 진단 AI를 키우거나, 개인 정보 유출 없이 스마트폰으로 AI를 학습시키는 사례가 늘수록 이 기술의 활용 가치는 더욱 커질 전망이다. 개인정보는 지키면서 더 믿을 수 있는 AI를 만드는 열쇠가 될 것으로 기대된다.
김광인 교수는 “개인정보 보호가 더욱 중요해지는 의료·금융 등 여러 분야에서 신뢰 가능한 AI를 만드는 데 보탬이 되길 바란다”라고 전했다.
한편, 이 연구는 과학기술정보통신부 재원의 한국연구재단 사업과 정보통신기획평가원의 지원을 받아 수행됐다.
포항=정재훈 기자 jhoon@etnews.com
