“신뢰받는 인공지능(AI)이란 투명하고 설명 가능하며 언제든지 확인·검증이 가능해야한다. 편견이 없어야하며 비즈니스와 윤리를 잘 이해하는 AI 시스템이어야 이용자로부터 신뢰를 받을 수 있다.”
세뜨 도브린 IBM 최고데이터책임자(CDO)는 23일 온라인 간담회에서 신뢰할 수 있는 AI 구축을 위해 이 같은 점을 유의해야한다고 밝혔다.
도브린 CDO는 IBM의 AI 대표 서비스 '왓슨'을 비롯해 AI와 클라우드 전환 비즈니스를 총괄한다.
'신뢰할 수 있는 AI'라는 기조아래 AI에 사용되는 데이터의 신뢰성과 투명성, 공정성을 높이데 초점을 맞춘다.
그는 “AI란 인간을 대체하기 위한 것이 아니라 인간 지능을 보완하기 위한 기술이라는 것이 IBM의 원칙”이라면서 “AI 시스템을 포함한 신기술을 반드시 투명해야하고 설명 가능해야 한다”고 강조했다.
IBM은 신뢰받는 AI를 구축하기 위해 지속 노력했다. IBM은 △공정성(AI가 가진 편향성 개선) △설명 가능성(AI가 내린 결정 사항을 설명 가능하게 함) △보안(AI가 발견한 정보와 여기에 사용된 데이터 보호) △책임(AI가 내린 결정과 여기에 사용된 데이터·모델을 추적 가능) 등을 주요 해결 사안으로 꼽는다.
도브린 CDO는 “고위급 임원도 AI 기술을 전체적으로 이해하고 책임 있는 AI가 구현되도록 노력한다”면서 “고객에게 필요한 소프트웨어(SW)를 제공하면서 관련 AI 기술을 오픈소스로 커뮤니티에 제공하는 것도 업계 리더의 책임 중 하나”라고 말했다.
이어 “여러 형태의 편견은 언제 어디서나 존재하기 때문에 100% 편견없는 AI를 개발하는 것은 어렵다”면서도 “편견을 감시하고 편견 요소를 발견했을 때 이를 수정해 편견을 줄이는 노력이 이어져야 신뢰할 만한 AI가 구축될 것”이라고 덧붙였다.
김지선기자 river@etnews.com
