야놀자가 'AI 에브리웨어' 전략에 본격 드라이브를 건 가운데, 앤트로픽(Anthropic) 공동창업자 벤자민 맨(Benjamin Mann)을 초청해 책임있는 AI 확장 방안을 논의했다. 야놀자는 AI가 전문가를 넘어 선 모든 사람의 도구라는 뜻의 'AI 에브리웨어' 문화를 강조하고 있다.
6일 야놀자는 판교에 위치한 놀유니버스 사옥에서 전사 해커톤인 '텐엑스톤(TenXthon)'을 개최, AI를 조직 전반의 문화로 확산하기 위한 장을 마련했다.
앤트로픽은 챗GPT의 경쟁 모델로 불리는 거대언어모델(LLM) 클로드(Claude)를 개발한 회사로, 맨은 5명의 공동 창업자 중 한명이다. 맨 창업자는 이번 해커톤에서 김종윤 야놀자 클라우드 대표와 대담을 진행했다. 이 자리에서 맨 창업자는 AI의 기회와 위험, 책임 있는 확장 원칙, 버티컬 AI 협력 방안 등에 대한 통찰을 공유했다.
맨 창업자는 “AI는 더 이상 일부 전문가의 전유물이 아니라, 모든 사람이 활용할 수 있는 실질적 도구가 돼야 한다”며 “야놀자의 해커톤처럼 다양한 직군이 AI 프로젝트에 직접 참여하는 것은 AI 혁신이 '기술의 영역'을 넘어 '조직 전체의 문화'로 확장되는 중요한 신호”라고 강조했다.
대담에서는 김 대표가 AI의 가장 큰 기회와 시급한 위험에 대해 질문했다.
이에 맨 창업자는 “AI가 잘 전환되면 건강·수명 연장 등 풍요의 삶을 가능케 할 것”이라며 “반대로 초지능으로의 이행이 잘못되면 존재론적 위험이 현실이 된다”고 짚었다. 그러면서 그는 앤트로픽은 업계가 안전에 집중하도록 '책임 있는 확장 정책(Responsible Scaling Policy)'을 가장 먼저 제시했고 안전 프레임워크와 컴플라이언스를 갖추는 데 주력하고 있다고 강조했다.
이어 김 대표는 AI가 인간을 대체할 수 있는 가능성 속, AI와 인간 역할의 경계와 거버넌스에 대한 견해도 물었다.
맨 창업자는 “단기적으로는 대체보다 '증강과 확장'에 주목하는 것이 더 중요하다”면서도 “초지능 시대에는 인간이 수동적 콘텐츠 소비에 빠지지 않도록 AI가 돕고, 사회적으로는 기본소득 같은 정책적 장치도 고민해야 한다”고 말했다.
이어 “명확한 경계 설정은 한 기업이 정할 문제가 아니라 사회적 합의의 문제”라며 “한국 AI안전연구소와도 협력 중으로, 한국의 윤리 원칙과 가치가 모델에 반영되도록 논의하고 있다”고 덧붙였다.
야놀자 버티컬 AI와의 협업 방향에 대한 논의도 진행됐다. 맨은 “여행 산업은 '전문가 기반'에서 '셀프 서비스'로 이동했다”며 “이제는 AI가 다양한 참여자(항공·숙박·공급자)의 효율을 높이고, 사용자에게는 자동화된 '맞춤 여정'을 빠르게 제안하는 단계로 진화할 것”이라고 답했다.
아울러 그는 “모델 콘텍스트 프로토콜(MCP)을 통해 여러 데이터 소스를 AI에 손쉽게 연결할 수 있다”며 “이 기술은 실제 개발자가 아니더라도 필요한 정보를 AI가 안전하게 불러와 실무에 활용할 수 있게 돕는다”고 설명했다.
이어 “클로드 스킬(Claude Skills)을 활용하면 문서나 보고서 작성 같은 반복 업무를 자동화할 수 있고, 브랜드 맞춤형 결과물도 간편하게 생성할 수 있다”며 “AI 도입의 진입 장벽을 낮추고 실무 활용 폭을 넓히는 것이 목표”라고 덧붙였다.
안전성과 신뢰성을 차별화하는 방안에 대한 질문에는, 맨이 AI 모델이 직면한 보안 위협과 이에 대한 대응 과제를 짚었다.
맨 창업자는 “내년에는 안전성에서 모델 간 격차가 커질 것”이라고 전망했다. 그러면서 그는 “프롬프트 인젝션(몰래 잘못된 지시를 심어 넣는 공격) 등 모델을 오염시키는 공격에 더 강건해져야 한다”며 “업무 문맥 전체가 모델에 연결되는 만큼 격리와 보안 요구 수준을 단계적으로 높여야 한다”고 강조했다.
또 그는 “AI 안전은 기술의 경쟁이 아니라 '신뢰의 경쟁'”이라며 “앤트로픽은 헌법적 AI(Constitutional AI) 원칙을 통해 모델이 인간의 가치와 윤리를 내재화할 수 있도록 지속적으로 개선하고 있다”고 덧붙였다.
한편 맨은 해커톤에 참여한 전원에게 앤트로픽 API 크레딧 500달러를 제공했다. 그는 “여러분이 무엇을 만들지 기대된다”고 말했다. 야놀자는 이번 해커톤을 통해 생성형 AI와 에이전트 기술을 현업 문제에 접목, 실제 서비스로 이어질 프로토타입을 도출할 계획이다.
김 대표는 “AI는 '모든 사람의 도구'라는 인식 아래, 그룹 차원의 'AI 에브리웨어'를 속도감 있게 구현하겠다”고 말했다.
손지혜 기자 jh@etnews.com
