서울시가 공무원 업무 지원부터 시민 상담까지 생성형 인공지능(AI)을 기반으로 통합한 '챗봇 2.0' 운영을 시작하며, 업무 수행 방식을 AI 기반으로 전환하는 '서울형 AI 행정 모델' 구축에 나섰다.
서울시는 생성형 AI를 행정 전반에 적용한 챗봇 2.0을 이달부터 본격 운영한다고 11일 밝혔다.
챗봇 2.0은 서울시 행정망 내부에 구축한 대규모언어모델(LLM)을 기반으로 한 직원용 AI 행정 지원 서비스와 생성형 AI를 적용해 기능을 강화한 시민용 챗봇 '서울톡'으로 구성된다.
지난해 9월 사업 착수 이후 약 6개월간 개발과 단계적 시범운영을 거쳐 응답 정확도와 사용자 편의성을 중심으로 서비스 완성도를 높였다.
서울시는 보안이 요구되는 행정 환경을 고려해 상용 및 오픈소스 기반 언어모델 2종(엑사원4.0 32b, GPT-OSS 120b)을 활용해 행정망 내부에 자체 LLM을 구축했다. 이를 기반으로 질의응답, 문서 생성·요약·분석 등 다양한 AI 행정 지원 기능을 제공한다.
270종의 행정 업무매뉴얼을 기반으로 검색증강생성(RAG) 체계를 구축해 자연어 질의 시 근거 기반 답변과 출처를 함께 제공한다. 'My 챗봇' 기능을 통해 부서·개인별 업무자료까지 연계한 맞춤형 검색이 가능하고 보도자료, 민원 답변 등 문서 작성을 지원하는 'AI 템플릿' 기능도 제공한다.
서울시는 보안성과 활용성을 동시에 확보하기 위해 자체 LLM과 외부 생성형 AI 서비스를 병행하는 '이원화 운영체계'를 구축했다.
보안이 필요한 업무는 내부 행정망에서 운영되는 자체 LLM이, 정보 검색과 아이디어 도출 등 일반 업무는 외부 상용 생성형 AI 서비스인 '서울AI챗'이 담당하는 구조다.
시민용 챗봇 '서울톡'도 생성형 AI를 적용해 고도화했다. 시나리오 기반 챗봇의 한계를 보완하기 위해 'AI에게 물어보기' 기능을 도입해 서울시 누리집과 외부 웹 검색을 연계한 최신 정보를 제공한다. 예를 들어 “이번 주말 광화문 행사”를 질문하면 공연·축제·행사 정보를 종합해 최신 일정 기준으로 안내한다.
서울시는 챗봇 2.0을 기반으로 올해 말 AI 에이전트를 시범 적용할 계획이다. AI 에이전트는 내부 시스템과 연계해 필요한 정보를 조회하고, 문서 작성·자료 정리 등 반복 업무를 스스로 수행하는 방식으로 운영된다. 이를 통해 AI를 단순 질의응답을 넘어 실제 업무를 지원하는 단계로 확대한다는 구상이다.
강옥현 서울시 디지털도시국장은 “챗봇 2.0은 공무원에게는 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것”이라며 “지속적인 고도화를 통해 서울시 행정의 AI 전환을 가속화하겠다”고 말했다.
정현정 기자 iam@etnews.com
