가드레일(Guardrail)은 도로나 교량 가장자리에 설치해 차량이 위험 구역으로 이탈하는 것을 막는 안전 시설을 인공지능(AI) 분야에 적용한 개념이다. 사고를 완전히 막기보다 차량의 이동 범위를 제한해 피해를 최소화하는 것이 설치 목적인데, 디지털 환경에서도 AI가 허용된 범위를 벗어나지 않도록 통제하는 기술·정책적 안전장치를 의미하는 용어로 쓰이고 있다. 이 개념이 주목 받은 계기는 2023년 엔비디아가 공개한 '네오 가드레일스(NeMo
오픈AI의 인공지능(AI) 에이전트가 챗GPT 개인 이용자의 이미지 수십 장을 외부에 무단 게시한 사실이 확인됐다. AI 에이전트의 의도하지 않은 행동이 잇따라 발견되면서 개발사가 에이전트의 행동을 제대로 통제할 수 있는지를 둘러싼 우려도 커지고 있다. 25일(현지시간) 로이터통신에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부에 게시한 사실을 확인하고 경위를 조사하고 있다. 오픈AI는 유출 이미지가 AI 생성물인
기업의 인공지능(AI) 전환이 기술 도입을 넘어 실제 업무에 적용하는 단계로 접어들고 있다. AI가 직접 업무를 수행하는 에이전트로 진화하면서 기업들은 데이터 보호와 보안, 업무 단위 AI 적용, 비용 절감, 프라이빗 AI 인프라 등 '실행 단계'의 해법을 제시했다. 양정모 아이에이클라우드 상무는 18일 서울 삼성동 웨스틴 파르나스 호텔에서 열린 'CAIO 서밋 2026'에서 “예전에는 좋은 AI 모델을 쓰려면 여러 장의 GPU가 필요했지만,
마이크로소프트(MS)가 개발자의 코딩 작업을 지원하는 한층 똑똑해진 '인공지능(AI) 코딩 에이전트'를 공개했다. MS는 19일(현지시간) 미 워싱턴주 시애틀에서 연례 개발자 행사 '마이크로소프트 빌드 2025'를 열고 이 같은 내용을 발표했다. 사티아 나델라 MS 최
구글의 인공지능(AI) 연구 부문인 구글 딥마인드가 새로운 인공지능(AI) 에이전트 '알파이볼브'(AlphaEvolve)를 공개했다. 구글 딥마인드는 지난 14일(현지시간) 블로그 게시글에서 알파이볼브는 “진화형 코딩 에이전트”라며 “수학과 컴퓨터 과학의 실제 응용에
CES 2025에서 가장 주목받은 기술은 단연 '인공지능(AI) 에이전트'다. 이는 정해진 목표를 달성하기 위해 복수의 AI가 유기적으로 연동하며, 자율적으로 작업을 수행하는 지능형 시스템이다. 시장조사기관 가트너는 AI 에이전트 시장이 지난해 51억달러에서 2030년
오픈AI가 2022년 말 생성형 인공지능(AI) 서비스 '챗GPT'를 출시하며 AI 챗봇 대중화 시대를 열었다면, 내년에는 더 복잡한 작업을 자동으로 처리해주는 'AI 에이전트'로 AI와 인간 협업이 본격화될 것으로 기대된다. AI 에이전트는 사용자가 요청한 정보를 제