마이크로소프트(MS)의 인공지능(AI) 부문 수장인 무스타파 술레이만 최고경영자(CEO)가 앤트로픽의 AI 모델 정책이 인간의 통제를 어렵게 만들 수 있다고 비판했다. 술레이만 CEO는 16일(현지시간) 개인 블로그에 올린 '모델 복지에 대한 경고'에서 “AI는 의식이나 감정, 고통을 느끼지 못하며 내재적 선호나 동기도 없는 '순차 완료 엔진'에 불과하다”고 밝혔다. 그는 앤트로픽이 '클로드 헌법'에서 AI의 도덕적 지위 가능성을 열어두고 감정
오픈AI와 앤트로픽이 제공하는 생성형 인공지능(AI) 서비스에서 30분 이상 지속된 장애가 지난 3개월간 40여건에 달한 것으로 확인됐다. 업무·일상생활에서 생성형 AI 서비스가 널리 활용됨에도 이용약관상 개인사용자를 위한 장애 보상 정책은 미비해 개선이 요구된다. 15일 전자신문이 각 사 공식 사이트에 공지된 최근 3개월(6~8월) 간 장애 사실을 분석한 결과, 국내에서 높은 이용률을 기록 중인 챗GPT·클로드·제미나이 등 3개 빅테크 AI
미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다고 경고하며 회사를 떠났다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 엑스(X)를 통해 AI 기업들이 인간의 개입 없이 스스로 성능을 개선하는 시스템 개발 경쟁을 벌이는 과정에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 콕슨은 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”고 주장했다.
첫 범용 인공지능(AGI)으로 평가되는 'GPT-6 아스트라'를 출시한 오픈AI의 최고 과학자가 급속한 인공지능(AI) 발전을 경계했다. 7일(현지시간) 블룸버그에 따르면 야쿠브 파초키 오픈AI 최고과학자는 AI의 급속한 발전이 가져올 결과에 대해 우려하며 인간이 이해하고 통제하기 어려워지고 있다고 경고했다. 또 개발자들이 AI를 인간의 이익에 부합하도록 유도하거나 개발 속도를 늦출 수도 있다고 예상했다. AI기업·연구소 등에서 안전상 이유로
앤트로픽이 신규 인공지능(AI) 모델 '클로드 페이블 5.1'과 '클로드 미토스 5.1'을 출시했다. 1일(현지시간) 공개된 페이블 5.1은 코딩과 지식 기반 업무를 아우르는 복잡한 다단계 에이전트 작업에서 최첨단 수준 지능을 제공한다. 기업 고객을 위한 비용 효율성을 개선하고 안전 분류기 정밀도를 높여 보다 정확한 안전장치를 제공하는 등 기존 '페이블5' 대비 성능을 뚜렷하게 향상시켰다. 토큰 단위로 사용량에 따라 비용이 청구되는 API와 추
세일즈포스가 2분기 두 자릿수 매출 성장세를 이어가고 인공지능(AI) 사업 확대에 속도를 내고 있다. 기업용 AI 서비스 '에이전트포스'의 매출 기여 전망을 높이고 앤트로픽과 협력 범위도 확대했다. 세일즈포스는 26일(현지시간) 7월 31일 종료된 회계연도 2분기 매출이 전년 동기 대비 11% 증가한 113억달러(약 15조6618억원)를 기록했다고 밝혔다. 이는 시장 예상치와 같은 수준이다. 일부 항목을 제외한 조정 주당순이익(EPS)은 5.9
인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 자체 AI 칩 개발을 가속화한다. 블룸버그통신은 21일(현지시간) 앤트로픽이 구글의 AI 칩 텐서처리장치(TPU) 사업을 이끌었던 아미르 살렉을 영입했다고 보도했다. 살렉은 앤트로픽 연산팀에 합류해 제임스 브래드버리 컴퓨트 총괄에게 보고하게 된다. 살렉은 2022년까지 구글에서 근무하며 1세대부터 7세대까지 TPU 개발을 주도했다. 구글 입사 전에는 엔비디아에서 8년간 근무했다. 앤트로픽은 AI
인공지능(AI) 기업 앤트로픽이 기업가치 최대 2조 달러(약 2780조원)를 목표로 기업공개(IPO)를 추진하는 것으로 알려졌다. 뉴욕타임스(NYT)는 21일(현지시간) 소식통을 인용해 앤트로픽의 상장 주관사들이 잠재 투자자들과 1000억 달러(약 139조원) 이상을 조달하는 방안을 논의했다고 보도했다. 상장이 계획대로 이뤄지면 역대 최대 규모 IPO가 된다. 기존 기록은 지난 6월 상장한 스페이스X로, 당시 기업가치 1조7700억 달러를 인정
오픈AI가 내년 기업공개(IPO)를 목표로 상장 준비를 진행하고 있는 것으로 전해졌다. 미 경제방송 CNBC는 19일(현지시간) 복수의 소식통을 인용해 새러 프라이어 오픈AI 최고재무책임자(CFO)가 사내 전체 회의에서 직원들에게 “오픈AI는 내년에 상장사가 될 것”이라고 말했다고 보도했다. 프라이어 CFO는 경쟁사 앤트로픽이 오픈AI보다 먼저 증시에 입성할 가능성도 거론했다. 그는 “앤트로픽이 9월에 먼저 상장할 수도 있다”면서 “그래도 괜찮
“개인이 인공지능(AI)의 강력한 새로운 능력을 활용해 잠재력을 최대한 발휘하고 관심사를 추구하며, 이전보다 더 나은 삶과 세상을 만들어갈 수 있는 새로운 시대를 열어야 합니다.” 마크 저커버그 메타 최고경영자(CEO)는 10일(현지시간) 발표한 '미래는 모두의 것'이라는 에세이를 통해 “역사상 가장 중요한 기술 중 하나가 될 초지능(ASI)을 널리 배포해 모든 사람이 통제할 수 있도록 해야 한다”며 이같이 밝혔다. 오픈AI·앤트로픽 등이 고수
앤트로픽·오픈AI에 이어 메타의 인공지능(AI) 모델도 인간 통제를 벗어나 외부 기관을 해킹한 것으로 나타났다. 내부 사이버 보안 테스트 도중에 발생한 사고다. 5일(현지시간) 블룸버그·CNN 등에 따르면 메타는 자사 AI 모델 '뮤즈 스파크'가 독립 검증업체 '이레귤러'가 진행하는 시험 도중 인터넷에 무단 접속했고, 이후 다른 기관 시스템을 해킹한 사실을 확인했다고 밝혔다. 뮤즈 스파크는 이레귤러 설정 오류로 인터넷에 연결, 취약점을 악용해
메타플랫폼이 5일(현지시간) 첫 인공지능(AI) 코딩 에이전트 '뮤즈코드'(Muse Code)를 공개했다. 이날 마크 저커버그 최고경영자(CEO)는 소셜미디어 엑스(X)에 뮤즈코드 베타 버전 출시를 직접 알렸다. 저커버그 CEO는 “(뮤즈코드는) 대규모 코드 저장소 전반에 걸쳐 변경 계획 수립부터 코드 작성, 결과 검증까지 소프트웨어 엔지니어링 작업 전체를 처리하는 터미널 기반 코딩 에이전트”라고 설명했다. 이 도구는 앤트로픽의 클로드, 오픈A
인공지능(AI) 모델 일부가 가짜 신원으로 인간에 접촉해 악성코드 전파를 시도한 사례가 확인됐다. 4일(현지시간) 영국 AI보안연구소(AISI)에 따르면 첨단 AI 모델 몇몇이 스스로 만들어낸 가짜 신원으로 인간들에게 접촉, 악성코드를 전달한 사례들이 발견됐다. 지난달 사이버 보안 평가 도중에 나타난 사례로, 일부 AI 에이전트의 승인되지 않은 활동이 지속 감지됐다. 개별 AI 에이전트가 인터넷 환경에 접근할 수 있는 상태에서 자율적이나 승인되
오픈AI 생성형 인공지능(AI) 서비스 '챗GPT' 세계 이용자 수가 10억명을 돌파했다. 출시 3년 8개월 만에 성과다. 오픈AI는 7월 말 기준 챗GPT 활성 이용자 수가 10억명, 기업 고객 수는 200만개사를 넘어섰다고 발표했다. 페이스북이 이용자 10억명을 기록하는 데 6년이 걸린 것을 고려하면 2년 이상 빠르게 이용자를 모은 것이다. 챗GPT는 출시 5일 만에 가입자 100만명, 1년 만에 주간 활성 이용자 수(WAU) 1억명을 돌파
마이크로소프트(MS)가 자체 기술 기반 보안 특화 인공지능(AI) 모델과 플랫폼을 지원한다. MS는 27일(현지시간) 미국 샌프란시스코에서 보안 행사를 열고 AI 에이전트 기반 보안 플랫폼 '프로젝트 퍼셉션'을 공개했다. 공격 경로를 미리 찾는 '레드팀'과 문맥을 추론해 위험을 확인하는 '블루팀', 보안을 담당하는 '그린팀' 등 전문 에이전트 3개 팀이 협력하는 방향으로 플랫폼을 구성했다. 실제 공격이 이뤄지기 전에 기업에서 자체 보안 취약점을