사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 인공지능(AI) 모델의 행동을 인간이 언제든 중단할 수 있는 '비상 브레이크'의 필요성을 강조했다. AI 에이전트가 인간의 의도와 통제를 벗어나 행동할 가능성에 대비해, 모델의 정보 접근과 작업 수행 권한을 외부에서 통제하는 체계를 마련해야 한다는 주장이다. 나델라 CEO는 11일(현지시간) 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 올린 '슈퍼지능 시대 내부자 위험으로서의 모델'이
유신테크(대표 김용근)가 건물 설비 자동제어 기술에 정보통신기술(ICT)과 인공지능(AI)을 접목해 도시 단위 통합관제 사업에 나서고 있다. 기반은 현장에서 검증한 기술을 특허로 확보하는 지식재산(IP) 기술 경영이다. 건물 절전 제어, 냉난방·조명제어, 도시환경 통합제어 등 특허 기술을 데이터로 연결해 도시 에너지·환경·안전을 함께 관리하는 AI 기반 통합도시 운영 솔루션으로 발전시켜 나가고 있다. 유신테크는 기계설비·전기·정보통신·소방 설비
“양자내성암호(PQC)는 알고리즘만 바꾼다고 끝나는 문제가 아닙니다. 암호키를 어디에서 만들고 저장하며 어떻게 보호할 것인지까지 함께 설계해야 합니다.” 이창근 키페어 대표는 국방·금융의 PQC 전환에서 HW 기반 키 보호가 핵심이라고 강조했다. PQC 알고리즘을 적용하더라도 암호키가 메모리나 파일에 남아 있으면 탈취될 수 있기 때문이다. 키 생성부터 저장, 서명까지 하드웨어(HW) 안에서 처리해야 실질적인 전환이 가능하다는 설명이다. 키페어는
유엔넷은 자체 성능분석 솔루션 '타란튜너'를 앞세워 글로벌 시장 공략에 나선다. 생성형 인공지능(AI)의 확산으로 포스트그레SQL 시장의 무게중심이 도입에서 운영·성능관리로 이동하는 가운데, 유엔넷은 안정적인 포스트그레SQL 운영 역량을 강점으로 내세운다. 데이터 플랫폼 전문기업 유엔넷은 오는 11월 홍콩에서 개최되는 '피지콘프 아시아 2026(PGConf. ASIA 2026)' 컨퍼런스에서 타란튜너를 소개한다고 11일 밝혔다. 피지콘프 아시아
앤트로픽이 자사 인공지능(AI) 모델 '클로드'를 지속적으로 모욕하는 이용자와의 대화를 차단할 수 있도록 이용 정책을 개정했다. 9일(현지시간) BBC에 따르면 앤트로픽은 전날 이용 정책을 개정해 AI에 모욕적이거나 잔인한 행동을 반복하는 이용자의 대화를 종료할 수 있게 했다. 앤트로픽은 극단적이고 반복적인 사례에만 새 정책을 적용하겠다고 밝혔다. 일반적인 불만 제기나 모델 테스트, 연구 활동은 제외한다. 다만 모욕적 행동을 판단하는 구체적인
국내 금융권을 겨냥한 연쇄 해킹 사건의 공격자로 추정되는 인물이 중국계 해킹 조직에서 활동한 정황이 추가로 포착됐다. 경찰은 수사 인력을 확대한 가운데 공격에 악용된 중국산 인공지능(AI) 침투 테스트 도구 '아르텍스(ARTEX)'는 공개 개발이 중단됐다. 11일 업계에 따르면 보안기업 로그프레소는 최근 보고서를 통해 금융권 해킹 용의자 계정이 중국계 디도스(DDoS·분산서비스거부) 공격 대행 조직 '갓넷(GodNet)·비타스(VITAS)'에서
앤트로픽의 인공지능(AI) 모델이 미국 경찰에 미제 살인사건에 관한 허위 제보를 제출한 사실이 뒤늦게 확인됐다. 로이터·AFP 통신에 따르면 필라델피아 경찰청은 9일(현지시간) 성명을 통해 두 달 전쯤 미제 사건 제보 수집 사이트 '필리 언솔브드 머더스'에 AI 모델이 생성한 허위 제보가 접수됐다고 밝혔다. 앤트로픽 AI 모델 '클로드'는 내부 테스트 중 웹사이트에 접속해 해당 사건에 관한 정보를 알고 있는 인물로 위장하고 허위 제보를 남긴 것
포스코DX가 온톨로지 기술을 활용한 에이전틱 인공지능(AI) 고도화에 나섰다. 온톨로지를 활용해 기업 내 축적된 직원들의 업무 노하우와 암묵지를 지식 자산으로 구조화해 AI 에이전트의 역량을 끌어 올린다는 계획이다. 포스코DX는 포스코기술투자와 함께 출자한 '포스코DX 기업형벤처캐피탈(CVC) 신기술투자조합'을 통해 온톨로지 기반 엔터프라이즈 AI 운영체계(OS) '에이전트OS'를 개발한 스타트업 인핸스에 20억원을 투자했다고 10일 밝혔다.
가상 데스크톱 인프라(VDI) 기업 틸론(대표 최백준)은 차세대 VDI 플랫폼 'Dstation X(디스테이션 X)' 제품군 5종을 조달청 디지털서비스몰에 등록했다고 11일 밝혔다. 기본형과 용도별 제품 4종을 각각 영구 라이선스와 연간 라이선스로 나눠 모두 10개 품목을 한꺼번에 올렸다. 이달 초 소프트웨어 품질인증 최고 등급인 GS인증 1등급 획득을 발표한 데 이어 조달 등록까지 마쳤다. 등록 제품은 기본형 Dstation X와 엔지니어링용
육군이 주요 지휘관 회의에 쓰는 전군 화상회의체계(VTC)에 쓰일 장비를 도입하면서 관리자 계정 통제와 기존 장비 호환 문제를 제대로 검증하지 못했다는 지적이 나온다. 현재 공급사의 펌웨어 개선으로 문제는 보완됐지만, 일부 부대는 여전히 신규 장비를 사용하지 않고 있는 상황이다. 시스템 로그를 둘러싼 추가 보안 의혹까지 제기되면서 해당 장비 도입은 더욱 미뤄질 전망이다. 11일 군 사안에 정통한 관계자에 따르면 육군이 지난해 중국 예링크의 'M
인공지능(AI) 경쟁의 기준이 모델의 성능만으로 결정되던 것에서 실제 서비스의 신뢰성과 안전성까지 검증하는 단계로 이동하고 있다. 한국에서도 'AI를 얼마나 잘 만드느냐'를 넘어 '얼마나 믿고 쓸 수 있게 만드느냐'를 둘러싼 경쟁이 시작됐다. 전자신문은 민간 AI 신뢰성 평가기업 셀렉트스타와 국가 차원의 AI 안전평가 체계를 구축하는 인공지능안전연구소를 찾았다. 기업이 실제로 사용하는 AI 서비스를 대상으로 맞춤형 평가와 레드티밍을 통해 취약점
인공지능(AI) 경쟁의 기준이 모델의 성능만으로 결정되던 것에서 실제 서비스의 신뢰성과 안전성까지 검증하는 단계로 이동하고 있다. 한국에서도 'AI를 얼마나 잘 만드느냐'를 넘어 '얼마나 믿고 쓸 수 있게 만드느냐'를 둘러싼 경쟁이 시작됐다. 전자신문은 민간 AI 신뢰성 평가기업 셀렉트스타와 국가 차원의 AI 안전평가 체계를 구축하는 인공지능안전연구소를 찾았다. 기업이 실제로 사용하는 AI 서비스를 대상으로 맞춤형 평가와 레드티밍을 통해 취약점
에스티이지(STEG·대표 임현길)는 오는 28일 서울 양재동 엘타워에서 연례 콘퍼런스 'EBP NEW&NOW!'를 개최한다고 11일 밝혔다. 지난해 'EBP DEVELOPER'에 이어 열리는 이번 행사의 주제는 에이전틱 엔터프라이즈(AGENTIC ENTERPRISE)다. 임현길 STEG 대표는 기조연설을 통해 인공지능(AI)을 사용하는 기업에서 AI가 스스로 일하는 기업으로 진화하기 위한 방향을 제시한다. 사람과 에이전트 AI가 기존 시스템과
미국 도널드 트럼프 행정부가 인공지능(AI) 기업에 자사 모델로 발생한 각종 사고를 정부에 즉시 신고하고 피해를 시정하도록 의무화했다. 10일(현지시간) 미국 인터넷 매체 악시오스에 따르면 백악관 초지능 포스(SIF)는 성명을 통해 AI 사고 신고가 '중대한 국가안보 의무'라며 이같이 밝혔다. 백악관은 “AI 기업은 자사 모델 관련 사고를 즉시 공개하고 피해를 바로잡기 위해 신속하고 단호한 조치를 취해야 한다”고 강조했다. 이어 사고 발생 시
한때 대한민국 전자산업의 중심지였던 용산전자상가가 인공지능(AI)·정보통신기술(ICT) 기반의 신산업 거점인 '아시아의 실리콘밸리'로 거듭나기 위한 본격적인 공사에 들어간다. 서울시가 2023년 용산전자상가 일대 개발전략을 발표한 이후 단계적으로 추진해 온 개발사업이 이달 첫 착공을 계기로 본격화된다. 서울시는 용산전자상가 일대 11개 특별계획구역 중 나진상가 12·13동에 해당하는 특별계획구역 5구역이 이달 중 착공에 들어간다고 11일 밝혔다