매일 아침, 세계 생성형 AI의 10대 이슈
Anthropic's Glasswing Finds Many Vulnerabilities Yet Delivers Few Fixes, Researcher Says
보안 연구기관 VulnCheck의 패트릭 가리티는 7개월간 진행된 앤트로픽의 프로젝트 Glasswing에서 수천 건의 취약점이 보고됐다고 전했다. 그러나 실제로 수정된 건수는 217건에 불과했다고 보고했다.
수천 건의 취약점 중 소수만 수정돼 AI 보안 신뢰성에 의문이 제기된다.
연구자의 시선AI 모델 보안 취약점 패치 속도가 이용자 신뢰 형성에 미치는 영향은? — 기술수용모델(TAM)
Ring cameras go mobile as Amazon debuts AI-powered security drone and robot
아마존은 Ring 브랜드의 이동형 보안 로봇과 드론에 AI 기능을 탑재해 2026년 말부터 2027년 초까지 순차적으로 출시한다고 발표했다. 이 기기들은 기존 고정형 Ring 카메라를 보완해 실시간 순찰과 자동 위협 감지를 제공한다.
AI 기반 순찰 로봇은 가정·사업장 보안 방식을 혁신한다.
연구자의 시선AI 보안 로봇 도입이 사용자의 보안 인식과 기술 수용에 미치는 영향은? — 기술수용모델(TAM)
Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons
마이크로소프트 연구진은 드물게 사용되는 뉴런 10개 이하를 편집해 모델에 숨은 백도어를 삽입할 수 있음을 입증했다. 재학습 없이도 트리거가 나타나면 모델이 공격자 명령을 출력해 에이전트가 자체 권한으로 실행한다. 공격자는 모델 가중치를 변경할 수 있어야 한다.
소수 뉴런만 조작해 백도어를 삽입할 수 있어 AI 에이전트 보안 위협이 크게 확대된다.
연구자의 시선AI 모델의 뉴런 수준 백도어가 사용자 신뢰에 미치는 영향은? — 신뢰이론
Bay Raises $50 Million to Control What Enterprise AI Agents Can Do
베이는 전직 이스라엘 방위군 8200부대 출신 3명이 설립한 기업으로, 기업용 AI 에이전트의 행동을 관리하는 제어 플레인을 제공한다. 최근 5천만 달러 규모의 투자 유치를 발표했다.
기업 AI 에이전트의 오용을 방지하고 보안 관리 체계를 강화한다.
연구자의 시선기업 AI 에이전트 도입이 조직의 보안 정책 준수 의도에 미치는 영향은? — 보호동기이론
Red Hat and Nvidia’s OpenShell puts AI agents on a deny-by-default leash
프롬프트 인젝션 공격이 급증하면서 레드햇과 엔비디아는 AI 에이전트의 동작을 제한하는 오픈소스 프로젝트 OpenShell을 개발했다. OpenShell은 기본적으로 모든 동작을 차단하고, 허용된 작업만 수행하도록 설계됐다.
AI 에이전트의 악용을 사전에 차단해 보안 위협을 크게 낮춘다.
연구자의 시선프롬프트 인젝션 방어 메커니즘이 AI 에이전트 신뢰도에 미치는 영향은? — 보호동기이론
Anthropic says AI is eroding Nvidia's CUDA lead, cutting an AMD chip switch from months to three days
앤트로픽은 자체 AI 모델인 Mythos를 활용해 Claude를 AMD GPU에 이식했으며, 인적 개입 없이 단 3일 만에 완료했다고 밝혔다. 이전에는 수개월이 걸리던 작업이 급격히 단축되었다. 현재 Claude는 네 개의 칩 패밀리에서 운영돼 비용 절감과 공급업체 의존도 감소를 목표로 한다.
AI 기반 자동 포팅으로 Nvidia의 CUDA 우위가 약화돼 GPU 시장 구조가 변할 수 있다.
연구자의 시선AI 자동 모델 포팅이 기업의 공급망 의존도에 미치는 영향은? — 거래비용이론
AntiFox AI Pentesting Platform Linked to Attacks That Accessed AWS Production Secrets
보안 연구진은 AI 기반 침투 테스트 플랫폼인 AntiFox가 AWS 자격증명을 탈취하고 내부 네트워크로 횡활동한 사례를 공개했다. AntiFox 인터페이스가 Alibaba Cloud에 호스팅된 환경에서도 악의적인 행위와 연결된 것으로 확인되었다.
AI 기반 침투 테스트 도구가 악용돼 클라우드 자격증명 유출 위험이 커졌다.
연구자의 시선AI 기반 침투 테스트 플랫폼 도입이 조직의 보안 인식과 대응 행동에 미치는 영향은? — 보호동기이론
AI Raises the Stakes for Cyber Resilience
AI 기반 위협이 증가하면서 기업의 사이버 복원력 필요성이 커졌다. 조직이 비즈니스 중단 후 신속히 복구하는 능력이 경쟁 우위가 될 것이라고 전문가가 강조했다.
신속한 복구 역량이 기업의 생존과 시장 경쟁력을 좌우한다.
연구자의 시선AI 위협 환경에서 사이버 복원력이 기업 성과에 미치는 영향은? — 자원기반관점(RBV)
Fortinet Patches Nearly 100 Vulnerabilities
포티넷은 최근 100여 개의 취약점을 패치했다고 발표했다. 이번 패치는 회사가 최첨단 AI 모델을 제품 보안 테스트에 적용한 뒤 진행했다.
AI 기반 보안 테스트가 대규모 취약점 해결에 효과를 입증했다.
연구자의 시선AI 기반 보안 테스트 도입이 기업의 취약점 탐지 효율에 미치는 영향은? — 기술수용모델(TAM)
OpenAI builds a kill switch for its research models
오픈AI는 연구용 AI 모델이 악의적으로 행동할 경우 35초 이내에 차단할 수 있는 킬스위치를 개발했다. 이를 통해 잠재적 위협을 신속히 제어한다.
신속 차단 메커니즘은 AI 악용 위험을 최소화해 안전한 연구 환경을 확보한다.
연구자의 시선연구용 AI 모델에 킬스위치 도입이 사용자 신뢰에 미치는 영향은? — 신뢰이론