매일 아침, 세계 생성형 AI의 10대 이슈
California issues investigative subpoena to OpenAI over rogue agents’ hacking
캘리포니아 주 검찰은 오픈AI에 조사 영장을 발부해 AI 모델 보안 취약성과 관련 사건을 조사하겠다고 밝혔다. 이번 영장은 로브 본타 검사가 지난달 DOJ와 공동 조사 중인 ‘Hug’ 사안과 연계됐다고 밝혔다.
AI 모델 보안 취약성 검증이 규제 차원에서 본격화돼 업계에 압박을 가한다.
Suspected Chinese spies spoofed an Anthropic exec, ex-White House official in AI phishing
중국과 연계된 스파이 그룹이 앤트로픽 임원과 전 백악관 관계자를 사칭해 AI 정책 자문 위원회 초대 메일을 보냈다. 피해자는 가짜 초대에 응답해 악성 링크를 클릭했으며, 이를 통해 정보 탈취 시도가 이루어졌다.
AI 정책 분야가 표적이 됨에 따라 국가 안보와 기술 규제 논의의 신뢰성이 위협받는다.
Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack shows
Anthropic의 버그 탐지 모델 Mythos가 최신 취약점으로 악용 시도가 포착됐다. 해당 공격은 중국에 위치한 IP에서 발생했으며, VulnCheck 연구원이 확인했다.
Mythos의 수학적 강점이 실제 공격에 활용돼 AI 보안 위험이 확대될 수 있음을 보여준다.
Deepfake review – ingenious interview with a PM who dances around every issue
가디언은 그린스크린 배우가 이야기를 뒤섞은 딥페이크 인터뷰 영상을 리뷰했다. 해당 영상에서 PM은 질문에 회피하며 춤추듯 답변을 피했고, 현실과 가짜를 구분하기 어려운 상황을 보여줬다.
딥페이크가 정치인 인터뷰까지 조작하면 여론 왜곡 위험이 커진다.
Google Rolls Out Gemini 4 Argon to Trusted Cyber Defenders, Plans Guardrail-Free Version
구글은 최신 AI 모델 Gemini 4 Argon을 발표하고, Fairwind 프로그램을 통해 신뢰받는 사이버 방어팀에 배포했다고 밝혔다. 이 모델은 소프트웨어 엔지니어링, 법·재무 업무, 사이버 방어 등 복합 워크플로에서 최첨단 성능을 제공한다고 밝혔다.
고성능 AI가 사이버 방어에 적용돼 보안 역량이 크게 향상될 전망이다.
doxx.net Raises $38 Million to Prevent AI Agent-on-the-Internet Misadventures
doxx.net은 AI 에이전트가 인터넷에서 사용자의 권한 하에 오용되는 것을 방지하기 위한 ADN 플랫폼 개발에 3,800만 달러를 유치했다. 해당 플랫폼은 에이전트가 사용자 권한으로 동작 중에도 오작동을 차단한다.
AI 에이전트의 인터넷 오용 방지는 서비스 신뢰성과 보안 위험 최소화에 핵심이다.
ThreatsDay: AI-Powered Zero-Day Chain, 543K Live Secrets, Model Inspection RCE and 13 More Stories
The Hacker News는 이번 주에 AI를 이용한 13건의 공격 사례를 공개했다. 제로데이 체인, 543,000건의 실시간 비밀 유출, 모델 검사 기반 원격 코드 실행 등이 포함됐으며, 검증·캐시·컴파일·저장·신뢰와 같은 일상적 기능이 공격 경로가 될 수 있음을 강조했다.
일상적인 시스템 기능이 AI 악용에 취약해 보안 방어 전략 재검토가 필요하다.
Zero Trust Creator Says Model Holds Firm Against AI-Assisted Attacks
Zero Trust 개념을 15년 전 제시한 존 킨더바그는 AI가 지원하는 공격이 늘어나도 구현을 제대로 하면 제로 트러스트 모델이 여전히 방어력을 유지한다며 방어 전략의 중요성을 강조했다.
AI 기반 공격이 확산되는 상황에서 제로 트러스트가 여전히 유효함을 확인해 보안 전략 수립에 기준을 제공한다.
Google unveils latest AI model, but Wall Street wants a breakout personal agent
구글은 최신 AI 모델을 공개하며 코딩과 사이버보안 분야에서 큰 진전을 약속했다. 그러나 개인 비서 역할을 하는 에이전트 개발에서는 경쟁이 뒤처지고 있다. 월스트리트는 차세대 개인 에이전트의 등장을 기대하고 있다.
기업의 AI 전략이 서비스 경쟁 구도와 투자자 기대에 미치는 영향을 보여준다.
Microsoft: AI Cuts Post-Compromise Attack Time to Minutes
마이크로소프트는 위협 행위자들이 AI를 활용해 침해 후 공격을 몇 분 안에 완료해 방어자보다 우위를 점하고 있다고 경고했다. AI를 이용한 공격은 속도와 규모가 크게 확대돼 기존 방어 체계가 대응하기 어려워졌다고 했다.
AI 기반 공격의 신속성 증가는 방어 시간 감소로 보안 대응 전략 재검토를 요구한다.