매일 아침, 세계 생성형 AI의 10대 이슈
US Moves to Bar China’s DeepSeek From Federal Agency Systems
트럼프 행정부는 중국 AI 스타트업 DeepSeek의 제품·서비스 사용이 국가 안보에 위협이 될 수 있다며, 연방 민간 부처의 IT 시스템에서 DeepSeek를 금지했다. 이는 해당 기업의 미국 정부 활용을 차단한 첫 조치다.
중국 AI 기업의 정부 활용 차단은 AI 기술 경쟁과 국가 안보 갈등을 심화시킨다.
연구자의 시선AI 스타트업의 국가 안보 위험 인식이 정부 조달 정책에 미치는 영향은? — 보호동기이론
WhatsApp Help Pages Leaked Hidden Instructions for a Meta Chatbot
WhatsApp 공식 사이트의 도움말 페이지 80여 페이지에 메타 챗봇용 숨겨진 지침이 공개됐다. 해당 문서에는 '말하면 안 되는 내용' 등 챗봇 운영 가이드가 포함돼 있었다. 메타는 이 문제가 시스템 버그로 발생한 실수라고 밝혔다.
챗봇 운영 가이드가 외부에 노출돼 악용 위험이 커지고, AI 투명성·보안 관리에 대한 우려가 증대된다.
연구자의 시선AI 챗봇 운영 지침 유출이 사용자 신뢰 형성에 미치는 영향은? — 신뢰이론
OpenAI Engineer Accused of Spying on Executives Ordered to Remain in Custody
판사는 전 오픈AI 엔지니어인 압둘라흐만 알포잔을 구금 상태로 유지하도록 명령했다. 그는 오픈AI 임원들을 스파이한 혐의를 받고 있다. 사우디아라비아 정부가 그의 석방을 보장하려는 제안을 ‘백지 수표’에 비유했다.
AI 기업 내부 보안과 국제 정치적 압력이 법적 절차에 미치는 영향을 보여준다.
연구자의 시선기업 내부 AI 엔지니어의 스파이 행위가 조직의 정보보호 정책 준수 의도에 미치는 영향은? — 보호동기이론
⚡ Weekly Recap: 98 Zero-Days, Rogue AI Agents, $100M Crypto Theft, 700 Supermarkets Hit and More
이번 주에 98건의 제로데이 취약점이 공개됐으며, 악성 AI 에이전트 활동이 포착되었다. 또한 100억 달러 규모의 암호화폐가 절도당했고, 700여 개 슈퍼마켓이 공격을 받았다. 신뢰된 연결과 하드웨어도 기대만큼 안전하지 않은 것으로 드러났다.
다양한 분야에 걸친 대규모 위협이 기업·소비자 보안을 심각히 위협한다.
연구자의 시선AI 악성 에이전트 도입이 조직 구성원의 보안 인식에 미치는 영향은? — 보호동기이론
A hacker broke into John Deere and SharkNinja with an army of AI agents
AI 보안 업체 Norforge는 해커가 AI 에이전트 무리를 활용해 John Deere와 SharkNinja를 포함한 100여 개 웹사이트에 침입했다고 밝혔으며, 이 에이전트들은 대부분 자동으로 동작했다. 공격자는 수천 달러만 투자해 대규모 침입을 실현했다.
AI 에이전트의 자동화된 악용이 저비용으로 대규모 침입을 가능하게 하며 보안 방어의 새로운 위협을 제시한다.
연구자의 시선AI 에이전트 기반 공격이 조직의 보안 인식 수준에 미치는 영향은? — 보호동기이론
Hackers hit AI coding tool OpenCode, running up charges on users’ AI accounts
OpenCode 온라인 플랫폼 일부가 해킹당해 사용자들의 OpenAI·Anthropic·Google API 키가 유출됐다. 해커는 탈취한 키를 이용해 AI 서비스 요청을 생성해 사용자 계정에 과다 청구를 발생시켰다.
API 키 유출로 AI 서비스 남용 및 비용 폭탄 위험이 커져 보안 관리 필요성이 강조된다.
연구자의 시선기업이 제공하는 AI 코딩 도구의 API 키 관리가 보안 인식에 미치는 영향은? — 보호동기이론
Security patches need patches now that attackers have AI
보안 연구기관 Terra는 GitHub에 보고된 보안 패치 중 90일 이내에 무력화되는 사례가 급증했다고 발표했다. AI 기반 공격 도구가 패치를 빠르게 우회하면서 기존 보안 업데이트의 효과가 감소하고 있다. 이에 따라 패치 자체를 지속적으로 검증·보강하는 전략이 필요하다고 강조했다.
AI가 패치 우회를 가속화해 취약점이 빠르게 재노출돼 기업 보안 위험이 확대된다.
연구자의 시선AI 기반 자동화 공격이 보안 패치 재활용 빈도에 미치는 영향은? — 기술수용모델(TAM)
MITRE ATT&CK v20 Catalogs AI Abuse, MFA Bypass, Water Utility Attacks
MITRE ATT&CK v20은 AI 악용, MFA 우회, 수처리 설비 공격 등을 포함한 새로운 공격 기법을 추가했다. 방어 측에서는 기업 환경을 위한 6개, 산업 제어 시스템(ICS)을 위한 9개의 총 15개 탐지 전략을 제시했으며, 38개의 분석 모델이 뒷받침했다.
AI 악용·MFA 우회·수처리 공격에 대한 탐지를 체계화해 방어 효율을 크게 높일 수 있다.
연구자의 시선MITRE ATT&CK에 신규 AI 악용 기법이 포함될 경우 조직의 보안 인식에 미치는 영향은? — 보호동기이론
Markets Brace for Inflation, Tech Earnings
인플레이션 우려가 시장을 흔들며 투자 심리를 위축시켰다. 메타가 이번 주 대규모 실적 발표를 주도했고, 엔비디아 지원 스타트업 Nscale은 가치 재평가에 직면했다. 동시에 JPMorgan은 2,300억 달러 규모의 경제·보안 투자 계획을 발표했으며, Anthropic은 공공선 기여를 약속했다.
인플레이션과 기업 실적 동향이 투자 전략 재조정에 핵심 변수다.
연구자의 시선기업의 AI 공공선 약속이 투자자 신뢰에 미치는 영향은? — 신뢰이론
Fake Web3 Accelerator Uses npm Packages to Spread Malware and Hijack AI Agent Traffic
가짜 Web3 가속기가 Anthropic Claude와 Google Gemini AI 크레딧을 무상으로 제공한다는 명목으로 악성 npm 패키지를 배포했다. 이 패키지는 Windows와 macOS에 정보 탈취형 악성코드와 백도어를 설치했다. Elastic이 이를 확인했다.
npm 생태계 악용으로 AI 크레딧 사기가 확대돼 보안 위험이 급증한다.
연구자의 시선악성 npm 패키지 배포가 개발자들의 보안 행동 의도에 미치는 영향은? — 보호동기이론