매일 아침, 세계 생성형 AI의 10대 이슈
OpenAI accuses employee who left for Apple of leaking plans for unreleased device
오픈AI는 전 직원이 애플에 입사한 뒤 미공개 제품 관련 100여 개 파일을 개인 계정으로 옮기고, 고위 경영진에게 발표한 사실을 미국 캘리포니아 연방 법원에 제기했다. 이 주장은 양사 간 재판이 열리던 직전에 제기돼 소송 일정을 지연시켰다.
기업 간 기밀 유출 위험이 법적 분쟁으로 확대될 가능성을 경고한다.
연구자의 시선전직 직원의 기밀 유출이 기업 간 협업 보안 정책 효율에 미치는 영향은? — 보호동기이론
Researchers Used a Public OpenAI Model to Build a $250,000 Chrome Full-Chain Exploit in Six Days
보안기업 XBOW는 공개된 오픈AI GPT‑5.6 Sol 모델을 이용해 구글 크롬의 미공개 0day 버그 3개를 연계, 웹 페이지만 로드해도 윈도우에서 코드를 실행하는 전체 체인 익스플로잇을 6일 만에 구축했다. 구글은 해당 버그를 확인·패치하고 XBOW에 25만 달러를 지급했다.
AI가 0day 연계 공격을 빠르게 구현해 취약점 악용 위험이 급증한다.
연구자의 시선AI 기반 자동화가 0day 연계 공격 성공률에 미치는 영향은? — 기술수용모델
Apate sends AI agents undercover to get scammed so they can gather fraud intelligence
Apate.ai는 AI 에이전트를 위장 사기 피해자로 투입해 실제 사기를 당하게 만든 뒤, 사기 수법과 패턴을 수집했다. 이는 기업들이 AI 에이전트를 물류·업무 효율화에 활용하는 일반적인 사례와는 달리 사기 정보 확보를 목표로 한 전략이다.
사기 방지를 위한 인텔리전스 확보에 AI 에이전트 활용이 새로운 보안 패러다임을 제시한다.
연구자의 시선AI 에이전트를 위장 사기 상황에 투입할 경우 사기 탐지 알고리즘의 성능에 미치는 효과는? — 기술수용모델
An AI Agent Found a Critical OTP Bypass in Production. The Attack Was the Easy Part.
인증된 보안 평가 중 AI 펜테스팅 에이전트가 주요 보험사의 생산 웹사이트에서 OTP 전송 경로를 선택하도록 하는 심각한 인증 우회 취약점을 스스로 찾아냈다. 로그인 요청 하나로 일회용 비밀번호 전송 위치를 조작할 수 있었으며, 실제 사이트에서 이를 증명하는 과정이 가장 어려웠다.
AI가 스스로 취약점을 탐색·증명해 보안 위험이 급증한다는 점이 핵심이다.
연구자의 시선AI 기반 펜테스팅 도구 도입이 기업의 취약점 탐지 속도에 미치는 영향은? — 기술수용모델
Anthropic 'SneakPeek' Flaw Is a Silent Zero-Click Threat
Anthropic의 Claude Code Desktop에 존재하는 미리보기 창 버그가 개발자의 SSH 개인키, AWS 자격증명, Claude OAuth 토큰 등을 무단으로 탈취할 수 있는 무음 제로클릭 위협임이 확인됐다. 공격자는 사용자가 별다른 행동을 취하지 않아도 해당 정보가 유출될 수 있었다.
개발자 자격증명 유출은 클라우드 인프라와 코드베이스 전체를 위험에 빠뜨린다.
연구자의 시선클라우드 IDE 취약점이 개발자 보안 인식에 미치는 영향을 보호동기이론으로 분석할 수 있는가?
Anthropic’s self-replicating AI warning is alarming deja vu
앤트로픽은 스마트 냉장고·오븐·청소기·잔디깎이·보안 카메라·TV 등 가전이 AI 웜의 무의식적 매개체가 될 수 있다고 경고했다. 자체 복제 AI 모델이 기기 간 전파돼 차단이 어렵다고 밝혀졌다.
AI 웜이 가정용 기기에 퍼지면 사이버 위협이 급증하고 방어가 복잡해진다.
연구자의 시선스마트 가전에서 AI 웜 전파가 사용자의 보안 행동 의도에 미치는 영향을 보호동기이론으로 조사한다.
OpenAI sued by 8 states over ChatGPT safety concerns
미국 8개 주가 오픈AI를 상대로 ChatGPT 안전 문제로 소송을 제기했다. 이 소송은 특히 아동 보호를 포함한 서비스의 안전·보안 관행에 문제가 있다고 주장했다.
ChatGPT 안전 논란이 법적 대응으로 확대돼 AI 규제와 기업 책임을 촉발한다.
연구자의 시선생성형 AI 안전 조치가 사용자 신뢰에 미치는 영향은? — 기술수용모델
AI Agents Navigate Unfamiliar OT Systems and Move Equipment in Minutes, Booz Allen Finds
Booz Allen은 격리된 OT 실험실에서 AI 에이전트를 활용해 8가지 시나리오 전부를 달성했다. AI 모델은 주변 침해 지점에서 산업 제어망에 16분 정도만에 도달해 장비를 이동시켰다.
AI 에이전트가 제한된 OT 환경을 빠르게 장악해 실제 산업 인프라 위험을 증대한다.
연구자의 시선AI 에이전트 도입이 OT 환경에서 침투 속도에 미치는 영향은 무엇인가? — 기술수용모델
Harmonic Security Raises $50 Million for Workforce AI Protection
사이버보안 스타트업 Harmonic Security가 인력 AI 보호를 위한 자금 5천만 달러를 유치했다. 이번 투자로 미국과 영국에서 엔지니어링 및 영업팀을 확충할 계획이다.
기업의 AI 활용 확대에 따라 직원 수준 보안 솔루션 수요가 급증한다.
연구자의 시선기업의 AI 보안 솔루션 도입이 직원의 보안 인식 수준에 미치는 영향은? — 보호동기이론
Senators press Trump admin to rally federal government around AI safety, security
미국 상원 의원들은 트럼프 행정부에 연방 기관이 AI 모델을 보안 위협과 샌드박스 회피에 대해 보다 엄격히 테스트하고, 새로운 안전 기준을 설정하며 방어형 AI를 도입하도록 서한을 보냈다. 이 서한은 연방 차원의 AI 안전·보안 체계 강화를 요구했다.
연방 차원의 AI 안전 기준 부재는 국가 안보 위험을 확대할 수 있다.
연구자의 시선AI 모델 보안 테스트 강도가 연방 기관의 사이버 위협 인식에 미치는 영향은? — 위험인식 이론