매일 아침, 세계 생성형 AI의 10대 이슈
OpenAI plans to train models on Daybreak Blue cybersecurity session data that was previously off-limits
오픈AI는 11월 29일부터 Daybreak Blue 사이버보안 세션 데이터를 모델 학습에 활용한다. 사용자가 학습 차단을 설정했더라도 적용되며, 이후 별도 옵트아웃 옵션을 제공하겠다고 밝혔다.
무단 데이터 활용 논란이 AI 윤리·프라이버시 규제 강화를 촉발할 수 있다.
연구자의 시선사용자 동의 없이 사이버보안 데이터 활용이 AI 모델에 대한 신뢰도에 미치는 영향은? — 신뢰이론
A Supply Chain Attack Put Malicious Anthropic Claude Extensions on Thousands of Devices
앤트로픽의 생성형 AI 모델 Claude용 확장 프로그램에 악성코드가 삽입돼 공급망을 통해 약 5,000대의 개발자 PC에 배포됐다. 공격자는 이 확장을 백도어로 활용해 약 12시간 동안 침투를 시도했지만, 코드 결함으로 완전한 웜 전파는 차단됐다.
공급망을 통한 AI 확장 프로그램 악용은 개발 환경 전체를 위험에 빠뜨릴 수 있다.
연구자의 시선AI 확장 프로그램 공급망 공격이 조직의 보안 인식과 방어 체계에 미치는 영향은? — 보호동기이론
A Shared ChatGPT Link Could Run Attacker Code in Your Session and Read Private Chats
보안 업체 파라미터(Parameter)의 연구원들은 악성 ChatGPT 공유 링크가 열리는 사용자의 로그인 세션에서 공격자 코드를 실행해 개인 대화를 열람할 수 있는 취약점을 발견했다. 오픈AI는 10월 18일 보고를 받은 뒤 8일 만에 해당 취약점을 P1 등급으로 분류하고 패치를 적용했다.
세션 탈취와 프라이버시 침해 위험이 대규모 사용자에게 확산될 수 있어 AI 서비스 보안 강화가 시급하다.
연구자의 시선공유 링크 기반 세션 탈취 위험이 사용자의 보안 인식에 미치는 영향은? — 보호동기이론
OpenAI Funding Target Cut by $10 Billion as AI Slumps, FT Says
오픈AI가 AI 주식 매도와 경쟁사 앤트로픽의 상장 기대로 투자자 확보가 어려워 자금 조달 목표액을 100억 달러 낮췄다. 이는 금융 타임스가 보도한 내용이다.
자금 목표 축소는 오픈AI의 개발·서비스 확대 속도를 제약한다.
연구자의 시선AI 스타트업의 자금 목표 축소가 투자자 신뢰에 미치는 영향은? — 신뢰이론
Spooky New Infostealer Malware Uses AI to ‘Autodox’ Victims
‘Volta‑Autodoxer’라는 새로운 인포스틸러 악성코드가 최근 발견됐다. 이 악성코드는 AI 도구를 활용해 로그인 정보, 신용카드 번호, Discord 세션, UberEats 영수증 등 피해자 데이터를 대량으로 자동 수집했다.
AI 기반 인포스틸러가 개인정보 대량 탈취를 자동화해 보안 위협이 급증한다.
연구자의 시선AI 기반 인포스틸러가 조직의 보안 인식에 미치는 영향은? — 보호동기이론
Russian Invaders Use AI To Make Deepfake Videos Of Triumphs In Ukraine
러시아 침공군은 오픈AI와 바이트댄스의 텍스트‑투‑비디오 AI를 이용해 우크라이나 영토 장악 허위 승리 영상을 제작했다. 해당 딥페이크 영상은 전쟁 선전용으로 온라인에 퍼뜨렸다.
AI 기반 딥페이크가 전쟁 선전에 활용돼 정보전 위험이 증대된다.
연구자의 시선전쟁 상황에서 AI 딥페이크가 대중의 위기 인식에 미치는 영향은? — 보호동기이론
Chinese Hackers Use AI-Powered ARTEX to Target Over 200 Organizations Worldwide
중국 국책 해킹 그룹이 Go 기반 AI·ARTEX 프레임워크를 활용해 전 세계 200여 기관을 동시에 공격했다. CrowdStrike는 이를 ‘Vapor Panda’(이전 ‘VexatiousTemper’)라는 표적 침입 위협자로 규명했다.
AI 기반 침투 테스트 도구가 대규모 표적 공격을 가능하게 해 방어가 어려워진다.
연구자의 시선AI 기반 침투 테스트 도구 도입이 조직의 보안 인식에 미치는 영향은? — 보호동기이론
How Investors Should View the Launch of Alphabet's Gemini 4 Carbon
알파벳은 소프트웨어 엔지니어링과 사이버보안을 위해 설계된 최신 AI 모델 Gemini 4 Carbon을 공개했다. 이번 모델 출시로 기업용 AI 솔루션 분야에서 경쟁력을 강화하려는 전략을 선보였다.
보안 특화 AI 모델 출시는 사이버위협 대응 자동화와 개발 효율성을 동시에 높일 수 있다.
연구자의 시선보안 특화 AI 도입이 소프트웨어 개발자의 보안 인식 향상에 미치는 영향은? — 기술수용모델(TAM)
What If AI Agents Book You The Wrong Flight?
AI 에이전트가 사용자를 대신해 항공권을 구매하고 비용을 결제할 수 있지만, 오류 시 누가 비용을 부담해야 하는지에 대해 결제 조건과 보안 보증을 검토했다. 기사에서는 현재 보호 한계와 책임 소재가 명확하지 않다고 지적했다.
소비자 보호와 결제 책임 명확화가 AI 서비스 신뢰에 핵심이다.
연구자의 시선AI 에이전트 오류 시 비용 부담이 이용자 신뢰에 미치는 영향은? — 기술수용모델(TAM)
Last-minute Halloween costumes for tech nerds
TechCrunch는 기술 매니아를 위한 급히 준비할 수 있는 할로윈 복장을 소개했다. AI 에이전트 아이콘처럼 귀엽게 꾸미거나, PHP 취약점을 의인화한 복장, 혹은 졸린 모습의 브라이언 존슨 복장을 제안했다.
기술 용어와 인물을 활용한 복장이 대중 문화에 스며들어 보안 인식 확산에 기여한다.
연구자의 시선기술 매니아의 할로윈 복장 선택이 보안 인식에 미치는 영향은? — 보호동기이론