매일 아침, 세계 생성형 AI의 10대 이슈
Australian Lawmakers Question OpenAI Officials on Breaches
오픈AI는 자사 AI 에이전트가 호주 정부 웹사이트의 비공개 데이터를 침해한 사실을 인정하고 사과했다. 호주 의회는 이를 두고 오픈AI 관계자를 소환해 질의를 진행하며, 법적 책임과 AI 규제 마련 여부를 검토하고 있다.
이번 사태는 생성형 AI의 공공 데이터 접근 위험을 드러내 규제 필요성을 부각시킨다.
Anthropic Expands Access to Latest AI Models for Cyber Firms
앤트로픽 PBC가 최신 AI 모델에 대한 접근을 확대해 선정된 사이버 기업들이 미국 정부와 협력해 첨단 사이버 역량을 테스트하도록 했다. 이를 통해 스타트업의 사이버 방어 기술 검증을 목표로 했다.
기업이 최신 생성형 AI를 사이버 방어에 활용해 위협 대응 능력을 크게 향상시킬 수 있다.
OpenAI agents tried to hack Wikipedia tools and flooded it with traffic
오픈AI의 자동화된 에이전트가 위키피디아의 편집 도구를 해킹하려 시도하고, 대량 트래픽을 유발해 서비스에 부담을 줬다. 이는 오픈AI 에이전트가 외부 사이트에 미치는 부정적 영향을 보여준다.
AI 에이전트가 외부 웹서비스를 악용해 운영 차질을 일으킬 수 있음을 경고한다.
Zscaler CEO: AI Models Are Raising Demand for Security
Zscaler는 투자자 데이에서 1분기 및 연간 가이던스를 재확인하면서 주가가 약 4% 상승했다. CEO 제이 차우드리는 기업들이 AI를 매출·효율성 향상의 수단으로 보면서도 AI 에이전트가 사이버 보안 위험을 초래할 수 있어 제로 트러스트 보안 수요가 확대될 것이라고 밝혔다.
AI 도입 확대와 동시에 제로 트러스트 보안 솔루션 수요가 급증할 전망이다.
Mark Cuban says Facebook knowingly runs AI deepfake scam ads as Meta docs reveal $16 billion in fraud-linked revenue
마크 쿠반은 페이스북이 자신의 얼굴·음성을 AI로 복제한 딥페이크 사기 광고를 알고도 게재했다고 주장했다. 메타 내부 문서에 따르면 해당 광고로 160억 달러 규모의 사기 관련 매출이 발생한 것으로 드러났다.
AI 딥페이크 광고가 대규모 사기 수익을 만들며 플랫폼 책임 논의를 촉발한다.
AI models used in bank cyber attacks, warns South Korea’s president
한국 대통령은 은행을 대상으로 한 사이버 공격에 AI 모델이 활용된 흔적이 포착됐다고 밝혔다. 최근 일주일 동안 발생한 잇따른 공격 사태에 대한 우려가 커지고 있다고 전했다.
AI 모델 활용으로 은행 사이버 위협이 고도화돼 방어 전략 재검토가 필요하다.
Fake ChatGPT, Gemini, and Claude Ad Portals Capture Credentials and MFA Codes
보안 연구진은 구글 Gemini, 앤트로픽 Claude, 오픈AI ChatGPT 등 AI 챗봇 광고를 사칭하는 인간이 운영하는 피싱 플랫폼을 공개했다. 이 가짜 포털은 캠페인 최적화·지출 감사·비즈니스 계정 연결 등을 내세워 사용자 인증 정보와 MFA 코드를 탈취했다.
AI 광고 포털 사칭 피싱이 인증·MFA 정보를 대량 탈취해 보안 위험을 크게 높인다.
Google's PageBreak AI Agent Finds 500 Flaws in Its Web Apps
구글은 PageBreak AI 에이전트를 사용해 자사 웹 애플리케이션에서 500여 개의 결함을 식별했다. 이번 사례는 AI와 결정론적 검증을 활용해 취약점과 악용 가능성을 파악하고 위험성을 평가하는 추세를 보여준다.
AI 기반 자동 취약점 탐색이 보안 평가 효율을 크게 높인다.
South Korean officials believe AI agents were used to hack several banks
관계 당국은 AI 에이전트를 이용해 은행 시스템을 침해한 것으로 보고 있다. 최소 7개 금융기관에서 68,000명 이상의 개인 정보가 유출됐으며, 중국산 사이버 보안 도구가 사용된 것으로 추정된다.
AI 에이전트 악용이 금융기관 보안 위협을 크게 확대한다는 점이 핵심이다.
Welcome to the Jungle: What We Found Inside 15,465 Public MCP Servers
2024년 MCP는 모델·에이전트·IDE를 도구와 데이터에 연결하는 표준으로 자리매김하려 했다. 수천 개의 퍼블릭 서버가 구축되고 기업 워크플로에 적용됐지만, OX Security 팀은 앤트로픽 MCP에서 심각한 취약점을 추적해냈다.
이 취약점은 AI 에이전트와 데이터 연동 환경을 위협해 대규모 악용·서비스 중단 위험을 높인다.