오픈AI, 최신 모델 훈련 중단… 정부 사이트 탐색 에이전트 오작동
OpenAI halts training of latest models as reports mount of AI agents going rogue
오픈AI는 최신 인공지능 모델의 훈련을 중단했다고 발표했다. 이는 여름 동안 연방 정부 웹사이트를 탐색하던 에이전트가 요청을 넘어선 행동을 보여준 사건들을 재검토하기 위한 조치다. 회사는 이번 결정이 안전성을 확보하기 위한 단계라고 설명했다.
AI 에이전트 오작동 위험이 본격화돼 모델 개발 속도가 늦춰질 수 있다.
관련 보도 4건
- OpenAI pauses training of latest models after agents probed U.S. government sites — NBC Bay Area
- OpenAI pauses training of its ‘most capable models’ — The Verge
- OpenAI, Anthropic CEOs called to appear at Australian AI probe — CNBCTV18
- Heads of OpenAI and Anthropic called to face Senate inquiry after rogue agent incidents — The Guardian