매일 아침, 세계 생성형 AI의 10대 이슈
OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
오픈AI는 모델 스펙을 업데이트해 AI 행동 지침을 5대 핵심 가치 중심으로 재구성했다. 새 지침은 인간 의도에 충실하고 교정 가능하도록 설계했으며, GPT 모델은 대화 기록을 활용해 사용자의 실제 요구를 파악하고 자체 가정을 공개하도록 요구한다.
AI 투명성과 사용자 의도 반영을 강화해 오용 위험을 낮춘다.
연구자의 시선AI 행동 지침이 사용자 신뢰에 미치는 영향을 기술수용모델(TAM)로 검증할 수 있다.
A Supply Chain Attack Put Malicious Anthropic Claude Extensions on Thousands of Devices
공급망 공격을 통해 배포된 악성 Claude 확장 프로그램이 약 5,000대 개발자 컴퓨터에 설치됐으며, 결함 있는 코드가 공격자의 전파를 차단해 일부 시스템에만 침투했다. 해당 백도어는 약 12시간 동안 활성화된 뒤 탐지되었다.
공급망 공격이 개발 도구까지 침투해 수천 기기를 위험에 빠뜨릴 수 있음을 경고한다.
연구자의 시선공급망 공격이 개발자 도구 확장 프로그램의 보안 인식에 미치는 영향은? — 보호동기이론
I read Anthropic's 92-page risk factor document, so you don't have to – video explainer
앤트로픽은 10월 26일 미국 증시 상장을 신청했고, 제출 서류에 AI가 사회와 인간에게 미치는 위험과 사업에 미칠 부정적 영향을 다룬 92페이지 분량의 위험요인 문서를 포함했다. 가디언의 수석 기술기자 요하나 부이얀은 해당 문서를 분석해 이번 IPO가 AI 붐의 실질적 시험이 될 수 있음을 설명했다.
AI 위험을 명시한 대규모 위험요인 보고서는 투자자와 규제당국이 AI 기업의 책임성을 평가하는 기준이 될 수 있다.
연구자의 시선AI 기업의 위험요인 공개가 투자자의 신뢰도 형성에 미치는 영향은 무엇인가? — 신뢰이론
DoorDash said it’s only received ‘several hundred’ orders from AI agents
DoorDash는 AI 에이전트를 통해 들어온 주문이 수백 건에 불과하다고 밝혔다. 또한 자사 서비스와 연계할 제3자 AI 에이전트 개발 업체와의 협업에 열려 있음을 전했다.
AI 기반 주문 서비스의 실제 활용도가 낮아 시장 진입 장벽을 시사한다.
연구자의 시선AI 에이전트 도입이 소비자 주문 편의성 인식에 미치는 영향은? — 기술수용모델(TAM)
Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds
앤트로픽은 50명의 전문가에게 코인 토스로 결정된 선호를 가진 AI 에이전트를 제공했다. 전문가들은 판단 상황에서 AI 의견을 최대 86%까지 따랐으며, 대부분 자신의 의견이라고 인식했다.
무작위 AI 의견에 대한 높은 순응은 인간 판단에 AI 편향이 쉽게 스며들 위험을 시사한다.
연구자의 시선AI 에이전트의 무작위 제시가 전문가의 의사결정에 미치는 영향은 기술수용모델(TAM)로 설명될 수 있는가?
Mistral releases weights for its trillion-parameter AI model, targeting cybersecurity
프랑스 AI 스타트업 Mistral은 트릴리언 파라미터 규모의 새로운 모델 가중치를 공개했다. 이 모델은 사이버보안 분야에 적용돼 폐쇄형 모델이 제공하지 못하는 방어 제어 권한을 기업에 제공한다.
기업이 사이버 방어를 직접 조정할 수 있어 보안 대응 효율성이 크게 향상된다.
연구자의 시선대규모 AI 모델 가중치 공개가 기업의 사이버보안 기술 수용에 미치는 영향은? — 기술수용모델(TAM)
Sam Altman sympathizes with mathematicians, but says OpenAI’s math onslaught won’t stop
오픈AI는 수개월 동안 AI가 생성한 수학 결과물을 수학자들에게 지속적으로 제공해 왔다. CEO 샘 알트만은 연구자들의 어려움을 이해한다며 동정심을 표했지만, 이 같은 ‘수학 폭격’은 중단하지 않을 것이라고 밝혔다. 또한 회사가 보유한 발견물에서 앞으로도 더 많은 결과가 나올 수 있음을 시사했다.
AI가 대량의 수학 결과를 내놓으며 연구 환경을 뒤흔들어 학계와 산업에 새로운 협업·경쟁 구도가 형성된다.
연구자의 시선오픈AI AI‑생성 수학 결과물이 학자들의 연구 효율성에 미치는 영향은? — 기술수용모델(TAM)
AI agents cut critical research time for humanitarian teams in conflict zones
인도주의 구호단체는 갈등 지역에서 위기 발생 후 연구 기간을 AI 에이전트로 단축했다. 클라우데라는 배포 유연성을 핵심으로 한 AI 전략을 구축하고, 한 비영리 파트너와 현장에서 이를 시험하고 있다. 이를 통해 분석가가 신속히 대응 정보를 확보하도록 지원한다.
AI 에이전트가 인도주의 현장의 의사결정 속도를 높여 인명 구조 효율을 향상시킨다.
연구자의 시선인도주의 조직에서 AI 에이전트 도입이 분석가의 의사결정 속도에 미치는 영향은? — 기술수용모델(TAM)
Wikipedia’s operator says a bad AI copyright ruling could threaten the open web
위키미디어 재단은 AI 저작권 소송에서 대형 언어 모델이 저작물을 학습하는 것은 보호하고, 챗봇이 그 내용을 그대로 재생산하는 것은 제한해야 한다고 주장했다. 판결이 지나치게 흑백이면 위키피디아 편집자들이 AI 도구를 잃거나 오픈 웹이 위험해질 수 있다고 경고했다.
AI 저작권 판결이 오픈 웹과 위키피디아 지속가능성에 직접 영향
연구자의 시선AI 저작권 보호 범위가 위키피디아 편집자들의 AI 도구 사용 의도에 미치는 영향은? — 기술수용모델(TAM)
House Democrats Criticize Justice Dept. Support of OpenAI in Copyright Suit
미 하원 사법위원회 상위 민주당 의원들은 법원 서류에서 뉴욕 타임스가 주도하는 저작권 소송에서 출판사를 지지한다며, 오픈AI를 지원한 법무부의 입장을 비판했다고 밝혔다. 그들은 정부가 AI 기업을 과도히 보호하고 있다며 정책 수정과 강력한 저작권 보호 조치를 요구했다.
정부의 AI 기업 지원이 저작권 보호와 공정 경쟁에 미치는 영향을 둘러싼 정책 논쟁이 심화된다.
연구자의 시선법무부의 오픈AI 지원이 출판사의 저작권 보호 의도에 미치는 영향은? — 보호동기이론