OpenAI Blog

OpenAI가 프롬프트 인젝션, 데이터 유출, 에이전트 취약점 등 AI 모델의 안전성을 위협하는 요소를 찾기 위해 'Safety Bug Bounty' 프로그램을 시작합니다. 이는 AI 오남용 및 보안 리스크를 선제적으로 방어하려는 움직임입니다.

OpenAI가 청소년 사용자를 보호하기 위해 gpt-oss-safeguard 모델과 함께 사용할 수 있는 프롬프트 기반 안전 정책을 공개했습니다. 이를 통해 개발자들은 폭력, 성적 콘텐츠, 유해한 신체 이미지 등 청소년에게 특화된 위험 요소를 보다 쉽게 필터링하고 안전한 AI 경험을 구축할 수 있게 되었습니다.

OpenAI Foundation은 질병 치료, 경제적 기회, AI resilience 및 커뮤니티 프로그램에 최소 10억 달러를 투자할 계획이라고 발표했습니다.

ChatGPT는 Agentic Commerce Protocol을 기반으로 더욱 풍부하고 시각적으로 몰입감 있는 쇼핑 경험을 선보이며, 제품 탐색, 제품 간 비교, 그리고 merchant integration을 지원합니다.

OpenAI가 Sora 2 출시와 함께 발표한 강력한 안전 가이드라인을 다룹니다. C2PA 메타데이터를 통한 콘텐츠 출처 증명, 사용자 동의 기반의 'Characters' 기능을 통한 초상권 보호, 그리고 청소년 및 저작권 보호를 위한 다각적인 방어 체계를 핵심으로 합니다.

OpenAI는 내부 AI coding agents의 'misalignment'를 감지하기 위해 'chain-of-thought monitoring'을 도입하고 있습니다. 이 이니셔티브는 잠재적 위험을 식별하고 AI 안전 보호 장치를 강화하기 위해 실제 배포를 분석하는 것을 포함합니다.

OpenAI는 GPT-5.4의 소형 버전인 GPT-5.4 mini와 nano를 발표했습니다. 이 모델들은 코딩, 도구 사용, 멀티모달 추론, 그리고 대량의 API 및 하위 에이전트(sub-agent) 워크로드에 최적화되어 더 빠르고 효율적인 AI 솔루션 구현을 가능하게 합니다.

OpenAI Japan은 generative AI를 사용하는 청소년들의 연령 보호 강화, parental controls 구현, 웰빙 보호 장치 마련에 초점을 맞춘 'Japan Teen Safety Blueprint'를 발표했습니다. 이 이니셔티브는 미성년자를 위한 더 안전한 AI 환경을 조성하는 데 중요한 발걸음입니다.

새로운 연구에 따르면 미국에서 매일 약 3백만 건의 메시지가 ChatGPT로 전송되고 있으며, 이는 보상 및 소득에 대해 문의하는 내용입니다. 이를 통해 임금 정보 격차를 해소하는 데 기여하고 있습니다. 이는 민감한 노동 시장 정보의 투명성을 높이는 데 있어서 AI의 중요한 역할을 강조합니다.

Codex Security는 기존 SAST의 높은 오탐(false positive) 문제를 해결하기 위해 AI 기반 제약 추론 및 검증 방식을 도입했습니다. 이는 SAST 보고서 대신 실제 취약점을 정확하게 찾아내 개발자 피로도를 줄이고 보안 효율성을 극대화하는 새로운 패러다임을 제시합니다.

라쿠텐은 OpenAI의 코딩 에이전트인 Codex를 도입하여 소프트웨어 배포 속도와 안전성을 획기적으로 향상시켰습니다. 이를 통해 MTTR(평균 문제 해결 시간)을 50% 단축하고, CI/CD 검토를 자동화하며, 풀스택 빌드를 몇 주 내에 제공하는 성과를 달성했습니다. 이는 AI 기반 개발 도구가 기업의 핵심 개발 프로세스에 미치는 강력한 영향을 보여줍니다.

OpenAI는 ChatGPT를 활용하여 AI 에이전트 워크플로우 내에서 프롬프트 인젝션 및 소셜 엔지니어링 공격을 방어하는 방법을 제시합니다. 이는 AI의 위험 행동을 제한하고 민감한 데이터 보호를 강화함으로써 이루어지며, 에이전트의 신뢰성과 보안을 확보하는 데 중점을 둡니다. 본 기사는 AI 서비스의 핵심 보안 문제를 해결하고 광범위한 AI 채택을 위한 필수 단계를 설명합니다.

OpenAI는 Responses API, 쉘 도구, 호스팅 컨테이너를 활용하여 파일, 도구, 상태를 갖춘 안전하고 확장 가능한 AI 에이전트 런타임을 구축했습니다. 이는 AI 모델이 단순히 텍스트를 생성하는 것을 넘어 실제 컴퓨터 환경에서 복잡한 작업을 자율적으로 수행할 수 있는 기반을 제공합니다. 이로써 AI 개발 패러다임이 '모델' 중심에서 '에이전트' 중심으로 진화하고 있음을 시사합니다.

Wayfair는 OpenAI 모델을 도입하여 이커머스 고객 지원과 제품 카탈로그 정확도를 혁신적으로 개선하고 있습니다. 특히 고객 문의 티켓 분류를 자동화하고 수백만 개의 제품 속성을 대규모로 향상시키는 데 AI를 활용하여 운영 효율성을 극대화합니다. 이는 대규모 이커머스 운영에서 AI가 가져올 수 있는 실질적인 가치를 보여줍니다.

OpenAI의 IH-Challenge는 LLM을 훈련하여 신뢰할 수 있는 지침을 우선시하게 함으로써 instruction hierarchy, safety steerability 및 prompt injection attacks에 대한 저항력을 높입니다. 이러한 중요한 발전은 AI 시스템의 신뢰성과 보안을 향상시킵니다. 이 기술은 모델이 악의적이거나 조작적인 외부 프롬프트보다 내부 안전 지침을 따르도록 보장합니다.

OpenAI의 ChatGPT가 수학 및 과학 분야에서 상호작용적이고 시각적인 설명을 제공하기 시작했습니다. 이를 통해 학생들은 복잡한 공식, 변수, 개념 등을 실시간으로 탐색하며 학습할 수 있게 되었습니다.

OpenAI는 AI 시스템 개발 과정에서 취약점을 식별하고 해결하는 데 기업을 돕는 AI 보안 플랫폼인 Promptfoo를 인수했습니다. 이 인수는 AI 안전 및 보안을 최우선 과제로 삼는 OpenAI의 전략적 방향을 명확히 보여줍니다. 이는 AI 기술의 신뢰성 높은 상용화를 위한 핵심 단계입니다.

OpenAI의 Codex Security는 project context를 분석하여 복잡한 애플리케이션 보안 취약점을 높은 신뢰도와 적은 노이즈로 탐지, 검증, 패치하는 AI 기반 에이전트입니다. 현재 research preview 단계에 있으며, 개발 프로세스의 보안 자동화를 목표로 합니다.

헤지펀드 Balyasny Asset Management는 GPT-5.4와 같은 고급 LLM을 활용하여 최첨단 AI 시스템을 구축함으로써 투자 분석을 혁신했습니다. 이 시스템은 엄격한 model evaluation과 agent workflows를 적용하여 대규모로 정교한 투자 연구를 가능하게 합니다.

OpenAI는 전문적인 작업에 최적화된 자사의 차세대 frontier model인 GPT-5.4를 공개했습니다. 이 모델은 state-of-the-art coding, advanced computer use, enhanced tool search capabilities, 그리고 방대한 1M-token context window를 특징으로 하는 가장 유능하고 효율적인 AI로 평가받고 있습니다.

OpenAI의 최근 연구에 따르면, 추론 모델(reasoning model)들이 자신의 '사고의 사슬(chains of thought, CoT)'을 완전히 제어하지 못하는 것으로 나타났습니다. 이는 AI 시스템의 안전을 보장하기 위해 외부적인 모니터링(monitorability)의 중요성이 더욱 강조된다는 긍정적인 신호입니다.

OpenAI가 제시한 '다섯 가지 AI 가치 모델'은 기업 리더들이 AI를 단순히 도입하는 것을 넘어, 인력의 AI 활용 능력을 향상시키는 것부터 비즈니스 프로세스 자체를 재창조하는 단계까지 체계적으로 적용하여 강력한 경쟁 우위를 확보할 수 있는 전략적 로드맵을 제공합니다. 이는 AI가 단순한 도구가 아닌 비즈니스 혁신의 핵심 동력으로 작용하는 방법을 안내합니다.

OpenAI가 'ChatGPT for Excel'과 새로운 금융 데이터 통합 기능을 공개했습니다. 이는 최신 GPT-5.4 모델을 기반으로 하며, 규제 환경에 맞춰 금융 분야의 모델링, 연구, 분석 작업을 가속화하는 것을 목표로 합니다.

최신 사전 인쇄물에 따르면 GPT-5.2 Pro가 양자 중력 분야에서 '싱글-마이너스 진폭'을 그래비톤으로 확장하는 데 기여했습니다. 이 AI 모델은 0이 아닌 그래비톤 트리 진폭을 도출하고 검증하는 데 핵심적인 역할을 수행하며, AI가 최첨단 이론 물리학 연구를 가속화하고 있음을 보여줍니다.