프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 525건
- 521
ChatGPT의 Lockdown Mode 및 Elevated Risk 레이블 소개
OpenAI는 기업 고객을 위해 ChatGPT에 'Lockdown Mode'와 'Elevated Risk labels'을 도입했습니다. 이러한 기능은 prompt injection attacks 및 AI-driven data exfiltration을 방어하도록 설계되었으며, 민감한 조직 데이터를 보호하고 AI utilization에 대한 신뢰를 높이는 것을 목표로 합니다. 이렇게 강화된 보안은 AI의 enterprise adoption을 가속화할 것으로 기대됩니다.
Introducing Lockdown Mode and Elevated Risk labels in ChatGPT↗openai.com



