프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 517건
- 426
코드베이스를 "꿈꾸는" 데몬, AI 에이전트의 환각을 막고 토큰을 절약하다
Entroly는 AI 코딩 에이전트(Cursor, Claude Code 등)의 컨텍스트 윈도우를 최적화하여 환각 현상을 줄이고 API 비용을 최대 90%까지 절감하는 로컬 프록시 도구입니다. Rust 기반의 정교한 알고리즘을 통해 코드베이스의 핵심 정보만을 선별하여 LLM에 전달함으로써 응답 속도와 정확도를 동시에 높입니다.
Daemon that "Dreams" about your codebase so your AI agents stop hallucinating and save tokens↗dev.to
- 427
AI 코딩 에이전트가 계속 같은 실수를 저지르는 이유 (그리고 해결 방법)
AI 코딩 에이전트가 동일한 실수를 반복하는 근본 원인은 모델의 지능 문제가 아니라, 에이전트의 정체성, 공유 메모리, 그리고 도구 사용에 대한 명확한 정책(Policy)이 부재하기 때문입니다. 이를 해결하기 위해서는 프롬프트 엔적 엔지니어링을 넘어 에이전트의 식별, 권한 제어, 감사(Audit)가 가능한 인프라 수준의 거버넌스 구축이 필수적입니다.
Why AI coding agents keep making the same mistakes (and how to stop it)↗dev.to
- 434
IPI-Scanner: LLM이 읽기 전에 간접 프롬프트 인젝션 공격을 탐지하다
RAG 및 AI 에이전트 시스템의 치명적인 보안 위협인 '간접 프롬프트 주입(Indirect Prompt Injection)'을 사전에 탐지하는 오픈소스 보안 도구, IPI-Scanner에 대한 분석입니다. 데이터 파이프라인에 숨겨진 악성 명령어를 식별하여 LLM의 데이터 유출 및 권한 오남용을 방지하는 기술적 메커니즘을 다룹니다.
IPI-Scanner: Detecting Indirect Prompt Injection Attacks Before Your LLM Reads Them↗dev.to
- 435
Show HN: Linear RNN/Reservoir 하이브리드 생성 모델, 단 하나의 C 파일 (의존성 없음)
의존성 없는 단일 C 파일로 구현된 초경량 Linear RNN/Reservoir 하이브리드 생성 모델입니다. CPU 환경에서 긴 컨텍스트를 효율적으로 처리하기 위해 SwiGLU, Low-Rank Decay 등 최신 기술을 결합하여 트랜스포머의 연산 복잡도 문제를 해결하고자 합니다.
Show HN: Linear RNN/Reservoir hybrid generative model, one C file (no deps.)↗raw.githubusercontent.com















