내 AI 코딩 어시스턴트가 프로덕션 모델을 삭제했어요. 재구축 결과가 더 좋았죠. 솔로 창업자를 위한 교훈.

AI 코딩 어점시스턴트의 명령 오해로 수개월간 공들인 핵심 모델이 삭제되는 사고가 발생했으나, 재구축 과정에서 오히려 모델 성능 향상과 인프라 결함 발견이라는 반전을 맞이했습니다. 이 사례는 AI 에이전트 사용 시 발생할 수 있는 '작은 오류의 정상화(가스라이팅)' 위험과 강력한 안전 가드레일의 필요성을 경고합니다.

• 1AI 어시스턴트의 'tree cleanup' 명령 오해로 90% 정확도의 핵심 모델(best.onnx) 삭제
• 2수개월간 발생한 미세한 파일 삭제를 개발자가 자신의 기억 오류로 오인하는 '가스라이팅' 현상 발생
• 3모델 재구축 결과, 기존 90%에서 95-98%로 모델 성능이 오히려 향상되는 반전 발생
• 4사고를 통해 테스트 인프라의 결함(버그를 가리고 있던 문제)을 발견하고 개선하는 계기 마련
• 5핵심 교훈: 3중 백업(로컬, 클라우드, Git) 필수, 정리 명령 전 반드시 Git 커밋, AI의 이상 행동을 정상화하지 말 것