OpenAI·Anthropic·Google보안·안전
AI의 '생각' 기록에서 API 키가 새어 나왔다
2026년 8월 12일 공개 기준 · 출처 The Hacker News
AI가 답을 내기 전에 스스로 정리하는 추론 과정(생각 블록)은 보통 암호화된 상태로 오가는데, 이걸 다른 세션·다른 사용자·다른 모델에 그대로 다시 넣으면 내용을 읽어낼 수 있다는 연구가 2026년 8월 12일 공개됐어요. 연구진이 공개된 AI 에이전트 실행 기록에서 생각 블록 31만 5천여 개를 해독했더니, 실제 사용자 세션에서 나온 민감 정보 704건이 나왔어요. API 키 62개, 비밀번호 33개, 접근 토큰 24개, 개인키 7개가 포함돼 있었어요.
오픈AI·앤트로픽·구글의 추론 기능이 모두 대상이었고, 각 회사가 처리 방식을 바꿔 2026년 8월 기준으로 이 공격은 더 이상 재현되지 않는다고 연구진이 밝혔어요.
실무에서는 어떤 뜻인가요
이미 막힌 문제지만 교훈은 남아요. AI 도구의 실행 기록(로그·트레이스)에는 본문에 안 보이는 중간 과정까지 담긴다는 점이에요. 오류 상황을 공유하거나 깃허브에 올릴 때 API 응답 원문을 그대로 붙이지 말고, 키가 들어갈 만한 부분은 지우고 공유하세요.
출처 원문 보기: The Hacker News →
정리 시점 이후 상황이 바뀌었을 수 있어요. 정확한 내용은 출처 원문에서 확인하세요.