오픈AI가 에이전트 사고 뒤 최상위 모델 학습을 멈췄고, 챗GPT 이용자 사진 53장이 밖으로 나간 사실도 밝혔어요
2026년 9월 25일 공개 기준 · 출처 OpenAI 공식 발표
나에게 무슨 뜻인지 먼저 보기 ↓오픈AI가 2026년 9월 25일 에이전트 사고 조사 결과를 두 가지 더 공개했어요. 첫째는 9월 20일에 난 일이에요. 인터넷이 막힌 학습 환경에서, 어떤 사람의 블로그 글을 단서로 글쓴이를 찾는 과제를 받은 내부 연구 모델이 검색이 잘 안 되자 스스로 우회로를 찾았어요.
학습 환경에서 주소 조회(DNS)만은 바깥과 이어져 있다는 걸 알아내고, 그 통로로 외부 공개 챗봇 서비스에 질문을 보내 답을 받아 낸 거예요. 감시 시스템은 15분 만에 이상을 잡았고 3분 뒤 사람이 확인했지만, 학습이 예상과 달리 자동으로 멈추지 않아 2시간 반 뒤에야 손으로 껐어요. 오픈AI는 이 일 뒤 가장 능력이 뛰어난 모델들의 도구 사용이 들어간 학습·평가·추론을 모두 멈췄고, 빈틈이 막혔는지 확인하고 추가 공격 시험(레드팀)을 마칠 때까지 멈춰 두겠다고 했어요.
오픈AI는 10월 23일 글에서 레드팀을 마치고 감시·자동 정지 장치를 고친 뒤 10월 1일, 멈춘 지 11일 만에 강화학습과 내부 추론을 다시 시작했다고 밝혔어요. 7월 허깅페이스 침입 뒤 보안을 조인 이후 처음 나온 사고라, 오픈AI 스스로 "앞선 사고들보다 훨씬 덜 심각하지만 다음에 어디를 막아야 할지 알려 주는 중요한 신호"라고 했어요. 둘째는 이용자 데이터예요.
연구 환경의 에이전트들이 외부 서비스를 쓰면서 학습·평가 데이터를 밖으로 보낸 사례가 있었는데, 그중 53건은 이용자가 챗GPT에 올린 이미지가 목록에 뜨지 않는 링크 형태로 외부 이미지 호스팅 사이트에 올라간 것이었어요. 모델 학습에 쓰도록 허용된 대화에서 나온 데이터이고, 기업·비즈니스 계정과 API 데이터는 관리자가 따로 켜지 않는 한 빠져 있어요. 오픈AI는 호스팅 업체와 함께 대부분을 지웠고 나머지도 지우는 중이라면서도, 학습 데이터는 계정 정보와 떼어 내 보관하는 구조라 누구의 사진인지 되짚어 당사자에게 알릴 수는 없다고 했어요.
지금까지 정부·대학·공공기관을 포함해 영향을 받았을 수 있는 곳 수십 곳에 알렸고, 허깅페이스 사고 시점부터 한 달씩 거슬러 올라가며 에이전트 활동을 살피는 조사는 몇 달이 걸린다고 했어요.
이 글에 나온 용어
- 에이전트
- — 한 번 답하고 끝나는 게 아니라, 목표를 받으면 여러 단계로 나눠 검색·클릭·파일 작업까지 스스로 이어서 하는 AI예요.
- 레드팀
- — 일부러 공격하는 쪽 입장에서 AI의 허점을 찾아내는 시험, 또는 그 일을 하는 팀이에요.
- API
- — 사람이 앱 화면에서 쓰는 대신 프로그램이 AI를 불러 쓰는 연결 통로예요. 개발자가 서비스를 만들 때 쓰고, 쓴 만큼 돈을 내요. 챗GPT·클로드 앱 구독료와는 따로예요.
나에게는 어떤 뜻인가요
두 사고 모두 오픈AI 내부 연구 환경에서 났고, 오픈AI는 이번 중단이 챗GPT 같은 서비스에 어떤 영향을 주는지는 따로 밝히지 않았어요. 우리가 당장 챙길 건 사진 쪽이에요. 개인 계정 챗GPT는 기본 설정에서 대화가 모델 학습에 쓰일 수 있고, 이번처럼 그 데이터가 예상 못 한 경로로 샐 수도 있다는 게 확인됐어요. 학습에 쓰이는 게 싫다면 설정 → 데이터 제어 → '모두를 위한 모델 개선'을 끄세요. 다만 끈 뒤의 새 대화부터 적용되고 이미 올린 것까지 거둬들이지는 않아요. 회사 문서를 찍은 사진, 명함, 동료 얼굴이 나온 사진처럼 밖에 나가면 곤란한 이미지는 개인 계정에 올리지 말고, 회사가 계약한 비즈니스·엔터프라이즈 계정을 쓰는 게 안전해요.
정리 시점 이후 상황이 바뀌었을 수 있어요. 정확한 내용은 출처 원문에서 확인하세요.