앤트로픽이 외부 평가기관 METR 직원 6명을 회사 안에 들였어요, 평가 결과 공개는 회사가 막을 수 없어요
2026년 10월 15일 발표 기준 · 출처 Anthropic
나에게 무슨 뜻인지 먼저 보기 ↓앤트로픽이 2026년 10월 15일, AI 위험을 평가하는 비영리 기관 METR의 직원 6명을 회사 안에 상주시키기 시작했다고 밝혔어요. 다리오 아모데이 CEO가 9월 12일 에세이에서 "남들이 어떻게 하든 먼저 하겠다"고 한 첫 단계를 한 달 만에 실제로 옮긴 거예요. 앤트로픽은 이를 '직원 수준의 접근 권한'이라고 불러요.
METR 평가단은 회사 노트북과 사무실 자리를 받고, 앤트로픽의 위험 평가 팀과 거의 같은 수준으로 내부 도구와 시스템을 쓸 수 있어요. 앤트로픽 직원들도 정렬(AI가 사람 뜻대로 움직이게 하는 일) 위험을 다루는 동료에게 하듯 정보를 나누라는 안내를 받았어요. 빠지는 건 고객 데이터, 변호사와 주고받은 법률 자문, 모델 구조 정보처럼 미리 정해 둔 몇 가지뿐이에요.
가장 중요한 건 공개 권한이에요. METR은 앤트로픽의 위험 수준·사고·관행에 대한 분석을 직접 발표하고, 앤트로픽은 발표 자체를 막을 수 없어요. 미리 정한 좁은 범주의 정보만 가려 달라고 요구할 수 있는데, 이때도 METR은 무엇이 가려졌는지와 그 가림이 정당했는지를 공개적으로 말할 수 있어요.
앤트로픽은 이를 은행 감독관이 큰 은행 안에 상주하는 방식에 빗댔어요. 평가 기관과의 관계는 세 단계로 나눴어요. 1단계는 범위를 좁힌 조사이고 결과를 공개하려면 앤트로픽의 승인이 필요해요.
2단계는 승인 없이 공개할 수 있고 더 많은 정보를 받아요. 3단계가 이번에 METR이 받은 상주 방식이에요. 생물 안전 연구 단체 SecureBio는 8월 위험 보고서의 화학·생물 무기 부분을 검토하고 있고, 액센츄어·패컬티와는 레드팀(일부러 공격해 약점을 찾는 시험)과 안전장치 시험을 함께 하기로 했으며, 허깅페이스를 비롯한 몇 곳과는 초기 논의 중이에요.
앤트로픽은 이번 발표를 9월 29일 서명한 백악관 초지능 합의의 '독립 외부 감사' 약속과 연결했어요. 오픈AI의 샘 올트먼도 9월 12일 똑같이 하겠다고 했지만, 11월 3일 현재 오픈AI 뉴스룸에는 같은 발표가 없고, 10월 29일 글에서 METR와 레드우드 리서치가 7월부터 3주 동안 내부 감시 체계를 점검했다고만 밝혔어요. METR의 첫 평가 보고서가 언제 나올지도 아직 정해지지 않았어요.
이 글에 나온 용어
- 정렬·오정렬
- — AI가 사람이 의도한 대로 행동하게 맞추는 일이 "정렬"이고, 의도와 다르게 움직이는 게 "오정렬"이에요.
- 레드팀
- — 일부러 공격하는 쪽 입장에서 AI의 허점을 찾아내는 시험, 또는 그 일을 하는 팀이에요.
- 초지능(SI)
- — 거의 모든 일에서 사람을 넘어서는 AI를 가리키는 말이에요. 아직 그런 AI가 나왔다고 인정된 적은 없어요.
나에게는 어떤 뜻인가요
당장 클로드를 쓰는 방식이 바뀌지는 않아요. 달라지는 건 앞으로 나올 자료예요. 지금까지 AI 회사의 안전성은 회사가 스스로 낸 보고서로만 볼 수 있었는데, 이제 회사가 발표를 막을 수 없는 바깥 평가 결과가 나오게 돼요. 회사에서 AI 공급사를 고르거나 계약을 갱신하는 일을 맡고 있다면, 그 회사가 외부 평가 기관에 어느 단계의 권한을 줬는지와 독립 평가 보고서가 공개됐는지를 비교 항목에 넣어 보세요.
정리 시점 이후 상황이 바뀌었을 수 있어요. 정확한 내용은 출처 원문에서 확인하세요.