앤트로픽·오픈AI·구글·메타가 뉴욕시의회에서 선서하고 증언했지만, 핵심 안전 질문엔 분명히 답하지 않았어요
2026년 9월 28일 발표 · 10월 5일 청문회 기준 · 출처 amNY
나에게 무슨 뜻인지 먼저 보기 ↓미국 뉴욕시의회가 2026년 10월 5일(현지 시각, 월) 시의원 51명 전원이 모이는 '전원위원회' 형식으로 AI 위험 청문회를 열었어요. 주요 AI 회사들이 이런 자리에서 선서하고 공개 증언한 건 처음이에요. 여기까지 오는 과정이 순탄하지 않았어요.
줄리 메닌 의장이 9월 중순 다섯 회사에 자발적 출석을 요청했지만 구글과 앤트로픽이 처음엔 거절했고, 의장이 소환장 발부를 승인한 뒤에야 9월 27일 오픈AI·구글·앤트로픽이 참석을 확인했어요(메타는 처음부터 응했어요). 정작 나온 사람은 최고경영자가 아니라 실무 책임자들이었어요. 앤트로픽은 프런티어 레드팀을 이끄는 로건 그레이엄, 오픈AI는 정책 개발·운영 책임자 모건 드와이어, 구글은 AI·신기술 정책 디렉터 앨리스 프렌드, 메타는 AI 정책·입법 디렉터 셰인 케이힐이 증언했어요.
보도들은 회사들이 핵심 질문에 분명한 답을 피했다고 전했어요. 메닌 의장이 AI로 파국적인 피해가 날 확률을 숫자로 말해 달라고 하자 네 곳 모두 답하지 않았고, 오픈AI의 드와이어는 "모르겠고, 1%든 10%든 중요하지 않다고 생각한다"고 했다가 의장에게 "아무리 좋게 봐도 경솔하다"는 말을 들었어요. 독립 안전 시험에 떨어지면 출시를 자동으로 멈추겠느냐는 질문에도 내부 검토 절차를 설명했을 뿐 그렇게 하겠다는 약속은 없었고, AI가 큰 피해를 냈을 때 법적 책임을 지겠느냐는 질문에는 구글의 프렌드만 "AI 없이 불법인 일은 AI로 해도 불법"이라고 직접 답했어요.
같은 자리에서 앤트로픽을 그만둔 연구원 제이컵 콕슨, 오픈AI 출신 대니얼 코코타일로, 구글 딥마인드 출신 알렉스 터너 같은 전직 연구원들은 "AI가 AI를 만드는 일을 더 많이 맡을수록 사람이 결과를 살펴보는 빈도는 줄고 있다"고 경고했어요. 일론 머스크의 스페이스XAI는 소환장을 받고도 편지만 보내고 나오지 않았고, 메닌 의장은 소환장 이행을 강제하려고 뉴욕주 법원에 절차를 밟겠다고 밝혔어요. 청문회는 오전에 시작해 오후 늦게까지 이어졌고, 의회는 회사들에 서면 추가 질문을 보내기로 했어요.
의회가 다룰 조례안은 미국에서 처음 시도하는 AI 내부고발자 보상 제도, AI 에이전트 때문에 피해를 본 시민이 회사를 직접 고소할 수 있는 권리, 독립적인 제3자 검증 의무 등이에요. 표결 일정은 아직 정해지지 않았어요.
이 글에 나온 용어
- 레드팀
- — 일부러 공격하는 쪽 입장에서 AI의 허점을 찾아내는 시험, 또는 그 일을 하는 팀이에요.
- 에이전트
- — 한 번 답하고 끝나는 게 아니라, 목표를 받으면 여러 단계로 나눠 검색·클릭·파일 작업까지 스스로 이어서 하는 AI예요.
나에게는 어떤 뜻인가요
당장 국내 이용자에게 바뀌는 건 없어요. 그래도 이번 증언은 선서한 공개 기록으로 남았다는 점에서 의미가 있어요. 네 회사 모두 "사고 위험이 얼마나 되느냐", "안전 시험에 떨어지면 출시를 멈추느냐"는 질문에 숫자나 약속으로 답하지 않았어요. 회사 안에 AI 에이전트를 들이려 한다면, 공급사의 안전 약속을 그대로 믿기보다 우리 쪽에서 막을 장치를 따로 두는 편이 맞다는 뜻이에요. 결제·삭제·외부 전송처럼 되돌리기 어려운 동작에는 사람 승인을 걸고, 에이전트가 닿는 시스템은 권한으로 좁혀 두세요. 규제 흐름으로 보면 연방 정부보다 도시·주가 먼저 움직이고 있고, "AI 에이전트가 끼친 피해에 대해 개인이 직접 소송할 수 있게 하자"는 안이 공식 테이블에 올라 있어요. 이런 법이 생기면 AI 회사들은 에이전트가 스스로 결제하거나 외부 사이트에 접속하는 기능을 더 조심스럽게, 사람 승인을 더 자주 받도록 설계할 가능성이 커요.
정리 시점 이후 상황이 바뀌었을 수 있어요. 정확한 내용은 출처 원문에서 확인하세요.