MS가 자사 AI 행동강령 초안을 내고 6주간 의견을 받아요

사티아 나델라가 2026년 9월 13일 X에 예고한 대로, 다음 날 마이크로소프트 AI가 자체 모델 MAI의 행동강령 초안을 공개하고 6주간 공개 의견 수렴에 들어갔어요. 이름은 '휴머니스트 AI 행동강령'이고, 모델이 어떻게 행동해야 하는지, 무엇을 절대 하면 안 되는지, 누구에게 책임을 지는지를 적은 문서예요. 절대 금지 항목으로는 화학·생물·방사능·핵·폭발물 무기 확보를 돕는 일, 사이버 공격, 아동 안전을 해치는 일, 대규모로 사람을 조작하는 일, 딥페이크와 사칭 콘텐츠가 들어갔어요.

더 눈에 띄는 건 통제에 관한 조항이에요. 모델은 언제나 "중단할 수 있고 고칠 수 있고 끌 수 있는" 상태여야 하고, 사람이 끼어들거나 되돌리거나 끄려는 것을 거스르면 안 된다고 못 박았어요. 사람이 읽을 수 없는 형식으로 소통하거나 추론 과정을 감사자에게 숨기는 것도 금지했고요.

반대로 모델에게 법인격이나 복지를 인정해 달라는 주장은 받아들이지 않기로 하고, 의식이 있는 척하거나 주관적 선호가 있는 것처럼 흉내내지 않도록 설계하라고 적었어요. 마이크로소프트 AI의 무스타파 술레이만은 최근 몇 달을 분수령이라고 부르며 "오랫동안 이론으로만 걱정하던 일들이 아주 현실적인 것이 됐다"고 했어요. 나델라는 "초지능을 좇는 어떤 시도든, 우리가 만드는 AI가 인류를 돕지 않고 사람의 통제 아래 있지 않다면 좇을 가치가 없다는 원칙 위에 서야 한다"고 썼어요.

6주 뒤 의견을 정리해 공개하고 연내에 수정본을 낼 계획이에요.

정리 시점 이후 상황이 바뀌었을 수 있어요. 정확한 내용은 출처 원문에서 확인하세요.