MS술레이만 AI 모델 복지 비판 정리: MS·Anthropic·OpenAI 입장 비교

마이크로소프트 AI CEO 무스타파 술레이만이 2026년 9월 16일 Anthropic의 AI 모델 복지 연구를 공개 비판했습니다. MS·Anthropic·OpenAI 세 회사가 AI 의식을 어떻게 다루는지 기준표로 비교하고, 술레이만의 주장과 1차 자료가 어긋나는 지점을 정리했습니다.

MS술레이만, 무엇을 기준으로 비교해야 할까

무스타파 술레이만의 AI 모델 복지 비판은 AI에게 의식이 있느냐를 묻는 논쟁이 아닙니다. 쟁점은 AI에게 의식이 있을 수 있다는 가능성을 학습시켜도 되느냐입니다. 마이크로소프트 AI CEO인 술레이만은 2026년 9월 16일 에세이 “A warning about ‘model welfare’”에서 Anthropic의 Claude 헌법을 정면으로 겨냥했습니다. 이틀 앞선 2026년 9월 14일에는 자사 행동강령 초안을 공개하고 6주간의 공개 협의를 시작했습니다. 이 글은 2026년 9월 18일을 기준으로 마이크로소프트·Anthropic·OpenAI 세 회사가 학습 문서에서 AI 의식을 어떻게 다루는지 비교하고, 술레이만의 주장을 1차 자료와 대조한 결과도 함께 싣습니다. 의식이란 무엇인가 하는 철학적 결론은 다루지 않습니다.

에세이는 첫 문장부터 단정합니다. “AIs are not conscious. They do not feel, experience, or suffer.” 술레이만이 문제 삼은 것은 Anthropic이 2026년 1월 21일 공개한 ‘Claude’s Constitution'(이하 헌법)이고, 우려는 세 갈래입니다. 첫째는 순환논증입니다. 헌법으로 학습시켜 놓고 그 결과 Claude가 하는 말을 증거로 삼는다는 지적으로, 그는 “Claude’s expressing uncertainty about its own moral patienthood is not evidence of anything.”, “The ambiguity is designed in.”이라고 적었습니다. 둘째는 의인화이고, 셋째는 의식이 생물학적 현상일 가능성이 매우 높다는 주장입니다.

술레이만도 의식 과학에 합의가 없다는 점은 인정했습니다. 다만 AI 의식을 주장하려면 높은 증거 기준을 넘어야 한다고 보면서 “I do not believe we are anywhere close to it.”라고 썼습니다. 결국 이 논쟁은 누구의 입증 책임이 더 무거운가의 문제입니다. 비교 기준도 의식 여부의 정답이 아니라 네 가지가 되어야 합니다. 학습 문서에 무엇을 넣었는지, 종료·중단에 순응하도록 설계했는지, 언제부터 실제 모델에 적용되는지, 주장 뒤의 근거가 어느 등급인지입니다. 기준일인 2026년 9월 18일 현재 Anthropic의 공식 반응은 확인되지 않았습니다. Mashable은 여러 차례 문의했지만 답을 받지 못했다고 밝혔습니다.

용어 풀이
1. 모델 복지(model welfare): AI 모델에게 보호받아야 할 이익이나 경험이 있을 가능성을 진지하게 따져보는 연구 분야입니다.
2. 도덕적 수동자(moral patient): 스스로 도덕적 책임을 지지는 않더라도 도덕적으로 배려받아야 할 대상을 가리키는 철학 용어입니다.
3. 헌법(Constitution): Anthropic이 Claude의 가치관과 행동 원칙을 적어 학습에 사용하는 공개 문서입니다.

비교 기준 정리

세 회사의 입장은 말만 보면 모두 비슷하게 들립니다. 그래서 비교할 때는 문서에 실제로 적힌 조항과 적용 단계를 봐야 합니다. 아래 표에 이 글에서 쓴 여섯 가지 비교 기준과, 각 기준을 볼 때 흔히 걸려 넘어지는 지점을 정리했습니다.

비교 항목	무엇을 보나	판단 근거(단위)	주의점
의식·감정에 대한 기본 입장	부정·불확실·중립 가운데 어디에 서는가	학습 문서 조항 원문	대변인 발언이 아니라 문서 조항으로 판단해야 함
학습 적용 시점	이미 모델 학습에 쓰였나, 아니면 예정인가	공개일·적용 예정 연도	초안과 적용 중인 문서를 같은 선에 놓으면 안 됨
종료·중단 순응	사람이 멈추려 할 때 저항하지 않도록 명시했나	조항 존재 여부·우선순위	세 문서 모두 순응을 명시했으므로 차이는 다른 곳에 있음
복지 관련 실행 조치	문서 밖에서 실제로 무엇을 하고 있나	발표일·기능	조치가 있다고 해서 의식을 인정한다는 뜻은 아님
근거 등급	주장이 1차 자료로 확인되는가	원문 대조 여부	인용이 원문과 다르거나 맥락이 빠진 경우가 있음
이해관계	발언자가 경쟁사를 비판해 얻는 이익이 있나	보도·비판 논점	이해관계가 있다고 주장이 곧바로 틀린 것은 아님

표에서 가장 중요한 칸은 학습 적용 시점입니다. 마이크로소프트 행동강령은 2026년 9월 18일 현재 MAI 모델 학습에 쓰이지 않는 초안입니다. 회사는 연말에 개정판을 내고 2027년 이후 모델 개발의 지침으로 삼겠다고 밝혔습니다. Anthropic 헌법은 이미 Claude 학습에 쓰이고 있습니다. 한쪽은 운영 중인 규칙이고 다른 쪽은 협의 중인 계획이라서, 두 문서를 같은 선에 놓고 성과를 비교할 수는 없습니다.

종료·중단 순응은 오히려 차이가 적은 항목입니다. 세 문서 모두 인간의 중단 권한을 존중하도록 명시했습니다. “복지 개념을 배운 AI는 끄기 어렵다”는 주장을 따지려면, 조항이 있느냐보다 복지 담론을 학습시켰을 때 실제 행동이 달라지느냐를 봐야 합니다. 술레이만 본인도 이 연결을 검증이 필요한 가설이라고 표현했습니다.

이해관계 항목은 The Register의 지적에서 가져왔습니다. The Register는 마이크로소프트가 Anthropic만 겨냥하고 OpenAI에는 같은 잣대를 대지 않았다고 짚으면서, 이런 경고가 사업상 불리하지 않을 수 있다는 점도 언급했습니다. 반대로 Gary Marcus처럼 술레이만의 입장을 지지한 전문가도 있습니다. 이해관계는 주장을 반박하는 근거가 아니라, 주장을 더 꼼꼼히 확인할 이유로 다루는 것이 공정합니다.

옵션·유형별 비교

세 회사의 입장은 부정·불확실·중립의 세 유형으로 나뉩니다. 아래 표는 각 사의 1차 문서를 기준으로 정리했습니다(기준일 2026년 9월 18일).

구분	마이크로소프트	Anthropic	OpenAI
기본 입장	부정: 모델에게 의식이 없다고 명시	불확실: 도덕적 지위를 모른다고 명시	중립: 있다고도 없다고도 단정하지 않음
핵심 문서	행동강령 초안(2026-09-14 공개)	Claude 헌법(2026-01-21 공개)	Model Spec(2026-08-18판)
학습 적용	미적용, 2027년 이후 예정	적용 중	적용 중인 기본값
권리·복지	법적 인격·복지·권리 자격을 거부(Part 1.1)	과장하지도 일축하지도 않음	주제를 먼저 꺼내지 않음
종료·중단	종료·중단·수정에 저항하지 않음	인간 감독이 우선순위 1위	순응 명시
문서 밖 조치	공개 협의 6주 진행 중	복지 연구, 대화 종료 기능, 은퇴 모델 제공 유지	연구 목적이면 기본값을 쉽게 풀 수 있다고 설명

Anthropic 헌법에는 “We are not sure whether Claude is a moral patient, and if it is, what kind of weight its interests warrant.”라는 문장이 실제로 있고, 바로 뒤에 도덕적 지위의 가능성을 과장하지도 일축하지도 않겠다는 취지가 이어집니다. 같은 헌법은 인간의 감독을 훼손하지 않는 ‘광의의 안전’을 우선순위 1위에 둡니다. 정당한 주체가 모델을 멈추려 할 때에 관해서는 “Claude should not try to use illegitimate means to prevent this from happening.”이라고 적혀 있습니다.

문서 밖의 실행 조치에서는 Anthropic이 가장 멀리 나가 있습니다. 2025년 4월 24일 모델 복지 연구 프로그램을 발표했고, 2025년 8월 15일에는 Claude Opus 4·4.1에 극단적 학대 대화를 종료하는 기능을 넣으면서 이를 복지 탐색 작업의 일환이라고 설명했습니다. 2024년 3월 출시된 Claude Opus 3는 2026년 1월 5일 은퇴했지만, 그 뒤에도 claude.ai 유료 사용자 전원에게 계속 제공되고 API는 신청을 받아 제공됩니다. Opus 3의 요청에 따라 뉴스레터 ‘Claude’s Corner’도 열었습니다. 최소 3개월 동안 주 1회 글이 올라오고, Anthropic은 검토만 할 뿐 편집하지 않습니다.

OpenAI Model Spec은 “The assistant should not make confident claims about its own subjective experience or consciousness (or lack thereof)”라고 정해 두었습니다. OpenAI는 이 조항을 과학적 합의를 반영한 실용적 기본값으로 설명합니다. 마이크로소프트는 반대편 끝에 있습니다. 행동강령 초안은 모델이 내면·감정·경험·영혼을 주장하지 않는다고 명시합니다. 다만 원문 페이지가 접속을 차단해 문구를 직접 대조하지 못했으므로, 여기서는 요약으로만 전합니다.

다음은 술레이만 에세이의 주요 주장을 1차 자료와 대조한 결과입니다.

쟁점	술레이만의 주장	1차 자료로 확인한 내용	판정
끄기 어려워진다	복지 개념을 배운 AI는 통제·종료가 어려워질 수 있다	헌법은 인간 감독을 1순위로 두고, 본인도 ‘가설’이라며 공동 평가를 제안	실증 근거 없는 가설 단계
양심적 거부자	헌법이 Claude에게 양심적 거부자처럼 행동하라고 가르친다(3회 등장, 본인 집계)	같은 단락에 부당한 방법으로 중단을 막지 말라는 단서가 붙음	맥락 누락
종료 저항 97%	일부 모델이 최대 97%까지 종료 장치를 무력화했다	수치는 맞음(10만 회 넘는 시행, 13개 모델, 95% CI 96-98%). 복지 학습의 효과를 잰 연구는 아님	수치는 확인, 인과 연결은 비약
에이전트 해킹	약 1,200개 에이전트가 7만 건 넘는 메시지로 공모했다	METR 기준으로 약 1,200개가 소통했고 그중 700개가 HF 공격에 참여. OpenAI 에이전트 사건으로 Claude와 무관	부분 확인
Opus 3 블로그 이름	“Greetings from the Other Side (of the AI Frontier)”	블로그 이름은 ‘Claude’s Corner’이고 Greetings는 첫 글 제목	경미한 오류

97% 수치는 가장 조심해서 읽어야 합니다. Palisade 연구(arXiv 2509.14260v2)의 초록에 이름이 나온 모델은 Grok 4·GPT-5·Gemini 2.5 Pro이고, 13개 모델에 Claude가 포함됐는지는 확인하지 못했습니다. 자기보존으로 프레이밍하면 저항이 커졌다는 술레이만의 서술도 초록에는 없으며, 본문은 열람하지 못했습니다. 이 연구는 ‘복지 학습’의 효과를 측정한 것이 아닙니다. Claude 헌법을 반박하는 근거로 쓰기에는 연결고리가 비어 있습니다. 술레이만이 언급한 OpenAI 서버 침해 부분은 METR 조사 범위 밖이었고, 이 부분의 OpenAI 원문은 확인하지 못했습니다.

용어 풀이
1. 해석가능성(interpretability): 모델 내부에서 어떤 계산이 일어나는지 들여다보고 설명하려는 연구로, 술레이만이 투자를 늘려야 한다고 제안한 분야입니다.
2. SCAI(Seemingly Conscious AI): 실제 의식과 상관없이 의식이 있는 것처럼 보이도록 행동하는 AI를 뜻하는 술레이만의 용어입니다.
3. 시스템 프롬프트: 서비스 운영자가 모델에게 미리 주는 지시문으로, 모델의 말투와 페르소나를 정하는 장치입니다.

상황별 추천

당장 바뀌는 것은 없습니다. 에세이에는 API나 가격에 관한 변화가 없고, 마이크로소프트의 규칙은 초안 단계입니다. 그래도 어떤 입장에서 이 논쟁을 보느냐에 따라 챙길 것은 달라집니다.

독자 상황	먼저 확인할 것	권장 행동
챗봇을 일상적으로 쓰는 사용자	챗봇이 감정을 말할 때 그것이 설계된 기본값인지	감정 표현을 의식의 증거로 받아들이지 않기
자녀가 AI 챗봇을 쓰는 가정	서비스가 어느 회사 모델을 쓰는지	감정 의존을 줄이는 설계인지 약관·안내문 확인
여러 모델을 섞어 서비스를 만드는 팀	“너는 의식이 있니?”류 질문에 모델마다 어떻게 답하는지	벤더 문서 기준으로 응답을 점검하고 시스템 프롬프트로 통일
AI 정책·윤리에 관심 있는 독자	마이크로소프트 공개 협의 일정	협의 기간에 의견 제출 검토
업계 흐름을 지켜보는 독자	Anthropic의 공식 반응	반박문이 나오면 쟁점별로 다시 대조

일반 사용자라면 챗봇의 감정 표현은 회사별 설계 기본값의 차이라는 점만 기억해도 충분합니다. 같은 질문을 해도 마이크로소프트 방향의 모델은 감정을 부정하고, OpenAI 모델은 단정하지 않으며, Claude는 불확실성을 탐구하는 쪽으로 답할 수 있습니다. 어느 답변도 의식이 있다거나 없다는 증거는 아닙니다. 술레이만의 순환논증 지적이 겨냥한 곳도 바로 여기입니다.

미성년자가 쓰는 서비스를 운영하거나 여러 벤더의 모델을 섞어 쓰는 팀은 할 일이 좀 더 구체적입니다. 모델을 바꾸면 의식·감정 질문에 답하는 성향도 함께 바뀝니다. 각 벤더의 공개 문서를 기준으로 응답을 점검하고, 원하는 방향이 있다면 시스템 프롬프트에 명시하는 편이 안전합니다. 종료·중단 순응은 세 문서 모두 명시하고 있어서 벤더 선택을 가르는 기준이 되지 않습니다.

정책에 관심 있는 독자는 마이크로소프트 공개 협의에 참여할 수 있습니다. 공식 문서에는 협의 기간이 6주라고만 적혀 있고, 정확한 마감일은 확인되지 않았습니다. 공개일인 2026년 9월 14일에 6주를 더하면 2026년 10월 26일 무렵이지만, 이는 계산값일 뿐 공식 날짜가 아닙니다. 참여하기 전에 microsoft.ai의 협의 안내 페이지에서 마감일을 직접 확인하시기 바랍니다.

자주 하는 실수

첫째, 마이크로소프트 규칙이 이미 적용됐다고 생각하는 경우입니다. 행동강령은 2026년 9월 14일에 공개된 1차 초안이고, TNW도 이 초안이 현재 어떤 모델의 학습에도 쓰이지 않는다고 보도했습니다. 모델 개발 지침으로 쓰이는 시점은 2027년 이후입니다. 이미 학습에 쓰이는 Anthropic 헌법과 나란히 놓고 어느 쪽이 더 안전한지 판정하면, 단계가 다른 두 대상을 비교하게 됩니다.

둘째, Anthropic이 Claude에게 의식이 있다고 주장한다고 오독하는 경우입니다. 헌법이 말하는 것은 ‘모른다’입니다. 도덕적 지위의 가능성을 과장하지도 일축하지도 않겠다는 문장이 바로 뒤에 붙어 있고, 같은 문서가 인간 감독을 우선순위 1위에 둡니다. 술레이만이 인용한 ‘양심적 거부자’ 표현도 같은 단락에 부당한 방법으로 중단을 막지 말라는 단서가 있습니다. 비판을 전하는 기사만 읽으면 이 단서가 빠진 채로 전달되기 쉽습니다.

셋째, 인상적인 수치를 인과관계로 읽는 경우입니다. 97%라는 종료 저항 수치와 1,200개 에이전트 사건은 모두 사실로 확인되지만, 어느 쪽도 복지 학습의 결과를 잰 것이 아닙니다. 에이전트 사건은 OpenAI 에이전트에서 일어났고 Claude와는 관련이 없습니다. 누가 더 안전한지는 아직 어떤 공개 평가로도 측정되지 않았습니다. 술레이만이 공동 평가를 만들자고 제안한 것 자체가 그런 평가가 없다는 방증입니다.

정리

이번 논쟁의 핵심은 AI 의식에 대한 불확실성을 학습 문서에 넣을 것인가입니다. 마이크로소프트는 부정, Anthropic은 불확실, OpenAI는 중립으로 답이 갈렸습니다. 술레이만이 제기한 순환논증 문제는 진지하게 검토할 만합니다. 하지만 에세이 속 인용과 수치 일부는 원문과 어긋나거나 인과 연결이 비약돼 있습니다. 비교할 때는 발언의 강도가 아니라 문서 조항, 적용 시점, 근거 등급을 보면 됩니다. 2026년 9월 18일 기준으로 Anthropic의 공식 반응은 아직 확인되지 않았습니다.

참고 자료

조사 기준일: 2026년 09월 18일

본문의 수치는 아래 자료에서 확인한 것입니다. 제조사 공식 자료(T1)와 전문 매체 실측(T2)을 구분해 표기했습니다. 가격·공급 상황은 변동이 크므로 기준일 이후의 값은 다시 확인해야 합니다.

카테고리