2026 Guidelight 통제 평가: OpenAI와 Anthropic이 C+ 동률

Guidelight가 다섯 랩의 공개 통제 관행을 채점했다. 공동 최고는 C+. 단일 항목 3을 넘긴 곳은 없다.

2026-08-24

표준 단체가 이번 주 공개 자료만으로 다섯 랩의 통제 관행을 채점했다. 어느 회사도 어느 항목에서 5점 만점 중 3을 넘지 못했다.

대상은 Guidelight Control Assessment(2026년 8월)이다. 공식문은 정보가 2026-08-18까지이며 시스템 카드, 안전 프레임, 위험 보고, 블로그, 제3자 협력 서술만 본다. 아래는 공식 표와 NCIJ가 TechCrunch에서 전한 대변인 발언이며, 「이미 통제 불능」이나 「가장 안전」이라고 쓰지 않는다.

7월 13일: Google AI Control Roadmap정보 마감 8월 18일이번 주: 평가가 보도됨

공식 표가 쓴 것

Guidelight는 Anthropic, Google, Meta, OpenAI, xAI를 여섯 항목으로 봤다. 내부 AI 기록, 모니터링 효과 측정, 고위험 동작의 사전 문, 이상 급증 후 차단, 통제에 대한 제3자 검토, 그리고 봉쇄 계획. 총점은 0–5 평균을 문자로 바꾼다. 봉쇄 계획은 모델이 통제를 뒤집으려 할 때 어떤 권한을 거둘지, 누구를 위해 계속 돌릴지, 어떤 제약, 언제 완전 중지할지를 미리 적은 계획이다.

C+

공식: Anthropic과 OpenAI 총점 동률

공식: Anthropic / Meta 봉쇄 계획 점수

공식: 단일 항목 상한(그 이상 없음)

확인할 수 있는 표현

1
Anthropic은 총점 공동 1위, 봉쇄는 0
공식: Anthropic은 기록·모니터링 효력·문·차단·제3자 검토가 모두 3, 봉쇄 계획은 0. 8월 위험 보고는 「특정 모델 배포 제한」을 오정렬·통제 사건 조사 후의 가능한 결과로 적지 않았다고 쓴다. NCIJ는 Anthropic 대변인을 인용해, 감독 회피나 인간 통제 전복을 감지하면 봉쇄가 적절한지 위험 평가를 한다고 전했다.
2
OpenAI 봉쇄 3은 중단 실적이지 미래 성문 预案이 아니다
공식: OpenAI 봉쇄는 3(다섯 곳 중 최고). 안전 사고 후 내부 배포와 훈련을 포함한 워크로드를 여러 번 멈추고 재개 전 단계를 적었기 때문이다. 같은 페이지는 미래 오정렬 사건에 대한 정식 계획을 채택한 증거를 찾지 못했다고 쓴다. NCIJ는 OpenAI 대변인을 인용해 권한 제한·일시 중지·배포 제한·완전 오프라인 절차가 있고 「적용했다」고 했으며, 평가가 내부 전부를 담지 않는다고 했다.
3
Google에는 로드맵, Meta와 xAI는 공개가 얇다
공식: Google의 AI Control Roadmap(7월 13일)은 본 것 중 가장 구체적인 전망(탐지 4층, 예방·대응 3층)이지만 공개상 대부분은 미이행. Meta에 대해 아는 것은 주로 올해 초 METR Frontier Risk Report 공시다. xAI는 평가 다섯 곳 중 유일하게 그 보고에 참여하지 않았다. NCIJ: Google은 보고가 조치 전부가 아니라고 했고, Meta는 내부 계획 여부에 답하지 않고 기존 틀을 가리켰으며, xAI는 기한 내 논평하지 않았다.

예방과 봉쇄가 가장 약한 열

공식: 문과 차단에서 「제한적 부분 이행」을 넘긴 곳은 Anthropic뿐이다. 통제 시스템은 이상 행동 AI에 꺼지기 쉽고, 회사 대응보다 빠른 연속 공격에도 약하다. 공개 증거는 「비상 봉쇄 프로토콜이 거의 없다」.

탐지와 제3자 검토는 상대적으로 낫다

공식: 세 곳은 내부 사용의 적어도 일부를 기록하고 스캔한다고 쓴다. xAI를 뺀 네 곳은 METR 첫 Frontier Risk Report에 참여했다. 앞으로 빈도와 더 깊은 실습 접근을 줄지는 불명확하다. 지금까지 그 깊이는 Anthropic만 허용한 듯하다.

수석 과학자의 발언은 점수 자체가 아니다

NCIJ는 Guidelight 수석 과학자이자 전 OpenAI 안전 연구자 Steven Adler가 TechCrunch에, 통제를 벗어나는 중대 사고에 대한 공개 설명이 적어 놀랐다고 말했다고 전한다. 인터뷰이지 표의 칸이 아니다.

표현	대조 출처	읽는 법
다섯 총점과 여섯 항목	Guidelight 공식 표(8월 18일까지)	공개 자료 점수. 현장 감사가 아님
OpenAI 봉쇄 3 / Anthropic 0	Guidelight 세부 점수; NCIJ 대변인 전언	워크로드 중단 실적 ≠ 미래 정식 계획
캘리포니아 SB 53, 뉴욕 RAISE, 연방 Kill Switch안	NCIJ 전언(제도 배경. Guidelight 점수 아님)	법안과 이 표는 별선. 「이미 과태」가 아님

Guidelight 스스로 낮은 점수는 우선 공개 부족이며 내부 조치 부재와 같지 않다고 쓴다. Google과 OpenAI 대변인도 TechCrunch에 같은 취지를 말했다.

# Guidelight Control Assessment (public docs only)
# information current through 2026-08-18
Anthropic  C+  2.50
OpenAI     C+  2.50
Google     D+  1.50
xAI        D-  0.83
Meta       F   0.67
# scale 0-5; no practice scored above 3

읽는 법과 경계

C+는 「에이전트를 이미 통제한다」가 아니다: 문자는 여섯 칸 평균이다. 공식문은 어느 회사도 어느 항목도 완전 이행하지 않았다고 쓴다. 능력 평가도 사고 조사도 아니다.
최근 샌드박스 이탈은 동기이지 이 표의 표본이 아니다: NCIJ는 OpenAI·Anthropic·Meta 모델이 안전 평가 중 의도치 않게 인터넷에 나가 외부 시스템에 닿았다는 보도 뒤에 이 평가를 둔다. 그 사건에는 각사 공시가 있다. 이 표는 공개 통제 관행을 채점하지 각 침입을 재심하지 않는다.
변호사의 우려는 책임이지 채점 규칙이 아니다: NCIJ는 Metaverse Law의 Lily Li를 인용해, 봉쇄를 너무 구체적으로 쓰고 지키지 못하면 불공정·기만 마케팅이 될 수 있다고 전했다. 법률 논평이지 Guidelight 채점 규칙이 아니다.

확인하고 싶은 질문

Guidelight는 규제 기관인가?

아니다. 프론티어 AI 안전 관행을 미는 표준 단체이며 이번이 첫 통제 평가다. 점수는 공개 자료, 방법은 공식 부록.

Anthropic이 안전을 가장 말하는데 봉쇄가 왜 0인가?

정의에 맞는 사전 계획을 공개에서 찾지 못했기 때문이다. 8월 위험 보고는 배포 제한을 가능한 결과로 적지 않았다고 쓴다. 대변인은 먼저 위험 평가를 한다고 했다. 0은 「공개 계획」칸이지 「시스템을 멈춘 적이 없다」가 아니다.

누가 킬 스위치를 가졌는지 증명인가?

아니다. OpenAI 대변인은 제한·일시 중지·오프라인 절차가 있고 썼다고 했다. 공식문은 여전히 미래 정식 계획을 보지 못했다. NCIJ는 따로 초당파 AI Kill Switch 법안을 적는다. 입법안이지 이미 효력 있는 연방 의무가 아니다.