AI 거버넌스 · 일반 브리핑 · UNREAL LAB 자체 기사
AI를 늦추자는 CEO들, 백악관 앞에서 멈췄다…안전 논의가 규칙이 되기 어려운 이유
AI 연구소 수장들이 개발 속도를 조절하고 외부 평가를 받자고 뜻을 모았지만, 다음 장면은 코드가 아니라 정치에서 나왔다. 미국은 중국과의 경쟁을, 중국은 기술 봉쇄를 먼저 꺼냈다. ‘AI를 안전하게 만들자’는 말이 작동하려면 연구소 안의 약속과 국가 사이의 규칙을 동시에 풀어야 한다.
연구소의 약속은 왜 워싱턴으로 갔나
아모데이의 제안은 AI 훈련을 멈추자는 단순한 요구가 아니다. 첫 단계는 회사 안에서 계속 일하며 안전 절차와 사고 기록을 볼 수 있는 외부 평가자다. 두 번째는 여러 회사가 공통 안전 기준을 맞추는 일이고, 세 번째는 중국을 포함한 국제 협력이다. 첫 단계는 앤트로픽이 혼자 시작할 수 있다. 하지만 두 번째부터는 한 회사가 조심할수록 경쟁에서 손해를 볼 수 있다는 문제가 생긴다. 그래서 회사의 선언은 곧 정부가 중재할 수 있는 규칙의 문제로 넘어간다.
‘안전’보다 ‘뒤처질 위험’이 먼저 나온 미국
미국의 반응은 이 간격을 선명하게 보였다. 도널드 트럼프 대통령은 AI 개발을 늦추자는 요구가 중국에 뒤처지게 할 수 있다는 취지로 비판했다. AP는 여야 일부 의원이 더 많은 안전장치를 논의하고 있지만, 선거를 앞둔 의회에서 빠른 입법은 쉽지 않아 보인다고 전했다. 법이 없는 동안에는 각 연구소가 자율적으로 약속을 지키는 수밖에 없다. 그런데 경쟁사도 같은 속도로 멈출지, 약속을 지키지 않은 곳을 누가 공개할지는 자율 규칙만으로 답하기 어렵다.
중국이 본 것은 안전 협력보다 기술 봉쇄였다
이 제안에는 또 다른 모순이 있다. 아모데이는 세계적 속도 조절에는 중국과의 협력이 필요하다고 쓰면서도, 중국에 최첨단 AI 칩과 장비를 팔지 말아야 한다고 주장했다. 중국 외교부는 이를 협력을 어렵게 만드는 공포 조장과 대결의 언어라고 반박했다. 한쪽은 상대가 몰래 더 강한 모델을 만들까 걱정하고, 다른 쪽은 안전이라는 이름으로 기술 격차를 고정하려 한다고 의심한다. 두 나라가 위험을 말하는 이유는 겹치지만, 확인할 수 있는 기록과 서로 믿을 수 있는 감시 장치에는 아직 합의가 없다.
안전 선언은 결국 ‘멈출 권한’으로 증명된다
그래서 이번 논쟁을 ‘AI를 늦출까, 빨리 갈까’의 구호로만 읽으면 아쉽다. 중요한 것은 외부 평가자가 실제 기록을 볼 수 있는지, 불리한 결과를 공개할 수 있는지, 위험을 발견했을 때 누가 배포를 멈출 수 있는지다. 가디언 등 여러 보도가 지적한 것처럼 업계가 스스로 평가자를 고르는 구조가 강한 규제의 대체물이 될 수 있다는 비판도 남는다. AI를 도입하는 팀의 기준도 비슷하다. 모델의 데모보다 사고 보고·권한 분리·독립 검토가 실제로 있는지부터 확인해야, 안전이라는 말이 제품 소개 문구에서 운영 규칙으로 바뀐다.