AI 위험 경고는 보통 서구 빅테크가 중국 AI를 견제하려고 꺼내는 카드로 알려져 있다. 이번엔 반대 방향에서 터졌다. 중국 AI 스타트업 딥시크의 핵심 개발자가 미국 기업 앤트로픽의 독점 가능성을 먼저 경고하고 나섰다. 그것도 히틀러가 연합군보다 먼저 원자폭탄을 손에 넣는 상황에 빗대면서다. 이 비유가 왜 하필 앤트로픽을 향했는지는 뒤에서 그의 후속 설명과 함께 다시 짚는다.
위챗에 올라온 글 하나가 앤트로픽을 겨눈 배경
딥시크의 핵심 개발자 류성위는 9월 14일 자신의 위챗 계정에 글을 올렸다. 원래 목적은 딥시크 신모델 v4.1 발표 이후의 개인적인 소회를 남기는 것이었다. 그런데 글 중간에 앤트로픽을 겨냥한 대목이 퍼지면서 이야기가 커졌다.
그는 “인류는 자신을 파멸시키는 일에서 예로부터 조금도 주저함이 없었다”고 썼다. 자신이 모델 훈련을 늦춘다 해도 다른 회사가 계속 발전시켜 결국 자신을 제압할 테니, 모두가 파멸에 집착하는 상황에서는 자신도 잔혹한 군비 경쟁에 참가할 수밖에 없다는 논리였다. 그러면서 “앤트로픽이나 오픈AI가 최첨단 AI를 개방적으로 공급할 것이라 믿지 않는다”고 못박았다. 앤트로픽이 범용 인공지능(AGI)을 장악한다면 그 심각성이 히틀러가 원자폭탄 기술을 먼저 확보하는 정도라는 표현까지 썼다. 이 글은 이틀 만에 10만 건 넘는 조회수를 기록했다.
류성위가 던진 문제, 기존 AI 안전 논쟁과 뭐가 다른가
지금까지 AI 위험론은 대체로 “중국이 규제 없이 AI를 밀어붙이니 서구가 속도를 조절하며 견제해야 한다”는 방향으로 흘렀다. 다리오 아모데이 앤트로픽 CEO를 비롯한 서방 업계 인사들이 내세운 속도조절론도 이 틀 안에 있었다. 류성위의 글은 이 구도를 뒤집었다는 점에서 다르다.
- 주체가 다르다. 규제를 요구하던 쪽이 아니라 규제 대상으로 지목되던 중국 개발자가 직접 경고에 나섰다.
- 위험의 초점이 다르다. “AI가 통제 불능이 될까 봐”가 아니라 “소수 기업이 AI를 독점할까 봐”를 문제 삼았다.
- 제시한 미래상이 구체적이다. 생산성이 극대화돼 생활 수준이 오르는 사회와, 소수 기업이 자원을 통제하는 사회 두 갈래로 나눠 설명했다.
공산주의냐 사이버펑크냐, 그가 그린 두 갈래 미래
류성위는 AI 발전의 결과로 두 시나리오를 제시했다. 하나는 생산성이 극대화돼 사람들의 생활 수준이 뚜렷이 향상되는 사회다. 다른 하나는 게임 ‘사이버펑크 2077’이 그리는 것 같은 디스토피아다. 후자에서는 소수 테크기업이 대부분의 자원을 쥐고, 극소수만 최신 AI로 ‘기계적 승천’에 가까운 능력을 얻는 반면 대다수는 미약한 AI만 쓸 수 있게 된다는 게 그의 설명이다. 계층 이동이 지금보다 훨씬 어려워질 거라는 우려도 덧붙였다.
다음 중 류성위가 실제로 주장한 내용이 아닌 것은? ① 앤트로픽·오픈AI가 최첨단 AI를 개방적으로 풀지 않을 것이다 ② AI 발전 속도를 국가가 강제로 늦춰야 한다 ③ 계층 간 이동이 점점 어려워질 수 있다
답은 ②다. 류성위는 속도를 늦추자고 주장하지 않았다. 오히려 자신이 훈련을 늦춰도 다른 회사가 계속 개발할 테니 결국 잔혹한 군비 경쟁에 참가할 수밖에 없다고 했다. 그가 원한 건 개발 중단이 아니라 최첨단 AI를 소수가 독점하지 않는 것이었다.
딥시크와 클로드, 실제로 쓸 때 체감되는 차이
이번 논쟁의 배경을 이해하려면 두 회사의 AI를 실제로 쓸 때 뭐가 다른지 먼저 봐야 한다. 딥시크는 모델 가중치를 공개하는 오픈소스 방식을 택해왔고, 클로드는 앤트로픽이 API와 앱으로만 제공하는 폐쇄형 방식이다. 예를 들어 사내 서버에 모델을 직접 올려 자체 데이터로 튜닝하고 싶은 기업이라면 딥시크 쪽 모델을 내려받아 자체 인프라에서 돌리는 선택지가 있지만, 클로드는 앤트로픽 서버를 거치는 API 호출로만 접근할 수 있다.
| 항목 | 딥시크(오픈소스형) | 클로드(폐쇄형) |
|---|---|---|
| 공개 방식 | 모델 가중치 공개 | API·앱으로만 제공 |
| 실행 환경 | 자체 서버 구동 가능 | 앤트로픽 서버 경유 필수 |
| 커스터마이징 | 직접 미세조정 가능 | 프롬프트·설정 범위 내 |
| 비용 구조 | 인프라 구축비 위주 | 사용량 기반 종량제 |
회사가 직접 서버를 관리할 여력이 있는지에 따라 유리한 쪽이 갈린다. 데이터를 외부로 내보내기 꺼려지는 조직이면 오픈소스 쪽으로 기운다. 반대로 인프라 관리 인력이 따로 없고 안전장치가 이미 갖춰진 서비스를 바로 쓰고 싶다면 폐쇄형이 낫다.
관련: 삼성물산 AI 웰니스 솔루션 웰피, 진짜 노림수는 따로 있다
오픈소스 AI가 안전하다고 단정할 수 없는 이유
류성위의 주장이 설득력 있다고 해서 오픈소스 AI가 무조건 안전하다는 뜻은 아니다. 모델을 누구나 내려받아 돌릴 수 있다는 건 악용 가능성도 그만큼 넓어진다는 의미다. 폐쇄형 서비스는 사용 정책 위반을 감지하고 차단하는 장치를 회사가 직접 통제하지만, 오픈소스 모델은 내려받은 뒤 어떤 방식으로 쓰이는지 원 개발사가 추적하기 어렵다.
류성위 본인도 이튿날인 15일 별도 글에서 “앤트로픽의 비호감을 이야기하려던 게 아니었다”며 개인 의견일 뿐 회사 입장이 아니라고 선을 그었다. AI가 앞으로도 계속 강해질 것이며 구신지능(피지컬 AI)이나 반복적 자기개선(RSI) 같은 기술이 뒤따를 거라면서, 미래 AI 능력 자체에는 낙관적이라는 입장도 밝혔다. 과장이 섞인 비유였다는 건 본인도 인정한 셈이지만, 독점 구도 자체를 짚은 지적은 그냥 넘기기엔 근거가 탄탄하다.
앤트로픽이 하필 히틀러 원자탄 비유로 소환된 배경
류성위가 앤트로픽을 콕 집은 이유는 이 회사의 스탠스와 관련이 있다. 다리오 아모데이 CEO를 비롯한 앤트로픽 인사들은 그동안 AI 발전 속도를 조절해야 한다는 주장과 중국에 대한 규제 필요성을 함께 내세워왔다. 류성위 입장에서는 이 논리가 결국 소수 기업만 AGI에 먼저 도달하고 나머지는 뒤처지게 만드는 결과로 이어질 수 있다고 본 것이다.
이 발언이 해외 소셜미디어와 외신까지 번진 데는 시점도 한몫했다. 서방 AI 업계가 속도조절론과 중국 규제론을 동시에 밀던 시기에, 규제 대상으로 지목되던 쪽에서 정면 반박이 나온 셈이라 화력이 커졌다. 신모델 발표 소회로 시작한 글이 앤트로픽을 겨눈 논쟁으로 번진 배경이 여기에 있다.
오픈AI·구글·메타는 이 논쟁에서 어느 쪽에 가깝나
류성위의 지적을 앤트로픽 한 곳의 문제로만 보면 그림이 좁아진다. 최첨단 모델을 만드는 회사들의 공개 정책은 회사마다 이미 갈라져 있다. 오픈AI는 이름과 달리 최신 모델의 가중치를 공개하지 않고 API로만 접근을 허용하는 쪽을 택해왔다. 구글도 최상위 모델은 API·앱 형태로 묶어두면서, 상대적으로 가벼운 모델만 별도로 공개하는 이원화 전략을 쓴다. 메타는 반대로 대형 모델까지 가중치를 공개하는 쪽에 가깝다.
이 구도를 보면 류성위가 말한 “소수 기업의 독점”이 앤트로픽만의 특성이 아니라 최상위권 AI 기업 대부분에서 공통으로 나타나는 흐름이라는 게 드러난다. 메타 정도를 제외하면 가장 성능이 좋은 모델일수록 공개 범위가 좁아지는 경향이 뚜렷하다. 딥시크가 굳이 오픈소스 노선을 고집하는 이유도 이 지점과 맞닿아 있다. 성능에서 밀리더라도 접근성에서 차별화하겠다는 계산이다.
미국 회사 논쟁인데 국내 이용자한테는 무슨 상관일까
여기까지 읽고도 “결국 미국·중국 회사끼리 하는 얘기 아니냐”고 생각할 수 있다. 그런데 국내에서 AI를 업무에 쓰는 사람 입장에서는 이 논쟁이 실제 선택으로 이어진다. 사내 문서를 외부 서버로 보내는 게 부담스러운 회사라면, 오픈소스 모델을 자체 서버에 올려 쓰는 방식을 검토하게 된다. 반대로 별도 인프라 담당자를 두기 어려운 소규모 팀이라면, 관리 부담 없이 바로 붙여 쓰는 폐쇄형 서비스 쪽이 현실적이다.
여기서 하나 짚을 부분이 있다. 오픈소스 모델을 쓴다고 데이터 유출 위험이 사라지는 건 아니다. 모델을 자체 서버에 올려도 그 서버 보안이 허술하면 위험은 똑같이 존재한다. 반대로 폐쇄형 서비스를 쓴다고 무조건 안전하다는 뜻도 아니다. 결국 어느 쪽을 고르든 데이터 처리 방식과 접근 권한을 회사가 직접 확인해야 한다는 결론은 같다.
그래서 AI 도구 하나 고를 때 이 기준부터 보면 된다
이 논쟁을 실제 도구 선택에 연결해보면 기준은 의외로 단순해진다. 데이터를 외부로 내보내기 꺼려지거나 자체 인프라에 맞춰 모델을 손보고 싶다면 오픈소스 계열이 유리하다. 반대로 관리 부담 없이 바로 붙여 쓰고 싶고, 안전장치와 정책 준수가 우선이라면 클로드 같은 폐쇄형 서비스가 맞는다. 두 진영 중 어느 쪽이 옳으냐는 이 논쟁 하나로 정리되지 않는다.
다만 분명한 건 딥시크 신모델 v4.1을 계기로 나온 개발자 개인의 글 하나가 이틀 만에 10만 건 넘는 조회수를 모으며 업계 논쟁으로 번졌다는 사실이다. AI 패권을 둘러싼 온도 차는 앞으로도 이런 식으로 예상 밖의 발언에서 다시 불붙을 가능성이 크다.
