“이미 이란 공습 투입됐는데”… 미군 최정예 AI가 하루아침에 쫓겨난 속사정

“양심상 받아들일 수 없다.” 다리오 아모데이 앤트로픽 CEO가 미 국방부의 요구를 거부하자, 도널드 트럼프 대통령은 지난달 27일 모든 연방기관에 앤트로픽의 AI 사용 중단을 지시했다. 국방부는 자국 기업인 앤트로픽을 ‘공급망 위험 기업’으로 지정했다. 문제는 이 AI가 이미 실전에 투입됐다는 점이다. 앤트로픽의 클로드는 지난 1월 미군의 니콜라스 마두로 베네수엘라 대통령 체포 작전과 최근 대이란 공습에서 정보 분석, 작전 계획, 사이버 작전 등 핵심 임무를 수행했다.

앤트로픽은 2024년 6월 프론티어 AI 기업 중 최초로 미군 기밀 네트워크에 클로드를 배치한 협력사였다. 2억 달러 규모의 계약을 맺고 미군의 주요 작전을 지원해온 것이다. 그러나 국방부가 기존 제한 조건을 무효화하고 ‘모든 합법적 용도’에 무제한 사용할 수 있도록 요구하면서 갈등이 촉발됐다. 앤트로픽은 미국 시민에 대한 대규모 감시와 인간 개입 없는 완전 자율 살상 무기 사용만큼은 절대 허용할 수 없다는 입장을 고수했다.

흥미로운 점은 대중의 반응이다. 앤트로픽 퇴출 직후 클로드는 미국 앱스토어에서 처음으로 챗GPT를 제치고 1위에 올랐다. 이틀간 다운로드가 37%, 51% 급증했다. 반면 국방부와 즉시 계약을 맺은 오픈AI의 챗GPT는 앱 삭제율이 하루 만에 300% 폭증했다. 월스트리트저널은 “실리콘밸리에서 선악 대결이 시작됐다”며 미국 전역에서 앤트로픽 지지 진영과 오픈AI 지지 진영이 형성되고 있다고 전했다.

국방부의 ‘무제한 사용’ 요구, 무엇이 문제인가

국방부가 요구한 ‘모든 합법적 용도’는 단순해 보이지만, 실제로는 AI를 군사 작전의 거의 모든 영역에 제약 없이 투입하겠다는 의미다.

앤트로픽이 우려한 핵심은 두 가지다. 첫째, 대규모 국내 감시다. AI가 미국 시민의 통신, 이동, SNS 활동을 분석해 잠재적 위협을 식별하는 데 쓰일 수 있다. 둘째, 자율 살상 무기다. 인간의 최종 판단 없이 AI가 표적을 식별하고 공격을 결정하는 시스템을 의미한다.

버지니아대 다든 경영대학원 AI 윤리 연구소장 마크 루지아노는 “AI를 쓰느냐 마느냐가 아니라, 어디까지 맡기느냐가 핵심”이라고 지적했다. 표적 식별이나 민간인 구별 같은 보조 역할에 AI를 활용하면 오히려 오판을 줄일 수 있지만, 살상 결정권까지 AI에게 넘기는 것은 전혀 다른 차원의 문제라는 것이다. 앤트로픽은 국방부가 제시한 제한 조건이 “여전히 불충분하다”며 법적 대응까지 예고했다.

국방물자생산법 카드… 정부의 강제 징발 가능한가

미 정부는 국방물자생산법(DPA) 발동 가능성을 거론하고 있다. DPA가 발동되면 정부는 기업의 의사와 무관하게 기술 제공을 강제할 수 있다. 한국전쟁과 냉전 시대에 만들어진 이 법은 국가 비상사태 시 민간 자원을 군사 목적으로 동원할 수 있는 법적 근거를 제공한다. 그러나 AI 기술에 DPA를 적용하는 것은 전례가 없다.

조지워싱턴대 로스쿨의 제시카 틸립만 부학장은 이를 “단순한 애국심 대 기업 윤리의 대립이 아니라, AI를 전쟁에 통합할 때 법·안전·윤리가 실제 제약으로 작동해야 하는지에 대한 구조적 논쟁”이라고 평가했다. 국방부는 앤트로픽을 공급망 위험으로 지정하고 6개월 내 다른 공급자로 이관하라고 통보했지만, DPA 발동은 법적·정치적 논란을 피할 수 없을 것으로 보인다.

오픈AI의 빠른 계약… 미래 국방 AI 생태계의 판도

앤트로픽 퇴출 직후 오픈AI는 즉각 국방부와 계약을 맺었다. 샘 올트먼 CEO는 “기회주의적이고 엉성하게 보였다”고 인정하면서도, 대규모 감시 및 자율 살상 무기 금지 조항을 계약서에 명시했다고 강조했다. 그러나 오픈AI 직원 약 100명은 구글 직원 약 830명과 함께 앤트로픽에 연대하는 공개서한에 서명했다. 일론 머스크의 xAI 역시 국방부 기밀 업무 사용 승인을 받으며 시장에 뛰어들었다.

월스트리트저널은 앤트로픽이 “큰 손 고객을 잃었지만 팬들을 얻었다”고 평가했다. 실제로 ‘큇GPT(QuitGPT)’ 캠페인이 확산되며 챗GPT 계정 해지 운동이 벌어지고 있다. 정치 활동가 에이미 시스킨드는 앤트로픽을 “실리콘밸리에서 몇 안 되는 선한 기업 중 하나”라고 치켜세우며 챗GPT와 xAI 삭제를 촉구했다.

이번 갈등은 향후 국방 AI 생태계의 판도를 결정할 선례가 될 것으로 보인다. 중국과 러시아가 AI를 무제한 군사 용도로 개발하는 상황에서, 미국이 자체적으로 윤리적 제약을 두는 것이 전략적으로 타당한지에 대한 논쟁은 계속될 전망이다. 기술이 법보다 빠르게 발전하는 시대, 누가 선을 긋고 누가 그 선을 지킬 것인가라는 근본적 질문이 남았다.