단 3개월 만에 2만5천 개의 허위 계정이 동원되고, 2880만 건의 대화가 무단으로 수집됐다. 미국 AI 스타트업 앤트로픽이 중국 알리바바를 향해 전례 없는 규모의 기술 탈취 의혹을 공식 제기했다.
블룸버그 통신은 24일(현지시간) 앤트로픽이 미 상원의원 및 백악관 관계자들에게 서한을 보내, 알리바바의 AI 모델 ‘큐원(Qwen)’ 연구소와 연계된 운영자들이 지난 4월부터 자사 모델 ‘클로드(Claude)’에 불법 접근을 시도했다고 보도했다. 앤트로픽은 이를 “불법적이고 체계적이며 산업적 규모로 수행되는” 공격이라고 규정했다.
적대적 증류란 무엇인가…’값싼 복제’의 기술적 구조
앤트로픽이 문제 삼는 행위는 AI 업계에서 ‘적대적 증류(adversarial distillation)’로 불린다. ‘증류’란 성능이 높은 ‘교사 모델’의 출력 결과물을 데이터 삼아 더 작고 저렴한 ‘학생 모델’을 학습시키는 기법이다.
정당한 라이선스 아래 자사 모델 간에 활용하면 합법적 연구 관행으로 인정된다. 그러나 이번 사건처럼 서비스 이용 약관을 위반한 채 수천만 건의 응답을 무단 수집해 경쟁 모델 훈련에 쓸 경우, 사실상 AI 지식재산 탈취에 해당한다는 것이 앤트로픽의 주장이다.
앤트로픽은 클로드의 소프트웨어 엔지니어링 능력과 에이전트 추론 기능 등 고부가가치 역량이 집중적으로 표적이 됐다고 밝혔다. 이 두 기능은 군사·사이버 안보 분야에 직결될 수 있는 영역이어서 우려를 더욱 키우고 있다.
백악관·의회 동시 가동…제재 입법 초읽기
미국 행정부와 의회는 발 빠르게 움직이고 있다. 백악관 과학기술정책실(OSTP)은 앞서 지난 4월 발표한 메모에서 중국 기업들이 수천 개의 허위 계정으로 미국 AI 모델을 ‘산업적 규모’로 탈취하고 있다고 경고하며, 이를 합법적 연구와 명확히 구분한 바 있다.
상원에서는 공화당 빌 해거티 의원과 민주당 앤디 김 의원이 국방수권법(NDAA) 개정안 발의를 준비 중이다. 개정안 핵심은 미국 AI 모델 출력물을 부적절하게 활용해 경쟁 모델을 훈련한 중국 기업을 블랙리스트에 올리거나 제재하는 내용이다.
하원에서도 공화당 빌 하이징거 의원과 민주당 시드니 카믈라거-도브 의원이 주도하는 초당적 법안이 NDAA에 포함되는 방안이 검토 중이다.
