민간 오픈모델을 통해 수집된 개인정보가 군사·정보 목적으로 전용될 가능성은 실제로 여러 갈래의 문헌에서 다뤄지고 있습니다. 크게 세 흐름으로 정리됩니다.
1. 법적 강제 편입 구조 — "수집 자체가 곧 잠재적 군사 자산"
중국의 국가정보법(2017)은 중국 기업이 국가 정보기관의 요청에 협조하도록 강제합니다. DeepSeek 사례 분석에 따르면 CCP가 정보법에 근거해 중국 내 상업 기업의 데이터에 접근할 권한을 갖고 있어, DeepSeek 등 중국산 생성AI 모델의 통합이 이용자에게 보안 위험을 초래할 가능성이 매우 높다고 평가됩니다. 실제 수집 항목도 광범위한데, DeepSeek의 개인정보처리방침은 텍스트·음성 입력, 프롬프트, 업로드 파일, 피드백, 대화기록 등을 수집한다고 명시하며, 기기 모델·운영체제·IP주소는 물론 키스트로크 패턴(타이핑 리듬)까지 수집 대상에 포함시키고 있어 이는 사용자 행동과 신원을 추론하는 데 활용될 수 있다는 점에서 특히 우려스럽다는 지적이 나왔습니다. 이 데이터는 중화인민공화국 내 서버에 저장된다고 정책에 명시되어 있습니다. The Hill + 2
이런 구조를 근거로 미국 쪽 분석에서는 미국 이용자 데이터가 결국 중국 정부의 손에 들어갈 수 있고, 이는 미국인 프로파일링이나 프로파간다 타겟팅 알고리즘 조작에 활용될 수 있다는 우려가 제기됐습니다. SecurityScorecard
2. "개인정보 → OSINT 프로파일링 → 군사 의사결정" 파이프라인
이건 로건 님이 참고하신 인포그래픽 ②번(OSINT 프로파일링)과 직결되는 대목인데, PLA는 이미 이 파이프라인을 특허·조달 문서 수준에서 구체화하고 있습니다.
- Recorded Future(Insikt Group) 분석에 따르면 PLA의 특허 출원 문서들은 생성AI를 활용해 OSINT 산출물 생성, 위성영상 처리, 이벤트 추출·데이터 처리 등 정보 업무를 지원하는 방법과 시스템을 설계한 것으로 나타났으며, 2024년 12월 출원된 한 특허에서는 중국의 국유 방산 연구기관이 OSINT·HUMINT·SIGINT·GEOINT·TECHINT 데이터를 통합 학습시킨 군사 특화 LLM을 제안했습니다. The Express Tribune
- 같은 보고서는 PLA가 2025년 초 DeepSeek의 생성AI 모델을 빠르게 도입했을 가능성이 매우 높으며, 한 중국 방산업체가 DeepSeek 기반 OSINT 모델을 PLA에 제공했다는 주장이 있다고 지적합니다. The Express Tribune
- Recorded Future의 별도 보고서 "Private Eyes"는 PLA를 지원하는 5개 민간 OSINT 공급업체(DataExa, Knowfar, Lanhai Changqing, Techxcope, Kantian 등)를 프로파일링했으며, 이들은 플랫폼·DB 판매부터 리서치 서비스, 원격탐사 데이터까지 제공한다고 설명합니다. 같은 보고서는 서구의 개방된 정보 환경이 PLA가 대량의 오픈소스 데이터를 손쉽게 수집할 수 있게 해주는 반면, 서방 군은 중국의 통제된 정보환경 때문에 대칭적 이점을 누리기 어렵다고 평가합니다. CSETCSET
즉 "개인정보 수집(앱/서비스) → 국가정보법에 의한 강제 접근 → OSINT/정보융합 파이프라인에 편입 → 군사 LLM 학습·의사결정 지원"이라는 경로가, 별개의 세 문헌군(데이터수집 위험 분석, 특허 분석, OSINT 생태계 분석)에서 서로 다른 각도로 뒷받침되고 있는 셈입니다.
3. 실제 군사 모델화 사례 — ChatBIT / 오픈웨이트 전용(轉用)
개인정보 자체보다는 "민간 대화형 AI 상호작용 데이터"가 군사 모델 학습에 재사용된 가장 잘 문서화된 사례는 ChatBIT입니다. AMS(군사과학원) 소속을 포함한 중국 연구자들이 Meta의 Llama 13B를 기반으로 정보 수집·처리용으로 개조해 군사 계획가들의 작전 의사결정을 지원하도록 만들었으며, 10만 건 규모의 군사 대화 기록으로 파인튜닝했다고 밝혔습니다. 이는 방대한 트래픽이 아니라도 특화 데이터셋만으로 프로토타입이 가능함을 보여주는 근거이기도 합니다. https://eutoday.netdtic
Meta의 라이선스는 군사적 이용을 금지하지만, 오픈소스 특성상 소스가 공개된 이후에는 수정·전용을 막을 실질적 방법이 없다는 한계가 지적됩니다. phonearena
4. 균형점 — 이 연결고리의 "약한 지점"
다만 정직하게 짚어야 할 부분이 있습니다. 현재 공개된 문헌에서 "특정 상용 챗봇 앱이 수집한 민간인 개인정보가 실제로 특정 군사 LLM 학습에 투입된 구체적 사례"는 아직 실증적으로 확인되지 않았습니다. 지금까지의 근거는:
- 법적 강제 가능성(국가정보법) — 구조적 리스크
- 특허/조달 문서상의 "설계 의도" — 계획 단계 증거
- ChatBIT류 사례 — 군사 대화 데이터 기반, 민간 개인정보 기반 아님
이 세 층위가 서로 연결될 개연성은 높지만, "민간 앱 개인정보 → 군사 모델 학습 투입"을 직접 입증하는 논문·유출 문서는 검색 범위 내에서 확인되지 않았습니다. 이 부분은 인포그래픽에 넣으실 때 "확인된 사실"과 "구조적으로 개연성 높은 추정"을 구분해서 표기하시는 게 안전할 것 같습니다.
핵심 논문 두 편이 이 주제
정리
1. "Mind the Gap: Foundation Models and the Covert Proliferation of Military Intelligence, Surveillance, and Targeting" (AI Now Institute, arXiv:2410.14831, 2024.10)
가장 정확히 이 질문을 겨냥한 논문입니다. 저자들은 기존 확산 통제 논의가 가상의 CBRN 무기 시나리오에만 과도하게 집중된 나머지, 상업용 파운데이션 모델에 내장된 개인정보가 AI를 매개로 상업적 개인데이터와 자동화된 무기 표적 리스트·감시 능력 사이의 연결고리가 되고 있다는 위험을 가려버렸다고 지적합니다. 또한 상업용 파운데이션 모델의 이중용도 군사적 전용, 대형 모델 학습에 개인정보가 실제로 사용되고 있다는 점, 그리고 학습 데이터셋에서 개인정보를 제거할 능력이나 의지가 부족하다는 점이 결합되면서 AI 확산을 막기 위한 통제 자체가 실효성을 잃는다고 주장합니다. THE INTERNATIONAL AFFAIRS REVIEWTHE INTERNATIONAL AFFAIRS REVIEW
미 국방부 산하 Digital and AI Office 관계자가 공개 생성AI 도구에 입력하는 모든 정보는 사실상 그 정보를 공개적으로 배포하는 것과 마찬가지라고 언급한 부분을 인용하며, 상업 파운데이션 모델을 계속 민감한 개인정보와 민간인 활동 데이터로 학습시키는 것은 결국 외부 적대세력(첩보, 감시 등)의 AI 역량을 강화해주는 결과로 이어질 뿐이라고 경고한다는 점입니다. ResearchGate
Defense One의 보도도 같은 논문을 다루며 상업적 파운데이션 모델 학습에 웹 스케일 데이터셋을 무분별하게 사용하는 관행이, 적대적 행위자가 데이터 오염 공격 등을 실행할 수 있는 여러 경로를 열어주었다는 우려를 전했습니다. arxiv
→ 이 논문 자체는 특정 국가를 지목하기보다 구조적 리스크를 다루지만, 로건 님의 논지(오픈웨이트/상업모델 개인정보 → 군사 전용)를 가장 학술적으로 뒷받침할 수 있는 1차 근거입니다.
2. "The GPT Dilemma: Foundation Models and the Shadow of Dual-Use" (Alan Hickey, OpenAI, arXiv:2407.20442, 2024.07)
파운데이션 모델의 광범위한 역량이 민간용 모델을 군사용으로 전용하는 비용을 낮춰, 한 국가가 이런 모델을 개발·배치하는 의도를 다른 국가가 파악하기 어렵게 만든다고 지적하며, 이 논문은 모델 입력값·역량·시스템 활용 사례·시스템 배치라는 4단계 프레임워크로 민군 용도 간 모호성이 어디서 발생하는지 분석합니다. 개인정보 자체보다는 "입력값(model inputs)" 단계에서의 모호성을 다루므로, 위 논문과 상호보완적으로 인용하기 좋습니다.
3. 보조 근거 — 구조/생태계 논문
- CSET, "China's Military AI Wish List" — PLA의 AI 관련 조달요청서(RFP) 분석 결과, 오픈소스 데이터를 활용해 전략적 의사결정을 지원하는 AI 의사결정지원체계(AI-DSS) 요구가 다수 발견됐으며, 표적 선정 등 전술적 의사결정을 지원하는 AI-DSS 요청도 확인됐다고 밝힙니다. arxiv
- CSET, "Pulling Back the Curtain on China's Military-Civil Fusion" — 분석 대상 338개 기관 중 약 4분의 3이 국유 소유 지분을 공개하지 않은 비전통적 벤더(NTV)였으며, 이들 중 상당수가 자사 웹사이트에서 민군 이중용도 기술 개발을 강조하고 있어 민간 부문과 국방 부문 모두를 성장 경로로 삼고 있음을 시사합니다. — 개인정보를 다루는 민간 AI 서비스 기업이 이 NTV 풀에 포함될 구조적 가능성을 뒷받침합니다. Defense One
- Oxford ORA 박사논문, "Dual-use security dilemma and the U.S.-China AI technology race" — 민간 기업이 국가에 종속적일수록 정부 압력에 의해 기술이 군사용으로 전용되기 쉬우며, 민군 산업 기반이 통합될수록 민간 부문의 이중용도 기술이 군사적 응용을 찾을 가능성이 높아진다는 이론적 틀을 제시합니다. CSET
정리 제안
인포그래픽/기사에 인용 순서를 잡으신다면:
- 구조적 근거(왜 가능한가) → Mind the Gap (arXiv:2410.14831) + Dual-use security dilemma (Oxford)
- 모호성 메커니즘 → The GPT Dilemma (arXiv:2407.20442)
- PLA 실제 수요 증거 → CSET Wish List / Military-Civil Fusion
- 실증 사례(개인정보 아닌 군사데이터 기반이지만 전용 증거) → ChatBIT, AVIC/NORINCO Llama 사례 (지난 턴 자료)