AI로 AI 공부시키는‘증류 학습’ 중국 업체가 美AI에 질문하면서 인민해방군·경찰 영상 등 입력돼
3줄 요약
ㆍ중국 AI 기업,업다운파워볼증류로 미국 첨단모델 학습 ㆍ미국,메이플랜드 슬롯 최대노이즈 섞기 등 증류 차단법 고심 ㆍ중국,딥시크와 문샷AI의 기밀 유출 조사
그래픽=박상훈 인공지능(AI) 경쟁을 벌이는 미국과 중국이 최근 AI 학습 방식 중 하나인‘증류(distillation)’로 골머리를 앓고 있다.증류는 성능이 뛰어난 AI에 자료와 질문을 던지고 해당 AI가 내놓은 답변을 다른 AI에 학습시키는 기술이다.미국은 중국 업체들이 증류를 악용해 미국의 첨단 AI를 베끼는 것을 막으려고 고심 중이고,온라인 아메리칸 룰렛중국은 증류 과정에서 자국 기밀 데이터가 미국으로 흘러가지 않았는지 조사에 착수했다.
앤스로픽 등 미 AI 업체와 미국 정부는 최근 중국 딥시크와 알리바바 등 6개 중국 업체가 증류 방식으로 미국의 첨단 AI의 답변을 대량으로 수집해 자사 모델의 성능을 높였다고 보고 있다.지난 8일(현지 시각) 미 국가안보국(NSA)과 연방수사국(FBI),슬롯머신 기계사이버보안·인프라보안국(CISA)은 공동 보고서를 내고 “증류로 성능을 끌어올리는 것이 중국 AI 기업들의 핵심 개발 전략이었다”고 밝혔다.
보고서에 따르면 미 정부는 중국 측에 증류 학습 방식을 자제하라고 경고하고 실질적으로 유효한 차단법을 고심 중이다.그중 하나가 접속 계정이 악성 증류자로 판단되면 몰래 낮은 성능의 모델을 연결하거나 답변에 노이즈를 섞는 것이다.증류를 시도하는 중국이 품질이 떨어지는 결과를 학습하도록 유도해,중국 AI의 성능을 의도적으로 저하시킬 수 있는 방법이다.
반면 중국은 미국과는 다른 측면에서 증류 방식을 우려하고 있다.최근 앤스로픽은 중국의 딥시크와 문샷AI 등이 이용자에게 알리지 않은 채 자사 챗봇에 들어온 질문을 앤스로픽의 AI인 클로드에 보내 답변을 받고 이를 자체 AI 학습에 활용했다고 주장했다.이 과정에서 중국 청두 지역 경찰 카메라 영상,중국 인민해방군 시설 영상 등의 자료가 클로드에 입력된 것으로 알려졌다.
중국 문샷AI와 딥시크가 지난 5~7월 각각 1200만~2300만건의 요청을 이런 식으로 처리하면서 타국에 전해지면 안 되는 기밀 자료가 유출된 것이다.IT 매체 디인포메이션은 “중국 인터넷 규제 당국인 국가인터넷정보판공실(CAC)은 이 사실을 파악하고 최근 딥시크와 문샷AI를 조사하고 있다”고 보도했다.
“Finding NoiseAware was a miracle for us. We now have peace of mind that our neighbors have a peaceful neighborhood.”
"Every single unit that we have has NoiseAware. Every single unit that we go into will have NoiseAware. It's our first line of defense."
"We let neighbors know we're using NoiseAware to prevent parties. We want to show them that having great neighborly relationships is a priority for us, and for the whole short-term-rental community."
"I can tell my owners, 'Not only do we have insurance, but we also have guest screening and we have NoiseAware. We have multiple layers of protection for your property."
