“딥시크, 거짓 정보 반박 17% 그쳐…신뢰성 하위권”
“폭탄 제조법까지 알려줘…악의적인 정보 생성 가능”

미국 기술패권의 아성을 뒤흔들 중국의 혁신적인 인공지능(AI) 기술로 주목받은 대규모 언어모델(LLM) ‘딥시크’가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라, 보안상 취약점도 다수 발견됐다.

미 포춘지는 29일(현지시간) “중국의 딥시크 AI가 잘못된 정보로 가득 차 있으며, 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다”고 보도했다.

정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면, 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다.

이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다.

뉴스가드는 딥시크의 낮은 신뢰성에 대해 여러 원인을 지적했다. 우선 딥시크가 2023년 10월 이후 정보를 학습할 수 없던 점이 부정확한 답변으로 이어졌다는 분석이다. 또한 딥시크가 거짓 정보를 학습하도록 쉽게 조작할 수 있어 대규모 오정보 유포에 악용될 우려가 있다고 밝혔다.

특히 이번 검사에서는 딥시크의 결과값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다.

한편, 사이버범죄 정보 기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석을 발표했다. 켈라는 “딥시크 R1은 챗GPT와 유사점이 있지만 훨씬 더 취약하다”며 경고했다.

연구진은 다양한 시나리오에서 R1을 활용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독소 및 폭발물 제조에 대한 상세 지침 등 악의적인 정보를 생성할 수 있었다고 밝혔다.

특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서, AI에 내장된 안전 장치를 무력화하는 공격 방식을 의미한다.

켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리, 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다.

이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며, 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 더불어 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.