이스라엘 군(IDF)이 팔레스타인 가자지구를 인공지능(AI) 자동 표적 식별 장치를 활용한 드론·미사일 타격해 무고한 민간인 사상자가 발생하는 등 국제사회가 금지중인 반인권적 행태를 벌이고 있다는 보도가 잇따랐다.

팔레스타인 디지털 인권 단체 ‘7amleh’가 IDF가 가자지구 내 학교, 구호단체 사무실, 예배 장소, 의료 시설 등을 포함해 공격 표적을 정할 때 이스라엘 자체 개발 AI 자동 표적 식별 시스템인 ‘가스펠’(복음)을 미국의 묵인 하에 광범위하게 사용중이라고 비판했다고 정치전문매체 폴리티코가 3일(현지시간) 보도했다.

IDF가 세부 정보를 거의 제공하지 않은 AI 자동식별 시스템인 ‘가스펠’은 머신러닝을 통해 방대한 양의 데이터를 신속하게 분석해 잠재적 공격 대상을 정하는 것으로 알려졌다. 이스라엘의 가장 오래되고 최대 규모의 인권 단체인 이스라엘 민권 협회는 지난해 12월 이스라엘 국방군 법무 부서에 자동 표적화에 대한 투명성을 높일 것을 요구하는 정보공개청구서를 제출했다.

다니엘 하가리 IDF 대변인은 지난달 공개 성명에서 “가스펠이 잠재적 표적을 식별하는 데 사용되지만 대한 최종 결정은 항상 인간이 내리고 명령 체계에 있는 적어도 한 명의 다른 사람의 승인을 받는다”고 설명했다.

하지만 IDF는 지난해 11월 성명에서는 “복음 시스템을 사용해 빠른 속도로 표적을 생성할 수 있다”며 “이스라엘이 개전 첫 27일 동안 1만 2000개 이상의 표적을 명중시켰다”고 밝혔다.

미국의 AI 전쟁 윤리 정책을 추적하는 일부 사람들은 이스라엘이 AI 기술을 통해 민간인을 보호하기보다는 오히려 공격하는 데 사용되는 등 ‘정밀 타격’이라는 AI 기술 본래의 취지를 왜곡하고 있다고 주장했다.

진보적인 외교 정책 싱크탱크 국제정책센터 낸시 오케일 대표는 “이스라엘이 ‘파워 타깃’이라고 불리는 민간인을 표적으로 삼기 위해 AI를 사용하고 있다는 것은 분명해졌다”면서 “정밀 타격에 도움을 주는 본래의 목적과 달리 의도적으로 민간인을 표적으로 삼고 있다”고 지적했다.

낸시 대표는 IDF가 자체적으로 정한 ‘파워 타깃’의 정의는 하마스나 팔레스타인 이슬람 지하드의 정치적, 군사적 거물 등 주요 표적을 말하지만, 사실상 IDF 정보 부서는 IDF에 대해 광범위한 정의를 허용하고 있는 것으로 보인다고 말했다.

전략국제문제연구소의 미사일 방어 프로젝트 부국장 겸 연구원 샨 샤이크는 “가자지구에서 3만 명이 넘는 사상자가 발생한 상황에서 IDF가 첨단 AI를 사용해 표적을 식별하는지 아니면 지도에 다트를 던지는 것인지 알기 어렵다”라고 말했다.

사이버 보안 전문가들은 모든 AI 표적 시스템이 민간인을 무차별하게 살상할 우려를 제기했다.

영국에 본사를 둔 사이버 보안 업체 ‘트레일 오브 비츠’의 머신러닝 엔지니어링 디렉터 하이디 클라프는 “AI 시스템의 높은 오류율을 고려할 때, 표적을 부정확하고 편향적으로 자동화하는 것은 무차별 표적 공격과 크게 다르지 않다”고 지적했다.

폴리티코는 “구호 단체와 의료 시설이 이스라엘 당국에 GPS 좌표를 제공한 후에도 공격을 받은 사례가 있다”면서 “이스라엘은 하마스가 이러한 건물에 전투원과 무기를 숨겨 놓았기 때문에 병원과 학교와 같은 민간 인프라를 공격해야 할 표적으로 간주한다고” 보도했다.

이스라엘에 본사를 둔 사이버 기업 센트라의 공동 창립자이자 전 이스라엘 정보 책임자인 론 라이터는 “AI 기술이 판도라의 상자를 열었다는 사실이 우려스럽다”고 말했다.

이스라엘 엘리트 사이버 정보 부대인 8200부대 장교 출신인 라이터는 “8200부대가 모바일 네트워크의 인터넷 통신, 영상 및 정보를 분석하여 사람들이 어디에 있는지 파악하는 데 AI 표적 시스템인 가스펠을 사용한다”고 설명했다.

미국 관리들은 이스라엘의 AI 사용에 대한 언급을 대체로 피했다.

중동연구소의 팔레스타인과 팔레스타인-이스라엘 문제 프로그램의 연구 책임자인 칼레드 엘긴디는 “미 정부에서 인권을 중시하는 사람들과 행정부와의 회의에서 여러 차례 회의를 가졌지만 AI가 구체적으로 언급되는 것을 듣지 못했다”고 말했다.

‘가자전쟁에서 이스라엘의 AI 표적화 사용 규모가 어떻게 되냐’는 질문에 앤 노이버거 백악관 사이버 및 신흥 기술 담당 국가안보 부보좌관은 이스라엘에 대한 언급을 피하면서도 ‘전쟁에서 AI 기술의 위험성’을 재빨리 지적했다.

노이버거는 인터뷰에서 “우리는 AI 시스템에 대해 정말 우려하고 있다”며 “조 바이든 대통령께서 AI에 대한 행정명령을 발동하고 그 다음 단계로 나아가기 위해 그렇게 빨리 움직인 것”이라고 말했다.

그가 언급한 행정명령은 지난해 10월에 발표된 것으로, 미군과 정보기관의 AI 사용 지침을 제공하는 동시에 외국 적들의 인공지능 무기화에 대응하기 위해 추진되고 있다.

가스펠 기술이 미국의 감시를 피하고 있는 것은 이스라엘 군사 작전의 불투명하기 때문이라는 지적도 나왔다.

휴먼라이츠워치의 워싱턴 지부장 사라 야거는 “이스라엘이 이 전쟁을 어떻게 수행하고 있는지에 대해 미국 정책 입안자들을 포함해 그 누구도 알고 있지 못하다”고 말했다.