▲ #인공지능 #AI     ©법률닷컴

AI 무기 개발과 군사 인공지능 규율 문제를 둘러싼 우려가 커지는 가운데, 시민사회가 국회에 계류 중인 「국방인공지능법」 제정안의 전면 보완을 촉구하고 나섰다.

참여연대와 민주사회를 위한 변호사 모임, 디지털정의네트워크, 녹색연합, 한국여성단체연합 등 인권·노동·복지·여성·환경·평화 분야 전국 46개 시민사회단체로 구성된 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(AI시민행동)’은 14일 국회 국방위원회에 「국방인공지능법」 제정안 입법의견서를 제출했다고 밝혔다.

AI시민행동은 이번 의견서에서 현재 발의된 법안이 국방 인공지능 기술에 대한 안전성과 책임성 확보보다는 개발과 산업 육성에 초점이 맞춰져 있다고 지적했다. 특히 AI 기반 자율무기체계가 실제 전장에 투입되며 표적 식별과 공격 결정 등에서 국제법·윤리적 논란이 커지고 있음에도 관련 규제 장치가 부족하다고 우려했다.

이들은 국방 인공지능 역시 유엔 헌장과 국제인도법, 국제인권법 등 국제 규범 체계 안에서 엄격하게 규율돼야 한다고 강조했다. 특히 국제사회가 논의 중인 자율무기체계의 금지·제한 원칙을 국내 법안에도 반영해야 한다고 주장했다.

AI시민행동은 현행 법안이 고위험 군사AI의 위험을 사전에 관리하거나 사고 발생 시 책임 소재를 규명하는 사업자 의무 규정을 제대로 담고 있지 않다고 비판했다. 이에 따라 ▲위험관리 체계 구축 ▲학습데이터 및 결과의 투명성 확보 ▲이용자 보호 ▲인간의 관리·감독 의무 ▲문서 기록 및 보관 등 고위험 AI 필수 요건을 법률에 명시해야 한다고 제안했다.

또 민간 AI 기술이 국방 분야에 도입될 경우 일반 「인공지능기본법」보다 더 강화된 안전성·신뢰성·책무성 기준을 적용해야 한다고 강조했다.

AI시민행동은 법안 개선 방향으로 ▲국가안보 중심에서 책임성 중심으로 목적 조항 전환 ▲‘자율성’·‘인간통제’ 등 핵심 개념 정의 신설 ▲살상 결정의 인간 위임 금지 원칙 명문화 ▲국방인공지능위원회의 독립성과 민주적 통제 제도화 ▲군사AI 개발 특례 제한 ▲고위험 군사AI 금지·제한 규정 도입 등을 제시했다.

아울러 안전성 확보 의무와 피해 책임 기준을 강화하고, 군사AI로 인해 피해를 입은 시민들의 권리구제 및 책임자 처벌 규정도 보완해야 한다고 촉구했다.

AI시민행동은 “국회가 입법 일정에만 맞춰 졸속 심의를 해서는 안 된다”며 “국제인권법과 국제인도법, 인권·평화 분야 전문가와 시민사회 의견을 충분히 수렴해 법안을 수정·보완해야 한다”고 밝혔다. 이어 “의견서에서 제기한 쟁점들에 대한 사회적 토론도 계속 이어가겠다”고 덧붙였다.

#국방인공지능법 #AI시민행동 #군사AI #자율무기체계 #인공지능규제 #국제인권법 #국제인도법 #참여연대 #민변 #디지털정의네트워크 #녹색연합 #한국여성단체연합 #AI책임성 #고위험AI #국회국방위 #군사인공지능 #AI윤리 #민주적통제 #인공지능기본법