유엔연구소, 군사 AI 기업 책임 지침 만든다…설계부터 배치 뒤 지원까지

유엔군축연구소(UNIDIR)와 유엔 인권최고대표사무소(OHCHR)가 군사 AI 개발기업을 위한 자발적 책임 지침을 만들고 있다. 기업이 설계를 고르고 데이터를 취급하며 시험하는 단계부터, 군에 배치한 뒤 유지·지원하는 단계까지 다룬다. 군이 AI를 어떻게 구매하고 쓰는지와 함께 개발기업이 제품의 신뢰성과 피해 위험에 어떤 영향을 주는지 살피는 작업이다. UNIDIR의 기업 지침 개발 설명

한국과 네덜란드도 기업이 참여하는 군사 AI 대화를 추진했다. 외교부는 10월 31일 양국이 공동 상정한 결의가 전날 유엔총회 제1위원회에서 171개 회원국의 지지로 채택됐다고 발표했다. 결의는 12월 본회의 채택을 거쳐 최종 확정되며, 2027년과 2028년 제네바에서 ‘구조적 대화’를 열도록 하는 내용을 담았다. 외교부 발표

그 대화에는 유엔 회원국뿐 아니라 국제기구·학계·시민사회·산업계가 참여할 예정이다. 참가자들은 투명성과 신뢰를 높이는 방법, 같은 기술을 설명하는 용어, 위험을 줄이는 모범사례를 논의한다. 정부가 군사 AI의 원칙을 정하는 자리에 기술을 공급하는 기업과 민간의 연구자들도 들어오는 것이다. 외교부의 참여자·의제 설명

UNIDIR와 OHCHR는 이 결의와 별도로 기업 지침을 개발하면서 업계·정부·시민사회에 각각 질문지를 돌리고 있다. 기존의 책임 기준과 각 집단의 요구를 모아, 정부가 AI를 조달하거나 민간기업과 협력할 때 쓸 공통 기준을 만들기 위해서다. 10월 23일 유엔총회 제1위원회 부대행사 안내에도 질문지와 모범사례를 제시하고 의견을 받겠다는 계획이 담겼다. UNIDIR·OHCHR의 작업 안내

공개된 지침 개발 협력자에는 마이크로소프트, 히타치 아메리카, 일본 방위기술재단이 있다. UNIDIR는 참여자의 기여가 지침 지지나 구속력 있는 약속을 뜻하지는 않는다고 명시했다. 기업들은 현재 지침을 함께 만드는 단계에 참여하고 있다. UNIDIR의 공개 협력자·참여 조건

개발자와 군이 함께 다뤄야 할 구체적인 위험은 사람의 과신이다. 국제적십자위원회(ICRC)는 10월 8일 설명에서 시간에 쫓기는 이용자가 기계의 추천을 지나치게 믿고 독립적인 판단 없이 승인하는 ‘자동화 편향’을 경고했다. 적이 데이터를 조작하거나 시스템의 약점을 이용할 수도 있다. 이용자가 마지막 승인을 맡더라도, 기계가 어떤 정보로 추천했는지 따져 볼 여유와 능력을 잃으면 그 승인은 형식적인 절차가 된다. ICRC의 위험 분석

ICRC는 엄격한 시험·평가와 법적 검토, 신뢰할 수 있는 데이터, 이용자가 AI의 출력에 이의를 제기할 수 있는 설계, 자동화 편향에 관한 훈련과 사후 검토를 권고했다. 신중하게 쓰는 AI가 민간인 관련 정보를 더 빠르고 폭넓게 분석하는 데 도움이 될 가능성도 인정했다. ICRC가 권고한 시험과 훈련은 제품의 성능과 이용자의 판단을 함께 다룬다. ICRC의 권고와 활용 조건

이제편집팀 해석: 군은 구매할 AI가 어떤 데이터와 환경에서 시험됐는지, 이용자가 오류를 발견하고 추천을 거부할 수 있는지 확인해야 한다. 개발기업은 운용자가 이해할 수 있게 제품의 한계를 설명하고, 배치 뒤 유지·지원이 필요한 부분을 분명히 해야 한다. UNIDIR가 설계부터 사후지원까지 기업의 행동을 다루는 이유도 그 선택들이 신뢰성과 피해 위험에 영향을 주기 때문이다. 표적이나 군사행동에 관한 추천을 내놓는 시스템이라면, 군과 공급자가 주고받는 성능 설명과 시험 결과도 민간인의 생명을 지킬 조건이 된다.