📖 [AI 창조자가 두려워하는 AI #16-2] AI 무기화 국제 논의, 합의와 갈등의 최전선

📖 [AI 창조자가 두려워하는 AI #16-2] AI 무기화 국제 논의, 합의와 갈등의 최전선

1. 들어가며 – 윤리와 현실 사이의 간극

인공지능(AI) 무기화 문제는 단순히 기술 개발의 영역을 넘어 국제정치, 군사 전략, 그리고 인류의 미래가 걸린 복합적인 사안입니다.

국제사회는 AI가 무기와 감시 체계에 결합될 경우 발생할 수 있는 잠재적 위험을 오래전부터 인식해 왔습니다.

그러나 현실에서는 각국의 군사·안보 이해관계가 복잡하게 얽혀, 윤리적 합의만으로는 이 문제를 해결하기 어려운 상황이 이어지고 있습니다.

2. 유엔의 논의 – 10년째 '원칙'에 머문 대화

유엔(UN)은 2013년부터 자율살상무기(LAWS, Lethal Autonomous Weapon Systems)의 금지를 위한 비공식 논의를 시작했습니다.

이후 매년 제네바에서 특정 재래식무기 금지협약(CCW, Convention on Certain Conventional Weapons) 틀 안에서 회의를 열고 있지만, 현재까지도 법적 구속력이 있는 조약은 만들어지지 못했습니다.

그 이유는 명확합니다. 미국, 러시아, 중국 등 주요 군사 강국들이 ‘완전한 금지’에 반대하거나, ‘부분적 제한’만을 수용하려 하기 때문입니다.

이들 국가는 기술 개발 자체를 금지하면 자국의 방어 역량이 뒤처지거나 미래 전장에서 불리해질 수 있다는 이유를 들며 규제에 소극적인 입장을 보이고 있습니다.

3. 안보 딜레마의 덫 – 다른 명분, 같은 개발

국제정치에는 ‘안보 딜레마’(Security Dilemma)라는 개념이 있습니다.

한 국가가 방어 목적으로 AI 무기를 개발하면, 주변국들은 이를 위협으로 느껴 자신들도 AI 무기 개발에 나서게 됩니다.

결국 모두의 안보가 오히려 불안해지는 상황에 빠지게 되는 것입니다. 이는 AI 무기화 경쟁을 더욱 심화시키는 요인이 됩니다.

3.1. 자유 진영

미국, 영국 등은 “AI 무기를 공격적으로 사용하는 것은 제한해야 하지만, 방어 목적으로는 개발이 필요하다”는 입장을 고수합니다. 특히 북한, 이란 등 권위주의 국가의 무기 개발 속도를 이유로 들며, 자율성을 가진 AI 드론이나 미사일 방어 시스템 개발을 추진하고 있습니다.
일례로, 미국 국방부는 ‘프로젝트 메이븐(Project Maven)’을 통해 AI 기반 정보 분석 능력을 강화하고 있으며, 전투기가 AI 보조 시스템을 통해 임무를 수행하는 방안도 테스트하고 있습니다.

3.2. 전체주의 진영

중국과 러시아는 국제 규범 논의에 참여하면서도, 자국 내에서는 이미 군사용 AI 개발을 가속화하고 있습니다.

• 중국은 광범위한 AI 기술을 바탕으로 안면인식 기반의 대규모 감시 체계를 완성 단계까지 끌어올렸으며, 이를 군사적 목적으로 전환하여 도시 환경에서 자율적으로 움직이는 무인 시스템이나 드론 부대를 개발하고 있다는 분석이 나옵니다.

• 러시아 또한 자율 전투 로봇 개발에 박차를 가하고 있으며, 이들 무기의 잠재적 위협은 점차 커지고 있습니다.

4. ‘핵확산금지조약(NPT)’의 교훈 – 독점과 불균형

AI 무기화 논의는 냉전 시절의 핵확산금지조약(NPT, Treaty on the Non-Proliferation of Nuclear Weapons)과 자주 비교됩니다.

NPT는 신규 핵무기 보유국의 등장을 막았지만, 동시에 미국, 러시아 등 기존 강대국이 핵무기를 독점하는 구조를 만들었습니다.

AI 무기 역시 일부 국가가 개발 우위를 점하고 ‘국제 규범’을 자신들에게 유리하게 설계할 가능성이 큽니다.

그렇게 되면, 윤리적 합의는 강대국의 군사적 독점을 정당화하는 수단이 될 수도 있습니다.

5. 기술 탐지의 어려움과 해결 과제

AI 무기의 가장 큰 특징 중 하나는 겉보기에는 일반 무기와 구별하기 어렵다는 점입니다.

무기 플랫폼 자체는 기존과 유사할 수 있지만, 그 안에 탑재된 AI 소프트웨어의 알고리즘과 코드에 따라 살상 능력이 크게 달라집니다.

문제는 이 내부 코드를 외부에서 직접 확인하기 전에는 구별이 사실상 불가능하다는 점입니다.

각국이 ‘방어용’이라는 명목으로 몰래 공격용 AI 무기를 개발하는 것을 막기 어려운 이유가 여기에도 있습니다.

이를 해결하기 위해서는 각국이 AI 무기 개발의 투명성을 높이기 위한 기술적 신뢰 구축이 필요합니다.

예를 들어, ‘AI 무기 소스코드 국제 공동 검증단’ 같은 독립적인 기구를 만들어 개발 중인 AI의 코드가 공격용이 아닌 방어용이라는 것을 서로 검증하는 방안을 고려해 볼 수 있습니다.

또한, AI 무기의 ‘킬 체인(Kill Chain)’에서 인간의 개입 수준을 확인할 수 있는 기술적 감사 시스템 마련도 중요합니다.

킬 체인(Kill Chain)이란 목표를 발견하고(탐지) → 위치를 파악하며(식별) → 움직임을 추적하고(추적) → 공격 여부를 결정하며(결정) → 실제 공격을 수행하고(타격) → 결과를 평가하는(평가) 일련의 과정을 뜻합니다.

AI 무기에서 이 전 과정을 자동화하면, 인간이 개입할 틈이 줄어들어 윤리적·법적 통제가 사실상 어려워집니다.

따라서 최소한 최종 공격 결정 단계에는 반드시 인간이 개입해야 한다는 ‘의미 있는 인간 통제(Meaningful Human Control)’ 원칙이 강조됩니다.

6. 현재의 국제 규제 구상과 시민의 역할

현실적으로 AI 무기 개발은 이미 진행되고 있습니다.

따라서 ‘AI 무기 자체를 없애는 것’보다는 ‘위험을 관리하는 것’이 현실적인 선택이 될 가능성이 큽니다.

이 ‘관리’를 위해 우리는 다음과 같은 원칙들을 지키고 실행해야 합니다.

6.1. 인간의 의미 있는 통제(Meaningful Human Control):

킬러 로봇이 최종 공격을 결정하기 전에 반드시 인간의 최종 승인을 거치도록 의무화해야 합니다. 이는 AI의 자율적인 살상 판단을 제한하여 비윤리적 오작동이나 무분별한 남용을 방지하기 위함입니다.

6.2. 기술적 안전장치(Fail-Safe):

AI 무기의 오작동이나 외부 해킹으로 인한 위험을 막기 위해, 시스템 강제 종료, 자동 임무 중단, 목표 변경 불능 등의 기술적 안전장치를 의무적으로 탑재해야 합니다.

6.3. 시민사회의 감시

AI 무기 개발에 대한 정보는 국가 안보를 이유로 비밀리에 진행되는 경우가 많습니다.

시민사회와 전문가들은 ‘Stop Killer Robots’와 같은 국제 캠페인에 적극적으로 참여하여 AI 무기 개발의 위험성을 지속적으로 알리고, 정부에 투명한 정보 공개를 요구해야 합니다.

청원 운동, 관련 세미나 및 워크숍 참여, 윤리적 AI 개발을 촉구하는 목소리 내기 등 다양한 방법으로 정책 결정 과정에 영향을 미쳐야 합니다.

이는 기술이 소수의 이익이 아닌 인류 전체의 안전과 윤리를 지키는 방향으로 발전하도록 유도하는 중요한 동력이 됩니다.

6.4. 유엔 CCW 회의

법적 구속력 없는 ‘윤리 원칙’ 합의만 진행 중입니다.

6.5. 유럽연합(EU)

2024년 제정된 EU AI Act에서 군사용 AI를 ‘고위험’ 범주에 포함하고, 투명성과 안전성 검증을 의무화했습니다.

6.6. 시민단체 연합

‘Stop Killer Robots’ 캠페인을 중심으로, 60여 개국에서 금지 촉구 서명 150만 건을 돌파했습니다.

7. 결론 – 누가, 어떻게 통제할 것인가?

AI 무기 개발은 피할 수 없는 현실로 다가오고 있지만, 그 방향을 결정하는 것은 여전히 우리의 손에 달려 있습니다.

우리는 ‘자위 목적’이라는 명분 아래에서 인류 전체의 안보를 위협하는 위험한 무기 개발을 묵인할 것인지, 아니면 국제사회의 투명한 협력과 시민사회의 감시를 통해 윤리적 개발의 길을 모색할 것인지 선택해야 합니다.

이 복잡한 딜레마 속에서, AI 무기화의 미래를 결정하는 것은 결국 우리 모두의 지속적인 관심과 참여입니다.

그리고 지금 우리가 어떤 선택을 하느냐가, 앞으로 #17에서 다룰 ‘인류가 선택해야 할 미래’의 방향을 결정하게 될 것입니다.

📚 참고 자료

• UN CCW 회의 보고서 (2013~2024)
• EU AI Act 전문 (2024)
• Stop Killer Robots 캠페인 공식 웹사이트
• 국제전략연구소(IISS) 군사 AI 보고서 (2023)
• 미국 국방부 AI 전략 보고서 (2024)
• UN CCW 회의 보고서 (2013~2024)
• EU AI Act 전문 (2024)
• Stop Killer Robots 캠페인 공식 웹사이트
• 국제전략연구소
• (IISS) 군사 AI 보고서 (2023)
• 미국 국방부 AI 전략 보고서 (2024)

🎯 함께 읽으면 이해가 깊어지는
《AI 창조자가 두려워하는 AI》 시리즈입니다.

🌐 《AI 창조자가 무서워하는 AI #1》 AI 창조자들은 왜 자신들이 만든 AI를 두려워하는가?

🌐 《AI 창조자가 무서워하는 AI #2》 AI가 바꿀 노동의 미래 – 우리는 무엇으로 살아야 하는가?

🌐 《AI 창조자가 두려워하는 AI #2-1》 인간을 위한 마지막 노동 – AI 시대, 우리는 어디로 가는

🌐 《AI 창조자가 무서워하는 AI #3》 AI와 인간의 경계 – 기계는 의식을 가질 수 있을까?

《AI 창조자가 두려워하는 AI #4》 “AI가 만든 세상 – 인간의 선택은 어디까지 남을까?”

📘 《AI, 창조자가 두려워하는 AI #5》  신이 된 초지능  AI, 인간은 그 경계를 설계할 수 있을까?

📘 《AI 창조자가 두려워하는 AI #6》 AI 거버넌스: 누가 AI 시대를 이끌고 통제할 것인가?

📘 《AI 창조자가 두려워하는 AI #7》  AI 패권 경쟁과 힘의 정치: 통제 가능성은 있는가?

📘 《AI 창조자가 두려워하는 AI #8》  AI, 나랑 마음이 통한 거 아냐? 맞지? - AI의 의식과 감정

📘 《AI 창조자가 두려워하는 AI #9》 감정을 흉내 내는 AI가 주는  위로와 위험

📘 《AI 창조자가 두려워하는 AI #10》  AI 창작의 딜레마 – 혁신과 도용 사이, 어디까지 허용될까

📖 [AI 창조자가 두려워하는 AI #11] AI가 만든 사회: 이상향인가, 디스토피아인가?

🔹 [AI 창조자가 두려워하는 AI #12] 인간다움의 미래: AI 시대, 인간은 무엇으로 살아남는가?

🔹 [AI 창조자가 두려워하는 AI #13] 관계의 착각 – AI와의 친밀감이 부르는 고립의 함정

《AI 창조자가 두려워하는 AI #14》 AI 의존이 불러올 사회 변화와 정신·인지 건강의 위기

《AI, 창조자가 두려워하는 AI #15》 AI와 권력 구조 재편 – 국가·기업 권력과 AI의 결합 위험

《AI 창조자가 두려워하는 AI #16》 AI 규제와 국제 협력의 가능성 – 기술을 멈추지 않으면서 권력

🤖 《AI, 창조자가 두려워하는 AI #16-1》 AI 킬러 로봇, 현실이 되다 – 구글 윤리 원칙 삭제의 충