전쟁에서의 AI: 진보, 윤리적 우려, 군사 기술의 미래

전 세계의 군사 기반 시설은 큰 변화를 겪고 있으며 빠른 기술 개발 속도를 보이고 있습니다. 미국 대통령 조 바이든이 이런 말을 했을 때,

“앞으로 10년 동안 우리는 지난 50년 동안 본 것보다 더 많은 기술적 변화를 보게 될 것입니다.”

그는 노골적으로 명백한 것을 언급하고 있었습니다. 인공 지능은 이제 빠르게 발전하고 있으며 군대에서의 인공 지능 사용은 전투 방식을 크게 변화시켰습니다. 이전에 공상 과학 소설로 생각되었던 것이 이제는 풀리지 않는 현실이 되었습니다. 이 기술 분야는 드론과 자율 무기부터 의사 결정 알고리즘과 감시 시스템에 이르기까지 모든 것을 변화시키고 있습니다.

Google China의 전 사장이자 Sinovation Ventures의 CEO인 Lee Kai-Fu는 자신의 저서 'AI 2041: 우리 미래를 위한 10가지 비전'에서 다음과 같이 말했습니다.

“자율무기는 화약, 핵무기에 이은 제3의 전쟁혁명이다.”

그의 말에 따르면,

"지뢰에서 유도 미사일로의 진화는 진정한 AI 기반 자율성, 즉 인간의 개입 없이 완전히 다른 인간 생명을 찾고, 교전하기로 결정하고, 말살하는 완전한 살인의 서곡일 뿐입니다."

전쟁에서 AI의 이점은 부인할 수 없지만, 이 기술이 미래의 군사 분쟁에 미치는 영향에 대한 윤리적 우려와 의문도 있습니다. 먼저 지금까지 진행 상황에 대해 살펴보겠습니다.

AI 전쟁의 진행

에 따르면 CRS (의회 보고 서비스) 보고서 미국과 경쟁국인 중국, 러시아는 현재 좁은 AI를 여러 군사 애플리케이션에 통합하고 있습니다. 이러한 애플리케이션에는 명령 및 제어, 물류, 사이버 작전, 정보, 감시 및 정찰은 물론 반자율 및 자율 차량이 포함됩니다.

현재 AI 전쟁에서 가장 중요한 발전 중 하나는 종종 드론이라고 불리는 무인 항공기(UAV)의 사용입니다. 이 차량은 정찰, 정보 수집 및 표적 공격을 위한 군사 작전에 광범위하게 사용되었습니다.

최근 에스컬레이션 과정에서 나고르노카라바흐 2020년에는 분쟁이 발생하면서 AI 기술이 더욱 두드러진 역할을 했습니다. 분쟁에 사용된 UAV 함대에는 자율성과 감시 기능이 유입되었습니다. 2021년 5월 이스라엘과 하마스 간의 또 다른 충돌은 “ 벽의 수호자 작전, ”는 전쟁에 AI를 적용한 또 다른 예입니다. 이스라엘 군대는 하마스의 로켓 발사기와 터널을 목표로 삼기 위해 기계 학습과 슈퍼컴퓨팅을 사용했습니다. 제1차 인공지능 전쟁이라 불린다.

러시아와 우크라이나 사이의 계속되는 갈등으로 인해 이전에는 볼 수 없었던 AI 기반 드론의 전투 사용이 드러났습니다. 하는 동안 러시아 우크라이나 군인을 상대로 드론과 전자전의 효율성을 높이기 위해 AI를 활용하고 있으며 AI도 지원하고 있습니다. 우크라이나 적의 활동을 탐지하고 자체 무기를 강화함으로써 자기 방어를 돕습니다. 전체적으로, 이들은 모두 전 세계 조립 라인에서 가동되는 AI 지원 기계에 의해 전장이 어떻게 변화되고 있는지에 대한 명확한 증거를 제공했습니다.

몇 년 전 Future of Life Institute는 AI로 구동되는 드론(도살봇이라고 함)이 무엇을 할 수 있는지 보여주는 짧은 디스토피아 영화를 웹사이트에 공유했습니다. 당시에는 단지 예측에 불과했습니다. 그러나 오늘날에는 때때로 "킬러봇"이라고도 불리는 치명적인 AI 강화 자율 무기가 전장에서 사용되고 있습니다.

2021년 3월에는 연합 국가 리비아의 실제 생활에서 사용되는 이 봇의 첫 번째 사례를 문서화했습니다. 같은 해 짧은 기간 동안, 최초로 알려진 사례 AI가 제어하는 드론 떼 이스라엘에서 관찰되었습니다. 이스라엘 방위군(IDF)은 5월 중순 가자지구 작전 중 하마스 무장세력을 찾아 식별하고 공격하기 위해 소형 드론 떼를 사용했다고 한다. 새로운 과학자 .

최근에는 드론 기술이 AI 알고리즘을 통해 실시간 데이터 분석을 기반으로 의사 결정을 내릴 수 있게 되면서 더욱 정교해졌습니다. Omnipresent Robot Technologies의 CTO인 Jyoti Sinha에 따르면,

“전술전에서 AI 기반 군집 드론은 유도 방어 장비로 정교함이 덜한 경우에도 정확한 군집 구성과 호버 위치 파악을 사용하여 여러 표적을 동시에 파괴 및 해체할 수 있습니다… 공격을 받으면 인지 AI 알고리즘이 작동하여 드론 네트워크 위치를 재구성하여 상황 인식을 유지하고 임무 완료를 돕습니다.”

이러한 AI 기반 자율 무기의 예로는 무장 공격과 정보, 감시 및 정찰(ISR) 기능을 모두 갖춘 터키에서 제조된 Bayraktar TB2가 있습니다. 잘라 란센트 칼라시니코프의 특징을 가지고 있다고 주장 컴퓨터 비전 알고리즘을 사용한 "클래스 및 유형별 객체의 지능적인 감지 및 인식".

보잉은 또한 2020년에 전투기처럼 승무원이 탑승한 항공기와 함께 자율적으로 비행하고 싸울 수 있도록 설계된 최초의 충성스러운 Wingman 항공기를 공개했습니다. Loyal Wingman이라는 이름은 "충실한 동맹"이라는 회사의 설명에서 유래되었습니다.

인공지능을 군사기술에 적용하는 이러한 발전은 장점이 있지만, 군사 작전에 대한 통제력 상실로 이어질 수 있고 예상치 못한 영향을 미칠 수 있다는 우려도 있다.

윤리적 우려

군사 기술 분야에서 기록된 빠른 발전 과정은 전쟁 및 전쟁 이외의 적용에 대한 윤리적 질문을 촉발합니다. 예를 들어, 인공 지능은 감시 및 정보 수집에 사용될 수 있습니다. 잠재적인 위협을 식별하고 공격을 예방하는 데 도움이 되지만 민간인을 감시하고 통제하는 데 사용될 수 있는 위험도 있습니다. 인권 및 사생활 침해로 이어지는 경우 .

AI 시스템이 오작동하거나 손상되어 바람직하지 않거나 심지어 비참한 결과를 초래할 가능성도 가장 큰 우려 사항 중 하나이며, 특히 자율 무기가 누구를 공격할지, 언제 공격할지 선택해야 하는 경우 이러한 시스템의 책임 문제도 있습니다. .

미국 국무부는 최근 "인공지능과 자율성의 책임 있는 군사적 사용에 관한 정치적 선언"이라는 제목의 문서 에서 AI를 개발하는 국가들에게 도덕적이고 책임감 있게 수용 가능한 방식으로 군사 작전에 기술을 사용할 것을 촉구했습니다.

미국 정부는 군대에서 인공지능(AI)을 사용하는 것이 윤리적이고 책임감 있고 글로벌 안보를 강화할 수 있고 그래야 한다는 데 동의하고 이에 따라 자체 프레임워크를 제시하고 다른 국가들이 합의에 동참하도록 유도한다고 주장합니다. 같은 날 선포 군 내 인공지능(AI)의 책임 있는 활용을 옹호하는 '행동 촉구'에는 미국의 최대 라이벌인 중국을 포함해 60여 개국이 서명했다.

다만 선언문에는 어떤 종류의 자율주행 시스템이나 AI 기반 시스템이 포함됐는지 정확히 알 수 없어 군사기술을 어디까지 도덕성 범위 내로 유지할 수 있을지 우려가 제기됐다. 로이터 인권 전문가와 학계는 AI 유도 드론, 사람의 개입 없이 사람을 죽일 수 있는 '도살로봇', AI가 군사적 대결을 악화시킬 수 있는 가능성 등의 문제를 다루지 않는 것 외에도 인권 전문가와 학계는 이 선언이 법적 구속력이 없다고 지적했다. .

또 다른 우려는 전장에서의 의사 결정에서 인간의 역할과 AI가 전쟁을 비인간화하고 더욱 파괴적으로 만들 가능성입니다. 안토니오 구테흐스 유엔 사무총장은 기계가 인간의 생명을 빼앗을 수 있는 자유와 능력을 갖고 있다는 생각은 도덕적으로 혐오스럽다고 말했습니다. 안에 성명 2018년 9월 유엔 웹사이트에 그는 이렇게 외쳤다.

“신기술이 전쟁에 미치는 영향은 평화와 안보를 보장해야 하는 우리의 공동 책임에 직접적인 위협이 됩니다.”

4년 후인 2022년 2월 러시아의 우크라이나 침공 이후 우리는 두려움이 현실이 되고 그러한 예언이 서서히 성취되기 시작하는 것을 봅니다. 내부자 보고서 , 우크라이나 위기에서는 최근의 다른 어떤 전투보다 AI 강화 UAV의 사용이 더 많이 나타났습니다. 현재로서는 둘 다 러시아 그리고 우크라이나 진행중인 전쟁에서 서로 자율 기술을 사용해 왔습니다.

예를 들어 러시아는 루세인이 만든 것처럼 "배회 탄약"을 사용해 왔습니다. 랜셋 그리고 이란인 Shahed-136은 Geranium-2라고도 불립니다. . 구어적으로 "가미카제" 드론이라고 불리는 이 탄약은 미리 결정된 목표 범주를 감지할 때까지 지정된 위치를 선회한 다음 물체에 충돌하여 폭발물을 터뜨립니다. 우크라이나는 터키산 드론을 배치해 왔다. 베이락타르 TB2 , 운반하는 레이저 유도 폭탄을 투하할 시기를 결정할 때를 제외하고는 자율적으로 작동합니다.

구테레스는 그러한 군수품에 대한 감시가 줄어들면 위협을 완화하고 확대를 방지하며 국제 인도주의 및 인권법을 옹호하려는 시도가 위태로워지기 때문에 큰 도전이 된다고 믿습니다. 에 공개 서한 Tesla의 CEO인 Elon Musk와 115명의 다른 전문가들은 유엔에 이러한 자율 무기의 사용에 대한 윤리적 우려를 강조하는 제안을 제시했습니다. 편지에 따르면,

“치명적인 자율무기는 전쟁의 3차 혁명을 위협하고 있습니다. 일단 개발되면, 그 어느 때보다 더 큰 규모로 그리고 인간이 이해할 수 있는 것보다 더 빠른 시간 규모로 무력 충돌을 벌이게 될 것입니다. 여기에는 테러 무기, 독재자와 테러리스트가 무고한 주민을 대상으로 사용하는 무기, 바람직하지 않은 방식으로 작동하도록 해킹된 무기가 포함될 수 있습니다. 우리는 행동할 시간이 오래 없습니다. 이 판도라의 상자는 한번 열리면 닫기가 어려울 것입니다.”

군사 기술의 미래

앞서 언급한 우려 외에도 AI 기술이 가까운 미래에 세계 정치와 지정학적 안정에 어떤 영향을 미칠지는 불투명하다. 하지만 군사기술이 발달하면서 분석가 , 정부와 군사 조직이 일반적으로 군사적 이점을 얻을 목적으로 이 분야의 연구 개발에 광범위하게 투자함에 따라 새로운 군비 경쟁이 촉발될 수 있습니다. 미국, 중국, 러시아가 선두를 달리고 있는 것처럼 보이지만, 미래는 여전히 불확실하고 복잡해 보입니다.

연구 커밍스(ML Cummings)는 군용 로봇과 상업용 로봇 모두 궁극적으로 "인공 지능(AI)을 통합하여 스스로 작업과 임무를 수행할 수 있게 될 것"이라고 동의하지만, AI가 인간과 비슷해지기까지는 수년이 걸릴 것이라고 언급했습니다. 컴퓨터에 진정한 지식과 전문가 기반 행동을 부여하려는 현재의 노력과 인식 센서의 한계로 인해 불확실성이 높은 상황에서 지능을 얻을 수 있습니다.

인공지능에 관한 국가안보위원회(National Security Commission on Artificial Intelligence)의 글로벌 신기술 서밋(Global Emerging Technology Summit)에 참석한 미국 국방부 장관 로이드 J. 오스틴(Lloyd J. Austin) 언급하다 ,

“AI는 우리 혁신 안건의 핵심으로, 더 빠르게 계산하고, 더 잘 공유하고, 다른 플랫폼을 활용할 수 있도록 도와줍니다. 그리고 이는 미래의 싸움에 있어 기본입니다.”

그는 미국 국방부가 AI 채택을 가속화하기 위해 향후 5년간 약 15억 달러를 투자할 것이라고 밝혔습니다. 전문가 그러나 특히 목표가 중국을 따라잡는 것이라면 미군이 천천히 전진하고 있다고 믿습니다. 보고서 , 매년 16억 달러 이상을 군사 기술에 쏟아 붓고 있습니다. 중국은 2017년 2030년까지 인공지능(AI) 분야의 글로벌 리더가 되겠다고 선언했고, 현재 해당 분야의 출판물과 연구 특허 측면에서 그렇게 하고 있다.

반면 러시아는 AI를 국가 우선순위로 선언하고 AI 애플리케이션을 개발하고 배포하기 위한 여러 이니셔티브를 시작했습니다. 블라디미르 푸틴 러시아 대통령은 생방송을 통해 이렇게 말했습니다.

“인공지능은 러시아뿐 아니라 전 인류의 미래입니다. 이 분야의 리더가 되는 사람은 세계의 통치자가 될 것입니다.”

러시아는 미국이나 중국에 비해 국방비 지출이 적음에도 불구하고, 30퍼센트 2008년에 시작된 국방 현대화 프로그램의 일환으로 2025년까지 군 자동화 장비를 구축합니다.

AI 군비 경쟁에서 누가 승리할지에 대해서는 다양한 의견과 예측이 있지만 궁극적으로 전쟁에 적용되는 AI의 미래와 AI의 미래는 일반적으로 명확하게 예측할 수 없습니다. 그러나 공상과학 소설과 실제 현실 사이의 구분이 희미해지기 시작했을 수도 있습니다. 분석가 인공지능 기술이 군사력을 대폭 증가시킬 것으로 예상되며, 이는 향후 몇 년 동안 분쟁의 성격과 역학을 형성할 가능성이 높습니다. AI가 우리를 유토피아의 시대로 인도할 것인지 디스토피아의 시대로 인도할 것인지는 오직 시간만이 말해 줄 것입니다.