알고리즘 전쟁의 미래 3부: 침체

편집자 주: 다음은 곧 출간될 저자의 저서인 Information in War: Military Innovation, Battle Networks, and the Future of Artificial Intelligence에서 발췌한 내용입니다.

현재 미군 전체에서 인공 지능 및 기계 학습(AI/ML) 시스템을 배치하려는 경쟁이 완전히 실패하면 어떤 모습일까요? 미국의 군사 직업은 기술 결정론과 새로운 장치가 오래된 문제를 해결할 것이라는 믿음으로 인해 축복과 저주를 동시에 받았습니다. 이러한 사고 방식은 오프셋에 대한 개념과 현대 전쟁에서 정밀도가 대량에 대항할 수 있다는 믿음에 널리 퍼져 있습니다.

아래 시나리오는 일종의 사전 조사로, 독자가 기술 변화가 앞으로 나아가는 만큼 뒤로 움직이고 고르지 않은 세계를 상상할 수 있도록 환영합니다. 이 레드팀 기술은 실패를 예방하는 방법으로 실패가 어떻게 나타나는지 보여주기 위한 것입니다. 이 분석은 무너진 관료주의와 AI/ML이 전쟁의 성격에 어떤 영향을 미치는지에 대한 공통된 이해를 구축하지 못한 방법을 탐구한 War on the Rocks가 게시한 초기 시나리오를 기반으로 합니다. 이러한 모든 시나리오는 최근 저서인 Information in War: Military Innovation, Battle Networks, and the Future of Artificial Intelligence에서 발췌한 것입니다. 이 책에서 우리는 정보 기술 채택에 관한 다양한 역사적 사례를 사용하여 AI/ML에 대한 최신 관심 물결에 미군이 어떻게 반응할 것인지 상상해 봅니다. 이러한 다양한 역사를 바탕으로 우리는 사람, 관료주의 및 지식 네트워크가 새로운 기술과 어떻게 충돌하는지에 대한 신중함과 보다 강력한 대화를 요구하는 다양한 미래를 지평선에서 봅니다.

아래 시나리오에서 미래는 암울합니다. 전쟁에 대한 오래된 생각은 산업 시대의 관료주의와 결합하여 새로운 기술이 지속적인 이점을 창출할 수 있는 정도를 제한합니다. AI/ML은 의지의 충돌이라는 제단에서 희생된 또 다른 거짓 약속이 됩니다. 국방 관료는 신기술의 가용성에도 불구하고 전쟁에 대한 지속적인 생각에 적응하기 위해 고군분투하고 있습니다. 말을 탄 남자는 향수에 젖어 과거의 전투에 대한 꿈에 빠져 미래의 전쟁에 적응할 수 없게 됩니다.

이 대안적인 미래에서 미군은 전쟁과 관료주의에 대한 낡은 생각의 중력에서 결코 벗어나지 않습니다. AI/ML에 대한 현재의 열광에도 불구하고 이러한 미래에 대한 가능성은 0이 아닙니다. 그렇습니다. 군은 새로운 전투 네트워크를 개발하기 위한 경쟁을 벌이고 있지만, 그것이 어느 정도 새로운 교리와 전투 조직이 될지는 여전히 불확실합니다.

* * *

때는 2040년입니다. 합참의장은 보안 드론이 그를 호위하고 그의 디지털 개인 비서가 그에게 매일 뉴스를 읽어주는 것과 함께 새로 단장한 골동품 스포츠카를 타고 국방부로 운전합니다. 평소보다 교통량이 더 많았습니다. 버지니아 북부를 에칭하는 흰색과 회색 대리석, 콘크리트, 강철 건물의 흐릿한 미로에 벚꽃이 색을 더하는 아름다운 봄 아침이었습니다. 자신과 같은 많은 운전자는 제한된 자동 운전 모드를 켜는 대신 아침 통근을 즐기고 스스로 운전하는 것을 선택하여 지루한 시속 50마일 경험을 제한했습니다. 그는 운전하는 것을 선호했지만 기계가 읽어 주도록 하여 유용하다고 생각되는 정보를 목록화하고 사무실에 도착했을 때 답변을 원하는 질문을 직원들에게 강조 표시했습니다. 사실 그는 어쨌든 독서를 그다지 좋아하지 않았습니다.

늙은 장군은 그의 개인 비서 Chesty를 골동품 Devil Dog처럼 들리도록 맞춤화했습니다. 알고리즘은 오래된 오디오 파일은 물론 제2차 세계 대전의 맞춤형 특정 기간 은유까지 폐기했습니다. 이는 소프트웨어가 모든 사람의 세계 참여를 중재하는 재미있지만 사소한 방식의 또 다른 예였습니다. Chesty는 투덜거리며 그에게 헤드라인을 읽어주었다.

"공군 장군은 인간 항공 교통 관제사와 조종사를 더 잘 통합해야 할 필요성을 언급하면서 자동화된 항공 우주 요원의 군집 실험 테스트를 중단했습니다."

Chesty는 헤드라인에 다음과 같이 덧붙였습니다. “오늘 우리는 저주받은 편지를 쓰는 능력을 바탕으로 장군을 만듭니다. 그런 사람들은 우리를 전쟁에 대비시킬 수 없습니다.”