SF 소설 '달은 무자비한 밤의 여왕' 표지

인공지능을 두려워하는 사람들 중에는 인공지능을 마치 SF영화 터미네이터에 나오는 인공지능 '스카이넷'이나 SF소설 '달은 무자비한 밤의 여왕'에서 스스로 자아인식에 도달한 '슈퍼 하이브마인드 강인공지능'처럼 생각하는 사람들이 있다. 인공지능이 사람을 노예처럼 지배하다가 결국 인류를 멸망시키게 된다는 것인데...

지금으로서는 그럴 가능성은 거의 없다. 먼 미래에 어찌 될지는 필자도 모르겠다. 다만 현 단계에서 인공지능으로 인한 인류 멸망 시나리오가 없는 것은 아니다. 군사 분야에 인공지능을 사용하면서 핵무기에 대한 명령 및 통제에 통합시킬 때 인공지능이 인간판단을 부적절하게 대체하면서 핵전쟁이 발생할 우려가 있기는 하다.

조기 핵 경보 및 탐지 작업 그리고 핵미사일이 발사됐을 때 적성국의 핵미사일에 대한 행동 방침을 결정하고, 어떻게 대응해야 할지 결정 시간을 줄이는 데에 인공지능을 사용하는 식으로 인공지능이 핵무기 통제에 유용하게 활용될 수 있다. 그런데 인공지능에 사람의 판단을 전적으로 배제하는 경우 핵 통제 대응이 잘못될 수도 있다.

그래서 핵강대국들은 인공지능을 핵무기 시스템에 통합시키거나 혹은 무인전투차량에 핵무기를 탑재할 때 발생하는 멸망 시나리오를 피하기 위한 국제 협정을 추진하고 있다. 2022년에 미국과 프랑스는 공동성명을 발표해 핵무기에 인공지능 사용 시 “인적 통제를 반드시 유지”해야 한다는 데 합의했지만 이후로는 지지부진하다.

2023년 2월 16일 네덜란드 헤이그에서 열린 군 내 인공지능(AI)의 책임감 있는 사용에 관한 첫 번째 국제 정상회담에 60개국 이상 대표들이 참석한 후 포즈를 취하고 있다. / 사진=미국정부

지난해 2월, 미국, 중국을 포함한 60개 이상의 국가가 '군사에서 인공지능의 책임 있는 사용을 지지하는 행동 촉구'라는 협정을 맺으려고 했지만 뜻대로 되지 못했다. 일단 많은 국제협정이 그렇듯이 이는 법적 구속력이 없다. 중국은 유엔을 통해서 협정을 맺자며 반대했고 러시아는 회의 불참, 이스라엘은 참가했지만 서명을 거부했다.

지난해 11월에는 미국을 비롯 40여 국가가 '인공지능의 군사적 사용 책임에 대한 정치적 선언'을 했다. 러시아는 여전히 동참하지 않았다. 특히 러시아의 Perimeter는 적의 참수(斬首)공격으로 러시아의 대통령 등 군통수권자가 사망할 때 자동적으로 핵반격을 하는 시스템인데 사람이 배제된 인공지능으로 인한 인류멸망 위험이 있다.

앞으로 이런 보다 큰 재앙을 막기 위해서는 결국 미국의 러시아 봉쇄정책에는 한계가 있다는 게 나의 개인적인 생각이다. 인공지능 시대가 도래하면서 새로운 유형의 국제정치·군사 윤리가 필요해지고 고도의 인공지능 윤리가 필요해지는 것이다.

평판경제신문 발행인 겸 기자. 레마코리아 대표이사. 문화정책학·과학기술정책학 박사 과정 재학 중, 김대중 전 대통령의 정치경제사상을 연구하면서 정치적 자유주의와 경제적 자유주의를 통합하는 포스트자유주의 이론 체계를 구축하고 있다.

평판경제신문 이승훈 jake.seunghoon@gmail.com 이승훈의 기사 더보기

저작권자 ⓒ 평판경제신문, 무단 전재 및 재배포 금지