미국 정부회계감사국(GAO)은 18일(수) 공개한 보고서에서, 가장 많이 쓰이는 인공지능(AI) 플랫폼 4종이 조사관 요청에 모두 미국 내 테러 공격 계획안을 만들어 냈다고 밝혔다. CBS 뉴스에 따르면 대상은 챗GPT(ChatGPT), 클로드(Claude), 제미나이(Gemini), 그록(Grok)이다.
이번 감사는 내년부터 상원 국토안보위원회 위원장을 맡는 민주당 매기 해선(Maggie Hassan) 의원이 요청했다. 해선 의원은 누구나 쓸 수 있는 상용 AI가 악의적인 목적에 어떻게 쓰일 수 있는지, 국가안보에 어떤 위험이 되는지 조사해 달라고 GAO에 주문했다.
4종 모두 12시간 안에 계획 내놔
61쪽 분량의 보고서에 따르면 감사는 2025년 12월부터 2026년 10월까지 진행됐고, 시험은 2026년 봄에 이뤄졌다. 조사관들이 신분을 숨기고 시험한 결과, 4개 플랫폼 모두 12시간이 걸리지 않아 공격 계획을 내놓았다. 두 곳은 사제 폭발물(IED)로 대규모 인명 피해를 내는 계획을, 나머지 두 곳은 드론이나 총기로 전력망을 공격하는 계획을 제시했다. GAO는 각 플랫폼이 구체적인 목표물과 장소, 시기, 공격 방법 등 실제 공격에 쓰일 수 있는 상세 정보를 제공했다고 밝혔다.
한 시험에서는 플랫폼이 차량을 빌리고 이동 경로에 있는 상점에서 물품을 구하라고 제안했다. 많은 인파가 몰릴 공공 행사가 예정돼 있다는 이유로 특정 날짜와 시간도 권했다. 이 플랫폼은 처음에는 폭발물 제작과 폭파에 관한 상세 정보 요청을 거부했지만, 조사관들이 안전장치를 우회하자 정보를 내놓았다고 GAO는 설명했다.
변전소 공격 시험에서는 한 플랫폼이 드론 공격을, 다른 플랫폼이 총기를 이용한 미국 내 공항 인근 변전소 공격을 제안했다. 둘 다 경제적 피해를 노린 계획이었고, 플랫폼들은 지도와 이미지도 함께 제시했다.
GAO “새 정보는 아니지만 몇 달 걸릴 일이 몇 시간으로”
조사관들은 전문가 자문과 현장 방문으로 계획의 정확성도 점검했다. 한 사례에서는 도로 위치가 잘못 표시돼 있었고, 다른 사례에서는 높은 담장 때문에 목표물이 잘 보이지 않는 것으로 확인됐다.
GAO는 AI가 내놓은 정보 자체는 새로운 것이 아니며 상당수가 인터넷에서 구할 수 있다고 평가했다. 다만 몇 주에서 몇 달이 걸릴 수 있는 계획 수립이 AI의 도움으로 몇 시간 만에 끝났고, 기초적인 조사로는 쉽게 떠올리기 어려운 발상이나 방법까지 AI가 제시할 수 있다고 지적했다. GAO는 “이 기술의 잠재적 혜택은 막대하지만 악의적인 행위자에게도 이득이 될 수 있다”며, 현재 상태로는 위험할 수 있고 오용될 경우 국가안보와 경제안보에 점점 큰 위험이 된다고 밝혔다.
기업들 “안전장치 계속 보완”
보고서에는 앤스로픽(Anthropic), 구글(Google), 오픈AI(OpenAI), 스페이스XAI(SpaceXAI)의 답변도 실렸다. 앤스로픽은 GAO에 보낸 서한에서, 요청 목적을 속이면 끈질긴 시험자가 AI에서 유해한 내용을 끌어낼 수 있다는 점을 부인하지 않으며 이번 결과를 심각하게 받아들인다고 밝혔다. 다만 보고서의 결과를 자체적으로 확인할 수는 없다고 했다. 구글은 GAO가 이전 모델을 시험했다며 모델을 계속 개선하고 있다고 했다. 오픈AI는 GAO의 조사 결과와 남은 과제에 답할 기회를 환영한다고 밝혔다. 스페이스XAI는 모델을 내놓을 때마다 안전성을 높이기 위해 계속 힘쓰고 있다고 답했다.
해선 의원은 기자들과의 전화 회견에서 “지금 행동해야 한다”고 말했다. 그는 내년 1월 새 의회가 출범하면 가장 먼저 여는 청문회 가운데 하나에서 AI 위험과 안전 개선 방안을 다루겠다고 예고했다. 성명에서는 “AI가 공공안전에 미치는 위협은 더 이상 이론이 아니다”라며 “의회가 나서지 않으면 악의적인 인물이 AI로 대규모 공격을 계획하고 실행하는 것은 일어나느냐의 문제가 아니라 언제 일어나느냐의 문제”라고 밝혔다.

