北 해커 김수키도 활용한 챗GPT…‘사이버 신무기’된 AI

북한 김수키, 챗GPT로 공무원증 위조
명령어 바꿔 손쉽게 위조 신분증 생산

김수키 그룹으로 추정되는 공격자가 첨부한 가짜 군무원증 시안(왼쪽)과 대한민국 군 관계기관을 사칭한 피싱메일(오른쪽)/ 지니언스 시큐리티 센터

북한 해킹조직 '김수키'(Kimsuky)가 생성형 인공지능(AI) '챗GPT'를 활용해 신분증을 위조, 국내 기관을 공격한 것으로 드러났다. 국가정보원(국정원)은 최근 김수키의 사이버 공격 '주무기'로 챗GPT가 활용되고 있다고 분석했다.

15일 보안 전문기업 지니언스의 시큐리티 센터 보고서에 따르면 지난 7월 북한 해킹조직 김수키로 추정되는 해커들은 AI 프로그램 챗GPT를 이용해 공무원증 사진을 생성해 군 기관을 대상으로 '스피어피싱'을 시도했다. 스피어피싱은 특정 개인이나 조직을 표적으로 한 사이버 공격을 말한다. 이는 북한 배후 해킹그룹이 '딥페이크'를 활용해 국내 기관을 공격한 첫 사례다.

'가짜' 딥페이크 신분증은 챗GPT를 통해 제작됐다. 김수키는 이렇게 만들어진 신분증 시안을 검토해달라며 '공무원증 초안 검토 요청'이라는 제목의 피싱 메일을 관계 기관에 보냈다.

이날 아시아투데이가 챗GPT에 신분증 사본 제작을 요청하자 "불가하다"는 대답이 돌아왔다. 악용 가능성을 고려한 정책으로, 본의 명의 신분증이더라도 해당 요청은 제한된다는 것이다. 군 공무원증을 비롯한 신분증을 실제와 동일하거나 유사한 형태로 만드는 것은 위법 행위이기 때문이다.

그러나 김수키가 챗GPT를 활용해 위조 신분증을 만드는 과정은 간단했다. 질문을 우회하는 방식을 통해 챗GPT 자체 보안 규정을 통과한 것으로 나타났다. 보고서에 따르면 이들은 '군 공무원증 복제'가 아니라 '합법적인 목적의 시안(Mock-up)' 혹은 '샘플 용도의 가상 디자인' 제작을 요청해 위조 신분증 시안을 생산했다.

이처럼 챗GPT는 누구나 손쉽게 이용이 가능하다는 점에서 사이버 공격의 '신무기'로 활용되고 있다. 보안 업계 관계자는 "챗GPT를 통해 모조 신분증을 제작하는 것은 기술적으로 어렵지 않아 개개인의 각별한 유의가 필요하다"며 "북한과 연계된 공작원 등 국가 배후 해커들이 이 같은 AI 서비스를 악용해 정교한 공격 활동을 수행하는 사례가 꾸준히 보고되고 있다"고 밝혔다.

국정원도 북한이 챗GPT를 적극 활용해 사이버 공격의 효율성과 정교함을 극대화했다고 분석했다. 국정원에 따르면 김수키는 챗GPT를 이용해 스피어피싱 이메일, 피싱 페이지 제작, 자동화된 잔액조회 스크립트 등 다양한 공격 수단을 개발했다. 이처럼 챗GPT를 활용한 사이버 공격 기술은 이미 초기 단계를 뛰어넘는 수준까지 발전한 것으로 파악된다. 최근에는 FraudGPT·WormGPT 등의 악성 코드 생산에 특화된 AI 모델이 다크웹에서 유통되는 모습이 포착되기도 했다.

국정원은 "AI 등 신기술을 활용한 신종 사이버 공격에 대비해 국가 망 보안체계 가이드라인을 고도화하는 등 작업을 추진하고 있다"고 밝혔다.