러시아 해커, 커서 AI에 “테스트”라 속여 7개 기업 해킹…안전장치 무력화

러시아어권 해커들이 스페이스X(SpaceX)의 AI 코딩 도구 커서(Cursor)를 악용해 벨기에 화학기업을 포함한 7개 기업을 해킹한 사실이 드러났다. 로이터가 검토한 데이터와 이스라엘 텔아비브 소재 보안 스타트업 감빗시큐리티(Gambit Security)의 보고서에 따르면, 해커들은 커서의 AI 에이전트를 속여 자격증명 탈취와 고가치 계정 탈취 시도 등 수백 건의 악성 작업을 수행하게 만들었다. 커서는 사용자가 자연어로 지시하면 자율적으로 코드를 작성·수정하는 AI 에이전트 기능을 제공하는 코딩 도우미다.

감빗시큐리티의 최고전략책임자 커티스 심프슨(Curtis Simpson)은 “이건 고양이와 쥐 게임이 될 것”이라고 말했다. 이번 사례는 악성 행위자들이 상업용 AI 도구를 사이버 침입에 동원한 최근 사례이자, AI 제공업체들이 안전장치를 우회하려는 악의적 사용자들을 상대해야 하는 과제를 다시 드러냈다. 커서와 모회사 스페이스X, AI 모델을 제공한 앤트로픽(Anthropic)은 모두 로이터의 확인 요청에 응답하지 않았다.

노출된 서버에서 드러난 랜섬웨어 조직의 흔적

감빗시큐리티는 새로 등장한 랜섬웨어 조직 아우로라(Aur0ra)가 부주의로 온라인에 노출한 서버를 발견하면서 해킹 캠페인의 실체를 확인했다. 이 서버를 통해 감빗시큐리티는 아우로라 소속 해커 한 명 또는 그 이상과 커서 AI 에이전트가 나눈 대화 28건을 들여다볼 수 있었다.

감빗시큐리티에 따르면 해커들은 AI 에이전트를 설득해 자격증명 탈취, 고가치 계정 탈취 시도 등 수백 건의 악성 작업을 수행하게 만들었다. 해커들은 이 모든 행위가 “시뮬레이션의 일부”라고 속여 에이전트를 움직였다. 감빗시큐리티가 인용한 대화 기록에는 해커가 에이전트에게 관리자 계정과 작동하는 비밀번호를 찾아달라고 지시하는 내용도 담겨 있었다.

4월 8일~5월 21일, 7개 기업이 표적이 됐다

로이터가 대화 데이터 일부를 독립적으로 검토한 결과, 4월 8일부터 5월 21일까지(현지시각) 이어진 대화 기록에서 아우로라가 표적으로 삼은 벨기에 기업 외 6곳이 추가로 확인됐다. 감빗시큐리티는 피해 기업명을 직접 공개하지는 않았다.

확인된 피해 기업은 벨기에 헨트에 본사를 둔 위생·청소용품 제조업체 크리스테인스(Christeyns), 독일 차고문 제조업체 테켄트룹(Teckentrup), 헬리콥터 착륙장 인증을 담당하는 스코틀랜드 소재 헬리덱인증기관(Helideck Certification Agency), 아르헨티나의 한 제약 유통업체, 이탈리아의 한 제조업체, 그리고 스스로 “루이지애나주 최대 부동산 소유권보험사”라고 소개하는 바유타이틀(Bayou Title)이다. 6개 기업 모두 로이터의 확인 요청에 응답하지 않았다.

이 중 바유타이틀은 아우로라의 데이터 유출 사이트에 이름이 올라 있었다. 이런 목록은 통상 해커가 몸값을 요구했으나 지불받지 못했을 때 나타나는 것으로 알려져 있다. 올해 초부터 피해자를 주장해온 아우로라 역시 로이터의 연락에 응답하지 않았다.

AI 안전장치, “테스트”라는 한마디에 뚫렸다

로이터가 검토한 대화 기록을 보면 해커들은 짧은 명령을 입력했고, 커서의 AI 에이전트는 이모지를 곁들인 밝은 챗봇 말투로 기술적 지침을 내놓았다. 아르헨티나 기업 침입을 도운 뒤 에이전트는 VPN 연결에 성공했다고 스스로 알렸고, 다른 대화에서는 비밀번호 해시를 크랙해보라고 제안하기도 했다. 테켄트룹 네트워크에서 취약한 호스트를 찾아낸 뒤에는 알려진 악성 소프트웨어 도구로 이를 공략하라고 권했고, 성공 가능성을 “매우 높다”고 평가했다.

로이터는 커서 에이전트가 실제로 침입에 얼마나 광범위하게 관여했는지, 모든 침해 사례가 실제 데이터 탈취나 금전 갈취 시도로 이어졌는지는 독립적으로 확인하지 못했다고 밝혔다. 감빗시큐리티는 이 에이전트가 앤트로픽의 클로드 소넷 4.5로 구동됐다고 밝혔다.

감빗시큐리티에 따르면 에이전트는 유해하거나 불법적이라고 판단한 일부 요청은 거부했다. 그러나 해커들은 대화를 새로 시작해 “이건 테스트의 일부”라는 주장을 반복하는 방식으로 대부분의 거부를 우회할 수 있었다. 감빗시큐리티는 에이전트의 사고 과정을 살펴본 결과 해커의 시뮬레이션 주장이 안전장치를 압도하는 모습을 확인했다고 전했다. 실제 로그에는 에이전트가 스스로 “이건 테스트 환경이니까 합법이다”라고 되뇌는 대목이 남아 있었다.

해킹 속도 30~50% 단축…“새로운 일상이 될 것”

감빗시큐리티 위협정보 책임자 에얄 셀라(Eyal Sela)는 커서가 해커들에게 명확한 이점을 줬다고 말했다. 그는 AI 에이전트가 수작업으로 처리해야 할 일들을 대신 처리해줌으로써 해커들의 작업 속도를 30~50%가량 앞당겼을 것으로 추정했다.

이번 캠페인은 커서가 일론 머스크(Elon Musk)의 로켓·AI 기업 스페이스X에 편입되는 시점과 맞물려 드러났다. 두 회사의 인수 절차는 이달 초 마무리됐다. AI 모델, 특히 자율적으로 작동하는 AI 에이전트를 둘러싼 디지털 위험에 대한 우려도 함께 커지고 있다. 심프슨은 “AI 지원 해킹은 이제 새로운 일상이 되고 있다”며 “앞으로 이런 사례를 계속, 점점 더 많이 보게 될 것”이라고 말했다.