챗GPT(Chat GPT)를 악용한 스캠 범죄가 매일 100개 이상에 달하는 것으로 조사됐다. 스캠이란 이메일을 가로채 속이는 행위로, 기업의 경우 고객사로 위장해 거래대금을 가로채는 등 각별한 주의가 당부 되는 추세다.
챗GPT 스캠은 Ai 관련 인기에 편승해 활용하려는 이의 시스템에 접속하거나, 비용 결제 후 사용을 조작하는 등의 행위로 대금 편취가 주된 이유다.
지난해 11월부터 올해 4월까지 등록된 ChatGPT 관련 도메인은 총 910% 증가했으며, 이는 매일 100개 이상의 ChatGPT 관련 URL이 생성되고 있음을 의미했다.
같은 기간 내 도메인에 ‘openai’와 ‘chatgpt’ 등의 관련 키워드를 넣어 이를 악성 행위에 사용하는 스쿼팅 도메인은 무려 18,000% 증가했다.
자료는 팔로알토 네트웍스 소속 연구 기관 유닛42(Unit42)가 공개했다.
유닛42는 ChatGPT 관련 스쿼팅 도메인은 꾸준히 증가세며, 특히 2월 7일 새로운 빙(Bing) 버전 출시 직후 300개 이상의 도메인이 등록됐다고 밝혔다. 또한, 공식 API 릴리즈와 GPT-4 출시 기간에 유독 급증했다.
△ 특정 키워드와 함께 URL 필터링 탐지 건수가 급증했다.
△ 멀웨어 다운로드를 유도하는 ChatGPT 모방 사이트
위장한 스캠 URL을 통해 프로그램을 내려받게 해 정보를 빼내거나 계정을 도용하는 방식의 금융 사기를 목적으로 ChatGPT 관련 소셜 엔지니어링도 사용되는 것으로 확인됐다.
특히 오픈 API가 무료 버전 ChatGPT를 제공함에도 스캐머는 가짜 사이트 방문을 유도해 서비스 비용 지급을 유도하는 방식으로 신용카드 정보와 이메일 주소 등을 수집하고, 암호화폐 경품 행사를 가장해 민감 정보를 탈취하는 수법도 등장했다.
더 큰 문제는 ChatGPT를 모방한 AI 챗봇 애플리케이션이 또 다른 보안 위협을 야기한다는 것. 유닛42는 대다수 모방 챗봇이 2020년에 출시된 GPT-3를 기반으로 하며, 사용자의 민감 정보가 악용될 수 있다고 경고했다.
실제 chatgptforchrome[.]com 스쿼팅 도메인이 ChatGPT의 크롬 확장 프로그램에 대한 소개 페이지를 호스팅 하는데, 오픈AI가 제공하는 공식 정보와 영상을 도용하고 있다.
해당 페이지에서 “Add to Chrome(크롬에 추가하기)” 링크를 클릭하면 다른 확장 URL로 연결되고, ‘AI ChatGPT’로 안내되는 확장 프로그램을 내려받는다.
하지만 해당 파일은 사용자(피해자)의 브라우저에 백그라운드 스크립트를 추가하고, 스크립트가 페이스북 그래프 API를 호출한 후 페이스북 계정 세부 정보를 도용할 수 있는 것으로 확인됐다. 이와 같은 브라우저 확장 프로그램 악용 코드가 다수 보고됐다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
