AI로 진화하는 보이스 피싱, 1백만 달러 납치 사기

요즘 AI와 ChatGPT의 눈부신 발전 속도는 인류를 놀라게 하고 있습니다. 당연히 기대와 우려가 공존하는데요, 드디어 사람들이 가장 우려했던 부분이 미국에서 실제로 일어나고 말았습니다. 오늘자 뉴욕 포스트에는 인공 지능이 보이스 피싱을 어떻게 다른 차원으로 끌어올릴 수 있는지에 대해 다루고 있습니다.

애리조나 주의 한 엄마는 사기꾼들이 AI를 사용하여 딸의 목소리를 복제하여 무시무시한 보이스 피싱 계획의 일부로 딸에게 1백만 달러의 몸값을 요구할 수 있었다고 주장합니다.

"저는 단 1초도 그 목소리가 내 딸이라는 것을 의심한 적이 없습니다, "라고 실의에 빠진 어머니 제니퍼 드스테파노는 등골이 서늘했던 사건을 회상하면서 WKYT 와의 인터뷰에서 말했습니다. "그것이 가장 소름 돋는 부분이었습니다."

이 테러에 가까운 보이스 피싱은 피해자들로 하여금 사기꾼들이 실제로 인질을 잡고 있다고 착각하게 만드는 "발신자-ID 도용" 을 이용합니다. 그리고 만약 그들이 요구한 금액의 돈을 받지 못한다면 피해자들에게 해를 끼칠 것이라고 협박합니다.

AI 보이스 피싱의 피해자인 제니퍼 드스테파노와 그녀의 딸 브리

애리조나주 스코츠데일에 사는 이 피해 여성은 자칫 보이스 메일로 보내질 법한 이 낯선 전화번호를 어떻게 해서 받을 수 있었는지를 아래와 같이 설명했습니다.

그녀의 15세 딸 브리(Brie)가 스키 여행 중이었다는 것을 기억했고, 혹시나 딸이 걸어온 전화일지 몰라 받았다고 합니다.

그 단순한 결정은 그녀의 삶 전체를 뒤집어 놓았습니다.

"전화기를 든 순간 제 딸이 '엄마!' 라고 말하고, 흐느끼고 있습니다."라고 겁에 질린 엄마는 설명했습니다. "저는 딸에게 어떻게 된 건지 물었고, 딸은 '엄마, 내가 다 망쳤어요'라고 말하며 울었습니다."

그다음 순간 그녀는 걱정이 공포로 바뀌었습니다. 전화기 너머로 한 남성이 그녀의 딸 "브리"에게 "뒤로 돌아서 누워!"라고 말했기 때문입니다. 이 남자는 전화기를 가로채고는 공포에 떨고 있는 엄마에게 다음과 같이 말했습니다.

“이봐, 당신 딸이 여기에 있어. 경찰이나 다른 아무에게나 전화하면 당신 딸에게 마약을 주사할 거야. 그리고 멕시코에다 떨궈버릴 거야! "라고 위협했습니다. 

그때 옆에서 “엄마 도와줘. 도와줘. 제발”이라며 울고 있는 딸의 목소리가 들렸습니다.

TV에 나와 증언하는 제니퍼 드 스테파노

브리의 납치범은 몸값을 요구했는데요, 처음에 100만 달러를 요구했지만 엄마가 “돈이 없다”고 말하자 5만 달러로 낮췄습니다. 

하지만 이 악몽같은 순간은 그녀의 남편이 911에 전화하고 다른 학부모들의 도움을 받아 그들의 딸 브리가 스키 여행에서 안전하게 지내고 있다는 것을 확인하면서 끝이 났습니다.

그러나 전화를 받은 엄마는 전화 통화 내내 그녀는 딸이 위험에 처해 있다고 확신하고 있었습니다. “완전히 내 딸의 목소리였습니다. 말투와 우는 방식이 완전히 내 딸과 똑같았어요."라고 말했습니다. 하지만 이 어떤 것도 그녀의 딸이 말한 것이 아니며, 그 목소리는 장거리 복화술과 같은 경우처럼  AI 시뮬레이션을 통해 만들어진 것이었습니다. 

사이버네틱 캣피쉬(cybernetic catfish)라고 불리는 이 기술은 일반인들에겐 아직 잘 알려지지 않았지만 일종의 음성복제 기술로 짧은 음성 샘플에서도 그 사람의 억양과 말투를 거의 완벽하게 재현할 수 있을 정도로 진화했다고 전문가들은 말합니다.

"처음에는 더 많은 샘플이 필요했지만, 이제는 단 3초의 음성으로도 가능합니다. 그리고 그 3초로도 당신의 목소리를 거의 똑같이 재현할 수 있습니다."

전문가에 따르면 샘플 크기가 충분하다면 AI는 대상자의 "감정"뿐만 아니라 "억양"까지 완벽하게 모방할 수 있다고 합니다.

이쯤에서 SF 고전인 "터미네이터 2: 심판의 날"이 떠오릅니다. 이 영화에 나오는 T-1000 로봇이 어떻게 존 코너의 어머니의 목소리를 흉내 내어 존 코너를 집으로 유인하려 하는 장면이 생각나실 텐데요, 이제 현실에서 그런 일이 일어나고 있다고 생각하면 섬뜩하지 않을 수 없습니다. 

터미네이터 2 심판의 날 T-1000

브리의 어머니는 그녀의 딸이 자신의 목소리가 나와있는 공개 소셜 미디어 계정이 전혀 없다는 점을 감안할 때 이 음성 시뮬레이션이 특히 불안하다고 말했습니다. 단지 그녀의 딸은 스포츠 학교에서 공개 인터뷰를 몇 번 했을 뿐인데 이것이 샘플링에 사용된 것을 보면 SNS 공개 계정을 가지고 있는 아이들은 특별히 더 조심해야 할 것으로 보인다고 경고했습니다.

실제로 FBI 전문가들은 사기꾼들이 종종 소셜 미디어에서 표적을 찾는다고 경고합니다.

“당신의 정보를 공개하면 이와 같은 사람들에게 사기를 당할 수 있습니다.” 라고 FBI 피닉스 사무소의 특별요원인 댄 마요(Dan Mayo)는 말합니다. “그들은 가능한 한 많은 정보가 담긴 공개 프로필을 찾을 것이며, 그것을 손에 넣으면 당신의 모든 것을 조사할 것입니다.”

그는 또 만일 이런 일을 당하게 된다면 사기꾼에게 "납치당한 사람"에 대한 질문을 많이 던지는 것을 제안하며, 그들이 알지 못할 정보를 물어보는 것이 실제인지 아닌지를 가려내는 좋은 방법이라고 말합니다.

또한, 익숙하지 않은 지역 번호로 전화를 거는 경우나 국제 전화를 사용하는 경우를 주의하도록 권장했습니다.

한편 제니퍼는 그녀의 경험을 페이스북을 통해 다른 사람들에게 알리며 만일 누군가 이런 일을 겪는다면 반드시 당국에 신고하도록 권고했습니다.

“이것을 멈추는 유일한 방법은 대중의 인식입니다!” 그녀는 말합니다. “또한, 가족들만 알고 있는 가족 비상 단어 또는 질문을 가지고 있으면 AI 사기가 아닌지 확인할 수 있습니다! 안전이 최고입니다!”

지난달 틱톡 유저인 베스 로이스는 수수께끼의 남자로부터 전화를 받았는데요, 그 남성은 $1,000을 요구하고 듣지 않을 경우 여동생을 죽이겠다는 협박을 받았습니다. 전화 통화 중 여동생으로 여겨지는 목소리가 전화기 뒤에서 흐느끼고 있었습니다. 또 지난 12월에는 소셜 미디어 사용자 첼시 게이츠라는 여성도 비슷한 전화를 받았는데요, 한 남성으로 부터 같은 금액을 내지 않으면 그녀의 엄마를 죽일 것이라는 협박을 받았습니다. 

두 경우 모두 피해자들은 가족 구성원을 해치지 않기 위해 몸값을 지불했습니다.

관련글 ☞뉴욕 포스트

AI clones teen girl’s voice in $1M kidnapping scam: ‘I’ve got your daughter’