구글 딥마인드가 싱가포르 정부기술청(GovTech Singapore)과 협력해 온디바이스에서 작동하는 프라이버시 보존형 스캠 탐지 AI 모델을 공동 개발했다. 싱가포르에서는 투자 사기·가짜 구직 제안·공무원 사칭 등 스캠이 전체 신고 범죄의 절반 이상을 차지하며 2019년 이후 피해액이 40억 싱가포르달러를 넘었고, 특히 정교한 사회공학적 대화형 사기가 전체 피해의 최대 80%를 차지한다. 이를 막기 위해 구글의 경량 모델 '젬마(Gemma)'를 현지 스캠 대화 데이터로 미세조정했으며, 서버로 메시지를 전송하지 않고 기기 내에서 직접 대화 패턴을 분석하는 2단계 파이프라인(경량 1차 스크리닝 후 젬마 기반 정밀 분석)을 적용했다. 모델은 GovTech의 격리된 GCP 환경에서 익명화된 데이터로만 훈련됐고, 실제 배포 시에도 이용자 동의 하에 기기 내에서만 작동해 구글과 싱가포르 정부 모두 대화 내용에 접근할 수 없다. 이는 종단간 암호화를 유지하면서도 실시간 스캠 탐지가 가능함을 보여주는 선례로, 다른 국가로의 확산 가능성도 시사한다.

• •구글 젠마 모델을 현지 스콤 대화로 미세조정한 온디바이스 스콤 탐지 모델 공개
• •싱가포르 스콤 피해는 2019년 이후 40억 싱가포르달러 초과, 사회공학적 사기가 피해의 최대 80%
• •경량 1차 스크리닝 후 젠마 정밀 분석하는 2단계 온디바이스 파이프라인 적용
• •격리된 GCP 샌드박스·익명화 데이터로 훈련, 배포 후에도 대화 내용 접근 불가