이 연구는 2019·2022·2024년에 출시된 3종의 음성합성 도구로 만든 딥페이크 오디오를 IT 전문가 82명과 6개 사전학습 탐지 모델이 얼마나 잘 구분하는지 비교했다. 완전 합성 음성의 경우 딥페이크 존재를 미리 경고받았음에도 F1 점수가 RTVC·YourTTS의 약 90%에서 ElevenLabs의 48%로 크게 떨어졌으며, 한 문장만 조작한 부분 스푸핑에서는 엄격 기준 정확도가 9%까지 낮아지고 청취자의 77%가 조작된 문장을 진짜로 분류했다. 인간과 탐지기는 서로 다른 방식으로 실패해 어느 쪽도 짧은 조작 구간을 안정적으로 찾아내지 못했으며, 청취자들이 진짜 음성마저 가짜로 오인하는 경향이 늘어 정상 오디오에 대한 신뢰까지 훼손되는 것으로 나타났다.
- •2024년형 ElevenLabs 합성음, 완전 합성 딥페이크 탐지 F1 점수가 90%→48%로 급락
- •부분 스푸플(문장 일부 조작) 시 엄격 정확도 9%, 청취자 77%가 가짜를 진짜로 오인
- •인간과 AI 탐지기가 서로 다른 방식으로 실패, 짧은 조작 구간 안정적 탐지 불가
- •진짜 음성도 가짜로 오인하는 경향 증가로 정상 오디오 신뢰까지 훼손
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Tracking the Trend in How Speech Synthesizers Deceive People
- 1.2019·22·24년식 음성합성 3종(RTVC, YourTTS, ElevenLabs)을 IT 전문가 82명과 탐지기 6종으로 비교 평가
- 2.완전 합성음성에서 F1점수가 RTVC·YourTTS 약 90%에서 ElevenLabs 48%로 급락, 딥페이크 경고가 있었음에도 이상
- 3.문장 일부만 변조된 부분 스푸핑은 정확도 9%로 추락, 청취자의 77%가 합성 문장을 진짜로 분류
- 4.사람과 탐지기가 서로 다른 방식으로 실패하며, 진짜 음성까지 가짜로 오인하는 경향이 증가해 신뢰가 전반적으로 하락
왜 중요한가?
최신 딥페이크 음성 합성기 ElevenLabs는 경고를 받은 청취자조차 절반 이상 속일 만큼 인간의 청각 판별력이 무력화됐음을 보여, 인지 기반 탐지 대신 워터마킹·출처 인증·구간 단위 탐지 등 절차적 검증 체계로 전환해야 할 필요성을 뒷받침한다.
언급 프로젝트
음성 합성 기술 발전과 딥페이크 오디오의 현실화는 국내 사회에 심각한 우려를 낳고 있으며, 이 연구는 인간이 얼마나 이를 식별하기 어려운지 최신 동향을 보여줍니다. 국내에서 선거 개입, 사기 등 딥페이크 악용 문제가 커지는 상황에서, 해당 연구 결과는 관련 기술 규제 및 대국민 인지 교육의 중요성을 강조하며 더욱 정교한 탐지 기술 개발의 필요성을 시사합니다.
본문 미리보기
arXiv:2608.19959v1 Announce Type: new Abstract: Advances in speech synthesis have made deepfake audio highly realistic. Earlier studies reported 70-80% human detection accuracy, but relied primarily on older synthesizers. We compare human detection for three selected voice synthesis tools released in 2019, 2022, and 2024 with 82 IT professionals, and benchmark humans against six pretrained detectors on the same material. For fully synthetic speech (full spoofs), the F1 score drops from about 90
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
