선거 강화 및 보호

모든 유권자가 참여할 수 있을 때 민주적 절차는 가장 잘 작동합니다. 하지만 많은 사람이 자신이 이해할 수 있는 언어와 형식으로 유권자 등록 방법, 투표 장소, 후보자의 공약에 관한 정보를 얻지 못합니다. 시각 장애가 있거나 문해력이 낮은 시민, 또는 모국어 화자가 아닌 많은 시민에게 기존의 선거 이메일과 인쇄 전단지는 사실상 접근하기 어렵습니다. 

이러한 소통 장벽 앞에서 음성 AI는 민주주의를 위한 매우 강력한 도구가 될 수 있습니다. 시각 장애인을 위해 정보를 소리 내어 읽어 주고, 시민이 선호하는 언어나 방언으로 질문에 답하며, 복잡한 공식 문서를 음성 대화로 바꿀 수 있습니다. 하지만 모든 신기술과 마찬가지로, 이러한 기능은 악의적인 주체가 유권자를 속이거나 잘못된 정보를 퍼뜨리는 데 악용할 수도 있습니다. 

2026년은 미국과 브라질의 주요 선거를 비롯해 전 세계 모든 지역에서 국가·지역·지방 선거가 치러지는 중요한 선거의 해입니다. 또한 표현력이 풍부하고 자연스러운 음성 AI를 폭넓게 사용할 수 있는 첫 선거의 해 중 하나이기도 합니다. 아래에서는 기술의 악용을 방지하고 감지하는 동시에, 음성 AI를 통해 민주적 절차를 강화하는 방법을 소개합니다.

민주적 절차 강화 

음성 AI는 이미 신뢰할 수 있는 기관의 공식 정보에 대한 접근성을 확대하며 선거에서 중요한 역할을 하고 있으며, 브라질이 전 세계적으로 이를 선도하고 있습니다.

10월 선거를 앞두고 브라질 연방선거법원(TSE)은 시민들이 TSE 웹사이트, 앱, WhatsApp 채널에서 음성으로 정보를 얻을 수 있도록 ‘선거 어시스턴트’에 음성 기능을 추가하고 있습니다. ElevenLabs의 텍스트 음성 변환 및 음성 텍스트 변환 기술로 구동되는 이 새로운 음성 인터페이스는 선거 관련 허위 정보에 대응하고 모든 브라질 시민이 신뢰할 수 있는 정보에 더 쉽게 접근하도록 설계되었습니다. ElevenLabs는 국가 선거 당국과의 첫 양해각서(MoU)를 TSE와 체결해 파트너십을 공식화했으며, TSE의 선거 허위 정보 대응 상설 프로그램에도 참여했습니다.

ElevenLabs는 정보 검증 활동을 지원하기 위해 음성 AI를 사용하는 브라질 기관들과도 협력하고 있습니다. 브라질 탐사보도협회(Abraji)가 이끄는 브라질 미디어 기관 42곳의 연합체인 Comprova는 약 10년간 조작된 콘텐츠를 식별하기 위해 끊임없이 노력해 왔습니다. ElevenLabs는 Comprova 파트너들이 검증 워크플로에 AI 음성 분류기와 기타 탐지 도구를 활용할 수 있도록 교육할 예정입니다. 

미국에서는 중간선거를 보호하기 위해 정책 입안자, 업계 단체 및 선도적인 기술 기업들과 협력하고 있습니다. 캘리포니아주의 기술 기반 사기 대응 태스크포스(Countering Tech-Enabled Fraud Task Force) 구성원들과 함께 음성을 활용한 사기에 대응하고 있습니다. Google DeepMind와 협력해 오디오에 워터마크를 삽입하여 AI 생성 콘텐츠임을 식별할 수 있게 하고, 대기업과 정부에서 사용하는 실시간 탐지 도구를 강화하기 위해 딥페이크 탐지 기업 Reality Defender와도 협력하고 있습니다. ElevenLabs for Government를 통해 정부와 시민사회가 여러 언어로 상시 시민 서비스를 제공하도록 지원하고 있으며, 2026년 선거가 다가옴에 따라 이러한 역량을 미국의 시민 기관에도 제공하기 위해 노력하고 있습니다.

음성 AI 악용 방지 및 탐지 

민주적 접근성을 확대하기 위해 기술을 활용하는 한편, 악의적인 주체의 오용에 대응하는 안전장치에도 투자하고 있습니다. ElevenLabs는 모델과 제품 전반에 걸쳐 중첩된 보호 체계를 적용하는 포괄적인 다층 안전 접근 방식을 취합니다. 한 단계가 우회되더라도 다른 단계의 보호가 유지되도록 하기 위해서입니다. 이러한 안전장치에는 다음이 포함됩니다. 

• No Go Voices. 음성 복제용으로 업로드된 오디오 샘플은 독자적인 "No Go Voices"(NGV) 안전장치를 통해 검사됩니다. 이 안전장치는 공직자, 정치 후보자, 유명인 및 기타 널리 알려진 인물처럼 고위험군에 속하는 사람의 음성이 생성되는 것을 차단하도록 설계되었습니다. 내부 모니터링, 시사 이슈, 사용자 신고 및 외부 정보에 기반해 NGV를 지속적으로 개선하고 확대하며, 여기에는 새로운 선거 주기가 시작되는 경우도 포함됩니다.
• 음성 CAPTCHA. 음성 CAPTCHA는 업로드된 샘플의 음성을 사용자가 동적으로 생성된 스크립트를 읽는 실시간 녹음과 비교합니다. 
• 실시간 및 비동기식 모더레이션. 아동 성 착취 및 학대, 혐오 발언, 사기 및 금융 사기 등 정책을 위반할 수 있는 콘텐츠를 탐지할 수 있도록 자동화 시스템을 사용합니다. 이러한 시스템은 특정 콘텐츠가 생성되기 전에 차단할 수 있습니다. 생성된 콘텐츠는 사람의 검토, 조사 및 집행을 지원하기 위해 자동으로 분류될 수도 있습니다.
• 집행. 정책을 위반하거나 안전장치 우회를 시도하거나 심각한 피해 위험을 초래하는 활동에 관여하는 사용자에게 적절한 조치를 취합니다.
• 추적 가능성 및 투명성. ElevenLabs 시스템은 생성된 콘텐츠를 이를 만든 계정까지 추적할 수 있도록 설계되었습니다. 또한 2023년부터 무료 AI 음성 분류기,를 제공하여 누구나 오디오 샘플에 ElevenLabs에서 생성된 AI 콘텐츠가 포함되어 있는지 확인할 수 있도록 했습니다. 최근에는 Google DeepMind와 협력하여 SynthID 워터마킹 기술을 ElevenLabs에서 생성된 콘텐츠에 적용하기 시작했으며, 이를 통해 무료 오디오 탐지기로 AI 생성 콘텐츠임을 식별할 수 있습니다.  

지속적인 약속 

ElevenLabs는 공공 영역에서 음성 AI가 제공하는 막대한 이점을 굳게 믿으며, 기술이 선한 목적으로 사용되도록 최선을 다하고 있습니다. 안전장치를 계속 강화하고, 전 세계 파트너십에서 배우며, 새로운 위험과 기회가 나타남에 따라 접근 방식을 조정해 나가겠습니다. 전 세계 정부 및 시민사회 단체와 긴밀히 협력하게 되어 기쁘며, 이번 선거 주기와 그 이후에도 파트너십을 더욱 강화해 나가기를 기대합니다.