선거 강화 및 보호

민주적 절차는 모든 유권자가 참여할 수 있을 때 가장 잘 작동합니다. 하지만 너무 많은 사람이 자신이 이해할 수 있는 언어와 형식으로 등록 방법, 투표 장소, 후보자의 공약에 관한 정보를 얻지 못하고 있습니다. 시각 장애가 있거나 문해력이 낮은 시민, 또는 비원어민 시민에게는 기존의 선거 이메일과 인쇄 전단지가 사실상 접근하기 어렵습니다. 

이러한 소통 장벽 속에서 음성 AI는 민주주의를 위한 매우 강력한 도구가 될 수 있습니다. 시각 장애인을 위해 정보를 소리 내어 읽고, 시민이 선호하는 언어나 방언으로 질문에 답하며, 복잡한 공식 문서를 음성 대화로 바꿀 수 있습니다. 그러나 모든 신기술과 마찬가지로, 이러한 기능은 악의적인 행위자가 유권자를 속이거나 오도하는 데 악용할 수도 있습니다. 

2026년은 미국과 브라질의 주요 선거를 비롯해 전 세계 모든 지역에서 국가, 지역 및 지방 선거가 치러지는 중요한 선거의 해입니다. 또한 표현력이 풍부하고 자연스러운 음성 AI를 널리 이용할 수 있는 최초의 선거 기간 중 하나이기도 합니다. 아래에서는 기술의 오용을 예방하고 탐지하는 동시에 음성 AI를 활용해 민주적 절차를 강화하는 방법을 소개합니다.

민주적 절차 강화 

음성 AI는 신뢰할 수 있는 기관의 공식 정보에 대한 접근성을 확대함으로써 이미 선거에서 핵심적인 역할을 하고 있으며, 브라질이 전 세계적으로 이를 선도하고 있습니다.

10월 선거를 앞두고 브라질 고등선거법원(TSE)은 시민들이 음성으로 TSE 웹사이트, 앱, WhatsApp 채널의 정보를 얻을 수 있도록 ‘선거 보조 서비스’에 음성 기능을 추가하고 있습니다. ElevenLabs의 텍스트 음성 변환 및 음성 인식 기술을 기반으로 하는 이 새로운 음성 인터페이스는 선거 관련 허위 정보를 막고 모든 브라질 시민이 신뢰할 수 있는 정보에 더 폭넓게 접근하도록 설계되었습니다. ElevenLabs는 국가 선거 관리 기관과 처음으로 TSE와 양해각서(MoU)를 체결해 파트너십을 공식화했으며, TSE의 선거 허위 정보 퇴치 상설 프로그램에도 참여했습니다.

또한 음성 AI를 활용해 정보 검증 활동을 지원하는 브라질 기관들과 협력하고 있습니다. 브라질 탐사보도협회(Abraji)가 주도하는 브라질 미디어 기관 42곳의 연합체인 Comprova는 약 10년간 조작된 콘텐츠를 식별하기 위해 끊임없이 노력해 왔습니다. 검증 workflow의 일환으로 ElevenLabs의 AI 음성 분류기와 기타 탐지 도구를 사용할 수 있도록 Comprova 파트너를 교육할 예정입니다. 

미국에서는 중간선거를 보호하기 위해 정책 입안자, 업계 단체 및 선도적인 기술 기업들과 협력하고 있습니다. 음성 기반 사기에 대응하기 위해 캘리포니아주의 기술 기반 사기 방지 태스크포스(Countering Tech-Enabled Fraud Task Force) 동료 회원들과 협업하고 있습니다. Google DeepMind와는 오디오에 워터마크를 적용해 AI 생성 콘텐츠임을 식별할 수 있도록 협력하고 있으며, 딥페이크 탐지 기업 Reality Defender와는 대기업과 정부에서 사용하는 실시간 탐지 도구를 강화하기 위해 협력하고 있습니다. ElevenLabs for Government를 통해 정부와 시민사회가 여러 언어로 상시 시민 서비스를 제공하도록 지원하고 있으며, 2026년 선거가 다가옴에 따라 이러한 기능을 미국의 시민 기관에도 제공하기 위해 노력하고 있습니다.

음성 AI 오용 예방 및 탐지 

민주적 접근성을 확대하기 위해 기술을 제공하는 것과 더불어, 악의적인 행위자의 오용에 대응하는 안전장치에도 투자하고 있습니다. 하나의 계층이 우회되더라도 다른 계층이 남아 있도록 모델과 제품 전반에 걸쳐 중첩된 보호 체계를 적용하는 포괄적이고 다층적인 안전 접근 방식을 취합니다. 이러한 안전장치에는 다음이 포함됩니다. 

• No Go Voices. 음성 복제를 위해 업로드된 오디오 샘플은 공직자, 정치 후보자, 유명인 및 널리 알려진 기타 인물과 같은 고위험군의 음성 생성을 차단하도록 설계된 자체 "No Go Voices"(NGV) 안전장치에 따라 검토됩니다. 새로운 선거 주기가 시작되는 시점을 포함해 내부 모니터링, 시사 이슈, 사용자 신고 및 외부 인텔리전스를 바탕으로 NGV를 지속적으로 개선하고 확대합니다.
• 음성 CAPTCHA. 음성 CAPTCHA는 업로드된 샘플의 음성을 사용자가 동적으로 생성된 스크립트를 읽는 실시간 녹음과 비교합니다. 
• 실시간 및 비동기 모더레이션. 아동 성 착취 및 학대, 혐오 발언, 사기 및 금융 사기를 비롯해 정책을 위반할 수 있는 콘텐츠를 탐지하기 위해 자동화 시스템을 사용합니다. 이러한 시스템은 특정 콘텐츠가 생성되기 전에 차단할 수 있습니다. 또한 생성된 콘텐츠는 인적 검토, 조사 및 집행을 지원하기 위해 자동으로 분류될 수 있습니다.
• 집행. 정책을 위반하거나 안전장치를 우회하려 시도하거나 심각한 피해 위험을 초래하는 활동에 관여하는 사용자에게 적절한 조치를 취합니다.
• 추적 가능성 및 투명성. 시스템은 생성된 콘텐츠를 해당 콘텐츠를 만든 계정까지 추적할 수 있도록 설계되었습니다. 2023년부터 무료 AI 음성 분류기,도 제공하고 있으며, 이를 통해 누구나 오디오 샘플에 ElevenLabs에서 생성된 AI 콘텐츠가 포함되어 있는지 확인할 수 있습니다. 최근에는 Google DeepMind와 협력해 SynthID 워터마킹 기술을 ElevenLabs에서 생성된 콘텐츠에 적용하기 시작했습니다. 이를 통해 무료 오디오 탐지기를 사용하여 AI 생성 콘텐츠임을 식별할 수 있습니다.  

지속적인 약속 

ElevenLabs는 공공 영역에서 음성 AI가 제공하는 막대한 이점을 굳게 믿으며, 기술이 선한 목적으로 사용되도록 최선을 다하고 있습니다. 안전장치를 계속 강화하고, 전 세계 파트너십에서 배우며, 새로운 위험과 기회가 나타남에 따라 접근 방식을 조정해 나가겠습니다. 전 세계 정부 및 시민사회 단체와 긴밀히 협력하게 되어 기쁘게 생각하며, 이번 선거 주기와 그 이후에도 파트너십을 더욱 강화해 나가기를 기대합니다.