선거 강화 및 보호

민주적 절차는 모든 유권자가 참여할 수 있을 때 가장 잘 작동합니다. 하지만 많은 사람들이 자신이 이해할 수 있는 언어와 형식으로, 어떻게 등록하고 어디서 투표하며 후보자가 무엇을 지지하는지에 대한 정보를 얻지 못하는 경우가 많습니다. 시각 장애가 있거나 문해력이 낮거나 비원어민인 시민들에게는 기존의 선거 이메일이나 인쇄물은 접근이 어렵습니다.

이러한 소통의 장벽 앞에서, 음성 AI는 민주주의를 위한 매우 강력한 도구가 될 수 있습니다. 시각 장애인을 위해 정보를 읽어주고, 시민이 선호하는 언어나 방언으로 질문에 답하며, 복잡한 공식 문서를 대화로 바꿔줄 수 있습니다. 하지만 모든 신기술과 마찬가지로, 이런 기능이 악의적으로 사용되어 유권자를 속이거나 잘못된 정보를 전달하는 데 쓰일 수도 있습니다.

2026년은 전 세계적으로 국가, 지역, 지방 선거가 열리는 중요한 해입니다. 미국과 브라질 등 주요 국가에서도 대규모 선거가 예정되어 있습니다. 또한, 자연스럽고 표현력 있는 음성 AI가 널리 사용되는 첫 선거 해 중 하나이기도 합니다. 아래에서는 ElevenLabs가 음성 AI를 활용해 민주적 절차를 강화하는 방법과, 이 기술의 오용을 방지하고 감지하는 방법을 소개합니다.

민주적 절차 강화

음성 AI는 이미 신뢰받는 기관의 공식 정보를 더 많은 사람에게 제공함으로써 선거에서 중요한 역할을 하고 있습니다. 브라질이 전 세계적으로 선도적인 역할을 하고 있습니다.

10월 선거를 앞두고, 브라질 연방선거법원(TSE)은 ‘선거 어시스턴트’에 음성 기능을 추가해 시민들이 TSE 웹사이트, 앱, WhatsApp 채널에서 음성으로 정보를 얻을 수 있도록 했습니다. ElevenLabs의 텍스트 음성 변환 및 음성 인식 기술이 적용된 이 새로운 음성 인터페이스는 선거 관련 허위 정보를 차단하고, 모든 브라질 시민이 신뢰할 수 있는 정보에 더 쉽게 접근할 수 있도록 설계되었습니다. ElevenLabs는 TSE와의 양해각서(MoU)를 통해 파트너십을 공식화했으며, TSE의 ‘선거 허위정보 대응 상설 프로그램’에도 참여하고 있습니다.

또한 브라질 내 여러 기관과 협력해 음성 AI를 활용한 정보 검증 활동도 지원하고 있습니다. 약 10년 동안, 브라질 탐사보도협회(Abraji)가 이끄는 42개 브라질 언론사 연합체인 Comprova는 조작된 콘텐츠를 식별하기 위해 꾸준히 노력해왔습니다. ElevenLabs는 Comprova 파트너들이 AI Speech Classifier와 기타 감지 도구를 검증 워크플로우에 활용할 수 있도록 교육할 예정입니다.

미국에서는 정책 입안자, 업계 단체, 주요 기술 기업들과 협력해 중간선거를 보호하고 있습니다. 캘리포니아의 ‘기술 기반 사기 대응 태스크포스’ 회원사들과 함께 음성 기반 사기를 방지하고, Google DeepMind와 협력해 오디오에 워터마크를 삽입하여 AI 생성 오디오임을 식별할 수 있도록 하고 있습니다. 또한, 딥페이크 탐지 기업 Reality Defender와 협력해 대기업과 정부에서 사용하는 실시간 탐지 도구를 강화하고 있습니다. ElevenLabs for Government를 통해 정부와 시민단체가 다양한 언어로 24시간 시민 서비스를 제공할 수 있도록 지원하고 있으며, 2026년 선거를 앞두고 미국 내 공공기관에도 이 기능을 도입할 예정입니다.

음성 AI 오용 방지 및 감지

민주적 접근성을 확대하는 데 기술을 활용하는 동시에, 악의적 사용을 막기 위한 안전장치에도 투자하고 있습니다. ElevenLabs는 모델과 제품 전반에 걸쳐 여러 겹의 보호 장치를 적용해, 한 단계가 우회되더라도 다른 단계가 남아 있도록 종합적이고 다층적인 안전 체계를 운영합니다. 주요 안전장치는 다음과 같습니다.

• No Go Voices. 클론 생성을 위해 업로드된 오디오 샘플은 ElevenLabs의 독자적인 "No Go Voices"(NGV) 안전장치로 검사됩니다. NGV는 공직자, 정치 후보, 유명인 등 고위험 인물의 음성 생성을 차단하도록 설계되었습니다. ElevenLabs는 내부 모니터링, 최신 이슈, 사용자 신고, 외부 정보 등을 바탕으로 NGV를 지속적으로 개선하고 확장하고 있으며, 새로운 선거 주기가 시작될 때마다 이를 반영합니다.
• Voice CAPTCHA. Voice CAPTCHA는 업로드된 샘플의 음성과 사용자가 실시간으로 동적으로 생성된 스크립트를 읽는 음성을 비교합니다.
• 실시간 및 비동기 모더레이션. ElevenLabs는 아동 성착취 및 학대, 증오 발언, 사기 등 정책 위반 가능성이 있는 콘텐츠를 탐지하기 위해 자동화 시스템을 사용합니다. 이 시스템은 일부 콘텐츠가 생성되기 전에 차단할 수 있습니다. 생성된 콘텐츠는 자동으로 분류되어, 사람에 의한 검토, 조사, 조치에 활용될 수 있습니다.
• 정책 집행. ElevenLabs는 정책을 위반하거나, 안전장치를 우회하려 하거나, 심각한 피해 위험이 있는 활동을 하는 사용자에 대해 적절한 조치를 취합니다.
• 추적 가능성 및 투명성. ElevenLabs의 시스템은 생성된 콘텐츠를 생성한 계정까지 추적할 수 있도록 설계되었습니다. 2023년부터는 무료로 AI Speech Classifier 를 제공해 누구나 오디오 샘플이 ElevenLabs에서 생성된 AI 콘텐츠인지 확인할 수 있습니다. 최근에는 Google DeepMind와 협력해 SynthID 워터마킹 기술을 ElevenLabs에서 생성된 콘텐츠에 적용하고 있으며, 이를 ElevenLabs의 무료 Audio Detector 로 AI 생성 여부를 확인할 수 있습니다.

지속적인 약속

ElevenLabs는 음성 AI가 공공 영역에서 가져올 수 있는 큰 이점을 믿으며, 기술이 선한 방향으로 사용되도록 최선을 다하고 있습니다. 앞으로도 안전장치를 강화하고, 전 세계 파트너십에서 배우며, 새로운 위험과 기회에 맞춰 접근 방식을 계속 발전시켜 나가겠습니다. 정부 및 시민단체와 긴밀히 협력하게 되어 기쁘며, 이번 선거 주기와 그 이후에도 파트너십을 더욱 확대해 나가겠습니다.