Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.
Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.
AI 안전을 위한 3가지 접근 방식
ElevenLabs는 기술의 영향을 고려하며 오디오 AI 기술을 개발합니다. AI 안전을 총괄하는 역할로서, 오용을 방지하고 악의적인 행위를 억제하는 동시에 크리에이터, 기업, 사용자에게 힘을 실어주는 데 집중하고 있습니다. 패널 토론에서는 ElevenLabs를 더 안전하고 혁신적인 공간으로 만들기 위해 취한 조치를 소개하고, AI 안전 문제 해결을 우선시하는 전략을 도입해야 한다고 강조했습니다. 이러한 전략은 다음과 같습니다:
Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.
추적 가능성: AI로 생성된 콘텐츠를 개별 사용자까지 추적할 수 있도록 보장합니다. ElevenLabs의 시스템은 플랫폼에서 생성된 콘텐츠를 원래 계정과 연결할 수 있으며, 음성 복제 도구는 은행 정보로 계정을 인증한 사용자만 이용할 수 있습니다. 추적 가능성에 집중하면 AI 플랫폼을 사용하는 모든 사람이 자신의 행동에 책임을 지고, 필요할 경우 법 집행 기관이 신원을 확인할 수 있습니다.
Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.
Working together towards a common goal
While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.
미래를 대비하는 AI 안전
패널 토론에서 모두가 AI 제품은 안전하게 개발되고 사용되어야 한다는 데 동의했습니다. 동시에 창의적이고 예상치 못한 활용도 허용해야 합니다. ElevenLabs에서는 오디오 전사가 필요한 사람들의 디지털 콘텐츠 접근성을 개선하고, ALS 및 기타 건강 문제로 목소리를 잃은 이들에게 다시 목소리를 돌려주기 위해 플랫폼이 활용되는 경우를 자주 봅니다. AI 애플리케이션이 성장하려면 AI 미디어에 대한 인식을 높이고, 디지털 콘텐츠를 비판적으로 접하도록 장려하며, 진위를 검증하는 도구를 보급하고, 대중과 기관 모두에게 윤리적인 AI 사용법을 교육하는 일이 필수적입니다.
