A clonagem de voz por IA é segura para crianças? Uma resposta honesta

Se você leu alguma coisa sobre clonagem de voz por IA nos últimos dois anos, provavelmente foi uma história de golpe. Uma voz clonada numa ligação, um parente assustado, dinheiro transferido. Essas histórias são reais e a preocupação por trás delas é legítima.

Então, quando um app de histórias de ninar pede para gravar a sua voz, hesitar é o instinto certo. Este texto é uma tentativa de responder à pergunta direito — inclusive nas partes que não nos favorecem.

Separando as duas perguntas

"A clonagem de voz é segura para crianças" são, na verdade, duas perguntas vestindo o mesmo casaco.

É seguro para a criança escutar? Quase inteiramente sim. Narração em áudio é narração em áudio. Uma voz clonada lendo Cachinhos Dourados não é mais perigosa para uma criança do que uma gravação sua lendo o mesmo. Não tem tela, não tem feed com algoritmo, não tem reprodução automática puxando para a próxima coisa.

É seguro para o adulto entregar a própria voz? Essa é a pergunta de verdade, e ela merece uma resposta cuidadosa.

O que pode dar errado de fato

Vamos ser específicos em vez de vagos.

Seu modelo de voz vaza ou é roubado. Um modelo de voz é mais portátil que uma gravação — quem estiver com ele consegue gerar falas novas na sua voz. É esse o risco por trás das histórias de golpe. Ele pesa mais para adultos cuja voz autoriza coisas: atendimento bancário por telefone, identificação por voz no trabalho.

Sua voz é usada para treinar um modelo geral. Alguns fornecedores treinam com dados de clientes por padrão. Isso significa que pedaços da qualidade da sua voz acabam dentro de um sistema que atende estranhos. Não é golpe, mas também não é o que você combinou.

Você não consegue de volta. Um app que deixa você "desativar" mas nunca excluir de verdade tomou de você algo permanente em troca de histórias de ninar.

Alguém clona uma voz que não tinha o direito de clonar. A criança grava uma professora. Um pai clona a ex-companheira. Esse aqui não é uma falha técnica — é uma falha de regras, e apps desse tipo deveriam ter regras explícitas.

O que não dá errado, apesar do medo

Alguns receios aparecem com frequência e não sobrevivem ao contato com o funcionamento real da tecnologia.

"A IA vai inventar coisas e dizer na minha voz para o meu filho." Num app como esse, a IA não improvisa. Ela narra um texto fixo. A geração de texto, onde existe, acontece separadamente e produz uma história que você pode ler antes de qualquer pessoa ouvir.

"Meu filho vai ficar confuso sobre se sou eu mesmo." Na prática, as crianças lidam com isso melhor do que os adultos imaginam. Elas sabem que é o app. O que elas respondem é à familiaridade do som, não a uma crença de que você está escondido dentro do celular. E conte a elas o que é — a versão honesta não decepciona uma criança, encanta.

"Trinta segundos da minha voz dão para invadir minha conta no banco." A autenticação por voz é mesmo mais frágil do que deveria, mas a maior exposição, para quase todo mundo, é a voz que a pessoa publica abertamente — mensagem de caixa postal, vídeo em rede social, webinar de trabalho. Uma amostra guardada num app sob seu controle é uma superfície menor que um perfil público no Instagram.

As perguntas a fazer para qualquer app

Independentemente do produto que você usar, estas cinco respostas deveriam ser encontráveis, e específicas:

1. Quem processa a gravação? Um fornecedor com nome, não "nossos parceiros de IA".
2. Minha voz é usada para treinar os modelos deles? A resposta deve ser não.
3. Consigo excluir — a gravação e o modelo derivado? Pelo app, sem precisar mandar e-mail para o suporte.
4. Por quanto tempo fica guardada se eu não fizer nada? Um prazo de retenção publicado, não "pelo tempo necessário".
5. Quais são as regras sobre de quem eu posso clonar a voz? Silêncio aqui quer dizer que ninguém pensou no assunto.

Se uma política de privacidade fala de IA só em termos gerais enquanto o produto inteiro é clonagem de voz, essa lacuna está te dizendo alguma coisa.

Onde o Taletune está

Aplicando o nosso próprio teste:

Processamento. A clonagem de voz e a síntese de fala são feitas pela ElevenLabs. Sua gravação é transmitida a eles para essa finalidade. Nós os nomeamos na nossa política de privacidade, em vez de nos escondermos atrás de uma categoria.

Treinamento. Sua voz constrói o seu perfil de voz. Não permitimos que fornecedores treinem os próprios modelos com ela para os fins deles.

Exclusão. Você pode excluir um perfil de voz na tela de perfis a qualquer momento. Excluir apaga a gravação e instrui a ElevenLabs a apagar o modelo. Excluir sua conta remove tudo, e isso pode ser feito pelo site além do app.

Retenção. Nenhuma gravação ou modelo de voz é guardado por mais de três anos após o seu último uso, e antes disso assim que a finalidade se encerra.

Regras. Nossos termos proíbem criar um perfil de voz a partir de qualquer pessoa que não seja você mesmo, a menos que essa pessoa seja um adulto que concordou expressamente — e proíbem terminantemente clonar crianças e figuras públicas.

Crianças. Crianças não têm conta. Se você usar o recurso de história personalizada, pode digitar um primeiro nome e uma faixa etária; isso é usado para gerar a história e mais nada. Você não precisa usar um nome real.

O que não podemos prometer

Nenhuma promessa de segurança é absoluta, e quem disser o contrário está te vendendo alguma coisa. Podemos dizer o que fazemos, para quem enviamos dados e como removê-los. Não podemos prometer que um fornecedor terceirizado nunca terá um incidente.

O que podemos dizer é que a quantidade de dados seus dentro deste sistema é deliberadamente pequena: um endereço de e-mail, um perfil de voz que você controla e o que você escolheu digitar numa história.

Um caminho do meio, na prática

Se você quer o benefício reduzindo a exposição:

• Grave num cômodo silencioso, para que uma amostra boa resolva — sem tentativas repetidas deixando gravações soltas por aí.
• Use só o primeiro nome, ou um apelido, nas histórias personalizadas.
• Exclua o perfil de voz quando a viagem acabar, se isso te deixar mais tranquilo. Regravar leva um minuto.
• Não crie perfis para parentes sem perguntar antes.

E a opção que está sempre disponível: pular o perfil de voz por completo. As histórias tocam com uma voz de narração padrão. Você perde aquilo que torna o app especial, mas todo o resto continua funcionando.

O resumo honesto

A tecnologia é segura para a criança que escuta. A pergunta para o adulto é se você confia um identificador biométrico a uma determinada empresa — algo com que é razoável ter cuidado, e uma pergunta que você deveria responder com a política diante dos olhos, não com a página de propaganda.

Tentamos deixar a nossa respondível. Se alguma parte dela não estiver clara, escreva para a gente.

Se você decidir que vale a pena, o Taletune é gratuito no iOS e no Android.