Är AI-röstkloning säkert för barn? Ett ärligt svar

Har du läst något om AI-röstkloning de senaste två åren var det förmodligen en bedrägerihistoria. En klonad röst i ett telefonsamtal, en skrämd anhörig, pengar som fördes över. De historierna är verkliga och oron bakom dem är befogad.

Så när en app för godnattsagor ber att få spela in din röst är tvekan rätt instinkt. Det här är ett försök att svara på frågan ordentligt — inklusive de delar som inte smickrar oss.

Två frågor i en

"Är röstkloning säkert för barn" är egentligen två frågor i samma rock.

Är det säkert för barnet att lyssna på? Nästan helt och hållet ja. Uppläst ljud är uppläst ljud. En klonad röst som läser Guldlock och de tre björnarna är inte farligare för ett barn än en inspelning av dig som läser den. Ingen skärm, inget algoritmiskt flöde, ingen automatisk uppspelning som drar dem vidare till nästa sak.

Är det säkert för den vuxna att lämna ifrån sig sin röst? Det är den riktiga frågan, och den förtjänar ett omsorgsfullt svar.

Vad som faktiskt kan gå fel

Låt oss vara konkreta i stället för svävande.

Din röstmodell läcker eller blir stulen. En röstmodell är mer lättflyttad än en inspelning — den som har den kan skapa nytt tal med din röst. Det är risken bakom bedrägerihistorierna. Den väger tyngst för vuxna vars röst godkänner saker: telefonbank, röst-ID på jobbet.

Din röst används för att träna en allmän modell. Vissa leverantörer tränar på kunddata som standard. Det betyder att fragment av din röstkvalitet hamnar i ett system som betjänar främlingar. Inte bedrägeri, men inte heller det du gick med på.

Du får inte tillbaka den. En app som låter dig "inaktivera" men aldrig verkligen radera har tagit något permanent från dig i utbyte mot godnattsagor.

Någon klonar en röst de inte hade rätt till. Barnet spelar in en lärare. En förälder klonar en före detta partner. Det här är inte ett tekniskt fel — det är ett regelfel, och appar i den här branschen bör ha uttryckliga regler.

Vad som inte går fel, trots oron

Några farhågor återkommer ofta men håller inte när man tittar på hur tekniken faktiskt fungerar.

"AI:n hittar på saker och säger dem med min röst till mitt barn." I en app som den här improviserar inte AI:n. Den läser en fast sagotext. Textgenerering, där den finns, sker separat och ger en saga som du kan läsa innan någon hör den.

"Mitt barn kommer bli förvirrat över om det verkligen är jag." I praktiken hanterar barn det bättre än vuxna väntar sig. De vet att det är appen. Det de reagerar på är att ljudet är välbekant, inte en föreställning om att du gömmer dig i telefonen. Berätta gärna vad det är — den ärliga versionen är ingen besvikelse för ett barn, den är en fröjd.

"Trettio sekunder av min röst räcker för att ta sig in på mitt bankkonto." Röstbaserad autentisering är verkligen svagare än den borde vara, men för de flesta är den större exponeringen den röst man publicerar öppet — telefonsvararhälsningar, video i sociala medier, webbinarier på jobbet. Ett röstprov som ligger i en app under din kontroll är en mindre yta än ett öppet Instagramkonto.

Frågorna att ställa till vilken app som helst

Oavsett vilken produkt du använder ska de här fem svaren gå att hitta, och vara konkreta:

1. Vem behandlar inspelningen? En namngiven leverantör, inte "våra AI-partner".
2. Används min röst för att träna deras modeller? Svaret ska vara nej.
3. Kan jag radera den — både inspelningen och den framtagna modellen? Från appen, utan att mejla supporten.
4. Hur länge sparas den om jag inte gör något? En publicerad lagringstid, inte "så länge det behövs".
5. Vilka regler gäller för vems röst jag får klona? Tystnad här betyder att ingen har tänkt på saken.

Om en integritetspolicy bara talar om AI i allmänna ordalag medan hela produkten är röstkloning, säger den luckan något.

Var Taletune står

Vi tillämpar vårt eget test:

Behandling. Röstkloning och talsyntes görs av ElevenLabs. Din inspelning överförs till dem för det ändamålet. Vi namnger dem i vår integritetspolicy i stället för att gömma oss bakom en kategori.

Träning. Din röst bygger din röstprofil. Vi tillåter inte leverantörer att träna sina egna modeller på den för sina egna syften.

Radering. Du kan radera en röstprofil från profilskärmen när som helst. Att radera den raderar inspelningen och instruerar ElevenLabs att radera modellen. Att radera ditt konto tar bort allt, och kan göras från webbplatsen lika väl som i appen.

Lagring. Ingen röstinspelning eller röstmodell sparas längre än tre år efter din senaste användning, och tidigare än så när syftet är uppfyllt.

Regler. Våra villkor förbjuder att skapa en röstprofil av någon annan än dig själv, om inte personen är en vuxen som uttryckligen har samtyckt — och förbjuder helt att klona barn och offentliga personer.

Barn. Barn har inga konton. Använder du funktionen för personliga sagor kan du skriva in ett förnamn och ett åldersspann; det används för att skapa sagan och inget annat. Du behöver inte använda ett riktigt namn.

Vad vi inte kan lova

Inget säkerhetslöfte är absolut, och den som påstår annat säljer något. Vi kan berätta vad vi gör, vem vi skickar data till och hur du tar bort den. Vi kan inte lova att en tredjepartsleverantör aldrig råkar ut för en incident.

Det vi kan säga är att mängden av dina uppgifter i det här systemet är medvetet liten: en mejladress, en röstprofil som du styr över, och det du själv valde att skriva in i en saga.

En praktisk medelväg

Vill du ha nyttan med minsta möjliga exponering:

• Spela in i ett tyst rum så att ett bra röstprov räcker — inga upprepade försök som lämnar lösa inspelningar efter sig.
• Använd bara förnamn, eller ett smeknamn, i personliga sagor.
• Radera röstprofilen när en resa är slut, om det passar dig. Att spela in på nytt tar en minut.
• Skapa inte profiler åt släktingar utan att fråga dem.

Och alternativet som alltid finns: hoppa över röstprofilen helt. Sagorna spelas då upp med en standardberättarröst. Du förlorar det som gör appen speciell, men allt annat fungerar ändå.

Den ärliga sammanfattningen

Tekniken är säker för barnet som lyssnar. Frågan för den vuxna är om du litar på ett visst företag med en biometrisk identifierare — något rimligt att vara försiktig med, och en fråga du bör besvara med policyn framför dig snarare än med marknadsföringssidan.

Vi har försökt göra vår möjlig att besvara. Är något i den oklart, hör av dig.

Om du bestämmer dig för att det är värt det finns Taletune gratis för iOS och Android.