Je klonování hlasu pomocí AI pro děti bezpečné? Poctivá odpověď

Jestli jste za poslední dva roky četli něco o klonování hlasu pomocí AI, nejspíš to byl článek o podvodu. Naklonovaný hlas v telefonu, vyděšený příbuzný, odeslané peníze. Takové případy jsou skutečné a obava za nimi je oprávněná.

Takže když si aplikace s pohádkami na dobrou noc řekne o nahrávku vašeho hlasu, zaváhat je správný instinkt. Tenhle text se snaží na otázku odpovědět pořádně — včetně částí, které nám nelichotí.

Dvě otázky, které je třeba oddělit

„Je klonování hlasu bezpečné pro děti“ jsou ve skutečnosti dvě otázky v jednom kabátě.

Je bezpečné, aby to dítě poslouchalo? Téměř bez výhrad ano. Namluvená pohádka je namluvená pohádka. Naklonovaný hlas čtoucí Mášu a tři medvědy není pro dítě nebezpečnější než nahrávka, na které to čtete vy. Žádná obrazovka, žádný algoritmický feed, žádné automatické přehrání dalšího dílu.

Je bezpečné, aby dospělý svěřil svůj hlas? Tohle je ta pravá otázka a zaslouží si pečlivou odpověď.

Co se opravdu může pokazit

Buďme konkrétní, ne mlhaví.

Váš hlasový model unikne nebo ho někdo ukradne. Hlasový model je přenosnější než nahrávka — kdo ho má, umí vaším hlasem vytvořit novou řeč. To je riziko, které stojí za těmi podvody. Nejvíc se týká dospělých, jejichž hlas něco autorizuje: telefonní bankovnictví, hlasové ověření v práci.

Váš hlas se použije k trénování obecného modelu. Někteří poskytovatelé ve výchozím nastavení trénují na zákaznických datech. To znamená, že útržky kvality vašeho hlasu skončí v systému, který obsluhuje cizí lidi. Není to podvod, ale ani to, na čem jste se dohodli.

Nedostanete to zpátky. Aplikace, která umožní „deaktivovat“, ale nikdy doopravdy smazat, si od vás vzala něco trvalého výměnou za pohádky na dobrou noc.

Někdo naklonuje hlas, na který neměl právo. Dítě nahraje učitelku. Rodič naklonuje bývalého partnera. Tohle není technické selhání — je to selhání pravidel a aplikace v téhle oblasti by měly mít pravidla výslovně napsaná.

Co se naopak nestává, navzdory obavám

Pár obav se objevuje často, ale nepřežije srážku s tím, jak technologie funguje.

„AI si něco vymyslí a řekne to mým hlasem mému dítěti.“ V aplikaci tohoto typu AI neimprovizuje. Vypráví pevně daný text pohádky. Generování textu, kde vůbec je, probíhá zvlášť a vzniká z něj pohádka, kterou si můžete přečíst dřív, než ji kdokoli uslyší.

„Dítě bude zmatené, jestli jsem to opravdu já.“ V praxi to děti zvládají líp, než dospělí čekají. Vědí, že je to aplikace. Reagují na to, že je ten zvuk důvěrně známý, ne na představu, že se schováváte v telefonu. Řekněte jim, co to je — poctivá verze pro dítě není zklamání, ale radost.

„Třicet vteřin mého hlasu stačí k vybílení účtu.“ Hlasové ověřování je opravdu slabší, než by mělo být, ale u většiny lidí je větší expozicí hlas, který zveřejňují sami — hlasová schránka, videa na sítích, pracovní webináře. Jeden vzorek uložený v jedné aplikaci pod vaší kontrolou je menší plocha než veřejný instagramový účet.

Na co se ptát každé aplikace

Ať používáte kterýkoli produkt, těchhle pět odpovědí by mělo být dohledatelných a konkrétních:

1. Kdo nahrávku zpracovává? Jmenovitě uvedený poskytovatel, ne „naši partneři v oblasti AI“.
2. Používá se můj hlas k trénování jejich modelů? Odpověď by měla znít ne.
3. Můžu to smazat — nahrávku i odvozený model? Přímo v aplikaci, bez psaní na podporu.
4. Jak dlouho se to uchová, když neudělám nic? Zveřejněná doba uchování, ne „po nezbytně nutnou dobu“.
5. Jaká platí pravidla pro to, čí hlas smím naklonovat? Mlčení tady znamená, že nad tím nikdo nepřemýšlel.

Když zásady ochrany osobních údajů mluví o AI jen v obecné rovině, zatímco celý produkt stojí na klonování hlasu, ta mezera vám něco říká.

Jak to máme v Taletune

Aplikováno na nás samotné:

Zpracování. Klonování hlasu a syntézu řeči zajišťuje ElevenLabs. Vaše nahrávka se jim za tímto účelem předává. Uvádíme je jmenovitě v našich zásadách ochrany osobních údajů, místo abychom se schovávali za kategorii.

Trénování. Váš hlas slouží k vytvoření vašeho hlasového profilu. Poskytovatelům nedovolujeme trénovat na něm vlastní modely pro vlastní účely.

Mazání. Hlasový profil můžete kdykoli smazat na obrazovce profilů. Smazáním zmizí nahrávka a ElevenLabs dostane pokyn model odstranit. Smazáním účtu zmizí všechno a jde to udělat i přes web, nejen v aplikaci.

Uchování. Žádná hlasová nahrávka ani model se neuchovává déle než tři roky od vašeho posledního použití, a dřív, jakmile splní svůj účel.

Pravidla. Naše podmínky zakazují vytvořit hlasový profil z hlasu někoho jiného než vás samotných, pokud nejde o dospělého, který výslovně souhlasil — a klonování dětí a veřejně známých osob zakazují úplně.

Děti. Děti nemají účty. Pokud používáte pohádky na míru, můžete zadat křestní jméno a věkové rozmezí; to se použije k vytvoření pohádky a k ničemu jinému. Skutečné jméno použít nemusíte.

Co slíbit nemůžeme

Žádné bezpečnostní tvrzení není absolutní a kdo vám říká něco jiného, něco vám prodává. Můžeme vám říct, co děláme, komu data posíláme a jak je odstranit. Nemůžeme slíbit, že se u externího poskytovatele nikdy nic nestane.

Co říct můžeme, je že množství vašich dat v tomhle systému je záměrně malé: e-mailová adresa, hlasový profil, který máte pod kontrolou, a to, co jste sami napsali do pohádky.

Praktická střední cesta

Jestli chcete užitek s co nejmenší expozicí:

• Nahrávejte v tiché místnosti, ať to zvládne jeden dobrý vzorek — žádné opakované pokusy, po kterých se povalují nahrávky navíc.
• V pohádkách na míru používejte jen křestní jméno, nebo přezdívku.
• Po skončení cesty hlasový profil smažte, jestli vám to tak vyhovuje. Nové nahrání zabere minutu.
• Nevytvářejte profily příbuzným, aniž byste se jich zeptali.

A možnost, která je pořád ve hře: hlasový profil vůbec nevytvářet. Pohádky se přehrají výchozím hlasem vypravěče. Přijdete o to, čím je aplikace výjimečná, ale všechno ostatní funguje dál.

Poctivé shrnutí

Pro dítě, které poslouchá, je ta technologie bezpečná. Otázka pro dospělého zní, jestli dané firmě svěříte biometrický identifikátor — na to je rozumné být opatrný a odpovídat na to má člověk s dokumenty před sebou, ne s marketingovou stránkou.

Snažili jsme se, aby se ty naše daly zodpovědět. Jestli je v nich něco nejasného, napište nám.

Jestli se rozhodnete, že to za to stojí, Taletune je zdarma pro iOS i Android.