Yapay Zekâ ile Ses Klonlama Çocuklar İçin Güvenli mi? Dürüst Bir Cevap

Son iki yılda yapay zekâ ile ses klonlama hakkında bir şey okuduysanız, muhtemelen bir dolandırıcılık haberiydi. Telefonda klonlanmış bir ses, korkan bir akraba, gönderilen para. Bu haberler gerçek ve arkasındaki endişe de yerinde.

Dolayısıyla bir masal uygulaması sesinizi kaydetmek istediğinde tereddüt etmek doğru içgüdüdür. Bu yazı, soruya düzgün bir cevap verme denemesi — bizim işimize gelmeyen kısımlar dâhil.

İki soruyu ayırmak

"Ses klonlama çocuklar için güvenli mi", aslında tek bir paltoya sığınmış iki sorudur.

Çocuğun dinlemesi güvenli mi? Neredeyse tamamen evet. Sesli anlatım sesli anlatımdır. Klonlanmış bir sesin Altın Saç ile Üç Ayı'yı okuması, sizin okuduğunuz bir kayıttan daha tehlikeli değildir. Ekran yok, algoritmik akış yok, çocuğu bir sonrakine çeken otomatik oynatma yok.

Yetişkinin sesini teslim etmesi güvenli mi? Asıl soru bu ve dikkatli bir cevabı hak ediyor.

Gerçekten ters gidebilecek şeyler

Muğlak konuşmak yerine somutlaşalım.

Ses modeliniz sızar ya da çalınır. Bir ses modeli, bir kayıttan daha taşınabilirdir — eline geçiren kişi sizin sesinizle yeni konuşma üretebilir. Dolandırıcılık haberlerinin arkasındaki risk budur. En çok, sesi bir şeylere yetki veren yetişkinler için önemlidir: telefon bankacılığı, iş yerinde ses kimliği.

Sesiniz genel bir modeli eğitmek için kullanılır. Bazı sağlayıcılar varsayılan olarak müşteri verisiyle eğitim yapar. Bu, ses niteliğinizin parçalarının yabancılara hizmet eden bir sistemin içinde kalması demektir. Dolandırıcılık değil, ama razı olduğunuz şey de değil.

Geri alamazsınız. "Devre dışı bırakmanıza" izin veren ama hiçbir zaman gerçekten silmeyen bir uygulama, size masal vermek karşılığında sizden kalıcı bir şey almış demektir.

Birisi hakkı olmayan bir sesi klonlar. Çocuk öğretmenini kaydeder. Bir ebeveyn eski eşinin sesini klonlar. Bu teknik bir başarısızlık değil — kural başarısızlığıdır ve bu alandaki uygulamaların açık kuralları olmalıdır.

Endişeye rağmen ters gitmeyen şeyler

Sık dile getirilen ama teknolojinin işleyişiyle temas edince ayakta kalmayan birkaç korku var.

"Yapay zekâ bir şeyler uydurup benim sesimle çocuğuma söyleyecek." Böyle bir uygulamada yapay zekâ doğaçlama yapmaz. Sabit bir masal metnini anlatır. Metin üretimi, olduğu yerde, ayrı bir aşamada gerçekleşir ve kimse duymadan önce sizin okuyabileceğiniz bir masal ortaya çıkarır.

"Çocuğum bunun gerçekten ben olup olmadığını karıştıracak." Pratikte çocuklar bunu yetişkinlerin beklediğinden çok daha iyi karşılıyor. Bunun uygulama olduğunu biliyorlar. Karşılık verdikleri şey, telefonun içinde saklandığınıza dair bir inanç değil, sesin tanıdıklığı. Ne olduğunu mutlaka anlatın — dürüst versiyon bir çocuk için hayal kırıklığı değil, keyif kaynağıdır.

"Sesimin otuz saniyesi banka hesabımı açmaya yeter." Sese dayalı kimlik doğrulama gerçekten de olması gerekenden zayıf; ama çoğu insan için asıl açık, herkese açık şekilde yayımladıkları ses: telesekreter karşılamaları, sosyal medya videoları, iş toplantısı yayınları. Kontrolünüzdeki tek bir uygulamada duran bir örnek, herkese açık bir Instagram hesabından daha küçük bir yüzeydir.

Her uygulamaya sorulacak sorular

Hangi ürünü kullanırsanız kullanın, şu beş cevap bulunabilir ve somut olmalı:

1. Kaydı kim işliyor? "Yapay zekâ iş ortaklarımız" değil, ismi verilen bir sağlayıcı.
2. Sesim onların modellerini eğitmekte kullanılıyor mu? Cevap hayır olmalı.
3. Silebiliyor muyum — kaydı ve ondan üretilen modeli? Destek ekibine e-posta atmadan, uygulamanın içinden.
4. Hiçbir şey yapmazsam ne kadar saklanıyor? "Gerektiği sürece" değil, yayımlanmış bir saklama süresi.
5. Kimin sesini klonlayabileceğime dair kurallar ne? Buradaki sessizlik, kimsenin bunu düşünmediği anlamına gelir.

Bir gizlilik politikası, ürünün tamamı ses klonlamayken yapay zekâdan yalnızca genel ifadelerle söz ediyorsa, o boşluk size bir şey anlatıyordur.

Taletune nerede duruyor

Kendi testimizi kendimize uygularsak:

İşleme. Ses klonlama ve konuşma sentezi ElevenLabs tarafından yapılıyor. Kaydınız bu amaçla onlara iletiliyor. Bir kategorinin arkasına saklanmak yerine gizlilik politikamızda adlarını veriyoruz.

Eğitim. Sesiniz sizin ses profilinizi oluşturur. Sağlayıcıların kendi amaçları için kendi modellerini bununla eğitmesine izin vermiyoruz.

Silme. Bir ses profilini profiller ekranından dilediğiniz an silebilirsiniz. Silmek hem kaydı siler hem de ElevenLabs'e modeli silmesi talimatını verir. Hesabınızı silmek her şeyi kaldırır ve bunu uygulamanın yanı sıra web sitesinden de yapabilirsiniz.

Saklama. Hiçbir ses kaydı veya modeli, son kullanımınızdan sonra üç yıldan uzun süre tutulmaz; amacı tamamlandığında daha erken silinir.

Kurallar. Koşullarımız, açıkça onay vermiş bir yetişkin olmadıkça kendiniz dışında birinden ses profili oluşturmayı yasaklar — çocukların ve tanınmış kişilerin klonlanmasını ise tümüyle yasaklar.

Çocuklar. Çocukların hesabı olmaz. Kişiselleştirilmiş masal özelliğini kullanırsanız bir ad ve bir yaş aralığı yazabilirsiniz; bu yalnızca masalı üretmek için kullanılır, başka hiçbir şey için değil. Gerçek bir ad kullanmak zorunda da değilsiniz.

Söz veremeyeceklerimiz

Hiçbir güvenlik iddiası mutlak değildir ve size aksini söyleyen biri bir şey satıyordur. Size ne yaptığımızı, veriyi kime gönderdiğimizi ve nasıl kaldıracağınızı söyleyebiliriz. Üçüncü taraf bir sağlayıcının hiçbir zaman bir olay yaşamayacağına söz veremeyiz.

Söyleyebileceğimiz şey, bu sistemde duran verinizin miktarının bilinçli olarak küçük tutulduğu: bir e-posta adresi, kontrolü sizde olan bir ses profili ve bir masala yazmayı seçtikleriniz.

Pratik bir orta yol

Faydayı alırken riski en aza indirmek isterseniz:

• Sessiz bir odada kaydedin ki tek bir iyi örnek işi görsün — ortalıkta yarım kalmış kayıtlar bırakan tekrar denemeler olmasın.
• Kişiselleştirilmiş masallarda yalnızca ad ya da bir takma ad kullanın.
• Size uyuyorsa seyahat bitince ses profilini silin. Yeniden kaydetmek bir dakika sürer.
• Akrabalarınıza sormadan onlar için profil oluşturmayın.

Ve her zaman açık olan bir seçenek daha: ses profilini tamamen atlayın. Masallar varsayılan bir anlatıcı sesiyle çalar. Uygulamayı özel kılan şeyi kaybedersiniz, ama geri kalan her şey çalışmaya devam eder.

Dürüst özet

Teknoloji, dinleyen çocuk için güvenli. Yetişkin açısından soru, belirli bir şirkete biyometrik bir kimlik verecek kadar güvenip güvenmediğiniz — dikkatli olmayı hak eden makul bir mesele ve pazarlama sayfasına değil, önünüzdeki politikaya bakarak cevaplamanız gereken bir soru.

Bizimkini cevaplanabilir kılmaya çalıştık. İçinde anlaşılmayan bir şey varsa bize yazın.

Değer diye karar verirseniz, Taletune iOS ve Android üzerinde ücretsiz.