Yazdır
Amerika Birleşik Devletleri’nden (ABD) bir gazetecinin giriştiği yapay zeka deneyi, ses kopyalama algoritmalarının bankacılık sistemlerine yönelik tehlikesini gözler önüne serdi.
VICE muhabiri Joseph Cox, teknoloji firması ElevenLabs'in ürettiği, ücretsiz bir yapay zeka uygulamasını kullanarak kendi sesini kopyaladı. Daha sonra bankasını arayan Cox, telesekretere yapay zeka üretimi ses dosyasını dinletti. Böylece sesli imza uygulamasını kandırmayı ve hesaplarına erişmeyi başardı.
Son günlerde ünlülerin seslerini kopyalayan yapay zeka araçları sosyal medyada büyük ilgi görüyor. Ancak bunun dolandırıcılık amaçlı kullanılabileceği çok tartışılan bir konu değildi. Öte yandan bankaların ve telefon operatörlerinin güvenlik amaçlı getirdiği, "sesli imza" diye bilinen kimlik kontrolü uygulamasının yapay zekayla kolayca manipüle edilebildiği ortaya çıktı.
Cox, yapay zeka uygulamasına 5 dakikalık bir ses kaydı yükledi. Kayıtta muhabirin kendi sesi vardı. Kopyalama süreci tamamlandıktan sonra yapay zeka, artık yazılı tüm metinleri Cox'un sesiyle seslendirebilir hale gelmişti.
Muhabir, böyle basit bir deneyin güvenlik sistemini atlatabildiğine "inanamadığını" ifade etti: ‘’Bakiyelerime ve son işlemlerime ve para transferleri listemin de dahil olduğu bir dizi hesap bilgisine eriştim.’’
Cox, konuyla ilgili görüşlerini almak üzere ElevenLabs firmasıyla temasa geçtiğini ama firma yetkililerinin yorum yapmaktan kaçındığını yazdı.
"Yapay zekayla üretilen seslerin kötüye kullanımı dolandırıcılık ve bilgisayar korsanlığına kadar uzanabilir" diyen muhabir, sözlerini şöyle sürdürdü: ''Bu deneyi yaptıktan sonra konuştuğum bazı uzmanlar, bankaların sesli kimlik doğrulama sistemini tamamen terk etmelerini istiyor.''
Yapay zekâ iş hayatında neleri değiştirecek?
Yapay zeka botu Bing, uzun süre çalışınca duygusallaşıyor
Gelecek 10 yılın teknoloji savaşı yapay zeka için olacak