Facebook, Instagram ve WhatsApp’ın sahibi Meta, “Voicebox” olarak bilinen ve “konuşma üreten” yeni yapay zeka sisteminin kötüye kullanım riskinden dolayı henüz piyasaya sürülmeyeceğini açıkladı.
The Independent’ın haberine göre, Meta’nın duyurduğu ve 6 dilde konuşma üretebilen sistemle ilgili şirketten yapılan açıklamada, Voicebox’ın suistimal gibi riskler nedeniyle henüz piyasaya sürülmeyeceği belirtildi.
İngilizce, Fransızca, İspanyolca, Almanca, Lehçe ve Portekizce dillerinde 50 bin saatlik kayıtlarla eğitilen Voicebox, konuşmadaki boşluğu bağlamdan çıkarım yaparak doldurabiliyor. Sistem ayrıca, ham ses ve transkripsiyondan farklı stillerde ses üretebiliyor.
Yalnızca iki saniyelik bir konuşmadan dahi gerçekçi bir ses oluşturabilen Voicebox, iki dil arasında stili koruyarak çeviri yapıyor ve iletişime yardımcı oluyor.
Meta, konuşma üreten yapay zeka modellerinin heyecan verici olduğunu ancak potansiyel riskler nedeniyle Voicebox’ın veya sistemin kodunun paylaşılmadığını belirtti.
Çok sayıda rapor, yapay zekanın insanların seslerini rızaları olmadan kopyalayabileceğini ve söz konusu kayıtların dolandırıcılık faaliyetlerinde ya da sahte video oluşturmada kullanılabileceğini belirtiyor.
