Bahaya Dibalik Viralnya AI Voice Generator yang Bisa Ganti Suara Penyanyi
Lifepod.id - Akhir-akhir ini viral suara Presiden Jokowi yang menyanyikan lagu “Asmalibrasi” dari band Soegi Bornean. Ternyata hal tersebut menggunakan AI Voice Generator. Meski menarik perhatian, GenLife harus tetap waspada karena AI Voice Generator terdapat celah penyalahgunaan, sehingga dapat merugikan kamu.
abelino 
Saat ini, terdapat berbagai jenis teknologi artificial intelligence (AI). Salah satunya yang sedang viral dimanfaatkan adalah AI Voice Generator. Di media sosial, AI Voice Generator ramai dimanfaatkan buat mengganti lagu dengan suara orang lain.
Salah satu contoh pemanfaatan AI Voice Generator untuk mengganti lagu dengan suara orang lain itu bisa dilihat dari unggahan video TikTok dari akun @dhamz._.
@dhamz._ Membalas @fixxx_07 nii bang #aicover #fyp #jokowi #asmalibrasi ♬ ASMALIBRASI _ ALI XD - USAYBARAW [LM]
Dalam unggahan tersebut, terdengar suara yang mirip dengan suara Presiden Jokowi yang sedang menyanyikan lagu “Asmalibrasi” dari band Soegi Bornean.
Pada dasarnya, suara yang dihasilkan tersebut adalah suara yang diproduksi dari AI Voice Generator. Pemanfaatan AI Voice Generator seperti itu lagi ramai di media sosial dan cukup menarik perhatian warganet.
Namun, GenLife harus tetap waspada karena AI Voice Generator sama seperti teknologi AI lain. Teknologi AI yang juga terdapat celah penyalahgunaan, sehingga dapat merugikan kamu.
Untuk lebih lengkapnya, berikut adalah penjelasan mengenai bahaya AI Voice Generator yang berpotensi disalahgunakan dan dapat merugikan kamu.
Mengenal AI Voice Generator
Sebelum mengetahui bahaya AI Voice Generator, ada baiknya kamu memahami dulu cara kerja dari program ini sehingga dapat digunakan untuk mengganti lagu dengan suara fiktif yang mirip milik orang lain.
Perlu diketahui, AI Voice Generator secara sederhana merupakan program yang dapat menghasilkan audio baru sebagai output. Sama seperti teknologi AI lain, untuk menghasilkan output tersebut, AI Voice Generator telah dilatih dengan dataset.
Dengan berbasis program deep learning (pembelajaran mendalam), AI Voice Generator mempelajari dataset atau sekumpulan data untuk nanti bisa menghasilkan audio baru sebagai output atas perintah (input) yang telah kamu minta.
Untuk menghasilkan audio, AI Voice Generator akan memadamkan dataset (sekumpulan data) yang dipelajarinya dengan perintah yang diminta. Input atau perintah kamu bisa berupa teks atau audio juga.
Cara kerjanya sama seperti Google Translate. Ketika kamu memasukkan teks, program ini akan menyebutkan sesuai teks yang kamu masukkan.
Di internet, terdapat beberapa platform AI Voice Generator yang bisa diakses secara umum, seperti Lovo.ai, Murf.ai, Voice.ai, Voicify.ai, dan Play.ht. Semua platform tersebut bisa menghasilkan audio dengan berbagai karakter suara yang bisa kamu pilih.
Bahkan, beberapa di antaranya mampu menghasilkan audio dengan karakter suara mirip seorang tokoh publik. Dengan kemampuan ini, AI Voice Generator dapat mengganti suara penyanyi di lagu dengan suara orang lain seperti yang lagi ramai di media sosial.
Bahaya AI Voice Generator
Dikutip dari Makeuseof, AI Voice Generator rawan disalahgunakan untuk meniru suara orang dengan tujuan yang merugikan pengguna, seperti menyebar informasi palsu, menyebar ujaran kebencian, menipu, menjatuhkan nama seseorang, dan sebagainya.
Januari 2023 lalu, program AI Voice Generator buatan ElevenLabs pernah disalahgunakan oleh sekelompok orang untuk membuat suara beberapa tokoh publik seperti David Attenborough dan Emma Watson.
AI Voice Generator bukan cuma disalahgunakan untuk meniru suara para tokoh publik. AI Voice Generator pernah juga tercatat dipakai untuk meniru suara orang biasa dengan tujuan melancarkan aksi penipuan.
Dikutip dari ZDNet, di Amerika Serikat, marak terjadi modus penipuan dengan membuat suara tiruan orang terdekat pengguna seperti teman atau keluarga. Modus ini dikenal sebagai “vishing” atau “voice phising” dan sudah ribuan orang yang jadi korban.
Pakar keamanan siber dan pendiri Vaksincom Alfons Tanujaya pun turut mengkhawatirkan akan bahayanya teknologi AI disalahgunakan untuk memalsukan atau memanipulasi video.
“Kemampuan AI ini sudah mencapai taraf yang sangat tinggi dan sulit bagi orang awam atau yang tidak berpengalaman membedakan konten media yang dimanipulasi dengan aslinya,” ujar Alfons dikutip dari SINDONews.
Hal tersebut, menurut Alfons, mencakup kemampuan menyesuaikan mimik dan gerak bibir dengan audio. “Karena itu sangat rentan disalahgunakan untuk kepentingan negatif seperti memanipulasi konten video dan membuat konten yg memutar balikkan fakta atau tidak sesuai fakta,” jelasnya.
Dengan kemampuan AI Voice Generator yang bisa meniru suara orang, GenLife juga perlu senantiasa waspada atas semua informasi yang beredar. Verifikasi kebenaran informasi yang beredar secara berlapis penting untuk dilakukan.
Baca Berita dan Artikel yang lain :
