Realita Kita – Sebuah studi terkini yang disponsori oleh Kementerian Luar Negeri Amerika Serikat memberi peringatan tentang risiko signifikan yang ditimbulkan oleh kemajuan dalam teknologi Artificial Intelligence (AI). Kesempatan bagi pemerintah federal AS untuk mencegah tragedi yang disebabkan oleh AI semakin berkurang.
Menurut laporan yang kami kutip dari CNN, analisis ini merupakan hasil dari wawancara dengan ratusan individu selama satu tahun, termasuk pimpinan utama perusahaan AI, ahli keamanan cyber, spesialis senjata pemusnah massal, dan pejabat keamanan.
Laporan yang dirangkum oleh Gladstone AI menyatakan bahwa, dalam kondisi paling parah, sistem AI yang sangat maju dapat menimbulkan ancaman kepunahan bagi umat manusia.
Baca Juga:Jadwal MPL ID S13 Week 2, Pertarungan Antara RRQ dan Onic Esports10 Game Android yang Asyik untuk Menemani Momen Ngabuburit
“AI telah menjadi teknologi revolusioner untuk ekonomi. Ini dapat mengobati penyakit, menghasilkan temuan ilmiah, dan mengatasi masalah yang sebelumnya dianggap tidak mungkin,” ujar Jeremie Harris, CEO Gladstone AI.
“Namun, AI juga dapat menimbulkan bahaya serius, termasuk potensi bencana, yang harus kita waspadai. Dan semakin banyak bukti yang menunjukkan bahwa di atas tingkat kemampuan tertentu, AI bisa menjadi tak terkendali,” lanjutnya.
Ada dua risiko utama dari AI. Pertama, sistem AI yang sangat maju dapat dilengkapi dengan senjata yang berpotensi destruktif. Kedua, pada suatu titik, laboratorium AI mungkin akan kehilangan kontrol atas sistem yang mereka kembangkan, yang berpotensi menyebabkan dampak merusak bagi keamanan global.
“Peningkatan AI dan AGI bisa mengganggu keamanan global serupa dengan diperkenalkannya senjata nuklir,” kata laporan tersebut. Oleh karena itu, perlu ada regulasi dan batasan mengenai seberapa jauh komputer boleh digunakan untuk melatih AI.
Laporan dari Gladstone AI menyebutkan bahwa tekanan kompetitif mendorong perusahaan untuk mempercepat pengembangan AI “dengan mengabaikan keselamatan dan keamanan. Hal ini meningkatkan risiko bahwa sistem AI yang sangat maju bisa dicuri dan dijadikan senjata melawan AS.
Temuan ini menambah daftar peringatan tentang bahaya eksistensial yang ditimbulkan oleh AI. Setahun yang lalu, Geoffrey Hinton, yang dijuluki “Bapak AI,” meninggalkan Google dan membuka rahasia teknologi yang ia kembangkan. Hinton menyebutkan bahwa ada kemungkinan 10% bahwa AI akan menyebabkan kepunahan manusia dalam tiga puluh tahun ke depan.