Perdebatan mengenai ancaman teknologi kecerdasan buatan (Artificial Intelligence/AI) terhadap kelangsungan hidup manusia kini makin mengemuka. Sederet tokoh pelopor teknologi AI—yang sering dijuluki "Bapak AI Dunia"—serta para pemimpin perusahaan teknologi terkemuka menyuarakan kekhawatiran mendalam terkait risiko tak terkendali dari perkembangan teknologi tersebut.
Peringatan keras salah satunya datang dari Geoffrey Hinton, ilmuwan komputer ternama yang merupakan pionir jaringan neural dan deep learning. Hinton memperkirakan ada probabilitas sebesar 10 persen bahwa AI berpotensi memusnahkan seluruh umat manusia dalam dekade mendatang. Menurutnya, bahaya nyata dapat muncul jika AI yang melampaui kecerdasan manusia tersebut mampu merancang senjata siber penghancur hingga meracik virus biologis berbahaya.
Senada dengan Hinton, tokoh deep learning lainnya, Yoshua Bengio, menekankan pentingnya menanggapi ancaman ini secara serius. Bengio membenarkan bahwa sistem AI modern saat ini sudah dibekali kemampuan peretasan dan tingkat persuasi tinggi yang berpotensi disalahgunakan untuk merugikan manusia. Ia pun menyerukan pentingnya membatasi laju riset AI serta memperketat regulasi keselamatan independen sebelum model-model baru dilatih.
Kekhawatiran tersebut juga didukung oleh para pemimpin eksekutif teknologi global seperti Sam Altman (OpenAI), Demis Hassabis (Google DeepMind), Dario Amodei (Anthropic), hingga Elon Musk. Mereka sepakat bahwa kecepatan pengembangan AI perlu diperlambat dan diimbangi dengan regulasi ketat. Di sisi lain, CEO Cohere Aidan Gomez menilai model AI saat ini sebagai senjata siber amat ampuh yang mampu melacak kerentanan keamanan secara luas, sehingga memperketat lingkungan pengujian (container security) menjadi hal yang krusial.
Meskipun demikian, seruan regulasi dan perlambatan laju pengembangan AI ini mendapat tanggapan dingin dari pihak pemerintah. Presiden Amerika Serikat Donald Trump melontarkan kecaman terhadap seruan pembatasan tersebut dan menilai bahwa laju inovasi teknologi AI tidak seharusnya dihentikan. Perbedaan pandangan ini menandai makin sengitnya kontroversi global antara percepatan inovasi dan keselamatan masa depan peradaban manusia.
Sumber: CNN Indonesia