Stephen Hawking : Artificial Intelligence akan Jadi Sejarah Terbesar Umat Manusia

Baca juga: Apa yang Terjadi Sebelum Big Bang? Stephen Hawking Menjawabnya

"Mengingat kekhawatiran tentang kemampuan kita untuk mempertahankan kontrol jangka panjang dari sistem AI yang lebih maju, haruskah kita mempersenjatai mereka dan menyerahkan pertahanan kita kepada mereka?" kata Hawking.

Tentang kecelakaan yang dilakukan sistem AI atau komputerisasi, Hawking mencontohkan kejadian Flash Crash di pasar saham tahun 2010.

Menurutnya, hal serupa juga bisa terjadi pada sistem komputerisasi militer.

"Waktu terbaik untuk menghentikan perlombaan senjata otonom adalah sekarang," tegas Hawking.

Terbaik atau Terburuk
Meski begitu, AI juga bisa membawa perubahan ke arah yang lebih baik.
Dalam jangka menengah misalnya, Hawking berpendapat, AI bisa mengotomatisasi pekerjaan kita. Hal ini membawa kemakmuran dan persamaan hak yang besar bagi umat manusia.

"Seperti yang disadari oleh ahli matematika Irving Good pada 1965, mesin dengan kecerdasan melebihi manusia bisa meningkatkan desain mereka berkali lipat lebih baik, dalam apa yang penulis fiksi ilmiah Vernor Vinge disebut singularitas teknologi," ujar Hawking.

"Seseorang dapat membayangkan teknologi seperti itu mengalahkan pasar keuangan, melampaui para peneliti, memanipulasi para pemimpin, dan berpotensi menundukkan kita dengan senjata yang bahkan tidak dapat kita pahami," sambungnya.

Itu menjadi efek jangka menengah yang diperkirakan Hawking. Sedangkan dampak jangka pendek AI, menurut Hawking, tergantung pada siapa yang mengendalikannya.

Artinya, AI bisa menjadi teknologi yang membawa kebaikan bagi umat manusia atau sebaliknya bergantung pada penggunanya.

Untuk dampak jangka panjang, Hawking menyebut itu tergantung pada apakah AI masih dapat dikontrol manusia atau tidak.

Baca juga: Akurat 95 Persen, AI Google Bisa Prediksi Kapan Seseorang Meninggal

"Singkatnya, munculnya AI super cerdas akan menjadi hal terbaik atau terburuk yang pernah terjadi pada umat manusia. Risiko nyata dengan AI bukanlah kedengkian, tetapi kompetensi," tuturnya.

"AI super cerdas akan sangat baik dalam mencapai tujuannya, dan jika sasaran tersebut tidak selaras dengan tujuan kita, kita dalam masalah," Hawking menambahkan.

Peran Hawking
Dalam tulisannya, Hawking juga menceritakan bahwa pada 2015 lalu, dia bersama dengan Elon Musk dan ahli AI lain menandatangi surat terbuka tentang kecerdasan buatan.