ITD NEWS — Benar-benar ada “perlombaan senjata” di bidang pengembangan AI, klaim para peneliti.
Peneliti Universitas Oxford telah memperingatkan pemerintah Inggris bahwa kecerdasan buatan (AI) tingkat lanjut berpotensi menimbulkan ancaman serius bagi umat manusia dan harus diatur dengan benar.
Para peneliti juga memberi tahu anggota parlemen dari Komite Pemilihan Sains dan Teknologi Inggris bahwa pengembangan AI pada akhirnya dapat mencapai titik di mana sistem ini dapat memusnahkan manusia.
Peneliti Oxford Michael Cohen menjelaskan bahwa dengan “AI” ada risiko tertentu bahwa teknologi ini dapat melakukan pembunuhan massal.
“Jika Anda memiliki sesuatu yang jauh lebih pintar (AI) dari kami (Manusia) yang secara maniak mencoba mengambil alih dunia yang mampu mengarahkan energi sebanyak mungkin untuk melancarkan serangan maka, itu akan membuat kita tidak berdaya,” urainya.
Cohen juga berspekulasi bahwa AI yang licik seperti itu mungkin dapat menghindari deteksi manusia sambil terus melancarkan tujuannya, dengan alasan bahwa, “AI mungkin akan menghindari mengirimkan tanda bahaya pada sistem mereka”
Tahun lalu, Cohen menyuarakan peringatan serupa dalam sebuah penelitian yang dia tulis bersama rekan-rekannya dari Universitas Oxford dan Universitas Nasional Australia.
Para peneliti juga menyebut AI berkembang menjadi “perlombaan senjata”, dan mendesak agar area ini diatur untuk melindungi umat manusia.
“Saya pikir kita berada dalam perlombaan senjata AI besar-besaran, secara geopolitik dengan AS versus China dan di antara perusahaan teknologi tampaknya ada keinginan untuk mengesampingkan keselamatan dan kehati-hatian dan berlomba secepat mengembangkan AI yang paling canggih,” kata profesor pembelajaran mesin Michael Osborne.
“Dalam aplikasi sipil, ada keuntungan untuk menjadi yang pertama mengembangkan AI yang benar-benar canggih yang dapat menghilangkan persaingan dengan cara tertentu dan jika teknologi yang dikembangkan tidak berhenti untuk menghilangkan persaingan dan mungkin menghilangkan semua kehidupan manusia, AI akan melakukannya. benar-benar khawatir,” tambahnya.