Sekretaris Jenderal mengatakan risiko yang ditimbulkan oleh kecerdasan buatan mengancam demokrasi dan hak asasi manusia.
Sekretaris Jenderal Perserikatan Bangsa-Bangsa telah memperingatkan bahwa kecerdasan buatan (AI) digunakan untuk menyebarkan disinformasi dan kebencian, saat dia mendukung proposal untuk pembentukan pengawas internasional untuk memantau teknologi tersebut.
Berbicara pada peluncuran kebijakan baru tentang disinformasi pada hari Senin, Antonio Guterres mengatakan bahwa meskipun kemajuan teknologi telah digunakan untuk kebaikan, risiko yang ditimbulkan oleh AI mengancam demokrasi dan hak asasi manusia.
Guterres mengatakan dia mendukung proposal beberapa eksekutif kecerdasan buatan untuk pembentukan badan pengawas yang mirip dengan Badan Energi Atom Internasional (IAEA).
Teknologi AI generatif – yang dapat melakukan tugas pemrosesan bahasa alami seperti menjawab pertanyaan, meringkas teks, dan bahkan menghasilkan baris kode – telah memikat publik sejak ChatGPT diluncurkan enam bulan lalu.
AI juga telah menjadi fokus perhatian atas kemampuannya untuk membuat informasi yang salah dan pemalsuan mendalam, yaitu gambar dan video yang dihasilkan AI yang meniru manusia.
Tanggapi peringatan AI dengan serius
“Lonceng alarm tentang bentuk terbaru kecerdasan buatan – AI generatif – memekakkan telinga. Dan mereka adalah pengembang paling keras yang merancangnya,” kata Guterres kepada wartawan. “Ilmuwan dan pakar ini meminta dunia untuk bertindak dan menyatakan AI sebagai ancaman eksistensial bagi umat manusia yang setara dengan risiko perang nuklir. Kita harus menanggapi peringatan itu dengan serius.”
Guterres mengumumkan rencana untuk mulai bekerja pada badan penasehat AI tingkat tinggi pada akhir tahun untuk secara teratur meninjau pengaturan tata kelola AI dan menawarkan rekomendasi tentang bagaimana mereka dapat diselaraskan dengan hak asasi manusia, supremasi hukum, dan kesejahteraan umum.
Tetapi pada hari Senin, dia menambahkan: “Saya akan mendukung gagasan bahwa kita dapat memiliki badan intelijen buatan … terinspirasi oleh Badan Energi Atom Internasional saat ini.”
Guterres mengatakan model seperti itu bisa “sangat menarik”, tetapi mencatat bahwa “hanya negara anggota yang dapat membuatnya, bukan sekretariat PBB”. IAEA yang bermarkas di Wina didirikan pada tahun 1957 dan mempromosikan penggunaan teknologi nuklir yang aman, terjamin, dan damai sambil memeriksa potensi pelanggaran Perjanjian Non-Proliferasi Nuklir. Ini memiliki 176 negara anggota.
Peraturan Keamanan AI Global
OpenAI pencipta ChatGPT dikatakan bulan lalu bahwa badan seperti IAEA dapat membatasi penerapan, memeriksa kepatuhan terhadap standar keselamatan, dan melacak penggunaan daya komputasi.
Perdana Menteri Inggris Rishi Sunak juga mendukung gagasan tersebut, mengatakan dia ingin Inggris menjadi rumah bagi regulasi keamanan AI global. Inggris akan menjadi tuan rumah pertemuan puncak tahun ini tentang bagaimana tindakan internasional yang terkoordinasi dapat mengatasi risiko AI.
Profesor Filsafat Robert Sparrow dari Universitas Monash Australia mengatakan kepada Al Jazeera bahwa regulasi akan menjadi masalah global yang memang menimbulkan beberapa masalah, tetapi menurutnya tidak hanya satu lembaga yang akan mengatur AI.
“Kami sedang mencari perubahan budaya, terutama di bidang teknik dan ilmu komputer, tetapi juga lintas pemerintah dan masyarakat sipil,” katanya.
Guterres mengatakan dia mendukung rencana pertemuan puncak di Inggris, menambahkan itu harus didahului dengan “pekerjaan serius”. Dia mengatakan bahwa dalam beberapa hari mendatang dia berencana untuk menunjuk dewan penasehat ilmiah ahli AI dan kepala ilmuwan dari badan-badan PBB.
