ASIATODAY.ID, JAKARTA – Pemerintah China baru-baru ini mengeluarkan rancangan pedoman yang bertujuan untuk meningkatkan pengawasan terhadap layanan chatbot artificial intelligence (AI) generatif. Langkah ini oleh sebagian orang diangap menghambat inovasi.
Komite Teknis Standardisasi Keamanan Informasi Nasional, yang memiliki kewenangan dalam menetapkan standar keamanan teknologi informasi merilis panduan ini dengan fokus pada dua isu utama, yakni menjaga data pelatihan dan pengaturan large language model (LLM) yang digunakan dalam layanan AI generatif.
Melansir Gizmochina, Sabtu (14/10/2023), pedoman ini meminta para pengembang AI untuk menggunakan hanya data resmi dalam pelatihan AI, serta menjalani prosedur pemeriksaan keamanan untuk mencegah pelanggaran data dan hak cipta. Hal ini merupakan langkah penting dalam mengawasi kualitas dan legalitas data yang dimasukkan ke dalam algoritma AI.
Pedoman ini juga merujuk pada “sistem daftar hitam” yang bertujuan untuk memblokir materi pelatihan yang mengandung lebih dari 5% konten ilegal atau berbahaya, sesuai dengan undang-undang keamanan siber negara.
Meskipun regulasi ini nampaknya dirancang untuk memastikan bahwa layanan AI menghasilkan konten yang bertanggung jawab dan legal, hal ini juga memunculkan pertanyaan serius tentang inovasi dan kebebasan berpendapat.
Pedoman ini menyarankan bahwa algoritma harus didasarkan pada model yang diajukan dan disahkan oleh otoritas yang berwenang, yang dapat membatasi ruang lingkup eksperimen dan inovasi para pengembang, dan pada gilirannya dapat menghambat pertumbuhan teknologi yang memiliki aplikasi yang luas.
Selain itu, regulasi ini menambahkan lapisan baru pada lembaga sensor pemerintah. Terdapat kekhawatiran bahwa model AI dapat digunakan untuk menyebarkan narasi tertentu. Saat uji coba internal, chatbot China terlihat memberikan berbagai respons ketika ditanya tentang status Taiwan, beberapa bahkan menolak merespons dan mengakhiri percakapan.
Di Indonesia sendiri, sejauh ini belum ada regulasi yang mengatur terkait AI. Padahal sudah banyak negara yang mengungkapkan kekhawatirannya terhadap kehadiran AI. (ATN)
Simak Berita dan Artikel yang lain di Google News