Deepfakes, pengenalan wajah, dan ancaman eksistensial: politisi, pengawas dan publik harus menghadapi masalah yang menakutkan ketika harus mengatur kecerdasan buatan.
Regulasi teknologi memiliki sejarah tertinggal dalam industri, dengan RUU keamanan online Inggris dan Undang-Undang Layanan Digital UE baru saja tiba hampir dua dekade setelah peluncuran Facebook. AI juga melesat ke depan. ChatGPT sudah punya lebih dari 100 juta penggunaitu paus memakai jaket puffer dan sebuah jajaran ahli telah memperingatkan bahwa ras AI semakin lepas kendali.
Tapi setidaknya Uni Eropa, apa adanya sering terjadi dengan teknologisedang memulai dengan UU AI. Di AS, pemimpin mayoritas senat Chuck Schumer telah menerbitkan kerangka kerja untuk mengembangkan peraturan AI, yang memprioritaskan tujuan seperti keamanan, akuntabilitas, dan inovasi – dengan penekanan pada yang terakhir. Di Inggris, Rishi Sunak punya mengadakan pertemuan puncak global tentang keamanan AI untuk musim gugur. Tetapi Undang-Undang Kecerdasan Buatan UE, yang dibuat selama dua tahun, adalah upaya serius pertama untuk mengatur teknologi tersebut.
Berdasarkan undang-undang tersebut, sistem AI diklasifikasikan menurut risiko yang ditimbulkannya bagi pengguna: risiko yang tidak dapat diterima; berisiko tinggi; risiko terbatas; dan minimal atau tidak ada risiko. Mereka kemudian diatur sesuai. Semakin tinggi risikonya – semakin banyak regulasi.
UE blak-blakan tentang sistem yang menimbulkan “risiko yang tidak dapat diterima”: mereka akan dilarang. Risiko yang tidak dapat diterima termasuk sistem yang memanipulasi orang, dengan UE mengutip contoh yang agak distopia dari mainan yang diaktifkan dengan suara yang mendorong perilaku berbahaya pada anak-anak; “skor sosial”, atau pemerintah mengklasifikasikan orang berdasarkan status sosial ekonomi atau karakteristik pribadi (untuk menghindari skenario seperti di Rongcheng, China, dimana kota menilai aspek perilaku warga). Ini juga termasuk sistem kepolisian prediktif berdasarkan profil, lokasi atau perilaku kriminal masa lalu; dan sistem identifikasi biometrik, seperti pengenalan wajah waktu nyata.
Berisiko tinggi Sistem AI adalah sistem yang “memengaruhi keselamatan atau hak fundamental secara negatif”. Mereka akan dinilai sebelum dipasarkan, dan akan diperiksa saat sedang digunakan. Kategori berisiko tinggi mencakup sistem yang digunakan dalam pendidikan (seperti penilaian ujian); pengoperasian infrastruktur penting; penegakan hukum (seperti mengevaluasi keandalan bukti); dan manajemen suaka, migrasi dan kontrol perbatasan. Ini juga mencakup sistem yang digunakan dalam produk yang termasuk dalam undang-undang keamanan produk UE seperti mainan, mobil, dan perangkat medis. (Kritikus berpendapat bahwa waktu dan uang yang diperlukan untuk mematuhi aturan semacam itu mungkin menakutkan bagi perusahaan baru khususnya.)
Risiko terbatas sistem harus mematuhi “persyaratan transparansi minimal” dan pengguna harus diberi tahu saat mereka berinteraksi dengan AI, termasuk sistem yang menghasilkan konten gambar, audio, atau video seperti deepfake. Parlemen UE mengutip proposal khusus untuk AI generatif (alat seperti ChatGPT dan Midjourney yang menghasilkan teks dan gambar yang masuk akal sebagai tanggapan atas permintaan manusia). Konten yang dihasilkan AI harus ditandai dengan cara tertentu (Uni Eropa menginginkan Google dan Facebook mulai melakukan ini secara langsung). Dan perusahaan AI harus menerbitkan ringkasan data berhak cipta yang digunakan untuk melatih sistem AI ini (kami sebagian besar masih tidak tahu apa-apa tentang ini).
Minimal atau tidak ada risiko sistem, seperti AI yang digunakan dalam video game atau filter spam, tidak akan memiliki kewajiban tambahan berdasarkan undang-undang tersebut. Itu Komisi Eropa mengatakan “sebagian besar” sistem AI yang digunakan di UE termasuk dalam kategori ini. Pelanggaran tindakan tersebut dapat dihukum dengan denda €30 juta atau 6% dari omzet global. (Microsoft, misalnya, melaporkan pendapatan sebesar $198 miliar tahun lalu.)
Bisnis berisiko
Karena ketakutan eksistensial tentang peningkatan pesat teknologi seperti itu berlimpah dan raksasa teknologi bersaing dalam perlombaan senjata AI, pemerintah mulai mempertimbangkan dengan serius peringatan tentang AI dan pertanyaan yang ditimbulkannya, seperti rekan saya Alex Hern dan saya dilaporkan pada minggu lalu. Sementara itu, tindakan AI UE yang baru menjawab pertanyaan serupa.
Apa yang akan dilakukannya dengan model pondasi?
Model dasar mendukung alat AI generatif seperti ChatGPT dan dilatih untuk data dalam jumlah besar. Rancangan parlemen Eropa akan membutuhkan layanan seperti ChatGPT untuk mendaftarkan sumber semua data yang digunakan untuk “melatih” mesin.
Untuk mengatasi risiko tinggi pelanggaran hak cipta, undang-undang tersebut akan mewajibkan pengembang chatbot AI untuk menerbitkan semua karya ilmuwan, musisi, ilustrator, fotografer, dan jurnalis yang digunakan untuk melatih mereka. Mereka juga harus membuktikan bahwa semua yang mereka lakukan untuk melatih mesin itu sesuai dengan hukum.
Mereka menambahkan bahwa “penyebar” sistem harus memiliki pengawasan manusia dan prosedur ganti rugi untuk alat tersebut. Ini juga termasuk melakukan “penilaian dampak hak fundamental” sebelum sistem digunakan.
Kapan itu akan menjadi hukum dan apa itu “efek Brussels”?
Uni Eropa berharap untuk menyetujui draf akhir pada akhir tahun ini setelah anggota parlemen memberikan suara pada pertengahan Juni untuk mendorong melalui versi amandemen draf yang awalnya diajukan oleh komisi Eropa. Sekarang ada pembicaraan trilateral antara komisi, kursi komite AI parlemen Uni Eropa dan Dewan Uni Eropa untuk menyempurnakan peraturan perundang-undangan.
Lisa O’Carroll adalah koresponden Guardian di Brussels, dan dia telah mengikuti tindakan tersebut dengan cermat. Lisa memberi tahu saya bahwa pengenalan wajah waktu-nyata, yang dilarang berdasarkan proposal MEP, akan menjadi masalah yang diperdebatkan, mencatat bahwa: “Pasukan polisi dan kementerian dalam negeri melihat pengenalan wajah waktu-nyata sebagai alat penting dalam perang melawan kejahatan dan beberapa pelanggaran sipil. . Jenis AI ini sudah berlaku di beberapa bagian China, di mana pengemudi diawasi karena ngebut, menggunakan ponsel, atau tertidur di belakang kemudi.”
setelah promosi buletin
Dia menambahkan: “Dan pemerintah Prancis – secara kontroversial – berencana untuk menggunakan pengenalan wajah AI waktu nyata di Olimpiade musim panas mendatang untuk mencegah potensi ancaman seperti lonjakan kerumunan. Dragoş Tudorache, co-rapporteur dari komite AI MEP, mengonfirmasi bahwa undang-undang ini harus dibatalkan jika tindakan AI diberlakukan.
“Uni Eropa berharap, sekali lagi, peraturannya akan menjadi ‘standar emas’ untuk beberapa pemain paling signifikan seperti Google dan Facebook dengan mengadopsi undang-undang baru sebagai kerangka kerja operasional mereka secara global. Ini dikenal sebagai ‘efek Brussel’.”
Apakah peraturan tersebut akan berpengaruh?
Charlotte Walker-Osborn, seorang pengacara teknologi yang berspesialisasi dalam AI, mengatakan bahwa UE berpengaruh dalam regulasi teknologi secara global – dengan undang-undang seperti GDPR – dan UU AI akan berpengaruh. Tetapi negara-negara lain seperti AS, Inggris, dan Cina sudah ingin memperkenalkan tindakan mereka sendiriyang berarti pekerjaan tambahan untuk perusahaan teknologi, bisnis, dan entitas lain yang termasuk dalam cakupannya.
“Tidak diragukan lagi, akan ada banyak undang-undang tambahan dan berbeda di luar blok UE yang harus dihadapi perusahaan,” katanya. “Sementara tindakan UE akan, dalam banyak hal, menetapkan batasan, jelas bahwa sejumlah negara di luar Uni Eropa sedang menyusun persyaratan baru mereka sendiri, yang juga perlu dihadapi oleh perusahaan.”
Apa kata para kritikus?
Dame Wendy Hall, Profesor ilmu komputer Regius di University of Southampton, mengatakan ada alternatif untuk sudut fokus risiko UE, seperti pendekatan pro-inovasi dalam buku putih pemerintah Inggris pada bulan Maret. “Meskipun ada beberapa kritik terhadap pendekatan Inggris yang tidak cukup gigih, saya jauh lebih bersimpati pada pendekatan itu daripada pendekatan UE,” katanya. “Kita perlu memahami cara membangun AI yang bertanggung jawab, dapat dipercaya, dan aman, tetapi masih terlalu dini dalam siklus pengembangan AI bagi kita untuk mengetahui secara pasti cara mengaturnya,” katanya.
Apa pendapat perusahaan?
Sam Altman, kepala eksekutif OpenAI, perusahaan AS di belakang ChatGPT, mengatakan perusahaan akan “berhenti beroperasi” di UE jika tidak dapat mematuhi undang-undang tersebut, meskipun ia secara terbuka mendukung gagasan audit dan uji keamanan untuk model AI berkemampuan tinggi. . Microsoft, pendukung keuangan utama OpenAI, percaya bahwa AI “memerlukan pagar pembatas legislatif” dan “upaya penyelarasan di tingkat internasional,” dan menyambut langkah untuk menerapkan Undang-Undang AI. Google DeepMind, lengan AI raksasa pencarian yang berbasis di Inggris, mengatakan penting bahwa tindakan tersebut “mendukung inovasi AI di UE”.
Namun, a makalah yang diterbitkan oleh peneliti di Universitas Stanford memperingatkan bahwa Google, OpenAI, dan pemilik Facebook Meta “sangat buruk” dalam melakukan hal-hal seperti meringkas data hak cipta dalam model mereka. “Kami menemukan bahwa penyedia model yayasan secara tidak merata mematuhi persyaratan yang dinyatakan dalam draf Undang-Undang Kecerdasan Buatan Uni Eropa,” kata para peneliti.
Jika Anda ingin membaca buletin versi lengkap silakan berlangganan untuk menerima TechScape di kotak masuk Anda setiap hari Selasa.
