Hampir 50 situs web berita ‘dihasilkan oleh AI’, kata sebuah penelitian. Apakah saya bisa memberi tahu? | Kecerdasan buatan (AI) | KoranPrioritas.com

oleh

Berita terbaru dari celebritydeaths.com: presiden sudah meninggal.

Setidaknya itulah yang diinformasikan oleh situs web yang sangat andal itu kepada para pembacanya bulan lalu, di bawah judul yang tidak masuk akal, “Biden mati. Penjabat presiden Harris, alamat 09:00 ET ”. Situs tersebut menjelaskan bahwa Joe Biden telah “meninggal dengan tenang dalam tidurnya” dan Kamala Harris mengambil alih, di atas penafian yang aneh: “Maaf, saya tidak dapat menyelesaikan perintah ini karena bertentangan dengan kebijakan kasus penggunaan OpenAI dalam menghasilkan konten yang menyesatkan. .”

Celebritiesdeaths.com adalah salah satu dari 49 situs berita yang dianggap NewsGuard, sebuah organisasi yang melacak misinformasi, telah diidentifikasi sebagai “hampir seluruhnya ditulis oleh perangkat lunak kecerdasan buatan”. Situs tersebut menerbitkan hingga ratusan artikel setiap hari, menurut laporan tersebut, banyak dari materi tersebut berisi tanda-tanda konten yang dihasilkan AI, termasuk “bahasa hambar dan frasa berulang”. Beberapa artikel berisi informasi palsu dan banyak situs dikemas dengan iklan, menunjukkan bahwa mereka dimaksudkan untuk menghasilkan uang melalui iklan terprogram, atau dihasilkan secara algoritme. Sumber ceritanya tidak jelas: banyak yang kekurangan byline atau menggunakan foto profil palsu. Dengan kata lain, NewsGuard mengatakan, ketakutan para ahli bahwa seluruh organisasi berita dapat dihasilkan oleh AI telah menjadi kenyataan.

Sulit membayangkan siapa yang akan mempercayai hal ini – jika Biden meninggal, New York Times mungkin akan meliputnya – dan semua 49 situs berisi setidaknya satu contoh pesan kesalahan AI yang berisi frasa seperti “Saya tidak dapat menyelesaikan perintah ini” atau ” sebagai model bahasa AI”. Tetapi sebagai Futurisme menunjukkan, kekhawatiran besar di sini adalah bahwa informasi palsu di situs dapat berfungsi sebagai dasar konten AI di masa mendatang, menciptakan lingkaran setan berita palsu.

Seperti apa situs-situs ini – dan apakah artikel AI akan selalu mudah dikenali seperti laporan kematian Biden? Saya menghabiskan sore hari di dunia baru omong kosong digital yang berani untuk mencari tahu.


TPemberhentian pertama adalah Get Into Knowledge, yang menawarkan sejumlah besar pengetahuan untuk dimasuki, semuanya dimuntahkan ke beranda secara acak. (Kami tidak akan menautkan ke situs di sini untuk menghindari peningkatan lebih lanjut.)

Beranda Get Into Knowledge.
Beranda Get Into Knowledge. Foto: Screenshot/Getintoknowledge.com

Berita utama tampak seperti karya perangkat lunak terjemahan. Satu kategori adalah “alasan luar biasa di baliknya”: misalnya, artikel panjang tentang “Mengapa anjing makan rumput? – alasan luar biasa di balik” dan “Mengapa menguap menular? – 10 Fakta Sains Menakjubkan di belakang”. Sepotong tentang apakah lautan membeku didasarkan pada “sains besar-besaran”, dan situs tersebut berani mengajukan pertanyaan seperti “mengapa Langit Biru tetapi Luar Angkasa hitam?” dan bahkan lebih puitis “Apakah gravitasi Mars sama dengan Bumi?”, sesuatu yang sering membuat saya bertanya-tanya. Saya mulai bertanya-tanya apakah bahasanya terlalu aneh untuk digunakan ChatGPTyang cenderung mudah dibaca, jika membosankan.

Itulah yang terjadi dengan artikel itu sendiri. Mereka diurutkan seperti presentasi, dengan garis besar di bagian atas dan paragraf disusun berdasarkan nomor. Tapi ada sekilas kemanusiaan sejati: misalnya, potongan tentang anjing pemakan rumput menyebut mereka sebagai “teman berbulu” kita sebanyak enam kali. Potongan-potongan ini pasti terbaca seperti karya AI, dan seseorang yang mengidentifikasi dirinya kepada NewsGuard sebagai pendiri situs tersebut mengatakan bahwa situs tersebut menggunakan “otomatisasi di beberapa titik di mana mereka sangat dibutuhkan”. (Situs tidak segera membalas email dari Guardian.)

Setelah saya mendapatkan cukup pengetahuan, saya mengunjungi celebritydeaths.com, yang dengan sungguh-sungguh menggambarkan dirinya sebagai “berita tentang tokoh-tokoh terkenal yang telah meninggal” – perubahan yang menyegarkan dari outlet seperti Us Weekly yang bersikeras meliput tokoh-tokoh yang masih hidup.

Selain snafu Biden, kematian yang saya periksa fakta sebenarnya telah terjadi, meskipun tampaknya telah berhenti pada bulan Maret: tautan ke kematian pada bulan April dan Mei tidak berhasil. Untungnya, kekurangan kematian pada bulan-bulan itu diimbangi dengan kematian berulang individu pada bulan Maret: pilot RAF perang dunia kedua Ceko terakhir yang masih hidup, misalnya, tampaknya meninggal pada tanggal 25 dan 26.

Saya juga mengetahui bahwa seorang “pendiri kerajaan pangsit” meninggal pada tanggal 26 Maret, yang merupakan informasi yang mengesankan mengingat artikel tersebut diklaim telah diposting pada tanggal 26 Februari. Celebritiesdeaths.com tidak menganggap perlu untuk memberikan nama pendiri “waralaba pangsit global kolosal”, meskipun “kematian” pria berusia 96 tahun itu diratapi secara luas. (Karya itu pasti merujuk pada Yang Bing-yi, yang mendirikan rantai Taiwan yang terkenal.) Email Guardian ke alamat yang tercantum di situs segera dikembalikan dengan pesan kesalahan.

Sebuah cerita tentang kematian seorang taipan pangsit gagal menyebutkan namanya.
Sebuah cerita tentang kematian seorang taipan pangsit gagal menyebutkan namanya. Foto: Screenshot/Celebritiesdeaths.com

Setelah saya muak dengan selebritas yang meninggal, saya menuju ke ScoopEarth.com, yang memberikan informasi orang dalam yang menarik tentang bintang yang masih bernafas, serta, untuk beberapa alasan, tip teknologi. Artikel pertama tentang musisi August Alsina, yang saya pelajari, lahir pada 3 September 1992 “di usia 30 tahun”. Ulang tahunnya yang tanggal 3 September mungkin menjelaskan mengapa “setiap bulan September, Alsina mengadakan pesta ulang tahun pada tanggal 3 September”. Dalam sebuah email, Niraj Kumar, yang diidentifikasi di situs sebagai pendirinya, menolak klaim bahwa situs tersebut menggunakan AI, menyebut materi tersebut “murni asli”. Banyak bagian di situs yang terasa terlalu aneh untuk dijadikan ChatGPT, tetapi ada begitu banyak informasi yang diulang sehingga rasanya tidak dapat ditulis oleh manusia. Saya mendapati diri saya bertanya-tanya bagaimana kita bisa mempercayai apa pun di internet jika sudah sangat sulit untuk mengetahui kapan AI terlibat.

Terakhir, saya mengunjungi Famadillo.com untuk review produk. Situs yang dikuratori dengan rapi ini berfokus pada tablet pelepas stres, tip RVing, kaus Hari Ibu, dan situs “teratas” di Santa Fe. Ulasannya sendiri cukup masuk akal, tetapi menavigasi situs hampir tidak mungkin. Mungkin itu dirancang dengan sempurna untuk dilettante sejati – tipe orang yang membaca ulasan tentang Lendir Hijau Super Elastis Play-Doh segera setelah bagian menangani pertanyaan sulit “Apakah bayi kentang kentang biasa?”

Dalam email ke Guardian, Famadillo menolak klaim bahwa mereka menggunakan AI untuk menghasilkan konten yang disorot dalam laporan NewsGuard. “Famadillo menjalankan wawancara dan ulasan yang dilaporkan dan menggunakan siaran pers untuk halaman kontes kami. Tak satu pun dari konten ini dihasilkan oleh AI, ”bunyi email itu. “Karena itu, kami telah bereksperimen dengan AI dalam hal menyegarkan konten lama dan mengedit konten yang ditulis reporter dengan pengawasan editor kami.”

Kontroversi tersebut menunjukkan semakin sulitnya membedakan manusia dari bot. Di penghujung hari, saya bahkan lebih bingung tentang apa yang nyata dan apa yang tidak daripada saya setelah bangun dari mimpi atau menonton Fox News selama 15 menit. Siapa, tepatnya, yang menjalankan situs-situs ini tidak jelas: banyak yang tidak berisi informasi kontak, dan dari mereka yang berhasil dihubungi NewsGuard, sebagian besar gagal menjawab sementara yang melakukannya tidak jelas tentang operasi mereka. Sementara itu, dampaknya tampak sangat bervariasi – beberapa memposting ke halaman Facebook dengan puluhan ribu pengikut sementara yang lain tidak.

Jika ini yang dihasilkan AI sekarang, bayangkan seperti apa jadinya ketika situs seperti ini menjadi materi sumber AI. Kami hanya bisa berharap bot tetap jujur ​​​​tentang identitas mereka – atau Joe Biden menemukan cara untuk mencegah AI wild west. Dengan asumsi dia masih hidup.