LSenin lalu seorang ilmuwan tua Inggris terkemuka melemparkan granat ke sarang semut demam para peneliti dan perusahaan yang saat ini terobsesi dengan kecerdasan buatan atau AI (alias, sebagian besar, teknologi yang disebut pembelajaran mesin). Ilmuwan itu Geoffrey Hintondan yang mengejutkan adalah berita bahwa dia akan meninggalkan Google, tempat dia telah melakukan pekerjaan besar dalam pembelajaran mesin selama 10 tahun terakhir, karena dia ingin bebas mengungkapkan ketakutannya tentang di mana teknologi yang telah dia mainkan berperan penting. pendirian sedang menuju.
Mengatakan bahwa ini adalah berita besar akan menjadi pernyataan yang meremehkan. Industri teknologi adalah binatang yang sangat besar dan bersemangat yang kadang-kadang rentan terhadap wabah “kegembiraan irasional”, yaitu kegilaan. Satu pertarungan baru-baru ini melibatkan cryptocurrency dan visi masa depan internet yang disebut “Web3”, yang dilakukan oleh seorang blogger dan kritikus muda yang cerdik, Molly Putihdigambarkan sebagai “grift besar yang menuangkan cairan ringan di planet kita yang sudah membara”.
Kami saat ini berada dalam cengkeraman wabah kegembiraan lain yang dipicu oleh “AI Generatif” – chatbots, model bahasa besar (LLM), dan artefak eksotis lainnya yang diaktifkan oleh penyebaran besar-besaran pembelajaran mesin – yang sekarang dianggap oleh industri sebagai masa depan. sibuk menyiapkan peralatan.
Baru-baru ini, lebih dari 27.000 orang – termasuk banyak orang yang memiliki pengetahuan tentang teknologi – menjadi sangat khawatir tentang serbuan Gadarene menuju distopia yang digerakkan oleh mesin sehingga mereka mengeluarkan surat terbuka menyerukan jeda enam bulan dalam pengembangan teknologi. AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi, katanya, dan harus direncanakan dan dikelola dengan perawatan dan sumber daya yang sepadan.
Itu adalah surat yang manis, mengingatkan pada khotbah pagi saya kepada kucing kami bahwa mereka harus baik terhadap mamalia kecil dan burung taman. Raksasa teknologi, yang memiliki sejarah panjang acuh tak acuh terhadap kebutuhan masyarakat, telah mengendus peluang baru untuk mendominasi dunia dan tidak akan membiarkan sekelompok intelektual yang gugup menghalangi jalan mereka.
Itulah sebabnya intervensi Hinton begitu signifikan. Karena dia adalah orang yang penelitiannya membuka kunci teknologi yang sekarang longgar di dunia, baik atau buruk. Dan itu alasan yang cukup kuat untuk duduk dan memperhatikan.
Dia adalah sosok yang benar-benar luar biasa. Jika ada yang namanya silsilah intelektual, maka Hinton adalah ras murni.
Ayahnya, seorang ahli entomologi, adalah anggota Royal Society. Kakek buyutnya adalah George Boole, ahli matematika abad ke-19 yang menemukan logika yang mendasari semua komputasi digital.
Kakek buyutnya adalah Charles Howard Hinton, ahli matematika dan penulis yang idenya tentang “dimensi keempat” menjadi bahan pokok fiksi ilmiah dan berakhir di film superhero Marvel tahun 2010-an. Dan sepupunya, fisikawan nuklir Joan Hinton, adalah salah satu dari sedikit wanita yang bekerja di Proyek Manhattan masa perang di Los Alamos, yang menghasilkan bom atom pertama.
Hinton telah terobsesi dengan kecerdasan buatan selama masa dewasanya, dan khususnya dalam masalah bagaimana membuat mesin yang dapat belajar. Pendekatan awal untuk ini adalah membuat “Perceptron” – sebuah mesin yang dimodelkan pada otak manusia dan berdasarkan pada model neuron biologis yang disederhanakan. Pada tahun 1958 seorang profesor Cornell, Frank Rosenblatt, benar-benar membangun hal seperti itu, dan untuk sementara jaringan saraf menjadi topik hangat di lapangan.
Namun pada tahun 1969 a kritik yang menghancurkan oleh dua sarjana MIT, Marvin Minsky dan Seymour Papert, diterbitkan … dan tiba-tiba jaringan saraf menjadi cerita kemarin.
Kecuali satu peneliti yang gigih – Hinton – yakin bahwa mereka memegang kunci pembelajaran mesin. Sebagai Waktu New York reporter teknologi Cade Metz mengatakan, “Hinton tetap menjadi salah satu dari sedikit yang percaya suatu hari akan memenuhi janjinya, memberikan mesin yang tidak hanya dapat mengenali objek tetapi mengidentifikasi kata-kata yang diucapkan, memahami bahasa alami, melakukan percakapan, dan bahkan mungkin memecahkan masalah. masalah yang tidak bisa diselesaikan manusia sendiri”.
Pada tahun 1986, dia dan dua rekannya di Universitas Toronto menerbitkan kertas tengara menunjukkan bahwa mereka telah memecahkan masalah yang memungkinkan jaringan saraf untuk menjadi pembelajar yang terus meningkat menggunakan teknik matematika yang disebut “propagasi balik”. Dan, dengan cerdik, Hinton menyebut pendekatan ini sebagai “pembelajaran mendalam”, sebuah frasa menarik yang dapat digunakan oleh jurnalis. (Mereka menanggapi dengan menggambarkannya sebagai “bapak baptis AI”, yang bahkan kasar menurut standar tabloid.)
Tahun 2012, Google membayar $44 juta untuk perusahaan pemula yang telah ia dirikan bersama rekan-rekannya, dan Hinton bekerja untuk raksasa teknologi tersebut, dalam prosesnya memimpin dan menginspirasi sekelompok peneliti yang melakukan banyak pekerjaan terobosan berikutnya yang telah dilakukan perusahaan tersebut. pembelajaran mesin di grup Google Brain internalnya.
Selama berada di Google, Hinton cukup tidak berkomitmen (setidaknya di depan umum) tentang bahaya teknologi yang dapat membawa kita ke masa depan distopia. “Sampai baru-baru ini,” katanya, “Saya pikir krisis eksistensial ini masih jauh. Jadi, saya tidak benar-benar menyesal atas apa yang saya lakukan.”
Tapi sekarang dia telah menjadi orang bebas lagi, dia jelas lebih khawatir. Dalam sebuah wawancara minggu lalu, dia mulai menjelaskan alasannya. Inti dari perhatiannya adalah fakta bahwa mesin baru jauh lebih baik – dan lebih cepat – belajar daripada manusia. “Propagasi balik mungkin merupakan algoritme pembelajaran yang jauh lebih baik daripada yang kami miliki. Itu menakutkan … Kami memiliki komputer digital yang dapat mempelajari lebih banyak hal dengan lebih cepat dan mereka dapat langsung mengajarkannya satu sama lain. Ini seperti jika orang-orang di ruangan itu dapat langsung mentransfer ke kepala saya apa yang mereka miliki di dalamnya.
Namun, yang lebih menarik adalah petunjuk bahwa yang benar-benar mengkhawatirkannya adalah kenyataan bahwa teknologi canggih ini sepenuhnya berada di tangan beberapa perusahaan besar.
Hingga tahun lalu, Hinton memberi tahu Metz, the Waktu jurnalis yang telah memprofilkannya, “Google bertindak sebagai pelayan yang tepat untuk teknologi, berhati-hati untuk tidak merilis sesuatu yang dapat membahayakan.
“Tapi sekarang Microsoft telah menambah mesin pencari Bing-nya dengan chatbot – menantang bisnis inti Google – Google berlomba untuk menggunakan jenis teknologi yang sama. Raksasa teknologi terkunci dalam persaingan yang mungkin mustahil dihentikan.”
Dia benar. Kami pindah ke wilayah yang belum dipetakan.
Yah, tidak sepenuhnya belum dipetakan. Ketika saya membaca tentang langkah Hinton pada hari Senin, yang langsung terlintas di benak saya adalah kisah yang diceritakan Richard Rhodes dalam bukunya sejarah monumental Pembuatan Bom Atom. Pada tanggal 12 September 1933, fisikawan teoretis Hongaria Leo Szilard sedang menunggu untuk menyeberang jalan di persimpangan dekat British Museum. Dia baru saja membaca laporan tentang pidato yang diberikan oleh Ernest Rutherford sehari sebelumnya, di mana fisikawan besar itu mengatakan bahwa siapa pun yang “mencari sumber kekuatan dalam transformasi atom sedang membicarakan sinar bulan”.
Szilard tiba-tiba memiliki ide reaksi berantai nuklir dan menyadari bahwa Rutherford salah. “Saat dia menyeberang jalan”, tulis Rhodes, “waktu terbuka di hadapannya dan dia melihat jalan ke masa depan, kematian ke dunia dan semua kesengsaraan kita, bentuk dari hal-hal yang akan datang”.
Szilard adalah rekan penulis (bersama Albert Einstein) dari surat kepada Presiden Roosevelt (tentang risiko Hitler membuat bom atom) yang mengarah ke Proyek Manhattan, dan semua yang mengikutinya.
John Naughton adalah kolumnis Pengamat dan mengetuai dewan penasehat Lessoo Center untuk Teknologi dan Demokrasi di Universitas Cambridge.
%20|%20KoranPrioritas.com){kind=link}