Malaysian Buzz

(SeaPRwire) –   Pada suatu petang awal bulan Mei tahun 2023, Colin Megill duduk di sofa di dalam ruang mesyuarat yang dipenuhi tanaman di ibu pejabat OpenAI di San Fransisco.

Beliau Dikelilingi oleh tujuh kakitangan dari makmal kecerdasan buatan terkemuka di dunia, yang melancarkan Chat GPT beberapa bulan lebih awal. Salah seorang dari mereka adalah Wojciech Zaremba, salah seorang pengasas OpenAI. Dia memerlukan bantuan Megill. 

Selama lebih daripada satu dekad, Megill bekerja dalam keadaan tidak begitu tersohor sebagai pengasas bersama Polis, sebuah platform teknologi sumber terbuka bukan untung bagi tujuan mengemukakan perbincangan awam. Demokrasi, menurut pandagan Megill, tidak banyak berubah sejak ratusan tahun lalu walaupun dunia sekitarnya telah berubah sehinggakan tidak dapat dikenali. Setiap pengundi mempunyai banyak kepercayaan yang perlu ditukar kepada satu isyarat: satu undi, setiap beberapa tahun. Keheterogenan setiap individu hilang dan bertukar dengan penyelewengan, dan akibatnya, sistem demokrasi sering kali tidak mencerminkan kehendak manusia dan cenderung ke arah polarisasi.

Polis, yang dilancarkan pada tahun 2012, merupakan penyelesaian Megill. Sistem ini berfungsi dengan membenarkan pengguna menyatakan pandangan mereka dalam pernyataan ringkas dan membenarkan mereka mengundi pandangan orang lain. Menggunakan pembelajaran mesin, sistem ini dapat menghasilkan peta terperinci tentang nilai-nilai pengguna, mengenalpasti dengan jelas kelompok manusia yang mempunyai kepercayaan yang sama. Namun pembaharuan sebenar lebih mudah: dengan data ini, Polis dapat mendedahkan pernyataan yang mana kumpulan manusia yang biasanya tidak bersetuju boleh bersetuju. Dengan kata lain, ia memutuskan polarisasi dan menawarkan jalan ke hadapan. Kerajaan Taiwan melihat potensi yang cukup dalam Polis untuk , dan Twitter memanfaatkannya untuk memperkasa ciri penyemakan fakta Nota Komuniti. Sekarang OpenAI telah muncul.

Pasukan saintis komputer di OpenAI cuba mengatasi masalah teknikal tentang cara untuk menyelaraskan AI mereka kepada nilai-nilai manusia. Namun kakitangan yang berfokuskan strategi dan polisi di dalam syarikat tersebut juga bergelut dengan akibat yang menyusahkan: nilai-nilai siapa yang sepatutnya menunjukkan AI? Dan siapa yang dapat membuat keputusan? 

Pemimpin OpenAI enggan membuat keputusan tersebut secara bersendirian. Mereka telah menyaksikan jalan buntu politik yang membuat syarikat media sosial tersekat semasa tahun 2010an, ketika sekumpulan kecil bilionair di Silicon Valley mengatur aturan wacana publik bagi miliaran orang. Namun, mereka juga tidak tenang tentang penyerahan kuasa ke atas AI mereka kepada pemerintah atau pengatur secara bersendirian. Sebaliknya, makmal AI itu mencari cara ketiga: berjumpa terus dengan manusia. Kerja Megill adalah hal terdekat yang ditemukannya sebagai cetak biru.

Zaremba punya satu cadangan yang memikat untuk Megill. Kedua-dua orang ini tahu bahawa teknologi Polis berkesan tetapi intensif buruh; ia memerlukan manusia untuk memudahkan perbincangan yang terjadi di platform dan menganalisis data setelahnya. Ia rumit, lambat, dan mahal—faktor yang dicurigai Megill akan membatasi penerimaan di demokrasi di seluruh dunia. Model bahasa besar (LLM)—yang mendukung alat seperti ChatGPT—dapat membantu mengatasi hambatan tersebut, kata Zaremba kepadanya. Chatbot tampaknya sangat cocok untuk tugas membincangkan topik-topik kompleks dengan orang-orang, mengajukan pertanyaan lanjutan, dan menentukan area konsensus.

Sebelas hari setelah pertemuan mereka, Zaremba mengirimkan satu video prototaip yang sedang berfungsi kepada Megill. “Ini fiksyen sains,” fikir Megill dengan teruja. Kemudian dia menerima undangan Zaremba untuk menasihati OpenAI mengenai salah satu proyek pemerintahan AI paling ambisius sehingga saat ini. Syarikat itu ingin tahu sama ada teknologi deliberatif, seperti Polis, dapat memberikan jalan menuju penyelarasan AI yang mana bagian masyarakat yang luas dapat menyetujuinya. Sebagai balasannya, Megill dapat mengetahui sama ada LLM merupakan kepingan teka-teki hilang yang dia cari untuk membantu Polis mengatasi kekurangan yang dilihatnya dalam demokrasi.

Pada tanggal 25 Mei, OpenAI pada blognya bahwa mereka sedang mencari aplikasi untuk program senilai $1 juta yang disebut “Masukan Demokratik pada AI.” Sepuluh tim masing-masing akan menerima $100.000 untuk mengembangkan “pembuktian konsep untuk proses demokratik yang dapat menjawab pertanyaan tentang peraturan apa yang harus diikuti oleh sistem AI.” Saat ini tidak ada mekanisme yang koheren untuk secara akurat mengukur suhu publik global terhadap apa pun, apalagi masalah yang rumit seperti perilaku sistem AI. OpenAI berusaha mencari satu. “Kami benar-benar mencoba untuk berpikir: apakah sebenarnya mekanisme yang paling layak untuk memberikan kesempatan kepada banyak orang untuk menyatakan pendapat tentang bagaimana sistem ini berperilaku?” Kepala urusan global OpenAI Anna Makanju mengatakan kepada TIME pada bulan November. “Karena bahkan peraturan sekalipun akan gagal, jelas, kurang dari itu.”

Megill akan duduk di komite tiga ahli yang tidak dibayar yang akan memberi nasihat kepada OpenAI tentang aplikasi mana yang akan didanai. (Temuan dari eksperimen tersebut tidak akan mengikat, “setidaknya untuk saat ini,” syarikat tersebut menulis.) Sebagai contoh dari jenis proyek penelitian yang dicarinya, OpenAI menerbitkan tiruan versi Polis yang super canggih, yang mana ChatGPT akan memfasilitasi perbincangan secara berskala, menilai pandangan orang dan menentukan area konsensus. CEO syarikat tersebut, Sam Altman, jelas-jelas terpesona dengan potensi gagasan ini. “Kami punya kemampuan baru untuk melakukan demokrasi langsung berskala besar yang belum pernah kami miliki sebelumnya,” ungkapnya kepada TIME pada bulan November. “AI bisa berbincang dengan semua orang dan mengetahui preferensi mereka yang sebenarnya.”

Namun sebelum OpenAI dapat mengumumkan secara publik hasil program pemberian dana nya, perusahaan tersebut terlibat dalam kekacauan. Dewan direksi organisasi nirlaba yang mengatur OpenAI memecat Altman dan menuduhnya tidak jujur kepada mereka. Setelah lima hari yang penuh gejolak, Altman kembali menjadi pemimpin dengan sebagian besar anggota dewan direksi yang baru. Tiba-tiba, pertanyaan tata kelola AI yang berusaha dijawab oleh penerima hibah senilai $100.000 dari OpenAI tidak lagi tampak begitu teoretis. Kontrol atas AI tingkat lanjut sekarang jelas merupakan masalah kekuatan politik dan ekonomi yang keras—yang mana OpenAI dan pelindungnya, Microsoft, tampaknya tidak akan melepaskan banyak, jika ada, tekanan yang signifikan. Persaingan yang ketat sedang terjadi antara Microsoft, Google, Meta, dan Amazon untuk mendominasi AI. Perusahaan teknologi telah mulai berlomba untuk membangun “kecerdasan umum buatan”, sebuah sistem hipotetis yang dapat menyamai atau bahkan melampaui kemampuan manusia, yang menghasilkan triliunan dolar pada saat proses berlangsung. Dalam iklim ini, apakah OpenAI benar-benar akan membiarkan publik memutuskan aturan yang mengatur sistemnya yang paling kuat? Dan dengan begitu banyak yang dipertaruhkan, apakah mungkin untuk benar-benar mendemokratisasi AI? 

Di ruang auditorium di kantor pusat OpenAI di San Francisco pada bulan September, perwakilan dari 10 tim pemenang hibah berkumpul untuk mempresentasikan hasil kerja mereka. Dua pohon palem besar dalam ruangan mengapit panggung dan deretan tanaman merambat tergantung di layar proyektor. Cahaya keemasan yang hangat memenuhi ruangan. Tyna Eloundou, seorang peneliti di OpenAI, naik ke podium untuk menyambut para tamu yang berkumpul. “Dalam piagam kami, kami secara tegas membuat komitmen untuk membangun AI yang bermanfaat bagi seluruh umat manusia,” ungkapnya , merujuk pada dokumen yang diharapkan dipatuhi oleh staf OpenAI. “Dengan banyaknya tujuan dan ambisi manusia, itu adalah tugas yang sulit.” Apakah mungkin untuk merancang sistem yang dapat mencerminkan keinginan demokrasi publik? Seperti apa sistem tersebut? Bagaimana cara mengatasi fakta bahwa sistem AI menguntungkan beberapa komunitas lebih dari yang lain? “Ini adalah pertanyaan yang sedang kami grapp, dan kami perlu mempertanyakan secara serius siapa yang berwenang dan sah untuk membuat sistem seperti itu,” kata Eloundou. “Ini bukan pertanyaan yang mudah