Beritajateng.id – Muncul paradoks yang besar seiring dengan besarnya budaya digital. Niat awalnya manusia menciptakan mesin pintar agar bisa membantu mengatasi problem sehingga kehidupan lebih mudah dan nyaman dijalani. Tetapi perlahan-lahan mesin berbalik mengendalikan bagaimana manusia berpikir dan berperilaku.
Manusia membuat algoritma – diambil dari nama Al-Khawarizmi – untuk membantu menganalisis berbagai masalah untuk menetapkan keputusan, tetapi pada urutannya tanpa disadari berbagai keputusan itu diserahkan kembali kepada algoritma yang selalu memantau, melayani dan memberikan rekomendasi tentang apa yang mestinya kita lakukan.
Pendeknya, manusia menciptakan kecerdasan buatan untuk membantu kinerja otak dan pikiran, tetapi lama-lama kecerdasan buatan itu yang menjadi sandaran menggantikan kinerja otak dan pikiran kita. Di titik inilah muncul figur baru yang disebut algo sapiens, menggeser posisi homo sapiens.
Algo sapiens bukanlah manusia yang berubah menjadi robot. Dia tetap manusia yang memiliki tubuh biologis, emosi, keinginan, agama, keluarga dan kehidupan sosial. Tetapi metode dan kebiasaan berpikirnya berubah, dikendalikan oleh algoritma.
Semakin banyak keputusan dalam hidupnya dibentuk oleh sistem algoritmik: apa yang dibaca, apa yang ditonton, barang apa yang dibeli, berita apa yang dipercayai, bahkan apa yang dianggap penting. Meskipun hidupnya dikendalikan dari luar, algo sapiens tetap merasa memiliki kebebasan karena tidak melihat rantai pengikatnya. Algoritma bekerja tidak seperti polisi yang mengatur lalu lintas dengan peluitnya.
Algo Sapiens
Selama ribuan tahun manusia membangun peradaban berdasarkan pikiran dan pilihan bebasnya. Kebebasan bukan berarti manusia selalu memperoleh apa yang diinginkannya, tetapi mereka memiliki ruang untuk menentukan pilihannya. Tetapi sekarang ini teknologi digital hadir memperkenalkan jenis kekuasaan baru yang terlihat sosoknya, namun sangat impressif dan efektif pengaruhnya.
Coba bandingkan, kekuasaan lama bekerja dengan perintah: “Lakukan ini atau itu !” Teknologi digital hadir dengan bujuk rayu yang jauh lebih halus: “Saya tahu apa yang Anda inginkan dan saya punya saran apa yang sebaiknya Anda lakukan”. Kemudian sistem mengatur pilihan yang muncul di depan kita.
Di sinilah pemikiran Shoshana Zuboff menjadi penting kita perhatikan. Dalam The Age of Surveillance Capitalism (2018), Zuboff menjelaskan bagaimana pengalaman manusia dapat diekstraksi menjadi data perilaku (behavioral data), kemudian diproses menjadi prediksi tentang apa yang akan dilakukan seseorang sekarang, sebentar lagi, atau di masa depan.
Prediksi tersebut kemudian memiliki nilai ekonomi dalam apa yang ia sebut sebagai behavioral futures markets. Dengan demikian, manusia bukan hanya pengguna teknologi, melainkan juga menjadi sumber bahan baku algoritma dan teknologi digital.
Kita menghasilkan data ketika mencari sesuatu di Google, menggunakan media sosial, bergerak dengan telepon pintar, berbelanja secara daring, menonton video, berbicara dengan perangkat digital, bahkan ketika kita berhenti pada sebuah gambar beberapa detik lebih lama daripada gambar lainnya. Aktivitas sehari-hari menghasilkan tambang data. Semakin banyak data yang tersedia, semakin akurat sistem membaca pola perilaku kita.
Pada tahap pertama, algoritma hanya membaca pikiran dan emosi kita. Ia mencatat apa yang kita sukai. Lalu tahap berikutnya algoritma mulai memprediksi apa yang akan kita lakukan. Pada tahap ketiga algoritma pelan-pelan akan membentuk perilaku kita.
Di sinilah salah satu titik paling tajam dalam analisis Zuboff. Persaingan untuk menghasilkan prediksi yang semakin akurat mendorong sistem bukan hanya mengumpulkan lebih banyak data, tetapi juga melakukan intervensi terhadap perilaku agar perilaku tersebut semakin dapat diprediksi dan diarahkan.
Dengan demikian , menurut Zuboff, terjadi perubahan paradigma: surveillance → prediction → intervention → behavioral modification. Bermula dari pengawasan, berujung pada pengendalian perilaku. Inilah yang membuat era algoritma berbeda dari sekedar era komputer.
Ancaman Terhadap Pikiran
Franklin Foer dalam bukunya World Without Mind (2017) membawa persoalan ini ke wilayah yang lebih dalam. Foer tidak hanya mengkhawatirkan tergerusnya ruang privasi, melainkan terancamnya otonomi pikiran manusia.
Menurut Foer, perusahaan teknologi besar telah mengubah cara manusia memperoleh informasi dan berpikir. Algoritma dapat mendorong manusia menuju konformitas, mempersempit pengalaman informasi, dan mengikis ruang bagi kontemplasi pribadi serta pikiran yang otonom.
Seseorang mungkin secara fisik bebas pergi ke mana saja, memilih belanja membeli barang apa saja, masuk restauran sesuai pilihannya. Tetapi betulkah semua itu keluar dari pilihan bebasnya ataukah sudah terkondisikan oleh rekomendasi algoritma? Jika seluruh pikirannya dibentuk oleh sistem rekomendasi yang disajikan algoritma, seberapa bebas sesungguhnya pilihan tersebut?
Misalnya, seseorang membuka internet dengan niat mencari informasi. Dia merasa sedang memilih sesuai dengan seleranya. Tetapi algoritma telah menentukan dan menyodorkan urutan informasi yang muncul.
Di lain kesempatan dia memilih video. Tetapi sistem telah mempelajari jenis video apa yang cocok dengan seleranya. Atau dia merasa menemukan sebuah gagasan baru. Tetapi gagasan itu mungkin telah dipilihkan untuknya berdasarkan ribuan jejak perilaku sebelumnya.
Jadi, seseorang memang tidak kehilangan kemampuan memilih. Tapi yang terjadi adalah kehilangan kesadaran tentang siapa yang membentuk dan menyediakan lanskap medan pilihannya.
Penjara Tanpa Jeruji
Jadi, algo sapiens juga menampilkan bentuk kekuasaan dan penjara baru yang berbeda dari penjara klasik yang memiliki tembok yang dijaga oleh polisi. Kekuasaan algoritmik tidak selalu memerlukan tembok dan menebarkan ancaman, melainkan cukup mengatur lingkungan pilihan.
Kita masih dapat memilih, tetapi pilihan-pilihan yang tersedia telah disusun. Kita masih dapat membaca, tetapi bacaan apa yang muncul pertama sudah dipilihkan berdasarkan sistem rekomendasi. Dengan demikian, bentuk kekuasaan baru ini tidak selalu menggunakan kata perintah, cukup menyediakan objek atau informasi yang cocok dan kita butuhkan berdasarkan rekam jejak yang telah dipelajari oleh sistim algoritma.
Masyarakat Yang Cemas
Meskipun teknologi super canggih telah membantu kebutuhan hidup masyarakat modern, kecemasan manusia tidak berarti hilang. Perasaan senang, kecewa, cemas, jatuh cinta, bahagia adalah sifat bawaan manusia yang tidak bisa digantikan oleh mesin secanggih apapun.
Dalam The Anxious Society, Han Byung membaca zaman kita ini sebagai zaman yang diliputi kecemasan: takut gagal, tertinggal, tersingkir, kehilangan masa depan, dan kehilangan kemampuan mengendalikan kehidupan sendiri. Kecemasan semacam itu dapat menghancurkan solidaritas dan membuat manusia semakin terisolasi. Merasa sepi dalam keramaian.
Jika gagasan Han ditempatkan berdampingan dengan Zuboff dan Foer, kita mendapatkan sebuah rangkaian yang menarik. Zuboff menjelaskan bagaimana manusia selalu dipantau dan diawasi.
Foer menjelaskan bagaimana pikiran manusia terancam kehilangan otonomi. Han Byung-chul menjelaskan kondisi eksistensial manusia yang semakin cemas dan kesepian. Ketiganya bertemu pada satu pertanyaan: Apa yang terjadi ketika algo sapiens semakin kehilangan kemampuan mengendalikan hidupnya sendiri dan tidak jelas memandang makna dan tujuan hidupnya?
Saat ini kita memang semakin mudah memperoleh informasi melalui teknologi digital, tetapi semakin sulit membedakan informasi yang betul-betul kita cari dan informasi yang hadir membanjiri dan mengurung kita yang disediakan oleh algoritma. Semua ini awalnya tentu dirasakan sebagai kemudahan, keasyikan dan kenyamanan yang kemudian menjadi kebiasaan dan ketergantungan.
Bahayanya, kebiasaan ini akan memperlemah dan mendegradasi kapasitas kita sebagai homo sapiens. Daya ingatnya tidak terlatih. Daya analisisnya jadi tumpul. Manusia perlahan kehilangan pengalaman berharga dari salah memilih dan belajar dari kesalahan.
Manusia menjadi manusia karena mampu bertanya, pernah salah, lupa, dan berjuang mencari jawaban serta bertanggungjawab atas pilihannya. Ketika proses berpikir dan mencari telah didelegasikan kepada sistem mesin cerdas, siapa sebenarnya subyek atau agensi yang bertanggungjawab secara moral?
Kecerdasan buatan mungkin memiliki intelligence yang semakin tinggi. Tetapi kecerdasan bukanlah kebijaksanaan. Secanggih apapun teknologi dia tak akan pernah bertanya tentang makna dan tujuan hidup. Algoritma bekerja berdasarkan rekam jejak masa lalu yang membentuk pola lalu menjadi referensi untuk memprediksi masa depan. Sedangkan manusia memiliki kemampuan untuk memutus pola tersebut.
Manusia mengenal konsep pertobatan. Ketika manusia kehilangan kemampuan untuk merenung, meragukan, membayangkan, berempati, berharap, dan memilih hidup baru secara sadar, yang hilang bukan sekadar privasi, tetapi esensi kemanusiaan itu sendiri.
Penulis: Komaruddin Hidayat, Ketua Dewan Pers
