Psikologi berperan di balik desain teknologi aplikasi media sosial. Ia mengeksploitasi psikologi manusia untuk memanipulasi manusia. Ia menggemakan kembali pemikiran Sartre: Hell is other people.
PENGAKUAN ‘orang-dalam’ (insider) selalu menggetarkan. Ia tetap menggetarkan sekalipun apa yang disampaikan secara garis besar sudah menjadi pengetahuan umum.
‘Orang-dalam’ mengetahui seluk-beluk sesuatu yang tak diketahui orang luar (outsider). Mereka juga mengalami bagaimana sesuatu itu dioperasikan, dan bahkan diciptakan.
Itulah yang pertama saya rasakan ketika menyaksikan dokumenter-drama terbaru Netflix, The Social Dilemma. Film ini gubahan Jeff Orlowski, sineas pemenang Emmy untuk dokumenter Chasing Ice (2012) dan Chasing Coral (2017).
- Judul Film: The Social Dilemma
- Sutradara: Jeff Orlowski
- Penulis: Jeff Orlowski
- Pemain: Tristan Harris, Justin Rosenstein, Jaron Lanier, Sandy Parakilas, Cathy O’Neil
- Rilis: September 2020 (Netflix)
- Durasi: 89 menit
Sepasukan otak brilian Silicon Valley tampil dalam The Social Dilemma. Mereka menjelaskan sisi gelap media sosial, teknologi yang mereka sendiri ciptakan.
Mereka bukan sekadar operator atau teknisi di raksasa-raksasa teknologi yang memadati wilayah dengan PDB per kapita tertinggi di dunia itu. Mereka perintis, perancang utama, dan eksekutif puncak. Mereka antara lain Tristan Harris, eks pakar desain etika Google; Tim Kendall, eks direktur monetisasi Facebook; Justin Rosenstein, eks insinyur Google dan penemu tombol “like” pada Facebook; Guillaume Chaslot, bekas insinyur YouTube yang merancang algoritma situs tersebut; Jeff Seibert, eks eksekutif Twitter; dan Jaron Lanier, ilmuwan komputer dan perintis virtual reality.
Jika menganggap mereka adalah barisan sakit hati yang sudah tak terpakai atau mutung dengan industri, Anda harus bersiap kecewa. Dari antara barisan nama tersebut, Lanier adalah satu-satunya nama yang saya pernah tahu. Kebetulan beberapa waktu lalu, saya bersua dengan bukunya Ten Arguments for Deleting Your Social Media Accounts Right Now (2018). Dia salah satu “babon” dalam industri teknologi informasi. Dia bahkan dianggap godfather dari artificial intelligence (AI). Dia kini masih aktif sebagai saintis di laboratorium Microsoft Research. Begitupun, Lanier kritis—untuk tak menyebutnya skeptis—terhadap lingkungan tempat ia dibesarkan.
Ada satu nama lagi yang bukan bagian dari Silicon Valley, tapi tetap penting dalam doku-drama ini. Dia Cathy O’Neil, pakar matematika dan saintis data. Dia rajin menulis di blognya, mathbabe.org dan di sejumlah media. Tulisan terakhirnya yang saya baca di situs Bloomberg menilai Donald Trump sebagai “manusia algoritma”, politisi pemuja data. Bukunya yang terkenal adalah Weapons of Math Destruction (2016), dan sayangnya belum sempat saya baca.
O’Neil dalam doku-drama ini tampil dengan pernyataan mencerahkan. Dia mengatakan, algoritma tak selugu yang dibayangkan orang. Ada opini, dia bilang, yang ditanamkan pada setiap analisis data dalam skala besar (big data).
Sisi gelap media sosial telah banyak diungkap oleh berbagai pemberitaan media, termasuk apa yang disampaikan dalam doku-drama ini. Dengan mencuplik berbagai berita, The Social Dilemma menunjukkan bagaimana media sosial memicu problem, dari yang bersifat personal (seperti kecanduan, alienasi-diri, distraksi, dan depresi) hingga sosial-politik (penyebaran kabar bohong, polarisasi masyarakat, ekstremisme, manipulasi sikap pemilih).
Bagi saya, yang mengejutkan bukan penjelasan dampak-dampak tersebut. Tapi, pengakuan mereka bahwa semua ini terjadi bukan karena kebetulan tetapi bagian dari desain teknologi di balik aplikasi-aplikasi media sosial.
Para pentolan Silicon Valley tak hanya fasih bicara bahasa komputasi. Mereka juga mendalami psikologi manusia. Bahkan, salah satu bidang studi yang mereka tekuni disebut “teknologi persuasif”.
Setiap fitur pada aplikasi dirancang dengan pertimbangan mendalam tentang psikologi manusia. Tristan bahkan menganalogikannya dengan magic, yang diterjemahkan oleh Netflix Indonesia dengan sulap. Menurut saya, terjemahan yang lebih pas adalah sihir, apalagi di salah satu bagian, Orlowski memperdengarkan lagu “I Put a Spell on You”. Saya membayangkan gaya “Voodoo” Screamin’ Jay Hawkins ketika menyanyikan lagu klasik tersebut.
Tombol “like” pada Facebook yang diciptakan Rosenstein, misalnya, mengeksploitasi kecenderungan manusia yang senang mendapatkan perhatian—pujian dan penghargaan—dari orang lain. Makin pos, cuit, foto, atau gambar Anda mendapatkan “like” atau “love”, makin Anda haus akan semua itu.
Lalu, masalahnya di mana? Bukankah bagus menebar perhatian positif dan cinta?
Persoalannya, menurut Tristan, adalah ketika kecenderungan psikologis manusia itu dieksploitasi dalam skala besar, baik kapasitas maupun kecepatan, oleh mesin AI. Secara psikologis, manusia membutuhkan perhatian dan penghargaan, tetapi tak bakal mampu menanggung ribuan, puluh ribuan, ratus ribuan, hingga jutaan pujian dalam semenit, sejam, atau sehari.
Jika itu yang terjadi—dan memang itu yang terjadi—maka kotak pandora pun terbuka. Sisi gelap jiwa manusia tersingkap. Mereka yang populer di media sosial (biasa disebut influencer atau seleb) secara konstan—dan tidak sadar—dipaksa untuk menampilkan diri seperti yang orang lain suka karena mencandu perhatian artifisial berupa “retweet”, “like” dan “love” tadi. Mereka mulai kehilangan harga-diri dan identitas-diri. Mereka tak bisa menampilkan diri dan mengutarakan pikiran mereka apa adanya.
Di sisi berbeda, kesenjangan perhatian terjadi dalam skala ekstrem. Orang terpicu dengan keberhasilan para seleb di media sosial. Mereka mencoba melakukan hal serupa, tapi tak memperoleh respons yang diinginkan. Akibatnya, mereka mengalami depresi dan kehilangan kemampuan mengapresiasi diri sendiri (self-worth). Mirip dengan apa yang terjadi terhadap seleb media sosial, harga-dirinya dan kesuksesan ditentukan oleh orang lain atau oleh nilai-nilai di luar dirinya.
Orlowski memilih untuk menggambarkan sisi gelap personal melalui dramatisasi. Skyler Gisondo (Santa Clarita Diet) dan Kara Hayward (Moonrise Kingdom) antara lain berperan dalam dramatisasi ini.
Di salah satu bagian, Orlowski juga menampilkan data statistik. Data itu menunjukkan peningkatan angka depresi dan bunuh diri di kalangan anak usia pra-remaja dan remaja sejak media sosial mulai digandrungi.
Tapi, kaitan antara data tersebut dengan sisi gelap media sosial mestinya lebih jauh didalami. Karenanya, alangkah lebih baik jika Orlowski juga menampilkan kisah-kisah tragis yang bertebaran di dunia nyata.
Sebagai contoh, apa yang terjadi terhadap YouTuber dan penyanyi muda fenomenal Christina Grimmie. Peringkat ketiga ajang pencarian bakat The Voice ini memiliki akun YouTube berpengikut dua jutaan pada 2013. Tragis, Christina dibunuh oleh fannya sendiri pada 2016 saat tampil dalam acara temu penggemar.
Si fan, Kevin James Loibi—yang kemudian juga menembak dirinya sendiri—menghabiskan waktu sehari-harinya menonton kanal YouTube Christina, yang juga menampilkan keseharian sang idola. Menurut kesaksian temannya, saking seringnya menonton Christina di YouTube, Loibi sampai menganggap Christina adalah belahan jiwanya. Dia mulai membuat akun YouTube dan berupaya mendapatkan perhatian sang belahan jiwa, yang tentu saja tak semudah yang dia bayangkan.
Kisah lainnya datang dari Anna Sorokin, perempuan 28 tahun asal New York. Dia menciptakan identitas palsu online, Anna Delvey, pewaris kekayaan keluarga dari Jerman. Dia menipu hotel bintang lima, restoran mewah, dan perusahaan jet pribadi untuk bisa menikmati hidup glamor ala selebgram atau seleb-seleb media sosial lain.
Kedoknya kemudian terbongkar dan Anna divonis 12 tahun. Tapi, dia ngotot tak bersalah dan mengatakan akan mengulangi perbuatannya. Pengacaranya mengatakan, Anna adalah korban dari pamer kekayaan dan keglamoran di media sosial. Dia merasa itulah kebahagiaan sesungguhnya dalam hidup dan itulah yang mesti dicapai, apa pun caranya.
Kisah Christina dan Anna adalah gambaran nyata bahayanya berbagi tanpa batas di media sosial (oversharing). Tapi, model seperti itulah yang kini banyak disukai pengguna media sosial dan kemudian menjadi viral. Bagi mesin AI, justru itulah makanan empuk yang terus dieksploitasi demi monetisasi.
Model bisnis perusahaan-perusahaan teknologi, seperti dijelaskan dalam film ini, mendorong eksploitasi tersebut. Sebab, mereka tak lagi menjual perangkat keras atau lunak seperti di era awal Silicon Valley. Produk yang mereka jual saat ini adalah kita, penggunanya. Atau lebih tepatnya, perhatian kita. Dan, penawarnya adalah para pengiklan.
Aplikasi-aplikasi itu bukan sekadar perangkat yang menanti untuk digunakan. Mereka terus menuntut perhatian kita, setiap hari, jam, dan menit: scrolling, browsing, posting, tweeting, atau apa pun. Makin banyak waktu kita habis pada layar, makin banyak data yang bisa mereka tawarkan pada pengiklan.
Dalam film, Orlowski melukiskan mesin AI lewat tiga pria kembar (diperankan Vincent Kartheiser) yang terus mengawasi, melacak, mempelajari, dan memanipulasi pola perilaku salah seorang pengguna. Mesin ini bahkan digambarkan cemas kala si pengguna tak aktif untuk beberapa saat. Mesin-mesin itu kemudian berdiskusi untuk melancarkan strategi tepat guna mengembalikan perhatian dan meningkatkan keterlibatan, bisa dengan mengirim notifikasi atau rekomendasi video.
Model bisnis semacam itu sebenarnya bukan fenomena baru. Ketika televisi lahir, model yang sama dilakukan. Perusahaan penyiaran televisi juga menjual perhatian kita kepada pengiklan. Rating menjadi berhala.
Namun, persoalannya saat ini, permainan dilejitkan ke level yang tak terhingga. Jutaan, miliaran, dan triliunan data ditambang. Semua itu bukan semata dijual kepada pengiklan tapi juga dieksperimentasi secara konstan untuk mendapatkan prediksi lebih presisi tentang perilaku manusia dan bahkan dimanipulasi untuk memperoleh perilaku yang diinginkan.
Dalam bahasa provokatif dari film ini, kita tak lebih daripada sekadar kelinci percobaan di laboratorium komputer super milik perusahaan teknologi. Kita cuma node-node (simpul-simpul) komputer yang menyumbang data bagi kecerdasan AI.
Di sinilah, kita bisa memahami mengapa kabar bohong—yang kadang substansinya sangat pandir—bisa menjadi viral, sehingga memicu polarisasi di tengah masyarakat. Salah satu kelemahan psikologis manusia adalah kita cenderung hanya ingin melihat atau mendengar apa yang ingin kita lihat dan dengar. Kita lebih merasa nyaman berada di dalam gelembung persepsi yang sama dengan persepsi kita. Kita cenderung memilih informasi yang menjustifikasi diri dan pendapat kita. Kita cenderung resitan terhadap pandangan berbeda, atau informasi yang bisa melukai keyakinan kita.
Mesin AI tahu itu, dan kemudian menciptakan gelembung-gelembung persepsi itu agar kita nyaman dan terus menatap layar. Mereka yang cenderung menyukai teori konspirasi terus disuapi dengan informasi yang bernuansa serupa, dan sebaliknya. Akibatnya, terjadi polarisasi dalam tingkat ekstrem.
Di titik ini, Tristan dan Lanier mengatakan desain teknologi seperti itu mengancam eksistensi kemanusia. Satu generasi manusia kini hidup dalam lingkungan yang dimanipulasi. Manusia mulai kehilangan kemampuan untuk menemukan kesepahaman dalam menyelesaikan perbedaan. Kita teralihkan dari problem-problem riil. Nilai-nilai rasionalitas dan moralitas sudah mulai pudar. Standar-standar dalam kehidupan makin tak realistis dan manipulatif.
Sementara itu, di titik ini, saya teringat naskah drama yang ditulis filsuf eksistensialis Jean-Paul Sartre. Judulnya No Exit (1944), yang juga diterjemahkan dengan judul lain seperti No Way Out, Vicious Circle, dan Dead End.
Alkisah, tiga pendosa mati dan menanti siksa di neraka. Mereka Garcin, Inez, dan Estelle. Sebelum masuk neraka, ketiganya dikurung di sebuh kamar kosong.
Singkat cerita, terjadillah interaksi problematik di antaranya ketiganya. Estelle merayu Garcin karena menyukai pria itu. Inez, karena seorang lesbian, berupaya mendekati Estelle. Garcin tak menyukai kedua perempuan itu dan hanya ingin mendapatkan pengakuan bahwa dia bukan pengecut semasa hidupnya. Estelle bisa memberi pengakuan itu, tapi Garcin meragukan ketulusannya. Sementara, Inez yang lebih bisa berterus terang malah mengatakan bahwa Garcin pengecut.
Ketiga karakter dalam drama itu tak memperoleh perhatian dan pengakuan yang diinginkan dari satu sama lain. Karena itulah, Garcin kemudian mengatakan, “Hell is other people.” Maksudnya, tak perlu neraka untuk menyiksa mereka. Pandangan masing-masing sudah menghadirkan penderitaan bagi mereka.
Hell is other people dalam pemikiran eksistensialisme Sartre adalah apa yang dia sebut “bad faith”. Kita menderita karena terpenjara dalam persepsi orang lain tentang kita.
Media sosial tampaknya menghadirkan “bad faith” dan ‘neraka’ itu langsung di hadapan mata kita. Melalui perangkat yang kita bawa hingga ke ruang-ruang privat kita: kamar tidur atau toilet, kita cemas dengan respons ‘orang lain’ pada layar. Kita cemas karena harus menyesuaikan diri dengan apa yang mereka sukai. Kita tetap cemas kala tak mendapatkan perhatian yang diharapkan. Kita kecewa dan terusik karena pandangan orang lain berbeda dengan kita.
Lalu apa solusi bagi semua itu? Apakah mesin AI bisa didesain untuk menyelesaikan problem itu, seperti dikatakan Mark Zuckerberg kala menghadapi sesi pemeriksaan Kongres Amerika Serikat? Bohong, kata O’Neil. AI tak bisa melakukan itu. AI tak bisa membedakan mana asli dan mana palsu. AI tak bisa merumuskan kebenaran.
Para narasumber film ini kemudian mengusulkan setidaknya dua langkah. Pertama, meregulasi industri teknologi informasi, terutama melalui kebijakan disinsentif fiskal. Sebagaimana industri pertambangan, para penambang data ini juga harus dipajaki agar tak menambang data seenaknya. Kedua, mereka menyarankan tip-tip self-regulating, seperti mengurangi pemakaian ponsel secara paksa; tidak memberikan ponsel kepada anak hingga usia 16 tahun; mengabaikan rekomendasi dan mematikan notifikasi dari aplikasi-aplikasi tersebut; memilih sendiri informasi apa yang akan kita cerna; mengecek kebenaran setiap informasi; dan membuka diri kepada akun-akun yang tak sepandangan dengan kita.
Sementara itu, Sartre sendiri mengusulkan jalan keluar dari labirin eksistensial tersebut: ‘pemberontakan’. Dia menyarankan agar kita menjadi subjek (being-for-itself) dan menolak untuk menjadi objek (being-in-itself) pandangan orang lain.
Bagi Sartre, manusia harus memahami bahwa penilaian orang lain terhadap dirinya bukan sesuatu yang ahistoris atau metafisik, sehingga tak bisa ditolak dan dilawan. Sartre berpandangan tak ada otoritas yang tak bisa ditentang sebab menurutnya semua otoritas adalah rancangan manusia sendiri.[]
