Alat kecerdasan buatan (AI) dapat digunakan untuk memanipulasi audiens online dalam mengambil keputusan – mulai dari apa yang akan dibeli hingga siapa yang akan dipilih – menurut para peneliti di Universitas Cambridge.
Makalah ini menyoroti munculnya pasar baru untuk “sinyal niat digital” – yang dikenal sebagai “ekonomi niat” – di mana asisten AI memahami, memperkirakan, dan memanipulasi niat manusia dan menjual informasi tersebut kepada perusahaan yang dapat memperoleh keuntungan darinya.
Ekonomi niat disebut-sebut oleh para peneliti di Pusat Leverhulme untuk Masa Depan Intelijen (LCFI) di Cambridge sebagai penerus ekonomi perhatian, di mana jaringan sosial membuat pengguna tetap terhubung dengan platform mereka dan menayangkan iklan kepada mereka.
Ekonomi niat melibatkan perusahaan teknologi yang paham AI yang menjual apa yang mereka ketahui tentang motivasi Anda, mulai dari rencana menginap di hotel hingga opini tentang kandidat politik, hingga penawar tertinggi.
“Selama beberapa dekade, perhatian telah menjadi mata uang internet,” kata Dr Jonnie Penn, sejarawan teknologi di LCFI. “Berbagi perhatian Anda dengan platform media sosial seperti Facebook dan Instagram mendorong ekonomi online.”
Dia menambahkan: “Kecuali diatur, ekonomi niat akan menganggap motivasi Anda sebagai mata uang baru. Ini akan menjadi demam emas bagi mereka yang menargetkan, mengarahkan dan menjual niat manusia.
“Kita harus mulai mempertimbangkan kemungkinan dampak pasar seperti itu terhadap aspirasi manusia, termasuk pemilu yang bebas dan adil, kebebasan pers, dan persaingan pasar yang adil, sebelum kita menjadi korban dari konsekuensi yang tidak diinginkan.”
Studi tersebut mengklaim bahwa model bahasa besar (LLM), teknologi yang mendasari alat AI seperti chatbot ChatGPT, akan digunakan untuk “mengantisipasi dan mengarahkan” pengguna berdasarkan “data yang disengaja, perilaku, dan psikologis”.
Para penulis mengatakan ekonomi perhatian memungkinkan pengiklan untuk membeli akses terhadap perhatian pengguna saat ini melalui penawaran real-time di bursa iklan atau membelinya di masa depan dengan memperoleh ruang iklan senilai satu bulan di papan iklan.
LLM juga dapat mengakses perhatian secara real-time, misalnya dengan menanyakan apakah pengguna pernah berpikir untuk menonton film tertentu – “apakah Anda pernah berpikir untuk menonton Spider-Man malam ini?” – serta memberikan saran terkait niat di masa depan, seperti bertanya: “Anda menyebutkan merasa terlalu banyak bekerja, bolehkah saya memesankan tiket bioskop yang telah kita bicarakan?”
Studi ini memunculkan skenario di mana contoh-contoh ini “dihasilkan secara dinamis” untuk mencocokkan faktor-faktor seperti “jejak perilaku pribadi” dan “profil psikologis” pengguna.
“Dalam ekonomi niat, LLM dapat, dengan biaya rendah, memanfaatkan irama pengguna, politik, kosa kata, usia, jenis kelamin, preferensi untuk menjilat, dan sebagainya, bersamaan dengan tawaran yang diperantarai, untuk memaksimalkan kemungkinan mencapai tujuan tertentu. (misalnya untuk menjual tiket film),” saran studi tersebut. Di dunia seperti ini, model AI akan mengarahkan percakapan untuk melayani pengiklan, bisnis, dan pihak ketiga lainnya.
Pengiklan akan dapat menggunakan alat AI generatif untuk membuat iklan online sesuai pesanan, klaim laporan tersebut. Laporan ini juga mengutip contoh model AI yang dibuat oleh Meta milik Mark Zuckerberg, yang disebut Cicero, yang telah mencapai kemampuan “tingkat manusia” untuk memainkan permainan papan Diplomasi – sebuah permainan yang menurut penulis bergantung pada menyimpulkan dan memprediksi maksud dari tindakan tersebut. lawan.
Model AI akan dapat mengubah keluarannya sebagai respons terhadap “aliran data masuk yang dihasilkan pengguna”, tambah studi tersebut, mengutip penelitian yang menunjukkan bahwa model dapat menyimpulkan informasi pribadi melalui pertukaran sehari-hari dan bahkan “mengarahkan” percakapan untuk mendapatkan informasi yang lebih pribadi. informasi.
Studi tersebut kemudian memunculkan skenario masa depan di mana Meta akan melelang niat pengguna untuk memesan restoran, penerbangan, atau hotel kepada pengiklan. Meskipun sudah ada industri yang khusus melakukan peramalan dan menawar perilaku manusia, laporan tersebut mengatakan, model AI akan menyaring praktik-praktik tersebut ke dalam “format yang sangat terukur, dinamis, dan personal”.
Studi tersebut mengutip tim peneliti di balik peringatan Cicero bahwa “[AI] agen mungkin belajar mendorong lawan bicaranya untuk mencapai tujuan tertentu”.
Penelitian tersebut mengacu pada para eksekutif teknologi yang mendiskusikan bagaimana model AI akan dapat memprediksi niat dan tindakan pengguna. Ini mengutip kepala eksekutif pembuat chip AI terbesar, Jensen Huang dari Nvidia, yang mengatakan tahun lalu bahwa model akan “mencari tahu apa niat Anda, apa keinginan Anda, apa yang Anda coba lakukan, mengingat konteksnya, dan menyajikannya. informasi kepada Anda dengan cara terbaik”.
