Mencoba menggunakan AI dalam pendeteksi kebohongan hanya memperburuk masalah pengakuan penipuan

Sebuah studi rinci tentang upaya untuk menggunakan kecerdasan buatan dalam pengakuan kebohongan

Sebelum poligraf mengeluarkan putusan "bersalah," Emmanuel Mervilus bekerja untuk sebuah perusahaan minyak sayur di pelabuhan Newark, New Jersey. Dia mendapatkan $ 12 / jam dengan membawa kotak, tetapi ini tidak cukup untuk mencari nafkah. Kakak laki-laki dan perempuannya terlalu muda untuk bekerja, dan ibunya berjuang keras melawan kanker. Namun, bos di pelabuhan mengatakan bahwa ia berada di baris berikutnya untuk meningkatkan ke posisi teknis di mana ia dijanjikan untuk membayar $ 25 / jam.

Mervilus masih menunggu kenaikan pangkatnya ketika pada 19 Oktober 2006, ia dan seorang temannya berhenti untuk makan di Dunkin 'Donuts, yang terletak di kota Elizabeth, New Jersey di dekatnya. Beberapa menit kemudian, ketika mereka berjalan di sepanjang jalan, dua polisi mendekati mereka dan menuduh mereka telah merampok seorang pria yang telah diancam dengan pisau beberapa menit yang lalu di dekat stasiun kereta api.

Seorang korban dari jauh mengidentifikasi Mervilus dan temannya. Dalam upaya putus asa untuk membuktikan bahwa dia tidak bersalah, Mervilus menyarankan untuk melakukan tes poligraf. Polisi setuju, tetapi tidak lama sebelum tes ini, ibu Mervilus meninggal. Ketika polisi menghubungkannya dengan aparat, dia bingung dan cemas. Dia gagal tes ini, meminta kesempatan untuk lulus lagi dan ditolak.

Setelah permohonan Mervilus tidak bersalah, kasus tersebut diajukan ke pengadilan. Letnan tes mengatakan di pengadilan bahwa alat itu merupakan "indikator kebenaran" yang andal. Dia mengatakan bahwa dia tidak pernah melihat dalam karirnya bahwa "seseorang menunjukkan tanda-tanda penipuan, dan kemudian ternyata dia mengatakan yang sebenarnya." Juri mendapati Mervilus bersalah - yang, ternyata di pengadilan banding, terjadi karena terlalu percaya pada poligraf. Hakim menghadiahinya 11 tahun penjara.

Keyakinan bahwa penipuan dapat dikenali dengan menganalisis karakteristik tubuh manusia berakar dalam pada kehidupan modern. Meskipun banyak penelitian mempertanyakan keandalan poligraf, lebih dari 2,5 juta cek dilakukan di Amerika Serikat setiap tahun, dan industri poligraf diperkirakan mencapai $ 2 miliar. Lembaga pemerintah federal AS, termasuk Departemen Kehakiman, Departemen Pertahanan dan CIA, menggunakan perangkat ini untuk penilaian kandidat untuk bekerja. Laporan Departemen Kehakiman 2007 menunjukkan bahwa lebih dari tiga perempat kantor polisi dan kantor sheriff menggunakan detektor kebohongan untuk merekrut staf.

Namun, perangkat ini masih terlalu lambat dan canggung untuk digunakan di perbatasan, di bandara atau dalam kelompok besar orang. Akibatnya, generasi baru pendeteksi kebohongan berbasis AI telah muncul selama dekade terakhir. Pendukung mereka mengklaim bahwa mereka bekerja lebih cepat dan lebih akurat daripada poligraf.

Bahkan, pembenaran psikologis untuk sistem AI baru ini bahkan lebih berbahaya daripada studi yang mendasari poligraf. Bukti bahwa hasil yang mereka hasilkan dapat dipercaya masih langka. Namun, gloss eksternal mereka, yang diberikan oleh penggunaan AI, mengarah pada munculnya sistem ini di tempat-tempat di mana poligraf tidak dapat menembus lebih awal: ke perbatasan, ke wawancara, ke prosedur untuk menilai kelaikan kredit dan menyelidiki penipuan asuransi. Perusahaan dan pemerintah mulai mengandalkan mereka ketika membuat keputusan tentang keandalan pelanggan, karyawan, warga negara, imigran, dan wisatawan internasional. Tetapi bagaimana jika sebuah kebohongan adalah bagian yang terlalu rumit untuk dapat dideteksi dengan andal oleh mesin apa pun, tidak peduli seberapa canggih algoritmanya?

* * *

Inkuisitor di Tiongkok kuno menaruh beras di mulut tersangka mereka untuk melihat apakah air liur dilepaskan dari mereka. " Tindakan Romawi ", sebuah antologi cerita moralistik abad pertengahan, menceritakan kisah seorang prajurit yang memerintahkan juru tulisnya untuk mengukur denyut nadi istrinya, untuk menentukan apakah itu setia kepadanya.



Setelah Amerika Serikat terlibat dalam Perang Dunia I, William Marston, seorang peneliti Harvard, adalah orang pertama yang menggunakan mesin pengukur tekanan darah dalam upaya untuk mendeteksi penipuan. Beberapa tahun kemudian, terinspirasi oleh karya Marston, John Augustus Larson, seorang polisi yang baru-baru ini menerima gelar doktor di bidang fisiologi dari University of California di Berkeley, mengembangkan sebuah mesin yang disebut "psikolog cardio-pneumo," yang menyediakan data terus-menerus tentang tekanan darah, denyut nadi, dan kecepatan subjek. pernafasan. Larson berpendapat bahwa kesaksian ini jauh lebih baik mengkhianati penipuan daripada hanya satu tekanan.

Awalnya, Larson menggunakan mobil untuk menyelidiki pencurian di sebuah asrama wanita di Berkeley, dan selama satu tahun ia digunakan di San Francisco untuk menghukum seorang pria yang dituduh membunuh seorang pendeta. Pada 1930-an, salah satu anak didik Larson sudah menjual versi portabel perangkat ke departemen kepolisian di seluruh negeri, menambahkan sensor reaksi kulit galvanik - semakin banyak subjek berkeringat, semakin baik kulit melakukan arus. Pada tahun 1970-an, jutaan pekerja sektor swasta secara teratur diuji dengan poligraf seperti yang diarahkan oleh majikan mereka.

Kebanyakan poligraf modern menggunakan skema dasar yang sama seperti yang disarankan Larson: penyelidik mengajukan beberapa pertanyaan untuk mengukur keadaan fisiologis normal subjek, mengamati bagaimana mesin menerjemahkan pengukuran ini menjadi garis seperti gelombang di atas kertas atau layar. Penyelidik kemudian mencari lonjakan atau penurunan yang tiba-tiba di level-level ini ketika subjek menjawab pertanyaan terkait dengan kejahatan atau perasaan.

Namun, ahli fisiologi dan ahli saraf telah mengkritik poligraf hampir sejak saat Larson menemukan penemuannya kepada publik. Jika beberapa pembohong mungkin mengalami perubahan dalam denyut jantung atau tekanan darah, ada sangat sedikit bukti bahwa perubahan tersebut secara konsisten berkorelasi dengan penipuan. Banyak orang yang tidak bersalah mulai merasa gugup selama interogasi, dan pembohong yang berpengalaman dapat menekan atau menyebabkan perubahan pada tubuh mereka yang memungkinkan mereka untuk menipu tes. Poligraf juga bisa dibodohi dengan menggigit lidahnya , menginjak anyelir, atau memikirkan ketakutan yang paling mengerikan.. Selalu ada risiko bahwa perangkat akan menerima kesaksian yang bertentangan bahkan di bawah kondisi yang terkendali dari percobaan laboratorium, dan dalam kehidupan nyata mereka bahkan kurang dapat diandalkan: karena penjahat yang berselingkuh dalam ujian hampir tidak pernah mengakui kesalahan mereka kepada polisi, dan tersangka yang tidak bersalah sering memberikan kesaksian palsu, gagal tes, tidak mungkin untuk mengatakan seberapa baik kinerja mesin ini.


Penemu Amerika Leonard Keeler (1903-1949), anak didik penemu poligraf John Larson, menguji Bruno Hauptmann, yang ditangkap, didakwa dan dieksekusi karena menculik Charles August Lindberg Jr. Hauptman sampai akhir hayatnya menyatakan tidak bersalah.

Karena keterbatasan ini, tes poligraf tidak diterima di sebagian besar pengadilan Amerika untuk waktu yang lama, kecuali kedua belah pihak sepakat untuk melampirkannya pada kasus ini. Undang-undang federal telah melarang perusahaan swasta menguji poligraf karyawan sejak 1988 (dengan pengecualian pekerjaan sensitif seperti penjaga bersenjata atau distributor obat, serta kecurigaan pencurian atau penipuan). American Psychological Association memperingatkan bahwa "sebagian besar psikolog cenderung percaya bahwa ada terlalu sedikit bukti kemampuan poligraf untuk menunjukkan kebohongan." Dalam sebuah laporan tahun 2003 dari National Academy of Sciences, setelah sebuah studi pemerintah tentang masalah ini, sebuah kesimpulan dibuat yang segera menjadi dikenal luas: sebuah mesin mengidentifikasi pembohong "lebih sering daripada kebetulan, tetapi jauh lebih buruk daripada sempurna."Penulis utama laporan pada saat itu mengatakan bahwa "keamanan nasional adalah hal yang terlalu penting untuk diberikan kepada instrumen kasar seperti itu."

Tapi mungkin alat ini bisa dibuat kurang kasar. Janji serupa dibuat oleh semakin banyak perusahaan yang dengan antusias mencoba menjual teknologi pengenal kebohongan kepada pemerintah dan organisasi komersial. Mereka berpendapat bahwa, mungkin, pola-pola perilaku tertentu yang kompleks dapat mengatakan bahwa seseorang berbohong, jauh lebih dapat diandalkan daripada sekadar denyut nadi atau tekanan darah. Dan mungkin algoritma yang canggih dapat mengenali pola-pola ini.

Dari tahun 1969 hingga 1981, pembunuh berantai, dijuluki Yorkshire Ripper, memburu gadis-gadis di Inggris utara, membunuh setidaknya 13 di antaranya, dan mencoba membunuh setidaknya tujuh lagi. Polisi menginterogasi dan membebaskannya sembilan kali sementara dia melanjutkan perjalanannya yang berdarah. Korban terakhirnya adalah Jacqueline Hill, seorang mahasiswa berusia 20 tahun di Universitas Leeds, yang terbunuh pada November 1980. Beberapa bulan kemudian, polisi akhirnya menangkapnya bersiap untuk membunuh seorang pelacur di Sheffield.

Ketika Janet Rothwell tiba di Universitas Leeds pada musim gugur 1980, ia tinggal di asrama di kamar sebelah kamar tempat Hill tinggal. Membunuh Hill membuatnya takut.

"Dia naik bus di perpustakaan universitas pada waktu yang sama dengan saya," kata Rothwell, "dan terbunuh setelah dia turun dari bus." Rothwell kemudian mengetahui berapa lama untuk menangkap si pembunuh. "Saya pikir," kenangnya, "dapatkah komputer menemukan perbedaan perilaku untuk memberi tahu polisi?"

Akibatnya, Rothwell pergi ke sekolah pascasarjana di University of Manchester Metropolitan (UMM) pada akhir 90-an. Di sana dia bertemu Zuhair Bandar, seorang dosen Inggris keturunan Irak yang bekerja di Departemen Ilmu Komputer. Sesaat sebelum ini, Bandar punya ide - setelah satu perusahaan periklanan memintanya untuk membuat perangkat yang belum sempurna untuk mengukur minat pelanggan pada produk yang mereka lihat di layar.


Sebuah foto yang diambil oleh FBI seorang wanita yang menjalani tes poligraf

"Mereka ingin membagikan perangkat portabel kepada konsumen," kata Bandar, "sehingga ketika konsumen menyukai sesuatu, ia akan menekan 1, dan jika tidak, ke 2. Saya pikir - mengapa haruskah perangkat seperti itu dibuat jika mereka sudah memiliki ekspresi di wajah mereka? " Bandar menyarankan agar Rothwell tetap di UMM setelah menerima diploma untuk bekerja pada doktornya, membantunya mengembangkan perangkat lunak yang mampu menganalisis wajah untuk mendapatkan informasi. Mereka memutuskan bahwa curang tidak lebih sulit dikenali daripada sukacita atau kemarahan. Setiap emosi ini harus menciptakan semacam "inkonsistensi" - pola perilaku, verbal atau non-verbal, yang dapat dikenali oleh komputer.

Rothwell melatih jaringan saraf pada awal 2000-an untuk melacak aktivitas seperti berkedip atau memerah, dan kemudian memasukkan puluhan video ke komputer, di mana orang menjawab serangkaian pertanyaan yang sama secara jujur ​​dan tidak jujur. Untuk menentukan ciri-ciri umum pembohong, komputer mempelajari perincian pergerakan orang, hubungan mereka, dan hubungan antara hubungan-hubungan ini, memberikan semacam "teori" yang akan terlalu sulit untuk diungkapkan dalam bahasa normal. Setelah mempelajari dengan cara ini, sistem dapat menggunakan pengetahuan yang diperoleh untuk mengklasifikasikan subjek baru dalam kategori "benar" dan "penipu" dengan menganalisis perubahan frame-by-frame dalam ekspresi wajah mereka.

Sebuah studi tahun 2006 meneliti kelayakan sistem ini, yang disebut " Silent Speaker.""(Pembicara Bisu), untuk mengenali kebohongan dalam jawaban subjek tes. Dia tidak mampu mencapai akurasi lebih dari 80% - baik pada saat itu Rothwell bekerja dengannya, atau kemudian, ketika tim peneliti mencoba meningkatkannya. Juga, Rothwell mengatakan kepada saya bahwa sistem secara umum Berhenti bekerja secara normal jika subjek mengenakan kacamata, mencatat bahwa "kondisi pencahayaannya sama, dan semua interogasi terkait dengan pencurian bertahap." Tetapi Rothwell ingat bahwa bahkan pada tahap awal proyek, Bandar "sangat bersemangat dengan gagasan untuk merilis produk komersial"; Suatu hari, dia dan seorang kolega lainnya memberinya sebuah video yang memperlihatkan seorang wanita yang dicurigai selingkuh dari suaminya dan memintanya untuk mengarahkan video melalui Silent Talker untuk dianalisis - seperti dalam buku “Kisah Para Rasul”.

Rothwell ragu tentang ini. "Jelas bagi saya bahwa jika perangkat lunak seperti itu bekerja, pada prinsipnya dapat digunakan untuk merugikan," katanya. "Saya tidak berpikir bahwa sistem apa pun akan dapat mendekati akurasi 100%, dan jika sistem itu salah, itu dapat menyebabkan konsekuensi bencana bagi hubungan dan situasi kehidupan." Pada tahun 2006, ia meninggalkan universitas, belajar di audiolog, mendapatkan pekerjaan di sebuah rumah sakit di pulau Jersey, tempat ia tinggal hingga hari ini.

Pada tahun 2003, UMM menerbitkan siaran pers yang mempromosikan teknologi sebagai penemuan baru yang akan menggantikan poligraf. "Saya terkejut," kata Rothwell, "bagi saya terlalu dini untuk membicarakannya."

Pemerintah AS telah berulang kali mencoba menangani teknologi pengenalan kebohongan dalam beberapa tahun pertama setelah 9/11; Departemen Keamanan Dalam Negeri AS (DHS), Departemen Pertahanan AS (DoD), dan National Science Foundation AS menghabiskan jutaan dolar untuk setiap studi. Lembaga-lembaga ini mendanai pembuatan mesin AVATAR di Universitas Arizona. AVATAR, yang menganalisis ekspresi wajah, bahasa tubuh, dan suara orang-orang, menugaskan mereka "titik kepercayaan," diuji di bandara. Di Israel, DHS membantu memulai uang WeCU [“we see you”, atau “we see you” / approx. terjemahan.], yang menjual mesin untuk menilai orang, mampu, menurut artikel 2010 di majalah Fast Company, "menyebabkan reaksi fisiologis pada orang yang menyembunyikan sesuatu." Saat ini, perusahaan ini sudah bangkrut.

Bandar mulai mencoba membawa teknologi ke pasar. Dengan dua muridnya, Jim O'Shea dan Keely Crocket, ia mengubah Silent Talker-nya menjadi sebuah perusahaan dan mulai mencari klien untuk teknologi profil psikologisnya, baik di kantor polisi maupun perusahaan swasta. Silent Talker adalah salah satu pendeteksi kebohongan berbasis AI pertama yang memasuki pasar. Menurut perusahaan itu, tahun lalu teknologi "yang dibuat atas dasar Silent Talker" digunakan sebagai bagian dari inisiatif iBorderCtrl, yang didanai oleh Uni Eropa, di mana sistem ini diuji pada sukarelawan di perbatasan Yunani, Hongaria dan Latvia. Bandar mengatakan bahwa perusahaan saat ini sedang merundingkan penjualan teknologi kepada firma hukum, bank, perusahaan asuransi, tentang kemungkinan menggunakan tes ini selama wawancara dan memeriksa penipuan.

Bandar dan O'Shea selama bertahun-tahun telah mengadaptasi algoritma dasar untuk digunakan dalam berbagai versi. Mereka mencoba mengiklankannya ke kantor polisi Manchester dan Liverpool. "Kami berkomunikasi secara informal dengan orang-orang dari posisi yang sangat tinggi," kata perusahaan itu kepada majalah The Engineer Inggris pada tahun 2003, mencatat bahwa mereka mencoba untuk "menguji teknologi dalam wawancara nyata." Dari sebuah laporan yang diterbitkan oleh O'Shea di situs webnya pada tahun 2013, dapat disimpulkan bahwa Silent Talker "dapat digunakan untuk melindungi tentara kita dalam operasi asing dari serangan orang dalam" (artinya serangan yang dilakukan oleh tentara Afghanistan dengan seragam terhadap mantan sekutu).

Tim juga menerbitkan hasil eksperimen yang menunjukkan bagaimana Silent Talker dapat digunakan untuk mengenali tidak hanya motif tersembunyi, tetapi juga pemahaman tentang sesuatu. Dalam sebuah studi 2012, yang pertama kali menunjukkan bagaimana Silent Talker bekerja "di lapangan," tim, bersama dengan lembaga medis non-pemerintah Tanzania, mencatat ekspresi wajah dari 80 wanita yang menerima pelatihan online tentang pengobatan AIDS dan penggunaan kondom. Idenya adalah untuk menentukan apakah pasien memahami bagaimana mereka akan diperlakukan - seperti yang ditulis dalam catatan penelitian, "mengevaluasi pemahaman peserta sambil memberikan informasi kepada mereka masih merupakan bidang yang menjadi perhatian". Ketika tim membuat perbandingan silang dari nilai AI dari seberapa banyak wanita memahami materi dengan poin yang mereka dapatkan untuk ujian singkat, mereka menemukanAI diprediksi dengan akurasi 80% yang mana dari subjek akan lulus ujian dan yang akan gagal.

Silent Talker dimasukkan dalam inisiatif iBorderCtrl berkat eksperimen Tanzania. Pada 2015, Athos Antoniades, salah satu penyelenggara konsorsium yang baru lahir, mengirim email kepada O'Shea untuk menanyakan apakah tim Silent Talker ingin bergabung dengan grup perusahaan dan pasukan kepolisian yang mengirimkan aplikasi untuk hibah Uni Eropa. Peningkatan lalu lintas di jalan yang terus-menerus membebani penjaga perbatasan Uni Eropa, sebagai akibatnya serikat pekerja menawarkan € 4,5 juta kepada organisasi mana pun yang mampu "mengorganisir penyeberangan perbatasan yang lebih efisien dan aman, berkontribusi pada pencegahan kejahatan dan terorisme." Antoniades berpikir Silent Talker dapat memainkan peran kunci dalam hal ini.

Ketika proyek mengumumkan pengujian publik pada Oktober 2018, Komisi Eropa segera mulai secara aktif mempromosikan "kisah sukses" dari "pendekatan unik" sistem untuk mendeteksi penipuan, menjelaskan bahwa ia "menganalisis gerakan mikro pelancong untuk memberi tahu siapa yang diwawancarai yang mengatakan kebohongan". . Algoritma yang dilatih di Manchester adalah untuk "memastikan penyeberangan perbatasan yang lebih efisien dan lebih aman" dan "berkontribusi pada pencegahan kejahatan dan terorisme".

O'Shea mengatakan kepada saya bahwa algoritma utama dari program ini dapat digunakan dalam banyak kondisi lain - dalam periklanan, sebelum membayar asuransi, saat merekrut, dalam mengevaluasi karyawan. Sulit bagi saya untuk berbagi keyakinannya yang tulus pada kebijaksanaan algoritma ini, tetapi ketika kami berbicara di telepon dengannya, Silent Talker sudah digunakan untuk pemeriksaan sukarela dari mereka yang ingin memasuki Uni Eropa; Perusahaan meluncurkan proyek ini sebagai perusahaan komersial pada Januari 2019. Jadi saya memutuskan untuk pergi ke Manchester untuk melihat semuanya sendiri.

* * *

Kantor Silent Talker terletak sekitar satu setengah kilometer dari UMM, di mana O'Shea saat ini adalah dosen senior. Dia mengambil tanggung jawab harian pengembangan teknologi. Perusahaan ini berlokasi di pusat perkantoran kecil yang terletak di area perumahan, di sebelah restoran kebab dan di seberang lapangan sepakbola. Di pusat perkantoran, kantor Silent Talker terdiri dari satu ruangan dengan beberapa komputer, meja dengan koper dan menjelaskan poster dari tahun 2000-an yang menjelaskan cara kerja teknologi ini.

Ketika saya pergi ke mereka pada bulan September, saya berbicara dengan O'Shea dan Bandar di ruang rapat. O'Shea tampak keras, tetapi sedikit kusut, botak, dengan pengecualian beberapa jumbai rambut dan janggut bergaya Van Dyck. Dia memulai percakapan dengan menuntut agar kita tidak menyentuh proyek iBorderCtrl, dan kemudian menyebut pengritiknya salah informasi. Dia menggambarkan kemampuan platform AI dari sistem verbose dan hiasan, kadang-kadang mengutip pelopor ilmu komputer Alan Turing atau filsuf bahasa John Searle.

"Baik mobil dan orang memiliki spekulasi mereka sendiri - keyakinan, keinginan dan aspirasi yang terkait dengan benda dan keadaan di dunia," katanya, membela ketergantungan sistem pada algoritma. "Oleh karena itu, pengembangan aplikasi yang kompleks membutuhkan pertimbangan ide dan niat kedua belah pihak."

O'Shea mendemonstrasikan sistem, memungkinkannya untuk menganalisis video dengan seseorang menjawab pertanyaan tentang apakah dia mencuri $ 50 dari kotak. Program itu mengenakan persegi panjang kuning pada wajah orang itu dan dua persegi panjang yang lebih kecil di matanya. Ketika dia berbicara, penunjuk di sudut layar bergerak dari hijau ke merah ketika jawabannya salah, dan kemudian kembali ke posisi oranye tengah ketika dia terdiam. Pada akhir wawancara, program mengeluarkan grafik yang menunjukkan distribusi probabilitas penipuan dari waktu ke waktu. Secara teoritis, grafik menunjukkan di mana ia memulai dan akhirnya berbohong.

O'Shea mengatakan bahwa sistem mereka dapat berjalan pada laptop biasa, dan pengguna membayar $ 10 per menit untuk video yang dianalisis. O'Shea mengatakan kepada saya bahwa perangkat lunak pra-proses video secara lokal, mengirimkan data terenkripsi ke server, di mana ia dianalisis lebih lanjut, dan kemudian mengirimkan hasilnya kembali: pengguna melihat grafik kemungkinan penipuan yang ditumpangkan pada video.

Menurut O'Shea, sistem memonitor sekitar 40 "saluran" fisik pada tubuh subjek - mulai dari kecepatan berkedip hingga sudut kepala. Setiap orang baru dibandingkan dengan "teori" penipuan, yang dikembangkan atas dasar melihat data pelatihan, yang mencakup catatan pembohong dan orang-orang yang mengatakan kebenaran. Dengan mengukur ekspresi wajah dan perubahan postur tubuh beberapa kali per detik, sistem mencari pola dalam gerakan ini yang bertepatan dengan yang umum untuk semua pembohong dari data pelatihan. Ini bukan pola yang sederhana seperti melihat langit-langit atau menundukkan kepala ke kiri. Ini lebih seperti pola-pola hukum, hubungan multifaset antara berbagai gerakan yang terlalu rumit untuk dilacak oleh seseorang adalah tugas khas untuk pembelajaran mesin.

Tugas AI adalah untuk menentukan pola gerakan apa yang dapat dikaitkan dengan penipuan. "Psikolog sering berbicara tentang perlunya model bagaimana sistem bekerja," kata O'Shea kepada saya. "Tapi kami tidak memiliki model yang berfungsi, dan kami tidak membutuhkannya." Kami memberi AI kesempatan untuk menyelesaikan masalah. " Namun, ia juga mengatakan bahwa bukti ilmiah tentang psikologi tipuan menegaskan arti dari "saluran" di wajah. Dalam makalah 2018, menggambarkan Silent Talker, penciptanya mengatakan bahwa perangkat lunak mereka "mengasumsikan bahwa keadaan kesadaran tertentu yang terkait dengan perilaku si penipu akan, selama penipuan, mengendalikan perilaku non-verbal orang yang diwawancarai." Contoh perilaku tersebut termasuk "muatan kognitif", energi mental tambahan yang seharusnya dihabiskan untuk kebohongan, dan "kegembiraan penipuan", kesenangan yang diduga diterima seseorang,berhasil berbohong.


Paul Ekman, yang teorinya tentang “ekspresi mikro” sangat kontroversial, telah memberi nasihat kepada banyak lembaga pemerintah AS.

Namun, Ewaut Meyer, seorang profesor psikologi di Universitas Maastricht di Belanda, mengatakan bahwa dasar teoretis untuk pernyataan tentang universalitas pola perilaku semacam itu bisa disebut paling berbahaya. Gagasan bahwa seseorang dapat mendeteksi tanda-tanda perilaku yang khas berasal dari karya Paul Ekman, seorang psikolog Amerika yang pada 1980-an mengembangkan teori terkenal "microexpressions," gerakan yang tidak disengaja dari otot-otot wajah yang terlalu kecil untuk dikendalikan. Berkat penelitian, Ekman menjadi penulis terlaris dan prototipe acara televisi bodoh, "Lie to Me." Dia telah memberi nasihat kepada banyak lembaga pemerintah AS, termasuk DHS dan DARPA. Dengan dalih keamanan nasional, ia merahasiakan data penelitian. Karena itu, ada perdebatan konstan tentang apakah ekspresi mikro ini memiliki makna sama sekali.

Silent Talker AI melacak berbagai gerakan otot wajah, bukan hanya ekspresi mikro Ekman. “Kami membongkar petunjuk tingkat tinggi ini, menyusun perangkat gerakan mikroskopis kami, dan melatih AI untuk menggabungkannya kembali ke dalam pola karakteristik yang bermakna,” seorang perwakilan perusahaan menulis kepada kami. O'Shea mengatakan ini memungkinkan sistem untuk mendeteksi perilaku yang berhubungan dengan tipu daya bahkan ketika subjek hanya melihat-lihat atau mengubah posisi saat duduk di kursi.

“Banyak tergantung pada apakah Anda memiliki pertanyaan teknologi atau psikologis,” kata Meyer, memperingatkan bahwa O'Shea dan timnya mungkin telah beralih ke teknologi untuk mencari jawaban atas pertanyaan psikologis mengenai sifat penipuan. “AI mungkin lebih baik daripada orang untuk mendeteksi ekspresi wajah, tetapi meskipun demikian, ini tidak berarti bahwa seseorang dapat menarik kesimpulan dari mereka tentang apakah seseorang berbohong. Berbohong adalah konstruksi psikologis. " Tidak ada konsensus tidak hanya pada pertanyaan yang ekspresi terkait dengan kebohongan, Meyer menambahkan: tidak ada konsensus tentang apakah ekspresi seperti itu ada sama sekali. Perusahaan menulis dalam email bahwa kritik ini "tidak ada hubungannya" dengan Silent Talker, dan bahwa "statistik yang digunakan tidak cocok untuk kasus ini."


Acara TV "Lie to Me", khususnya, didasarkan pada teori mikro tentang ekspresi mikro.

Selain itu, Meyer menunjukkan bahwa algoritma akan tetap tidak berguna di perbatasan atau dalam wawancara jika tidak dilatih pada set data yang sama yang akan dievaluasi dalam kenyataan. Studi menunjukkan bahwa algoritma pengenalan wajah mengenali minoritas ras lebih buruk jika mereka dilatih pada wajah orang kulit putih - O'Shea sendiri mengakui hal ini. Seorang perwakilan dari Silent Talker menulis kepada kami: “Kami melakukan banyak eksperimen dengan ukuran sampel yang lebih kecil. Jumlah mereka mencapai ratusan. Beberapa dari mereka terkait dengan penelitian ilmiah dan akan dipublikasikan, yang lain - komersial dan rahasia. "

Namun, semua penelitian yang diterbitkan yang mengkonfirmasi keakuratan Silent Talker didasarkan pada kumpulan data yang kecil dan seragam. Dalam karya 2018, misalnya, hanya 32 orang yang digunakan untuk pelatihan, di antaranya ada dua kali lebih banyak pria daripada wanita, dan hanya 10 di antara mereka adalah orang Asia atau Arab, dan tidak ada orang Negro atau Hispanik sama sekali. Dan meskipun program ini memiliki "pengaturan" untuk menganalisis pria dan wanita, O'Shea mengatakan dia tidak yakin apakah dia membutuhkan pengaturan untuk ras atau usia.

* * *

Setelah pengumuman uji coba inisiatif iBorderCtrl, para aktivis dan politisi mengecam program tersebut sebagai upaya yang belum pernah terjadi sebelumnya untuk membawa pengawasan universal ke tingkat Orwell. Sophia int Weld, anggota Belanda dari Parlemen Eropa dan pemimpin Demokrat kiri-tengah 69, mengatakan dalam sebuah surat kepada Komisi Eropa bahwa sistem Silent Talker dapat melanggar "hak-hak dasar banyak pelancong yang melintasi perbatasan," dan bahwa organisasi seperti Privacy International mengutuknya sebagai " bagian dari kecenderungan yang lebih luas untuk menggunakan sistem buram dan sering tidak memadai otomatis untuk menilai, mengevaluasi, dan mengklasifikasikan orang. " Konsorsium iBorderCtrl jelas tidak berharap untuk menemui perlawanan seperti itu: jika awalnya Komisi Eropa menyatakan bahwa iBorderCtrl "akan mengembangkan sistem untuk mempercepat penyeberangan perbatasan," sekarang perwakilan mengatakanbahwa program tersebut adalah proyek penelitian yang murni teoretis. Antoniades pada tahun 2018 mengatakan kepada surat kabar Belanda bahwa sistem pengenalan kebohongan “mungkin tidak dibuat pada akhirnya,” tetapi untuk saat ini, Silent Talker masih terus mengiklankan kehadirannya pada inisiatif iBorderCtrl di situs webnya.

Silent Talker adalah "versi baru dari penipuan lama," kata Vera Wilde, seorang sarjana Amerika dan aktivis privasi yang berbasis di Berlin yang membantu meluncurkan kampanye melawan iBorderCtrl. "Dalam arti tertentu, ini adalah penipuan yang sama, tetapi menggunakan landasan ilmiah yang bahkan lebih buruk." Saat memeriksa sebuah poligraf, penyelidik memantau kejadian fisiologis yang diyakini berkorelasi dengan kepalsuan; dalam kasus AI, penyelidik memungkinkan komputer untuk mendeteksi korelasi itu sendiri. "Ketika O'Shea berbicara tentang kurangnya teorinya, dia salah," katanya. "Dia punya teori, sangat buruk."

Tetapi tidak peduli berapa banyak orang seperti Wilde mengkritik ide ini, impian pendeteksi kebohongan yang ideal tidak ingin mati - terutama ketika itu dihiasi dengan AI. Setelah Departemen Keamanan Dalam Negeri AS menghabiskan jutaan dolar untuk meneliti kebohongan di universitas-universitas pada tahun 2000-an, mereka mencoba menciptakan versi teknologinya sendiri yang menganalisis perilaku. Sistemnya, yang disebut Future Attribute Screening Technology (FAST) [teknologi masa depan untuk melacak properti karakteristik], bertujuan untuk menemukan kecenderungan kriminal seseorang berdasarkan pergerakan mata dan tubuhnya (dalam versi teknologi sebelumnya, subjek harus berdiri di pengontrol Wii Balance Board)untuk melacak perubahan postur). Tiga peneliti yang berbicara secara diam-diam tentang proyek-proyek rahasia mengatakan program itu tidak pernah berjalan - ada terlalu banyak kontradiksi di departemen tentang apakah akan menggunakan ekspresi mikro Ekman sebagai dasar untuk analisis. Pada tahun 2011, program ini dibatasi.

Meskipun gagal CEPAT, DHS tidak kehilangan minat dalam teknologi pengenalan kebohongan. Tahun lalu, ia menandatangani kontrak $ 110.000 dengan perusahaan rekrutmen untuk melatih karyawannya dalam "mengenali kebohongan dan reaksi" melalui "analisis perilaku". Kementerian dan departemen lain terus mendukung solusi berbasis AI. Laboratorium penelitian militer (ARL) memiliki kontrak dengan Rutgers University untuk membuat program AI untuk mengenali kebohongan dalam permainan salon Mafia, yang merupakan bagian dari proyek keseluruhan untuk menciptakan "sesuatu seperti Google Glass yang dapat memperingatkan kita tentang beberapa pencopet di pasar yang ramai, ”tulis Purush Iyer, manajer proyek di ARL. Perusahaan Israel Nemesysco, yang menjual perangkat lunak analisis suara menggunakan AI, mengatakan kepada sayabahwa teknologinya sedang digunakan oleh Polisi Kota New York dan Sheriff Midwest untuk menginterogasi tersangka, serta agen penagihan untuk mengukur emosi debitur selama panggilan telepon.

Namun, masa depan langsung dan berpotensi berbahaya detektor AI lie tampaknya menjadi penggunaan pribadi mereka. Politisi yang mendukung inisiatif seperti iBorderCtrl akhirnya harus menjawab pemilih, dan sebagian besar pendeteksi kebohongan berbasis AI dapat dilarang untuk digunakan di pengadilan dengan alasan yang sama dengan poligraf. Tetapi perusahaan swasta memiliki batasan lebih sedikit dalam menggunakan teknologi tersebut untuk mengevaluasi kandidat pekerjaan dan pelanggan potensial. Silent Talker adalah salah satu dari beberapa perusahaan yang mengklaim memiliki cara yang lebih objektif untuk mengenali perilaku abnormal atau menipu, memberi pelanggan metode "analisis risiko" yang melampaui peringkat kredit dan profil media sosial.

Montana Neuro-ID sedang melakukan analisis AI tentang pergerakan mouse dan ketukan keyboard untuk membantu bank dan perusahaan asuransi menilai risiko penipuan dengan memberikan "poin kepercayaan" kepada pemohon pinjaman mulai dari 1 hingga 100. Dalam video tersebut perusahaan menunjukkan kepada saya , klien mengisi aplikasi untuk pinjaman online, dan menghabiskan waktu mengisi bidang mengenai pendapatan untuk keluarga, sambil menggerakkan mouse - dan semua ini sistem memperhitungkan perhitungan skor reliabilitas. Sistem ini didasarkan pada studi yang dilakukan oleh para ilmuwan pendiri perusahaan yang mengklaim mereka menunjukkan korelasi antara gerakan tikus dan ledakan emosi. Mereka menggambarkan bahwa "upaya curang dapat meningkatkan jarak normal gerakan mouse, mengurangi kecepatan gerakan, meningkatkan waktu respons, dan mengarah pada peningkatan jumlah klik."Namun, menurut tes internal perusahaan itu sendiri, jelas bahwa perangkat lunak mereka menghasilkan terlalu banyak hasil positif palsu: dalam satu studi di mana Neuro-ID memproses 20.000 aplikasi di situs web toko online, kurang dari setengah dari pelamar yang menerima peringkat terendah (hingga 10) , ternyata adalah scammers, dan hanya 10% orang yang mendapat peringkat dari 20 hingga 30 dikaitkan dengan risiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."bahwa perangkat lunak mereka menghasilkan terlalu banyak hasil positif palsu: dalam satu studi di mana Neuro-ID memproses 20.000 aplikasi di situs web toko online, kurang dari setengah dari pelamar yang menerima peringkat terendah (hingga 10) ternyata penipu, dan hanya 10% orang dengan nilai 20 hingga 30 beresiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."bahwa perangkat lunak mereka menghasilkan terlalu banyak hasil positif palsu: dalam satu studi di mana Neuro-ID memproses 20.000 aplikasi di situs web toko online, kurang dari setengah dari pelamar yang menerima peringkat terendah (hingga 10) ternyata penipu, dan hanya 10% orang dengan nilai 20 hingga 30 beresiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."di mana Neuro-ID memproses 20.000 aplikasi di situs web toko online, kurang dari setengah dari pelamar yang menerima peringkat terendah (hingga 10) ternyata adalah scammers, dan hanya 10% orang yang menerima peringkat dari 20 hingga 30 yang terkait dengan risiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."di mana Neuro-ID memproses 20.000 aplikasi di situs web toko online, kurang dari setengah dari pelamar yang menerima peringkat terendah (hingga 10) ternyata adalah scammers, dan hanya 10% orang yang menerima peringkat dari 20 hingga 30 yang terkait dengan risiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."skor 20-30 dikaitkan dengan risiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."skor 20-30 dikaitkan dengan risiko penipuan. Perusahaan mengakui bahwa perangkat lunak mencatat sebagai pencari kerja yang mencurigakan yang mungkin tidak bersalah, dan memungkinkan untuk menggunakan informasi ini atas kebijakannya sendiri. Seorang perwakilan perusahaan mengatakan kepada saya bahwa “tidak ada analisis perilaku yang 100% akurat. "Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu.""Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu.""Kami menyarankan Anda menggunakan hasil ini bersama dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan lebih efektif menangkap penipu."

Utah start-up Converus menjual perangkat lunak yang disebut EyeDetect, yang mengukur kontraksi murid selama wawancara untuk mendeteksi pemuatan kognitif. Seperti Silent Talker, alat ini bekerja dengan asumsi bahwa berbohong membutuhkan lebih banyak upaya daripada kebenaran. Menurut artikel Wired 2018, kantor polisi di Salt Lake City dan Columbus, Georgia menggunakan EyeDetect untuk mengevaluasi kandidat pekerjaan. Converus juga memberi tahu Wired bahwa McDonald's, Best Western, Sheraton, IHOP, dan FedEx menggunakan perangkat lunaknya di Panama dan Guatemala dengan cara yang ilegal di AS.

Perusahaan memberi saya pernyataan mengutip beberapa penelitian yang menunjukkan bahwa program mencapai akurasi 85% dalam mengidentifikasi pembohong dan mereka yang mengatakan kebenaran dalam sampel hingga 150 orang. Presiden perusahaan Todd Mikelsen mengatakan algoritma perusahaan telah dilatih dalam ratusan ribu wawancara. Namun, Charles Honts, seorang profesor psikologi di Universitas Idaho di Boise, yang bertugas di dewan penasihat perusahaan, mengatakan temuan ini tidak membuktikan bahwa EyeDetect dapat diandalkan selama wawancara. "Saya menemukan sistem EyeDetect sangat menarik, tetapi saya tidak menggunakannya sendiri," katanya kepada saya. "Saya pikir dia masih memiliki database kecil, dan datanya, sebagian besar, dari satu laboratorium." Sampai basis diperluas dan orang lain mereproduksi hasilnya, saya akan menahan diri untuk tidak menggunakannya dalam kondisi nyata. ”

Para peneliti di Arizona University yang mengembangkan AVATAR mendirikan Discern Science, sebuah perusahaan swasta, untuk mengiklankan teknologi pengenalan kebohongan mereka sendiri. Diluncurkan tahun lalu, Discern menjual mesin setinggi 1,8 meter yang mirip dengan AVATAR asli. Menurut sebuah artikel di Financial Times, perusahaan "mengorganisir usaha patungan dengan mitra dalam industri penerbangan" untuk mengirimkan perangkat ini ke bandara. Sistem ini mengukur pergerakan otot-otot wajah dan adanya tekanan dalam suara untuk "secara diam-diam mengumpulkan informasi tentang seseorang pada jarak percakapan normal," sebagaimana ditulis dalam materi iklan. Discern, seperti Silent Talker dan Converus, memastikan bahwa teknologi tersebut dapat secara andal mengenali sekitar 85% pembohong, tetapi hasilnya belum diverifikasi secara independen. Setidaknya satu dari saluran penerima informasi yang digunakan oleh peralatan,berulang kali diakui sebagai tidak dapat diandalkan. Honts juga mencatat bahwa analisis gerakan otot wajah "hampir tidak memiliki bukti" - ia mengatakan bahwa "upaya untuk mereproduksi hasil percobaan mengalami terlalu banyak kegagalan."

Menjawab pertanyaan tentang latar belakang ilmiah mesin perusahaan, peneliti Discern Judy Burgun menekankan bahwa sistem hanya memberikan penilaian, bukan kesimpulan yang akurat tentang kebenaran dan kebohongan. Sistem seperti AVATAR dan Silent Talker, dalam kata-katanya, "tidak dapat mengukur penipuan secara langsung," dan "siapa pun yang mengiklankan pendeteksi kebohongan yang bekerja secara jelas adalah dukun." Tetapi pada saat yang sama, dalam materi pemasaran, Discern menghadirkan alatnya sebagai pendeteksi kebohongan yang andal: situs web mengatakan bahwa “dapat membantu mengungkap rencana rahasia” dan bahwa “secara ilmiah terbukti bahwa algoritmenya mengenali penipuan lebih cepat dan lebih dapat diandalkan daripada alternatif mana pun” .

Pengadilan Tinggi membatalkan hukuman Emmanuel Mervilus pada 2011, membebaskannya dari penjara dan memerintahkan peninjauan kembali kasus tersebut; dia menjalani hukuman lebih dari tiga tahun. Pada sidang kedua pada 2013, juri membahas kasus itu hanya 40 menit sebelum membebaskannya. Jika bukan karena poligraf dan bukan keyakinan yang kuat tentang keakuratannya, ia tidak akan pernah bisa masuk ke dermaga sama sekali. Mervilus mengutuk petugas polisi yang menangkap dan menginterogasinya, mengklaim bahwa mereka melanggar haknya untuk melakukan prosedur hukum, menggunakan tes poligraf untuk hukuman mereka, kelemahan yang mereka tahu.

Dan bahkan jika meluasnya penggunaan Silent Talker dan sistem serupa tidak mengarah pada peningkatan jumlah terpidana orang yang tidak bersalah, seperti halnya dengan Mervilus, itu masih dapat menciptakan jenis hambatan baru yang memaksa orang untuk menjalani "penilaian keandalan" setiap kali mereka ingin menyewa mobil atau mengambil pinjaman.

"Di pengadilan, Anda perlu memberikan bukti material, seperti rambut atau darah," kata Wilde. "Tapi kamu juga punya hak untuk tetap diam dan tidak bersaksi melawan dirimu sendiri." Mervilus memutuskan untuk mengambil tes poligraf, menunjukkan bahwa seperti tes DNA, ia akan menunjukkan kepolosannya. Dan meskipun perangkat tidak bekerja dengan benar, bukan mobil yang mengirimnya ke penjara. Ini semua tentang kepercayaan juri bahwa hasil tes lebih dapat diandalkan daripada fakta-fakta kasus.

Asumsi yang mendasari pengakuan AI tentang kebohongan adalah bahwa kebohongan dapat dilihat dengan alat yang tepat. Para psikolog masih belum yakin akan kebenaran pernyataan ini, tetapi untuk saat ini, keyakinan sederhana pada kebenarannya mungkin cukup untuk menolak kandidat yang layak untuk pekerjaan atau penghargaan, dan untuk mencegah orang-orang tak bersalah melintasi perbatasan negara. Janji untuk membuka jendela ke dalam jiwa orang lain terlalu menggoda untuk ditolak, bahkan jika tidak ada yang yakin bahwa jendela ini bersih.

"Ini seperti janji untuk membaca pikiran," kata Wilde. "Jelas, ini omong kosong, tetapi mereka menjual persis itu."