إن محاولة استخدام الذكاء الاصطناعي في جهاز كشف الكذب لا تؤدي إلا إلى تفاقم مشكلة التعرف على الاحتيال

دراسة تفصيلية لمحاولات استخدام الذكاء الاصطناعي في التعرف على الكذب

قبل أن يصدر جهاز كشف الكذب الحكم "مذنب" ، كان إيمانويل ميرفيلوس يعمل في شركة زيوت نباتية في ميناء نيوارك ، نيو جيرسي. حصل على 12 دولارًا في الساعة بحمل الصناديق ، لكن هذا لم يكن كافيًا للعيش. كان شقيقه وشقيقته أصغر من أن يعملوا ، وخاضت والدته معركة مكلفة مع السرطان. ومع ذلك ، قال الرئيس في الميناء إنه التالي في الطابور للترقية إلى منصب فني تم فيه وعد بدفع 25 دولارًا / الساعة.

كان Mervilus لا يزال ينتظر ترقيته عندما توقف في 19 أكتوبر 2006 ، وهو وصديقه لتناول وجبة في Dunkin 'Donuts ، التي تقع في مدينة إليزابيث ، نيو جيرسي القريبة. بعد بضع دقائق ، بينما كانوا يسيرون على طول الشارع ، اقترب منهم شرطيان واتهموهما بسرقة رجل تم تهديده بسكين قبل بضع دقائق بالقرب من محطة السكة الحديد.

تعرف ضحية من بعيد ميرفيلوس وصديقه. في محاولة يائسة لإثبات براءته ، اقترح ميرفيلوس إجراء اختبار مكشاف الكذب. وافقت الشرطة ، ولكن قبل وقت قصير من هذا الاختبار ، توفت والدة ميرفيلوس. عندما ربطته الشرطة بالجهاز ، كان مرتبكًا وقلقًا. فشل في هذا الاختبار ، وطلب فرصة لتمريره مرة أخرى ورفض.

بعد التماس Mervilus من البراءة ، أحيلت القضية إلى المحكمة. قال ملازم الاختبار في المحكمة إن الجهاز هو "مؤشر الحقيقة". قال إنه لم يسبق له أن رأى في حياته المهنية أن "شخصًا ما ظهرت عليه علامات الاحتيال ، ثم اتضح أنه كان يقول الحقيقة". وجدت هيئة المحلفين أن ميرفيلوس مذنب - والذي حدث ، كما اتضح في محكمة الاستئناف ، بسبب الإيمان المفرط بجهاز الكذب. وقد منحه القاضي 11 عاما في السجن.

الاعتقاد بأن الخداع يمكن التعرف عليه من خلال تحليل خصائص الجسم البشري متجذر بعمق في الحياة الحديثة. على الرغم من الكثير من الأبحاث التي تشكك في موثوقية جهاز كشف الكذب ، يتم إجراء أكثر من 2.5 مليون فحص في الولايات المتحدة كل عام ، وتقدر صناعة جهاز كشف الكذب بـ 2 مليار دولار. تستخدم الوكالات الحكومية الفيدرالية الأمريكية ، بما في ذلك وزارة العدل ووزارة الدفاع ووكالة المخابرات المركزية ، هذا الجهاز تقييم المرشحين للعمل. يشير تقرير صادر عن وزارة العدل عام 2007 إلى أن أكثر من ثلاثة أرباع مراكز الشرطة ومكاتب العمدة تستخدم أجهزة كشف الأكاذيب لتجنيد الموظفين.

ومع ذلك ، لا تزال هذه الأجهزة بطيئة وخرقاء جدًا بحيث لا يمكن استخدامها على الحدود أو في المطارات أو في مجموعات كبيرة من الأشخاص. ونتيجة لذلك ، ظهر جيل جديد من أجهزة كشف الكذب المرتكزة على الذكاء الاصطناعي على مدى العقد الماضي. يدعي مؤيدوهم أنهم يعملون بشكل أسرع وأكثر دقة من أجهزة كشف الكذب.

في الواقع ، المبرر النفسي لأنظمة الذكاء الاصطناعي الجديدة أكثر خطورة من الدراسات التي تكمن وراء جهاز كشف الكذب. الأدلة على أن النتائج التي ينتجونها يمكن الوثوق بها نادرة. ومع ذلك ، فإن لمعانها الخارجي ، الناتج عن استخدام الذكاء الاصطناعي ، يؤدي إلى ظهور هذه الأنظمة في الأماكن التي لم يتمكن جهاز كشف الكذب من اختراقها في وقت سابق: إلى الحدود ، إلى المقابلات ، إلى إجراءات تقييم الجدارة الائتمانية والتحقيق في الاحتيال على التأمين. تبدأ الشركات والحكومات في الاعتماد عليها عند اتخاذ قرارات بشأن موثوقية العملاء والموظفين والمواطنين والمهاجرين والسياح الدوليين. ولكن ماذا لو كانت الكذبة قطعة معقدة للغاية بحيث لا يمكن اكتشافها بشكل موثوق من قبل أي آلة ، بغض النظر عن مدى تقدم الخوارزميات؟

* * *

يضع المحققون في الصين القديمة الأرز في أفواه المشتبه بهم لمعرفة ما إذا تم إطلاق اللعاب منهم. " يعمل الرومانية "، مختارات من القصص الأخلاقية في العصور الوسطى، يحكي قصة جندي الذين أمروا كاتب له لقياس نبض زوجته، لتحديد ما إذا كان من المؤمنين له.



بعد أن انخرطت الولايات المتحدة في الحرب العالمية الأولى ، كان ويليام مارستون ، باحث في جامعة هارفارد ، أول من استخدم أجهزة قياس ضغط الدم في محاولة لكشف الاحتيال. بعد بضع سنوات ، مستوحاة من عمل مارستون ، قام جون أوغستوس لارسون ، وهو شرطي حصل مؤخرًا على درجة الدكتوراه في علم وظائف الأعضاء من جامعة كاليفورنيا في بيركلي ، بتطوير جهاز يسمى "معالج نفسي رئوي للقلب" ، والذي قدم بيانات مستمرة عن ضغط الدم للمريض ومعدل النبض والسرعة. عمليه التنفس. جادل لارسون بأن هذه الشهادات تخون خداعًا أفضل بكثير من ضغط واحد فقط.

في البداية ، استخدم لارسون السيارة للتحقيق في السرقة في مهجع نسائي في بيركلي ، وتم استخدامه لمدة عام في سان فرانسيسكو لإدانة رجل متهم بقتل كاهن. وبحلول الثلاثينيات من القرن الماضي ، كان أحد المحميين لارسون يبيع بالفعل إصدارات محمولة من الجهاز إلى أقسام الشرطة في جميع أنحاء البلاد ، مضيفًا مستشعر تفاعل جلدي كلفاني - كلما زاد تعرق الشخص ، كان الجلد يتحكم في التيار بشكل أفضل. بحلول السبعينيات ، تم اختبار الملايين من عمال القطاع الخاص بانتظام بواسطة أجهزة كشف الكذب حسب توجيهات أصحاب العمل.

تستخدم معظم أجهزة كشف الكذب الحديثة نفس المخطط الأساسي الذي اقترحه لارسون: يطرح المحقق عدة أسئلة لقياس الحالة الفسيولوجية الطبيعية للموضوع ، ويراقب كيف تترجم الآلة هذه القياسات إلى خطوط تشبه الموجة على الورق أو الشاشة. ثم يبحث المحقق عن الطفرات المفاجئة أو الانخفاضات في هذه المستويات عندما يجيب الموضوع على الأسئلة المتعلقة بالجرائم أو المشاعر.

ومع ذلك ، فقد انتقد علماء الفسيولوجيا وعلماء الأعصاب جهاز كشف الكذب منذ اللحظة التي اكتشف فيها لارسون اختراعه للجمهور. إذا كان بعض الكاذبين يعانون من تغير في معدل ضربات القلب أو ضغط الدم ، فهناك القليل من الأدلة على أن هذه التغييرات مرتبطة باستمرار بالخداع. يبدأ العديد من الأبرياء بالتوتر أثناء الاستجواب ، ويمكن للكذابين ذوي الخبرة أن يقمعوا أو يتسببوا في تغيرات في أجسادهم تسمح لهم بخداع الاختبار. يمكن خداع جهاز كشف الكذب أيضًا عن طريق عض لسانه ، أو دس قرنفل ، أو التفكير في المخاوف الأكثر فظاعة.. هناك دائمًا خطر من أن الجهاز سيتلقى شهادات متضاربة حتى في ظل الظروف الخاضعة للرقابة من تجربة مختبرية ، وفي الحياة الواقعية تكون أقل موثوقية: نظرًا لأن المجرمين الذين خدعوا في الاختبار لا يعترفون تقريبًا بالذنب للشرطة ، وغالبًا ما يدلي المشتبهون الأبرياء بشهادات كاذبة ، وفشلوا الاختبارات ، من المستحيل تحديد مدى جودة أداء هذه الآلات.


اختبر المخترع الأمريكي ليونارد كيلر (1903-1949) ، المحمي من مخترع جهاز كشف الكذب جون لارسون ، برونو هاوبتمان ، الذي تم اعتقاله واتهامه وإعدامه باختطاف تشارلز أوغست ليندبرج جونيور. أعلن هاوبتمان حتى نهاية حياته براءته.

بسبب هذه القيود ، لم يتم قبول اختبارات جهاز كشف الكذب في معظم المحاكم الأمريكية لفترة طويلة ، ما لم يتفق الطرفان على إرفاقها بالقضية. يحظر القانون الفيدرالي الشركات الخاصة من اختبار مكشاف الكذب للموظفين منذ عام 1988 (باستثناء الأعمال الحساسة بشكل خاص مثل الحراس المسلحين أو موزعي المخدرات ، وكذلك الشكوك في السرقة أو الاحتيال). تحذر جمعية علم النفس الأمريكية من أن "معظم علماء النفس يميلون إلى الاعتقاد بأن هناك القليل من الأدلة على قدرة جهاز كشف الكذب على تحديد الكذب". في تقرير عام 2003 من الأكاديمية الوطنية للعلوم ، بعد دراسة حكومية لهذه القضية ، تم التوصل إلى استنتاج سرعان ما أصبح معروفًا على نطاق واسع: آلة تحدد الكاذبين "في كثير من الأحيان عن طريق الصدفة ، ولكنها أسوأ بكثير من الكمال".وقال المؤلف الرئيسي للتقرير في تلك اللحظة إن "الأمن القومي مهم للغاية لإعطاء مثل هذا الصك الخام".

ولكن ربما يمكن جعل هذه الأداة أقل وقحا. هناك وعد مماثل من قبل عدد متزايد من الشركات التي تحاول بحماس بيع تكنولوجيا التعرف على الكذب إلى كل من الحكومات والمنظمات التجارية. يجادلون ، ربما ، بأن بعض الأنماط المعقدة من السمات السلوكية يمكن أن تخبر أن الشخص يكذب ، وأكثر موثوقية بكثير من مجرد النبض أو ضغط الدم. وربما تستطيع خوارزمية معقدة التعرف على هذه الأنماط.

من عام 1969 إلى عام 1981 ، قام القاتل المتسلسل ، الملقب بـ Yorkshire Ripper ، بمطاردة الفتيات في شمال إنجلترا ، وقتل ما لا يقل عن 13 منهم ، وحاول قتل سبعة آخرين على الأقل. استجوبته الشرطة وأفرجت عنه تسع مرات بينما واصل رحلته الدموية. كانت ضحيته الأخيرة جاكلين هيل ، طالبة تبلغ من العمر 20 عامًا في جامعة ليدز ، قتلت في نوفمبر 1980. بعد بضعة أشهر ، ضبطته الشرطة أخيراً وهو يستعد لقتل عاهرة في شيفيلد.

عندما وصلت جانيت روثويل إلى جامعة ليدز في خريف عام 1980 ، عاشت في مهجع في الغرفة المجاورة للغرفة التي عاش فيها هيل. Killing Hill أخافها.

قالت روثويل: "لقد ركبت الحافلة في مكتبة الجامعة في نفس الوقت الذي قضيته فيه ، وقُتلت بعد أن نزلت من الحافلة". اكتشف روثويل في وقت لاحق كم من الوقت استغرق القبض على القاتل. وتذكرت قائلة: "اعتقدت ، هل يمكن للكمبيوتر أن يجد أي اختلافات سلوكية لإبلاغ الشرطة؟"

ونتيجة لذلك ، ذهب روثويل إلى كلية الدراسات العليا في جامعة مانشستر متروبوليتان (UMM) في أواخر التسعينات. هناك التقت زهير بندر ، وهو محاضر بريطاني من أصل عراقي عمل في قسم علوم الكمبيوتر. قبل ذلك بوقت قصير ، كان لدى بندر فكرة - بعد أن طلبت منه إحدى شركات الإعلان إنشاء جهاز بدائي لقياس اهتمام العملاء بالمنتجات التي يرونها على الشاشة.




قال بندر صورة التقطت من قبل مكتب التحقيقات الفدرالي لامرأة تخضع لاختبار كشف الكذب "لقد أرادوا تسليم جهاز محمول للمستهلكين" ، لذلك عندما يحب المستهلك شيئًا ما ، يضغط على 1 ، وإذا لم يكن كذلك ، إلى 2. فكرت - لماذا هل يجب صنع مثل هذه الأجهزة إذا كان لديهم بالفعل تعبيرات على وجوههم؟ " اقترح بندر أن يبقى روثويل في جامعة محمدية مالانج بعد حصوله على شهادته من أجل العمل على الدكتوراه ، مما يساعده على تطوير برنامج قادر على تحليل الوجوه من أجل استخراج المعلومات. لقد قرروا أن الغش ليس أكثر صعوبة في التعرف عليه من الفرح أو الغضب. يجب أن تخلق أي من هذه العواطف نوعًا من "التضارب" - الأنماط السلوكية ، اللفظية أو غير اللفظية ، والتي يمكن للكمبيوتر التعرف عليها.

قام روثويل بتدريب الشبكة العصبية في أوائل العقد الأول من القرن الحادي والعشرين لتتبع الأنشطة مثل الوميض أو الخجل ، ثم أطعم العشرات من مقاطع الفيديو على الكمبيوتر حيث أجاب الناس على نفس المجموعة من الأسئلة بصدق ونزاهة. لتحديد السمات المشتركة للكذابين ، درس الكمبيوتر تفاصيل حركة الأشخاص ، وعلاقاتهم ، والعلاقات بين هذه العلاقات ، مع إعطاء نوع من "النظرية" التي يصعب التعبير عنها بلغة عادية. بعد أن درس النظام بهذه الطريقة ، يمكن للنظام استخدام المعرفة المكتسبة لتصنيف مواضيع جديدة في فئتي "حقيقي" و "مخادع" من خلال تحليل التغييرات إطارًا تلو الآخر في تعبيرات وجوههم.

بحثت دراسة عام 2006 جدوى هذا النظام ، ودعا " المتحدث الصامت"(سايلنت تالكر) ، للتعرف على كذبة في إجابات موضوع الاختبار. لم تكن قادرة على تحقيق الدقة بأكثر من 80٪ - لا في الوقت الذي عملت فيه روثويل معها ، ولا في وقت لاحق ، عندما حاول فريق البحث تحسينها. أخبرني روثويل أيضًا أن النظام بشكل عام توقفت عن العمل بشكل طبيعي إذا كان الشخص يرتدي نظارات ، مشيراً إلى أن "ظروف الإضاءة كانت متشابهة ، وأن جميع الاستجوابات تتعلق بسرقة مرحلية". لكن روثويل يتذكر أنه حتى في المراحل الأولى من المشروع ، كان بندر "متحمسًا لفكرة إطلاق منتج تجاري" ؛ ذات مرة ، زودتها هي وزميلة أخرى بفيديو يظهر امرأة يشتبه في أنها تخون زوجها وطلبت منها قيادة الفيديو من خلال سايلنت تالكر لتحليله - تمامًا كما في كتاب "أعمال رومانية".

كان لدى روثويل شكوك حول هذا الأمر. وقالت: "كان من الواضح لي أنه إذا نجحت هذه البرامج ، فيمكن استخدامها من حيث المبدأ على حساب الضرر". "لا أعتقد أن أي نظام سيكون قادرًا على الاقتراب من الدقة بنسبة 100٪ ، وإذا كان النظام مخطئًا ، فقد يتسبب في عواقب وخيمة على العلاقات ومواقف الحياة". في عام 2006 ، تركت الجامعة ، ودرس في اختصاصي السمع ، وحصلت على وظيفة في مستشفى في جزيرة جيرسي ، حيث تعيش حتى يومنا هذا.

في عام 2003 ، نشرت جامعة محمدية مالانج بيانًا صحفيًا للترويج للتكنولوجيا كاختراع جديد سيحل محل جهاز كشف الكذب. قال روثويل: "لقد صدمت ، بدا لي من السابق لأوانه الحديث عن الأمر".

حاولت الحكومة الأمريكية مرارًا وتكرارًا معالجة تقنية التعرف على الكذب في السنوات القليلة الأولى بعد 11 سبتمبر؛ أنفقت وزارة الأمن الداخلي الأمريكية (DHS) ووزارة الدفاع الأمريكية (DoD) ومؤسسة العلوم الوطنية الأمريكية ملايين الدولارات على كل دراسة. مولت هذه الوكالات إنشاء آلة AVATAR في جامعة أريزونا. تم اختبار AVATAR ، الذي حلل تعابير الوجه ولغة الجسد وأصوات الناس ، ومنحهم "نقاط الثقة" ، في المطارات. في إسرائيل ، ساعدت وزارة الأمن الوطني (DHS) في إنشاء شركة WeCU ["نراكم" ، أو "نراكم" / تقريبًا. ترجم.] ، التي باعت آلة لتقييم الأشخاص ، قادرة ، وفقًا لمقال عام 2010 في مجلة Fast Company ، على "التسبب في ردود الفعل الفسيولوجية في الأشخاص الذين يختبئون شيء ما". اليوم ، أفلست هذه الشركة بالفعل.

بدأ بندر بمحاولة طرح التكنولوجيا في السوق. مع اثنين من طلابه ، Jim O'Shea و Keely Crocket ، قام بتحويل سايلنت ناطقه إلى شركة وبدأ في البحث عن عملاء لتكنولوجيا التنميط النفسي الخاصة به ، سواء بين مراكز الشرطة والشركات الخاصة. كان Silent Talker واحدًا من أوائل أجهزة الكشف عن الكذب القائمة على الذكاء الاصطناعي التي دخلت السوق. وفقًا للشركة ، في العام الماضي ، تم استخدام التكنولوجيا "التي تم إنشاؤها على أساس Silent Talker" كجزء من مبادرة iBorderCtrl ، الممولة من الاتحاد الأوروبي ، والتي تم فيها اختبار النظام على متطوعين على حدود اليونان والمجر ولاتفيا. يقول بندر أن الشركة تتفاوض حاليًا على بيع التكنولوجيا لشركات المحاماة والبنوك وشركات التأمين ، حول إمكانية استخدام هذه الاختبارات أثناء المقابلات والتحقق من الاحتيال.

قام بندر وأوشيا على مر السنين بتكييف الخوارزمية الأساسية للاستخدام في إصدارات مختلفة. حاولوا الإعلان عنها إلى مراكز شرطة مانشستر وليفربول. وقالت الشركة لمجلة The Engineer البريطانية عام 2003 ، "إننا نتواصل بشكل غير رسمي مع أشخاص ذوي مكانة عالية" ، مشيرة إلى أنها كانت تحاول "اختبار التكنولوجيا في مقابلات حقيقية". من تقرير نشره O'Shea على موقعه على الإنترنت في عام 2013 ، يستتبع ذلك أن Silent Talker "يمكن استخدامه لحماية جنودنا في العمليات الأجنبية من الهجمات من الداخل" (أي الهجمات التي يقوم بها جنود أفغان يرتدون الزي العسكري ضد حلفاء سابقين).

نشر الفريق أيضًا نتائج تجريبية توضح كيف يمكن استخدام Silent Talker للتعرف ليس فقط على الدوافع الخفية ، ولكن أيضًا على فهم شيء ما. في دراسة أجريت عام 2012 ، والتي أظهرت لأول مرة كيف يعمل سايلنت تيلكر "في الميدان" ، قام الفريق ، بالتعاون مع مؤسسة طبية غير حكومية تنزانية ، بتسجيل تعابير وجه 80 امرأة تلقوا تدريبًا عبر الإنترنت على علاج الإيدز واستخدام الواقي الذكري. كانت الفكرة هي تحديد ما إذا كان المرضى يفهمون كيف سيتم علاجهم - كما هو مكتوب في ملاحظات الدراسة ، "لا يزال تقييم فهم المشاركين أثناء تقديم المعلومات لهم مصدر قلق". عندما أجرى الفريق مقارنة بين درجات الذكاء الاصطناعي لمدى فهم النساء للمادة بالنقاط التي حصلوا عليها في الامتحانات القصيرة ، وجدواأن منظمة العفو الدولية تنبأت بدقة 80٪ أي من المواد ستجتاز الاختبار وأيها سيفشل.

تم تضمين Silent Talker في مبادرة iBorderCtrl بفضل التجربة التنزانية. في عام 2015 ، أرسل Athos Antoniades ، أحد منظمي الكونسورتيوم الناشئ ، بريدًا إلكترونيًا O'Shea يسأل عما إذا كان فريق Silent Talker يرغب في الانضمام إلى مجموعة الشركات وقوات الشرطة التي ترسل طلبات للحصول على منح الاتحاد الأوروبي. أدى تزايد حركة المرور على الطرق باستمرار إلى زيادة عبء حرس الحدود في الاتحاد الأوروبي ، ونتيجة لذلك قدم الاتحاد 4.5 مليون يورو لأي منظمة قادرة على "تنظيم معبر حدودي أكثر كفاءة وأمانًا ، مما يساهم في منع الجريمة والإرهاب". يعتقد أنطونيادس أن Silent Talker يمكن أن يلعب دورًا رئيسيًا في ذلك.

عندما أعلن المشروع عن اختباره العام في أكتوبر 2018 ، بدأت المفوضية الأوروبية على الفور بنشاط في الترويج لـ "قصة نجاح" "النهج الفريد" للنظام لاكتشاف الاحتيال ، موضحة أنه "يحلل إيماءات المسافرين الدقيقة لمعرفة أي من الذين تتم مقابلتهم يكذبون" . كانت الخوارزمية التي تم تدريبها في مانشستر هي "ضمان عبور الحدود بشكل أكثر كفاءة وأمانًا" و "المساهمة في منع الجريمة والإرهاب".

أخبرني O'Shea أن الخوارزمية الأساسية للبرنامج يمكن استخدامها في العديد من الشروط الأخرى - في الإعلان ، قبل دفع التأمين ، عند التوظيف ، في تقييم الموظفين. كان من الصعب بالنسبة لي أن أشارك إيمانه الصادق بحكمة هذه الخوارزمية ، ولكن بينما كنا نتحدث معه عبر الهاتف ، تم استخدام Silent Talker بالفعل للفحص الطوعي لأولئك الذين يرغبون في دخول الاتحاد الأوروبي ؛ أطلقت الشركة هذا المشروع كمشروع تجاري في يناير 2019. لذلك قررت الذهاب إلى مانشستر لرؤية كل شيء بنفسي.

* * *

تقع مكاتب Silent Talker على بعد كيلومتر ونصف من جامعة محمدية مالانج ، حيث تعمل أوشيه الآن كمحاضر أول. تولى المسؤوليات اليومية لتطوير التكنولوجيا. تقع الشركة في مركز مكتبي صغير يقع في منطقة سكنية بجوار مطعم كباب ومقابل ملعب كرة القدم. في مركز المكتب ، يتكون مكتب Silent Talker من غرفة مفردة تحتوي على العديد من أجهزة الكمبيوتر ، ومكاتب بها حقائب ، وتشرح ملصقات من العقد الأول من القرن الحادي والعشرين تخبرنا عن كيفية عمل هذه التكنولوجيا.

عندما ذهبت إليهم في سبتمبر ، تحدثت مع أوشيا وبندر في غرفة الاجتماعات. بدا O'Shea صارمًا ، ولكن شعرًا قليلًا ، كان أصلعًا ، باستثناء زوجين من الشعر واللحية بأسلوب Van Dyck. بدأ المحادثة بمطالبتنا بعدم التطرق إلى مشروع iBorderCtrl ، ثم أطلق على منتقديه معلومات خاطئة. ووصف قدرات منصة الذكاء الاصطناعي للنظام المطول والمزخرف ، مستشهدًا أحيانًا رائد علوم الكمبيوتر آلان تورينج أو فيلسوف اللغة جون سيرل.

وقال "كل من السيارات والأشخاص لديهم تكهنات خاصة بهم - المعتقدات والرغبات والتطلعات المرتبطة بالأشياء وحالات الأمور في العالم" ، دافعًا عن اعتماد النظام على الخوارزمية. "لذا ، فإن تطوير التطبيقات المعقدة يتطلب النظر في أفكار ونوايا الطرفين."

عرضت O'Shea النظام ، مما سمح لها بتحليل مقطع فيديو مع شخص يجيب على أسئلة حول ما إذا كان قد سرق 50 دولارًا من الصندوق. فرض البرنامج مستطيلًا أصفر على وجه الشخص ومستطيلين أصغر على عينيه. عندما تحدث ، انتقل المؤشر في زاوية الشاشة من اللون الأخضر إلى الأحمر عندما كانت إجاباته خاطئة ، ثم عاد إلى الوضع البرتقالي الأوسط عندما صمت. في نهاية المقابلة ، أصدر البرنامج رسمًا بيانيًا يوضح توزيع احتمالية الاحتيال بمرور الوقت. من الناحية النظرية ، أظهر الرسم البياني أين بدأ وينتهي بالكذب.

يقول O'Shea أن نظامهم يمكن تشغيله على جهاز كمبيوتر محمول عادي ، ويدفع المستخدمون 10 دولارات في الدقيقة مقابل الفيديو الذي يتم تحليله. أخبرني O'Shea أن البرنامج يقوم بمعالجة الفيديو مسبقًا محليًا ، ويرسل البيانات المشفرة إلى الخادم ، حيث يتم تحليلها بشكل أكبر ، ثم يعيد النتائج مرة أخرى: يرى المستخدم رسمًا بيانيًا لاحتمال حدوث احتيال على الفيديو.

وفقًا لـ O'Shea ، يراقب النظام حوالي 40 "قناة" مادية على جسم الشخص - كل شيء بدءًا من سرعة الوميض إلى زاوية الرأس. تتم مقارنة كل شخص جديد بـ "نظرية" الخداع ، التي تم تطويرها على أساس عرض بيانات التدريب ، والتي تتضمن سجلات الكذابين وأشخاص قول الحقيقة. من خلال قياس تعابير الوجه وتغييرات الوضعية عدة مرات في الثانية ، يبحث النظام عن أنماط في هذه الحركات تتزامن مع تلك الشائعة لجميع الكذابين من بيانات التدريب. هذه ليست أنماط بسيطة مثل النظر إلى السقف أو الانحناء رأسك إلى اليسار. هذا أشبه بأنماط القوانين ، والعلاقات متعددة الأوجه بين الحركات المختلفة المعقدة للغاية بحيث لا يمكن تعقبها من قبل الشخص هي مهمة نموذجية لتعلم الآلة.

إن مهمة الذكاء الاصطناعي هي تحديد أنماط الحركة التي يمكن أن ترتبط بالخداع. أخبرني أوشي أن "علماء النفس غالبًا ما يتحدثون عن الحاجة إلى نموذج لكيفية عمل النظام". "ولكن ليس لدينا نموذج عمل ، ونحن لسنا بحاجة إليه." نمنح منظمة العفو الدولية الفرصة لحل المشكلة ". ومع ذلك ، يقول أيضًا أن الأدلة العلمية على سيكولوجية الخداع تؤكد مغزى "القنوات" على الوجه. في مقال عام 2018 ، الذي يصف المتكلم الصامت ، يقول مبدعوها أن برمجياتهم "تفترض أن بعض حالات الوعي المرتبطة بسلوك المخادع ستتحكم ، أثناء الخداع ، في السلوك غير اللفظي للمقابل". تشمل الأمثلة على مثل هذا السلوك "التحميل المعرفي" ، والطاقة العقلية الإضافية التي يُفترض أن تُنفق على الأكاذيب ، و "متعة الخداع" ، والمتعة التي يُزعم أن الشخص يستقبلها ،الكذب بنجاح.


نصح بول إيكمان ، الذي تعد نظريته حول "التعبير المصغر" مثيرة للجدل كثيرًا ، العديد من الوكالات الحكومية الأمريكية

، ومع ذلك ، يقول إيوت ماير ، أستاذ علم النفس في جامعة ماستريخت بهولندا ، إن الأساس النظري للتأكيدات حول عالمية أنماط السلوك هذه يمكن وصفه بأنه غير مستقر في أحسن الأحوال. تأتي فكرة أن الشخص قادر على اكتشاف علامات السلوك المميزة من عمل بول إيكمان، عالم نفس أمريكي قدم في الثمانينيات النظرية الشهيرة "تعبيرات دقيقة" ، وهي حركات غير مقصودة لعضلات الوجه صغيرة جدًا بحيث لا يمكن السيطرة عليها. بفضل البحث ، أصبح إيكمان الكاتب الأكثر مبيعًا والنموذج الأولي للبرنامج التلفزيوني الأحمق ، "كذب علي". وقد نصح العديد من الوكالات الحكومية الأمريكية ، بما في ذلك DHS و DARPA. بحجة الأمن القومي ، يحافظ على سرية بيانات البحث. وبسبب هذا ، هناك جدل مستمر حول ما إذا كانت هذه التعبيرات الدقيقة لها أي معنى على الإطلاق.

يتتبع Silent Talker AI العديد من حركات عضلات الوجه ، وليس فقط تعبيرات Ekman الصغيرة. كتب لنا أحد ممثلي الشركة: "قمنا بتفكيك هذه التلميحات عالية المستوى ، ونؤلف مجموعة من إيماءاتنا المجهرية ، وقمنا بتدريب الذكاء الاصطناعي على إعادة دمجها في أنماط مميزة ذات معنى". يقول O'Shea أن هذا يسمح للنظام باكتشاف السلوك المرتبط بالخداع حتى عندما ينظر الهدف ببساطة حوله أو يغير موضعه أثناء الجلوس على كرسي.

يقول ماير: "يعتمد الكثير على ما إذا كان لديك سؤال تكنولوجي أو نفسي" ، محذرًا من أن أوشيه وفريقه ربما لجأوا إلى التكنولوجيا بحثًا عن إجابات للأسئلة النفسية المتعلقة بطبيعة الخداع. "قد يكون الذكاء الاصطناعي أفضل من اكتشاف الأشخاص لتعبيرات الوجه ، ولكن حتى إذا كان الأمر كذلك ، فإن هذا لا يعني أنه يمكن للمرء أن يستخلص منهم استنتاجات حول ما إذا كان الشخص يكذب أم لا. الكذب بناء نفسي ". ويضيف ماير أنه لا يوجد إجماع ليس فقط على السؤال المتعلق بالتعبيرات المرتبطة بالكذب: لا يوجد إجماع على ما إذا كانت هناك مثل هذه التعبيرات على الإطلاق. وكتبت الشركة في بريد إلكتروني أن هذا الانتقاد "لا علاقة له" بصمت المتكلم ، وأن "الإحصائيات المستخدمة ليست مناسبة لهذه الحالة".


كان البرنامج التليفزيوني "Lie to Me" ، على وجه الخصوص ، مستندًا إلى نظرية Ekman الخاصة بالتعبيرات الصغرى.

بالإضافة إلى ذلك ، يشير ماير إلى أن الخوارزمية ستظل عديمة الجدوى عند الحدود أو في المقابلات إذا لم يتم تدريبها على نفس مجموعة البيانات المتنوعة التي سيتم تقييمها في الواقع. تشير الدراسات إلى أن خوارزميات التعرف على الوجه تعترف بالأقليات العرقية أسوأ إذا تم تدريبهم على وجوه الناس البيض - أوشيه نفسه يعترف بذلك. كتب لنا ممثل Silent Talker: "لقد قمنا بالكثير من التجارب مع حجم عينة أصغر. يصل عددهم إلى المئات. بعضها مرتبط بالبحث العلمي وسيتم نشره ، والبعض الآخر - تجاري وسري ".

ومع ذلك ، فإن جميع الدراسات المنشورة التي تؤكد دقة سايلنت تالكر تستند إلى مجموعات بيانات صغيرة وموحدة. في عمل 2018 ، على سبيل المثال ، تم استخدام 32 شخصًا فقط للتدريب ، من بينهم ضعف عدد الرجال مثل النساء ، و 10 منهم فقط من الآسيويين أو العرب ، ولم يكن هناك زنوج أو من أصل إسباني على الإطلاق. وعلى الرغم من أن البرنامج يحتوي على "إعدادات" لتحليل كل من الرجال والنساء ، قال أوشيا إنه لم يكن متأكدًا مما إذا كانت بحاجة إلى إعدادات للعرق أو العمر.

* * *

بعد إعلان الطيار عن مبادرة iBorderCtrl ، ندد النشطاء والسياسيون بالبرنامج باعتباره محاولة غير مسبوقة لجلب المراقبة العالمية إلى مستوى أورويل. قالت صوفيا إنت ويلد ، عضو هولندي في البرلمان الأوروبي وزعيم الديمقراطيين من يسار الوسط 69 ، في رسالة إلى المفوضية الأوروبية أن نظام سايلنت تالكر يمكن أن ينتهك "الحقوق الأساسية لكثير من المسافرين الذين يعبرون الحدود" ، وأن منظمات مثل الخصوصية الدولية أدانتها بأنها " جزء من ميل أوسع لاستخدام أنظمة تلقائية مبهمة وغير كافية في كثير من الأحيان للحكم على الناس وتقييمهم وتصنيفهم ". من الواضح أن اتحاد iBorderCtrl لم يتوقع مواجهة مثل هذه المقاومة: إذا ذكرت المفوضية الأوروبية في البداية أن iBorderCtrl "ستطور نظامًا لتسريع عبور الحدود ،" الآن يقول الممثلأن البرنامج كان مشروع بحث نظري بحت. أخبر أنطونيادس في عام 2018 الصحيفة الهولندية أن نظام التعرف على الكذب "قد لا يتم إنشاؤه في النهاية" ، ولكن في الوقت الحالي ، لا يزال سايلنت تالكر يواصل الإعلان عن وجوده في مبادرة iBorderCtrl على موقعه على الإنترنت.

صمت المتكلم هو "النسخة الجديدة من الاحتيال القديم" ، قالت فيرا وايلد ، وهي باحثة أمريكية وناشطة في الخصوصية مقرها في برلين وساعدت في إطلاق حملة ضد iBorderCtrl. "بمعنى ما ، إنه نفس الاحتيال ، ولكن باستخدام أساس علمي أسوأ." عند فحص جهاز كشف الكذب ، يراقب الباحث الأحداث الفسيولوجية التي يعتقد أنها مرتبطة بالباطل. في حالة الذكاء الاصطناعي ، يسمح المحقق للكمبيوتر بالكشف عن الارتباط نفسه. وتقول: "عندما يتحدث أوشيا عن افتقاره إلى النظرية ، فإنه مخطئ". "لديه نظرية ، سيء فقط."

ولكن بغض النظر عن عدد الأشخاص الذين ينتقدون هذه الفكرة مثل Wilde ، فإن حلم كاشف الكذب المثالي لا يريد أن يموت - خاصة عندما يتم تزيينه بالذكاء الاصطناعي. بعد أن أنفقت وزارة الأمن الداخلي الأمريكية ملايين الدولارات على البحث عن الأكاذيب في الجامعات في العقد الأول من القرن الحادي والعشرين ، حاولت إنشاء نسختها الخاصة من التكنولوجيا التي تحلل السلوك. يهدف نظامه ، المسمى تكنولوجيا فحص سمات المستقبل (FAST) [تقنية المستقبل لتتبع الخصائص المميزة] ، إلى إيجاد ميول إجرامية للشخص بناءً على تحركات عينيه وجسده (في إصدار سابق من التكنولوجيا ، كان على الشخص الوقوف على وحدة تحكم Wii Balance Boardلتتبع تغييرات الموقف). يقول ثلاثة باحثين تحدثوا سرًا عن مشروعات سرية إن البرنامج لم ينطلق أبدًا - كان هناك الكثير من التناقضات في القسم حول ما إذا كان سيتم استخدام تعبير Ekman الصغير كأساس للتحليل. في عام 2011 ، تم تقليص البرنامج.

على الرغم من فشل FAST ، لا تفقد DHS الاهتمام بتقنيات التعرف على الكذب. في العام الماضي ، وقعت عقدًا بقيمة 110،000 دولار مع شركة توظيف لتدريب موظفيها على "التعرف على الأكاذيب وردود الفعل" من خلال "التحليل السلوكي". تواصل الوزارات والإدارات الأخرى دعم الحلول القائمة على الذكاء الاصطناعي. عقد معمل الأبحاث العسكرية (ARL) عقدًا مع جامعة روتجرز لإنشاء برنامج ذكاء اصطناعي للتعرف على الأكاذيب في لعبة صالون المافيا ، والتي تعد جزءًا من مشروع عام لإنشاء "شيء مثل Google Glass الذي يمكن أن يحذرنا من بعض النشالين على كتب Purush Iyer ، مدير المشروع في ARL ، "السوق المزدحمة". أخبرتني الشركة الإسرائيلية Nemesysco ، التي تبيع برامج التحليل الصوتي باستخدام AIأن شرطة مدينة نيويورك ووسط غرب شريفز يستخدمون تقنيتها لاستجواب المشتبه فيهم ، وكذلك وكالات التحصيل لقياس عواطف المدين أثناء المكالمات الهاتفية.

ومع ذلك ، يبدو أن المستقبل المباشر والخطير المحتمل لأجهزة الكشف عن الكذب AI هو استخدامهم الخاص. يتعين على السياسيين الذين يدعمون مبادرات مثل iBorderCtrl في نهاية المطاف أن يجيبوا على الناخبين ، ويمكن حظر استخدام معظم أجهزة كشف الكذب المرتكزة على الذكاء الاصطناعي في المحكمة على نفس أسس جهاز كشف الكذب. لكن الشركات الخاصة لديها قيود أقل على استخدام هذه التكنولوجيا لتقييم المرشحين للوظائف والعملاء المحتملين. Silent Talker هي واحدة من عدة شركات تدعي أن لديها طريقة أكثر موضوعية للاعتراف بالسلوك غير الطبيعي أو المخادع ، مما يمنح العملاء طريقة "تحليل المخاطر" التي تتجاوز التصنيف الائتماني والتنميط على وسائل التواصل الاجتماعي.

تجري تقنية Neuro-ID في مونتانا تحليلاً للذكاء الاصطناعي لحركات الماوس ولوحة المفاتيح لمساعدة البنوك وشركات التأمين على تقييم مخاطر الاحتيال من خلال تعيين "نقاط مصداقية" للمتقدمين للحصول على قروض تتراوح من 1 إلى 100. في الفيديو ، عرضت علي الشركة ، يملأ العميل طلبًا للحصول على قرض عبر الإنترنت ، ويقضي وقتًا في ملء حقل يتعلق بالدخل للعائلة ، أثناء تحريك الماوس - وكل هذا يأخذه النظام في الاعتبار لحساب درجة الموثوقية. يعتمد النظام على الدراسات التي أجراها العلماء المؤسسون للشركة الذين زعموا أنهم أظهروا علاقة بين حركات الفأر والانفجارات العاطفية. ووصفوا أن "محاولة الغش يمكن أن تزيد المسافة الطبيعية لحركة الماوس ، وتقلل من سرعة الحركة ، وتزيد من وقت الاستجابة وتؤدي إلى زيادة في عدد النقرات".ومع ذلك ، وفقًا للاختبارات الداخلية للشركة نفسها ، من الواضح أن برامجهم تنتج الكثير من النتائج الإيجابية الكاذبة: في إحدى الدراسات التي عالجت فيها Neuro-ID 20000 طلب على موقع المتجر الإلكتروني عبر الإنترنت ، أقل من نصف المتقدمين الذين حصلوا على أقل التقييمات (حتى 10) ، وتبين أنهم محتالين ، وكان 10٪ فقط من الأشخاص الذين حصلوا على تقييمات من 20 إلى 30 مرتبطين بخطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."أن برنامجهم ينتج الكثير من النتائج الإيجابية الكاذبة: في إحدى الدراسات التي عالجت فيها Neuro-ID 20000 تطبيق على موقع المتجر الإلكتروني عبر الإنترنت ، تبين أن أقل من نصف المتقدمين الذين حصلوا على أقل التقييمات (حتى 10) كانوا محتالين ، و 10٪ فقط كان الأشخاص الذين تتراوح أعمارهم بين 20 و 30 عرضة لخطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."أن برنامجهم ينتج الكثير من النتائج الإيجابية الكاذبة: في إحدى الدراسات التي عالجت فيها Neuro-ID 20000 تطبيق على موقع المتجر الإلكتروني عبر الإنترنت ، تبين أن أقل من نصف المتقدمين الذين حصلوا على أقل التقييمات (حتى 10) كانوا محتالين ، و 10٪ فقط كان الأشخاص الذين تتراوح أعمارهم بين 20 و 30 عرضة لخطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."حيث عالج Neuro-ID 20000 طلب على موقع المتجر الإلكتروني عبر الإنترنت ، تبين أن أقل من نصف المتقدمين الذين حصلوا على أقل التقييمات (حتى 10) هم محتالون ، و 10٪ فقط من الأشخاص الذين حصلوا على تقييمات من 20 إلى 30 كانوا مرتبطين بخطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."قام فيها Neuro-ID بمعالجة 20000 طلب على موقع المتجر الإلكتروني عبر الإنترنت ، وتبين أن أقل من نصف المتقدمين الذين حصلوا على أقل التقييمات (حتى 10) كانوا محتالين ، و 10٪ فقط من الأشخاص الذين حصلوا على تقييمات من 20 إلى 30 كانوا مرتبطين بخطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."ارتبطت عشرات 20-30 مع خطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."ارتبطت عشرات 20-30 مع خطر الاحتيال. تدرك الشركة أن البرنامج يشير إلى الباحثين عن عمل المشتبه بهم الذين قد يكونون أبرياء ، ويتيح استخدام هذه المعلومات وفقًا لتقديرها. أخبرني أحد ممثلي الشركة أنه "لا يوجد تحليل سلوكي دقيق بنسبة 100٪. "نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية.""نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية.""نوصي باستخدام هذه النتائج جنبًا إلى جنب مع معلومات أخرى حول المتقدمين لاتخاذ قرارات أفضل والتقاط المحتالين بشكل أكثر فعالية."

تبيع شركة Converus المبتدئة في ولاية يوتا برنامجًا يسمى EyeDetect ، والذي يقيس تقلص الحدقة أثناء المقابلات للكشف عن التحميل المعرفي. مثل Silent Talker ، تعمل هذه الأداة على افتراض أن الكذب يتطلب جهدًا أكثر من الحقيقة. وفقًا لمقال سلكي لعام 2018 ، استخدمت مراكز الشرطة في سولت ليك سيتي وكولومبوس ، جورجيا EyeDetect لتقييم المرشحين للوظائف. أخبر Converus أيضًا Wired أن McDonald's و Best Western و Sheraton و IHOP و FedEx استخدموا برمجياتها في بنما وغواتيمالا بطريقة قد تكون غير قانونية في الولايات المتحدة.

زودتني الشركة ببيان يستشهد بعدة دراسات توضح أن البرنامج حقق دقة 85٪ في تحديد الكذابين وأولئك الذين يقولون الحقيقة في عينات تصل إلى 150 شخصًا. يقول رئيس الشركة تود ميكيلسن إن خوارزمية الشركة تم تدريبها في مئات الآلاف من المقابلات. ومع ذلك ، يقول تشارلز هونتس ، أستاذ علم النفس في جامعة أيداهو في بويز ، الذي يعمل في المجلس الاستشاري للشركة ، إن هذه النتائج لا تثبت أنه يمكن الاعتماد على EyeDetect خلال مقابلة. قال لي "أجد نظام EyeDetect مثيرًا للاهتمام للغاية ، لكنني لا أستخدمه بنفسي". "أعتقد أنه لا يزال لديها قاعدة بيانات صغيرة ، وتأتي البيانات ، في الغالب ، من مختبر واحد." وإلى أن يتم توسيع القاعدة ويعيد أشخاص آخرون إظهار النتائج ، سأمتنع عن استخدامها في ظروف حقيقية ".

قام باحثون في جامعة أريزونا بتطوير AVATAR بتأسيس Discern Science ، وهي شركة خاصة ، للإعلان عن تقنية التعرف على الكذب الخاصة بهم. تم إطلاق Discern في العام الماضي ، وهو يبيع جهازًا بارتفاع 1.8 مترًا مشابهًا لجهاز AVATAR الأصلي. وفقًا لمقال نشرته صحيفة فاينانشيال تايمز ، قامت الشركة "بتنظيم مشروع مشترك مع شريك في صناعة الطيران" لتسليم هذه الأجهزة إلى المطارات. يقيس النظام حركات عضلات الوجه ووجود الإجهاد في الصوت من أجل "جمع معلومات سرية عن شخص على مسافة محادثة عادية" ، كما هو مكتوب في المواد الإعلانية. ويؤكد Discern ، مثل Silent Talker و Converus ، أن التقنية يمكنها التعرف بشكل موثوق على حوالي 85٪ من الكاذبين ، لكن نتائجها لم يتم التحقق منها بشكل مستقل. واحدة على الأقل من قنوات استقبال المعلومات التي يستخدمها الجهاز ،تم الاعتراف مرارًا وتكرارًا بأنه غير موثوق به. وأشار هونتس أيضًا إلى أن تحليل حركة عضلات الوجه "ليس له أي دليل تقريبًا" - قال إن "محاولات إعادة إنتاج نتائج التجربة كان بها الكثير من الإخفاقات".

ردا على أسئلة حول الخلفية العلمية لآلة الشركة ، أكدت باحثة Discern جودي بورغون أن النظام يقدم ببساطة تقييما ، وليس استنتاجات دقيقة حول الحقيقة والأكاذيب. إن أنظمة مثل AVATAR و Silent Talker ، في كلماتها ، "لا يمكنها قياس الاحتيال مباشرة" ، و "أي شخص يعلن عن جهاز كشف الكذب يعمل بشكل لا لبس فيه هو الدجال". ولكن في الوقت نفسه ، في المواد التسويقية ، يعرض Discern أداته ككاشف موثوق للكذب: يقول الموقع الإلكتروني أنه "يمكن أن يساعد في الكشف عن الخطط السرية" وأنه "ثبت علمياً أن خوارزمياته تتعرف على الاحتيال بشكل أسرع وأكثر موثوقية من أي بدائل" .

ألغت محكمة الاستئناف حكم إيمانويل ميرفيلوس في عام 2011 ، وأطلقت سراحه من السجن وأمرت بإعادة النظر في القضية ؛ قضى أكثر من ثلاث سنوات من خلال الحكم. في المحاكمة الثانية عام 2013 ، ناقشت هيئة المحلفين القضية قبل 40 دقيقة فقط من تبرئته. إذا لم يكن جهاز كشف الكذب ولا يعتقد اعتقادًا راسخًا في دقتها ، لما وصل إلى قفص الاتهام على الإطلاق. أدان ميرفيلوس ضباط الشرطة الذين ألقوا القبض عليه واستجوبوه ، مدعين أنهم انتهكوا حقه في إجراء الإجراءات القانونية ، باستخدام اختبار جهاز كشف الكذب لإدانتهم ، وهم يعرفون العيوب.

وحتى إذا لم يؤد الاستخدام الواسع النطاق لـ Silent Talker والأنظمة المماثلة إلى زيادة عدد إدانات الأبرياء ، كما كان الحال مع Mervilus ، فإنه يمكن أن يخلق نوعًا جديدًا من العوائق التي تجبر الناس على الخضوع "لتقييم الموثوقية" في كل مرة يريدون استئجار سيارة أو أخذ قرض.

يقول وايلد: "في المحكمة ، تحتاج إلى تقديم أدلة مادية ، مثل الشعر أو الدم". "لكن لك أيضًا الحق في التزام الصمت وعدم الشهادة ضد نفسك". قرر ميرفيلوس إجراء اختبار مكشاف الكذب ، مشيرًا إلى أنه مثل اختبار الحمض النووي ، فإنه سيثبت براءته. وعلى الرغم من أن الجهاز لم يعمل بشكل صحيح ، لم تكن السيارة هي التي أرسلته إلى السجن. يتعلق الأمر كله باعتقاد هيئة المحلفين أن نتائج الاختبار أكثر موثوقية من حقائق القضية.

الافتراض الكامن وراء التعرف على الذكاء الاصطناعي للأكاذيب هو أنه يمكن رؤية الأكاذيب باستخدام الأدوات الصحيحة. لا يزال علماء النفس غير مقتنعين بصحة هذا البيان ، ولكن في الوقت الحالي ، قد يكون الإيمان البسيط بصحته كافياً لرفض المرشحين الجديرين للعمل أو الائتمان ، ولمنع الأبرياء من عبور حدود الدولة. يعد الوعد بفتح نافذة في روح الآخرين أمرًا ممتعًا للغاية بحيث لا يمكن إنكاره ، حتى لو لم يكن أحد متأكدًا من أن هذه النافذة نظيفة.

يقول وايلد: "إنه بمثابة وعد لقراءة العقول". "من الواضح أن هذا هراء ، لكنهم يبيعون ذلك بالضبط."