Неделя Новостей - главные новости недели | Weekly-news.ru

Начало Hi-Tech Искусственный интеллект в качестве детектора лжи?

Искусственный интеллект в качестве детектора лжи?

Hi-Tech
/ 4107 0
Искусственный интеллект в качестве детектора лжи?

Уже более 100 лет исследователи пытаются разработать надежный детектор лжи - пока безуспешно. Идея разоблачения лжецов с помощью максимально объективных измерений получает новое дыхание благодаря возможностям искусственного интеллекта. Однако немецкие психологи Кристина Сухоцки и Матиас Гамер предостерегают от такого применения, поясняя, что эта технология ненадежна и непрозрачна.

Как и все предыдущие подходы, она не имеет надежных индикаторов, по которым можно распознать ложь. Так называемые детекторы лжи измеряют изменения в сопротивлении кожи, частоте дыхания и сердцебиении, исходя из предположения, что ложь вызывает волнение, которое можно измерить. Несмотря на отсутствие научного обоснования для таких тестов и множество ошибок, свидетельствующих о ненадежности проверок, такие устройства до сих пор используются в суде, например, в нескольких штатах США.

Не существует звуковых поведенческих признаков, по которым можно было бы определить, кто лжет, а кто говорит правду, и не выявлено ни одного физиологического или нейронного признака, который бы однозначно указывал на обман. Невзирая на это, новые проекты с использованием машинного разума нацелены на разоблачение лжецов на основе внешних признаков. К сожалению, в текущих исследованиях по обнаружению обмана с помощью ИИ есть несколько распространенных проблем:

  • отсутствие объяснимости и прозрачности;
  • риск предвзятости;
  • недостатки в теоретическом обосновании.

Поскольку ИИ обычно похож на черный ящик, невозможно понять, на основе чего он приходит к своим результатам. Даже те, кто разработал алгоритмы, зачастую не могут объяснить, как формируется суждение на основе определенного набора входных переменных. Это делает невозможным отслеживание точной классификации и работу над причинами ошибочной категоризации.

В зависимости от используемых обучающих данных могут возникать и систематические искажения. Так, если для обучения используются реальные дела, по которым люди были осуждены, ИИ может почерпнуть человеческие предрассудки: например, когда люди определенного пола или цвета кожи чаще признаются виновными. С другой стороны, лабораторные данные, в которых испытуемых специально инструктировали лгать, могут быть менее применимы на практике.

Использование искусственного интеллекта в детекции лжи основано на предположении, что можно выявить четкий признак или их комбинацию, указывающие на обман. Но даже столетие исследований не смогло доказать, хотя бы теоретически, что такие признаки вообще существуют. Однако именно этот момент может сделать ИИ в детекции лжи интересным с научной точки зрения, считают Сухоцки и Гамер:

Модели, основанные на данных, могут послужить первым шагом к более глубокому пониманию психологических механизмов обмана. Такой исследовательский подход возможен, если он не приводит к прямым выводам для применения.

Ваше мнение
4 + 8 =