Искусственный интеллект может создавать настолько реалистичные человеческие лица, что люди не могут отличить их от настоящих и на больше доверяют фальшивым лицам.
Сгенерированные лица настолько убедительны, что могут обмануть даже опытных наблюдателей. Их можно легко загрузить в интернете и использовать для интернет-мошенничества и поддельных профилей в социальных сетях.
«Мы должны быть обеспокоены, потому что эти синтетические лица невероятно эффективны для гнусных целей, например, для таких вещей, как порноместь или мошенничество», говорит Софи Найтингейл из Ланкастерского университета в Великобритании.
Программы искусственного интеллекта, называемые генеративно-состязательными сетями, или GAN, могут научиться создавать поддельные изображения, которые все менее и менее отличимы от реальных изображений, путем противопоставления двух нейронных сетей друг другу.
Софи Найтингейл и ее коллега Хани Фарид из Калифорнийского университета в Беркли попросили 315 участников, набранных на краудсорсинговом сайте, сказать, смогут ли они отличить подборку из 400 поддельных фотографий от 400 фотографий реальных людей. Каждый набор состоял из 100 человек из каждой из четырех этнических групп: белых, чернокожих, восточноазиатских и южноазиатских.
В этой группе показатель точности составил 48,2% – чуть хуже, чем случайность. Вторая группа из 219 участников прошла обучение распознаванию лиц, сгенерированных компьютером. Эта группа имела показатель точности 59%, но разница незначительна, говорит Софи Найтингейл.
Людям было труднее всего отличить белые лица от настоящих, возможно, потому, что программа синтеза была обучена на гораздо большем количестве белых лиц.
Исследователи также попросили отдельную группу из 223 участников оценить выбранные лица по уровню их достоверности по шкале от 1 до 7. Они оценили фальшивые лица в среднем на 8% более надежными, чем настоящие – небольшая, но существенная разница, заметила Софи Найтингейл. Это может быть связано с тем, что синтетические лица больше похожи на «средние» человеческие лица, а люди с большей вероятностью будут доверять обычным лицам, говорит она.
Четыре лица, которые были оценены как самые ненадежные, были настоящими, тогда как три наиболее заслуживающих доверия лица были фальшивыми.
«Нам нужны более строгие этические принципы и больше правовых рамок, потому что неизбежно найдутся люди, которые захотят использовать эти изображения во вред, и это вызывает беспокойство», говорит Софи Найтингейл. По ее словам, чтобы снизить эти риски, разработчики могут добавлять водяные знаки на свои изображения, чтобы помечать их как фальшивые. «На мой взгляд, всё уже достаточно плохо. Будет только хуже, если мы не сделаем что-то, чтобы остановить это», заключила она.
