Могут ли лица, созданные искусственным интеллектом, вызывать доверие?
Лица искусственного интеллекта могут показаться очень реалистичными и заслуживающими доверия. Лица, созданные искусственным интеллектом, могут представлять для общества определенную потенциальную угрозу из-за тенденции находить их надежными, чем настоящие человеческие лица.
Могут ли лица, созданные искусственным интеллектом, вызывать доверие?
«Люди стали свидетелями невероятных достижений в области технологий и использования искусственного интеллекта для синтеза контента», – говорит психолог Софи Найтингейл, ведущий автор исследования из Университета Ланкастера в Соединенном Королевстве. «Искусственный интеллект особенно интересен, но также и достаточно тревожен».
Чтобы понять, как лица, сгенерированные ИИ, воспринимаются людьми, исследователи использовали самое современное компьютерное программное обеспечение для синтеза 400 «искусственных» лиц из реальных фотографий. Затем наняли участников, чтобы они оценили настоящие и искусственные лица по таким атрибутам, как достоверность лица. Специалисты попросили участников угадать, было ли лицо реальным или сгенерированным компьютером.
Интересно, специалисты обнаружили: людям, как правило, не удавалось отличить настоящее лицо от поддельного. Более того, респонденты склонны считать искусственные лица наиболее надежными.
«Помимо того, что наивные респонденты случайно определили, было ли лицо настоящим или синтетическим, было обнаружено, что дополнительное обучение и обратная связь лишь немного улучшили результаты», – говорит Найтингейл. «Возможно, самое интересное, что синтетические лица не только очень реалистичны, но и считаются наиболее надежными, чем настоящие лица. В результате разумно опасаться, что данные лица могут быть эффективными при использовании в гнусных целях».
Найтингейл предлагает две возможности, почему одни лица считаются наиболее надежными, чем другие. Первый связан со знакомством.
«Синтезированные лица больше похожи на обычные лица», – говорит Найтингейл. «Средний вид является артефактом, как метод синтеза отдает предпочтение средним лицам, поскольку он синтезирует лицо. Люди отдают предпочтение средним или типичным лицам, потому что визуализация дает ощущение узнаваемости. Следовательно, возможно, именно чувство знакомства вызывает в среднем большее доверие к синтетическим лицам».
Другое исследование показывает, что люди считают лица из своей культуры наиболее заслуживающими доверия, что также придает правдоподобие гипотезе знакомства.
Улыбка может способствовать достоверной разнице. Данный тезис подтверждается и в других исследованиях, где эмоционально нейтральные лица воспринимаются как заслуживающие доверия, когда черты лица напоминают выражение счастья.
Исследователи были удивлены тем, что обучение людей различиям между лицами, сгенерированными ИИ, и реальными лицами мало помогло улучшить производительность.
«В настоящее время не существует надежного способа для обычного человека определить, было ли лицо синтезировано искусственным интеллектом», – говорит Найтингейл. «Однако продолжим проводить исследования, чтобы попытаться помочь».
Следующим шагом авторов будет рассмотрение, какие вычислительные методы могут быть разработаны для различения реальных изображений от синтетических, а также тщательное обдумывание, какие этические барьеры следует установить, чтобы защитить людей от опасностей, связанных с новыми технологиями.
«Учитывая быстрый рост сложности и реализма синтетических медиа (т.е. дипфейков), предлагаем, кто создает новые технологии, предусмотреть в своих технологиях разумные меры предосторожности, чтобы смягчить некоторые потенциальные неправомерные действия с точки зрения мошенничества и дезинформации», – добавляет Найтингейл. «В широком смысле рекомендуем глобальному исследовательскому сообществу рассмотреть возможность использования передового опыта для тех, кто работает в данной области, чтобы помочь людям справиться со сложными этическими проблемами, связанными с исследованиями такого типа».
