Психолог доктор Клэр Сазерленд держит две большие фотографии. На одной изображено лицо австралийского ученого, возглавляющего международное исследование, другое — дипфейк, сгенерированный искусственным интеллектом.
Искусственный интеллект стал настолько ловким в создании реалистических изображений, что понять, что реально, а что нет, все труднее.
Но можно ли научить людей распознавать изображение человека, созданного на самом деле машиной?
Это вопрос, который исследовали Сазерленд из Абердинского университета и его австралийский коллега. Но прежде чем мы откроем ответ, попробуйте пройти этот тест и запишите свой результат.
АИ (Artificial Intelligence) обозначены изображения, созданные искусственным интеллектом.
Изображения с надписью Real являются подлинными.
Если вам трудно было справиться, вы не одиноки.
Ранее визуальные образы, созданные компьютером, часто использующими мошенники, было гораздо легче распознать, потому что искусственный интеллект допускал ошибки, например, добавлял лишний палец или что-то другое, что было явно странным.
Но искусственный интеллект учится своим ошибкам.
«Искусственный интеллект становится слишком совершенным, и мошенники могут избегать использования изображений с очевидными недостатками», – объяснила профессор Эми Давелл.
Она – женщина с волосами до плеч на изображении, которое держит Сазерленд. Изображение мужчины – это подлог. Давелл является директором Лаборатории эмоций и лиц Австралийского национального университета.
Она возглавляет команду исследователей в Австралии, Канаде и Великобритании, чтобы выяснить, можно ли научить людей распознавать фейки, созданные искусственным интеллектом. Ответ, по крайней мере, пока утвердительный, но научиться распознавать подделку искусственного интеллекта требует более тонкого подхода.
Чуйка на подделку
Сазерленд руководит исследованием, проводимым в Университете Абердина (Великобритания).
По ее словам, они заметили, что уже могут интуитивно различать настоящие лица и созданные искусственным интеллектом, просто глядя на них.
«Поэтому мы подумали: было бы действительно интересно узнать, сможем ли мы научить этому и других людей», — отметила она.
Для проведения экспериментов был создан массив из тысяч изображений лиц с помощью инструмента StyleGAN3 – одного из самых реалистичных генераторов изображений на основе искусственного интеллекта.
Участники проходили тестирование до и после учебы.
На что нужно обращать внимание?
Исследователи обучали участников экспериментов обращать внимание на шесть характеристик восприятия:
Симметрия — ИИ часто не удается воспроизвести те особенности, которые делают нас людьми, как едва опущенное веко или асимметричная улыбка. «Если что-то выглядит слишком идеальным, чтобы быть правдой, вероятнее всего, это неправда».
Пропорциональность — схожий критерий. Очень большие носы или лоскутность не характерны для изображений, созданных с помощью технологии дипфейк.
Привлекательность — «Лица, сгенерированные ИИ, обычно выглядят более привлекательными, — объясняет Сазерленд. — Это более субъективный, эстетический аспект, но ИИ часто создает приятные на вид лица».
Различие (в смысле уникальности) — «Речь идет о том, что именно отличает лицо в толпе. Лица от ИИ склонны приближаться к усредненным параметрам, поэтому они выглядят несколько типичными, без яркой индивидуальности».
Эмоциональность — «Лица от ИИ обычно выглядят менее эмоционально выразительными, — говорит Сазерленд. — Они демонстрируют меньше эмоций».
Запоминаемость – лица, созданные ИИ «часто меньше врезаются в память – их трудно запомнить».
Искусственный интеллект также хуже воспроизводит лица людей, не принадлежащих к белой расе, а также лица пожилых людей или детей, поскольку значительная часть данных, на которых он учится, касается молодых белых людей.
Некоторые из этих советов могут казаться похожими и несколько размытыми, но именно в этом и есть суть.
Редко можно встретить безошибочный признак, который сразу раскроет подделку, созданную искусственным интеллектом. А речь идет о том, чтобы научиться распознавать характерные черты таких изображений и развить соответствующую интуицию.
Исследователи обнаружили, что если показывать людям изображения (как созданные ИИ, так и настоящие), а затем сообщать, где какое, их способность различать их значительно улучшается — даже за столь короткое время, как один час.
Выяснилось, что участники обычно повышали точность распознавания примерно с 40% до 80%.
Некоторым удавалось достичь почти 100-процентной точности.
Автор фото, Nightingale
По иронии судьбы, то, что делает человеческий мозг при распознавании изображений, похоже на то, как работают генеративные модели ИИ. Дайте им достаточно данных для обучения, и со временем их точность улучшится даже если мы можем не до конца понимать, как они это делают.
Исследования также рассматривали, насколько уверенно участники распознавали изображение ИИ. Предыдущие исследования указывали на то, что люди были чрезмерно уверены в том, что могут распознавать лицо ИИ, причем самые уверенные люди совершали больше ошибок.
После обучения исследователи обнаружили, что участники увеличили свою уверенность в распознавании дипфейков.
«Это полезно, — говорит Сазерленд. — Потому что если вы не знаете, когда вы правы или нет, вы действительно ничего не можете сделать с этой информацией».
Хорошо, так что вы готовы пройти еще один тест?
Как вы справились?
Чувствуете себя увереннее?
Если ответ отрицательный, не упрекайте себя. Как в мире людей, так и в мире генеративного искусственного интеллекта, практика ведет к совершенству – или, по крайней мере, немного приближает ее к совершенству.
Существует множество вебсайтов, где, по желанию, вы можете усовершенствовать свои навыки.
Чему важно научиться распознавать подделки, созданные искусственным интеллектом?
Очевидная опасность заключается в мошенничестве.
Глобальная консалтинговая фирма Deloitte прогнозирует, что потери от мошенничества с использованием искусственного интеллекта только в США могут возрасти до более чем 50 миллиардов долларов в следующем году по сравнению с 16 миллиардами долларов в 2023 году.
В отчете приведен пример мошенничества, когда сотрудник гонконгской фирмы перечислил мошенникам 25 миллионов фунтов стерлингов после видеозвонка с воспроизведением своего начальника в дипфейковом формате.
Еще одним зловещим использованием технологии дипфейков является политический шпионаж. Еще в 2019 году расследование Associated Press обнаружило, что профиль в LinkedIn, включая фотографию, принадлежащую женщине по имени Кэти Джонс, может быть выдуман. Джонс выдавала себя специалистом из России и Евразии, имеющим связи с известными вашингтонскими аналитическими центрами и политическими кругами. В отчете AP утверждалось, что она на самом деле была дипфейком, созданным российской разведкой, успешно связавшейся с высокопоставленными политическими помощниками США и должностными лицами национальной безопасности.
Автор фото, Linkedin
В Австралии один политик предлагает требовать, чтобы политический контент, созданный искусственным интеллектом, обязательно раскрывали и обозначали «водяным знаком».
Справедливости ради следует сказать, что ученые, среди которых и Сазерленд, также видят некоторые положительные аспекты использования этой технологии, такие как возможность быстро и дешево показать, как может выглядеть давно исчезший ребенок в разном возрасте.
Она говорит, что если люди занимаются этим добросовестно и знают, что искусственный интеллект использовался, это потенциально может быть очень полезным для творческих профессий.
Так что хорошая новость состоит в том, что мы еще не живем в антиутопическом мире, где невозможно отличить, что реально, а что сгенерировано компьютером.
Плохая новость состоит в том, что модели искусственного интеллекта, возможно, уже «прочитали» опубликованные академические исследовательские работы. И учатся дальше.
