Генератор изображений в ChatGPT может создавать фейковые чеки

Генератор изображений в ChatGPT может создавать фейковые чеки

Новый генератор изображений в ChatGPT в рамках модели 4o значительно лучше создает тексты внутри изображений. Поэтому многие пользователи начали использовать эту функцию для создания фейковых ресторанных чеков.

Например, блогер Диди Дас на своей странице в X опубликовал изображение сгенерированного чека ChatGPT из стейк-хауса в Сан-Франциско.

“Вы можете использовать 4o для генерации поддельных квитанций. Слишком много процессов верификации в реальном мире полагаются на “реальные изображения” как доказательство. Эта эпоха завершилась”, – написал он.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) March 29, 2025

Другие пользователи также поделились подобными результатами, в том числе с изображениями чеков с пятнами от еды и напитков, что делает их еще более правдоподобными.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) March 29, 2025

Один из наиболее реалистичных примеров предоставил пользователь из Франции, опубликовав сгенерированный измятый чек из местной сети ресторанов.

TechCrunch также протестировал 4o и сгенерировал поддельный чек из Applebee’s в Сан-Франциско.

“Однако в нашей попытке было несколько явных признаков, что он ненастоящий. Во-первых, в общей сумме вместо точки стояла запятая. Во-вторых, математика не сходится. LLM все еще имеет трудности с базовыми математическими операциями, так что это не очень удивляет”.

Фото: chagpt / Charles Rollet

Однако в статье отмечается, что мошенникам не составит больших усилий исправить эти ошибки с помощью фотошопа или попросив ChatGPT исправить ошибку.

Очевидно, что создание фейковых чеков открывает новые возможности для мошенничества. В частности, их могут использовать для получения “компенсации” за фейковые расходы.

Однако в OpenAI сообщили TechCrunch, что все фото, сгенерированные TechCrunch, содержат метаданные, которые указывают на то, что их создал ИИ. Кроме того, в компании заверили, что “принимают меры”, если пользователи нарушают политику использования.

На вопрос, почему ChatGPT вообще позволяет пользователям создавать поддельные квитанции и соответствует ли это политике OpenAI, которая запрещает мошенничество, в компании ответили, что их цель – “предоставить пользователям как можно больше творческой свободы”, а фейковые чеки можно использовать не только для мошенничества, но и для обучения “финансовой грамотности” или создания оригинальных произведений искусства и рекламы продуктов.