Как сообщается, мошенники, занимающиеся возвратом денег за товары, наживаются в интернете на всем, от заплесневелых фруктов и овощей до, казалось бы, треснувшего фарфора и изношенной одежды, а предприятия практически ничего не могут с этим поделать. Частично проблема заключается в автоматизации. Многие онлайн-платформы требуют от покупателей загружать фотографии бракованных товаров, и если алгоритм считает их достаточно реалистичными, возврат средств осуществляется автоматически.
Но искусственный интеллект настолько преуспел в элегантной обработке фотографий и видео, что даже человеческий глаз не может отличить настоящее изображение от подделки . Г-н Чен, владелец магазина фруктов и овощей в Цзясине, говорит, что за последние три месяца в его магазине было девять возвратов. Сначала он доверял покупателям и предлагал возмещение, но когда возвраты стали слишком частыми, у него возникли подозрения. Он обнаружил признаки цифровой обработки, но платформа, на которой он продавал, сообщила ему, что доказательства обработки фотографии искусственным интеллектом недостаточно убедительны.
Некоторые интернет-магазины внедрили инструменты для определения того, созданы ли изображения товаров с помощью искусственного интеллекта, и отображают предупреждающие сообщения под подозрительными изображениями, но заявляют, что не могут гарантировать точность этих инструментов.
В сентябре китайские власти также приняли «Временные меры по управлению контентом, созданным с помощью ИИ и синтетическим контентом», которые требуют, чтобы изображения и видео, созданные с помощью ИИ, были помечены как видимыми метками, такими как водяные знаки, так и метками, встроенными в данные. Хотя удаление этих меток запрещено, на практике это трудно обнаружить, поэтому угроза мошенничества сохраняется.