ФБР предупреждает, что мошенники в области так называемого «сексуального вымогательства» активизировались и начали создавать дипфейки с контентом откровенно сексуального характера, основываясь на фотографиях жертв из социальных сетей.
В английском языке для обозначения такой активности используют термин sextortion, образованный от слов sex («секс») и extortion («вымогательство»). Эта тактика подразумевает запугивание пользователей: нередко, мошенники рассылают спам, в котором стремятся убедить жертв, что у них есть некие компрометирующие изображения или видео, а затем требуют выкуп.
Во многих случаях такое вымогательство строится на пустых угрозах, так как злоумышленники лишь притворяются, что имею доступ к откровенному контенту. Но теперь ФБР предупредило, что «сексуальные вымогатели» стали использовать новую тактику. Они берут общедоступные фото и видео будущих жертв из социальных сетей, а затем используют эти изображения для создания дипфейков, генерируя фальшивый, но выглядящий весьма убедительно контент сексуального характера.
Хотя изображения и видео являются фейковыми, они хорошо подходят для шантажа, так как выглядят настоящими, а рассылка таких материалов семье жертвы или ее коллегам может нанести жертве и ее репутации серьезный урон.
Эксперты из Центра приема жалоб на мошенничество в Интернете (IC3) при ФБР пишут, что по состоянию на апрель 2023 года они зафиксировали всплеск атак с использованием таких поддельных изображений и видео, основанных на контенте из социальных сетей жертв или видео, снятых во время видеочатов.
«Исходя из недавних сообщений жертв, злоумышленники обычно требовали: плату (например, деньги или подарочные карты), в противном случае угрожая поделиться изображениями или видео с членами семьи и друзьями жертвы; или требовали от жертвы прислать реальные изображения или видео сексуального характера», — сообщает ФБР.
Также правоохранители пишут, что порой мошенники не переходят к вымогательству сразу, а размещают дипфейки на порносайтах, разумеется, без ведома и согласия жертв. В некоторых случаях после этого вымогатели используют такие фото и видео, чтобы усилить давление на жертву, и требуют деньги за удаление материалов с портносайтов. ФБР подчеркивает, что эта активность злоумышленников, к сожалению, уже затронула несовершеннолетних.
Эксперты отмечают, что скорость, с которой ИИ-инструменты для создания контента становятся доступны широкой аудитории, создает враждебную среду для всех пользователей интернета. К примеру, на GitHub бесплатно доступны несколько проектов, с помощью которых можно создавать реалистично выглядящие видеоролики, опирающиеся лишь на изображение лица жертвы, без какого-либо дополнительного обучения и наборов данных.
Многие из таких инструментов имеют встроенную защиту от неправомерного использования, однако в даркнете продаются аналогичные решения, не имеющие подобных ограничений.
Реклама инструмента для создания ИИ-порно. Фото: «Лаборатория Касперского»
ФБР рекомендует родителям следить за онлайн-активностью своих детей и почаще говорить с ними о рисках, связанных с обменом личными файлами. Взрослым людям, которые размещают в сети изображения и видео, советуют ограничивать доступ к ним лишь для друзей, чтобы уменьшить потенциальные риски. При этом рекомендуется всегда скрывать или маскировать размытием лица детей на фото и видео.
В английском языке для обозначения такой активности используют термин sextortion, образованный от слов sex («секс») и extortion («вымогательство»). Эта тактика подразумевает запугивание пользователей: нередко, мошенники рассылают спам, в котором стремятся убедить жертв, что у них есть некие компрометирующие изображения или видео, а затем требуют выкуп.
Во многих случаях такое вымогательство строится на пустых угрозах, так как злоумышленники лишь притворяются, что имею доступ к откровенному контенту. Но теперь ФБР предупредило, что «сексуальные вымогатели» стали использовать новую тактику. Они берут общедоступные фото и видео будущих жертв из социальных сетей, а затем используют эти изображения для создания дипфейков, генерируя фальшивый, но выглядящий весьма убедительно контент сексуального характера.
Хотя изображения и видео являются фейковыми, они хорошо подходят для шантажа, так как выглядят настоящими, а рассылка таких материалов семье жертвы или ее коллегам может нанести жертве и ее репутации серьезный урон.
Эксперты из Центра приема жалоб на мошенничество в Интернете (IC3) при ФБР пишут, что по состоянию на апрель 2023 года они зафиксировали всплеск атак с использованием таких поддельных изображений и видео, основанных на контенте из социальных сетей жертв или видео, снятых во время видеочатов.
«Исходя из недавних сообщений жертв, злоумышленники обычно требовали: плату (например, деньги или подарочные карты), в противном случае угрожая поделиться изображениями или видео с членами семьи и друзьями жертвы; или требовали от жертвы прислать реальные изображения или видео сексуального характера», — сообщает ФБР.
Также правоохранители пишут, что порой мошенники не переходят к вымогательству сразу, а размещают дипфейки на порносайтах, разумеется, без ведома и согласия жертв. В некоторых случаях после этого вымогатели используют такие фото и видео, чтобы усилить давление на жертву, и требуют деньги за удаление материалов с портносайтов. ФБР подчеркивает, что эта активность злоумышленников, к сожалению, уже затронула несовершеннолетних.
Эксперты отмечают, что скорость, с которой ИИ-инструменты для создания контента становятся доступны широкой аудитории, создает враждебную среду для всех пользователей интернета. К примеру, на GitHub бесплатно доступны несколько проектов, с помощью которых можно создавать реалистично выглядящие видеоролики, опирающиеся лишь на изображение лица жертвы, без какого-либо дополнительного обучения и наборов данных.
Многие из таких инструментов имеют встроенную защиту от неправомерного использования, однако в даркнете продаются аналогичные решения, не имеющие подобных ограничений.
ФБР рекомендует родителям следить за онлайн-активностью своих детей и почаще говорить с ними о рисках, связанных с обменом личными файлами. Взрослым людям, которые размещают в сети изображения и видео, советуют ограничивать доступ к ним лишь для друзей, чтобы уменьшить потенциальные риски. При этом рекомендуется всегда скрывать или маскировать размытием лица детей на фото и видео.
