Фото из Instagram* обрабатываются ИИ без разрешения

В июле компания Instagram* (принадлежит организации, признанной экстремистской и запрещенной в РФ) анонсировала запуск Muse Image — ИИ-модели для создания изображений. Инструмент позволяет превращать чужие фотографии в новые картинки, не запрашивая разрешения у их авторов.

Muse Image, по заявлению компании, может интерпретировать сложные запросы, использовать фотографии в качестве входных данных и давать пользователям возможность редактировать сгенерированные изображения с помощью эскизов или описаний. На базе этой модели будут работать более 30 новых эффектов для Stories.

Базовое использование Muse Image бесплатно, но за дополнительные возможности планируется взимать плату. Также анонсирована предварительная версия Muse Video — модели для генерации видео, как сообщает Reuters.

Главная проблема новой функции в том, что любой пользователь Instagram* теперь может пропускать через ИИ любые фотографии, включая чужие. Владельцы изображений не получают уведомлений о том, что их снимки были обработаны.

Это создает широкие возможности для создания дипфейков. Достаточно ввести ник человека в Instagram*, чтобы сгенерировать его изображение в помещениях или ситуациях, в которых он никогда не находился.

В настройках мобильного приложения можно отключить новую ИИ-функцию. Однако это не удалит уже сгенерированные кем-то изображения. Отключение доступно только через приложение на телефоне.

Instagram* признан в России экстремистской организацией, его деятельность на территории страны запрещена.