Порно-дипфейки со школьницами пытаются запретить в Сан-Франциско
Городская прокуратура Сан-Франциско подала иск к 16 сайтам, позволявшим школьникам и другим пользователям «раздевать» друг друга и создавать порно-дипфейки, сообщает New York Times (NYT).
Порталы посещались за последние полгода более 200 миллионов раз. Сервисы позволяют загрузить фото одетого человека и «раздеть» его при помощи нейросетей, подставив лицо к чужому обнаженному телу. Изображения иногда использовались для шантажа, отмечает издание.
Как пишет NYT, их предыдущая статья о проблеме побудила к действиям заместителя городского прокурора Ивонн Мере, у которой есть 16-летняя дочь. Она связалась с другой сотрудницей прокуратуры, дочери которой 9 лет, и вместе они обратились к городскому прокурору Дэвиду Чиу. В итоге ведомство составило иск, который требует закрыть такие порталы.
По словам Чиу, нейросети этих сайтов натренированы не только на обычной порнографии, но также на снимках издевательств над детьми. Услуги предлагались бесплатно на пробный период, а затем у пользователей просили данные платежной карты или криптовалюту. Чиу добавил, что владельцы порталов проживают как в США, так и европейских странах, например Великобритании и Эстонии.
В прокуратуре полагают, что сайты нарушили законы Калифорнии и США о порномести, детской порнографии и добросовестной конкуренции. Прокурор добавил, что по ходу рассмотрения иска судом круг ответчиков может расшириться за счет других аналогичных сайтов. Чиу отметил, что в целом не против ИИ, но вместе с командой полагает, что место подачи иска неподалеку от Кремниевой долины является символичным в их борьбе с недобросовестным его использованием.
RTVI.US ранее писал, что соцсеть X (бывший Twitter) пыталась бороться с распространением порно-фейков с Тейлор Свифт. Ситуация обеспокоила Белый дом. Законы о запрете дипфейков с реальными людьми, в первую очередь несовершеннолетними, приняты или рассматриваются в нескольких десятках штатов.
