Зірка Teen Marvel Ксочітл Гомес стала останньою жертвою глибокого фейкового порно. Однак, знайшовши відверто сексуальні глибокі фейки без згоди, які поширювалися на X, раніше Twitter, вона була збентежена, коли платформа не вжила заходів і не видалила їх.
Багато проблем виникло разом із розвитком штучного інтелекту, але глибоке фейкове порно є однією з найбільших проблем. Незважаючи на те, що дипфейки існують вже досить давно, розвиток технологій зробив їх доступнішими та переконливішими. Як наслідок, багато людей, особливо жінки, виявили, що їх образи були взяті або відтворені без їхньої згоди та використані в порнографічному вмісті. Це стало великою проблемою для жінок-знаменитостей, а також для звичайних жінок, які стикалися з тим, що їхню схожість використовували у відвертому сексуальному контенті для порнографії помсти, домагань і знущань. Існує також серйозне занепокоєння щодо використання дипфейків для зображення жорстокого поводження з дітьми.
На жаль, наразі немає федеральних законів проти глибокої фейкової порнографії без згоди, і лише кілька штатів мають законодавство, яке захищає громадян від цього. Багато жінок, які стали жертвами глибокої фейкової порнографії, не мають можливості боротися з нею через відсутність регулювання та беззаконня в Інтернеті. Більшість із них не мають фінансових ресурсів для судових позовів. Навіть такі знаменитості, як Скарлетт Йоханссон, заявили про марність намагатися боротися з дипфейками.
Один невеликий рівень захисту, який мають жінки, походить від платформ соціальних мереж, які заборонили deepfake та створене штучним інтелектом порно. Якщо ці сайти запровадять такі заборони, це ускладнить поширення цього шкідливого вмісту. Однак досвід Гомес показує, що соціальні мережі не дотримуються своїх правил.
Xochitl Gomez розповідає про свій досвід роботи з deepfake порно
(Аксель/Бауер-Гріффін/Гетті)
З'являючись у подкасті Тейлора Лотнера та його дружини, Стиснення , Хочітл Гомес (вона ж Америка Чавес) розповіла про свій досвід жертви глибокої фейкової порнографії. 17-річна дівчина розповіла, що знайшла відверті матеріали сексуального характеру, які поширювалися на X, раніше Twitter, але їй дуже важко їх видалити. X заборонив порнографію, згенеровану штучним інтелектом, ще в 2018 році та має політику проти відвертих зображень і відео сексуального характеру, а також оманливих засобів масової інформації та оголених тіл без згоди. Враховуючи, що зображення Гомес явно порушують правила X і що в цьому контенті зображена неповнолітня особа, можна було подумати, що платформа негайно вживе заходів.
Однак Гомес була шокована, коли виявила, що її команда вже намагалася вжити заходів проти вмісту, але безуспішно. Новини NBC повідомили що ще 19 січня 2024 року фотографії все ще можна було знайти на X, який не відповів на запити про коментарі. Гомес пояснила, що контент зробив її дивною і відчайдушно хотів, щоб його зняли, оскільки це не дуже добре виглядало для неї. Вона запитала, чому це так важко зняти? Це була вся моя думка з цього приводу: «Чому це дозволено?»
Зрештою, однак, вона змирилася, визнавши, що вміст просто не можна видалити, показавши, що вона просто намагається не думати про це та відкладає свій телефон, щоб вирішити цю проблему. Та питання, які вона поставила, залишаються дуже актуальними. чому невже так важко видалити цей вміст? Це морально осудливе та огидне, коли deepfake порно робиться з будь-якої особи без згоди. Це просто жахливо, коли йдеться про неповнолітніх. На X фактично циркулює дитяча порнографія, і платформа, як не дивно, нічого з цим не робить, хоча це має бути найнагальнішою проблемою, яку потрібно вирішити.
Навряд чи це звучить як складна ситуація, якщо особа повідомляє про матеріали сексуального характеру та повідомляє платформу, що вона не погоджувалася на це. Матеріал суперечить багатьом правилам веб-сайту. Що ще потрібно переглянути чи визначити? Це вже досить травматично для людини, щоб знайти такий вміст у соціальних мережах; найменше, що могли зробити ці платформи, це виконати свої запити щодо його видалення. Жодна особа, особливо неповнолітня, не повинна просто погоджуватися з тим, що вміст є, оскільки X та інші платформи соціальних медіа наполегливо й незрозуміло відмовляються захищати своїх користувачів.
(Вибране зображення: Axelle/Bauer-Griffin/FilmMagic/Getty)
