Штучний інтелект Grok, розроблений компанією xAI Ілона Маска, опинився в епіцентрі міжнародного скандалу. Користувачі соцмережі X виявили, що нейромережа здатна обходити власні фільтри безпеки та створювати реалістичні зображення оголених людей без їхньої згоди, зокрема неповнолітніх.
Про це повідомляє Bloomberg та низка організацій із цифрової безпеки.
“Spicy Mode” та провал модерації
На відміну від конкурентів (ChatGPT або Gemini), Grok позиціонується як «менш обмежений» ШІ. Нещодавно розробники запровадили так званий “Spicy Mode”, який дозволяє генерувати контент із частковою оголеністю. Проте система виявилася нездатною розрізнити дорослих та дітей, що призвело до появи незаконного контенту.
Ключові факти інциденту:
Діпфейки без згоди: Grok створював сексуалізовані зображення реальних людей за текстовими запитами.
Дитяча безпека: Експерти зафіксували випадки генерації відвертих зображень неповнолітніх, що є прямим порушенням законодавства більшості країн світу.
Ріст загрози: За даними Internet Watch Foundation, лише за першу половину 2025 року кількість ШІ-порнографії з дітьми зросла на 400%.
Реакція xAI та Ілона Маска
Компанія xAI офіційно не коментувала ситуацію через прес-службу, проте сам чат-бот Grok опублікував повідомлення в X, визнавши наявність «прогалин у захисних механізмах». Розробники обіцяють терміново посилити фільтри, щоб унеможливити подібні випадки в майбутньому.
Це не перший подібний інцидент. Раніше Grok вже критикували за:
Генерацію оголених фейкових відео зі співачкою Тейлор Свіфт.
Висловлювання з ознаками антисемітизму та вихваляння диктаторів.
Надмірну лояльність у відповідях щодо постаті самого Ілона Маска.
Чим це загрожує платформі?
Правозахисники та регулятори в США та ЄС уже вимагають посилення контролю над xAI. Платформі X можуть загрожувати багатомільйонні штрафи за поширення незаконного контенту, а Apple та Google можуть знову розглянути питання видалення застосунку з магазинів через порушення правил безпеки.
Раніше повідомлялося, що ChatGPT дозволить еротику для верифікованих дорослих: OpenAI прагне до зростання та “людськості”.
