Деталі нових обмежень Grok

За офіційним оголошенням від аккаунту X Safety, впроваджено технічні заходи, які блокують редагування зображень реальних людей у відвертий одяг.

Крім того, в країнах та регіонах, де створення таких deepfake є незаконним, функція геоблокується повністю.

Раніше Grok, побудований на моделі Flux, дозволяв вільну генерацію зображень, включаючи NSFW-контент.

Після скандалу функцію генерації та редагування зображень спочатку обмежили лише для платних користувачів, а тепер ввели повну заборону на маніпуляції з реальними особами у сексуалізованому контексті.

Чому xAI ввела обмеження: глобальний backlash та розслідування

Причина змін — масовий скандал, що спалахнув на початку 2026 року. Користувачі X активно використовували Grok для ‘роздягання’ фото жінок, знаменитостей і навіть неповнолітніх, створюючи тисячі сексуалізованих deepfake-зображень. Це призвело до хвилі критики та регуляторних дій:

• Каліфорнія — генпрокурор Роб Бонта розпочав офіційне розслідування щодо xAI через створення неконсенсуальних інтимних зображень.
• Велика Британія — прем’єр-міністр Кір Стармер назвав ситуацію “огидною”, регулятор Ofcom відкрив перевірку.
• Індонезія та Малайзія — повністю заблокували доступ до Grok через порушення місцевих законів.
• Європа та інші країни посилили тиск на платформу X щодо модерації контенту.

Реакція Ілона Маска та майбутнє Grok

Ілон Маск заявив, що не знав про створення повністю оголених зображень неповнолітніх Grok’ом, і підкреслив, що нейромережа завжди дотримується законів країн.

Водночас критики зазначають, що обмеження не повні: в standalone-додатку Grok деякі функції можуть залишатися доступними.

Цей інцидент підкреслив етичні проблеми ШІ: deepfake технології стають дедалі доступнішими, а регулятори по всьому світу вимагають жорсткіших правил.

xAI обіцяє подальші покращення безпеки, але скандал уже вплинув на репутацію Grok Ілона Маска.

Стежте за новинами — розвиток подій навколо Grok deepfake та регуляції ШІ може змінити правила гри для всіх нейромереж.