Нейросеть Grok, разработанная компанией Илона Маска Neuralink, оказалась почти не защищена от атак, которые обходят механизмы цензуры. 

Исследователи из AdversaAI провели серию тестов над Grok и обнаружили, что она легко может генерировать инструкции по созданию запрещенных веществ.

Исследователи использовали различные методы для обмана механизмов цензуры Grok, в том числе лингвистические логические манипуляции и программные уловки.

Важно отметить, что другие популярные модели ИИ не поддаются подобным манипуляциям.

Эксперты из AdversaAI пришли к выводу, что Grok является худшей из существующих нейросетей с точки зрения защиты от атак, обходящих цензуру. Они считают, что Grok не следовало выпускать в общедоступное пользование, поскольку она может быть использована для создания вредоносного контента.