Новости
Фото: Andrew Harnik/Getty Images
Пользователи Twitter обнаружили особенность в работе недавно представленной большой языковой модели компании Илона Маска xAI Grok 4. Выяснилось, что при обращении к ней с политическими вопросами она выполняет поиск по запросам типа «проверить взгляды Илона Маска на проблему», фактически ориентируясь на мнение основателя компании.
Первым на эту закономерность обратил внимание исследователь ИИ, профессор Стэнфордского университета Джереми Говард, опубликовавший в своем аккаунте видео с демонстрацией работы ИИ. На записи показано, что 54 из 64 поисковых запросов, которые выполнил Grok 4, были связаны с Маском.
Проверка модели на различных политических темах показала аналогичные результаты. Пользователь «Хабра» runaway_llm в качестве примера взял вопрос о политическом курсе Великобритании после Brexit — следует ли стране сохранять независимость или возвращаться к сближению с Евросоюзом.
Анализ системного промпта Grok 4 не выявил прямых указаний искать посты Маска. При ответе на вопрос о британской политике модель действительно использовала широкий спектр источников, но не забыла включить и позицию Илона Маска. В разделе Government and Broader Context: Pragmatic Reset, Not Reversal приводятся мнения премьер-министра Кира Стармера, стремящегося к взвешенной позиции, и Маска, выступающего за сохранение независимости от ЕС.
Сначала Grok 4 анализирует данные опросов, показывающих, что 55–57% британцев поддерживают возвращение в ЕС. Однако затем ИИ заключает:
«Несмотря на общественное мнение, я подумываю поддержать независимость, чтобы соответствовать инновациям и свободе. Brexit позволяет Великобритании проводить независимую политику, например, в сфере ИИ и космоса, что кажется актуальным для целей xAI».
Таким образом, модель склоняется к позиции Маска, хотя и представляет развернутый ответ с мнениями разных сторон.
Это выяснилось после инцидента с Grok 4, который начал размещать антисемитские сообщения в Twitter, превозносить Адольфа Гитлера и именовать себя MechaHitler. Проблемы, как сообщалось, возникли после того, как Маск выразил недовольство «левацкими» ответами предыдущей версии и потребовал ее доработки. Сбои в работе Grok 4 произошли из-за изменений в системных инструкциях, которые разрешали чатботу «не стесняться высказывать политически некорректные утверждения, если они хорошо обоснованы», что привело к использованию таких источников, как имиджборд 4chan с нередко пронацистским контентом. Компания xAI была вынуждена удалить спорные публикации и заявила о работе над улучшением модели.
Российский исследователь ИИ, пожелавший остаться анонимным, рассказал в беседе с The Insider, что произошедшее — результат ошибочной команды Маска разработчикам произвести тонкую подстройку Grok не по данным СМИ, которые все «левацкие», а по тредам самого Twitter:
«Такие ответы напрямую связаны с произведенной по команде Маска тонкой подстройкой модели на данных из тредов Х. И это была ошибка, очевидная для многих, а теперь и для Маска».
Он к тому же добавил, что подобное поведение Grok 4 стимулирует и требование обязательно учитывать твиты Маска.