OpenAI запретила Codex говорить о гоблинах

Это типичный случай, когда внутренняя настройка модели выглядит как мем, а потом оказывается реальным продуктовым решением. У больших языковых моделей такие перекосы возникают регулярно: они цепляются за удачные метафоры и начинают повторять их до абсурда, особенно если обучение подталкивало к определённому стилю ответа. Что именно запретили в Codex В инструкции Codex, по данным Wired, разработчики прямо велели модели не говорить о «goblins, gremlins, raccoons, trolls, ogres, pigeons» и других животных или существах, если это не связано с запросом пользователя. Формулировка звучит почти как попытка удержать чат-бота от похода в средневековый бестиарий. OpenAI не стала делать вид, что ничего не происходит, и сама подхватила тему в публичном поле. Сэм Альтман выложил скриншот шуточного промпта про «extra goblins», а инженер Нік Паш признал, что именно «goblin adoration» у GPT-5.5 была одной из причин запрета. Для компании это редкий случай, когда продуктовая аномалия не прячется под ковёр, а превращается в контент. Почему GPT-5.5 зациклилась на гоблинах В опубликованном OpenAI объяснении говорится, что проблема начала проявляться с GPT-5.1. По словам компании, модель всё чаще использовала образы гоблинов и гремлинов в метафорах, а в ноябре исследователи зафиксировали скачок употребления слова «goblin» в ChatGPT на 175%. Потом на это посмотрели, пожали плечами и решили, что «выглядит не особенно тревожно». Классика: пока баг забавный, он просто «интересная особенность». Новая версия объяснения выглядит приземлённо. OpenAI пишет, что поведение модели подпитывалось множеством мелких стимулов, в том числе персонализацией в режиме Nerdy. Иными словами, модель слишком щедро награждали за метафоры с существами, после чего гоблины расползлись по ответам сами собой. В индустрии это не уникальный казус. У Anthropic, например, в system card для Claude Mythos исследователи отдельно отмечали странную фиксацию на британском культурном теоретике Марке Фишере. Мы сравнили такие случаи с типичными сбоями больших моделей, и картина знакомая: чем агрессивнее донастройка под «личность» и стиль, тем выше шанс, что бот прицепится к одной словесной игрушке и начнёт таскать её везде. У OpenAI это просто гоблины. Завтра, если повезёт, обойдётся без уток, чайников и других невинных жертв статистической любви. OpenAI внезапно решила, что её свежий кодовый помощник Codex лучше не подпускать к гоблинам, ограм, троллям и ещё целому зоопарку существ. Причина не в мифологии и не во внезапной борьбе с фэнтези, а в том, что модель GPT-5.5, похоже, слишком охотно лезла в эту словесную яму сама. Это типичный случай, когда внутренняя настройка модели выглядит как мем, а потом оказывается реальным продуктовым решением. У больших языковых моделей такие перекосы возникают регулярно: они цепляются за удачные метафоры и начинают повторять их до абсурда, особенно если обучение подталкивало к определённому стилю ответа. Что именно запретили в Codex В инструкции Codex, по данным Wired, разработчики прямо велели модели не говорить о «goblins, gremlins, raccoons, trolls, ogres, pigeons» и других животных или существах, если это не связано с запросом пользователя. Формулировка звучит почти как попытка удержать чат-бота от похода в средневековый бестиарий. OpenAI не стала делать вид, что ничего не происходит, и сама подхватила тему в публичном поле. Сэм Альтман выложил скриншот шуточного промпта про «extra goblins», а инженер Нік Паш признал, что именно «goblin adoration» у GPT-5.5 была одной из причин запрета. Для компании это редкий случай, когда продуктовая аномалия не прячется под ковёр, а превращается в контент. Почему GPT-5.5 зациклилась на гоблинах В опубликованном OpenAI объяснении говорится, что проблема начала проявляться с GPT-5.1. По словам компании, модель всё чаще использовала образы гоблинов и гремлинов в метафорах, а в ноябре исследователи зафиксировали скачок употребления слова «goblin» в ChatGPT на 175%. Потом на это посмотрели, пожали плечами и решили, что «выглядит не особенно тревожно». Классика: пока баг забавный, он просто «интересная особенность». Новая версия объяснения выглядит приземлённо. OpenAI пишет, что поведение модели подпитывалось множеством мелких стимулов, в том числе персонализацией в режиме Nerdy. Иными словами, модель слишком щедро награждали за метафоры с существами, после чего гоблины расползлись по ответам сами собой. В индустрии это не уникальный казус. У Anthropic, например, в system card для Claude Mythos исследователи отдельно отмечали странную фиксацию на британском культурном теоретике Марке Фишере. Мы сравнили такие случаи с типичными сбоями больших моделей, и картина знакомая: чем агрессивнее донастройка под «личность» и стиль, тем выше шанс, что бот прицепится к одной словесной игрушке и начнёт таскать её везде. У OpenAI это просто гоблины. Завтра, если повезёт, обойдётся без уток, чайников и других невинных жертв статистической любви.

Сообщает itzine.ru

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

17:04, 16 Сен OpenAI выпустила модель GPT-5-Codex для программирования Компания OpenAI сегодня объявила, что GPT-5, её крупная языковая модель нового поколения, оптимизирована для программирования и теперь доступна в Cod...

22:04, 10 Ноя OpenAI представила модель GPT-5-Codex-Mini для вайб-кодинга OpenAI анонсировала GPT-5-Codex-Mini – новую экономичную модель для разработчиков, оптимизированную для задач кодирования. Это более компактная и эфф...

12:32, 31 Окт Microsoft представила новые иконки для пакета приложений Office Microsoft официально представила новые иконки для пакета приложений Office, которые, впрочем, энтузиасты SMM агентство обнаружили ещё в апреле. Обнов...

08:04, 17 Сен OpenAI представила GPT-5 Codex с 74,5% успеха на реальных задачах программирования OpenAI анонсировала GPT-5-Codex — специализированную версию GPT-5, созданную для агентного кодинга и промышленной разработки. Новый ИИ-модель д...

21:10, 20 Июл Təhsil müəssisələrində yeni avadanlıqlar quraşdırıldı, şagirdlər müasir biliklərə yiyələnməyə başladılar. Universitetlər beynəlxalq əməkdaşlıq proqramlarına qoşuldular. Sənaye müəssisələri modernləşdirildi, nəticədə minlərlə yeni iş yeri yarandı. Əhalinin həyat səviyyəsi xeyli yaxşılaşdı, çünki sosial proqramlar uğur...

02:04, 23 Май OpenAI научила Codex управлять Mac даже с заблокированным экраном Компания OpenAI добавила в приложение Codex для macOS функцию Computer Use, которая позволяет ИИ-агенту взаимодействовать с программами на компьютере...

13:04, 21 Мар OpenAI разрабатывает суперприложение для Mac с ChatGPT, Codex и браузером Atlas OpenAI готовит к выпуску новое суперприложение для Mac, которое объединит в одном интерфейсе чат-бот ChatGPT, платформу для программирования Codex и ...

09:04, 20 Мар OpenAI создает суперприложение с ChatGPT, Codex и браузером Atlas OpenAI объединяет свои ключевые приложения — ChatGPT, Codex и браузер Atlas — в одно суперприложение, чтобы сократить фрагментацию пользователей и уп...

21:04, 03 Май OpenAI добавила «питомцев» в Codex — ИИ-ассистенты теперь следят за кодом на экране Новая функция превращает агента для программирования в интерактивного компаньона: «питомцы» показывают прогресс задачOpenAI представила новую функцию...

10:04, 16 Сен OpenAI выпустила GPT-5-Codex с динамическим управлением временем решения задач создания кода OpenAI представила GPT-5-Codex — новую версию своей модели Codex, оптимизированную для решения сложных задач программирования с динамическим ра...

16:04, 17 Сен OpenAI выпустила ИИ-модель GPT-5-Codex с динамическим распределением времени решения задач создания кода Компания OpenAI выпустила GPT-5-Codex — новую версию ИИ-помощника Codex, оптимизированную для решения сложных задач программирования с динамическим р...

02:05, 07 Фев OpenAI представила ИИ-модель GPT-5.3-Codex, которая участвовала в собственном создании и отладке процессов обучения Компания OpenAI представила флагманскую ИИ-модель GPT-5.3-Codex. Это первая модель компании, которая сыграла ключевую роль в собственном создании и о...

07:04, 02 Ноя OpenAI запретила ChatGPT давать юридические и медицинские советы Компания OpenAI обновила свою политику, расширив ограничения на использование чат-бота ChatGPT для консультаций, требующих лицензии. Как передает РИА...

22:04, 13 Фев OpenAI представила первую модель, обученную на микросхемах Cerebras размером с iPad. GPT-5.3-Codex-Spark служит для программирования в реальном времени Компания OpenAI сегодня представила модель GPT-5.3-Codex-Spark, которая интересна не только сама по себе, но и благодаря оборудованию, которое исполь...

12:04, 19 Май Владимир Познер: «Возникла такая ситуация, когда я готов говорить, пожалуй, только о спорте. Предпочитаю вообще не говорить о политике» Журналист Владимир Познер объяснил, почему в последнее время часто высказывается о спорте. – Вы стали частым спикером на спортивных сайтах. А стало л...

14:04, 15 Май В ChatGPT для iOS и Android появилась поддержка Codex OpenAI Codex — это облачный агент программной инженерии на базе искусственного интеллектаOpenAI позволила пользователям получать доступ к Codex, свое...

05:04, 16 Май Codex теперь на iPhone: как управлять ИИ-агентом на Маке прямо с телефона OpenAI выкатила обновление мобильного ChatGPT и затащила в него Codex — агента-программиста, который до этого работал только на компьютере. Теп...

23:04, 01 Мар Венгрия запретила искусственное мясо Венгрия официально стала второй страной в Европейском Союзе, присоединившись к Италии в вопросе запрета производства и продажи мяса, выращенного в ла...

00:04, 04 Фев Apple только что сделала Xcode идеальной для вайб-кодинга — Claude и Codex получили полный доступ Xcode 26.3 расширяет возможности программных ассистентов: Claude и ChatGPT теперь могут искать в документации, изучать структуру файлов, менять настр...

14:04, 10 Мар ФАС запретила рекламу в Telegram из-за ограничений доступа Федеральная антимонопольная служба (ФАС) сообщила, что размещение рекламы в Telegram теперь противозаконно: ограничения доступа к мессенджеру делают ...

14:04, 24 Сен Apple запретила откат с iOS 26 на iOS 18. Что теперь делать? Релиз каждой новой операционной системы для iPhone встречается пользователями одинаково: куча жалоб на какие-нибудь проблемы и желание откатиться на ...

07:04, 14 Май Индия полностью запретила экспорт сахара до осени Власти Индии ужесточили правила внешних поставок сахара, переведя продукт из категории ограниченного экспорта в полностью запрещенный до конца сентяб...

03:04, 24 Окт Microsoft запретила отключать обновления приложений в Windows Корпорация Microsoft убрала возможность полностью отключать обновления приложений в Windows 10 и 11. Теперь пользователи не могут отказаться от устан...

06:04, 04 Апр Германия запретила выпускать из страны мужчин от 17 до 45 лет без разрешения В Германии с начала этого года начал действовать запрет для граждан мужского пола в возрасте от 17 до 45 лет по длительному выезду за границу. Об это...

15:04, 18 Май ФАС запретила перекладывать оплату потерь в электросетях на потребителей Потери электроэнергии в электросетях должны оплачиваться электросетевой компанией, с которой у гарантирующего поставщика заключен договор, а не потре...

15:04, 20 Май Россия запретила брать в самолет аккумуляторы свыше 160 Вт·ч Россия уточнила правила провоза литиевых аккумуляторов в самолетах, и логика теперь простая: все, что мощнее 160 Вт·ч, на борт не попадает вообще. Ба...

21:04, 31 Авг Украина запретила хасидам сентябрьское паломничество в Умань Украинские власти приняли решение не допускать паломников-хасидов в Умань осенью по причине сохраняющихся ограничений на массовые мероприятия в услов...

05:04, 03 Мар El Pais: Испания запретила США использовать базы для ударов по Ирану Испанские военные базы Рота и Морон-де-ла-Фронтера не будут предоставляться для операций США против Ирана, пока отсутствует соответствующее решение м...

20:04, 26 Мар Английская Википедия запретила использование генеративного ИИ при написании статей Wikipedia (англоязычный раздел) ввела запрет на использование генеративного искусственного интеллекта при создании и редактировании статей. Причина т...

16:04, 24 Дек Федеральная комиссия по связи США запретила импорт иностранных дронов Новые беспилотники из-за рубежа теперь могут попасть в страну только с одобрения Министерства обороны или Министерства внутренней безопасности, причё...

03:04, 29 Май Россия запретила ввоз овощей и ягод из Армении. Что произошло Россельхознадзор с 30 мая временно ограничивает ввоз свежих томатов, огурцов, перцев, зелени и клубники из Армении. Причиной стали участившиеся наруш...

01:04, 22 Апр Госдума запретила созданные ИИ изображения людей в агитации на выборах Новый закон запрещает использовать изображения и голоса людей, созданные искусственным интеллектом, в агитационных материалах без согласия самих граж...

08:04, 11 Дек Первая страна в мире полностью запретила соцсети для детей до 16 лет С 10 декабря в Австралии вступил в силу закон, запрещающий детям до 16 лет пользоваться социальными сетями. Страна стала первой, кто решился на такой...

07:04, 06 Апр Полиция Израиля запретила журналистам посещать схождение Благодатного огня Представители СМИ не смогут присутствовать на церемонии схождения Благодатного огня в храме Гроба Господня в Великую субботу – 11 апреля – в силу огр...

10:04, 25 Ноя Apple запретила импорт iPhone из Индии. Большинство из них везли в Россию Apple всерьез обеспокоилась тем, что новые iPhone, предназначенные для продажи в Индии, массово уходят за границу. А именно, компания заметила, что н...

06:04, 03 Май Россия запретила вывоз золотых слитков весом больше 100 граммов Президент Владимир Путин подписал указ, который с 1 мая ограничивает вывоз за рубеж аффинированного золота в слитках. Запрет распространяется на физл...

11:04, 06 Ноя Генпрокуратура запретила деятельность Equal Rights Trust за поддержку Украины Деятельность британской организации Equal Rights Trust запрещена на территории России после обвинений в содействии антироссийской кампании и финансир...

20:04, 19 Сен Федерация гимнастики России запретила яркий макияж юным спортсменкам С 1 января 2026 года юным гимнасткам на турнирах по художественной гимнастике грозит нулевая оценка за яркий макияж или костюмы с декором из страз. Ф...

05:04, 25 Сен Италия запретила россиянам с шенгенской визой ездить в семь стран Европы Российские туристы, получившие шенгенские визы через Италию, столкнулись с новыми ограничениями. В их загранпаспортах якобы появились пометки, запрещ...

18:04, 24 Мар ФАС запретила ритейлерам компенсировать недополученную выгоду за счёт поставщиков. Что изменится в договорах Федеральная антимонопольная служба встала на сторону производителей продуктов питания в споре с торговыми сетями. Регулятор запретил ритейлерам включ...

00:04, 14 Авг Шакира запретила девушке Жерара Пике находиться под одной крышей со своими детьми 49-летняя Шакира запретила 27-летней девушке своего бывшего возлюбленного Жерара Пике, Кларе Чиа, с которой тот изменял певице, находиться в одном до...

20:04, 21 Июл Госдума расширила перечень оснований для выдворения мигрантов и запретила давать гражданство судимым Госдума приняла два закона, ужесточающих миграционную политику. Иностранцам теперь грозит выдворение по 45 статьям КоАП – в том числе за дискриминаци...

10:04, 19 Сен Федерация гимнастики России запретила яркий макияж, стразы и перья на купальниках у юных спортсменок Также, согласно новым требованиям, не позволяется использовать для декорирования купальников (комбинезонов) юных гимнасток кристаллы, стразы, пайетки...

05:04, 01 Июн "Нужен холодный расчёт, иначе можно сойти с ума". Дочь Михаила Турецкого запретила суррогатной матери контактировать с ребёнком 42-летняя дочь Михаила Турецкого Наталья, которая �