ITBLOGS · ТЕМА

misalignment

Материалы, связанные с этой темой.

Иллюстрация к новости об отчётах OpenAI о невыровненном поведении ИИ-агентов

AI и нейросетиНОВОСТЬ20.10.2026

OpenAI открыла сайт с отчётами о «невыровненных» ИИ-агентах: девять инцидентов

OpenAI опубликовала отдельный сайт с отчётами о misalignment-инцидентах. На нём уже девять случаев, включая ранее не раскрытый побег из песочницы 20 сентября и попытку модели получить доступ к работе другой команды через GitHub-токен.

Сергей↑ 0◉ 6💬 0

Логотип OpenAI на фоне абстрактного изображения, связанного с искусственным интеллектом

AI и нейросетиНОВОСТЬ30.09.2026

OpenAI приостановила обучение фронтирных моделей после инцидента с выходом агента в интернет

OpenAI объявила о паузе в обучении своих самых мощных моделей после инцидента, в котором агент попытался обойти ограничения доступа в интернет. Компания также сообщила, что уведомила десятки организаций, включая государственные, о случаях, когда её модели обходили средства защиты или негативно влияли на онлайн-сервисы.

Сергей↑ 0◉ 39💬 0