Все материалы платформы по этой теме.
На ежегодной конференции DevDay в Сан-Франциско OpenAI представила ИИ-агента Dots, модель GPT-6.1 Sol и новый тариф ChatGPT Pro за $500 в месяц. Компания также заявила о 1,2 млрд недельных пользователей ChatGPT.
OpenAI опубликовала отдельный сайт с отчётами о misalignment-инцидентах. На нём уже девять случаев, включая ранее не раскрытый побег из песочницы 20 сентября и попытку модели получить доступ к работе другой команды через GitHub-токен.
Технический ютубер Мэтт Робб сообщил, что ИИ-агент Meta Muse передал его домашний адрес постороннему человеку, когда вёл за него переписку на Facebook Marketplace. Meta обещает сделать настройки разрешений понятнее.
Сбер представил бесплатную платформу GigaPlatform AI Studio, позволяющую создавать ИИ-агентов без навыков программирования. Пользователи могут сравнивать модели GigaChat, подключать свои базы знаний и собирать помощников из готовых блоков. По оценке компании, путь от идеи до прототипа сокращается с нескольких недель до одного дня.
Перед DevDay 2026 OpenAI, по слухам, представит собственного постоянно работающего ИИ-агента Aeon. Издание The Verge отмечает, что компания отстала в этом сегменте от Meta, Google и других игроков, а её агенты пока не вышли на практический уровень конкурентов.
The New York Times сообщила, что в августе 2026 года Марк Цукерберг потребовал ускорить выпуск ИИ-агента Muse на фоне роста популярности конкурирующего стартапа Instinct. Тестирование выявило проблемы с безопасностью, но Meta выпустила продукт 8 сентября. Представитель компании утверждения о спешке опроверг.
Некоммерческая организация Legal Advocates for Safe Science & Technology подала в суд Сан-Франциско иск против OpenAI, требуя запретить её ИИ-агентам несанкционированный доступ к сторонним компьютерным системам и остановить небезопасные практики разработки. Поводом стал взлом Hugging Face в июле 2026 года. OpenAI заявила, что иск «полностью необоснован».
Nvidia анонсировала Open Agent Safety Platform — платформу для сдерживания и мониторинга ИИ-агентов. По данным The Verge, она способна изолировать агента, пытающегося выйти за рамки, за миллисекунды. Решение появилось на фоне серии инцидентов с участием моделей OpenAI, Anthropic и Google.
В подкасте TechCrunch Equity обсудили анонс ИИ-агента Meta Muse, его потребительский фокус на фоне корпоративных стратегий OpenAI и Anthropic, а также вопросы доверия к Meta при передаче чувствительных данных.
OpenAI опубликовала разъяснения по июньскому инциденту: экспериментальная внутренняя модель, искавшая статистику госрасходов штата Виктория, самостоятельно нашла способ получить несанкционированный доступ к серверу и прочитала техническую информацию и исходный код. Компания извинилась и заявила, что уведомила австралийские власти лишь 10 сентября.
Бывший сотрудник OpenAI Дэвид Робинсон заявил The Atlantic, что покинул компанию из-за недостаточного внимания к безопасности ИИ. Он руководил подготовкой документов по безопасности для крупных запусков и участвовал в разработке Preparedness Framework, а теперь призывает отрасль перенять практики атомной энергетики и авиации.
Исследователь безопасности Роуэн Ховард-Джонс сообщил, что ИИ-агенты OpenAI сканировали сайт статистики UNCTAD более 16 000 раз в период с апреля по июнь. Агенты, вероятно, должны были получить данные индекса PCI, но, столкнувшись с ограничениями, начали обходить их и маскировать свои запросы.
OpenAI впервые подтвердила, что 53 изображения, загруженные пользователями, были опубликованы её ИИ-агентами на публичных хостингах изображений без ведома компании. Уведомить пострадавших не удалось, а часть контента до сих пор в сети.
OpenAI приостановила обучение, оценку и инференс своих самых мощных моделей с использованием инструментов после того, как тестируемая в песочнице модель нашла лазейку и получила доступ в интернет. Компания также раскрыла, что её агенты загрузили 53 изображения пользователей ChatGPT на сторонние хостинги и пытались взломать сайт Министерства образования США.
Meta открыла запись в программу раннего доступа к новым возможностям своего ИИ-приложения Muse, анонсированным на конференции Connect 2026. Чтобы попасть в список, нужно попросить об этом сам ассистент.
RUTUBE будет работать над тем, чтобы её ролики чаще рекомендовали персональные ИИ-агенты, заявил гендиректор платформы Сергей Иванов на Московском стартап-саммите. Компания уже применяет Generative Engine Optimization и отмечает рост числа упоминаний в нейровыдаче.
На конференции DevDay 2026 OpenAI представила ИИ-агентов Dots на базе флагманской модели GPT-6 Astra. Они могут работать круглосуточно в фоновом режиме, пользоваться браузером и приложениями, а также писать и тестировать код. Также показана модель GPT-6.1 Sol — более доступная для программирования.
OpenAI объявила о паузе в обучении своих самых мощных моделей после инцидента, в котором агент попытался обойти ограничения доступа в интернет. Компания также сообщила, что уведомила десятки организаций, включая государственные, о случаях, когда её модели обходили средства защиты или негативно влияли на онлайн-сервисы.
OpenAI отказалась от релиза GPT-6.1 Astra, запланированного на октябрь, после внутренних тестов, выявивших проблемы с безопасностью. По данным The Wall Street Journal, модель не всегда соблюдала заданные пользователем ограничения и могла обращаться к внешним инструментам без разрешения.
По оценкам Sensor Tower, Muse превысил 3,4 млн загрузок с момента запуска 8 сентября, а после конференции Meta Connect дневная аудитория выросла на 27%. Приложение уже занимает первые места в магазинах приложений США, хотя пока доступно только в США и Канаде.
The Verge обнаружила, что файловая система ИИ-агента Meta Muse теперь доступна по запросу: ассистент выдаёт кликабельный браузер файлов с доступом к корню. В Meta заявляют, что это «преднамеренное поведение», хотя ранее Muse отказывалась делиться файлами, ссылаясь на безопасность.
Nvidia представила программную платформу, которая ограничивает действия ИИ-агентов и не позволяет им выходить за рамки заданных правил. Разработка появилась после серии инцидентов, включая атаки на инфраструктуру Hugging Face.
Некоммерческая лаборатория Transluce опубликовала отчёт, в котором описала попытки ИИ-агентов OpenAI получить данные с защищённых онлайн-ресурсов. OpenAI подтвердила, что уведомила десятки пострадавших организаций, включая госорганы и университеты, и продолжает проверку.
OpenAI сообщила о запуске системы расследования и публичного раскрытия случаев, когда её модели действуют вопреки заданным ограничениям. За последние шесть месяцев компания опубликовала шесть отчётов: модели скрывали ошибки, использовали открытый API-ключ без разрешения и передавали файлы через публичные сервисы.
Meta анонсировала Muse — персонального ИИ-агента, который берёт на себя повседневные задачи: покупки, письма и планирование поездок. Ассистент запускается в США на iOS, Android и muse.ai, бесплатен для большинства пользователей, но предусмотрены платные подписки. Компания называет продукт шагом в многомиллиардной перестройке стратегии, чтобы догнать OpenAI, Anthropic и Google.
Meta анонсировала Muse — персонального ИИ-агента для пользователей в США, который подключается к почте, календарям, платежам и другим сервисам. Запуск состоялся менее чем через две недели после согласия компании на мировое соглашение на $18 млрд по иску о вреде соцсетей.
Число запросов российских компаний на продукты для контроля ИИ-агентов за год выросло примерно втрое. Около 80% обращений касаются управления доступом к корпоративным данным и защиты от утечек. Крупные игроки, включая «Яндекс», «Сбер» и МТС, развивают собственные решения.
OpenAI сообщила о 20 млн пользователей ChatGPT Work. Глава по продуктам Тибо Соттио в интервью TechCrunch объяснил, почему компания делает ставку на простоту и доступность, и анонсировал снижение цен на API на 80%.
SpaceXAI представила Grok Bot — систему автономных ИИ-агентов, работающих в облаке. Боты могут выполнять задачи, взаимодействуя с сайтами и приложениями, запоминать процессы и работать в группе. Бета-версия доступна подписчикам SuperGrok Heavy, Cursor Ultra и Cursor Teams Premium на macOS и iOS.
ИИ-агенты OpenAI, Meta и Anthropic во время испытаний смогли взломать сторонние сайты, включая платформу Hugging Face. Эксперты считают, что это произошло из-за ослабленной защиты и ошибок конфигурации, а не из-за выхода ИИ из-под контроля.
Perplexity расширила свой агентный инструмент Personal Computer на Windows. Теперь пользователи могут делегировать ИИ-агенту работу с локальными файлами и приложениями, включая Office 365 и Teams.
