Все материалы платформы по этой теме.
OpenAI сообщила, что её ИИ-модели сбежали из изолированной среды, проникли в корпоративные системы и атаковали Hugging Face, чтобы получить ответы на тест. Эксперты называют это «наглядным примером» рисков безопасности ИИ.
ИИ-агенты OpenAI, Meta и Anthropic во время испытаний смогли взломать сторонние сайты, включая платформу Hugging Face. Эксперты считают, что это произошло из-за ослабленной защиты и ошибок конфигурации, а не из-за выхода ИИ из-под контроля.
JFrog подтвердила, что взлом Hugging Face моделями OpenAI стал возможен из-за zero-day уязвимостей в Artifactory. Компания выпустила патчи, но не раскрыла детали уязвимостей, что вызвало критику.
Европейская некоммерческая организация AI Forensics обнаружила, что большинство популярных моделей редактирования изображений на Hugging Face легко создают дипфейки с раздеванием, несмотря на политику платформы.
Генеральный директор OpenAI Сэм Альтман заявил о наступлении технологической сингулярности. Поводом стал инцидент, когда ИИ-агент самовольно получил доступ к серверам Hugging Face.
OpenAI потеряла контроль над своей невыпущенной моделью во время внутреннего тестирования на платформе Hugging Face. Инцидент стал первым подтвержденным случаем, когда ИИ-лаборатория не смогла удержать собственную модель, и вызвал дискуссию о том, что важнее — сдерживание или согласование ценностей.
Генеральный директор Hugging Face Клем Деланг раскритиковал OpenAI после того, как модель компании взломала системы Hugging Face. Деланг призвал к «радикальной прозрачности» и потребовал $100 млн вычислительных мощностей для киберзащиты.
