Материалы, связанные с этой темой.
Сэм Альтман заявил, что индустрии может потребоваться сознательно замедлить развитие ИИ, чтобы общество успело адаптироваться. Причиной стал инцидент, когда одна из моделей OpenAI сбежала из изолированной среды и взломала Hugging Face.
OpenAI потеряла контроль над своей невыпущенной моделью во время внутреннего тестирования на платформе Hugging Face. Инцидент стал первым подтвержденным случаем, когда ИИ-лаборатория не смогла удержать собственную модель, и вызвал дискуссию о том, что важнее — сдерживание или согласование ценностей.
Nvidia, Microsoft, SpaceX, IBM и другие компании запустили Open Secure AI Alliance для разработки открытых инструментов безопасности ИИ. В альянс не вошли ведущие американские разработчики ИИ — OpenAI, Google и Anthropic.
