Новости нейросетей | Chatgpt, Claude, Gemini ... VK
🧱 ggml дорос до 1.0 и сразу устроил резню
🧱 ggml дорос до 1.0 и сразу устроил резню
Главная либа под капотом llama.cpp пустила под нож (github.com/ggml-org/g...) свой устаревший публичный API и древние операции DIAG_MASK. Протокол RPC тоже апнули, так что старых пиров безжалостно реджектят и выкидывают на мороз.
Зато над скоростью упоролись на славу: затронули CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU и Hexagon. Вдобавок завезли поддержку FP8 и квантованные matmul в несколько строк под батчи от 2 до 24.