Новости нейросетей | Chatgpt, Claude, Gemini и тд MAX
🧱 ggml дорос до 1.0 и сразу устроил резню
🧱 ggml дорос до 1.0 и сразу устроил резню
Главная либа под капотом llama.cpp пустила под нож свой устаревший публичный API и древние операции DIAG_MASK. Протокол RPC тоже апнули, так что старых пиров безжалостно реджектят и выкидывают на мороз.
Зато над скоростью упоролись на славу: затронули CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU и Hexagon. Вдобавок завезли поддержку FP8 и квантованные matmul в несколько строк под батчи от 2 до 24.