Новости нейросетей | Chatgpt, Claude, Gemini ... VK

🧱 ggml дорос до 1.0 и сразу устроил резню

🧱 ggml дорос до 1.0 и сразу устроил резню Главная либа под капотом llama.cpp пустила под нож (github.com/ggml-org/g...) свой устаревший публичный API и древние операции DIAG_MASK. Протокол RPC тоже апнули, так что старых пиров безжалостно реджектят и выкидывают на мороз. Зато над скоростью упоролись на славу: затронули CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU и Hexagon. Вдобавок завезли поддержку FP8 и квантованные matmul в несколько строк под батчи от 2 до 24.

Открыть пост в VK

Свежие посты канала

Все посты канала