Новости нейросетей | Chatgpt, Claude, Gemini и тд Telegram

🧱 ggml дорос до 1.0 и сразу устроил резню

· 3 просмотра

🧱 ggml дорос до 1.0 и сразу устроил резню Главная либа под капотом llama.cpp пустила под нож свой устаревший публичный API и древние операции DIAG_MASK. Протокол RPC тоже апнули, так что старых пиров безжалостно реджектят и выкидывают на мороз. Зато над скоростью упоролись на славу: затронули CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU и Hexagon. Вдобавок завезли поддержку FP8 и квантованные matmul в несколько строк под батчи от 2 до 24.

Открыть пост в Telegram

Свежие посты канала

Все посты канала