-
Notifications
You must be signed in to change notification settings - Fork 2k
All issues
Issue creation is restricted in this repository
- #19 · ZacharyZcR opened
on Jul 10, 2026 19 - #537 · ZacharyZcR opened
on Jul 22, 2026 9
Issues
is:issue state:open
is:issue state:open
Search results
- Status: Open.#642 In JustVugg/colibri;
[Performance]: GLM-5.2 on i9-12900K / 64GB / 990 Pro — 0.34 tok/s, and MTP is a wash when disk-bound (mechanism + numbers)
benchmarkDatapoint di misurazione hardwareDatapoint di misurazione hardwareperformanceVelocità / tok-s / ottimizzazioniVelocità / tok-s / ottimizzazioniStatus: Open.#640 In JustVugg/colibri;[Feature]: fmt=6 METAL Support
featureNuova funzionalitàNuova funzionalitàmetalBackend Metal/AppleBackend Metal/AppleStatus: Open.#637 In JustVugg/colibri;[Performance]: AWS Graviton4 r8g.16xlarge (64C aarch64, 512 GB) - 8.0 tok/s CPU-only, plus two defects
benchmarkDatapoint di misurazione hardwareDatapoint di misurazione hardwareperformanceVelocità / tok-s / ottimizzazioniVelocità / tok-s / ottimizzazioniStatus: Open.#634 In JustVugg/colibri;SSD vs GPU PCIE bandwidth balancing
performanceVelocità / tok-s / ottimizzazioniVelocità / tok-s / ottimizzazioniquestionFurther information is requestedFurther information is requestedStatus: Open.#628 In JustVugg/colibri;[Bug]: Metal prefill GEMM is not token-exact vs CPU on near-tie logits (S >= GEMM_MIN); decode unaffected
bugDifetto verificato nel codiceDifetto verificato nel codicemetalBackend Metal/AppleBackend Metal/AppleStatus: Open.#622 In JustVugg/colibri;[Performance]: Intel Core i5-13600K/64G/RTX 5070 Ti 16GB/Samsung SSD 980 PRO
benchmarkDatapoint di misurazione hardwareDatapoint di misurazione hardwareperformanceVelocità / tok-s / ottimizzazioniVelocità / tok-s / ottimizzazioniStatus: Open.#605 In JustVugg/colibri;[Feature]: Lossless entropy compression for streamed expert traffic (transport layer, any container)
featureNuova funzionalitàNuova funzionalitàStatus: Open.#594 In JustVugg/colibri;[Feature]: METAL Attention support for fmt:4
featureNuova funzionalitàNuova funzionalitàStatus: Open.#585 In JustVugg/colibri;[Performance]: GLM-5.2 (744B MoE) on a single AMD R9700 32 GB: 0.15 tok/s, 80% expert hit — capacity-bound benchmark
benchmarkDatapoint di misurazione hardwareDatapoint di misurazione hardwareperformanceVelocità / tok-s / ottimizzazioniVelocità / tok-s / ottimizzazioniStatus: Open.#583 In JustVugg/colibri;[Analysis] The DRAM bandwidth wall: decode performance ceiling for streaming MoE, measured paths forward
performanceVelocità / tok-s / ottimizzazioniVelocità / tok-s / ottimizzazioniStatus: Open.#537 In JustVugg/colibri;[Performance]: Vulkan (#418) vs ROCm/HIP on RDNA4 (RX 9070 XT) — CORRECTED: Vulkan is 19–24% faster (original comparison was confounded)
hardware-owner-neededServe verifica su silicio specificoServe verifica su silicio specificovulkanBackend Vulkan/AMDBackend Vulkan/AMDStatus: Open.#523 In JustVugg/colibri;