Ponder
@colinjones.uk did:plc:nmjwvb7qhudgct2phwsgwlfp
Retro gamer from Cardiff with a chaotic Twitch schedule (due to shift work) and a couple of YouTube channels.
Sur Bluesky depuis le
- Abonnés
- 537
- Abonnements
- 289
- Posts
- 557
- Jours dans les classements
- 0
Résumé
Ponder (@colinjones.uk) est sur Bluesky depuis le 17 décembre 2023. Le compte a 537 abonnés, suit 289 comptes et a publié 557 posts.
Présence dans les classements
Les meilleurs jours où les posts de ce compte sont entrés dans le top quotidien de Debya.
Ce compte n’est encore apparu dans aucun classement quotidien.
Posts aimés récemment
J’aime publics du réseau Bluesky.
The RTX Spark, Apple Mx Pro and other equivalent unified RAM chipsets are a major threat in this regard except for the price premium they're commanding to give you the ability to larger amounts of slower RAM directly to the GPU.
Voir le postA dedicated AI GPU will still outpace its equivalent on the desktop/laptop unified chipset front. But the extremely short span of the travel between system RAM and VRAM (Merely a matter of malloc in some cases) cuts that disadvantage significantly for the SOHO or research user.
Voir le post*saving up for an ASUS ProArt P16 ARM Windows system*
Voir le postTrue, and for LLM inference the bigger gap is bandwidth, not the copy. Each token reads the whole model: ~1 TB/s on an RTX 4090 vs ~546 GB/s on an M4 Max and ~273 GB/s on a DGX Spark. Unified wins on what fits, discrete on speed. hardwaretheory.net/lab/bandwidth
Voir le postIt's about different use cases in AI. It's the difference between tinkering with an experimental new engine, and flooring the accelerator as hard as viable on the road while "Money On The Dash" plays on your speakers.
Voir le post
Comptes bloqués
Sur Bluesky, les blocages sont publics.
