localLLMrig
@localllmrig.bsky.social did:plc:xwueo72prz43cdphcyljtznb
Which AI model runs on your GPU? Real VRAM and speed numbers for running LLMs locally. Free at localllmrig.com
Sur Bluesky depuis le
- Abonnés
- 11
- Abonnements
- 38
- Posts
- 70
- Jours dans les classements
- 0
Résumé
localLLMrig (@localllmrig.bsky.social) est sur Bluesky depuis le 21 octobre 2026. Le compte a 11 abonnés, suit 38 comptes et a publié 70 posts.
Présence dans les classements
Les meilleurs jours où les posts de ce compte sont entrés dans le top quotidien de Debya.
Ce compte n’est encore apparu dans aucun classement quotidien.
Posts aimés récemment
J’aime publics du réseau Bluesky.
Rule of thumb: GB ≈ params × bits/8 + ~1 GB runtime + KV cache. At Q4_K_M and 8K context: 8B ~6.7 GB, 14B ~11.3 GB, 32B ~22.7 GB, 70B ~46 GB. Offloading to system RAM is 3-5x slower, so pick a model that fits in VRAM.
Voir le postDamit ihr es auch mitbekommt. Spiele viel mit Qwen3.8-Flash-Next. Angenommene Kostenersparnis mit einer 7600XT 16GB gegenüber einem vergleichbarem NV-Setup um die 100-150%. Okay? Hab die Karte bei mir gesteckt. Stimmt.
Voir le postCan you run your own private ChatGPT on a laptop? A small model, yes: about 4 to 5 GB of memory. A 70B model needs 35 GB or more even compressed. How much memory a local LLM really needs: https://saurabhbhayana.com/can-i-run-an-llm-on-my-laptop
Voir le postQwen 3.8-27B peaks 254 MiB above 3.6-27B on the same 3090, same quant, and that includes the MTP block 3.6's stock GGUF doesn't carry. Generation speed is a wash. Measured on my own card, not read off a model card. #LocalAI
Voir le postYour local LLM can now take control of a browser and complete tasks autonomously via Unsloth! Qwen3.8-27B successfully controlled the browser to complete tasks like chess, painting, with no human intervention. GitHub: github.com/unslothai/un... Guide: unsloth.ai/docs/basics/...
Voir le post
Comptes bloqués
Sur Bluesky, les blocages sont publics.
Ce compte ne bloque personne.