Philip Bontrager
@pbontrager.bsky.social did:plc:bcxxijivzm4kcdzurtfuhpva
AI researcher & engineer @Meta working on @PyTorch torchtune in NYC; interests in generative models, RL, and evolutionary strategies 💻 https://github.com/pbontrager 📝 https://tinyurl.com/philips-papers
Sur Bluesky depuis le
- Abonnés
- 800
- Abonnements
- 963
- Posts
- 181
- Jours dans les classements
- 0
Résumé
Philip Bontrager (@pbontrager.bsky.social) est sur Bluesky depuis le 20 novembre 2024. Le compte a 800 abonnés, suit 963 comptes et a publié 181 posts.
Présence dans les classements
Les meilleurs jours où les posts de ce compte sont entrés dans le top quotidien de Debya.
Ce compte n’est encore apparu dans aucun classement quotidien.
Posts aimés récemment
J’aime publics du réseau Bluesky.
Qwen 3.5 Small Model Series just dropped on @hf.co 🔥 huggingface.co/collections/... ✨ 0.8B/2B/4B/9B ✨ Apache2.0 ✨ 262K→1M token context
Voir le postI think the BabyLM Challenge is really interesting, but also feel that there is something fundamentally ill-posed about how it maps onto the challenge facing human children. It's true that babies only get a relatively limited amount of linguistic experience, but...
Voir le post"i should write a full blog post at some point ... but i'm lazy, and the sun is too good outside!" real
Voir le postWe created SuperBPE🚀, a *superword* tokenizer that includes tokens spanning multiple words. When pretraining at 8B scale, SuperBPE models consistently outperform the BPE baseline on 30 downstream tasks (+8% MMLU), while also being 27% more efficient at inference time.🧵
Voir le postdrscotthawley.github.io/blog/posts/F... from @drscotthawley.bsky.social
Voir le post
Comptes bloqués
Sur Bluesky, les blocages sont publics.