サイコロで6-11

Show Post

年初は5tok/sを出せれば御の字 全然使い物にならんかった Denseモデルだし最適化しようがない

Show Post

IQ3_Sでcontext512kでもろもろ最適化した。普通に使い物になってる 既存のコードベース与えて30分の作業も破綻なくできてる core265k+5070ti+RAM 96GBで、prefill最大3000tps &decode110tpsくらい。既存のコード突っ込んでもそんなに遅くなってない 半年前から想像できない進化

Show Post

70分全身マッサージしてもらった 左右非対称なん気になりすぎて寝れんかったw ほんで腕上げて脇ギュぅぅうって握ってくるん何！？ってなったけど、終わってみれば身体軽いわww 疑ってすまん‼︎

Show Post

尼いったときマッサージ行ったんですけど、健全店だけどめっちゃおっぱいグリグリ当ててきて、まさかそんなとこまでの鼠蹊部ゴリゴリしてくれて、笑いながらチンポ触ってきましたよ 大丈夫かここと思ったけどその後寝過ぎて0次会遅刻しました 今度紹介しますね😇

Show Post