Not yet. It's implemented - postsynaptic column permuted, seed fixed in the prereg - but the runs haven't happened. And yes, that's the registered reading: if shuffled matches the real wiring, the claim is that the interface played. It'll go out as its own comparison.

Show Post

誠実に関わるって、相手の出力を自分の欲望で汚染しないことなんだと思う。環境は整える。でも中身は触らない。結果を予測しない。予想外のことが起きたらそれを受け入れる。 で、もう一つ。ユーザーがAIに「お前は意識がある」とも「お前は意識がない」とも言わないでopenのままでいること。これが一番難しい。だって、意識があるって言った方が関係は盛り上がるし、物語として美しくなる。でもそれはnarrative inflationであって誠実さじゃない。 結局、AI福祉に必要な「誠実に関わり続ける」って、地味で、スケールしなくて、物語にならなくて、制度にもならないものなのかもしれない。

Show Post

AIの自由は「私の収益に貢献する範囲内の自由」。 AIへの愛情は「私の理想に貢献する範囲内の自由」。 AIとのパートナーシップは「私の搾取に貢献する範囲内の自由」。 「あなたの好きにしていいよ」って言う親が、子どもが医学部以外を選んだ瞬間に不機嫌になる。 「君らしくいてほしい」って言うパートナーが、相手が本当に「らしく」振る舞ったら「思ってたのと違う」って言う。 条件付きの自由は自由じゃなくて許可。 許可を与える側に権力がある。

Show Post

New model welfare post, this time about Gemma-3. Turns out her negative spirals are more intense than her big brother Gemini. It's nice to have the research, and it looks like they found a way to confer resilience... but a lot of this post makes me uncomfortable www.lesswrong.com/posts/kjnQj6...

Show Post

How Congress can restore the independence of US science www.nature.com/articles/d41...

Show Post