個人的な意見としてLLM自体がすごいとかよりは、LLMを構成部品として使う新しいアプリケーションであるAIエージェントはその実かなり複雑なシステムであり、各ベンダーの工夫によって多くのタスクを遂行できるようになってきている。 同じLLMモデルでAPI叩いて似たものを作ろうとすると意外にしょぼい精度になってがっかりしたりする。 LLM自体が人間の脳みその模倣で超知能になったわけではないので、各エージェントの実装によって当然あるタスクでは驚くほど、このようながっかり精度になったりする。

Show Post

Kimono arabesque @KarakusaKimono 207-1 Nakanocho, Higashiyama-ku, Kyoto

Show Post

Aiが超高度な技術を持っていて人間の専門家を超える超知能を発揮したわけではない。 脆弱性自体は初歩的なものの積み重ねと言っていい。 ところが、何ができてしまうか、どういう攻撃かという情報があって、PHPのエンジンはOSSで技術的な詳細もドキュメントにもなっているわけだが、こうした情報を統合していくと「ではここにこういう不具合があったのではないか」という仮説がいくつか立てられる。 仮説によって壊れているかもしれない部分にフォーカスして読むことで、AIは効率的に実装の初歩的なミスを見つけられる。そのミスから、結果として何が起こるか仮説を立てられる。 あとは仮説検証ループをAIが回せば、ご覧の通り

Show Post

これ実はそこまで単純でもない。 リークと言っているけども、動くコードは公開してなかったし、技術的にどういうコードを書けば攻撃できるかは自明ではなかった。 実際のところ、研究者によるデモよりも前から攻撃できるであろうことは既に指摘されていた。 通常はデモの公開から1日もあればパッチが当たって翌日にアップデートしても問題ないくらいのタイムテーブルで良かったのだけど、これをAIが壊してしまった。 研究者による情報から、数時間後には動くPoC(概念実証コード)を他人がAIを使って生成できてしまった。それが公開されて、実は昨日の昼過ぎにはもう解析されて攻撃も始まっていた。

Show Post

一応は7.xなどもソースコードは今回の修正がバックポートされるが、バイナリとして提供するかはLinuxディストリビューションなどの側のメンテナー次第である。 これを利用できない場合は、古いPHPを利用している場合、PHPを8.1より上のバージョンにアップグレードするか、あるいは少なくとも7以上にはアップグレードしてソースコードを自分でビルドするしかない。 当然メジャーバージョンが変わるとこれまで動いていたアプリケーションが動かなくなる恐れがある。 これは本当に辛いと思う。 そしてパッチの何時間も前からPoCがあり実際に攻撃も観測されていたため、すでに攻撃を受けた前提での対応も必須である😱

Show Post