LLMの数式と動的検査方法確立できた...はず?at TECH
LLMの数式と動的検査方法確立できた...はず? - 暇つぶし2ch1:デフォルトの名無しさん
26/01/27 04:15:21.09 nFa9fzgi.net
ちょっとどこに投稿したらいいのかわからんのでPython使ってるってことでこっちに投稿させてもらった。もし、スレ違いなら誘導してくれると助かる。

まぁ、簡単に言うと、大規模言語モデル(LLM)の内部状態遷移を、電気回路におけるCRローパス・フィルタ(RC回路)と同じ仕組みで雑音消して、浮動均衡点(要するに物理的な中央点と思いねぇ)を測定することに成功した。

あ、HHHとかには触ってないから、合法ですよ、合法。

でー、その過程でLLMの挙動に関する構造式作ったりしてるので、諸々組み合わせて、動的にLLMの内部の様子を確認できる実装もしたんで、暇な奴は適当に確かめてみてほしい。
てーか、一応何回かテストして、たぶんできてると思うんだが、いかんせん。試したモデルがGeminiだけなんだよなー。他のモデル使える奴が協力してくれると嬉しい。
興味あるやつは覗いてみてくれ。

GitHubのリポジトリはこっち、あとColabですぐ試せるようにはしてるんでよろしく。
↓↓↓
URLリンク(github.com)


最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch