FLM (Fly Language Model)
nftechie (Alex Wormuth)
凍結した言語モデルを MaleCNS v1.0 のグラフに結合する実験。トークン埋め込みが 16万6,700ノードの固定ネットワークを駆動し、27万8,528パラメータのアダプターがその状態を読んで Liquid AI の LFM2.5-1.2B-Instruct の次トークンスコアを調整する。学習するのはアダプターだけで、パラメータ数を揃えた直接入力の対照も併せて訓練する。README は冒頭で「言語能力は事前学習済みモデル由来であり、生物のハエが言語を理解することを意味しない」と注記している。
確認した出典
上の情報は掲載日にこれらのページを読んで確認したものです。
- github.com https://github.com/nftechie/flm