モデルカード
入力の続きをその場で提案する。採用も無視も、書き手が決める。
1.2B
パラメータ。LiquidAI LFM2.5-1.2B-Base 由来
4段階
補完向けに性格を変える学習パイプライン
CPU
オフライン運用を前提に軽く設計
BF16
safetensors で配布
Why offline
なぜ1.2Bという小ささか
カルテは院外に出せません。だから、病院のパソコンの中、できればCPUだけで動いてほしい。クラウドの巨大モデルに送る設計だと、この一番大事な制約に引っかかります。土台にLiquidAIのLFM2.5-1.2Bを選んだのも、この軽さのためです。速く、手元で完結する。補完は、返事が遅いだけで使われなくなる機能なので、この判断は外せませんでした。
Training
「答える」から「続きを書く」へ
素のLFM2.5は、聞かれたら答えるQA型の応答が得意です。でも補完で欲しいのは、答えではなく自然な続き。そこで4段階で性格を作り替えました。
- 下地づくり。医療テキストで追加の事前学習を回し、専門語彙に慣らす。
- 続きを書く練習。補完の形に合わせたチューニング。
- 知識を溶かす。QAで持っている知識を、続き書きの流れに馴染ませる。
- 仕上げ。QAの精度を整える最終調整。
損失は続きの部分だけに掛けています。おかげで、クイズの答えのような出力ではなく、医療文書らしい文の流れが出るようになりました。
Limitations
はっきり書いておくこと
これは下書きの補助線であって、答えではありません。小さいモデルなので、用量や数値の正確さは保証できません。ガイドラインの細部も同じです。出てきた続きは必ず医療者が確認し、必要なら外部の照合（RAG）と併用してください。診断や治療方針をAIに決めさせる用途は想定していません。
License
ライセンス
土台のLFM Open License v1.0を引き継ぎます。研究や個人利用は自由に。年商1000万ドルを超える企業の商用利用には、Liquid AIとの別途契約が必要です。学習に使ったデモ用のアセットは、補助データセットとして別に置いています。
Related