モデル情報調査済みデータ

line-distilbert-base-japanese

日本語のmasked language modeling向けDistilBERTです。model cardによると、LINE内製BERT-baseをteacherとして、131 GBの日本語webデータからdistillationしています。cardにはparameter数として66Mと68Mの両方が記載されており、正確な規模は要確認です。

Hugging Face: line-corporation/line-distilbert-base-japanese（新しいタブで開く）

開発元: LINE Corporationパラメータ数不明確認日: 2026年10月7日

情報の修正を提案

モデルの概要と仕様

能力、技術情報、開発組織の所在国は個別の根拠と確認状態を表示しています。対応言語と開発元の所在地は別の情報です。

対応言語: 日本語 (ja)出典に記載
日本語モデルとして記載されています。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
開発組織の所在国: 日本確認済み
publisherのLINE/LY公式情報に基づきます。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LY Corporation company overview（新しいタブで開く）
能力: テキスト理解出典に記載
Fill-Mask / masked language modeling taskに基づきます。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
入力形式: text出典に記載
日本語masked language modelです。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
総パラメータ数: 未確認見解が不一致
model cardの本文では66Mと68Mの両方が示されており、正確な値は確定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
Active parameters: 未確認不明
active parameter数を特定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）、LY Corporation company overview（新しいタブで開く）、LINE-DistilBERT-Japanese license（新しいタブで開く）
Context length: 未確認不明
context lengthを特定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）、LY Corporation company overview（新しいタブで開く）、LINE-DistilBERT-Japanese license（新しいタブで開く）
Architecture: DistilBERT (6 layers, 768 hidden size)出典に記載
model cardに記載されています。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
形式: Safetensors出典に記載
repository weights一覧で確認。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
量子化・dtype: 未確認不明
quantizationを特定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）、LY Corporation company overview（新しいタブで開く）、LINE-DistilBERT-Japanese license（新しいタブで開く）
公開モデル自体のフルスクラッチ事前学習: いいえ確認済み
teacher BERT-baseを使うdistilled modelと説明されています。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
蒸留の実施: 記載あり確認済み
model cardにteacher BERT-baseからのdistillationが記載されています。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
実行エコシステム: 未確認不明
公式に推奨される実行方式を確定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）

利用条件の要点

出典に基づく情報の整理であり、法的な結論ではありません。各項目の根拠と確認状態を確認してください。

商用利用: 許可の記載あり出典に記載
用途制限: 不明不明
再配布: 許可の記載あり出典に記載
派生・ファインチューニング: 許可の記載あり出典に記載
蒸留の利用条件: 不明不明
「uncensored」の出典表記: 未確認不明
対応言語: 日本語 (ja)出典に記載

ライセンス

ライセンス情報はモデル本体とは別の記録として、個別の根拠とともに確認できます。

Apache-2.0

標準ライセンス

確認済み

Repositoryの宣言: Apache-2.0出典に記載
repository掲載のlicense本文とmetadataを確認。
根拠: LINE-DistilBERT-Japanese license（新しいタブで開く）
上流モデルのライセンス: 未確認不明
teacherはLINE内製checkpointですが、個別license repositoryは特定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）
派生・追加学習: knowledge distillation、Japanese masked language modeling出典に記載
model cardはteacher BERT-baseからのdistillationを説明しています。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）
利用上の案内: 個別の案内は未確認不明
モデル提供者の案内です。ライセンス上の条件とは区別しています。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）、LY Corporation company overview（新しいタブで開く）、LINE-DistilBERT-Japanese license（新しいタブで開く）
表示・帰属条件: 未確認不明
attribution条件を特定できません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）、LY Corporation company overview（新しいタブで開く）、LINE-DistilBERT-Japanese license（新しいタブで開く）

モデル系譜

モデル間の各関係について、出典・確認状態・確度を表示します。

現在のモデルline-distilbert-base-japanese
関係元line-distilbert-base-japanese
distilled from
関係先LINE in-house BERT-base（新しいタブで開く）出典に記載
teacherの公開model IDは明記されていません。
根拠: LINE-DistilBERT-Japanese model card（新しいタブで開く）、LINE-DistilBERT-Japanese project（新しいタブで開く）

教師モデルLINE in-house BERT-base出典に記載

cardはLINE内製BERT-baseをteacherとして説明しています。公開repository IDは示されていません。

根拠: LINE-DistilBERT-Japanese model card、LINE-DistilBERT-Japanese project

系譜全体の確度: 高

出典

各claimから参照される一次資料と、確認したrepository資料を掲載しています。

モデルカード
LINE-DistilBERT-Japanese model card（新しいタブで開く）
日本語masked-language model、teacher、学習データ、parameter記載とlicense metadataを確認。カード内の総parameter数表記に差があります。
一次資料
2026年10月7日
上流モデル資料
LINE-DistilBERT-Japanese project（新しいタブで開く）
モデルと蒸留手順を説明する開発元GitHub repository。
一次資料
2026年10月7日
開発組織の公式情報
LY Corporation company overview（新しいタブで開く）
LINE model publisherに関連するLY Corporationの公式所在地情報。
一次資料
2026年10月7日
ライセンス
LINE-DistilBERT-Japanese license（新しいタブで開く）
対象repositoryが掲載するApache-2.0 license。
一次資料
2026年10月7日

未確認・要確認の項目

不明な情報や、確認が必要な情報もそのまま表示しています。

用途制限不明
確認したrepositoryに個別のacceptable-use policyや利用制限は見つかりませんでした。学習データや別サービス規約の適用は別途確認が必要です。
蒸留の利用条件不明
蒸留に関する許諾条件を確認できません。
ベースモデル不明
別の公開base checkpointは明記されていません。
さらに上流のモデル不明
さらに上流のmodelを特定できません。
出典上の「uncensored」表記不明
uncensored / abliteratedのラベルを示す一次資料は確認できません。
総パラメータ数見解が不一致
model cardの本文では66Mと68Mの両方が示されており、正確な値は確定できません。
Active parameters不明
active parameter数を特定できません。
Context length不明
context lengthを特定できません。
量子化・dtype不明
quantizationを特定できません。
実行エコシステム不明
公式に推奨される実行方式を確定できません。