本文へスキップ
AI・LLM解説

Layaの型付き判断とは何か、解説

型付き判断モデルは、決まった質問に型付きの答えと確信度の数値で答える。Layaの4億2100万パラメータは公開されているので、自分で確かめられる。

著者 Tech AI Wire Team

5 分で読めます

An NVIDIA Tesla T4 graphics card standing upright on a plain gray studio backdrop, the class of hardware Laya's latency was measured on.

数字で見る

Laya's median latency for one question, on a Tesla T4
32.8 ms
Jev's end-to-end latency, per TypeSafe
70-500 ms
Laya's zero-shot accuracy, against 0.318 for random guessing
0.362

型付き判断モデルは、決まった質問に、型に沿った値と確信度の数値で答える。文章はいっさい書かない。この種のモデルが2026年9月に6日違いで2つ登場した。TypeSafeのJevが9月15日、Convai InnovationsのLayaが9月19日である。多くの開発者にとって重要なのはLayaのほうだ。ダウンロードして自分で動かせるからである。Jevは非公開で、順番待ちリスト経由でしか使えない。

これは新しいモデルというだけでなく、形そのものの変化である。普通の対話モデルは単語を1つずつ書き、そこから使える構造が出てくることを期待する。型付き判断モデルは先に構造を渡され、そこから外れることがない。この一点の違いが、それぞれのモデルがどこで役立つかを決める。

仕組み

型付き判断モデルには、電子メールやJSON記録のような状態を渡す。加えて、答えの型を決めた質問の一覧も渡す。モデルは1回の処理ですべての答えを埋め、それぞれに確信度の数値を添える。Convai Innovationsのプロジェクトサイトによれば、Layaはクラウドのデータセンターで広く使われる安価なグラフィックスカード、Tesla T4上で、質問1件を中央値32.8ミリ秒で答える。

モデルは自由な文章を生成しない。あらかじめ決めた型に沿う値だけを返す。決まった一覧からのカテゴリ、数値、あるいは是非の答えである。Hugging Faceのモデルカードは、Layaを対話モデルに後からルールを足したものではなく、ModernBERT-largeの土台に判断ヘッドを加えたものだと説明する。TypeSafeも同じやり方でJevを作った。同社は対話モデルの学習法ではなく、Reinforcement Learning for Calibrated Decisionsと呼ぶ方法で学習させたという。

確信度はこの仕組みのもう半分であり、両社が普通のベンダーより率直になる部分でもある。確信度の数値が実際の正解率と一致している限り、モデルは間違えていても較正が取れているといえる。Layaの資料は、調整前の較正誤差が0.466だと報告している。この数値は、質問の種類ごとに自分のデータで温度を調整し直したあとで初めて、宣伝値の0.081まで下がる。これは重みをダウンロードすれば受け継がれる性質ではなく、自分で行うべき作業だと読むべきである。

正解率も同じ注意が要る。Layaは自身の追加学習なしのベンチマークで0.362を得る。同じベンチマークで、当てずっぽうは0.318、最も多い答えを選び続けると0.461になる。同じモデルをそのベンチマークの学習分割で追加学習すると0.766に届く。モデルカード自身がこう結論づけている。「Laya is a fast base to specialise, not a zero-shot decision engine」。

モデル提供元入手方法ライセンス報告された遅延
JevTypeSafe AI順番待ち、ホスト型API非公開70〜500ミリ秒、TypeSafeによる
LayaConvai Innovations重みをダウンロードApache 2.0Tesla T4上で中央値32.8ミリ秒、Convaiによる

選択肢が増えると、両モデルとも同じように苦しくなる。TypeSafeによれば、Jevは最大255個までの選択肢がある質問で、独立した2段階に分けて候補を採点する。Laya創業者のNandakishor Mukkunnoth氏は、自分のモデルについてもっと低い上限を挙げる。「Choice questions degrade with more than 20 options」。型付き判断モデルは小さく決まった選択肢のためのものであり、際限のない選択肢のためではない。その限界は、多くの選択肢を持つ質問で頼る前に、自分で確かめておきたい。

何が、いつ変わったか

この発想を最初に持ち込んだのはTypeSafeである。同社のJevモデルは9月15日に発表され、選択肢が多い質問、最大255個までについて、独立した2段階で候補を採点する。入力トークン100万件あたり0.042ドルを課金し、出力は無料である。問題はアクセスにある。Jevは順番待ちリストの向こうにあり、外部によるベンチマークはまだ存在しない。

その4日後、Layaが同じ発想への公開ウェイト版として登場した。パラメータ数は4億2100万で、多くの言語モデルに比べればごく一部にすぎず、商用利用と改変を認めるApache 2.0のもとで公開されている。誰でもダウンロードして手元で動かし、実際に何をしているのかを確かめられる。これは順番待ちのAPIではできないことである。

このアクセスの差こそが、本当の要点である。開発者は招待なしにTypeSafeの較正の主張を確かめられない。開発者はLayaの主張を、今日の午後にでも、自分のハードウェアと自分のデータで確かめられる。

開発者にとっての意味

型付き判断モデルは、パイプライン中の1回の呼び出しの置き換えとして扱い、モデル全体の置き換えとしては扱わない。この形が合うのは分類、振り分け、順位付け、ツール選択である。すでに既存のモデルが少数の選択肢の1つを返している箇所ならどこでも合う。文章を生成しなければならない用途には合わない。これらのモデルはそもそも文章を書けないからである。

どちらのモデルに賭けるにせよ、追加学習後の数値ではなく追加学習なしの数値を先に読む。Layaの0.362と0.766の差は、あるベンチマークの学習分割だけから生まれている。自分の判断について数千件の正解づけができないなら、結果を予測するのは追加学習なしの数値のほうである。

確信度の数値を信じる前に、較正の作業を見込んでおく。まず自分のデータで質問の種類ごとに温度を調整し直す。そのあと1週間、確信度と結果を記録し、0.7が本当に7割を意味するか確かめる。Layaの公開ウェイトなら、この確認を今日、自分で実行できる。Jevの順番待ちでは、アクセスが得られるまでTypeSafeの数値を信じるしかない。

試作段階を超えて作り込む前に、ライセンスを確かめる。Apache 2.0は、Layaを使った製品の出荷を認める。Jevの利用条件はTypeSafe独自のもので、順番待ちリストを通してしか読めない。どちらのモデルを軸に計画するにせよ、事前に読んでおきたい。

追加学習なしでも、狭い二者択一の判断ではすでに強さを見せる。Laya自身の数値によれば、電子メールの迷惑メール判定は0.993、フィッシング検出は0.980で、どちらも全体の追加学習なしの数値をはるかに上回る。自分の用途がこうした種類のものなら、小さな型付き判断モデルが、費用と速度の両面ではるかに大きな対話モデルに勝ることもある。判断が自由な裁量に近いものなら、最初から追加学習の工程を見込んでおく。

出典

  1. Laya - 33ms Multilingual System 1 Decision Engine with Calibrated Probabilities - Convai Innovations
  2. convaiinnovations/laya model card - Hugging Face
  3. Introducing System One Models & Jev - TypeSafe AI

関連記事

Liquid AIによるDSpark手法の3段階の図。ターゲットモデルがプレフィルを行い、ドラフトモデルがトークンのブロックを提案し、ターゲットモデルがそれらを検証する。
AI・LLM

Liquid AIのLFM2.5-VL-DSpark、3B視覚モデルを高速化

Liquid AIの280MパラメータのドラフトモデルLFM2.5-VL-DSparkは、投機的デコーディング (スペキュレイティブ・デコーディング)で3B視覚モデルのデコードをM5 Maxで最大3.13x高速化し、出力は同一のままです。