【ChatGPT】AIチャット総合避難所【Gemini・Claude】

35：名無しさん：2025/06/25(水) 18:23:16 ID:r2ksXq7c: MetaのAutoregressive U-Net（AU-Net）
https://arxiv.org/abs/2506.14761
https://chatgpt.com/share/685bb19d-2b50-8006-8444-650114c0fb52

入力は生バイト列、モデル自身が訓練を通じてトークンを階層的に生成・埋め込み
無限語彙→バイトレベルなので固定語彙表が不要
同じくMetaから提案されている固定トークナイザー不要のByte Latent Transformer (BLT)との比較も興味深い

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板