レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。

技術的特異点/シンギュラリティ【総合】避難所 30

936：名無しさん (ｽﾌﾟｰ 1d46-1b20)：2025/01/26(日) 11:01:48 ID:yxO2XZroSd: DeepSeek R1はdistill-32bでo1-miniと同等らしい。これだけで21GB使うのでOllamaでCPUとメインメモリで推論させるとメモリは少なくとも48GBか64GBあるといいな
ただ出力は14bで2 tokens/second とかなので0.1 tokens/secondとかになりそうだが…。

掲示板管理者へ連絡無料レンタル掲示板