怎麼選模型

按任務類型、上下文長度和價格三個維度篩。

先看任務類型

「模型廣場」按對話、影像、影片、向量等類型分好了。用錯類型的端點會直接被拒, 例如拿對話模型去調影像端點。

再看上下文長度

每個模型詳情頁標註了上下文視窗與最大輸出。長文件處理要留意視窗上限, 超出會被上游截斷或直接報錯。

最後看價格

同一能力檔位內不同模型價差可能很大,模型廣場上每個模型都標了單價。 如果只是做分類、抽取這類結構化任務,小模型往往夠用且便宜一個數量級。

部落格