模型路由
Model Routing每天都會遇到同一個產品背後接了好幾個模型,系統依問題難度自動換一個處理,不用你選。
就像
像客服總機依問題難易度轉給不同資歷的客服,你不用自己選要哪一線。
大家常常誤會
以為換模型要自己動手選才算數。很多產品現在是系統自動判斷、自動換,介面上完全看不出來。
所以呢
同一個問題今天答得快、風格跟昨天不同,可能是背後換了模型,不代表工具壞了或退步。
同一個產品背後接了好幾個模型,系統依問題難度自動換一個處理,不用你選。
像客服總機依問題難易度轉給不同資歷的客服,你不用自己選要哪一線。
以為換模型要自己動手選才算數。很多產品現在是系統自動判斷、自動換,介面上完全看不出來。
同一個問題今天答得快、風格跟昨天不同,可能是背後換了模型,不代表工具壞了或退步。