幻覺
Hallucination它的極限與風險AI 不知道的時候，會編一個聽起來很像真的答案，而且語氣一樣有自信。
就像
像一個很會講話的人，講到不知道的地方也講得很順。
大家常常誤會
以為它是故意騙人。它自己也不知道那是錯的 —— 所以「你確定嗎」這句話問不出真相。
所以呢
人名、數字、法條、引用來源這四類最容易出事，一律自己再查一次。語氣越肯定越要查。
AI 不知道的時候，會編一個聽起來很像真的答案，而且語氣一樣有自信。
像一個很會講話的人，講到不知道的地方也講得很順。
以為它是故意騙人。它自己也不知道那是錯的 —— 所以「你確定嗎」這句話問不出真相。
人名、數字、法條、引用來源這四類最容易出事，一律自己再查一次。語氣越肯定越要查。