提示詞注入
Prompt Injection它的極限與風險壞人在網頁或檔案裡藏一段話，騙 AI 照做，而不是照你說的做。
就像
像在你交代的購物清單上偷加一行，跑腿的人照單全收。
大家常常誤會
以為只有工程師要擔心。只要你讓 AI 讀外面的網頁或別人寄來的檔案，就有這個風險。
所以呢
AI 讀完外部內容後突然提議做奇怪的事（寄信、給出資料、開連結），先停下來 —— 那可能不是你的指令。
壞人在網頁或檔案裡藏一段話，騙 AI 照做，而不是照你說的做。
像在你交代的購物清單上偷加一行，跑腿的人照單全收。
以為只有工程師要擔心。只要你讓 AI 讀外面的網頁或別人寄來的檔案，就有這個風險。
AI 讀完外部內容後突然提議做奇怪的事（寄信、給出資料、開連結），先停下來 —— 那可能不是你的指令。