AI 不是搜尋引擎，也不是最後決策者
生成式 AI 會依上下文產生看似合理的內容；它擅長草擬、整理與協作，但可能自信地出錯，所有醫療與營運決策仍由人負責。
04
學完這一課，你會做到
- 用白話說明生成式 AI 的輸入、產生與驗證循環
- 分辨適合交給 AI 的草擬工作與必須由人決定的事項
- 建立查證而非盲信流暢答案的習慣
開始前先定位
你在這裡AI 與 Claude 入門
建立正確的 AI 心智模型，從第一段對話到能反覆使用的需求表達框架。
完成證據本課可驗收的結果
完成本課自我檢查，並留下可以親自確認的畫面或結果。
本課先不做判斷原則
答案越接近醫療、法規、資安、金流或真實個資，越不能只靠 AI。請查官方來源，必要時交由合格的法律、資安、醫療資訊或軟體專業人員審查。
本課名詞生成式 AI幻覺人機協作查證責任
把 AI 想成反應很快的新進助理
它讀過大量範例，能依你給的背景產生文字或程式碼；但它不知道你的診所實況，也不會自動承擔法律、醫療或資安責任。說得順不代表說得對，畫面能跑也不代表可以上正式環境。
適合與不適合
- 適合：把需求整理成清單、產生合成測試資料、解釋錯誤、草擬介面文案、修改示範功能。
- 需查證：技術版本、方案價格、法規、資安設定、第三方服務政策。
- 不可交由 AI 最終決定：診斷與治療、病人權益、同仁人事決策、正式資料存取權限。
一個安全的協作循環
| 步驟 | AI 做什麼 | 你做什麼 |
|---|---|---|
| 理解 | 重述目標與限制 | 確認它沒有誤解 |
| 執行 | 提出或製作小範圍變更 | 審核範圍與內容 |
| 驗證 | 執行檢查、說明結果 | 親自操作關鍵流程 |
| 留痕 | 整理變更摘要 | 建立 commit 與維護紀錄 |
參考資料
介面與方案會改版；實際操作仍以各工具官方頁面為準。延伸資料用來幫助理解，不取代本課安全原則。
低壓力自我檢查
Claude 很有把握地說某個安全設定已足夠，下一步最好是？
準備好再標記完成完成狀態會留在這台裝置，下次回來可接著學。