圖片引用至：行政院公開網站 行政院及所屬機關(構)使用生成式AI參考指引
臺灣於2023年頒定了AI參考指引：「行政院及所屬機關（構）使用生成式 AI 參考指引」很有意思，我們先來看一下這短短的十個要點：
一、為使行政院及所屬機關（構）（以下簡稱各機關）使用生成式 AI 提升行政效率，並避免其可能帶來之國家安全、資訊安全、人權、隱私、倫理及法律等風險，特就各機關使用生成式 AI 應注意之事項，訂定本參考指引。
二、生成式 AI 產出之資訊，須由業務承辦人就其風險進行客觀且專業之最終判斷，不得取代業務承辦人之自主思維、創造力及人際互動。
三、製作機密文書應由業務承辦人親自撰寫，禁止使用生成式 AI。前項所稱機密文書，指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書。
四、業務承辧人不得向生成式 AI 提供涉及公務應保密、個人及未經機關（構）同意公開之資訊，亦不得向生成式 AI 詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式 AI 模型，須確認系統環境安全性後，方得依機密等級分級使用。
五、各機關不可完全信任生成式 AI 產出之資訊，亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。
六、各機關使用生成式 AI 作為執行業務或提供服務輔助工具時，應適當揭露。
七、使用生成式 AI 應遵守資通安全、個人資料保護、著作權與相關資訊使用規定，並注意其侵害智慧財產權與人格權之可能性。各機關得依使用生成式 AI 之設備及業務性質，訂定使用生成式 AI 之規範或內控管理措施。
八、各機關應就所辦採購事項，要求得標之法人、團體或個人注意本參考指引，並遵守各該機關依前點所訂定之規範或內控管理措施。
九、公營事業機構、公立學校、行政法人及政府捐助之財團法人使用生成式 AI，得準用本參考指引。
十、行政院及所屬機關（構）以外之機關得參照本參考指引，訂定各該機關使用生成式 AI 之規範。
「討論第三點的衝突與兼得」卡米爾從技術面與使用面來探討兼得解：
📚使用生成AI與否的擔憂
我們認為最有意思的是指引中的第三點和第四點，因為政府的夥伴們在撰寫文書的時候，一方面想要使用生成式AI來加速他的工作，一方面又擔心萬一如果侵害了著作財產權，或洩密，或者是生成式AI產生了一些幻覺，講了一些假的東西，那怎麼辦？
📝指引解讀
我們先來看一下第三點，製作機密文書應由業務承辦人親自撰寫，禁止使用生成式AI。這個機密文書指的就是行政院的文書處理手冊有定什麼叫國家機密文書及一般公務機密文書。
🗣️討論與見解
這一點相當於只要是屬於機密文書的定義，承辦人就必須每一個字都得親自撰寫，不能夠用生成式AI。那是不是就沒有辦法享受到AI的好處了呢？還是其實有兼得做法。
📚過去與現在的對比
以前的話當然所有的，不管是機密的還是非機密的，全部都是由承辦人親自撰寫。以前沒有所謂的生成式AI，以前的做法都是，承辦人可能會參考其他的承辦人，或其他機密文書，看看前人怎麼寫的，他可能在保密情況下參考那些內容，酌情參考之後，針對這次想要撰寫的內容，不管是公文也好，或者報告也好，去做人工撰寫。
🌐AI的應用與限制
我們認為，承辦人可以使用AI來準備一些非機密的參考資料，例如文章鋼骨結構怎樣才會寫得清晰好懂，或者一些世界趨勢，然後AI幫助去搜尋一些參考資料，這些都是在不透露任何機密的情況下，代替人類去做一些通用性的查找，而最後還是由承辦人本人來寫全部文字內容。這樣就可以避免生AI寫機密文書的問題，並且也不違背本指引。只要承辦人引用的網址，引用的PDF檔案，引用的所有引證內容，都有雙重親自檢查過，即使是AI生成給你的一些非機密參考資料綜合整理，只要是真實的內容，那承辦人親自撰寫每個文書文字及可兼得速度與品質的提升，兼得機密文書由本人親自撰寫每個字，也兼得機密不會外洩。
🎯合作關係
承辦人與AI之間是一種合作關係，AI可以提供一個非機密通用性的參考資料架構（在引證證據真實的情況下），而承辦人則負責親自撰寫文字。這樣既可以遵守指引，也可以充分利用AI的查找優勢。
「討論第四點的衝突與兼得」
📚討論行政院及所屬機關使用生成式AI參考指引的第4點
第4點主要是關於業務承辦人不得向生成式AI提供涉及公務應保密、個人及未經機關同意公開之資訊，也不得向生成式AI詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式AI模型，需確認系統環境安全性後，方得依機密等級分級使用。這意味著，如果你在問公務問題時，像ChatGPT這樣的AI可能會學習你的機密資料，並用來訓練它的大模型。如果以後有人問類似的問題，它可能會洩露你的保密或個人資料。
🤔封閉式地端部署的生成式AI優缺點
封閉式地端部署的生成式AI模型的優點是，因為運算是在一個封閉的機房裡進行，所以資料不會外洩。但缺點是，封閉式的大語言模型的參數量頂多只有7個billion到70個billion，而GPT-4有2700個billion的參數量，所以他們的智慧程度相差太遠。如果問封閉模型，可能得到的答案的品質可能只相當於一個高中生或大一新生的智慧程度，導致回答品質不可用！而GPT-4可能相當於一個博士後研究員的智慧程度。
🎯如何兼顧封閉保密和較高智慧AI的問題
有幾種可能的解決方案。第一種是在封閉環境中使用封閉式大模型進行去識別化，然後再問線上的大語言模型去推論。第二種是讓GPT-4這種聰明的模型針對模擬資料或一般性非機密文件給出分析推論文字，然後打包這些原則，去讓封閉式模型學習。第三種是讓GPT-4自動生成程式碼工具，然後讓封閉式模型執行。最後一種是使用GPT-4的無痕API呼叫模式，這樣資料不會被留存。
🧐一些看法
無痕模式聽起來不錯，但或許承辦人還是會有些許擔憂。去識別化的方法也不錯，但可能需要再輔以人工審查才能更周詳。而讓封閉式模型學習GPT-4的推論或執行GPT-4的自動生成程式碼，雖然可能會比較耗費前期的準備功夫，但中長期來看，這樣訓練封閉模型更有智慧，可能是蠻不錯的方法。
想了解更多成功案例請參考：波特人官網
