曾委員銘宗：那就明年啊！有什麼必要？你要等選後是不是？你要等換司法院院長是不是？<br />
吳秘書長三龍：因為委員會有它職權的範圍……<br />
曾委員銘宗：秘書長，你再說下去實在是不能聽，我們都不願意開記者會轟你這個事，你說的真的<br />
是不能聽，趕快說個時間！<br />
吳秘書長三龍：就按照規定，它是三個月內要審結，假如必要時，得延三個月。<br />
曾委員銘宗：我問你，有必要嗎？<br />
吳秘書長三龍：跟委員報告，因為畢竟有些還是涉及到比較……<br />
曾委員銘宗：你總先開開看啊！有沒有必要，總要先開開看啊！主席是誰？<br />
吳秘書長三龍：現在跟委員報告……<br />
曾委員銘宗：請問廳長，主席是誰？<br />
高廳長玉舜：目前是鄭瑞隆鄭教授，法評會主任委員。<br />
曾委員銘宗：他是主任委員對不對？<br />
高廳長玉舜：是的。<br />
吳秘書長三龍：我在這邊也要講深入一點，因為現在涉及到所謂違失行為一體性，所以他現在要把<br />
他所有可能涉及的違失行為是儘量要斟酌，所以有些目前可能是送部分，也有可能是這樣，所<br />
以……<br />
曾委員銘宗：秘書長，你不是受害人，你沒有體諒受害人。<br />
吳秘書長三龍：我們當然會同理心。<br />
曾委員銘宗：你同理心講假的，我也會講啊！趕快做、趕快做，謝謝。<br />
吳秘書長三龍：好，謝謝。<br />
林委員淑芬：是不是比較困難？<br />
邱處長士賓：對，這部分比較困難。<br />
林委員淑芬：相對非常困難？<br />
邱處長士賓：應該說我們希望讓系統產生出來的內容要正確，所以這部分我們比較審慎。<br />
林委員淑芬：你們這個是委外建置的吧？<br />
邱處長士賓：對。<br />
林委員淑芬：你們花了多少錢委外建置？<br />
邱處長士賓：詳細的預算，我會後再提供給委員參考。<br />
林委員淑芬：這種東西有什麼不能現在提供，你們沒有資料嗎？你現在不能講？是不能講還是你們<br />
沒有資料還是你不知道？<br />
邱處長士賓：我手邊沒有正確的數字。<br />
林委員淑芬：不用正確的數字，約略就好，是幾千萬、幾億？<br />
邱處長士賓：沒有，沒有到那麼多。<br />
林委員淑芬：沒有幾千萬喔？我現在要跟你討論這個是因為，秘書長，你們 8 月 27 日有發布新聞<br />
稿，你們當時說預計 9 月這個系統就要複驗，通過以後要擇幾家法院進行試辦，而且要評估是<br />
否全面上線。你剛才說要適時地頒訂司法體系發展 AI 指引，你要叫人家試辦了，至少下個月就<br />
不能安全駕駛，臺南跟士林法院都要試辦了，你安全指引什麼時候要公布？<br />
吳秘書長三龍：向委員報告，所謂 AI 生成，其實那個都還很遙遠，目前這個都只是定位在草稿而<br />
已，都是一些……<br />
林委員淑芬：我知道，最後也是讓法官參考，但你怎麼知道法官是怎麼參考的？所以我才講，你要<br />
訂一個指引啊！你的參考指引到底要怎麼訂？也要給社會討論一下，不是只有你們法院一個系<br />
統嘛！在這種狀況裡面，你們下個月就要叫人家試辦了，你的整個使用生成 AI 參考指引都沒有<br />
出來，所以我第一個問題就是問你，指引什麼時候要出來？你要叫人家辦，但你都沒有指引，<br />
那些法官要怎麼辦？這樣辦出來可以用嗎？我還沒質疑到你們 AI 系統的問題喔！<br />
吳秘書長三龍：這個是兩個層次啦……<br />
林委員淑芬：你們有兩個指引，是哪兩個指引？<br />
吳秘書長三龍：兩個層次的問題。<br />
林委員淑芬：對，沒錯。<br />
吳秘書長三龍：指引那個是後端，那個還……<br />
林委員淑芬：指引絕對是上游、最上端啊！你要怎麼使用、你要怎麼參考、原則要訂什麼、應注意<br />
什麼、課責的方式是什麼，你的這個部分沒討論清楚，你要叫法院試辦，然後你說這是後端，<br />
先試辦完再來訂，這樣是「倒頭生」啊！<br />
吳秘書長三龍：現在試辦只是試辦那個例稿而已，其實我們……<br />
林委員淑芬：例稿？就是做個草稿參考而已啦！但法官參考到什麼程度、他的判決書哪個地方是參<br />
考 AI、哪個地方是法官自己撰寫？心證自己寫或是依據參考去寫，要不要註記？上面要不要註<br />
記？<br />
吳秘書長三龍：我們現在、現階段……<br />
林委員淑芬：我如果是當事人，我會希望法官應該要告訴我們，這份判決書哪個地方是參考 AI 的<br />
草稿來的啊！<br />
吳秘書長三龍：現階段每個字都是法官斟酌的，不可能由 AI 去生成，都是法官斟酌的。<br />
林委員淑芬：我怎麼會不知道！他是看 AI 的草稿，然後自己重新寫，問題是他寫的內容 AI 提供<br />
了多少成分，你怎麼會知道呢？我不知道，當事者、被判刑者也不知道啊！那我們有沒有知的<br />
權利？<br />
吳秘書長三龍：每個字都是法官字字斟酌，這個請委員放心，每個字……<br />
林委員淑芬：我要放什麼心？你在講什麼？<br />
吳秘書長三龍：都是委員……<br />
林委員淑芬：我覺得你們做這件事情非常不負責任，你這樣講簡直是胡說八道！在對司法的不信任<br />
感上，你這樣子做，大家對司法判決都很不具信心。你現在說叫 AI 生成一份裁判草稿，法官再<br />
根據這個草稿，然後法官是每個字都自己看過、自己寫出來，再叫助理打字出來，每一個字都<br />
是他們寫的，但這個有意義嗎？我要知道的是你說的這個草稿，寫論文也要說出引據哪裡、用<br />
了多少比例、參採多少比例的草稿啊！對不對？更何況是判決耶！判決耶！<br />
吳秘書長三龍：報告委員，他這個有罪無罪是法官要斟酌先認定的。<br />
林委員淑芬：這個我知道啦！你跳得太快了！AI 草擬判決，你們要先有這個建置和訓練，這個你<br />
們是委外嘛，花了多少錢？為什麼我要問你花了多少錢？因為生成的判決要如何判斷和監督？<br />
你們對外的講法是 AI 的模型並不是單純的例稿生成器，而是以對應起訴書為生成素材，即時分<br />
析犯罪事實、證據等段落資料的智慧化工具，所以你們 AI 系統的裁判草稿，對法官的審判當然<br />
會有影響，是參採嘛！那你說他參採多少，我們不知道，這我們等一下再談。但是你們的這個<br />
AI 系統，不是 ChatGPT，那 AI 你們要餵它東西、要訓練，而訓練階段的素材，你們說是大量的<br />
起訴書和對應的裁判書，以大量的資訊來做訓練，所以我現在問你幾件事，第一個，你們所謂<br />
的大量，這些起訴書和裁判書的資料區間及區段是怎麼樣？大量是多大量？哪一年到哪一年？<br />
吳秘書長三龍：報告委員，這些其實都還……<br />
林委員淑芬：是一審而已，還是還有二審、三審？是僅限於一人一罪的判決，還是有其他的？資料<br />
庫更新的頻率如何？<br />
吳秘書長三龍：那些其實都還沒有投入，都還沒有到那種階段。<br />
林委員淑芬：還沒有到那個階段？你說下個月就要上路了耶！我現在問你這個問題，你在這裡、在<br />
立法院國會，你回答不出來嗎？<br />
處長，秘書長沒有辦法，那換處長你來回答，因為是你承辦的業務，我就問你，你們大量訓<br />
練的這些起訴書和裁判書，其資料區間、區段是從哪一年到哪一年？然後案件的判決、裁判書<br />
是要餵它一審的而已，還是有二審、三審？<br />
邱處長士賓：目前是只有一人一罪的裁判書，而且是只有一審，因為我們現在裁判書的例稿是只有<br />
給一審法官使用。<br />
林委員淑芬：一審？<br />
邱處長士賓：對。<br />
林委員淑芬：那區間是幾年到幾年？<br />
邱處長士賓：這個會後再提供給委員，因為這兩個罪的區間不太一樣。<br />
林委員淑芬：什麼叫做會後提供給委員？下個月已經要上路，你對這個東西，委外委多少錢，你不<br />
知道！要上路了，AI 生成要大量資料庫，大量資料庫是從幾年到幾年餵進去，這是最核心的，<br />
你不知道！還要會後再提供給我！<br />
邱處長士賓：委員，我這邊說明一下，那個資料是從 102 年到 110 年。<br />
林委員淑芬：102 年到 111 年就夠了？就夠大量了嗎？如果這些裁判書或起訴書都沒有附上卷宗資<br />
料或證據，或資料庫不夠，你要怎麼憑空產出即時分析犯罪事實、證據和段落？然後你們在新<br />
聞稿裡面提到，認定事實、適用法律、裁量、決定量刑等核心事項，仍然會由法官自行核定、<br />
決定。看起來秘書長回答就是這樣子，好像是說放心！我們法官負最終責任。但是法官在使用<br />
這個系統生成判決的時候，系統或裁判書會記錄法官使用的狀況嗎？你要告訴我們，如何確保<br />
法官判斷的判斷事項仍然是法官把關的？你說放心，我們法官會把關，那有哪個程序、要怎麼<br />
判斷你們法官是有把關的呢？<br />
吳秘書長三龍：現階段其實都法官判斷，都法官在判斷，沒有所謂生成的。<br />
林委員淑芬：現在就還沒有啊！下個月才開始啊！當然現階段沒有。生成以後，法官會參採，但是<br />
我們如何確保法官判斷的判斷事項仍然是法官判斷的？我們如何知道該由法官判斷的事項，真<br />
的是法官把關過的？<br />
吳秘書長三龍：那就是法官判斷，一定是法官綜合卷內證據來判斷。<br />
林委員淑芬：我在問什麼，你可能聽不懂！你們就一份草稿給法官，然後寫一個判決書，針對法官<br />
應判斷的事項，你怎麼知道是法官把關過？我們怎麼知道？<br />
吳秘書長三龍：目前的判斷都是法官在判斷，這一點請委員放心。<br />
林委員淑芬：喔！主席，我覺得我是雞同鴨講，不是他聽不懂我的話，就是我聽不懂他的話！好，<br />
沒有關係，我再告訴你，生成式的裁判書系統，你看起來好像是說現階段都沒問題，但不要忘<br />
了你們要試辦，而且你說你們未來要推動，所以我要講的是，我不反對人工智慧，我們非常支<br />
持人工智慧，司法院也可以發展，但是要發展人工智慧的前提是要可課責、要負責任、要確保<br />
被告的權益。<br />
我們在講這個，是因為剛才也有委員談過，其實外國也有一些依據人工智慧生成的裁判書產<br />
生錯誤判決，所以生成式裁判書系統，它的風險要如何管控？如何避免複製錯誤，以及對司法<br />
信任的風險要怎麼管控？歐盟議會在通過人工智慧法案的時候，都會講要透過大數據來監督學<br />
習、強化學習方式等進行訓練，廣泛運用到下游的任務，這個基礎模型，這個都是基礎模型，<br />
但是 AI 在執法及法律解釋領域的應用，要列為高風險項目，要進行嚴格的事前及事後審查，要<br />
執行風險評估，而且要提出風險降低的措施，要提供人工智慧系統高品質的資料庫、資料集，<br />
以減少歧視性及有害結果的發生，而且還需要留存活動紀錄，以確保該人工智慧設計過程得以<br />
有效的追溯，並提供使用者明確且充分的資訊。美國國家人工智慧諮詢委員會在年度報告中也<br />
特別提到司法議題的特殊性，所以建議要進行專門性的政策評估。<br />
秘書長，現在裁判書生成的語言模型及應用，有哪些監管和紀錄的機制？你們委外要花多少<br />
錢？不知道！你們號稱要使用這個什麼 TMT5 語言模型架構，請問你們有哪些監管或紀錄機制<br />
？剛才講的要求要可以溯源、追溯，可以留存活動紀錄，你們都有設計了嗎？<br />
吳秘書長三龍：委員剛剛提示的都很重要……<br />
林委員淑芬：我是要問你，你們現在有了嗎？<br />
吳秘書長三龍：我們就是看進行到什麼階段，目前還沒有所謂生成的問題。<br />
林委員淑芬：你的意思是，現在不能安全駕駛和幫助詐欺犯是相對較輕的刑責，叫做相對簡單，所<br />
以你們才選這兩類優先試辦，對不對？<br />
吳秘書長三龍：那個都是提供例稿而已，判斷一定都是法官在判斷，這個基礎……<br />
林委員淑芬：你講這種話很不負責任，你現在說是試辦，試辦的每一個案件、每一個個案，這些當<br />
事人的權益、被告的權益都很重要，你不能說只是試辦而已，影響不大，每一個都很重要。<br />
吳秘書長三龍：這只是試辦例稿而已。<br />
林委員淑芬：我現在再告訴你，我怎麼知道法官參採的比例有多高？他對於生成出來的這個草稿運<br />
用的 percentage 有多大？所以我要問你，請你告訴我要怎麼知道法官用了多少？<br />
吳秘書長三龍：就回歸到基礎點，目前所有判斷都是法官判斷的。<br />
林委員淑芬：你對法官百分之百的信任啦！請你去問一下人民，你把這句話拿去問人民，你把一個<br />
人工 AI 生成的裁判草稿給法官，我們都不知道法官到底參採了多少這個 AI 草稿的比例，什麼<br />
都不知道！你問一下人民，你說法官的判決都是經過法官深思熟慮，你看人家會相信嗎？<br />
吳秘書長三龍：這個草稿只是提供一些基本架構而已。<br />
林委員淑芬：你這種說法和這種不負責任的作為是在替我們的司法體系雪上加霜，我真的不騙你。<br />
本席再告訴你，你們對於 AI 很隨便，臺灣司法院做這樣的事情非常的隨便。根據文獻指出，AI<br />
很可能會產生人工幻覺的現象，以致於生成的內容產生錯誤，這在 ChatGPT 大家都知道，而且<br />
是很廣泛的認知。美國普渡大學研究發現，在 AI 系統正確率沒有達到五成的狀況下，高達四成<br />
的使用者無法察覺系統的錯誤，法官每個都忙得要死，他們看起來合理性 OK，然後他們就參採<br />
了。我跟你講，不是說他不專業，也不是說他不認真，他真的案子很多，大家都知道法官未結<br />
的案子一大堆。<br />
根據你們的新聞稿和採訪內容，法官在 AI 系統上可以選擇引用起訴書適用的法條及犯罪事實<br />
，也可以把起訴書所列的證據引用進來，法官可以選擇認罪與否、使用何條規定處理案件等選<br />
項，他選完以後，系統會自動生成草稿，但是我要提醒秘書長，刑事訴訟法有規定法官得以在<br />
起訴的同一事實範圍內變更起訴的法條，我們也很常在裁判書中看到法官會更正起訴書的錯誤<br />
，在起訴書裡面，其實法官也經常認為有很多寫錯的，包括犯罪時間寫錯的，打字錯的更是一<br />
以減少歧視性及有害結果的發生，而且還需要留存活動紀錄，以確保該人工智慧設計過程得以<br />
有效的追溯，並提供使用者明確且充分的資訊。美國國家人工智慧諮詢委員會在年度報告中也<br />
特別提到司法議題的特殊性，所以建議要進行專門性的政策評估。<br />
秘書長，現在裁判書生成的語言模型及應用，有哪些監管和紀錄的機制？你們委外要花多少<br />
錢？不知道！你們號稱要使用這個什麼 TMT5 語言模型架構，請問你們有哪些監管或紀錄機制<br />
？剛才講的要求要可以溯源、追溯，可以留存活動紀錄，你們都有設計了嗎？<br />
吳秘書長三龍：委員剛剛提示的都很重要……<br />
林委員淑芬：我是要問你，你們現在有了嗎？<br />
吳秘書長三龍：我們就是看進行到什麼階段，目前還沒有所謂生成的問題。<br />
林委員淑芬：你的意思是，現在不能安全駕駛和幫助詐欺犯是相對較輕的刑責，叫做相對簡單，所<br />
以你們才選這兩類優先試辦，對不對？<br />
吳秘書長三龍：那個都是提供例稿而已，判斷一定都是法官在判斷，這個基礎……<br />
林委員淑芬：你講這種話很不負責任，你現在說是試辦，試辦的每一個案件、每一個個案，這些當<br />
事人的權益、被告的權益都很重要，你不能說只是試辦而已，影響不大，每一個都很重要。<br />
吳秘書長三龍：這只是試辦例稿而已。<br />
林委員淑芬：我現在再告訴你，我怎麼知道法官參採的比例有多高？他對於生成出來的這個草稿運<br />
用的 percentage 有多大？所以我要問你，請你告訴我要怎麼知道法官用了多少？<br />
吳秘書長三龍：就回歸到基礎點，目前所有判斷都是法官判斷的。<br />
林委員淑芬：你對法官百分之百的信任啦！請你去問一下人民，你把這句話拿去問人民，你把一個<br />
人工 AI 生成的裁判草稿給法官，我們都不知道法官到底參採了多少這個 AI 草稿的比例，什麼<br />
都不知道！你問一下人民，你說法官的判決都是經過法官深思熟慮，你看人家會相信嗎？<br />
吳秘書長三龍：這個草稿只是提供一些基本架構而已。<br />
林委員淑芬：你這種說法和這種不負責任的作為是在替我們的司法體系雪上加霜，我真的不騙你。<br />
本席再告訴你，你們對於 AI 很隨便，臺灣司法院做這樣的事情非常的隨便。根據文獻指出，AI<br />
很可能會產生人工幻覺的現象，以致於生成的內容產生錯誤，這在 ChatGPT 大家都知道，而且<br />
是很廣泛的認知。美國普渡大學研究發現，在 AI 系統正確率沒有達到五成的狀況下，高達四成<br />
的使用者無法察覺系統的錯誤，法官每個都忙得要死，他們看起來合理性 OK，然後他們就參採<br />
了。我跟你講，不是說他不專業，也不是說他不認真，他真的案子很多，大家都知道法官未結<br />
的案子一大堆。<br />
根據你們的新聞稿和採訪內容，法官在 AI 系統上可以選擇引用起訴書適用的法條及犯罪事實<br />
，也可以把起訴書所列的證據引用進來，法官可以選擇認罪與否、使用何條規定處理案件等選<br />
項，他選完以後，系統會自動生成草稿，但是我要提醒秘書長，刑事訴訟法有規定法官得以在<br />
起訴的同一事實範圍內變更起訴的法條，我們也很常在裁判書中看到法官會更正起訴書的錯誤<br />
，在起訴書裡面，其實法官也經常認為有很多寫錯的，包括犯罪時間寫錯的，打字錯的更是一<br />
以減少歧視性及有害結果的發生，而且還需要留存活動紀錄，以確保該人工智慧設計過程得以<br />
有效的追溯，並提供使用者明確且充分的資訊。美國國家人工智慧諮詢委員會在年度報告中也<br />
特別提到司法議題的特殊性，所以建議要進行專門性的政策評估。<br />
秘書長，現在裁判書生成的語言模型及應用，有哪些監管和紀錄的機制？你們委外要花多少<br />
錢？不知道！你們號稱要使用這個什麼 TMT5 語言模型架構，請問你們有哪些監管或紀錄機制<br />
？剛才講的要求要可以溯源、追溯，可以留存活動紀錄，你們都有設計了嗎？<br />
吳秘書長三龍：委員剛剛提示的都很重要……<br />
林委員淑芬：我是要問你，你們現在有了嗎？<br />
吳秘書長三龍：我們就是看進行到什麼階段，目前還沒有所謂生成的問題。<br />
林委員淑芬：你的意思是，現在不能安全駕駛和幫助詐欺犯是相對較輕的刑責，叫做相對簡單，所<br />
以你們才選這兩類優先試辦，對不對？<br />
吳秘書長三龍：那個都是提供例稿而已，判斷一定都是法官在判斷，這個基礎……<br />
林委員淑芬：你講這種話很不負責任，你現在說是試辦，試辦的每一個案件、每一個個案，這些當<br />
事人的權益、被告的權益都很重要，你不能說只是試辦而已，影響不大，每一個都很重要。<br />
吳秘書長三龍：這只是試辦例稿而已。<br />
林委員淑芬：我現在再告訴你，我怎麼知道法官參採的比例有多高？他對於生成出來的這個草稿運<br />
用的 percentage 有多大？所以我要問你，請你告訴我要怎麼知道法官用了多少？<br />
吳秘書長三龍：就回歸到基礎點，目前所有判斷都是法官判斷的。<br />
林委員淑芬：你對法官百分之百的信任啦！請你去問一下人民，你把這句話拿去問人民，你把一個<br />
人工 AI 生成的裁判草稿給法官，我們都不知道法官到底參採了多少這個 AI 草稿的比例，什麼<br />
都不知道！你問一下人民，你說法官的判決都是經過法官深思熟慮，你看人家會相信嗎？<br />
吳秘書長三龍：這個草稿只是提供一些基本架構而已。<br />
林委員淑芬：你這種說法和這種不負責任的作為是在替我們的司法體系雪上加霜，我真的不騙你。<br />
本席再告訴你，你們對於 AI 很隨便，臺灣司法院做這樣的事情非常的隨便。根據文獻指出，AI<br />
很可能會產生人工幻覺的現象，以致於生成的內容產生錯誤，這在 ChatGPT 大家都知道，而且<br />
是很廣泛的認知。美國普渡大學研究發現，在 AI 系統正確率沒有達到五成的狀況下，高達四成<br />
的使用者無法察覺系統的錯誤，法官每個都忙得要死，他們看起來合理性 OK，然後他們就參採<br />
了。我跟你講，不是說他不專業，也不是說他不認真，他真的案子很多，大家都知道法官未結<br />
的案子一大堆。<br />
根據你們的新聞稿和採訪內容，法官在 AI 系統上可以選擇引用起訴書適用的法條及犯罪事實<br />
，也可以把起訴書所列的證據引用進來，法官可以選擇認罪與否、使用何條規定處理案件等選<br />
項，他選完以後，系統會自動生成草稿，但是我要提醒秘書長，刑事訴訟法有規定法官得以在<br />
起訴的同一事實範圍內變更起訴的法條，我們也很常在裁判書中看到法官會更正起訴書的錯誤<br />
，在起訴書裡面，其實法官也經常認為有很多寫錯的，包括犯罪時間寫錯的，打字錯的更是一<br />
大堆，另外像是名字寫錯的、此人非彼人的也有。在這種狀況下，我們要問如果透過 AI 系統直<br />
接引用起訴書中錯誤的法條、犯罪時間錯誤或是字寫錯了、地點寫錯了，AI 要如何糾錯？你們<br />
認定事實的部分就是根據起訴書，但根據起訴書就沒問題了嗎？就現行的實務是問題很多，連<br />
法官都經常揪出起訴內容的錯誤。我們現在要問的是，即便法官可以自己決定量刑，但是裁判<br />
書中最重要的理由是系統自動生成的，如果 AI 生成的內容有包含連法官都無法察覺的錯誤，因<br />
為案件很多，時間就這麼短，他要快速的看，如果法官沒有察覺這個錯誤，那麼判斷錯誤的風<br />
險誰要負擔？要怎麼課責？<br />
吳秘書長三龍：所以這也要很審慎啊，目前就是沒有所謂理由自動生成的問題。<br />
林委員淑芬：因為還沒有施行，下個月才要施行，當然目前沒有，你講這個話……<br />
吳秘書長三龍：這個還……<br />
林委員淑芬：我們今天一直在很嚴肅的告訴你，這一套系統要引進來，我們認為這是相當重要的一<br />
頁，但是必須要負責任。你要建置這套系統要負責任，建置 102 年到 111 年就夠了嗎？參採了一<br />
審的判決書，這個資料庫就夠大了嗎？認定事實是所有審理的第一道防線，現在認定事實全部<br />
是起訴書的輸入，然後就交給電腦去判斷，而起訴書認定事實的部分，法官以前在實務面就經<br />
常糾錯了。<br />
我不知道要怎麼和秘書長講話？你們的新聞稿都說：我們開發採用自然語言處理和規則法技<br />
術，提高生成內容的準確性，應該不會如同 ChatGPT 出現內容所對應的對象或事實錯誤的問題<br />
。我要詢問秘書長，你說「應該不會像 ChatGPT」的「應該」兩個字是怎麼評估出來？什麼叫<br />
做「應該不會」？錯誤的風險有多低？如果風險不是零，未來要如何面對這個錯誤的風險？這<br />
個風險對每一個當事人都是百分之一百啊！這些風險在運用的過程當中我們怎麼知道？你要怎<br />
麼監督記錄？未來要如何調整、修正？然後還可課責、可追溯？我現在是在討論非常正經的問<br />
題。<br />
吳秘書長三龍：委員，你的意見非常好，我們一定會很慎重的來重視這個問題。<br />
林委員淑芬：你們要花多少錢才能做出這套系統？<br />
吳秘書長三龍：這一定還要……<br />
林委員淑芬：還有，你不敢把預算說出來，我告訴你，其實要做出一套系統是很困難的。我已經說<br />
管理這套系統、運用這套系統應該要有系統化、要有法制面的指引，沒有立法，至少也要指引<br />
吧！雖然我們覺得應該是要立法來規範，整個系統也要設計我剛剛所講的，要可追溯、要可溯<br />
源、有足跡追蹤、要可課責，這些你們到底有沒有？<br />
吳秘書長三龍：所以這個要很慎重……<br />
林委員淑芬：這個你不會，叫處長來回答，我相信秘書長你不知道啦！<br />
邱處長士賓：謝謝委員的意見，剛剛提到指引的部分，其實我們現在已經在……<br />
林委員淑芬：足跡可不可追溯？使用者使用了多少……<br />
邱處長士賓：以這部分來講的話，其實系統都可以追蹤使用者的使用紀錄。<br />
林委員淑芬：使用了多少、參採了多少有辦法知道嗎？<br />
邱處長士賓：如果需要這樣統計的話，技術上都沒有問題。<br />
林委員淑芬：你們說應該不會出現像 ChatGPT 一樣的錯誤，人家 ChatGPT 花了多少錢，都還有這<br />
麼多的錯誤，你怎麼知道你們的系統應該不會像它那樣子？這個把握和這個風險到底有多高或<br />
多低？你怎麼評估出來的？「應該」是什麼意思？<br />
邱處長士賓：關於這部分，以生成內容來講的話，應該只有在適用法律的例稿式內容，以這部分來<br />
講，在訓練過程當中都可以很容易找出錯誤的地方，所以……<br />
林委員淑芬：你現在講的我都聽不懂，訓練過程是要透過大量資料訓練出來的……<br />
邱處長士賓：對，就是所謂監督式的訓練，因為訓練出來的……<br />
林委員淑芬：你知道有可能因為原始資料不均或不足而產生偏差嗎？你知道美國法院在運用由商業<br />
開發的 AI 系統，幫助法官評估被告的再犯風險來做為量刑標準，但是那個系統他們花了多少錢<br />
？針對系統運作，後來他們檢視發現 AI 系統複製了過去司法系統中已經存在的偏見和不平等，<br />
然後會擴大、放大這個偏見和不平等，譬如種族歧視。高等法院的刑事庭法官邱筱涵也曾經做<br />
過問卷調查，秘書長你知道嗎？他有跟 108 位法官進行調查，你知道這個調查的事情嗎？<br />
吳秘書長三龍：這個我還沒有深入去瞭解。<br />
林委員淑芬：其實受訪的法官對於一鍵式的 AI 判決書生成多表示質疑，他們認為判決的複雜程度<br />
很難透過你們建置的這種方式有效表達，反而會帶來更多的錯誤和偏見。現在要建置不知道要<br />
花多少錢，你現在講不出來，你自己都講不出來這套 AI 判決書系統是不是也有可能會產生這樣<br />
的偏誤風險？是否有進行評估？如何監控？如何降低風險？如果民眾因為 AI 判決而權益受損，<br />
他需不需要知道哪些是 AI 生成的、法官參採的？要不要？<br />
吳秘書長三龍：所以這種問題要很慎重，委員的意見很重要，就是說要很慎重。<br />
林委員淑芬：對啊，要很慎重啊！看到你們這樣，我覺得你們不夠慎重啊！我們不能讓 AI 變成隨<br />
便、變成另一種黑箱，到底法官參採多少我們也不知道，然後司法院應該要發展更負責任的人<br />
工智慧，但法官的壓力，你知道未結件數、終結件數都顯著增加，明明就是需要大量的人力，<br />
他也是需要啦！你們要使用，其實我一再地強調這個我們不反對，而且甚至是支持，但是 AI 的<br />
裁判系統需要透明，要透明！要讓民眾知道這個系統是否使用了不當的資料或不合適的設定，<br />
而且需要可課責性，系統的使用需要達到設定的目標，要有助於司法和一般人民的權利，而且<br />
要有獨立的查核機制和事後的檢核，還有評估的程序等等。你們現在連參考指引都訂不出來，<br />
我們還認為你要訂參考指引也要開公聽會，廣邀相關的利害人與會及學界等等，並參考最新的<br />
國際規範，務必一定要降低風險、清楚說明風險，才可以讓這套系統上路。<br />
我舉一個例子，有關裁判書的公開是不是都是必要的？除了特殊的兒少法、少年事件處理法<br />
、性侵害防治法、國家機密之裁罰以外，所有裁判書都會公開，是不是？<br />
吳秘書長三龍：就是要依照規定公開。<br />
林委員淑芬：照規定公開嘛！因為我們透過裁判書公開的機制，也可以監督法官的裁判是不是公正<br />
、是不是妥適、有沒有保障人民知的權利以及有沒有公平審判。我們辦公室因為陳情案件要查<br />
詢一件判決書，這判決書是去年才判決的，結果判決系統找不到這份判決，它跟那些得以不公<br />
開的法律通通都無關，是一個有關引水法，就是港口引水人事件的判決，在去年而已，我們都<br />
找不到，然後問一下司法院，司法院去瞭解的結果是說當時系統沒有上傳成功，所以就沒有繼<br />
續上傳，連這種沒有任何問題，只是要叫你們把裁判書上傳而已，而且照規定都要，你們都可<br />
以漏掉，它不是裁判書遮隱原則裡面規定的，且裁判書件有多少啊？幾萬件啊！我竟然隨便<br />
google 一個就找到沒有上傳的裁判書，現在連這種上傳，你們都做不好，都有發生問題，你怎麼<br />
跟我們保證你們委外建置的這個 AI 系統……現在不知道要花多少錢、不曉得要做到什麼程度？<br />
到底有沒有漏掉什麼資料？你們到底餵了它什麼資料？你們訓練出來的到底是什麼東西？秘書<br />
長，我先告訴你，這種事情你說它是小事嗎？其實也非同小可。<br />
吳秘書長三龍：這是很重要的事。<br />
林委員淑芬：這件裁判書就沒有上傳了，幾年來有幾百萬、幾千萬、多少萬件的裁判書？<br />
吳秘書長三龍：因為它可能有時候關鍵字在篩選……<br />
林委員淑芬：沒有，它是完全沒有上傳，因為我們詢問司法院，完全沒有上傳，當時系統沒有上傳<br />
成功，你們的系統沒有上傳成功，也沒有再上傳，你們的系統，這是什麼系統？拜託！光這種<br />
上傳就出問題了，你說你們的 AI 訓練系統可靠嗎？然後你們要引用它的草稿來寫裁判書，法官<br />
太忙了，看草稿沒有問題就寫上去了，我們也不知道法官到底是哪一部分運用了 AI 生成系統。<br />
吳秘書長三龍：所以這個要很慎重。<br />
林委員淑芬：然後也沒有法律課責，也沒有參考指引，現在就要上路了，老實說這是「倒頭生」，<br />
茲事體大。所以我剛才的個案也請你們給我們一個資料和說明，就是我們有問過你們引水人裁<br />
判事件的那個個案。<br />
吳秘書長三龍：委員，這一部分，我們都會列入，會儘快回報。<br />
林委員淑芬：你們就沒有公開，也沒有說明，所以我們要看這份資料，沒有事涉到法律需遮隱原則<br />
，沒有啦！<br />
這個要上路，我們很擔心，你們回去好好想一下，秘書長，不能只是說我對法官有信心，法<br />
官絕對沒有問題，不要在人民對司法的信任度很低的狀況下再雪上加霜，讓人民對司法判決更<br />
沒信心，謝謝。<br />
吳秘書長三龍：謝謝。