【神農代理人】可信任農業 AI 代理人治理框架

計畫介紹:
(1)AI Agent 之風險因自主程度增加而升高：當AI Agent 系統運作愈獨立，所需人為干預愈少，愈可達到預期效能及生產力提升。然而，當其自主性愈高，AI Agent 系統若發生意外、錯誤或破壞性行為，更加難以透過人為干預予以防止，而導致其風險升高。故AI Agent 系統的開發與應用，亟需風險管理。
(2)建立可信任農業AI 代理人治理框架：擬研究歐盟 AI 法有關通用目的AI 模型與系統的風險管理規範，是否適用於AI Agent 系統，進一步分析我國農業AI Agent 的風險管理規範如何建構，並提供相關標準或指引供政府部門及產業界參考。
(3) 探討透明、資訊安全與著作權保護之核心議題：有關透明的面向，分析AI 模型建立與更新透明性文件，以及AI 模型可解釋性評估。有關著作權保護之面向，著重於本計畫所蒐集之資料集是否享有著作權、著作權授權或合理使用之議題，參考歐盟通用目的AI 模型實務守則，將AI 著作權議題分為輸入面向及輸出面向，在輸入面向建立守則，防止侵害受著作權保護內容。