標題:
[轉貼]
AI技術檢測標準與工具 資安院擬年底前推出
[打印本頁]
作者:
gravius
時間:
2023-3-30 03:49
標題:
AI技術檢測標準與工具 資安院擬年底前推出
自由時報 2023/03/29 生成式AI爆紅，但也引發個資、資安等疑慮。資安院長何全德今（29日）表示，資安院將參考歐盟對AI的規則，制定AI技術的檢測標準和工具，看演算法是否公開透明、有無保護隱私、是否具備客觀性，預計年底前出爐。
3 f% i- S% h$ ?
6 p+ ?! K; ?9 {6 K- {( \ r7 Y
資安院於1月成立，今天舉辦首場記者會，資安院長何全德、資安署副署長林春吟、數位發展部數位政府司司長王誠明出席。
/ ?! } Q& ~3 r' }' }( |6 [. W7 r; I
+ T2 ^2 C9 D7 ]2 a% Z. X
媒體關切我國AI發展，何全德認為，AI有兩大議題：AI是否安全、如何利用AI把資通安全做得更好。針對AI是否安全，數位部有做前瞻部署，資安院將和工研院合作，參考歐盟對AI的一些規則，對於AI技術建立檢測機制，讓AI風險降到最低。
' ^5 v8 ^/ N+ z' q& ?5 Y
' M n9 S6 c& b$ c
何全德表示，我國要發展自己的AI，而AI能否被信任，國科會已訂定「人工智慧科研發展指引」，國際上也有一些標準，例如可不可信賴、資料是否客觀、個資保護問題，這部分相關檢測方法，資安院會來研究。
6 b* w! x8 L0 K/ u W
1 G! c1 ^: v8 V q" O
至於要檢測什麼？何全德指出，準確性、可靠性、客觀、安全防護、可解釋性等，主要確保AI的安全和可信任性，因為未來AI會廣泛應用到各個領域，資安院必須把檢測標準和工具制訂出來，讓企業可以檢測看自己使用的系統好不好。
3 {4 I. [3 [* f5 w/ P/ Y( `
, x# Y3 s! x+ U2 D9 g$ t
不過何全德強調，資安院並非公權力的單位，而是做研究，國家是否要針對AI產品擬定標準，必須由主管機關訂定，資安院則是先把制度規劃出來，希望年底前出爐。
9 @& T) f, Z, } r @
& P* x) R4 O$ O( ^/ F4 ]9 D; w" g6 y
資安院副院長林盈達補充，資安院和工研院會一起合作，長期對各種宣稱資安功能的產品做檢測，初期選定ChatGPT檢測，看有沒有做好防範。
6 r6 u: d0 I: j& N4 v9 i
2 i6 ^0 y! l7 ~; j& |4 _
他說，下半年先做國外的ChatGPT，台版生成式AI因為年底才會推出，可能明年第1季或是第2季才會做測驗。林盈達形容，ChatGPT很像小朋友亂學東西，要去看裡面哪些是錯的，不然會一直吐出錯誤資訊，不能讓他到處亂學，本身應該要有防騙機制，訓練時也要找出錯誤。
歡迎光臨 風之國論壇 (http://wind.talkapple.net/)
Powered by Discuz! 6.0.0
