標題:
[轉貼]
AI技術檢測標準與工具 資安院擬年底前推出
[打印本頁]
作者:
gravius
時間:
2023-3-30 03:49
標題:
AI技術檢測標準與工具 資安院擬年底前推出
自由時報 2023/03/29 生成式AI爆紅,但也引發個資、資安等疑慮。資安院長何全德今(29日)表示,資安院將參考歐盟對AI的規則,制定AI技術的檢測標準和工具,看演算法是否公開透明、有無保護隱私、是否具備客觀性,預計年底前出爐。
- ~7 F) W5 I! z2 c3 P6 A# \
4 Q; H4 @, }& o, I0 t
資安院於1月成立,今天舉辦首場記者會,資安院長何全德、資安署副署長林春吟、數位發展部數位政府司司長王誠明出席。
5 y1 G( Q( B% r. c/ }
8 e4 R1 V+ X7 z- M. G9 }
媒體關切我國AI發展,何全德認為,AI有兩大議題:AI是否安全、如何利用AI把資通安全做得更好。針對AI是否安全,數位部有做前瞻部署,資安院將和工研院合作,參考歐盟對AI的一些規則,對於AI技術建立檢測機制,讓AI風險降到最低。
' t, e0 S4 h3 u/ j# A, I2 O
( D1 h2 ^. p0 M
何全德表示,我國要發展自己的AI,而AI能否被信任,國科會已訂定「人工智慧科研發展指引」,國際上也有一些標準,例如可不可信賴、資料是否客觀、個資保護問題,這部分相關檢測方法,資安院會來研究。
3 X/ ?* [- G6 J) B/ j
1 t9 M2 v+ |8 O D6 A
至於要檢測什麼?何全德指出,準確性、可靠性、客觀、安全防護、可解釋性等,主要確保AI的安全和可信任性,因為未來AI會廣泛應用到各個領域,資安院必須把檢測標準和工具制訂出來,讓企業可以檢測看自己使用的系統好不好。
" Z' Z, t" n( H0 |3 J4 b
0 r5 P% _& U3 v) ^9 I4 h
不過何全德強調,資安院並非公權力的單位,而是做研究,國家是否要針對AI產品擬定標準,必須由主管機關訂定,資安院則是先把制度規劃出來,希望年底前出爐。
6 g* x- r- _9 D% g; g' ~
% t% o+ ~; W. T( S+ D# J* y0 O: T9 m
資安院副院長林盈達補充,資安院和工研院會一起合作,長期對各種宣稱資安功能的產品做檢測,初期選定ChatGPT檢測,看有沒有做好防範。
7 L& {7 F. G* m* N
5 e9 x/ _- ~+ O* D# I
他說,下半年先做國外的ChatGPT,台版生成式AI因為年底才會推出,可能明年第1季或是第2季才會做測驗。林盈達形容,ChatGPT很像小朋友亂學東西,要去看裡面哪些是錯的,不然會一直吐出錯誤資訊,不能讓他到處亂學,本身應該要有防騙機制,訓練時也要找出錯誤。
歡迎光臨 風之國論壇 (http://wind.talkapple.net/)
Powered by Discuz! 6.0.0