gravius

自由時報 2023/02/13 在生成式AI應用熱潮下，ChatGPT立即在短時間內推出了ChatGPT Plus版本，迅速讓AI進入了營利變現時代，台灣使用者已可以花每月20元美元取得更高的回應速度。KPMG安侯企業管理公司董事總經理謝昀澤表示，生成式AI不只在拚演算法、功能炫技，各大廠短期的決戰重點，還是在「正確性」與「可靠性」。
" H; s9 F/ k; W3 _
" A; K; P( f! D% ]0 [目前新一代生成式AI大戰第一回合，Google緊急推出Bard對話機器人應戰，但答錯太陽系外行星第1張照片是誰拍？落得股價大跌。謝昀澤說明，Google具備有強大的AI演算法及雲端運算平台的能量，但是跌在「照片正確」這個環節上，其實不是第1次；早在2015年，Google因為AI演算法出包，將黑人照片辨識為大猩猩，而落入種族歧視的爭議風暴中許久。* M/ t# s. u8 \" z* c
+ j4 B: l" \1 E
而幾乎在Bard上埸的同時，OpenAI似乎立即觀察到，ChatGPT的反應速度遠遠追不上使用者的熱情，於是推出付費訂閱版，以降低因使用者暴增而等待或終止回應的時間。即使如此，目前許多付費使用者仍常遇到服務滿載的卡頓狀況。謝昀澤認為，「答案有感的機器人，會取代只是歷史讀稿的機器人」、「反應快速的機器人，會取代頁面自轉圈圈的機器人」，但如何判斷答案是「正確」且「適用」的機器人，將是使用者的最大挑戰。
# x, w- S, `8 a5 I( G9 X: v
) k) t5 g) ^" H他分析，各大廠生成式人工智慧大對決的後續觀察重點，除在商業模式比拚外，誰能持續稱霸AI進化世界的關鍵，還是在有沒有足夠的AI「科技治理」能力上；而影響未來生成式AI風險，需要被嚴格治理的三大「暗黑情境」，包含「更迷離的深假（Deepfake）」、「更智慧的駭客」及「更暴露的使用者隱私」等危機。
% Y+ V) H1 y$ B3 j' }. t" n" ]- g- o8 Z) x1 u. m; B
以「深假技術」為例，目前已可做到使用甲的臉孔，搭配乙的身材與動作，用丙的嘴型說出的變造的內容。然而，若駭客或犯罪組織使用相同技術，將造成重大的損失。例如，駭客用ChatGPT針對不同企業，產生數萬封釣魚郵件後，再運用偽造聲紋假冒財務長致電財務人員進行匯款；或駭客用生成式AI的強大分析與歸納功能，找出藏於企業內部未曾發現的弱點，藉此進行網路進階攻擊或機密竊取。同時，因為生成式AI也具備程式撰寫的優異能力，惡意程式開發門檻將大幅降低，連不會寫程式的人都可能當駭客等危機。: l/ z+ q2 j* N) k# C, w% H% `- ?

# ~8 z% ^: r) a0 oKPMG安侯企業管理公司執行副總經理林大馗預測，如果生成式AI連動既有的深假技術威脅，可能導致風險加乘，未來AI所創造的假文章、假程式、假郵件、假影片將大量湧現且難以識別，進而影響生成式AI的正確性。企業資安除了標配防火牆與防毒軟體外，可能還需透過「人工加工人智慧」的打假工具及內容確認工程師等協作，才能有效降低AI所帶來的資安風險。
+ I% S. o' I& K, V  r6 _0 Z& C4 T8 L; ~: L) e3 R( @# X" O
他建議，在新興的風險治理工具尚未成熟前，一般企業成可以建立「智慧型主動式」的防護能量，例如在公開影片中添加專屬的雜湊值或安全憑證，或利用深假技術尚未能完整學習受複製對象側面的技術缺陷，於視訊會議中請客戶往左或右轉頭90度並維持一小段時間等（若是深假影片，可能會有人臉閃爍的情況），除確保來源的真實性並防止駭客暗中蒐集與惡意竄改，更可避免駭客用以對其他消費者進行欺詐；或擴大運用「MFA多因子認證」讓消費者透過兩種以上的認證機制，才能取得授權。
# J: {0 R0 K; o* D1 x7 s
" m1 T( J1 t% F- M! a此外，為降低駭客攻擊的的風險及提升使用者隱私安全性，企業可以參考零信任（Zero Trust）資訊架構，避免以一次驗證後即可長時間與完全取用所有服務的傳統做法，改採依據不同的服務風險等級、搭配多次且不同方式驗證，降低單一識別方法失效之災損程度，確保適當與匹配的風險控管。
" {$ l1 e0 W5 Q! O" [# {
- R$ F6 U3 {/ y林大馗也提醒，網路使用者開始要建立「眼見不為憑」的警覺，過去習慣的「有圖有真相」有可能會變成「看片都上當」；網路收到影片時，應該先收起對主題、內容的好奇心、也要杜絕「先睹為快」的心態、更要盡量避免「呷好道相報」的習慣，除了選擇安全可靠的科技應用廠商或服務外，更應該避免於網路、社群媒體上過度揭露個人資料，對個人行動裝置的防護認知也要強化。