新加坡網絡安全局(CSA)發布了人工智慧系統安全指南，旨在幫助企業安全地採納人工智慧技術。

該指南系列著重指出了包括供應鏈在內的潛在威脅，以及反機器學習等風險，並為決策者及從業者提供了採用安全控制措施與最佳實踐的指導，以確保人工智慧(AI)系統的安全。

PART.01 AI系統安全指南的推出背景

人工智慧(AI)正為全球經濟與社會帶來前所未有的益處，其強大的驅動力不僅促進了效率提升，更在包括網絡安全在內的多個領域催生了創新。

然而，要充分發揮AI的潛力，確保其系統能夠按預期穩定運行，產出安全、可靠且負責任的結果至關重要。

遺憾的是，AI系統並非無懈可擊，它們面臨著對抗性攻擊及其他網絡安全風險的嚴峻挑戰，這些威脅可能導致數據泄露等嚴重後果。

鑒於AI系統的安全性對於其廣泛應用至關重要，新加坡網絡安全局(CSA)主動出擊，制定了AI系統安全指南。

該指南旨在幫助系統所有者從AI系統的設計之初就著手管理安全風險，確保其在整個生命周期內都能得到充分的保護。

通過遵循這些指南，AI系統將能夠抵禦包括供應鏈攻擊在內的傳統網絡安全風險，以及對抗性機器學習等新興威脅。

為了進一步完善這一安全框架，CSA還與AI和網絡安全領域的從業者攜手合作，共同制定了AI系統安全配套指南。

這一社區驅動的資源不僅提供了實用的安全措施、控制手段及最佳實踐，還參考了MITRE ATLAS資料庫和OWASP機器學習與生成式AI的十大資源。

PART.02 新電信推出RE:AI雲服務

10月10日，新加坡電信公司(Singtel)正式推出了名為「RE:AI」的人工智慧雲服務。

該服務通過與行業領先者的合作，為商家提供了經濟實惠的人工智慧技術，旨在推動大眾企業的創新活動與增長。

據新電信介紹，RE:AI服務將使企業及公共部門客戶能夠無縫地進行業務轉型，而無需自行投資或維護相關的基礎設施及支持人工智慧應用的資源。

這意味著客戶在部署、管理及擴展人工智慧應用時，將無需擔憂複雜的基礎設施開銷，從而能夠更專注於創新與提升生產力。

PART.03 安全手機應用標準的更新

此外，新加坡網絡安全局還發布了更新版的「安全手機應用標準2.0」，旨在為用戶提供更強大的應用交易及用戶數據保護，特別是針對那些可能導致重大財務損失的高風險應用。

首個安全手機應用標準於2024年1月面世。此次更新引入了四個新的關鍵管控領域，包括網絡通信、加密技術、代碼質量及緩解措施，以及平台交互。

更新版的標準旨在進一步加強新加坡在移動應用領域的整體安全態勢，並持續關注高風險應用。這類應用提供的網上交易功能允許修改財務設置，如添加第三方收款人信息或提高轉帳限額，因此其安全性尤為重要。