谷歌前CEO埃里克·施密特近日就人工智能安全發出警告，指出AI系統存在被黑客攻擊的風險，安全防護可能被移除。他強調，無論是開源還是封閉模型，均可能遭遇“提示注入”或“越獄”攻擊，導致AI泄露隱私、執行惡意指令甚至生成危險內容。施密特表示，盡管主流企業已采取措施防止AI回答高危問題，但模型仍可能被逆向工程，當前缺乏有效的非擴散機制應對潛在威脅。他同時認為，AI的能力遠未被充分認知，其影響力或將超越人類歷史上的技術變革，未來五到十年將驗證其真正價值。
免責聲明：本文內容由開放的智能模型自動生成，僅供參考。
