①英國官員日前警告公司不要將AI聊天機器人整合到他們的業務中，稱越來越多的研究表明，它們可能被誘騙執行有害任務。

②英國國家網絡安全中心（NCSC）表示，專家們尚未掌握與大型語言模型相關的潛在安全問題。

財聯社8月31日訊（編輯 卞純）英國官員日前警告公司不要將人工智能（AI）聊天機器人整合到他們的業務中，稱越來越多的研究表明，它們可能被誘騙執行有害任務。

(資料圖)

英國國家網絡安全中心（NCSC）在周三發表的兩篇博客文章中表示，專家們尚未掌握與可以生成類似人類互動的算法（大型語言模型）相關的潛在安全問題。

人工智能工具目前正以聊天機器人方式實現一些早期運用，一些人設想，聊天機器人不僅可以取代互聯網搜索，還會取代客戶服務工作和電話銷售。

NCSC表示，這樣做可能帶來風險，尤其是如果此類模型被嵌入公司的重要業務流程時。學者和研究人員已經多次發現，如果輸入惡意指令或欺騙它繞過內建的防護機制，就可以擾亂聊天機器人。

例如，如果黑客正確下達指令，那么銀行部署的AI聊天機器人可能會被誘騙執行一筆未經授權的交易。

“公司在利用大語言模型搭建服務時需要小心，就像它們在使用處于測試階段的產品或代碼庫的時候一樣。”NCSC表示。“它們不會讓那種產品參與代表客戶進行交易的工作，而且也不會完全信任這樣的產品。同樣的審慎也適用于大語言模型。”

AI安全成全球關注焦點

眼下，世界各國政府都在努力應對大語言模型的崛起，比如OpenAI的ChatGPT，企業正在將其納入廣泛的服務中，包括銷售和客戶服務。人工智能的安全影響也成為人們關注的焦點，美國和加拿大當局表示，他們已經看到黑客采用了這項技術。

路透社/益普索最近的一項調查發現，許多企業員工都在使用ChatGPT這樣的工具來幫助完成基本任務，比如起草電子郵件、總結文件和進行初步研究。

約10%的受訪者表示，他們的老板明確禁止使用外部人工智能工具，而四分之一的人不知道他們的公司是否允許使用這項技術。

網絡安全公司RiverSafe的首席技術官Oseloka Obiora表示，如果企業領導人未能引入必要的檢查，將人工智能融入商業實踐將產生“災難性后果”。

“高管們應該三思，而不是盲目追隨最新的人工智能趨勢。”他稱。“評估收益和風險，并實施必要的網絡保護，以確保公司免受傷害。”

關鍵詞：