阿里巴巴近日宣布推出全球首個企業(yè)級AI原生工作平臺“悟空”，旨在為企業(yè)提供更安全、高效的AI應(yīng)用解決方案。然而，隨著AI技術(shù)的廣泛應(yīng)用，企業(yè)數(shù)據(jù)安全問題也日益凸顯。釘釘CEO在發(fā)布會上特別強(qiáng)調(diào)，當(dāng)前企業(yè)在引入AI工具時，面臨“權(quán)限脆弱”、“越權(quán)執(zhí)行”、“數(shù)據(jù)泄露”和“惡意技能”四大核心風(fēng)險。

他以具體案例說明問題的嚴(yán)重性：某企業(yè)員工在內(nèi)部3000人大群中訓(xùn)練AI“養(yǎng)龍蝦”，結(jié)果該AI意外泄露了公司機(jī)密信息，包括IP地址、真實姓名、企業(yè)名稱甚至全年營收數(shù)據(jù)。無獨有偶，meta公司安全總監(jiān)的電腦曾遭攻擊，200余封重要郵件被批量刪除，造成難以估量的損失。更令人震驚的是，目前有超過39萬個claw站點資產(chǎn)處于無保護(hù)狀態(tài)，企業(yè)數(shù)據(jù)完全暴露在風(fēng)險之中。

釘釘負(fù)責(zé)人陳航對此表達(dá)強(qiáng)烈擔(dān)憂。他指出，部分企業(yè)盲目追求AI技術(shù)應(yīng)用，卻忽視了基礎(chǔ)安全防護(hù)。“將未經(jīng)管控的超級智能體隨意部署，相當(dāng)于給每臺電腦開后門，導(dǎo)致中木馬、病毒的風(fēng)險激增。”他形象地比喻道，“這種行為就像把猛獸放出籠子，當(dāng)企業(yè)失去對AI的控制權(quán)時，終將被技術(shù)反噬。”

針對這些隱患，“悟空”平臺特別設(shè)計了沙箱運行機(jī)制和分級權(quán)限管理系統(tǒng)。通過將AI操作隔離在安全環(huán)境中執(zhí)行，并嚴(yán)格限制數(shù)據(jù)訪問權(quán)限，該平臺可有效防止越權(quán)行為和數(shù)據(jù)泄露。阿里巴巴表示，未來將持續(xù)完善安全防護(hù)體系，幫助企業(yè)在享受AI紅利的同時，筑牢數(shù)據(jù)安全防線。