編者按
當新工具帶來新風險，第一反應是“堵”還是“疏”？本文旗幟鮮明地指出，封堵絕非長久之計，安全團隊的使命應從“守門員”轉向“教練員”。而“以AI制AI”實現安全能力“平權”、以及構建校內可信AI基座的核心思路，將為高校從被動防御轉向主動賦能，提供關鍵的理念升維與戰略路徑。
近期，以小龍蝦（OpenClaw）、Hermes Agent為代表的開源AI智能體（Agent）框架席卷全球。這一現象并非偶然的技術熱點，而是標志著人工智能應用的根本性轉折：AI正從單純的“對話與認知”邁向“感知與執行”。
大模型雖已掌握海量知識，但其認知被困在訓練數據的時間截止點上，難以觸達最新動態。為了讓AI更與時俱進，需要為其掛載動態知識庫，并賦予其工具調用（Tool Use）的“技能庫”（Skills）。一個具備強大推理能力的模型，加上類似OpenClaw這樣的智能體編排框架，便構成了一個能自主規劃、調度工具、聯網學習以及編寫代碼的“人機協同體”。用戶只需給出模糊指令，它便能拆解任務、自主執行并交付最終結果。
盡管當前的智能體技術在校園級應用所需的安全性、穩定性及權限隔離方面尚待完善，但其代表的方向已不可逆轉：AI的能力正從“大腦”延伸至“雙手”。未來，深刻理解業務并善于使用AI的超級信息化人員，或將指揮由多個AI智能體組成的“虛擬團隊”，完成傳統上需多人多部門協同的復雜工程。這種“一人軍團”的新生產力范式，已在社會上悄然成型。
重塑認知：從“封堵”到“駕馭”
面對“小龍蝦”這類個人智能體的興起，部分高校的第一反應是“禁止在辦公及教學終端安裝運行”。這種出于對“高權限、行為復雜、易失控”風險的擔憂雖可理解，卻非長久之計。正如汽車誕生初期因交通規則缺失而事故頻發，但其取代馬車仍是歷史必然。智能體所代表的“自動化執行”趨勢不可阻擋，關鍵在于我們如何認知并駕馭它。高校安全團隊首先要完成認知的升維，成為新技術的“深度用戶”。只有親身實踐，理解智能體的能力邊界與脆弱性，才能設計出符合實際的管控策略，從簡單的“禁止使用”轉向引導師生“在可接受的范圍內安全地使用”，從“守門員”轉變為“教練員”，引導師生安全地使用智能體。
以AI制AI：邁向安全能力“平權”
當前，攻擊者已廣泛利用AI進行自動化漏洞挖掘與攻擊。若高校安全團隊仍固守傳統手段，無異于在對手已裝備“AI自動化武器庫”時，仍憑血肉之軀進行“非對稱防御”，攻防態勢將嚴重失衡。因此，“以AI制AI”不是一句口號，而應成為未來安全能力的基線。這意味著安全團隊的核心競爭力必須轉型：從依賴專家個人經驗，轉向提升對“AI武器庫”的組裝、指揮與迭代能力。一方面可將經驗代碼化，將資深專家的經驗轉化為標準化的“技能庫”和高質量數據集。另一方面是將任務自動化，通過消耗詞元（Token），利用AI自動審查代碼、進行7×24小時漏洞掃描、分析海量日志、監測賬號異常，實現安全工作的大規模自動化執行。
過去，因安全人才稀缺且分布不均，不同高校的安全能力差異巨大；未來，只要能夠調用先進的AI模型與智能體，許多基礎性、重復性的安全工作將被拉齊至相近水平。資源相對有限的高校更應把握這一歷史機遇，通過技術杠桿實現高校間的“安全平權”。
升級治理：為“人機協同”設立新規則
AI智能體時代，傳統的安全體系基于對“人”的行為進行感知和管控，而面對海量、自主運行、動作迅速且交互邏輯難以完全預測的“人機協同體”，原有的邊界防護、漏洞管理及審計模型已難以應對。對此，可構建動態沙箱機制。通過技術手段為智能體設立嚴格的“工作沙箱”，為其創建專屬且受限的系統身份，將操作嚴格限定在特定虛擬環境或目錄下。當智能體確需高權限操作時，應摒棄默認授權，轉而建立“臨時申請、人工審批、動態授權”的機制。
簡言之，治理體系必須穿透這層“代理”迷霧，將安全策略內嵌至智能體的調度平臺與工具調用鏈中，確保任何自動化行為都能精準關聯到背后的責任人，真正實現“行為可管可控、可溯源”。
搭建基座：構建校內可信的AI基礎設施
面對師生強烈的AI應用需求與校外不可控服務帶來的數據泄露風險，高校有必要構建校內可信的“AI基礎設施”，提供標準化、平臺化、服務化的AI能力基座。針對不同場景，模型服務層要提供多元、可信的模型選擇，整合云端通用模型與校內私有化部署模型，形成差異化分級服務矩陣。學校提供企業級的智能體編排層，打造安全可控的智能體開發與運行“廣場”。師生可低門檻地創建、分享和使用智能體。信息化部門則在此平臺上統一實施安全策略、規范工具調用、集中審計行為，變“分散失控”為“集中可控”。
此外，智能體時代的數據形態已擴展到知識庫和向量庫。新形態下的數據安全防護不僅要防“泄露”，更要防“污染”和“幻覺”。需引入工程化約束機制，例如要求關鍵回答必須提供可驗證出處，或引入“多智能體交叉驗證”機制——讓多個智能體獨立完成任務，再由主控智能體匯總校驗，以對抗大模型的“幻覺”，提升決策可靠性。
普及素養：定義人機協作新常識
當AI成為普遍的生產力工具，高校師生的數字素養內涵也應加入“對AI的理解力”，信息化部門需向全校傳遞各類新常識。一是深刻理解大模型存在不同程度的“幻覺”，明白只有通過人工復核或多源比對來過濾虛假信息，才能有效規避因盲目信任而引發的學術不端或業務失誤風險。二是要清晰界定數據邊界，明確哪些數據可交由公有模型，哪些必須留存于校內私有環境或本地。需高度警惕“免費午餐”背后的代價，許多公有云模型服務協議隱含數據授權條款，可能導致敏感數據被用于模型訓練甚至泄露。三是要有成本與效能意識，理解不同模型（滿血版和各類量化版）的能力差異，學會根據不同場景選擇最經濟模型。四是培養安全協作意識，掌握為AI智能體設置“工作邊界”的方法，理解數據隔離和權限隔離的重要性，在受控環境中安全使用。
結語
展望未來，高校的安全能力將不再單純取決于“人手”與“資金”的規模，而將轉向比拼AI武器庫的“組裝效率、指揮藝術與迭代速度”。安全的本質依然是“人與人的對抗”，但戰場已從代碼層面升至智能體調度與認知博弈的層面。
高校安全團隊的使命，是在完成自身認知革命與能力重構的同時，為全校構建起一套既能釋放生產力、又能管控新風險的AI基礎設施，守護教育數字化轉型。目標不應是簡單的“封堵”，而是深度的“賦能”。要在堅守安全底線的前提下，讓AI能力像水電一樣隨手可得，讓安全成為智能體發展的跑道，而非枷鎖。
作者：姜開達 吳芳（上海交通大學信息化推進辦公室）
責編：胡暄悅
