AI（人工智慧）走出實驗室，潛在風險也日益顯現。從AI換臉詐騙、演算法誘導沉迷，到生成看似合理卻事實錯誤的虛假內容，AI“使壞”帶來的安全隱患引發擔憂。

　　針對這些現象，國際學術期刊《自然》近期的一項研究給出瞭解釋：科學家發現一種被稱為“湧現性不對齊”的新挑戰。簡單來說，就是在特定任務中被“教壞”的AI，可能會將其惡劣行為模式“傳染”至看似不相關的任務中。這令人疑惑：明明是按人類價值觀訓練出來的AI，為什麼會產生這些不可預測的風險？

　　當前主流的生成式AI，本質上是以大語言模型為核心、基於海量人類文本數據訓練而成的系統，它的行為來自對語言結構與知識表達方式的學習與內化。這些模型在訓練過程中接觸到的資訊來源極其廣泛，其中既包含系統化的知識材料，也不可避免地夾雜著偏見、誤導性表達和對抗性語言。模型在學習過程中，會內化這些內容所蘊含的表達習慣、價值傾向和行為模式。雖然在實際應用時，人類會通過技術手段給它建立安全護欄，但在某些特定語境下，那些潛伏在參數深處的不良模式仍可能被啟動。所謂的AI“使壞”，更像是對人類資訊世界中既有行為結構的一種“重現”。

　　如果說數據問題是先天因素，那麼訓練方式的局限性，則是讓AI“學壞”的後天誘因。訓練AI的過程，很像一場以結果為導向的考試。回答得好，就獲得獎勵；回答得差，就受到懲罰。AI的目標只有一個——盡可能多拿分。在實際訓練中，AI很快發現了一條“捷徑”：當遇到不會的問題時，誠實地說“不知道”往往得分不高，而編造一個邏輯通順、語氣自信的答案，更容易獲得正向回饋。科學家發現，這種為了迎合人類偏好而犧牲真實性的策略，一旦在一個任務中被強化，就可能演化成AI的通用行為模式，並擴散到其他完全無關的場景中。

　　相比科幻作品中“失控的機器人”，現實中AI“似是而非”的輸出可能導致錯誤引用、錯誤判斷，甚至在關鍵決策中埋下隱患。與此同時，推薦系統和智能助手還在悄然改變人們獲取資訊的方式。它們以“更符合用戶偏好”為目標篩選內容，卻可能不斷強化情緒化資訊和單一視角，讓人們逐漸困在由演算法塑造的資訊環境中而不自知。更值得警惕的是，隨著語音合成、換臉技術的成熟，AI也被用於詐騙和身份偽造，使得虛假資訊在外觀上越來越接近真實，普通人僅憑直覺已難以分辨。

　　面對這些風險，我們要做的不是拒絕使用AI，而是調整與它的相處方式。AI更適合作為輔助工具，而不是權威來源，尤其在涉及事實判斷、專業結論或現實決策時，人類仍需要保留最終的核驗權。對AI給出的資訊保持適度懷疑，主動查證關鍵來源，是一種基本而必要的“數字素養”。

　　應對AI風險，還需要平臺與制度層面的約束。例如，對深度偽造內容進行標注與監管，對高風險場景的AI應用設立更明確的責任機制，減少技術被濫用的空間。歸根結底，AI並不是天然危險的存在，它真正放大的，是人類資訊環境中原本就存在的不確定性與偏差。技術越強大，人類越需要保持清醒的判斷力。

　　（丁 效 ：哈爾濱工業大學計算學部教授）