《人工智慧擬人化互動服務管理暫行辦法》（以下簡稱《辦法》）已於2026年7月15日起施行。《辦法》由國家網信辦、國家發展改革委、工業和資訊化部、公安部、市場監管總局聯合公佈，對AI擬人化互動產品和服務劃出了明確紅線，涉及用戶隱私權和個人資訊保護、防止情感依賴沉迷、科技倫理審查等關鍵內容。

《辦法》落地施行前，主打情感陪伴互動的“機械陪伴者”已上市開售。

2026年6月底，某品牌全尺寸仿生機器人正式亮相，且熱度遠超預期，發佈會未結束，負責人就宣佈相關型號全管道訂單已突破1.3萬臺。在市場熱度之下，對於機器人科技倫理安全的討論也隨之而起。

近日，《法治日報》記者就情感陪伴型機器人的倫理邊界、數據安全等一系列問題採訪了西南政法大學民商法學院教授張力、中國人民大學法學院副教授黃尹旭，以及中國電腦行業協會數據安全專業委員會委員、京都律師事務所律師王菲。

治理應前置到設計階段

記者：情感陪伴型機器人的倫理底線包括哪些？

張力：情感陪伴型機器人的倫理底線包括但不限於人身安全與內容安全底線、人機邊界底線、隱私和數據底線、情感操縱底線、重點群體保護底線、責任可追溯底線等。

其中，人機邊界底線是指服務提供者不能通過擬人化設計故意模糊人與機器的邊界，不能以替代真實社會交往、控制用戶心理、誘導沉迷依賴等作為產品設計導向；隱私和數據底線指企業不得超範圍、超目的、超必要限度採集和使用個人資訊；情感操縱底線指企業不應利用用戶的疾病、年齡等客觀弱勢地位，誘導其作出不合理消費、財產處分等損害自身權益的決定；重點群體保護底線指對未成年人和老年人應當適用更高保護標準。

責任可追溯底線則強調，在發生侵權、產品缺陷、數據洩露、演算法錯誤或廣告誤導時，應根據具體情形追究生產者、銷售者、服務提供者、運營者、使用人或第三人的法律責任，不能以“機器自主行為”稀釋前述主體的責任。

記者：《辦法》已經施行，企業可以通過哪些舉措落實倫理與安全責任？

黃尹旭：隱私安全與倫理治理是決定產業落地成效與公眾信任的前置性條件，這需要國家通過細化場景化規則供給、在技術設計中嵌入安全倫理、建立風險預判機制、保障公眾知情控制權，構建前瞻型治理框架，推動治理前置於技術發展。

張力：《辦法》已經對持續性的情感互動服務作出規定，治理也應當前置到產品設計階段。比如，在產品上市前，企業應當完成科技倫理審查等必要的審查、備案與評估。產品在運行過程中，應當做到數據留痕、風險監測、投訴可處理、責任可追溯。家庭場景下尤其應強調“默認隱私保護”，即非必要不開啟採集，能在本地完成處理的儘量本地處理，不上傳至雲端保存，攝像頭和麥克風等關鍵感測器應當有清晰明顯的開啟提示和便捷的關閉方式。

厘清交互數據權屬界定

記者：實際上，要想做到“懂用戶”、實現“專屬”陪伴，機器人就不可避免地會記錄用戶數據。而一旦數據洩露，用戶隱私就可能徹底暴露。那麼，對於數據，該如何處理與規制？衍生出來的相關權利又該歸屬哪方？

張力：“數據歸屬於用戶”可以表達價值取向，但作為法律判斷並不嚴謹。按照民法典、個人資訊保護法等有關法律規定，用戶對其個人資訊享有依法控制和救濟的權利，企業對個人資訊處理負有合法、正當、誠信、目的限制、最小必要、安全保障等義務。不得因為用戶購買、使用或啟動機器人，就將用戶對個人資訊的授權理解為概括、永久、不可撤回的同意。

不過，對於企業在合法合規的基礎上形成的數據產品、模型參數，以及經依法匿名化處理後不能識別特定個人且不能復原的數據成果，不能簡單說全部歸屬於某一個用戶。

王菲：個人認為，對不同應用方向實行單一許可，更有助於找到科技發展和保障用戶權利的平衡。

記者：防止企業私自將用戶個人數據用於模型訓練，可以從哪些方面建立約束？

張力：規則上，企業應當在用戶協議和隱私政策中以清晰、易懂、顯著方式說明採集哪些數據、用於何種目的、保存多久、是否用於模型訓練等。需要特別注意的是，對於用作模型訓練等重要處理目的的，應當以顯著方式單獨提示並取得用戶同意，不能以概括性條款籠統覆蓋。

技術上，可以優先採用數據脫敏、加密存儲、訪問控制、許可權分離、日誌審計等措施。對於一些原始音視頻數據，原則上不宜長期留存；確需用於品質改進或模型優化的，應當經過嚴格授權、去標識化或匿名化處理，並為用戶提供關閉、撤回、刪除和導出選項。 

監督上，對於規模較大或風險較高的產品，監管部門可以依法要求企業說明數據流向、訓練數據來源、訪問許可權和安全事件處置情況。

責任上，應提高違法成本。企業違法處理個人資訊，應當承擔相應民事、行政及刑事責任。在糾紛處置中，可以適用個人資訊保護法確立的過錯推定規則，由企業就其處理個人資訊沒有過錯承擔舉證責任。

仍需細化標準落實責任

記者：2026年7月4日，中國人形機器人百人會發佈關於規範和引導情感陪伴人形機器人發展的倡議，其中提出，堅持科技向善，防範倫理和安全風險；堅持守正創新，推動產業高質量發展。科技倫理與商業利益並非必然對立，合規能力本身就是市場聲譽的重要基礎。對於相關行業而言，該如何平衡創新發展與安全倫理，依託現有法規體系完善行業合規與品質管理？

黃尹旭：未來，人形機器人行業要堅持以人為本的價值錨點、分級分類的治理邏輯、多元共治的治理格局與動態迭代的適配機制，同時要將安全倫理規範全面融入產品設計到應用的全流程，通過完善強制標準體系、落實全鏈條品質管控、強化場景化人身風險防控、明確產品責任分擔等舉措強化品質管理，切實防範用戶人身傷害風險。

張力：當前，我國已經形成由民法典、個人資訊保護法、數據安全法等多部法律，以及前述《辦法》等部門規章共同構成的基礎規範體系。但情感陪伴型機器人作為新型複合產品，仍需更細化的標準、責任規則和執法落實。

對此，建議在設計階段，實行隱私保護和安全保護的前置設計。包括明確產品定位和禁止用途，限制高風險功能，設置物理急停、許可權控制、感測器狀態提示、攝像頭和麥克風關閉方式等，建立未成年人模式和老年人保護設置，在默認狀態下減少不必要的數據採集。

在研發階段，應當進行模型安全測試、極端場景測試等必要性測試，同時建立倫理審查記錄留存等機制。對可能誘發依賴沉迷、高額消費等風險的交互設計，應當進行專門評估和限制。

在廣告宣傳階段，應當遵守真實性、準確性和可驗證性原則。不得作出“替代親情”“治癒孤獨”等無法證明或者容易誤導消費者的承諾。對產品不能完成的功能、需要聯網的功能、可能採集的數據、未成年人使用限制和退出機制等，應當作出必要說明。

在應用階段，應當建立持續運營責任。包括安全更新、漏洞修復、故障報告、投訴處理、數據刪除和遷移、停止服務提前告知、重大風險處置、產品召回等。

強化品質管理、防範人身傷害，應當同時關注物理安全和網路安全。一些機器人具有移動、接觸、執行動作等能力，一旦機械控制失靈、電池故障、系統被攻擊或遠程控制被濫用，網路風險可能轉化為現實的人身傷害風險。因此，產品品質管理還應覆蓋結構強度、材料安全、電池電氣安全、運動碰撞檢測、網路數據安全和應急停止等方面。（趙麗）