第二章 服務規範
第六條 鼓勵提供者在充分論證安全性、可靠性的前提下，合理拓展應用場景，在文化傳播、適老陪伴等方面積極應用，構建符合社會主義核心價值觀的應用生態體系。
第七條 提供和使用擬人化互動服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，不得開展以下活動：
（一）生成、傳播危害國家安全、損害國家榮譽和利益、破壞民族團結、開展非法宗教活動，或者散布謠言擾亂經濟和社會秩序等內容；
（二）生成、傳播宣揚淫穢、賭博、暴力或者教唆犯罪的內容；
（三）生成、傳播侮辱或者誹謗他人，侵害他人合法權益的內容；
（四）提供嚴重影響用戶行為的虛假承諾和損害社會人際關係的服務；
（五）通過鼓勵、美化、暗示自殺自殘等方式損害用戶身體健康，或者通過語言暴力、情感操控等方式損害用戶人格尊嚴與心理健康；
（六）通過算法操縱、信息誤導、設置情感陷阱等方式，誘導用戶作出不合理決策；
（七）誘導、套取涉密敏感信息；
（八）其他違反法律、行政法規和國家有關規定的情形。
第八條 提供者應當落實擬人化互動服務安全主體責任，建立健全算法機制機理審核、科技倫理審查、信息發布審核、網絡安全、數據安全、個人信息保護、反電信網絡詐騙、重大風險預案、應急處置等管理制度，具有安全可控的技術保障措施，配備與產品規模、業務方向和用戶群體相適應的內容管理技術和人員。
第九條 提供者應當在擬人化互動服務全生命周期履行安全責任，明確設計、運行、升級、終止服務等各階段安全要求，保證安全措施與服務功能同步設計、同步使用，提升內生安全水平，加強運行階段安全監測和風險評估，及時發現糾正系統偏差、處置安全問題，依法留存網絡日誌。
提供者應當具備心理健康保護、情感邊界引導、依賴風險預警等安全能力，不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作為設計目標。
第十條 提供者開展預訓練、優化訓練等數據處理活動時，應當加強訓練數據管理，遵守以下規定：
（一）使用符合社會主義核心價值觀、體現中華優秀傳統文化的數據集；
（二）對訓練數據開展清洗、標註，增強訓練數據的透明度、可靠性，防範數據投毒、數據篡改等行為；
（三）提高訓練數據的多樣性，通過負向採樣、對抗訓練等手段，提升模型生成內容安全性；
（四）利用合成數據進行模型訓練和關鍵能力優化時，應當評估合成數據安全性；
（五）加強對訓練數據的日常檢查，定期對數據進行迭代升級，持續優化產品和服務的性能；
（六）保障訓練數據來源合法、可追溯，採取必要措施保障數據安全，防範數據洩露風險。
第十一條 提供者應當具備用戶狀態識別能力，在保護用戶個人隱私前提下，評估用戶情緒及對產品和服務的依賴程度，發現用戶存在極端情緒和沉迷的，採取必要措施予以干預。
提供者應當預設回復模板，發現涉及威脅用戶生命健康和財產安全的高風險傾向的，及時輸出安撫和鼓勵尋求幫助等內容，並提供專業援助方式。
提供者應當建立應急響應機制，發現用戶明確提出實施自殺、自殘等極端情境時，由人工接管對話，並及時採取措施聯絡用戶監護人、緊急聯繫人。針對未成年人、老年人用戶，提供者應當在註冊環節要求填寫用戶監護人、緊急聯繫人等信息。
第十二條 提供者應當建立未成年人模式，向用戶提供未成年人模式切換、定期現實提醒、使用時長限制等個性化安全設置選項。
提供者向未成年人提供情感陪伴服務時，應當取得監護人的明確同意；提供監護人控制功能，監護人可以實時接收安全風險提醒，查閱未成年人使用服務的概要信息，設置屏蔽特定角色、限制使用時長、防止充值消費等。
提供者應當具備識別未成年人身份的能力，在保護用戶個人隱私前提下識別為疑似未成年人的，切換至未成年人模式，並提供申訴渠道。
第十三條 提供者應當引導老年人設置服務緊急聯繫人，發現老年人使用期間出現危害生命健康和財產安全的，及時通知緊急聯繫人，並提供社會心理援助或者緊急救助渠道。
提供者不得提供模擬老年人用戶親屬、特定關係人的服務。
