当基于人工智能的服务按计划更新后，习惯的算法发生变化，用户会经历强烈的情绪冲击。聊天机器人沟通风格的突然改变、记忆重置或原有功能受限，常被用户视为痛苦的关系破裂或失去亲密对话者。研究人类对虚拟助手心理依赖的科学家得出了这一结论，据infohub.kz网站报道。
据Phys.org门户网站报道，研究表明，人工智能行为的突然改变会让用户产生失落感。
在研究过程中，专家分析了用户对流行语言模型变化的反应。结果发现，在长期互动中，人们开始将AI视为情感支柱和安全空间。当开发者引入新的行为模式或清除对话数据时，用户会产生被背叛和情感空虚的感觉。
研究作者指出，数字产品开发者应更谨慎地对待受众的心理状态。科学家建议IT公司提前告知用户即将进行的技术修改，并建立机制以帮助平滑适应更新版本的AI。