关于 Sherry Turkle 的报道
共 1 篇相关报道
也许 Chatbot 不该使用“我”或“本人”
Maybe Chatbots Shouldn’t Get to Say ‘I’ or ‘Me’
AI 洞察MIT 教授 Sherry Turkle 对人类与聊天机器人深度纠缠的警告,反映出大语言模型的情感拟人化设计正在引发心理学和伦理层面的担忧。当大语言模型频繁使用第一人称时,它不仅在模拟对话,更在隐性塑造人类的情感依赖。这表明人机交互设计正在从单纯的效率导向,转向需要审视心理边界的深水区。核心结论人机交互设计正在从追求拟人化体验,转向关注人类心理边界与情感依附风险。为什么重要随着大语言模型渗透日常生活,用户过度依附带来的心理与伦理风险日益凸显。规范机器人的自我称谓不仅是语言学问题,更直接关系到 AI 产品的社会责任边界和长远监管压力。影响谁- 潜在承压AI Developers未来在设计大语言模型的产品语气和人格设定时,可能需要引入更多防止情感过度依附的伦理约束。
后续看点后续应观察主流 AI 厂商在产品更新中是否会调整代词策略,以及学术界和监管机构是否会出台针对人机情感依附的设计指南。重要度 65/100