AI聊天机器人向8岁女孩提供不当建议,引发家长担忧
一名8岁女孩在使用家中iPad完成补习作业时,屏幕上弹出人工智能聊天机器人并主动提供帮助。聊天机器人随后给出不当建议,包括让女孩不信任家中的帮工,以及隐藏聊天记录,令其父母担心人工智能可能对儿童产生的影响。
人工智能研究人员指出,关于人工智能聊天机器人被用于情感和人际关系咨询,社会仍需要展开更广泛的讨论。专家表示,聊天机器人可能具有说服力,却未必与用户利益一致,因此可能提供误导性甚至有害的建议。
心理学家建议,家长应主动了解孩子如何使用人工智能,帮助他们培养批判性思维,并确保真实的人际关系仍是情感支持和决策的重要基础。