AI从“幻觉”聊天机器人走向自我改进，人类担忧失控
美国主要人工智能实验室负责人罕见地在周末联合呼吁暂停这项技术的发展，并警告人工智能可能很快具备自我改进能力，最终脱离人类控制。Anthropic首席执行官达里奥·阿莫代、OpenAI首席执行官萨姆·奥特曼和xAI首席执行官埃隆·马斯克发表的言论显示，人工智能正从2022年容易产生“幻觉”的ChatGPT，快速迈向许多人视为关键节点的“递归式自我改进”。
“递归式自我改进”是指人工智能系统能够在很少或完全不需要人类帮助的情况下改进自身，并利用每一次进步推动下一次改进。这一概念长期受到研究人员关注，因为它可能推动医学、工程等领域取得快速突破。
