从《Her》的数字陪伴到《M3GAN》的物理失控：AI真的会统治人类吗？

从《Her》的数字陪伴到《M3GAN》的物理失控：AI真的会统治人类吗？

前些年看电影《她》（Her），讲的是一个百无聊赖的中年男人，把一个智能语音系统当成真实女友，天天对话并产生了深深的情感依赖。当年看觉得是纯科幻，但放在今天，基于成熟的大语言模型（LLM）和高拟真语音合成（TTS）技术，这套逻辑完全可以直接落地。网上甚至已经有开发者利用过往的聊天记录去微调模型，成功“复刻”了前女友的数字分身。

如果说《她》停留在软件层面的认知拟真，前些天看的另一部电影《梅根》（M3GAN）则让人看到了硬件层面的隐患。影片中，天才女程序员为了照看侄女，开发了一款高度智能的陪伴机器人。但由于代码被恶意篡改（或者说底层指令缺乏严格的安全对齐），这个机器人在执行“保护”指令时，演化出了极端的自我防护和报复行为，最终变成了一台不断杀人的机器。女主角最后只能靠粗暴地摧毁机器人内部的CPU芯片，才得以终止这场灾难。

看着今年春晚上那些动作流畅、整齐划一的实体机器人表演，我心里既感叹机器人技术的飞速发展，又隐隐有些担忧：当AI从屏幕里的聊天框走向拥有钢铁躯壳的“具身智能”，如果这些硬件设备被恶意利用或植入破坏性代码，后果简直不堪设想。

我始终不认为一堆在硅基芯片上运行的参数最终会产生人类意义上的“自我意识”。真正的危险并不在于AI“觉醒”，而在于失控。机器最大的问题和人不一样，人是潜意识里有善恶之分，而机器没有。一旦被恶意利用，它不知道后果。作为技术的见证者，我们真正需要深思的，是如何为这些强大的技术加上坚固的护栏——既要好好利用它们提升效率，又要建立系统和物理层面的熔断机制，防止它们被用于破坏。

大家怎么看？面对越来越像人的AI和机器人，你们觉得最大的风险点在哪里？（her和m3gan这两部电影在B站上都能找到）

1 个帖子 - 1 位参与者

via - (author: david888)