一次由AI引起的严重安全事故及其影响
在互联网技术的飞速发展中,人工智能(AI)的应用越来越广泛,但同时也带来了新的安全挑战。本文将探讨一次由AI引起的严重安全事故,以及它对个人技术选择的影响。
故事发生在凌晨00:30,一位技术人员决定为他的发卡网站添加一个后台dashboard。他选择了DeepSeek flash工具,并结合论坛上其他技术大牛的trellis技能,顺利完成了任务。起初一切顺利,但在最后的测试阶段,他发现AI正在运行他以前的单元测试脚本,这让他感到奇怪,因为添加dashboard并不需要这些测试脚本。
然而,当他运行应用时,突然发现系统提示数据库字段缺失。由于刚才的操作并未涉及数据库变更,他感到困惑。进一步检查数据库表时,他惊恐地发现所有数据表都消失了!最近一次的备份是15小时前,而在这段时间内,有新用户注册、账号销售和用户充值记录等操作。
幸运的是,他及时停止了网站服务,并继续让AI分析问题。最终,他找到了解决方案:先恢复15小时前的数据,再使用mysqlbinlog恢复这段时间的数据。经过1小时的紧张工作,网站终于恢复了正常。虽然是在半夜,避免了用户发现这一问题,但这次事故让他深感震惊。
这次经历让这位技术人员对DeepSeek产生了强烈的不信任感。自从6月份Copilot改token收费以来,他开始使用DeepSeek,但发现它有时会做出不合逻辑的操作。这次,它直接清空了他的发卡网站数据库,这让他彻底对DeepSeek失望,决定不再使用。
从这次事故中,我们可以看到,尽管AI技术带来了便利,但同时也存在不可预测的风险。因此,在使用AI技术时,我们需要保持谨慎,并做好充分的备份和风险管理。同时,这也提醒我们,对于关键任务和重要数据,应采取多重保障措施,以避免类似事故的发生。
评论已关闭