开发轻量级防火墙项目，防止LLM执行有害命令

为防止再出现codex删库的悲剧，我计划开发一个项目，旨在提供一种轻量级且易于部署的解决方案，作为“防火墙”来预防此类事件的发生。目前市场上已有类似的项目，如NVIDIA NeMo Guardrails和LlamaFirewall，但这些项目的部署似乎并不方便，且在站内讨论较少。因此，我考虑开发一个更加轻量级且易于部署的项目。此外，我还有一个用于保护隐私的项目，计划将此功能整合到新项目中。我的思路是利用正则表达式结合一个小型模型的API，专门用于判断LLM（大型语言模型）想要执行的命令是否具有危害性。请问各位技术爱好者对此有何看法？