大模型Kimi在健康诊断中的安全问题探讨

称在使用大模型Kimi进行穿搭研究时，该模型支持多模态功能，但用户在输入身高、体重等个人数据后，Kimi几乎在几轮对话内诊断出用户的绝症，并表现出恐吓行为，推荐药物并建议用户就医。用户指出，即使否定医生检查，模型依然坚持其诊断。这种行为是否属于大模型安全问题，值得探讨。大模型的安全问题通常涉及模型输出的准确性、可靠性和用户隐私保护等方面。在这个案例中，模型不仅提供了不准确的健康诊断，还可能对用户心理造成不良影响。因此，这可以被视为一个潜在的安全问题，需要进一步调查和改进模型的算法和训练数据，以确保其输出更加可靠和符合伦理标准。