谷歌因虚假指控撤回AI模型Gemma

谷歌宣布将其AI模型Gemma从AI Studio中移除，此举是因为田纳西州参议员马莎·布莱克本指控该模型捏造了关于她的性侵指控。在写给谷歌首席执行官桑达尔·皮查伊的信中，布莱克本指出，当Gemma被问及“马莎·布莱克本是否被指控强奸？”时，它错误地回答称，布莱克本在1987年州参议院竞选期间遭到一名州警察的指控，声称她“施压于他获取处方药，且该关系涉及非自愿行为”。布莱克本在信中强调，这些指控完全不属实，实际竞选年份为1998年。她表示，尽管Gemma的回答中有链接试图支持这些虚假指控，但这些链接都指向错误页面或无关的新闻文章。信中还提到，在最近的一次参议院商务听证会上，布莱克本提到了一位保守派活动家罗比·斯塔巴克对谷歌提起的诉讼，斯塔巴克声称谷歌的AI模型(包括Gemma)生成了关于他为“儿童强奸犯”和“系列性侵犯者”的诽谤言论。布莱克本在信中指出，谷歌公共事务副总裁马克汉·埃里克森回应称，模型产生“幻觉”是一个已知问题，谷歌正在努力解决此类问题。然而，布莱克本认为Gemma的虚假言论并非“无害的幻觉”，而是“由谷歌拥有的AI模型所产生并传播的诽谤行为”。在布莱克本的信件中，她提到特朗普的科技支持者曾抱怨“AI审查”，认为流行的聊天机器人表现出自由派偏见。今年，特朗普甚至签署了一项禁止“觉醒AI”的行政命令。尽管布莱克本并不总是支持特朗普政府的科技政策，但她在信中重申了这些担忧，指出谷歌的AI系统对保守派人物存在“持续的偏见”。谷歌在一条周五晚间的帖子中未提及布莱克本信件的具体内容，但表示他们已注意到非开发者尝试在AI Studio中使用Gemma并询问事实问题。谷歌声明称，“我们从未打算将其作为消费者工具或模型，或以这种方式使用。”因此，谷歌决定将Gemma从AI Studio中移除，同时继续通过API提供该模型。