英国政府今天呼吁马斯克（Elon Musk）的社群平台X採取紧急行动，因应旗下人工聪明（AI）工具Grok被用来製作儿童的伪造色情图像。
英国科技大臣肯达尔（Liz Kendall）透过声明表示：「近几天我们在网路上看到的景象完全骇人听闻，在文明社会中是不可接受的。」
法新社报导，AI工具Grok因答应用户透过所谓的「辛辣模式」（spicy mode）设定，天生女性与未成年人的色情化深度伪造（deepfake）图像，正引发日益增长的国际反弹。
欧盟执委会昨天公布，正「非常严厉地」审查有关这款工具的投诉；英国媒体监管机构通讯治理局（Ofcom）也表示正在调查X平台及开发Grok的xAI公司。
根据英国往年7月生效的「线上安全法」（Online Safety Act），凡是承载可能有害内收留的网站、社群媒体和影音分享平台，都必须透过脸部图像或信用卡检查等工具，实施严格的年龄验证。
这项法案也规定，媒体和这类网站製作或分享未经同意的私密图像或儿童性虐待内收留，包括以AI製作的色情深度伪造品，均属违法。
法案答应对未遵守规定的公司处以其全球收进10%或1800万英镑（约2430万美元）的罚款，以金额较高者为準。
英国政府也已表示，将禁止答应使用者为照片中人物「脱往衣物」的所谓「一键脱衣」（nudifi一元一分血战麻将群cation）工具。
Grok开发方2日曾表示，已发现旗下AI工具存在缺陷，形收留这是「安全防护上的疏失」，并正「紧急」努力修复。
