马来西亚临时限制访问AI聊天机器人“格罗克”

马来西亚通信和多媒体委员会11日发表声明说，格罗克当天起临时限制马来西亚互联网用户访问美国企业家埃隆·马斯克旗下的马西人工智能（AI）聊天机器人“格罗克”（Grok）。

声明说，亚临十堰排污新闻网采取这一监管措施是时限鉴于“格罗克”被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的制访合成图像内容，包括涉及女性及未成年人的天机内容。

“格罗克”由马斯克旗下人工智能企业xAI公司开发，器人并内置于马斯克旗下社交媒体平台X。格罗克马来西亚通信和多媒体委员会表示，马西十堰排污新闻网已于本月3日和8日分别向X平台和xAI公司发出通知，亚临要求其采取落实有效技术防护和内容审核机制等多项措施，时限以防止AI生成可能违反马来西亚法律的制访内容。不过，天机X平台所提交的器人回应主要依赖由用户主动发起的举报机制，未能充分应对该AI工具在设计和运行层面的格罗克固有风险。

马来西亚通信和多媒体委员会认为，上述做法不足以防止伤害发生，也无法确保符合法律要求，因此采取预防性且适度的临时限制措施。相关限制将持续生效，直至落实有效防护机制，尤其是防止AI生成涉及女性和儿童的色情内容。

马来西亚通讯部副部长张念群此前表示，“格罗克”在未经当事人同意情况下生成不当内容，已引发全球多国舆论与监管机构的强烈关注。马方对相关功能可能被滥用表示严重关切。

张念群表示，全球正围绕人工智能展开激烈竞争，但若一味追求速度与利润，而忽视伦理规范与社会责任，其后果将不堪设想。“格罗克”在短时间内大量生成不雅影像，且速度远超传统影像处理方式，凸显出人工智能在缺乏伦理约束情况下被滥用的现实风险。