声明指出，采取这一监管举措，是因为“格罗克”被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的合成图像内容，其中包括涉及女性及未成年人的相关内容。

“格罗克”由马斯克旗下人工智能企业xAI公司开发，并内置于其社交媒体平台X。马来西亚通信和多媒体委员会表示，已于本月3日和8日分别向X平台和xAI公司发出通知，要求其采取落实有效技术防护和内容审核机制等多项措施，防止AI生成可能违反马来西亚法律的内容。然而，X平台提交的回应主要依赖用户主动发起的举报机制，未能充分应对该AI工具在设计和运行层面存在的固有风险。

马来西亚通信和多媒体委员会认为，上述做法不足以防止伤害发生，也无法确保符合法律要求，因此决定采取预防性且适度的临时限制措施。相关限制将持续生效，直至有效防护机制落实到位，尤其是要防止AI生成涉及女性和儿童的色情内容。

此前，马来西亚通讯部副部长张念群向媒体表示，“格罗克”在未经当事人同意的情况下生成不当内容，已引发全球多国舆论与监管机构的强烈关注。马方对相关功能可能被滥用表示严重关切。

张念群还指出，全球正围绕人工智能展开激烈竞争，但若一味追求速度与利润，而忽视伦理规范与社会责任，后果将不堪设想。“格罗克”在短时间内大量生成不雅影像，且速度远超传统影像处理方式，这凸显出人工智能在缺乏伦理约束情况下被滥用的现实风险。