深偽露骨圖掀全球反彈！菲律賓跟進封鎖Grok

[NOWnews今日新聞] 馬斯克旗下社群平台X的聊天機器人Grok，因被指能生成帶有「數位脫衣」效果的深偽露骨影像、甚至牽涉兒少風險，引爆各國監管連鎖反應。X雖宣稱已在部分地區啟動「地理封鎖」限制相關功能，但菲律賓仍宣布將跟進印尼、馬來西亞的作法，推動封鎖Grok；同時，日本、英國、加拿大與美國加州也相繼表態調查或採取法律行動，要求平台拿出更強的防護措施。

菲律賓資訊與通訊科技部長阿古達（Henry Aguda）表示，政府的網路犯罪調查與協調中心（CICC）已與國家電信委員會（NTC）合作，著手阻擋Grok的存取；他並提到，Grok在菲律賓的使用規模相對不如ChatGPT、Claude普及，但這週會把封鎖措施處理完畢，理由是網路上有害內容湧現，在生成式AI加持下更可能擴散、帶來兒少安全疑慮。

在印尼已在1月10日率先宣布「暫時」封鎖Grok，政府點名AI生成色情與非自願性深偽影像的風險；馬來西亞通訊主管機關則在1月13日表示將對X採取法律行動，指其與Grok相關的用戶安全疑慮已觸及國內法規底線。

面對壓力，X與xAI一方面把圖像生成、編輯等能力限縮給付費用戶，另一方面又宣稱已針對「法律禁止」的司法管轄區，對生成比基尼、內衣等「類似穿著」人物影像的功能啟動地理封鎖，且適用於所有Grok與X用戶（含付費者），但未清楚說明哪些地區會生效；這種「先付費再限制」的節奏也引來批評，外界質疑平台是在把安全漏洞變成變現工具，而非徹底補破網。

歐美與日本的監管火力也同步升級。英國通訊管理局Ofcom已依《線上安全法》對X立案調查；英國政府並表態加速推進法規，將「製作」非自願性私密影像、以及「供應」用來生成這類影像的工具入罪，要求平台措施必須立即到位。加拿大隱私專員則在1月15日宣布擴大對X的既有調查，將Grok疑似用於未經同意生成露骨影像納入檢視；日本方面，經濟安全暨AI戰略主管小野田紀美稱內閣府已要求X立刻改善，若無回應將研議包含法律手段在內的所有選項。美國加州總檢察長也對xAI發出停止令要求立即止血。

各國接連出手，凸顯生成式AI一旦被整合進大型社群平台，內容擴散速度與取證難度都會倍增，單靠「地區封鎖」或「改成付費限定」很難平息爭議。接下來外界關注的，不只是Grok能否真正封住「深偽色情」的漏洞，也包括平台是否願意提高透明度、強化未成年人保護與通報下架機制，避免把技術迭代變成下一波數位性暴力的溫床。

立即加入NOWnews今⽇新聞官⽅帳號！跟上最HOT時事

查看原始文章

查看更多文章