OpenAI禁中國、北韓帳號　涉嫌用AI惡意活動

[NOWnews今日新聞] 開發生成式人工智慧（AI）模型ChatGPT的美國人工智慧公司OpenAI表示，該公司已經移除來自中國和北韓的用戶帳號，因為其認為這些用戶利用該公司的技術進行惡意活動，包括監控與輿論影響行動。

根據路透社報導，OpenAI在一份報告中表示，這兩個專制政權試圖利用AI進行這類活動，以對抗美國以及控制其本國人民，並表示該公司使用AI工具來偵測這些行動。 OpenAI並未透露被封鎖的帳號數量或執行此措施的時間範圍。

在惡意活動的其中一個案例中，被封鎖的帳號曾使用ChatGPT生成貶低美國的西班牙語新聞文章，這些文章後來以一家中國公司的名義，刊登在拉丁美洲的主流新聞媒體上。

另一個案例則是，可能與北韓有關的惡意行為者利用AI生成虛假求職者的履歷與線上個人檔案，試圖詐騙取得西方企業的工作機會。

此外，還有一組與柬埔寨金融詐騙行動相關的ChatGPT帳號，利用OpenAI的技術在包括X（舊稱推特）、Facebook等社群媒體與通訊平台上進行翻譯並產生評論。

美國政府對中國涉嫌利用人工智慧來監控國內人民、散播虛假資訊，並削弱美國及其盟友的安全表示關切。

OpenAI在去年時也曾指出，包括中國、俄羅斯、伊朗，以及以色列境內特定人士都曾利用ChatGPT生成影響言論風向的偽造內容，同時也以AI式修正用於散播不實言論的機器人與相關程式碼。

最近幾個月來，OpenAI一直在向美國政界人士發出警告，稱中國製造的AI工具對美國經濟和國家安全構成了越來越大的威脅，尤其是在中國初創公司DeepSeek出人意料地推出了具有競爭力的AI模型之後。

OpenAI旗下的ChatGPT是目前最受歡迎的AI聊天機器人之一，該公司的每週活躍用戶數已突破4億人。目前OpenAI正在洽談以3000億美元的估值籌集高達400億美元的資金，這可能成為私人企業史上最大規模的單輪融資案。

立即加入NOWnews今⽇新聞官⽅帳號！跟上最HOT時事

查看原始文章

查看更多文章