涉販賣深偽裸照獲利：三藩市要求蘋果同Google限期下架
美國三藩市市檢察官向蘋果同Google發出警告信，要求下架13款利用 AI 將人像「除衫」嘅惡意深偽程式。當局指出平台透過內購抽取分成，涉嫌從違法行為中獲利，若果唔即時處理或面臨民事處罰。兩間公司隨即回應，相關程式目前已被停權或正進行審查。
科技巨頭涉縱容AI「除衫」程式 三藩市官方勒令蘋果與Google全面下架涉事應用
美國三藩市市檢察官邱信福（David Chiu）日前向蘋果（Apple）同Google發出警告信，要求兩大科技巨頭即刻喺旗下嘅應用程式商店（App Store 同 Play Store），全面下架一共13款利用人工智能（AI）將相片人像「除衫」嘅惡意程式（俗稱 Nudify apps）。當局直指呢啲程式違反當地法例，而平台從中抽成亦有涉嫌獲利之嫌。
"The 13 apps investigated by the City Attorney’s Office—eight on the App Store and five on the Play Store—broadly advertise themselves as “face-swapping” tools, with their ability to create sexual deepfakes available once people use them. The website of one app, which has more than 1 million downloads, displays more than a dozen different styles of AI images it will generate, including “bikini queen curvy,” “calm busty,” and “cinematic intimacy.” Many of the styles show sexualized images of women alongside their descriptions. The homepage of another of the targeted apps claims to produce 'free and uncensored' videos." – 美國三藩市市檢察官邱信福
偽裝普通換面工具 實質生成深偽裸體影像
外國媒體報導指出，今次遭到點名嘅13款程式裏面，有8款擺放喺蘋果 App Store，其餘5款就喺 Google Play Store 上架。呢啲程式喺宣傳嗰陣，通常會包裝成普通嘅「 AI 換面工具」（Face-swap tools），但當用家下載使用之後，就會發現程式內置咗製作深偽（Deepfake）色情物品嘅功能。
有報告顯示，其中一款下載量超過100萬次嘅程式，喺佢哋嘅網站度展示咗十幾種唔同風格嘅 AI 生成效果，當中充斥住大量針對女性嘅性化描述同不雅影像。呢類程式令到任何人只要擁有一張公開嘅相片，都有機會成為被侵害嘅對象。
平台涉嫌抽成獲利 觸犯加州嚴厲法例
加州法律對於打擊非自願深偽色情物品有相當明確嘅規定。當地法例禁止任何明知而提供便利，或者疏忽協助製作呢類內容嘅行為。去到2025年，加州更加通過咗新法例，允許受害者向協助傳播或者從中獲利嘅第三方平台提出民事訴訟。
市檢察官邱信福喺聲明度表示，蘋果同 Google 透過流動應用程式嘅內購系統（In-app purchases）抽取分成，好可能已經從呢啲提供「除衫」功能嘅程式度賺取咗數以百萬計嘅手續費。當局強調，科技透明計劃（Tech Transparency Project, TTP）喺今年（2026年）1月同4月都發表過報告，指出商店內有數十款程式販賣非自願親密影像，甚至連平台自身嘅搜尋建議都會引導用家去下載呢啲程式，反映兩大巨頭其實早已知情，有責任阻止平台成為性侵犯工具。
兩大巨頭即時回應 封鎖程式兼審查開發者
面對官方嘅法律施壓，兩間公司隨即作出回應並採取行動。Google 發言人表示，信件裏面提及嘅5款 Play Store 程式目前已經全部被停權下架。佢哋補充，公司一向有主動調查違反政策嘅程式，至今已經喺商店度封鎖咗數百個具有相關功能嘅應用程式，同時亦限制咗好似「nudify」呢類關鍵字嘅搜尋。
蘋果公司亦回應媒體強調，App Store 一向嚴格禁止任何用作生成、散播或者消費色情內容嘅應用程式。針對今次事件，蘋果表示已經下架咗其中3款涉事程式，並且正喺度終止相關開發者嘅帳號。至於其餘4款程式，蘋果正同開發者聯絡，要求佢哋限期之內解決違反政策嘅問題，否則將會同樣面臨下架命運。當局要求兩間公司喺28日之內向三藩市官方作出回覆。
“The App Store was designed to be a safe and trusted place for users, and we have always strictly prohibited apps designed to generate, distribute, or consume pornography. ‘Nudification’ apps are against our App Review Guidelines and we have proactively rejected many of these apps and removed many others, including when users have flagged them via our reporting tools. We have removed three of the apps in question and are in the process of terminating their developer accounts from our program. We are in contact with four others that need to address policy violations or risk being removed as well.” – 蘋果公司回應媒體
“When violations are reported to us, we investigate and take swift action, which in the case of these apps has included suspending hundreds of violating apps and restricting related search terms like ‘nudify’ on our store,” – Google 發言人
