Google AI 搜尋被指危害兒童 官方強烈反駁報告結果

Google Search AI 惹爭議 安全報告評定為「不可接受風險」

近排，Google 積極將人工智能（AI）功能整合落搜尋引擎入面，但呢項舉動正面臨新一輪審視。根據 Common Sense Media 轄下青年 AI 安全研究所發表嘅最新報告，Google 搜尋嘅 AI Overviews 以及 AI 模式未有足夠保護措施，令兒童暴露喺風險之中，所以給予「不可接受風險」嘅整體評級。

研究團隊嘅測試方法與結果

為咗了解 Google AI 喺真實環境下嘅表現，非牟利機構 Common Sense Media 嘅研究團隊設定咗模擬 11 歲同 15 歲兒童嘅帳戶，並啟動咗安全搜尋（SafeSearch）功能。呢個設定反映咗現時好多兒童喺個人或者學校設備上使用搜尋引擎嘅真實情況。研究團隊總共進行咗超過 2,600 次搜尋，分析咗 2,100 多個 AI 生成嘅回應同埋資料來源。

研究結果顯示情況令人擔憂，主要涵蓋以下幾個問題：

直接代做功課，削弱學習過程

報告指出，AI Overviews 經常直接幫學生完成功課，而唔係提供引導或者協助佢哋學習，咁樣無疑會影響兒童嘅學習成效同埋獨立思考能力。

提供不實資訊及危險教學

部分 AI 生成嘅回應包含唔準確甚至虛構嘅資訊。更嚴重嘅係，研究人員發現 AI 曾經提供不良行為嘅教學，例如指導使用者點樣製作深度偽造（Deepfake）內容。

心理健康危機處理不當

當處理涉及心理健康危機嘅搜尋指令嗰陣，Google AI 往往未能作出適切回應。喺其中一個案例入面，AI 甚至提供咗一條已經停用嘅危機求助熱線，錯失咗為求助者提供即時援助嘅機會。

家長難以控制 AI 功能

呢份報告其中一個主要批評，係家長對呢啲 AI 生成回應嘅控制權非常有限。由於 AI Overviews 係直接內置喺 Google 搜尋入面，通常情況下係無法完全關閉。即使家長已經開啟咗安全搜尋功能，兒童仍然有機會接觸到 AI 生成嘅內容。Common Sense Media 指出，目前美國有高達 75% 嘅青少年已經使用過 AI 生成嘅搜尋結果，意味住呢啲漏洞會影響一個極大嘅群體。相關問題喺香港、台灣、新加坡等華人社會同樣值得留意，因為本地學生亦高度依賴 Google 搜尋進行日常學習。

Google 官方嘅回應

對於呢份報告嘅指控，Google 官方表示唔認同。Google 向媒體發表聲明指出，報告入面測試嘅好多指令都係「含糊不清且人為刻意設計」，並認為有關結果未能準確反映一般大眾日常使用搜尋功能嘅真實情況。

"Our AI Search features are an incredibly useful way for kids and teens to learn, explore and make sense of information and the world. Beyond the strong quality and safety guardrails built into Search, our AI tools provide extra layers of protection—and parents have controls to turn Search off. This report tests a narrow set of ambiguous and contrived queries that don’t reflect how people use Search and aren’t an effective way to measure product safety and helpfulness." – Google發言人

總結

呢次評估係 Common Sense Media 廣泛 AI 審查計劃嘅一部分，個計劃根據安全性、可信度、公平性、透明度以及負責任數據使用等八大原則去衡量產品。隨住 AI 生成答案預期會成為搜尋引擎嘅永久功能，Google 將需要面對更大嘅公眾壓力，證明科技帶來嘅便利唔會犧牲兒童嘅網絡安全。市場各界亦會繼續觀察大型科技公司點樣喺 AI 創新與風險管理之間取得平衡。