配合歐盟法規 Claude引入隱藏水印:部分用戶擔心成績、飯碗不保惹熱議

為咗配合歐盟《人工智能法案》(EU AI Act),開發商Anthropic近日正式為旗下人工智能聊天機械人Claude生成嘅內容加入隱藏水印。呢項改動原意係提高內容透明度,但就喺網上討論區引發部分用戶強烈不滿。有網民擔心喺工作或學習上依賴AI會被輕易識破;不過亦有不少聲音反駁,認為反對加入水印嘅人往往只係想隱瞞使用AI嘅事實。本文將為大家整理今次爭議嘅主要觀點。

配合歐盟法規 Claude引入隱藏水印:部分用戶擔心成績、飯碗不保惹熱議
配合歐盟法規 Claude引入隱藏水印:部分用戶擔心成績、飯碗不保惹熱議

AI出貓小心出事:Anthropic為Claude加入隱形水印引發網民爭議

人工智能聊天機械人Claude嘅開發商Anthropic,近日決定為系統生成嘅文字內容加入隱形水印。呢個做法主要係為咗符合歐盟《人工智能法案》(EU AI Act)當中嘅透明度準則。該法規要求科技公司必須為人工智能生成或曾經修改嘅內容加上標籤,確保電腦系統能夠辨識。雖然歐洲監管機構對此表示歡迎,但一班依賴AI工作同學習嘅用戶就感到相當不滿。

Reddit網民反應兩極:擔心被「數碼紋身」出賣

截至今日(8月14日),喺網上討論區Reddit上,可以見到不少用戶對新措施表達強烈抗議。其中一位名為visionode嘅用戶(其帳號僅成立三星期)發文批評,認為呢個水印系統係一個用嚟針對無辜用戶嘅嚴苛陰謀。佢指出,熟悉科技嘅用戶可能會透過其他AI服務重寫內容嚟隱藏痕跡,但一般普通用戶就會輕易被發現。

佢舉例指,要求Claude重組段落嘅學生、要求AI總結二百頁文字紀錄嘅記者,或者尋找同義詞嘅作家,最終都會喺不知情下被印上「數碼紋身」。不過,科技專欄作家盧卡斯·羅佩克(Lucas Ropek)就指出,如果記者或者學生將AI生成嘅內容原封不動複製貼上並當作自己作品,本身已經違反職業操守同誠信,理應避免。

About the new Claude watermark
by u/visionode in artificial

反對聲音:AI只係工具 vs 訓練數據來源爭議

除咗擔心被識破,仲有其他用戶認為加入水印嘅做法令人反感。有批評者表示,佢哋喺使用Claude嘅過程中提供咗指令、前文後理、決策同無數次修正,認為AI純粹係一件「工具」,質疑如果Claude要為代碼或其他生成內容加上水印,到底有乜嘢功勞可言。

另一種較為理性嘅反對意見則指向版權問題。有用戶指出,現時大部分前沿模型(Frontier models)嘅訓練數據,本來就係喺網上收集其他人嘅心血結晶,依家開發商反而要為生成內容加上專屬水印,做法顯得非常諷刺。

總結:提高透明度乃大勢所趨

縱使有部分用戶強烈反對,但整體而言,唔少網民都支持加入水印嘅決定。好多留言反駁批評者,指出系統並唔係要「搶功勞」,而係因為AI生成內容喺各個領域都可能帶來潛在風險,因此必須具備追蹤機制。更有用戶一針見血地指出,反對加入水印嘅唯一原因,往往只係有人想向其他人隱瞞使用過AI嘅事實。隨住各地對人工智能嘅監管越趨完善,內容標籤化相信會成為未來業界嘅標準做法。