選擇或輸入捐款金額 (港幣HK$)
上月尾，一批由深度偽造技術（deepfake）生成的露骨艷照在網路上瘋傳，瀏覽量達數千萬次，事件的主角是超級碗（Super Bowl）的忠粉泰勒絲（Taylor Swift）。其中一幅圖片在17小時後被推特（X- Twitter）刪除之時，已被瀏覽了 4,700萬次 。由於推特的行動顯然不夠迅速，因此在民間引起了巨大回響。 推特表示 ，他們當時正在「積極地刪除」那些圖片，並對散播這些圖像的帳戶採取「適當的行動」。「Taylor Swift」這個名字，以及「Taylor Swift AI」和「Taylor AI」一同在推特上暫時無法搜尋。 美國政界人士 呼籲需制訂「新法例，將製作深度偽造圖像定為刑事罪行」。 微軟 則聲稱，他們已即時加強了「現有的安全系統，進一步防範我們的服務被濫用來協助生產這類圖像」。隨後媒體亦作出了廣泛報導。
然而，對於真實的兒童遭受到性虐待，並且用來製作圖片，或是錄製和直播的影片等猖獗的罪行，不管有否使用到人工智慧，整體上業界的回應行動便更顯得相形見絀。例如，根據 澳洲電子安全委員會（Australia's eSafety Commissioner）的報告指出，科技公司報稱他們不會檢測、預防或處理任何在視像通話及直播中製作和分發的兒童性虐待內容（child sexual abuse material－CSAM）。
事實上，國際行義會(簡稱：行義會)在2020年進行的一項研究發現，菲律賓的兒童遭到網上性虐待和性剝削的時間，平均至少長達 兩年。另一項行義會於2023年發佈的研究則指出，單單在2022年，就有近 50萬名菲律賓兒童 遭受到性剝削。這些兒童在他們的家中受到虐待，而世界各地的男人則付費指揮和觀看現場直播，他們所使用的科技，正是我們每天常用的社交媒體和視像聊天應用程式。
行義會展開了一項強而有力的計劃，至今已支持菲律賓當局將1,200多名受害者和高危人士帶到安全的地方，同時支援政府和主要的持份者全面加強針對這些罪案所作出的回應。我們將會繼續推行這項至關重要的工作，直到菲律賓的孩子免受這種暴力的侵害。事實上，自2022年以來， 行義會的終止網絡兒童性剝削中心（Center to End Online Sexual Exploitation of Children）與美國國家失蹤與受虐兒童中心（U.S. National Center for Missing and Exploited Children－NCMEC）及Meta合作，透過「加速行動」項目（Project Boost）開始培訓其他國家的執法人員，教導他們怎樣調查涉及網上兒童性剝削的案件；這些國家包括了尼日利亞、肯尼亞和其他地區。我們把源自菲律賓並證明了是行之有效的運作模式分享出來，支持其他政府也保護他們的孩子。
但為了減低這種罪行造成的大規模傷害，私營企業必須採取更多措施，以應付這些透過他們的應用程式和平台發生的罪案。所說的「更多措施」，包括了將他們的產品設計為保障兒童安全的平台，同時亦支持像行義會這類組織為強化執法部門而作出的努力 ：提高執法者成功偵破優先案件的效率，將兒童安全地救出來，並向違法者追究責任。
根據菲律賓反洗黑錢委員會 （Philippine Anti-Money Laundering Council）於2023年的研究指出，被金融部門標示為涉及菲律賓的兒童性剝削的「可疑交易」，其款項主要來自美國，其次是英國、澳洲和加拿大。由於科技公司的平台遍佈全球，這點亦清楚表明科技業界對此責無旁貸，需要將世界各地的兒童帶進一個更安全的網絡環境。
我們巳清楚知道的是，跨國科技平台的核心設計對兒童並不安全。若要變得安全，整個業界現在就需要法律。深度偽造的色情內容（既傷害普通市民，又禍及像泰勒絲等的名人），由人工智慧生成的兒童性虐待內容，以及兒童性虐待的直播都是首要的例子，說明政府為何必須要求有關企業在推出他們的產品 之前 ，需要事先將保障兒童安全的技術嵌入其中。由於保障兒童安全的設計並非整個科技業界的主流，流行的視像通話和直播程式很容易會被性罪犯化作武器，成為直播兒童性虐待內容的工具 — 事實上，還有更多可做的事，讓我們能夠識別罪犯，並追究他們的責任。
總括而言，所有企業都應使用兒童安全的技術來盡量防止網上性剝削，同時在罪案發生時，該及時、認真地作出舉報，以便執法部門能夠展開調查。
保護任何人（無論是像泰勒絲等的名人，還是普通市民）免受深度偽造圖像的禍害，立法實在是不可或缺的途徑。保護所有兒童和倖存者免於性虐待和性剝削（包括製作兒童性虐待內容）的持續創傷，我們經已耽延得太過分，實在迫切需要全業界作出明確的回應。現在，是時候改變了！
IJM終止網絡兒童性剝削中心執行總監約翰．塔納格（John Tanagho）
2024年2月8日
