科技巨頭聯手對抗 AI 製作兒童色情圖像 Google、Meta、OpenAI 等業界龍頭攜手合作

在對抗散布兒童性剝削內容的戰役中，包括谷歌（Google）、Meta 和 OpenAI 在內的頂尖生成式人工智慧開發商聯盟，誓言將對這項新興技術實施防護措施。

這個聯盟是由兩個非營利組織——兒童科技團體「棘」（Thorn）和紐約的「所有科技都是人性」（All Tech is Human）所組成。前身為 DNA 基金會的「棘」於 2012 年由演員黛米·摩兒（Demi Moore）和阿什頓·庫奇（Ashton Kutcher）創立。

該聯盟的共同承諾於週二宣布，同時也發布了一份新的「棘」報告，倡導在生成式人工智慧開發中採用「安全為先」原則，以防止在人工智慧模型的整個生命週期中產生兒童性剝削內容。

「棘」在聲明中表示：「我們敦促所有開發、部署、維護和使用生成式人工智慧技術和產品的公司，承諾採納這些『安全為先』原則，並展現他們防止製造和散布兒童性剝削內容、人工智慧生成的兒童性剝削內容，以及其他形式兒童性剝削行為的決心。」

人工智慧生成的兒童性剝削內容（AIG-CSAM）是指利用人工智慧製造的兒童色情內容，該報告說明製作這類內容相對容易。

「棘」開發了專注於保護兒童免受性剝削和虐待的工具和資源。在 2022 年的影響力報告中，該組織表示發現了超過 824,466 個含有兒童虐待內容的檔案。去年，「棘」報告在美國單一國家內就有超過 1.04 億個疑似兒童性剝削內容的檔案遭舉報。

隨著生成式人工智慧模型公開後，製造兒童色情深偽內容的問題在網路上已經存在，而且有獨立的人工智慧模型不需要雲端服務，就在暗網論壇中流傳。

「棘」表示，生成式人工智慧使製造大量內容比以往更加容易。單一兒童性剝削者就有可能製造大量兒童性剝削內容，包括改編原始圖像和影片製作新內容。

「棘」指出：「人工智慧生成的兒童性剝削內容湧入，對已經負荷過重的兒童安全生態系統構成重大風險，加劇執法單位在識別和拯救現有受虐兒童的挑戰，並可能導致更多兒童遭受新的虐待。」

「棘」的報告概述了一系列生成式人工智慧開發商將遵循的原則，以防止他們的技術被用於製造兒童色情內容，包括負責任地蒐集訓練資料集、納入回饋迴路和壓力測試策略、以防範惡意濫用為目的而採用內容歷史或「出處」追蹤、以及負責任地託管各自的人工智慧模型。

其他加入這項承諾的公司包括微軟（Microsoft）、Anthropic、Mistral AI、亞馬遜（Amazon）、Stability AI、Civit AI 和 Metaphysic，它們今天各自發布了聲明。

Metaphysic 行銷長亞歷漢卓·洛佩茲（Alejandro Lopez）對《解密》表示：「Metaphysic 的理念之一就是在人工智慧世界中負責任地發展，對吧？這是關於賦權，但也關於責任。我們很快就認識到，要開始並發展這一點,就是要確實保護我們社會中最脆弱的群體——兒童,不幸的是,這項技術最黑暗的一端,正被用於製造兒童性剝削內容,形式是深偽色情內容,這已經發生了。」

Metaphysic 於 2021 年創立,去年因為多位好萊塢明星,包括湯姆·漢克斯（Tom Hanks）、奧克塔維婭·斯賓瑟（Octavia Spencer）和安·海瑟薇（Anne Hathaway）使用 Metaphysic Pro 技術來數位化他們形象特徵的消息而聲名大噪,目的是為了保有訓練人工智慧模型所需的特徵的所有權。

OpenAI 拒絕對此計畫進一步置評,只是向《解密》提供了其兒童安全主管雀兒莎·卡爾森（Chelsea Carlson）的公開聲明。

卡爾森在聲明中說:「我們非常重視工具的安全和負責任的使用,這就是為什麼我們在 ChatGPT 和 DALL-E 中建立了強大的防護措施和安全措施。我們承諾與『棘』、『所有科技都是人性』和更廣泛的科技界合作,堅持『安全為先』原則,並繼續我們減輕對兒童潛在危害的工作。」

Meta 在一份準備好的聲明中表示:「在 Meta,我們花了十多年的時間努力讓人們在線上的安全。在這段時間裡,我們開發了許多工具和功能來幫助預防和應對潛在的危害——隨著罪犯試圖規避我們的保護措施而不斷適應,我們也持續調整對策。」

谷歌信任與安全解決方案副總裁蘇珊·賈斯珀（Susan Jasper）在一篇文章中寫道:「在我們的產品中,我們透過結合雜湊值比對技術、人工智慧分類器和人工審查,主動偵測並移除兒童性剝削內容。我們的政策和保護措施旨在偵測各種形式的兒童性剝削內容,包括人工智慧生成的內容。當我們發現有剝削性內容時,我們會將其移除並採取適當行動,可能包括向國家失蹤與被剝削兒童中心（NCMEC）舉報。」

去年 10 月,英國監管機構「網際網路監察基金會」(Internet Watch Foundation) 警告,人工智慧生成的兒童性剝削內容可能會「淹沒」互聯網。