美國加州比佛利山聯合學區，近日有5名8年級的中學生以「深偽」（deepfake）方式製造出16名同學裸照，學區本週稍早投票決定將涉案5人全數退學。
據 NBC 報導，本案發生在比佛利維斯塔中學（Beverly Vista Middle School），校長布雷吉（Michael Bregy）透露，受害的16名學生也都是8年級的，此事涉及使用人工智慧的道德層面，小孩雖然仍在學習和成長當中，但承擔責任也非常重要。
學區決議退學後，涉案學生和家長沒有提出異議，其身分並未公開。事實上，在比佛利中學事件發生之前，全球各地就已經有一系列未成年學生遭「深偽」的假裸照案。
隨著人工智能技術的不斷發展，相關案件數量呈現爆炸式增長，尤其是在深度學習和神經網絡等技術的推動下。特別值得注意的是，出現了專門設計用來讓受害者「脫衣」和「交換」面孔的色情軟件，這些程序利用人工智能算法，可以在短時間內生成逼真的虛假圖像，使得製造和傳播這類內容比以往任何時候都更加快捷和方便。
這些虛假圖像通常被稱為「深度偽造」（deepfake），它們不僅可以用於製造色情內容，還可能用於誹謗、欺詐、威脅或其他惡意目的。深度偽造技術的進步意味著，即使是沒有專業技術背景的普通人也能輕鬆製作出逼真的虛假圖像和視頻，這對個人隱私和社會信任構成了嚴重威脅。
例如，台灣網紅小玉就曾利用此技術，將多位公眾人物的臉合成到色情影片上，涉嫌散布猥褻物品與妨害名譽等罪名，並在庭訊後公開向被害人致歉。
隨著這些虛假內容在社交媒體和網絡平台上的迅速傳播，對受害者的心理和情感造成了巨大傷害。因此，各國政府和技術公司正在尋求解決方案，以打擊深度偽造
