為因應2024年美台多國大選的到來，社群平台臉書（Facebook）、Instagram的母公司Meta週三（11月8日）宣布，這兩大平台上的政治廣告若是人工智慧（ AI ）生成技術製作，均須加註標籤。該規定將於明年1月1日生效，全球範圍內皆適用。
《美聯社》報導，Meta等科技公司都被批評未積極應對AI生成工具引發的風險。Meta發布新措施當天，正好也是美國眾議院舉行有關「深偽」（deepfakes）技術聽證會的日子，而Meta的新政策恐怕難以根除外界的憂慮。
此前，美國已出現AI生成的政治廣告。今年4月，共和黨全國委員會（RNC）發布了一則全由AI生成的廣告，意圖展示現任民主黨籍總統拜登連任後的未來。廣告中以逼真的偽造照片顯示店面被木板圍封、街頭有武裝軍人巡邏、移民潮引發恐慌。該廣告已被標示為AI生成影片。
除此之外，佛州州長德桑蒂斯（Ron DeSantis）的競選總統團隊6月也發布針對共和黨內對手、前總統川普（Donald Trump）的AI生成圖像，顯示川普與前白宮防疫大將佛奇（Anthony Fauci）相擁的畫面。
近來，蓬勃發展的AI生成工具可快速生成仿真的音頻、圖像與影片，這些科技若遭惡意使用，可能被用於製作候選人的不實影像，或捏造選舉舞弊、投票所暴力等不實訊息。這些假訊息若加上社群媒體演算法的推波助瀾，所產生誤導選民效果恐達史無前例的地步。
