中共高層展開北戴河會議，傳將今年九合一選舉列為對台工作關鍵指標，AI深偽也成介選新威脅。前檢察總長邢泰釗早在2022年選舉期間即警覺深偽風險，其後選舉法制完成修正；但隨生成式AI快速發展，現行法對AI生成內容仍無一體適用的刑責。據了解，檢察體系近期曾研議法律適用，但因規範過寬恐箝制言論自由，目前尚無結論。
檢察界高層透露，前總長邢泰釗於2022年九合一選舉期間，即察覺深度偽造影音可能被用於製造假訊息、干擾選舉；2023年隨ChatGPT等生成式AI快速普及，AI生成文字、聲音、影像及深偽技術的應用門檻進一步降低，利用科技大量製造、散布假訊息的風險也更加受到重視。
為因應2024年總統及立委大選，2023年已修正「公職人員選舉罷免法」第104條及「總統副總統選舉罷免法」第90條，將深度偽造納入規範，針對意圖使候選人當選或不當選，以深度偽造候選人本人聲音、影像或電磁紀錄散布不實訊息者，增訂刑事處罰規定，補強深偽介選的法律防線。
不過，現行法處理的仍是特定「深偽介選」態樣，並非製作、散布AI生成內容就當然構成犯罪。據了解，檢察體系近期研議時面臨的難題，在於AI深偽本質上僅是一種技術，單純製作、散布變造影音未必能直接以刑責處罰；但若另立專法或增訂刑責，規範過廣又可能碰觸言論自由。
尤其選舉期間的政治諷刺、模仿、惡搞，與足以誤導選民的深偽內容如何區隔，成為法制上最棘手的界線。若背後進一步涉及境外勢力介入，除須判斷深偽內容本身是否違法，還得追查是否存在境外指示、委託或資助，以及如何銜接現行國安法制。
近期即有台北市長蔣萬安，親自委託「萊爾校長」粉專小編韋淳祐製作「油不得你」影片，挨告偽造文書、加重誹謗及違反個資法3罪，台北地檢署目前已分「他」字案偵辦。蔣萬安強調僅屬政治諷刺並未構成犯罪，也凸顯現行法對AI生成內容的處罰界線仍不明確，同樣是利用AI變造影音，是否成罪仍取決於內容、使用目的、散布方式及造成的具體損害，難以僅憑「使用深偽技術」直接認定違法。
