AI生成技術越來越精進，網路更出現不少偽造影片，外界關注中共會以AI變造影片做為一種新的認知作戰方式，進而攻擊台灣。國安局長蔡明彥今（18）日表示，針對AI生成的錯假訊息，基本上國安團隊有建立跨單位的機制，在網路上來進行查找，找到後也要進行必要的通報；蔡明彥也透露，現在每周找到的錯假訊息、資訊大概有到4萬多件，國安局會從過程中去篩濾，對社會秩序或國家安全比較危害的部分，通報到行政院相關部會來做查處，或盡快對外做必要說明。
立法院外交及國防委員會今天排定「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」專題報告，並邀請國安局長蔡明彥等相關部會官員備質詢。民眾黨立委林憶君在質詢中也關切，AI變造影片只會越來越多，面對資安與國安疑慮，未來將採取何種有效行動讓國人辨別真偽、遏止中共認知作戰？
蔡明彥答詢，在國際交流合作部分，怎麼樣因應錯假訊息或認知作戰，一直是我們跟國際友盟進行討論交流的重點。大家針對應處經驗做交流，也可強化本身民主韌性因應這些認知作戰對我們社會產生的衝擊。
蔡明彥提到，針對AI生成技術不斷在網路上散布這些錯假訊息或影音，基本上國安團隊有建立跨單位的機制，在網路上來進行查找，這部分也確實用了很多新的技術與系統，能夠在網路上各個不同的社群媒體平台來找到這些有問題的帳號所傳散的錯假資訊，找到後也要進行必要的通報。
蔡明彥同時透露，現在每周找到的錯假訊息、資訊大概有到4萬多件，國安局會從過程中去篩濾，對社會秩序或國家安全比較危害的部分，通報到行政院相關部會來做查處，或盡快對外做必要說明，這是行政措施上的努力。
蔡明彥接續提到，在法規上，因為有一些AI散布的錯假訊息，假如有傷害到個人名譽或社會形象，因為屬於告訴乃論，他會強烈建議當事人可以跟警方報案、或跟司法單位提告，走司法相關程序；假如有涉及到公訴罪部分，也許是涉及到《反滲透法》或刑法相關部分，也會跟國安團隊中具有司法警察機關權力，包括調查局、刑事局及憲指部進行相關查處。
最後是跟社群媒體平台公私的合作，蔡明彥說明，如何跟社群媒體平台做舉發、檢舉，請他們下架這些有問題的帳號，過去以來，像是刑事局做了非常多的努力，在今年前三季，第一季跟meta舉發有3萬多件；第二季4萬多件；第三季2萬多件。相關團隊與各單位對於查處這些有問題的錯假訊息散布，也是非常努力。
此外，媒體上午詢問，前總統蔡英文的變造影片，一天就找到IP，但是民進黨前立委高嘉瑜遭AI變造的影片卻沒下文？蔡明彥回應表示，國安局一般在處理爭議訊息或偽造影片有兩個分類，一個分類是一般危害，是針對個人權益或社會安定，沒有涉及到國安層級；第二是涉及國安威脅，涉及變造國家領導人談話，或跟外國的合作計畫、散布中共可能相關錯誤武力犯台訊息等，基本上要分不同層級來看，至於個案，當事人（高嘉瑜）已經跟警察提出報案，進入司法偵辦程序，我們尊重司法機關查處的過程與結果。
◤2024史上最熱一年◢
