網路上五花八門的廣告利用人工智慧生成各式各樣似是而非的內容，混淆大眾的視聽，Google 發表年度廣告安全報告指出，不法份子利用生成 AI 大量投放不實內容，對此，該公司以強化 Gemini 自動防禦系統，在有害資訊觸及用戶前進行即時攔截，目前違規廣告的阻斷率已達 99 %。
谷歌稱發現違規廣告的時間縮短至毫秒
去年，Google 攔截或移除了超過 83 億則廣告，其中包括 6.02 億則與詐騙密切相關的違規廣告。這一數字高於 2024 年的 51 億條，約有 2,490 萬個廣告主帳戶被暫停，其中超過 400 萬個帳戶因與詐騙相關的活動而被暫停。
根據廣告安全報告，生成式人工智慧 Gemini 已成為防禦體系的核心，能於違規廣告投放前攔截超過 99 % 的內容。過去分析廣告數位資產需耗時數秒至數分鐘，現已縮短至毫秒等級。這種速度優勢使系統能即時審核多數響應式搜尋廣告，在不法份子利用 AI 大規模產出詐騙廣告的同時，谷歌亦能以相同規模進行即時攔阻。
谷歌廣告隱私與安全副總裁兼總經理 Sharma 表示，生成式人工智慧為 Google 防禦系統的一部分，其進步顯著提升了打擊問題內容的能力。
Gemini 現在能夠分析數千億個訊號，包括帳戶年齡、行為線索和廣告系列模式，從而更好地理解 Nuances of Advertiser Intent「廣告主真實意圖的細微差別」，這意味著他們能夠大致判斷廣告的合法性，或者廣告主的意圖是否可能存在惡意。去年錯誤暫停合法企業帳戶的情況亦減少了 80 %，顯示自動化技術在維護誠信企業權益與攔截威脅之間取得了更佳的平衡。
專家指出未來為人工智慧對抗人工智慧的大戰
Emarketer 分析師艾略特 (Nate Elliott) 表示，這是一個老問題，只不過規模變更大，最大的區別在於人工智慧為合法和非法行為者都提供了速度和規模上的優勢。
美國聯邦調查局網路犯罪報告顯示，去年人工智慧相關詐騙造成的損失總額已超過 8.93 億美元。威斯康辛大學麥迪遜分校人工智慧中心主任塞茨 (Matt Seitz) 表示，生成 AI 的問題龐大，僅靠人類無法解決，現今的發展已成為人工智慧與人工智慧之間的對抗。
Google 發言人強調，官方判定廣告是否違反政策的依據非製作方式，因為許多合法企業同樣使用 AI 工具，但是，這又有了另外一個問題的產生，AI 能夠聰明的識別何謂善意廣告嗎？
這篇文章 Google年度報告稱Gemini實現毫秒攔截，阻擋99%詐騙廣告 最早出現於 鏈新聞 ABMedia。
