Googleの年次報告書によると、Geminiはミリ秒単位で遮断を実現し、詐欺広告の99%を阻止

ネット上に乱立するさまざまな広告が、人工知能を使って多種多様でそれらしく見せかけた内容を生成し、一般の人々の注意をそらして混乱させています。Google は年間広告セキュリティレポートを発表し、不正な者たちが生成 AI を利用して不実なコンテンツを大量に投入していると指摘しました。これに対し、同社は Gemini の自動防御システムを強化し、有害情報がユーザーに到達する前にリアルタイムで遮断しています。現在、規約違反広告の遮断率は 99 % に達しています。

Google が違反広告を発見するまでの時間をミリ秒に短縮

昨年、Google は 83 億件を超える広告を遮断または削除しました。そのうち、詐欺と密接に関連する規約違反広告は 6.02 億件です。この数字は 2024 年の 51 億件を上回り、約 2,490 万件の広告主アカウントが停止され、そのうち 400 万件超のアカウントは詐欺関連の活動によって停止されています。

広告セキュリティレポートによると、生成型人工知能 Gemini は防御システムの中核となっており、違反広告の配信前に 99 % 超のコンテンツを攔截できます。これまで広告のデジタル資産を分析するのに数秒から数分かかっていましたが、現在はミリ秒レベルにまで短縮されました。この速度の優位性により、システムは不正な者たちが AI を使って詐欺広告を大規模に大量生産している一方で、Google も同じ規模でそれらをリアルタイムに攔阻できます。

Google 広告のプライバシーおよびセキュリティ担当副社長兼ゼネラルマネージャー Sharma は、生成型人工知能は Google の防御システムの一部であり、その進歩は問題のあるコンテンツへの対処能力を著しく向上させていると述べました。

Gemini は現在、アカウントの年齢、行動の手がかり、広告キャンペーンのパターンなど、数千億個のシグナルを分析できるため、Nuances of Advertiser Intent「広告主の真の意図の微妙な違い」をよりよく理解できます。これにより、広告の合法性、または広告主の意図に悪意がある可能性を概ね判断できます。昨年、誤って合法企業のアカウントを停止してしまったケースも 80 % 減少しており、自動化技術が誠実な企業の権益を維持し、脅威を攔截することとの間でより良いバランスを実現していることが示されています。

専門家は、将来は人工知能が人工知能に対抗する「人工知能 vs 人工知能」の戦いになると指摘

Emarketer のアナリストであるエリオット (Nate Elliott) は、これは昔からある問題だが、規模が変わっただけであり、最大の違いは人工知能が合法側にも違法側にも、速度と規模の優位性を与えている点だと述べています。

米国連邦捜査局のサイバー犯罪レポートによれば、昨年の人工知能関連の詐欺による損失総額はすでに 8.93 億ドルを超えています。ウィスコンシン大学マディソン校人工知能センターの主任であるセッツ (Matt Seitz) は、生成 AI の問題は非常に大きく、単に人間だけでは解決できず、現在の発展は人工知能同士の対抗になってきていると述べました。

Google の広報担当者は、広告が政策に違反しているかどうかを公式に判断する根拠は制作方法ではないと強調しました。なぜなら、多くの合法企業も同様に AI ツールを使用しているからです。しかしその一方で、別の問題が生まれます。AI は「善意の広告」とは何かを賢く見分けられるのでしょうか？

この記事は、Google 年次レポートで「Gemini がミリ秒で攔截し、詐欺広告の 99 % を阻止」したことが最初に掲載された 鏈新聞 ABMedia。