2025.03.31AIは不正行為にどのような影響を与えているのか

本記事は、Sift Science, Inc.のBlog記事「How is AI Affecting Fraud?」を日本語に翻訳したものです。

本記事の著作権は、Sift Science, Inc.および同社の国内パートナーである株式会社スクデットに帰属します。

Sift Trust and Safety Team 著/ 2025年1月23日

AIは新たな不正の波を引き起こしています。2022年後半以降、フィッシングメールの件数は1,265%増加し、認証情報を狙うフィッシング攻撃は967%も増加しました。この急増の背景には、生成AIの普及があります。金融機関だけでも、2027年までに、生成AIを悪用した不正による損失が最大 400 億ドルに達すると予測されています。ディープフェイクやその他のAIを利用した詐欺が登場し、不正を見抜くことがかつてないほど困難になっています。では、このような脅威に対抗するには何が必要なのでしょうか。

本記事では、AIがオンライン不正にどのような影響を及ぼしているのか、そして企業がどのように対策を講じるべきか解説します。

AIが不正行為に与える影響

AIは不正行為をこれまで以上に高速化・高度化させ、検知をより困難にしています。不正犯は生成AIを使用して、巧妙なフィッシングメールや偽の動画、自動化された不正スキームを作成しています。その結果、従来の不正検出ツールでは対応が追いつかず、AI を駆使した不正行為が検出されずすり抜けるケースが増えています。

これにより、より高度化した攻撃が迅速に実行され、時代遅れの防御策に依存する企業にとっては大きな脅威となっています。AIが不正行為に及ぼす影響として、以下の点があげられます。

• 継続的な適応

AI搭載ボットは不正検知システムを分析し、それに適応しながら動作を調整させます。これにより検知を回避しつつ、長期間にわたり不正行為を継続できるようになします。

• 行動の模倣

不正犯は、AIモデルをトレーニングして、人間の行動を模倣させます。例えば、自然なナビゲーションパターンや入力のリズムなどを再現し、 不正行為が正規ユーザーと区別されにくくなるよう設計します。

• 不正ネットワークの強化

AIは、さまざまなデータ漏洩から流出したデータを結び付け、アカウントの関連付けや、支払い情報・パスワードの共通脆弱性を特定することで、不正ネットワークを強化します。 

不正犯はAIをどのように活用しているのか

AIはデジタル詐欺の手口を一変させています。生成AIを使用することで、不正犯は、偽のIDや文書、さらには音声や動画を作成して、本物のように見せかけることが可能になりました。同時に、生成AIは膨大なデータを分析し、詐欺の標的となりやすい脆弱なターゲットを特定する手助けもします。以下は、AIが不正行為にどのように利用されているかの代表例です。

• 大規模攻撃の自動化

AIにより、不正犯はアカウント乗っ取りや決済不正などの不正行為を、ボットを使って大規模に自動実行できます。さらに、AIはスピアフィッシング（特定のターゲットを狙ったフィッシング攻撃）キャンペーンも自動化し、ターゲットに合わせた大量のパーソナライズされたメールを作成・送信することが可能です。

• 合成IDの作成

AIツールを使えば、実在するデータと偽造データを組み合わせ、リアルなID を生成できます。これらの合成IDを利用し、不正犯はKYC（本人確認）チェックを回避し、マネーロンダリングや不正なクレジット申請のために、新規アカウントを開設できます。

• セキュリティシステムの分析

不正犯はAIを使用して不正防止システムの脆弱性をテストし、セキュリティ対策を突破する方法を見つけ出します。敵対的AI （Adversarial AI）技術を使うことで、検知システムの回避に十分な程度に不正パターンを微調整します。

• ソーシャルエンジニアリング攻撃

生成AIは、リアルな偽動画や音声(ディープフェイク)を作成し、被害者を騙すために活用されます。McAfeeの調査によると、70%の人々が、AIによって生成された音声と本物の音声の区別に確信が持てないと回答しています。

• 匿名での不正行為の実行

AIを活用することで、不正犯は身元や手口を隠したまま不正行為を実行できます。AIを搭載したプロキシやVPNを利用すれば、位置情報を隠ぺいしながら世界規模で攻撃を分散させ、追跡を困難にすることが可能です。

AIを悪用した不正を阻止する際の主な課題

AIの意思決定プロセスは完全に透明ではないため、特定の結論に至った理由を常に説明できるわけではありません。そのため、AIの将来の行動を予測し制御することが難しくなっています。これにより、AIを悪用した不正を防ぐ上で、いくつかの重要な課題が生じています。

• 不正検知モデルのデータ品質の限界

不正行為モデルは過去のデータから学習し動作しますが、新しい不正手口に関する情報が不足している場合があります。従来の不正検知ツールでは、これまでに遭遇したことのない、新たな不正手法をうまく検出できないことが多いのです。 

• 進化し続ける不正手口

不正犯は、不正防止システムを継続的に研究し、検出を回避する新しい手法を次々と開発しています。たとえば、ボットネットは、従来の不正検知モデルの更新スピードを上回る速さで挙動を変化させるため、対策が常に後手に回るリスクがあります。

• 検出精度と誤検知のバランス

不正検知システムは、正当な取引を誤って不正と判定してしまうことがあります（誤検知）。このような誤検知により、ユーザー体験の低下や取引の阻害として、ビジネスや顧客に混乱をもたらすことがあります。

AIによる不正対策のソリューション

AIが不正に与える影響とAIを活用した不正の急速な進化に対応するには、従来とは異なる、全く新しいアプローチが必要です。AIによる不正に効果的に防ぐための主要な解決策は次のとおりです。

• 敵対的AI（Counter-Adversarial AI）の導入

高度なAIモデルを導入し、不正が発生する前、または発生時に検知・阻止します。このシステムは、不正犯が検出の隙を悪用する手法を特定し、それを標的とする必要があります。AIが人間の行動を模倣できる場合は、その行動を検知できるようにトレーニングすることも可能です。

• AI学習のためのデータ品質の向上

さまざまなソースから高品質で検証済みのデータを提供するシステムを確立し、AIをトレーニングします。データを徹底的に事前処理し検証することで、バイアスを最小限に抑え、信頼性の高い出力を確保します。   

• 適応型AIシステムの構築

新しいデータを継続的に学習するAI 不正検知システムを構築・導入します。これにより、新たなオンライン不正の手口に適応しやすくなります。 

• 行動分析によるリスクスコアリングの精度向上

AIの高度なリスク分析を活用し、セッションの異常行動（例えば、通常とは異なるデバイス変更やログイン失敗など）を検出することで、不正行為を特定しやすくします。これにより、正規ユーザーの顧客体験を損なうことなく、不正なアクティビティにフラグを立てることが容易になります。 

• AI活用によるプライバシー法の遵守

GDPR やCCPAなどのプライバシー法を準拠しながら、正確かつ効果的な不正検知を実施します。匿名化された行動分析などの技術を活用することで、プライバシーと法的制約を尊重しながら脅威を特定できるようにします。

SiftがAI不正対策の最適解である理由

不正犯は現在、AIを使用して、偽の身元情報の生成や、防御を回避するために手法を変化させる攻撃など、検出が困難な不正行為を行っています。この高度なサイバー犯罪の波に対処するには、企業はより透明性の高いシステム、より優れたデータ、そして適応型AIを備えた新しい対策を導入する必要があります。

Siftは、新たな不正手口に適応しながら進化する、AIを活用した不正対策ソリューションを提供しています。このプラットフォームは、透明性のあるデータ分析を活用し、不正行為を特定すると同時に、信頼できる顧客を保護します。Siftは決済不正の防止に加え、次のようなさまざまな機能と利点を提供しています。 

• グローバルデータネットワーク

Siftは年間1兆件以上のイベントを処理します。このプラットフォームは、業界をまたいで新たな不正パターンをミリ秒単位で特定します。このネットワークにより、すべての顧客が不正を防御し、互いに保護し合うことができます。  

• 機械学習モデル

Siftの機械学習モデルは、リスクレベルに基づいて動的に調整され、フリクションを増減します。不正を阻止しながらも、信頼できる顧客にはスムーズな購買体験を提供することを目的としています。

• 即時保護

Siftは不正行為をリアルタイムで検知し、即座にブロックします。また、正規の顧客が簡単かつ迅速にアカウント登録や取引を行えるようサポートします。 

• 積極的な不正防止

Siftは発生しうる不正を事前に検知し、発生する前に阻止します。このプラットフォームは、エンドツーエンドのソリューションを活用し、高度な不正手口にも対処します。 

デモをリクエストして、SiftのAIを活用した不正対策ソリューションが貴社の不正対策にどう貢献できるかをご確認ください。