最近数ヶ月の間、ChatGPTほど注目を集めたトピックは他にないでしょう。テキストを介して人間と自然に会話でき、情報や文章を要約し、さらには特定のテーマで独自の文章を作成することまでできる人工知能（AI）です。
しかし、ChatGPTはビジネスの観点からも非常に興味深い存在です。これほど急速に「100万ユーザー」という魔法の壁を突破した製品は他にありません。Instagramが30ヶ月、TikTokが9ヶ月かかったのに対し、ChatGPTはわずか2ヶ月という驚異的な速さで達成しました。
特定のワークフローで大幅な時間を節約するために、毎日の業務にChatGPTを導入することは一見素晴らしいアイデアに思えます。しかし、この技術が悪意のある者の手に渡った場合、その影響は広範囲に及ぶ可能性があります。
本記事では、ChatGPTがどのように（広告）不正に悪用される可能性があるかを見ていきます。現在、すでにどのような悪意ある目的で使用されているのか、そして今後は何が予想されるのでしょうか？
ChatGPTと不正 – 広がる悪用の可能性
私たちはこれまで何度も、不正業者は頭が良いと指摘してきました。彼らは最新技術をいち早く取り入れ、常にそれを不正の仕組みに利用する方法を見つけ出します。ChatGPTも例外ではありません。以下は、正式リリースからわずか数ヶ月の間に、すでに不正業者に利用されている手法の一部です。
偽のChatGPTアプリとWebサイト
OpenAIが3月1日にAPIを発表する前から、アプリストアにはスマートフォンでChatGPTを使えると謳う多数のアプリが存在していました。これらすべてに共通するのは、話題性や検索数の急増に便乗して、名前に「ChatGPT」を含めている点です。
しかし、多くのアプリは単純なチャットボットを組み込んでいるだけで、バックグラウンドで常に隠し広告を表示しています。他のアプリはマルウェアキャンペーンに利用され、ユーザーのデバイスを感染させてパスワードやクレジットカード情報などの個人情報を盗み出しています。
偽アプリに加え、公式のChatGPTサイトをそっくりそのままコピーした偽のWebサイトも複数存在します。これらのサイトは、ChatGPTのダウンロード（実際はブラウザでのみ利用可能）を促したり、有料プラン「ChatGPT Plus」へのアップグレードを装った偽の決済ページを表示したりします。実際には、ユーザーはお金とデータを盗まれるだけです。
テロ、プロパガンダ、偽情報
ChatGPTは、説得力のある自然な文章を迅速かつ大量に作成することに長けています。この特徴はプロパガンダや偽情報の拡散に最適であり、不正業者は比較的少ない労力で、特定の意図を持ったメッセージを作成し、広めることができます。
さらに現在では、誰もが非常に安価で、独自のデータやソースを使って言語モデルをトレーニングできるようになりました。偽ニュースで学習した言語モデルは、それ以外の現実を知らないため、常に偽ニュースを拡散し続けることになります。
「インターネットが、誰もがオンラインで主張を発信できるようにすることで情報を民主化したのと同様に、ChatGPTはさらにその敷居を下げ、悪意を持つ者なら誰でも、熟練したライターの軍団のような力で偽のストーリーを広められる世界をもたらしました。」（ソース）
ソーシャルネットワークのマイクロターゲティング機能と組み合わさることで、これは西側諸国の次の選挙において極めて危険な火種となります。
ソーシャルエンジニアリング / なりすまし
ChatGPTなどの言語モデルは、本物らしい文章を作成できるだけでなく、指定された特定のトーンや文体を再現することも可能です。欧州刑事警察機構（Europol）は、レポート「ChatGPT – 法執行機関における大規模言語モデルの影響」の中で、この悪用について明示的に警告しています。
「LLMが話し方のパターンを認識して模倣する能力は、フィッシングやオンライン詐欺を容易にするだけでなく、特定の個人やグループの話し方を真似るためにも広く悪用される可能性があります。この能力により、潜在的な被害者を騙して犯罪者を信用させることが容易になります。」（ソース）
フィッシング攻撃以外にも、この能力は偽のWebサイトなどで利用される可能性があります。これまで不正業者は、HTTrackなどのツールを使用して企業のランディングページをそのままコピーするのが一般的でした。しかし、ChatGPTを使用すれば、本物と見紛うような、全く新しい偽のWebサイトを丸ごと作成できるようになります。
これにより、不正業者は訪問者とセキュリティシステムの両方を欺くことができます。多くの場合、セキュリティシステムは本物のサイトの「完全なコピー」のみを検出するため、内容が変更されていると検知をすり抜けてしまいます。一方で、訪問者には本物のサイトに見えるよう巧妙に作られています。
フィッシング & 詐欺
不正業者によるChatGPTの最もわかりやすい用途の一つが、フィッシングメールの文面作成です。完璧に書かれた文章によってフィッシングメールの質が向上するだけでなく、ChatGPTの力を借りることで、不正業者はより迅速に、より本物らしく、そしてはるかに大きな規模で行動できるようになります。
「世界中のどこからでも、ノートPC1台持った1人の詐欺師が、今や世界中のターゲットを相手に、ありとあらゆる言語で、昼夜を問わず何百、何千もの詐欺を同時に実行できるのです。」（ソース）
3月初旬、Bitdefenderは新しいフィッシングキャンペーンに注意を呼びかけました。これは、偽のChatGPTプラットフォームを使用して、騙されやすい投資家にプラットフォームへの出金を促し、配当金から利益を得られると信じ込ませるものです。
別のフィッシングキャンペーンでは、2022年の大手テック企業による人員削減の波を利用し、新しい職を探している必死な求職者をターゲットにしました。不正業者は雇用主や採用担当者を装い、LinkedInなどのビジネスプロフィールを非常に巧妙に本物らしく仕立て上げます。
ターゲットを罠にかけた後、彼らはノートPCの購入費用の支払いや、返金用と称して銀行口座情報の提供を求めます。被害者は新しい仕事が見つかり、数日以内にノートPCと返金が届くと思い込みます。しかし実際には、不正業者はお金と個人情報（身分証明書や銀行口座情報を含む）を盗み取り、そのまま行方をくらまします。
自動生成される悪意あるコード
ChatGPTは数十億のテキストだけでなく、無数のコード行も学習しています。GitHubのCopilot（あるいはGPT-4を組み込んだCopilot X）のような他のAIは、コードのみを使ってトレーニングされています。
これらのツールは開発者の日常業務の時間を大幅に節約できますが、同時に全く新しい大きな問題も生み出します。経験のない開発者でも、簡単なテキスト指示だけで複雑なマルウェアを作成できるようになってしまうのです。
「ChatGPTの公開直後、2022年12月のCheck Point Researchのブログ投稿では、スピアフィッシングから英語のコマンドを受け付けるリバースシェルの実行まで、ChatGPTを使って感染フロー全体を構築する方法が実証されました。」（ソース）
完全自動化された偽サイトによる広告不正
ChatGPTがもたらす潜在的な悪影響をすべて組み合わせると、ある一つの事実が浮き彫りになります。それは、不正業者にとって、偽のWebサイトやアプリの技術的基盤、コンテンツ、そして「マーケティング」のすべてを完全に自動化することが、かつてないほど容易になったということです。
巧妙なのは、これらの偽サイトが既存のサイトのコピーである必要は全くなく、様々なAIを組み合わせることで独自のコンテンツを提供できる点です。Webサイト用の完璧な文章はChatGPTから、画像はMidjourneyやDall-Eから、そしてサイトにユーザーを呼び込むためのバナー広告はAdCreativeなどのツールを使用して作成できます。
実際、不正業者は数年前から、コンテンツを盗用した偽サイトを作成するために様々なツールを使用してきました。しかし、以前使われていた、あらかじめ定義されたテキスト内の単語を類義語に置き換えるだけの 「記事書き換え（スピナー）ツール」とは異なり、現在のChatGPTやMidjourneyのようなツールを使えば、本物とほぼ見分けがつかない独自のコンテンツを作成できます。
ネット上に、ChatGPTを組み合わせて自動でWebサイトを作成する手順がすでに数多く存在しているのも不思議ではありません。
技術的な知識がない不正業者でも、広告を掲載した偽サイトをより簡単に作成できるようになります。そして、これらの広告枠は主に、オープンオークションを介して広告主から買い取られます。
ここで問題となるのは、これらの偽サイトは本物の人間に見られることはほとんどなく、ボットが生成したトラフィックによって収益化されている点です。つまり、広告主はAIによって自動生成されたWebサイト上のボットに対して広告費を支払っていることになります。
私たちの予測：ChatGPTは不正業者の活動を大幅に容易にする
（広告）不正業者におけるChatGPTの様々な悪用可能性を示してきましたが、最後に簡単な予測をして締めくくりたいと思います。
私たちは、ChatGPTのようなAIが不正業者の活動を大幅に容易にすると考えています。テキスト、画像、コードを自動的に作成し、それらを組み合わせることがこれほど簡単になったことはありません。
具体的には、以下のような事態が予想されます。
プロパガンダや偽情報キャンペーンの増加
ChatGPTのような人工知能の回答が、真実の基準として使われる可能性があります。何十億ものテキストを基にしている機械が言っているのだから、真実であるに違いない、と考えられてしまうためです。特に選挙戦の時期には、これは甚大な被害と信頼の喪失を引き起こす可能性があります。フィッシングキャンペーンの巧妙化
フィッシングメールの綴りや文法の質は、急速に向上するでしょう。これにより、詐欺メールと本物のメールを見分けることがますます困難になります。また、不正業者と被害者の間のメールのやり取りも将来的に自動化される可能性があります。これにより、不正業者が費やす時間は大幅に削減され、さらに多くの、より巧妙なフィッシングメールの作成に集中できるようになります。偽Webサイトの増加
広告不正に悪用される偽のWebサイトも大幅に増加すると予想されます。これらのサイトはDSP（デマンドサイドプラットフォーム）に登録され、主にボットが生成した人工的なトラフィックに広告を配信するために使用されます。増加の背景には、技術的な知識がない不正業者にとっての参入障壁が極めて低くなったこと、そして経験豊富な不正業者がWebサイトをより本物らしく見せる手段を手に入れたことがあります。また、こうした偽サイトがオーガニック検索結果に表示されるケースも増えると考えられます。ChatGPTの重要な特徴は、既存のコンテンツをベースにしているものの、生成されるテキストは1対1のコピーではないため、古典的な意味での「重複コンテンツ」にならない点です。そのため、純粋にAIが生成したコンテンツに依存するWebサイトでも、検索エンジンで上位表示させることが容易になります。残念ながら、テキストがAIによって作成されたものであるかどうかを確実に検出する技術は、現在でもまだ確立されていません。
この記事を通じて、ChatGPTが（広告）不正に悪用される可能性についてご理解いただき、今後のリスクに対する意識を高める一助となれば幸いです。
