AI犯罪 ~ 進化の行き着く先 ~

  • HOME
  • SNS
  • AI犯罪 ~ 進化の行き着く先 ~
AI犯罪 ~ 進化の行き着く先 ~

近年、インターネットの普及と「AI」技術の進化に伴ってサイバー攻撃の手口は巧妙化し、従来のセキュリティ対策では対応が難しくなってきています。

「従来のAI」は「学習済みのデータの中から適切な回答を探して提示する性質」を持っていましたが、さらに進化した「生成AI」は「0から1を生み出す」性質を特徴とします。

つまり、「生成AI」は、すでに学習したデータを参考に予測した答えを返すのではなく、「AI」自身が自ら学習し続けて、人間が与えていない情報やデータさえもインプットし、新たなアウトプットを人間に返すことができるのです。

このように「AI」は、いまや猛烈な勢いで進化、多様化してきており、それと同時にサイバー空間に潜む「サイバー犯罪者」たちもまた、これら「AI」を悪用してより高度な攻撃手法で「サイバー犯罪」を急増させています。

フェイクニュース、欺瞞的な広告、ディープフェイク、信憑性の高い偽ダイレクトメッセージなど、様々な手口がありますが、近年では、世界の10~20代の若者を中心に「セクストーション(Sextortion)」といわれる犯罪被害が急増していることが問題となっています。

「セクストーション」とは、「sex(性)」と「extortion(恐喝、ゆすり)」を組み合わせた造語で、「性的脅迫」とも訳されますが、性的な画像などを送信するよう誘導し、それを拡散させる可能性をちらつかせて金銭を要求するという「サイバー犯罪」のことです。

女の子のケースでは、本人から金銭を巻き上げるというよりは、より多くのデータを奪い取ろうとし、男の子のケースでは、やりとりしている相手を女性だと思わせて、あとから豹変して男性だと分かり、性的画像や個人情報を盾に電子マネーを送金するよう脅されます。

性的な画像や動画を送ってしまった恥ずかしさや後ろめたさから、親や先生に相談できずにひとりで苦しみ続け、自殺に至ってしまうケースまで発生しています。

なぜ被害にあってしまうのかというと、「サイバー犯罪者」たちは、人々の感情や脆弱性を操ることが、欲しい情報やものを手に入れる最善の方法だと認識しているからなのです。

それを得るために、家族や友人の声・外見を模倣(なりすまし)したり、信頼できる人や企業からの発信にみせかけたダイレクトメッセージを介して配信される、スパイウェア・不正アプリなどを使って攻撃を仕掛けてきます。

上記のような攻撃は、ソーシャルメディアだけでなく、上級幹部の声や外見を模倣する BCC(Business Communication Compromise)攻撃の進化に伴い、今後、企業においても深刻化する可能性が示唆されています。

ちなみに、AI技術を悪用した犯罪はサイバー攻撃に留まりません。

例えば、ChatGPTなどの「生成AI」は、不適切な情報の生成を回避するためにコンテンツフィルターが設定されていますが、コンテンツフィルターを回避する手法は常に開発されており、回避されれば違法薬物や爆弾などの危険物製造の情報を入手することも可能です。

また、パスワードもAIなら短時間で解析してしまうという報告もありますので、さまざまなサイトにアクセスして、カードでの購入や現金を引き出すことも可能になります。

ときに「生成AI」自体、「ハルシネーション」という「嘘の情報を本当のことのように話す」現象が起きていることも問題視されています。

「AI」に関する知識を持ち、自己防衛手段を身につけることが必要な時代に突入しましたね。

お問い合わせは、ホームページ「お問い合わせ」からお気軽にお声がけください。

これからの未来を「もう、誰も信じられない」という、荒んだ社会にはしたくないものですね。




[ Room Turn Blue ~ ルームターンブルー ~ ]
臨床心理士 / 公認心理師 / キャリアコンサルタント / CEAP / EAPコンサルタント / CBT Therapist®︎ / CBT Professional(EAP) / CBT Extra Professional ®︎

目白駅から徒歩2分
池袋駅から徒歩10分

お申し込み・お問い合わせ

Room Turn Blueへのご相談はこちら

お申し込み・お問い合わせ