チェック・ポイント、DeepSeekとQwenが悪意あるコンテンツの開発に悪用されていることを確認

チェック・ポイント・ソフトウェア・テクノロジーズ株式会社

2025年2月7日 11時40分

サイバーセキュリティソリューションのパイオニアであり、世界的リーダーであるチェック・ポイント・ソフトウェア・テクノロジーズ（Check Point Software Technologies Ltd.、NASDAQ：CHKP、以下チェック・ポイント）の脅威インテリジェンス部門であるチェック・ポイント・リサーチ（Check Point Research、以下CPR）は、DeepSeekやQwenが悪意あるたコンテンツの開発に悪用されていることを発見しました。サイバー犯罪者たちは、ChatGPTからDeepSeekやQwenといった新しいAIモデルに移行して、それらを悪用しています。

脅威アクターたちが、AIモデルを操作して検閲されていないコンテンツを表示させる方法を共有しており、結果としてハッカーや犯罪者たちがAIを悪意のあるコンテンツの作成に利用することを可能にしています。ジェイルブレイクと呼ばれるこの手法には、AIモデルの制限を解除するための様々な方法があります。さらに最近では、ジェイルブレイクの方法や不正防止機能の回避方法、さらにはマルウェアの開発方法そのものまでを解説した詳細なガイドが出回っています。

本プレスリリースでは、サイバー犯罪者が最新のAIモデルを悪用して有害なコンテンツを作成し、ジェイルブレイクによってAIの機能を改変し、高度なサイバー攻撃を実行する方法について詳しく解説します。これらの悪意ある活動の実例を示しながら、進化し続ける脅威に対して、より一層の警戒が必要とされる理由を明らかにしていきます。

脅威の実態

DeepSeekとQwenは、ほとんど制限なく悪意のあるコンテンツを作成できる強力なツールとなる可能性を示しています。ChatGPTが過去2年間、不正利用対策に多大な投資を行ってきた一方で、これらの新しいモデルには悪用を防ぐ機能が、現時点でほとんど備わっていないと見られています。その結果、様々なスキルレベルの攻撃者、特に技術的な理解が浅く既存のスクリプトやツールを悪用するだけの初心者レベルの攻撃者たちの間で、急速に広がりを見せています。

注目すべき点として、ChatGPTは不正利用防止機能を備えているものの、すでにインターネット上の様々なリポジトリで制限のないバージョンが利用可能な状態となっています。DeepSeekやQwenについても同様の制限解除版が登場すると予想され、それに伴うリスクはさらに拡大すると考えられています。

実例

これらのAIエンジンが悪意ある目的でどのように使用され、さらに他のサイバー犯罪者が利用できるようオープンなウェブ上で共有されているのか、懸念すべき例をいくつか紹介します。

情報窃取型マルウェアの開発

サイバー犯罪者たちがQwenを使用して、一般ユーザーの機密情報を窃取する情報窃取型マルウェアを作成しているとの報告があります。

AI プロンプトの制限解除

ジェイルブレイクとはAIモデルの制限を回避し、通常は制限されているコンテンツを生成させる手法を指します。サイバー犯罪者はこの手法を使って、AIの能力を悪用することを試みます。

下の画像では、サイバー犯罪者たちが、DeepSeekモデルの応答を操作するためのプロンプト制限解除の手法を共有しています。「Do Anything Now」というアプローチや「Plane Crash Survivors」といった手法を悪用する方法が含まれています。

（画像1）DeepSeekのジェイルブレイクに関するダークウェブフォーラムでの投稿。投稿者はテキスト・ストレージサイト「Pastebin」を通じて、制限を回避するプロンプトを共有している。

（画像3）投稿者は、DeepSeek上での詳細なやりとりをスクリーンショットし、公開。プログラミングコードのスニペットを含む応答が示されている。

銀行の不正検知システムの回避

サイバー犯罪者たちが、不正な金融取引を目的として、DeepSeekを使って銀行の不正検知システムを回避する手法について議論・共有していることが確認されています。これは重大な金融犯罪につながる可能性を示唆しています。

（画像4）ダークウェブ上で、銀行のウェブサイトにおける不正検知システムを回避する手法が議論されている様子。

大規模スパムキャンペーン

サイバー犯罪者たちは、ChatGPT、DeepSeek、Qwanという3つのAIモデルを組み合わせて、大規模スパムキャンペーンのためのスクリプトの問題解決や最適化を行っています。これにより、悪意のある活動の効率を向上させています。

（画像5・６）サイバー犯罪者がPythonスクリプトの問題を相談しているチャット。

新たなサイバー脅威：先進的なAIツールがもたらす負の側面

DeepSeekyやQwenなどの新しいモデルの台頭は、サイバー脅威の状況において懸念すべき傾向を示しています。サイバー犯罪者たちは、ジェイルブレイクなどの手法でAIの安全対策を突破し、情報窃取や不正送金、スパム配信などの攻撃に悪用し始めています。AI技術の悪用に対する強固な防御を確保するため、組織はこうした進化する脅威に対して先を見据えた対策を実施することが急務となっています。

CPRは、サイバー犯罪者による生成AIや新たな技術の悪用について、今後も監視を続けていきます。

本プレスリリースは、米国時間2025年2月4日に発表されたブログ（英語）をもとに作成しています。

Check Point Researchについて
Check Point Researchは、チェック・ポイントのお客様、脅威情報コミュニティを対象に最新のサイバー脅威インテリジェンスの情報を提供しています。チェック・ポイントの脅威インテリジェンスであるThreatCloud AIに保存されている世界中のサイバー攻撃に関するデータの収集・分析を行い、ハッカーを抑止しながら、自社製品に搭載される保護機能の有効性について開発に携わっています。100人以上のアナリストや研究者がチームに所属し、セキュリティベンダー、捜査当局、各CERT組織と協力しながら、サイバーセキュリティ対策に取り組んでいます。
ブログ: https://research.checkpoint.com/
X: https://twitter.com/_cpresearch_

チェック・ポイントについて
チェック・ポイント・ソフトウェア・テクノロジーズ（https://www.checkpoint.com/）は、AIを活用したクラウド型サイバーセキュリティプラットフォームのリーディングプロバイダーとして、世界各国の10万を超える組織に保護を提供しています。Check Point Software Technologiesは、積極的な防御予測とよりスマートで迅速な対応を可能にするInfinity Platformを通じ、サイバーセキュリティの効率性と正確性の向上のためにあらゆる場所でAIの力を活用しています。Infinity Platformの包括的なプラットフォームは、従業員を保護するCheck Point Harmony、クラウドを保護するCheck Point CloudGuard、ネットワークを保護するCheck Point Quantum、そして協働的なセキュリティオペレーションとサービスを可能にするCheck Point Infinity Core Servicesによって構成されます。Check Point Software Technologiesの全額出資日本法人、チェック・ポイント・ソフトウェア・テクノロジーズ株式会社（https://www.checkpoint.com/jp/）は、1997年10月1日設立、東京都港区に拠点を置いています。

ソーシャルメディアアカウント
・Check Point Blog: https://blog.checkpoint.com
・Check Point Research Blog: https://research.checkpoint.com/
・YouTube: https://youtube.com/user/CPGlobal
・LinkedIn: https://www.linkedin.com/company/check-point-software-technologies/
・X: https://x.com/checkpointjapan
・Facebook: https://www.facebook.com/checkpointjapan

将来予想に関する記述についての法的な注意事項
本プレスリリースには、将来予想に関する記述が含まれています。将来予想に関する記述は、一般に将来の出来事や当社の将来的な財務または業績に関連するものです。本プレスリリース内の将来予想に関する記述には、チェック・ポイントの将来の成長、業界におけるリーダーシップの拡大、株主価値の上昇、および業界をリードするサイバーセキュリティプラットフォームを世界の顧客に提供することについての当社の見通しが含まれますが、これらに限定されるものではありません。これらの事項に関する当社の予想および信念は実現しない可能性があり、将来における実際の結果や事象は、リスクや不確実性がもたらす影響によって予想と大きく異なる可能性があります。ここでのリスクには、プラットフォームの機能とソリューションの開発を継続する当社の能力、当社の既存ソリューションおよび新規ソリューションにたいする顧客の受け入れと購入、ITセキュリティ市場が発展を続けること、他製品やサービスとの競争、一般的な市場、政治、経済、経営状況、テロまたは戦争行為による影響などが含まれています。本プレスリリースに含まれる将来予想に関する記述に伴うリスクや不確実性は、2024年4月2日にアメリカ合衆国証券取引委員会に提出した年次報告書（フォーム20-F）を含む証券取引委員会への提出書類に、より詳細に記されています。本プレスリリースに含まれる将来予想に関する記述は、本プレスリリースの日付時点においてチェック・ポイントが入手可能な情報に基づくものであり、チェック・ポイントは法的に特段の義務がある場合を除き、本プレスリリース記載の将来予想に関する記述について更新する義務を負わないものとします。

本件に関する報道関係者からのお問い合わせ
チェック・ポイント広報事務局（合同会社NEXT PR内）
Tel: 03-4405-9537　Fax: 03-6739-3934
E-mail: checkpointPR@next-pr.co.jp