バグクラウド、LLMアプリケーション向けAIバイアス評価プログラムを提供開始

～セキュリティ研究者の創造力を活用し、従来のテストでは発見できなかったデータ・バイアスを見つけるバグクラウドのAI Safety and Securityポートフォリオの最初のソリューション～

2024年4月17日

<<報道資料>>
Bugcrowd Inc.

バグクラウド、LLMアプリケーション向けAIバイアス評価プログラムを提供開始

～セキュリティ研究者の創造力を活用し、従来のテストでは発見できなかったデータ・バイアスを見つけるバグクラウドのAI Safety and Securityポートフォリオの最初のソリューション～

クラウドソーシング・セキュリティのリーダー企業であるバグクラウド（Bugcrowd Inc. 本社：米カリフォルニア州サンフランシスコ）は本日、バグクラウド・プラットフォームのAI Safety and Securityソリューションポートフォリオの一部として、AIバイアス評価プログラムを提供することを発表しました。この機能は、企業や政府機関が大規模原語モデル (LLM)アプリケーションを安全に、効率的に、かつ自信を持って採用できるよう多くの人の力を活用します。

 
LLMアプリケーションは、膨大なデータセットで学習されたアルゴリズムモデルで実行されます。その学習データが人間によって収集・整理されたものであっても、多くの場合そうではないのですが、ステレオタイプ、偏見、排他的な表現、その他学習データから考えられる様々な偏向によって引き起こされる“データ・バイアス”がLLMアプリケーションに容易に反映します。そのようなバイアスは、潜在的に意図しない有害な方法でモデルを動作させる可能性があり、LLMの採用にかなりのリスクと予測不可能性をもたらします。

潜在的な欠陥の例としては、表現バイアス（訓練データにおける特定の集団の不釣り合いな表現または省略）、既存バイアス（訓練データに存在する歴史的または社会的偏見に由来するバイアス）、アルゴリズム処理バイアス（AIアルゴリズムによるデータの処理と解釈によってもたらされるバイアス）などが挙げられます。

公共部門は、この増大するリスクの影響を緊急事態と言える程、受けています。2024年3月時点で、米国政府はデータ・バイアスの検出を含むAIの安全ガイドラインに準拠することを各機関に義務付けています。この義務は、2024年後半には連邦政府の請負業者にも及びます。

従来のセキュリティ・スキャナや侵入テストではこのようなバイアスを検出することができないため、この問題にはセキュリティへの新しいアプローチが必要です。バグクラウドの AIバイアス評価プログラムは、バグクラウド・プラットフォーム上で行われる成果報酬型のプライベートなプロジェクトで、信頼できる第三者のセキュリティ研究者（別名：CROWD＝群衆」）を活用し、LLMアプリケーションのデータ・バイアスの欠陥を特定し、優先順位を付けます。参加者は、リスクの影響力の実証に成功した場合に報酬が支払われ、より影響力の大きなリスクの発見にはより高い報酬が支払われます。

バグクラウド・プラットフォームは、CrowdMatch™として知られる、セキュリティ研究者を調達し、有効活用する業界初のAI駆動型アプローチにより、セキュリティテストやそれ以外のものを含む、事実上あらゆるリスク削減目標を達成するために、事実上あらゆるスキルセットを持つ最適なセキュリティ研究者ネットワークを構築することができます。

バグクラウドのCEOであるDave Gerryは、次のように述べています。「当社は、米国国防総省のChief Digital and Artificial Intelligence Office (CDAO)のような顧客ならびに当社のパートナーであるConductorAI社と共に、データ・バイアスの欠陥を特定するためにセキュリティ専門家を活用することで、AI検出の重要な試験場を提供します。当社は、同様の課題に直面している他の顧客と、当社が学んできた教訓を共有したいと考えています」

ConductorAIの創設者であるザック・ロング（Zach Long）氏は、次のように述べています。「AIバイアス評価プログラムにおける当社とバグクラウドのパートナーシップは大きな成功を収めています。当社のAI監査の専門知識とバグクラウドのクラウドソーシング・セキュリティ・プラットフォームを活用することで、当社は国防総省に代わって、LLMシステムのバイアスに関する初の公開敵対的テストを主導しました。両社のコラボレーションは、将来のバイアス・バウンティーのための強力な基盤を築き、倫理的なAIに対する当社の揺るぎない決意を表すものです」

10年以上にわたり、セキュリティに対するバグクラウド独自のskills-as-a-service（スキル・アズ・ア・サービス）手法は、一貫して従来の方法よりも影響力の大きい脆弱性を発見してきました。

1,000社近くに上るバグクラウドの顧客は、ROI（投資収益率）をより明確にするこの手法による恩恵を受けています。卓越した柔軟性を備え、10年分の脆弱性インテリジェンスデータを利用できるバグクラウド・プラットフォームは、モバイルインフラ、ハイブリッドワーク、API、暗号、クラウドワークロード、そして現在のAIの採用など、攻撃対象領域の変化を反映しながら進化してきました。2023年だけでも、顧客はバグクラウド・プラットフォームを利用して約2万3,000件の影響力の大きい脆弱性を発見し、最大1,000億ドルに上る潜在的な侵害関連コストの防止に貢献しました。（注：バグクラウド・プラットフォームのデータおよびIBMのデータ漏洩コストレポートに基づいています。）

バグクラウドの創設者で最高戦略責任者のCasey Ellis（ケイシー・エリス）は、次のように述べています。
「クラウドソーシング・セキュリティ・プラットフォームのリーディング・プロバイダーとして、当社はモバイル、自動車、クラウド・コンピューティング、暗号、APIなど、これまでのテクノロジーの波がもたらす新たなセキュリティの課題に対応してきたように、AIバイアス評価という新たな進化を遂げる課題に対応する独自の位置付けを確立しました」

バグクラウドが提供するAIバイアス評価プログラムの詳細については、下記リンク先をご覧ください。
https://www.bugcrowd.com/products/ai-bias-assessment/

バグクラウドは、2024年4月17日から19日迄に開催されるBlack Hat Asia Conference（https://www.blackhat.com/asia-24/）に出展します。

・Black Hat Expoフロアのビジネスホールで、配布物、デモ、およびニュースについての会話をお楽しみください。

・バグクラウドの発表内容やバグクラウドのセキュリティ・ナレッジ・プラットフォームの価値について1対1でご説明いたします。

・イベントへの登録は、下記URＬからお申込み下さい。
https://ww1.bugcrowd.com/black-hat-asia-2024/ 

バグクラウド・プラットフォームがどのように企業や組織をサイバーリスクから守ることができるかについては、Bugcrowd.com をご覧いただくか、バグクラウドの脆弱性トレンドレポート「Inside the Platform」 を下記URLよりダウンロードしてください。
https://www.bugcrowd.com/resources/report/bugcrowds-vulnerability-trends-report/　

• バグクラウドについて

バグクラウドは、2012年以来、顧客や信頼できるエリートハッカー集団の創造力ならびに専門知識、およびデータとAIを活用した特許取得済みのSecurity Knowledge Platform™を統合することで、企業が統制力を取り戻し、脅威に先んじて対応できるよう支援しています。当社のハッカー・ネットワークは、多様な専門知識を駆使して隠れた弱点を発見し、ゼロデイ・エクスプロイトに対しても、進化する脅威に迅速に対応します。卓越した拡張性と適応性により、当社のプラットフォームにおけるデータとAIを駆使したCrowdMatch™テクノロジーは、顧客自身が展開するサイバー脅威との戦いに最適な人材を見つけます。当社は、脅威行為者を凌駕する最新のクラウドソーシング・セキュリティの新時代を創造することを目指しています。詳細は、当社ウェブサイト（www.bugcrowd.com）、または当社ブログ（https://www.bugcrowd.com/blog/ ）をご覧ください。

*ハッカーコミュニティの創造力を活用するバグクラウドの詳細は、www.bugcrowd.com。または当社のブログ（https://www.bugcrowd.com/blog/）をご覧ください。
*”Bugcrowd"、"CrowdMatch"、"Security Knowledge Platform "は、Bugcrowd Inc.およびその子会社の商標です。その他の商標、商号、サービスマーク、ロゴは各社に帰属します。

●報道関係のお問い合わせ先
Bugcrowd広報事務局
Email: [e-mail]

以上