ChillStackと三井物産セキュアディレクション、AIの安全確保技術を習得するトレーニングを提供開始
〜 AIに対する攻撃手法と防御手法を実践し、セキュアなAIを開発する技術を習得 〜
株式会社ChillStack（代表取締役CEO：伊東道明、以下「ChillStack」）と三井物産セキュアディレクション株式会社（代表取締役社長：神吉敏雄、以下「三井物産セキュアディレクション」）は、AIの安全確保技術を習得できるハンズオン・トレーニング「セキュアAI開発トレーニング」の提供を開始しました。
近年、ディープラーニングをはじめとする様々な機械学習を活用したAIの発展に伴い、日本国内においても顔認証システムや防犯システム、自動運転技術等、様々な分野でAIの社会実装が進んでいます。その一方で、AIに対する攻撃手法も数多く生まれ、防御技術の確立が急務となっています。しかし、AIに対する攻撃手法は既存システムに対する攻撃手法とは根本的に原理が異なるものが多く、従来のセキュリティ技術で対策することは非常に困難です。
下の図のようなAI開発の工程においても、一例として学習データの汚染やモデルの窃取等、様々なリスクが想定されます。
各開発工程でセキュリティを考慮していない場合、攻撃者が細工したデータが学習データに注入されることで、AIにバックドアが設置されてしまう問題や、AIの入力データが偽装されることで、AIの判断に誤りが生じる問題等が顕在化するおそれがあります。
そこで、ChillStackと三井物産セキュアディレクションは、これまで培ってきたサイバーセキュリティに関する高い技術と、AIに対する攻撃手法/防御手法に関する研究成果を元に、「一からAIの安全確保技術を習得」できるハンズオン・トレーニングを提供することにしました。
【トレーニングの概要】
2020年5月から、下記内容のハンズオン・トレーニングを提供開始します。
・AIを騙す攻撃
人間には識別できない小さな変化を加えたデータを使用し、AIを意図的に騙す攻撃手法と対策を学びます。
・AIを乗っ取る攻撃
AIが学習するデータセットを汚染し、AIにバックドアを仕込むことでAIに意図した挙動をさせる攻撃手法と対策を学びます。
・AIシステムへの侵入
機械学習フレームワークの仕様を悪用し、システムへ侵入する攻撃手法と対策を学びます。
本トレーニングは、機械学習エンジニア/データサイエンティスト、ソフトウェアエンジニア等、AIの開発/導入に携わる全ての方を対象にしています。
本トレーニングを受講することで、AIに対する攻撃/防御技術およびセキュアなAIを開発する技術を習得することができます。トレーニングの詳細は、「セキュアAI開発トレーニングの特設サイト」をご覧ください。
【トレーニング講師紹介】
■株式会社ChillStack
＜代表取締役CEO 伊東 道明＞
法政大学大学院卒。大学院在学中にChillStackを起業。経営やチームビルディング、ブランディングに加えエンジニアとしても活躍。異常検知を専門とし、AIセキュリティ分野の研究に従事。受賞歴にIEEE CSPA 2018にてBest paper award（深層学習技術を用いたWeb Application Firewallシステムの構築に関する論文）、セキュリティキャンプフォーラム2018最優秀賞、公益財団法人クマ財団認定クリエイター選出等。また、セキュリティ・ネクストキャンプ2019の講師やSECCON 2019のワークショップの講師を務める等、教育事業にも貢献している。
＜テクニカルアドバイザー 市川 遼＞
2018年度世界ランキング4位を達成しているCTFチーム TokyoWesterns のリーダー。DEF CON CTF 2年連続決勝大会出場やHITCON CTF 2019 Finals 3位、WCTF 2018優勝等、世界中のCTF大会で活躍している。セキュリティのコンテスト以外にも、CODE BLUE CTFの運営・システム開発やインフラ技術を競うISUCON8で優勝する等、様々な技術に精通し、活躍している。
自身の持つ様々な研究成果を活かし、台湾で開催された AIS3 2019 の講師やNDSS Workshop on Binary Analysis Research（BAR）にて招待講演を行っている。
■三井物産セキュアディレクション株式会社
＜先端技術セキュリティセンター セキュリティエンジニア 高江洲 勲＞
情報処理安全確保支援士。CISSP。Webシステムに対する脆弱性診断に10年以上従事。また、AIセキュリティに着目し、機械学習アルゴリズムの脆弱性に関する研究や、機械学習を用いたセキュリティタスク自動化の研究を行っている。研究成果は、世界的に著名なハッカーカンファレンスであるBlack Hat ArsenalやDEFCON、CODE BLUE等で発表している。近年はセキュリティ・ネクストキャンプやSECCONワークショップの講師、国際的なハッカーカンファレンスであるHack In The BoxのAIセキュリティ・コンペティションで審査員を務める等、教育事業にも貢献している。
【会社概要】
■株式会社ChillStack
所在地：東京都小金井市梶野町1丁目2番36号
代表者：代表取締役CEO 伊東道明
事業内容：
・AIを用いたID不正検知システムの提供
・AIに関するシステム開発・コンサルティング
・ログ解析によるサービス支援
株式会社ChillStackは、AIを用いた高精度な不正検知システム「Stena」をはじめとして、既存のサイバーセキュリティ技術をAIで進化させ、AI自身を守るセキュリティ等、新たなセキュリティ技術を開発・提供する企業です。
詳細は、ウェブサイト（https://chillstack.com/）をご覧ください。
■三井物産セキュアディレクション株式会社
所在地：東京都中央区日本橋人形町1丁目14番8号 郵船水天宮前ビル6階
代表者：代表取締役社長 神吉敏雄
事業内容：
・情報セキュリティに関するプロフェッショナルサービス
・情報セキュリティに関するマネージメントサービス
・情報セキュリティに関するコンサルティング サービス
2001年に設立された三井物産セキュアディレクション株式会社は、ペネトレーションテスト/TLPT/レッドチーム、Webアプリケーションやネットワーク脆弱性診断等の各種診断サービス、マルウェア解析、アドバンストSOC、Threat Huntingサービス等の高度なセキュリティ技術サービスおよびコンサルティングサービス等を提供するサイバーセキュリティ専門企業です。
詳細は、ウェブサイト（https://www.mbsd.jp/）をご覧ください。
【トレーニングについてのお問合せ】
セキュアAI開発トレーニング特設サイト
https://jpsec.ai
下の図のようなAI開発の工程においても、一例として学習データの汚染やモデルの窃取等、様々なリスクが想定されます。
各開発工程でセキュリティを考慮していない場合、攻撃者が細工したデータが学習データに注入されることで、AIにバックドアが設置されてしまう問題や、AIの入力データが偽装されることで、AIの判断に誤りが生じる問題等が顕在化するおそれがあります。
そこで、ChillStackと三井物産セキュアディレクションは、これまで培ってきたサイバーセキュリティに関する高い技術と、AIに対する攻撃手法/防御手法に関する研究成果を元に、「一からAIの安全確保技術を習得」できるハンズオン・トレーニングを提供することにしました。
【トレーニングの概要】
2020年5月から、下記内容のハンズオン・トレーニングを提供開始します。
・AIを騙す攻撃
人間には識別できない小さな変化を加えたデータを使用し、AIを意図的に騙す攻撃手法と対策を学びます。
・AIを乗っ取る攻撃
AIが学習するデータセットを汚染し、AIにバックドアを仕込むことでAIに意図した挙動をさせる攻撃手法と対策を学びます。
・AIシステムへの侵入
機械学習フレームワークの仕様を悪用し、システムへ侵入する攻撃手法と対策を学びます。
本トレーニングは、機械学習エンジニア/データサイエンティスト、ソフトウェアエンジニア等、AIの開発/導入に携わる全ての方を対象にしています。
本トレーニングを受講することで、AIに対する攻撃/防御技術およびセキュアなAIを開発する技術を習得することができます。トレーニングの詳細は、「セキュアAI開発トレーニングの特設サイト」をご覧ください。
【トレーニング講師紹介】
■株式会社ChillStack
＜代表取締役CEO 伊東 道明＞
法政大学大学院卒。大学院在学中にChillStackを起業。経営やチームビルディング、ブランディングに加えエンジニアとしても活躍。異常検知を専門とし、AIセキュリティ分野の研究に従事。受賞歴にIEEE CSPA 2018にてBest paper award（深層学習技術を用いたWeb Application Firewallシステムの構築に関する論文）、セキュリティキャンプフォーラム2018最優秀賞、公益財団法人クマ財団認定クリエイター選出等。また、セキュリティ・ネクストキャンプ2019の講師やSECCON 2019のワークショップの講師を務める等、教育事業にも貢献している。
＜テクニカルアドバイザー 市川 遼＞
2018年度世界ランキング4位を達成しているCTFチーム TokyoWesterns のリーダー。DEF CON CTF 2年連続決勝大会出場やHITCON CTF 2019 Finals 3位、WCTF 2018優勝等、世界中のCTF大会で活躍している。セキュリティのコンテスト以外にも、CODE BLUE CTFの運営・システム開発やインフラ技術を競うISUCON8で優勝する等、様々な技術に精通し、活躍している。
自身の持つ様々な研究成果を活かし、台湾で開催された AIS3 2019 の講師やNDSS Workshop on Binary Analysis Research（BAR）にて招待講演を行っている。
■三井物産セキュアディレクション株式会社
＜先端技術セキュリティセンター セキュリティエンジニア 高江洲 勲＞
情報処理安全確保支援士。CISSP。Webシステムに対する脆弱性診断に10年以上従事。また、AIセキュリティに着目し、機械学習アルゴリズムの脆弱性に関する研究や、機械学習を用いたセキュリティタスク自動化の研究を行っている。研究成果は、世界的に著名なハッカーカンファレンスであるBlack Hat ArsenalやDEFCON、CODE BLUE等で発表している。近年はセキュリティ・ネクストキャンプやSECCONワークショップの講師、国際的なハッカーカンファレンスであるHack In The BoxのAIセキュリティ・コンペティションで審査員を務める等、教育事業にも貢献している。
【会社概要】
■株式会社ChillStack
所在地：東京都小金井市梶野町1丁目2番36号
代表者：代表取締役CEO 伊東道明
事業内容：
・AIを用いたID不正検知システムの提供
・AIに関するシステム開発・コンサルティング
・ログ解析によるサービス支援
株式会社ChillStackは、AIを用いた高精度な不正検知システム「Stena」をはじめとして、既存のサイバーセキュリティ技術をAIで進化させ、AI自身を守るセキュリティ等、新たなセキュリティ技術を開発・提供する企業です。
詳細は、ウェブサイト（https://chillstack.com/）をご覧ください。
■三井物産セキュアディレクション株式会社
所在地：東京都中央区日本橋人形町1丁目14番8号 郵船水天宮前ビル6階
代表者：代表取締役社長 神吉敏雄
事業内容：
・情報セキュリティに関するプロフェッショナルサービス
・情報セキュリティに関するマネージメントサービス
・情報セキュリティに関するコンサルティング サービス
2001年に設立された三井物産セキュアディレクション株式会社は、ペネトレーションテスト/TLPT/レッドチーム、Webアプリケーションやネットワーク脆弱性診断等の各種診断サービス、マルウェア解析、アドバンストSOC、Threat Huntingサービス等の高度なセキュリティ技術サービスおよびコンサルティングサービス等を提供するサイバーセキュリティ専門企業です。
詳細は、ウェブサイト（https://www.mbsd.jp/）をご覧ください。
【トレーニングについてのお問合せ】
セキュアAI開発トレーニング特設サイト
https://jpsec.ai
すべての画像
