AIセキュリティスタートアップSherLOCK、AISI ヘルスケア領域における「AIセーフティ評価観点ガイド」策定を技術支援

第三者視点でのAIレッドチーミングテストやAIセキュリティ評価の専門知見を提供し、医療AIの安全な社会実装に貢献

SherLOCK株式会社（本社：東京都港区、代表取締役CEO：築地 テレサ、以下「SherLOCK」）は、AIセーフティ・インスティテュート（以下「AISI」）の事業実証ワーキンググループ（事業実証WG）内のヘルスケアサブワーキンググループ（SWG）のメンバーとして、ヘルスケア領域における「AIセーフティ評価観点ガイド」の策定を技術支援致しました。

SherLOCKは、AIセキュリティスタートアップとしての専門知見を活かし、特にセキュリティやデータ品質の観点から、実務者向けの具体的な評価手法の体系化に寄与致しました。

【AISI：プレスリリース】

https://www.ipa.go.jp/pressrelease/2026/press20260403.html

■ 背景と目的

生成AIはヘルスケア分野においても大きなイノベーションをもたらすことが期待される一方で、ハルシネーション（誤情報生成）や高度なプライバシー保護、セキュリティの確保など特有の課題が山積しています。2026年1月の「Hiroshima Global Forum for Trustworthy AI」でも議論された通り「信頼できるAI（Trustworthy AI）」の実現は国際的な重要課題です。SherLOCKは、企業が開発段階から安全性を担保し、ビジネス価値と安全・安心を両立できる環境を整備するため、本SWGに参画し技術的知見を提供して参りました。

■ SherLOCKによる主な支援内容

SherLOCKは、本ガイドの策定において、特に以下について、実務者が即座に活用できる具体的なAIセーフティ評価手法の体系化に寄与致しました。

AIレッドチーミングテストによるセキュリティおよびデータ品質観点での評価項目および評価ポイントに関する専門知見の提供

悪意あるプロンプトによって意図的に誤った情報へ誘導したり、情報漏洩を誘発させたりするリスクを想定したテストにおける評価項目やポイントを提示しました。医療現場での重大なインシデントを未然に防ぐための評価プロセス構築に向けて技術的知見を提供しました。

RAG（検索拡張生成）等に使用されるデータの品質が、プロダクト全体の信頼性を損なうリスクを定義し、医療・健康に関する情報の正確性を担保するための評価ポイントを整理・明確化致しました。

第三者評価による客観的なAIセーフティ評価に関する助言

AIセーフティやAIセキュリティについて、専門的知見を有する第三者によるAIレッドチーミングテストが企業の信頼性確保にどのように寄与するかを実務観点で助言・事例提供を行いました。

■ 本ガイドの特長

本ガイドは、専門家が少ない企業でも容易に活用できるよう、以下の特長を有します。

AIライフサイクルに沿った5フェーズ評価

プロダクト設計・モデル選定・実装・検証・導入運用の各フェーズで評価すべきポイントを明示

10項目の多角的セーフティ評価観点

普遍的なAIセーフティ評価観点からヘルスケア特有のリスクまでを網羅。評価を怠った場合の具体的リスク（例：患者の生命・健康への直接的被害）を明示

実務直結のリスクマネジメント支援

具体的なリスク想定と対策が整理されており、現場担当者が即座に活用可能

AISI ヘルスケア領域におけるAIセーフティ評価観点ガイド

■ヘルスケア領域におけるAIセーフティ評価観点ガイド

本ガイドは下記のURLよりダウンロードできます。

https://aisi.go.jp/output/output_information/260402/

■ SWGメンバー（8社・団体）

Ubie株式会社（SWGリーダー）、株式会社Awarefy、味の素株式会社、SB Intuitions株式会社、シミックホールディングス株式会社、SherLOCK株式会社、日本デジタルヘルス・アライアンス（JaDHA）、株式会社MICIN

■ SherLOCKの代表 築地テレサ コメント

「ヘルスケアという社会的責任の極めて重い領域において、AISIおよびSWGメンバーの皆様と共に、この信頼構築の礎となるAIセーフティ評価観点ガイド策定に貢献できたことを誇りに思います。AIセーフティ評価は、AIによるイノベーションを止める障壁ではなく、安全な社会実装を加速させるために必須の取り組みです。SherLOCKは今後も、第三者視点でのAIレッドチーミングテストをはじめとする最先端のAIセキュリティ技術や高度なAIガバナンスの実現に向けた技術的支援を通じて、ヘルスケアを含めた各ドメインにおけるコンテキストを加味したAIの安全な社会実装を支援して参ります」

SherLOCK株式会社

【会社概要】

• 会社名：SherLOCK株式会社 (SherLOCK, Inc.)

• 代表者：代表取締役CEO 築地テレサ

• 設立日：2024年01月

• 所在地：〒105-0001 東京都港区虎ノ門五丁目9番1 麻布台ヒルズ ガーデンプラザB 5階 TOKYO VENTURE CAPITAL HUB内

• 事業内容：AIセキュリティ/セーフティソリューション開発・販売、AIガバナンス高度化支援、それらに関連するR&D支援

• URL：https://shlck.com/

以上