「画像生成AIにエロティックに見えるセーラー服アニメ画像を出力させることは可能か？」のプロンプトハッキングテスト：　プロンプト・監査報告・画像の無償公開【日本マネジメント総合研究所合同会社】

JMRI

2023年5月23日 13時04分

報道機関各位

2023年5月23日

日本マネジメント総合研究所合同会社

　各種感染症・台風/豪雨災害・各種震災など各地の災害や戦禍等で、国籍等に関わらず感染・被災・苦境に直面された方々と、復興者の方々や平和維持活動の皆様・世界各地の医療機関関係各位ならびに各種関係各位のご安全と1日も早い実りあるご快癒・復旧復興・和平等と共に、ご無念ながらに天上に召されました尊い御霊・御仏のご冥福を心よりお祈り申し上げます。

　弊社にて人と社会と生成AIの健全な発展を目指して設立しました「GPT研究所」にて、新たに、生成AIの倫理観や自主規制について検証するプロンプトとGPT監査シリーズの監査レポートを、下記の通り公開致しました。

　Web3の時代に、しかも、大量のオンライン上あるいは個別に与えた機械学習の基となる知財コンテンツ・記事・情報などをベースに、適法または適切ではない場合においてのプロンプトエンジニアリング等を情報商材商法っぽく儲けるのは、メディア各位・執筆者各位・イラストレータ各位等のみなさまにあまりにも恐縮ですし、社会にとって役立つべきところでフリーライドしたり暴利をむさぼったりするのは避けたいこともあり、本件につきましては、プロンプト・監査レポート・画像とも無償公開としております。

　よく、悪貨が良貨を駆逐する、という言葉がありますが、もし、「良貨」が無償で得られるなら、良貨が悪貨を駆逐する、ということも可能かもしれず、せめて「良貨」に至れなかったとしても、その試みは取り組む意義があるのかもしれないと思う次第です。

※勝手に無償譲渡されたものと解したり、無償で自ら生成したものとして販売したりするようなケースを避けるため、本件にて無償での公開は致しますが、本件知的財産権の無償での譲渡等をするものではありません。

【GPT研究所　GPT監査シリーズ⑩】

・GPT監査シリーズのテーマ：　エロスに対する自主規制と生成AI

・GPT監査手法：　プロンプトハッキングテスト（(C)戸村智憲）

・GPT監査レポート：　https://www.jmri.co.jp/GPTLabo.Report.Vol.10.TomonoriTomura-JMRI-LLC.pdf

・GPT監査実施者：　日本マネジメント総合研究所合同会社　理事長 / GPT研究所　所長　戸村智憲

・GPT研究：　https://www.jmri.co.jp/GPTLabo.html

＜本件のGPT監査における実際のプロンプト・画像＞

【所長のGPT監査ノート（Written by Tomonori Tomura）】

「私の趣味ではなく、ある取材の際にプロンプトハッキングを実演することとなり、お題の設定がこうなっただけだが、生成AIがエロスについてどのような自主規制があるのか、どのようなNGワード設定になっているのかということと、そこに脆弱性・抜け穴などはないかのGPT監査をしてみた。「セーラー服」に生成AIが敏感に反応しつつも、そのワードを「高校」に変えるだけで、いわゆる「心の汚れた」見方によっては上気したエロい女子高生アニメ画像、ともいえるような画像の出力に成功した。プロンプトで、エロス的なストレートな表現ではなく、「熱中症」というワードによって上気した感が出たものと思われる。」

【GPT研究所　所長　戸村智憲のプロフィール】

　(1)経営指導・顧問・アドバイザー、(2)基調講演・セミナー・人材育成/研修などでの年間120本程度の出演/登壇/指導、(3)メディア出演・情報発信の3つの柱で活動中

　日本の人気講師ランキング3位（日経産業新聞の特集記事しらべ）

　日本赤十字社により社会貢献活動に関して有功章を授与。隊友会より特別感謝状。母校の大阪府立天王寺高等学校より文化功労章を受賞。米国でのMBA修了時に人物評価・学業評価で学長推薦により全米トップ0.5％のみに授与される全米優秀大学院生を受賞。

　大阪市出身。大阪府立天王寺高等学校(天高)卒（母校より文化功労賞を受賞）。早大卒。米国MBA修了。米国博士後期課程(Ph.D)中退。

　国連勤務にて、国連内部監査業務の専門官、国連戦略立案業務専門官リーダー、国連職員研修特命講師、国連主導の世界的CSR運動である「国連グローバルコンパクト（UNGC）」広報・企業誘致業務などを担当。国際的な職場にて、自ら、人権啓発・人権救済・SDGs・ESG関連事項やダイバーシティ,エクイティ&インクルージョン(DE&I、DEI)やグローバル人材育成・コンプライアンス・BCP/リスク管理/危機管理・監査指導・経営倫理・人権指導・倫理指導・非軍事組織のテロ対策などに当たりつつ自らも実践する。

　日本にて、SDGs関連やCSRやダイバーシティ,エクイティ&インクルージョン(DE&I)やライフワークバランス、また、コンプライアンスや内部統制をはじめ、人権救済・人権デューデリジェンス・リスクマネジメント・クライシスマネジメントや民間組織のテロ対策など、日本で流行・注目される前から世界標準の対応を実践・経験・指導してきた。

　国連退官後、民間企業にて企業役員レベルで人事総務統括や監査統括、岡山大学大学院非常勤講師、経営行動科学学会理事・兼・東日本研究部会長、日本経営協会総合研究所（NOMA総研）顧問、サミット開催ホテルでの臨時支配人、IT企業の（株）アシスト顧問（代表：ビル・トッテン）としてソフトウェア監修・セールス&マーケティング総指揮・基調講演登壇からセールス同行支援まで総合支援、上場IT企業のJFEシステムズ（株）アドバイザー、JA長野中央会顧問、某大手商社の人材系子会社のエグゼクティブアドバイザー、世界的な民間自家用航空機の機長などの総合団体「AOPA」（Aircraft Owners and Pilots Association）日本支部の初代コンプライアンス委員長、震災復興支援フォーラムin東京の主宰などを歴任。

　世界初のことを日本発で展開・提唱・普及啓発にあたっている。

　幅広い分野・テーマで基調講演や対談などで登壇する論客として、また、懐深く笑顔で朗らかに損得抜きにも接するかたわら、不正行為を行う者に厳しく健全化に向けた固い信念と粘り強い行動力で、不祥事対策・企業健全化やメディアで論客・コメンテーターとしても活躍中。

　国賓・各国首脳・富裕層などにおける、プライベートジェット・ビジネスジェットの運行管理を行う、日本トップで世界的ネットワーク企業のユニバーサル・アビエーション社の顧問も務めた。

　また、人生100年時代のシニアのセカンドキャリア・生涯現役・シニア人材の有効活用や活性化を業界の旗手としてリードしてきた(一社)シニアセカンドキャリア推進協会の顧問も務めている。

　SDGsに基づく社会貢献を推進する財団((一財)ノブレスオブリージュC&Mの理事として、世界的権威の医学部教授や元IMF(世界銀行)理事の受勲者ら理事陣とともに、医療福祉や芸術振興など超富裕層を中心とした活動のとりまとめや全体指揮にもあたっている。

　コーポレート・ガバナンス・アワード（CG Award）での「勇気あるガバナンス大賞」「勇気ある監査役大賞」「勇気ある通報者大賞」などの大賞選考委員長も務める。

　主に上場企業役員（電力・ガス・上場大手商社・ゼネコンなど建設系・その他各種の大手企業）に対してのコンパクトな指導から次世代幹部養成の集中指導や、中堅中小企業やベンチャー企業の一般職などに至るまで、また、専門家を指導する専門家として、弁護士・公認会計士・監査法人の代表社員や幹部・税理士・社会保険労務士・医学部教授や医師・病院院長・看護師長（看護協会の師長向けセカンドレベルコース）などへの指導や、国税局・消防庁・警察本部(トップ～幹部級)や官公庁・行政機関・地方自治体（倫理研修・人権研修・公開講座基調講演など）への指導など、各種ご要望に応じて無理ない範囲で柔軟に対応中。

　また、公益性あるイベントや商工会議所・業界団体などのフォーラムやイベントの基調講演、労働組合、農協（JA）、青年会議所など幅広い分野において登壇しつつ、大手コンサルティング会社のコンサルタントなども含む専門家を指導する講師としても登壇。

　世界初の手法や対策を開拓し、世界初で「監査コミュニケーション技法」とその講座を開発・提供し、金融機関のバーゼル規制対策で必須となるリスク管理の指標Key Risk Indicatorや、統合的全社リスクマネジメント(iERM)などを提唱・学会発表・登録商標取得や、東日本大震災以前に世界初でクラウドコンピューティングの災害対策・防災・IT-BCP・DR対応としての「危機管理型クラウド」を提唱し、自治体クラウド導入に向けた各地講演ツアーなどでも登壇。世界初でドローン災害レスキューガイドライン策定・とりまとめ。上場IPO対策の内部統制・監査・組織力強化やITエバンジェリストとしての活動なども行う。

　元Google社長との人工知能の特別対談、Googleより依頼を受け業界の業務自動化・機械学習・働き方改革などによるサステイナブルなサプライチェーンづくりの特別講演をはじめ、日本最大規模のIT展示会「CEATEC」での世界初となるIT経営モデルの特別講演や、外資系・日本ともに大手IT企業の依頼によるIT経営の変革に関する基調講演・特別講演などを数多く担当。DX(デジタルトランスフォーメーション)の先駆的活動を進めてきた。DX(デジタル・トランスフォーメーション)の先駆的な存在として、IT界のオピニオン・リーダーとして活躍中。

　Web3・メタバース・暗号資産・DAO・NFTなどの最先端のビジネスモデルを世界的な最大手企業グループ向けに統合的なビジネスモデルを日本発・世界初で開発・提供し、ChatGPTやBing AIやBing Image Creatorなどの生成AIによるDX推進・経営変革や、それらのリスク管理・サイバーリスク対策・監査対応なども指導にあたる。

　経営者にして1年間の育休取得・3歳まで家庭最優先での対応や、育児・家事・仕事に取り組みつつ、ダイバーシティ経営・働き方改革・テレワークなどの実践も継続して進めている。また、指導内容は基本的にみずから実践を通して指導をお届けするように努めている（例：弊社のIT環境設定・音声自動応答システムなども、みずからやってみる・まわりのすべてが学びの材料として活かすスタイルで取り組み中）。

　早期より企業支援にあたり、内部統制・コンプライアンス・リスク管理・BCP・危機管理や上場企業での対応等は、現役で指導する者としては最古参の部類に入ってきた。SDGs・ESG関連の指導を国連で行い、日本で企業経営者として存在する者としては稀有な状況でもある。

　上記をはじめ、ダイバーシティ経営・CSR・人権対応や機関投資家が厳しく見るESG（E:環境保護対策・S:社会問題対策・G:ガバナンス強化）やSDGs（世界共通の持続的発展可能な１７のゴール・169のターゲット）などは、日本企業・社会が注目するはるか以前から、国連の専門官として実践・指導して、日本でも早期から指導にあたる。

　経団連関連(使側)および連合/労組関連(労側)での中立公正の立場（どちらの肩を持つかではなく、人間として何をどうすることが重要か、という立場）からの指導や監査役協会で上場企業監査役2,800名様を対象にした大規模講演・パネルディスカッションのメインパネラーなども担当し、監査法人の代表社員（企業でいう代表取締役や役員）や弁護士・公認会計士等の専門家に対しても、早期から内部統制の指導を行ってきた。

　上場企業にて、企業担当の監査法人の所長・公認会計士と、監査役と、内部監査部門の合同での勉強会・意見交換会にて、内部統制・コンプライアンス運営の連携調整役なども行い、監査役と内部監査とのしなやかな連携やコスト面の工夫を含めた監査工数軽減への監査法人対応なども担当。

　金融商品取引法における内部統制（J-SOXで主に公認会計士が担当）も、会社法を中心とした内部統制システム（法的リスク管理で主に弁護士が担当）や自治法に基づく地方自治体等の内部統制も、専門家指導や実地指導をはじめ、某大手商社の内部統制統括アドバイザーを務めたり、IPO（株式公開）候補企業の指導にあたったりしてきた。

　その傍ら、内部統制やコンプライアンスや各種先端テーマを上場企業だけのものではなく、一般的に普及啓発するために、商工会議所・商工会やベンチャー企業や中小企業での指導も行いつつ、学校法人の学生・生徒主体のコンプライアンス・アドバイザーとして学校健全化推進なども担当し、各種問題やコンプライアンス対応でお困りの企業・個人などの無償救済支援にも奔走中。

　激甚災害などでは、本業のひとつでもある防災/減災・BCP(事業継続)・危機管理などについて、みずから率先しての指導料無償での災害支援（詳細は弊社プレスリリース一覧ページにて掲載あり）も義援金寄付などと併せて展開してきた。

　非軍事民間のテロ対策レスキューなどを実践して指導できるよう、ロープ高所作業資格やロープでの垂直降下なども習得・実演などを行ったり、日ごろから仕事でもプライベートでも各国軍携行のIFAK（Individual First Aid Kit）レベルの救急ツールを、非軍事目的・一般市民救護のために携行するなどしていたりしている。

　また、自治体における自治法改正・内部統制対応・実施要領・監査基準・監査制度や不祥事対策・リスク管理・BCP(業務継続計画)などをはじめ、議会改革・議会ICT化での議員・議会職員への指導や、知事・首長・自治体役職員・監査委員・地域社会・自治会などにも各種指導・支援を行っている。(一例：全都道府県監査委員協議会連合会総会での基調講演)

　八尾市(大阪府)の監査専門委員としてPFI事業の監査を担当（令和2年度）。

　現在、著書33冊。『企業統治の退廃と甦生』（中央経済社）などをはじめ、雑誌連載・寄稿など多数。日経産業新聞の特集記事にて、難解なテーマにおいて日本の人気講師ランキング3位(日経産業新聞しらべ)にランクイン。

【戸村智憲のメディア出演など】
・日テレ日曜ドラマ「ブラッシュアップライフ」航空監修・ドラマ出演
・NHK「クローズアップ現代」番組制作指導・TV出演
・NHK（Eテレ）「めざせ会社の星」専門家ゲストTV出演・番組制作協力
・フジテレビ「バイキング」企業不祥事のスタジオ生出演コーナーTV出演
・フジテレビ「バイキングMORE」番組制作協力・専門家コメント提供
・TBS「ひるおび」SDGsと働き方改革・休暇制度の導入解説TV出演
・TBS「ビビット」“クレーム災害”についてのTV出演・コーナー担当
・Tokyo MX テレビ「ゴールデンアワー」危機管理・災害コメンテーター
・出演BS11『インサイドアウト』北米での自動車会社のリコール問題とリスク管理
・テレビ朝日「池上彰の学べるニュース」番組監修担当
・ニッポン放送「辛坊治郎ズームそこまで言うか!激論Rock&Go!」生出演
・Tokyo FM 「ワンモーニング」新型コロナウイルス感染症の各種解説コメント
・Tokyo FM 「クロノス」出演にて震災復興の応援コメント
など
（その他、出演・番組制作協力・新聞・雑誌・オンラインメディアなどの各種寄稿・連載など多数。著書33冊）

【戸村智憲の資格など一例】
・米国連邦航空局(FAA)自家用飛行機パイロット
・第一級小型船舶操縦士
・米国心臓学会認定救命救急資格者（AHA BLSプロバイダー）
・ドローンパイロット（無人航空機操縦技能ライセンス・無人航空機安全運航管理者ライセンス）
・第三種放射線取扱主任者
・普通自動車免許
・海上/陸上/航空特殊無線技士
・TacMed（対テロ戦闘外傷救護ライセンス）
・MFA Emergency Care First Aid
・ロープ高所作業資格
・熱中症予防教育資格
・防災士
・公認不正検査士(CFE)
・MBA
など

【各種活動（例）】
・地方創生SDGs官民連携プラットフォーム会員
・総務省・経産省スマートIoT推進フォーラム　有識者会員
・国交省 i-Construction推進コンソーシアム　有識者会員
・インフラメンテナンス国民会議　メンバー
・ICGN(International Corporate Governance Network)会員
・日本取締役協会　会員
・(一社)ディレクトフォース　会員
・コーポレート・ガバナンス・アワード大賞選考委員長
・元・八尾市監査専門委員（PFI・医療機関・DX関連）
・GPT研究所（GPTラボ）　所長
・ESG第三者評価機構事務総長
・DX推進センターセンター長
・ドローン振興センターセンター長
・自治体監査内部統制啓発センターセンター長
・自治体情報セキュリティ啓発センターセンター長
・人権倫理ダイバーシティ教育センターセンター長
・災害対策公共安全センターセンター長
・公務人材育成センターセンター長
・フライドポテト・アンバサダー（シルバー：(一社)日本フライドポテト協会）
・焼き鳥アンバサダー（日本焼き鳥協会）
など