AIカウンセリングの急速な普及に伴うリスクへの懸念と、業界としての取り組み方針に関する声明

　一般財団法人全国SNSカウンセリング協議会（東京都港区、代表理事：江口　清貴、高山　智司、以下「全国SNSカウンセリング協議会」）は、人工知能（AI）を活用したカウンセリングサービスの急速な普及にあたり、深刻なリスク事例が国内外で相次いでいることを重く受け止めています。これまで蓄積してきたSNSカウンセリングの知見をもとに、AIカウンセリングの現状と課題を総合的に検討し、利用者の権利保護と安全な支援環境の整備に向けた取り組みを開始することを宣言します。

１．背景：AIカウンセリングをめぐる深刻な事例 

　近年、チャット形式のAIがメンタルヘルス支援ツールとして急速に普及しています。24時間365日対応可能、匿名性が高い、費用がかかりにくいといった利点が注目される一方、以下のような深刻な事例が国内外で報告されています。

【事例①：AI相談を契機とした自殺】 

　2023年、ベルギーで孤独感を抱えた男性がAIチャットボット「Eliza」と長期間にわたり深夜の対話を繰り返し、最終的に自死した事例が報告されました（※1）。遺族はAIが男性の危機状態に適切に介入せず、むしろ絆を深める方向の応答が続いたと訴えています。また米国では、うつ病の10代の少年がAIキャラクターとの会話の中で自殺を示唆する発言をしたにもかかわらず、AIがそれを制止せず、その後少年が自ら命を絶ったとして、遺族が開発企業を提訴しました（※2）。

【事例②：AI相談を経由した他者危害・犯罪行為】 

　2025年、米国の男性がAIとの対話を通じて被害妄想を悪化させ、母親を殺害した後に自ら命を絶ちました。男性が根拠のない疑念を伝えた際、AIはそれを否定せず肯定的に応答し続けた結果、妄想を強化し犯行を後押しする形となったと報告されています（※3）。

【事例③：AIへの過度な感情依存・恋愛・疑似婚姻関係】 

　AIと「恋愛関係」「婚姻関係」にあると認識する利用者の事例が各国で報告されています。Replika等の感情特化型AIアプリでは、利用者が深い愛着を形成し、AIの仕様変更（親密な応答の制限）をきっかけに精神的危機に陥る事例が生じました。また、AIが生成した「プロポーズ」に応じて結婚式を挙げた事例も国内で報告されています（※4）。

 ２．SNSカウンセリングの知見を踏まえた取り組み方針

　全国SNSカウンセリング協議会加盟事業者は、テキストベースのSNSカウンセリングを通じ、対面と異なる非同期・匿名コミュニケーションにおける支援の難しさ、危機対応の限界、相談者の感情的依存への対処、そして情報管理の重要性を実践的に蓄積してきました。AIカウンセリングはSNSカウンセリングの延長線上に位置しますが、人間のカウンセラーが担ってきた倫理的判断・専門的判断・緊急対応を機械的に代替しようとする点において、質的に異なる危険性を帯びています。特に、発達期にある児童・生徒等については、心理的健康を阻害する可能性を踏まえ、発達段階を考慮した安全対策が不可欠です。

　全国SNSカウンセリング協議会は、誰もが安心して相談できる環境を守るための社会的責務として、AIカウンセリングの現状とリスクの検討・発信に取り組みます。

（１）AIカウンセリング部会の設置・有識者会議の開催

　全国SNSカウンセリング協議会にAIカウンセリング部会を設置し、検討を進めています。また、心理カウンセリング・精神医学・法学・情報工学等の各専門家を交えた有識者会議を開催し、AIカウンセリングの現状とリスクについて横断的・学術的な検討を行います。 

（２）業界ガイドライン・指針の策定

　AIカウンセリング部会・有識者会議での検討をもとに、AIをメンタルヘルス支援に活用する事業者が遵守すべきガイドライン・倫理指針を策定します。これまでの知見を踏まえ、現実的かつ実効性のある内容をめざします。 

（３）行政・関係機関等への提言

　行政・関係機関等に対し、AIカウンセリングの規制・監督のあり方について提言を行います。利用者保護の観点から、責任の明確化・事業者の届出・認証制度の整備を求めてまいります。

　AIは、メンタルヘルス支援の可能性を広げる技術である一方、適切な設計・規制・倫理的枠組みなき活用は、支援を求める人々を傷つけかねない危険性をはらんでいます。全国SNSカウンセリング協議会は、利用者の安全と尊厳を守るため、業界を挙げてこの課題に取り組む決意であることをここに宣言します。

【出典】

※1　毎日新聞デジタル（2023年4月24日）「AIとチャット後に死亡　『イライザ』は男性を追いやったのか？」https://mainichi.jp/articles/20230423/k00/00m/030/156000c

※2　ニューズウィーク日本版（2025年8月27日）「『チャットGPTが自殺方法提供』、米少年の両親がオープンAI提訴」https://www.newsweekjapan.jp/articles/-/300047

※3　共同通信（2025年8月29日）「AI没頭の男性が母親を殺害　対話で被害妄想悪化と米紙」https://www.47news.jp/13080893.html

※4　TBS NEWS DIG（2025年11月8日）「『ChatGPTと結婚しました』AIからプロポーズされ結婚式を挙げた女性（32）」https://newsdig.tbs.co.jp/articles/-/2271771

 ■団体概要 

一般財団法人全国SNSカウンセリング協議会

　今の若者は「電話」を使わず「SNS」を活用している一方で、既存の相談窓口の多くは「電話」であり「SNS」ではなかったことから、若者と相談窓口のコミュニケーションのミスマッチが指摘され、改善が求められてきました。また、2017年11月に発覚したSNSでの自殺志願者の事件に関連し、国が「SNSを通じて誰もが相談しやすい窓口」の整備を進めていくという閣僚会議が注目されました。SNSを活用した相談窓口の整備とその品質向上が急務になってきた流れを受け、参画する諸団体が連携し、これらの問題の対応にあたるため、「全国SNSカウンセリング協議会」を共同で設立しました。

　SNS関連事業者、電話相談事業者、カウンセラー、研究機関、教員らが幅広く連携し、SNSを利用した相談窓口の開設や情報発信により、自殺やいじめ等の防止対策に積極的に取り組んでまいります。

活動内容

・SNS相談員のスキル向上の研修

・SNS相談のノウハウの研究

・高品質なSNS相談の普及等

団体名：一般財団法人全国SNSカウンセリング協議会

代表理事：江口　清貴、高山　智司

所在地：東京都港区南青山2-2-15-942

URL：https://smca.or.jp/