生成AIの急速な発達と児童の権利擁護

― SNS・オンラインゲーム・コミュニティの危険性を、生成AIはどう変えるのか ―

第1部　前提 ― こどもは権利の主体である
1．はじめに
生成AIは、文章だけでなく、画像、動画、音声、会話、情報整理など、これまで人間が行ってきた多くの作業を短時間で実行できるようになっています。

この発達は、教育・保育・児童福祉の現場にも大きな可能性をもたらします。

一方で、こどもの権利擁護という観点から見ると、看過できないリスクも存在します。

重要なのは、生成AIが単独で危険なのではなく、

SNS ＋ オンラインゲーム ＋ チャット ＋ コミュニティ ＋ 生成AI

が結びつくことによって、従来から存在していた、こどもへの接触、いじめ、性的搾取、なりすまし、個人情報侵害などの危険が、さらに複雑になる可能性があることです。

さらに、もう一つ重要な問題があります。

それは、

人間が本来行うべき判断を、「AIがそう言っているから」という理由でAIに委ねてしまう危険

です。

生成AI時代のこどもの権利擁護を考えるには、

「AIが犯罪や権利侵害に悪用される危険」

と、

「人間がAIに判断を依存する危険」

の両方を考える必要があります。

2．こどもは「権利の主体」である
日本では、こども基本法や児童福祉法などにより、こどもを権利の主体として捉える考え方が明確になっています。

したがって、生成AIを考える場合も、

「AIを便利に使えるか」

ではなく、

「AIを利用することによって、こどもの権利が守られるか」

を最も重要な基準にする必要があります。

守るべき対象には、次のようなものがあります。

生命・身体の安全
性的安全
人格・尊厳
プライバシー
教育を受ける権利
健全な発達
意見を表明する権利
自分に関する情報を適切に扱われること
3．生成AI以前から、ネット環境には危険が存在している
生成AIによって突然すべての問題が発生したわけではありません。

これまでも、SNS、掲示板、DM、オンラインゲーム、ゲーム内チャット、音声チャット、ライブ配信、オンラインコミュニティなどを通じて、さまざまな問題が生じてきました。

具体的には、

知らない大人との接触
なりすまし
個人情報の取得
ネットいじめ
性的画像の要求
自画撮り被害
性的搾取
誘拐等につながる接触
などです。

警察庁「令和7年における少年非行及び子供の性被害の状況」（令和8年2月公表）によれば、令和7年のSNSに起因する事犯の被害児童数は1,566人でした。前年の1,486人から80人、5.4％増加しています。

この統計における「SNS」には、通信ゲームが含まれています。

また、小学生の被害児童数は167人で、前年の136人から31人、22.8％増加し、統計に掲載されている過去10年間で最多となりました。

したがって、オンラインゲームも、こどもの安全を考えるうえで重要なコミュニケーション空間として捉える必要があります。

4．オンラインゲームは「単なるゲーム」ではない
現在のオンラインゲームには、

フレンド機能
テキストチャット
ボイスチャット
チーム
ギルド
コミュニティ
などの機能があります。

そのため、

ゲームで一緒に遊ぶ
↓
ゲーム内で会話する
↓
仲間になる
↓
個別チャットに移る
↓
別のSNSやチャットサービスへ移動する

という流れが自然に成立します。

実際、警察庁の前掲資料には、令和6年12月、無職の男（当時22歳）が女児を装い、オンラインゲームで知り合った男子小学生に対し、SNSのトーク機能を利用して性的画像を要求して送信させ、令和7年1月に、16歳未満の者に対する映像送信要求罪、不同意わいせつ罪、性的姿態撮影等処罰法違反及び児童買春・児童ポルノ禁止法違反で検挙された事例が掲載されています。

つまり、

「ゲームが犯罪の入口になることがある」

ということは、すでに現実の問題です。

ただし、前記1,566人のうち、ゲームを端緒とするものが何人であるかという内訳は公表されていません。

したがって、

「1,566人がゲームを通じて被害に遭った」

と理解するのは正確ではありません。

ゲームは、こどもが被害に遭う複数の経路の一つとして、無視できない存在であると捉えるべきです。

5．コミュニティの「閉鎖性」にも注意が必要
さらに問題となるのが、オンラインコミュニティです。

ゲームコミュニティ、趣味のコミュニティ、ファンコミュニティ、招待制グループ、チャットサーバー、音声コミュニティなど、その形態は多様です。

公開SNSであれば第三者から見える投稿でも、閉鎖型コミュニティやDMになると、外部から見えにくくなります。

そのため、

公開空間
↓
グループ
↓
個別チャット
↓
秘密のコミュニケーション

という段階的な移動が起こる可能性があります。

この「閉鎖性」は、こどもの安全を考えるうえで重要なリスクです。

周囲の大人が、こどもと相手とのやり取りを把握できる可能性が低下するからです。

第2部　第1の危険 ― 生成AIが「悪用」される
6．そこに生成AIが入ってくる
生成AIによって、

メッセージ作成
プロフィール作成
写真加工
音声作成
動画作成
会話
などを支援・自動化できるようになっています。

そのため、次のような構造が考えられます。

知らない大人
↓
生成AI
↓
SNS・ゲーム・コミュニティ
↓
こども

生成AIが犯罪そのものを自動的に行うという意味ではありません。

問題は、

人間が生成AIを利用することによって、従来から存在する犯罪や権利侵害を、より効率的・巧妙に行える可能性がある

という点です。

7．「なりすまし」がより巧妙になる可能性
従来のネット上のなりすましでは、

他人の写真を使う
偽名を使う
年齢を偽る
などの方法が用いられてきました。

生成AIによって、人物画像、音声、動画、会話文などを作成・加工することが可能になっています。

そのため、

「ネット上の相手が、本当にその人物なのか」

を、こども自身が判断することは、さらに難しくなる可能性があります。

前掲の検挙事例のように、生成AIを用いなくても、成人男性が女児を装ってこどもに接触した事案はすでに現実に発生しています。

生成AIは、この「装う」という行為の精度や作成速度を高める方向に作用する可能性があります。

8．グルーミングとの組み合わせ
こどもへの接触は、最初から性的な要求をするとは限りません。

例えば、

「ゲーム上手だね」
↓
「何歳？」
↓
「同じゲームが好きなんだね」
↓
「いつも何時に遊ぶの？」
↓
「他の人には言わないでね」
↓
「別のチャットで話そう」

というように、徐々に関係を深めていく可能性があります。

生成AIは、入力された情報をもとに、相手に合わせた文章を作成することができます。

そのため、趣味、ゲーム、年齢、会話内容などに合わせたコミュニケーションを作るために悪用される可能性があります。

ただし、生成AIを利用したなりすましやグルーミングによる児童被害が日本で何件発生しているかを示す全国的な公的統計は、現時点で確認できません。

したがって、これは確認済みの件数ではなく、

「生成AIによって従来型のリスクが高度化する可能性」

として扱う必要があります。

9．性的画像の問題
生成AIによって、こどもの普通の写真を加工し、性的な偽画像を作成することも問題になります。

重要なのは、

「本人が性的画像を撮影していなくても、性的な画像を作られる可能性がある」

ということです。

さらに、

生成
↓
SNSへの投稿
↓
コミュニティへの拡散
↓
学校・友人への拡散

という経路が発生すれば、本人が撮影行為に関与していなくても、深刻な被害につながる可能性があります。

これは、

尊厳
人格
プライバシー
名誉
精神的安全
に関わる問題です。

なお、生成AIによって作成された性的画像について、

「AIで生成したものだから違法ではない」

と一律に考えることはできません。

実在する児童の性的な姿態を描写したものなどについては、児童ポルノ禁止法等による対応が問題となり得ます。

一方で、生成AIによる画像が一律に児童ポルノに該当すると整理できるわけでもありません。

個別の画像の内容、作成・所持・提供等の行為、実在する児童との関係、証拠関係などを踏まえた判断が必要です。

いずれにしても、

「AIで作ったものだから問題ない」

という理解は適切ではありません。

第3部　第2の危険 ― 人間がAIに「依存」する
10．危険性は「犯罪への悪用」だけではない
ここからが、もう一つの重要な問題です。

生成AIは非常に自然な文章を作るため、

「AIがそう言っているのだから正しいだろう」

と考えてしまう危険があります。

例えば、

「AIが虐待ではないと言っている」
「AIが事故だと言っている」
「AIが施設に責任はないと言っている」
「AIが慰謝料は○万円と言っている」
というケースです。

ここで問題になるのは、「AIが間違った」ということだけではありません。

より本質的な問題は、

「人間が、本来行うべき確認・評価・判断をAIに委ねてしまった」

ということです。

11．AIに「事実認定」を委ねる危険
事件・事故が起きた場合、本来は、

何が起きたのか
誰が関係していたのか
誰が何を見たのか
どのような証拠があるのか
直前に何があったのか
過去にも同様の事象があったか
などを確認する必要があります。

ところが、

「AIに状況を入力したら、単なる事故だと言った」

という理由で処理してしまえば、AIの回答が事実認定の代わりになってしまいます。

これは危険です。

AIは、その場にいたわけではありません。

AIが評価しているのは、基本的に人間が入力した情報です。

入力されていない事実を、AIが現場から直接確認することはできません。

12．AIに「虐待・性暴力・いじめ」の判断を委ねる危険
例えば、

「職員がこどもを強く叱った。虐待ですか？」

とAIに質問し、

「教育上必要な指導の範囲と考えられます」

と回答されたとします。

これをもって、

「AIが虐待ではないと言った」

として対応を終了する。

このような運用は危険です。

保育所等の職員による虐待については、児童福祉法等の一部を改正する法律（令和7年法律第29号）により、2025年10月1日から通報義務等が施行されています。

虐待を受けたと思われるこどもを発見した場合には、速やかに都道府県や市町村へ通報する仕組みが設けられ、通報を受けた自治体には必要な調査やこどもの安全確保等が求められます。

したがって、

「AIの回答」と「法令上必要な対応」は別問題です。

AIが「虐待ではない」と回答したことは、法令上の通報義務を免れる理由にはなりません。

13．「AIが慰謝料○万円と言っている」の危険
「この事故の慰謝料はいくらですか？」

とAIに質問し、

「30万円程度です」

と回答されたとします。

これを受けて、

「AIが30万円と言っているから30万円で解決しよう」

と判断する。

しかし、慰謝料・損害賠償の判断には、

事故態様
被害の程度
因果関係
治療期間
後遺障害
過失割合
証拠
適用される法令
裁判例
示談条件
などの具体的事情が関係します。

AIが提示した金額は、具体的事件について裁判所が認定した金額でも、弁護士等が個別事情を確認したうえで算定した金額でもありません。

同じ「30万円」という数字であっても、

「AIが一般論として生成した金額」

と、

「具体的な事実・証拠・法的評価を踏まえて判断された金額」

では、その意味が全く異なります。

14．児童福祉の現場ではさらに重大
施設内でこどもがケガをした場合を考えます。

「この事故の慰謝料はいくらですか？」

とAIに質問し、

AIが、

「10〜30万円程度でしょう」

と回答したとします。

そして施設側が、

「では30万円払えば終わりですね」

と判断する。

このような判断をしてしまえば、

事故原因
施設の安全管理
職員の対応
予見可能性
回避可能性
再発防止
こどもの権利侵害
など、本来向き合うべき問題が、

「いくら払えば終わるのか」

という金額の問題に置き換えられてしまいます。

金額の提示は、原因究明の代わりにはなりません。

同様に、

「AIが施設に責任はないと言っている」

という理由で、保護者への説明や必要な調査を省略することも危険です。

15．AIの回答は「判断」ではなく「参考情報」
経済産業省は、2026年4月9日に公表した「AI利活用における民事責任の解釈適用に関する手引き」において、AIの利用形態を、

「補助／支援型AI」
「依拠／代替型AI」
の2類型に整理しています。

補助／支援型AIは、判断の補助・支援としてのみAIを用い、最終的に人の判断や行動が介在することが予定されている類型です。

一方、依拠／代替型AIは、人間の判断が介在しないまま、AIの出力に依拠して結果が生じる類型です。

この区別は、AI利用に伴う責任を考えるうえで重要です。

したがって、重大な権利・利益に関わる場面では、

AI
↓
情報整理・論点整理・選択肢提示
↓
人間
↓
事実確認・証拠確認・専門的評価・法的判断・最終決定

という役割分担が重要になります。

AIを使うこと自体が問題なのではありません。

問題なのは、

「AIの出力を、人間による確認を経ないまま結論として採用すること」

です。

第4部　こどもとAI、そして制度
16．こども自身がAIを相談相手にする問題
生成AIは24時間利用できます。

こどもにとって、親、先生、保育士、支援員、友達には相談しにくいことでも、AIには相談できる場合があります。

例えば、

「親と喧嘩した」
「学校に行きたくない」
「友達に嫌われた」
「先生が怖い」
「家に帰りたくない」
といった相談です。

これはAIの重要な可能性でもあります。

相談できる相手が増えることには、大きな意味があります。

しかし同時に、

「AIとのやり取りだけで問題が完結してしまう」

という危険もあります。

AIは話を聞くことはできます。

しかし、

家庭訪問をすること
こどもの身体状態を直接確認すること
一時保護を行うこと
関係機関に対して法的責任をもって対応すること
はできません。

だからこそ、

「AIだけで完結させない仕組み」

が必要になります。

17．「AI→人間」への接続が重要になる
必要なのは、次のような構造です。

こども
↓
生成AI（悩み・相談）
↓
情報整理・相談先の提示
↓
人間の相談員
↓
事実確認 → 安全確認 → 専門的判断
↓
必要な支援

AIは、

「相談の入口」

にはなれます。

しかし、

「最終判断者」

にはしない。

これが基本的な考え方です。

18．教職員・保育士は、すでに法律で管理されている
日本には、

「教育職員等による児童生徒性暴力等の防止等に関する法律」（令和3年法律第57号）

があります。

教員については、性暴力等による免許状の失効・取上げや、特定免許状失効者等に関するデータベースなどの仕組みが設けられています。

保育士についても、児童に対するわいせつ行為等を踏まえた資格管理の厳格化が進められてきました。

さらに、前述のとおり2025年10月からは、保育所等の職員による虐待等について通報義務等が施行されています。

つまり、

「人がこどもに危害を加える可能性」

については、

法律
資格制度
採用時の確認
研修
監督
通報制度
などによって管理する仕組みが、すでに存在しているのです。

19．2026年12月25日、こども性暴力防止法が施行される
さらに、いわゆる日本版DBS、正式名称「学校設置者等及び民間教育保育等事業者による児童対象性暴力等の防止等のための措置に関する法律」（令和6年法律第69号）が、2026年12月25日に施行されます。

この制度では、対象となる学校設置者等や民間教育保育等事業者について、犯罪事実確認や防止措置等の仕組みが設けられます。

つまり、

人
↓
特定性犯罪前科等の確認
↓
採用・配置等の判断
↓
研修・監督
↓
継続的な安全管理

という仕組みが強化されることになります。

20．しかし、AIには「犯罪歴」がない
ここで重要なのは、日本版DBSとAIガバナンスは同じ制度ではないということです。

日本版DBSは、対象となる事業者が、対象となる従事者について、法律で定められた特定性犯罪に関する犯罪事実確認を行う仕組みです。

つまり、対象は「人」です。

一方、生成AIそのものには、

「前科があるか」

という照会はできません。

問題になるのは、

誰がAIを使うのか
何の目的で使うのか
どのような情報をAIに入力するのか
AIの出力をどこまで信用するのか
最終的な責任を誰が負うのか
ということです。

そのため、日本版DBSとAIガバナンスは、別々の安全対策として考える必要があります。

第5部　これから必要になるこども安全ガバナンス
21．「7層のこども安全ガバナンス」
ここまでを統合すると、こどもの安全を守るためには、少なくとも次の7つの層を考える必要があります。

第1層　人
教職員・保育士・職員・外部講師

↓

日本版DBS
資格
採用
研修
監督

第2層　場所
学校・保育所・施設・送迎車・個室

↓

密室
死角
1対1対応
監視体制

第3層　SNS・ネット
SNS・DM・掲示板

↓

ネットリテラシー
利用ルール
相談体制

第4層　コミュニティ
ゲームコミュニティ・チャット・ファングループ

↓

知らない大人との接触
閉鎖性
個別接触

第5層　オンラインゲーム
ゲーム内チャット・音声チャット

↓

ゲームからSNS・現実への移動
フレンド機能
チャット機能

第6層　情報
写真・動画・音声・個人情報

↓

個人情報保護
画像管理
二次利用防止
拡散防止

第7層　生成AI
生成画像・生成動画・生成音声・AIチャット・AIによる情報整理・AIによる判断支援

↓

AIガバナンス
人間による確認
利用ルール
記録
責任者

なお、第3層から第5層は実際には重なり合っています。

警察庁の統計でも「SNS」に通信ゲームが含まれています。

それでも分けて考える意味があります。

SNS、コミュニティ、オンラインゲーム、生成AIでは、必要となる安全対策や、管理する主体が異なるからです。

第6部　生成AI時代の基本原則
22．生成AIには二つの危険がある
生成AIの危険性は、大きく二つに分けて考える必要があります。

第1の危険 ― AIが悪用されること
なりすまし
グルーミング
性的画像
ディープフェイク
いじめ
個人情報侵害
偽情報
第2の危険 ― 人間がAIに依存すること
AIが虐待ではないと言った
AIが事故だと言った
AIが責任はないと言った
AIが慰謝料は○万円と言った
AIがこの子は問題児だと言った
AIがこの対応が正しいと言った
そして、人間がそのまま採用する。

この二つは、似ているようで性質が異なります。

第1の危険は、

「AIを利用した外部からの攻撃」

です。

第2の危険は、

「人間が自分で確認・評価・判断する責任をAIに委ねること」

です。

したがって、対策も別々に考える必要があります。

23．最も重要な原則
この問題を一言で表現するなら、

「AIに判断させるのではなく、AIを使って人間が判断する」

です。

そして、こどもの権利に関わる重大な問題では、

「AIの出力だけで、こどもの人生・安全・権利に関する結論を出さない」

という原則が必要です。

24．これまでの安全教育から、AI時代の安全教育へ
これまで、

「知らない人について行かない」

という教育がありました。

インターネット時代には、

「ネット上の知らない人に注意する」

という教育が必要になりました。

オンラインゲーム時代には、

「ゲーム内で知り合った人にも注意する」

という教育が必要になりました。

そして生成AI時代には、

「AIによって作られた情報・画像・音声・人物を、そのまま信じない」

という教育が必要になります。

さらに、

「AIが出した答えを、人間の判断そのものだと思わない」

という教育も必要になります。

これは、こどもだけの問題ではありません。

むしろ、こどもを守る立場にある、

保護者
教員
保育士
児童福祉職員
施設管理者
行政職員
専門職
こそ、AIへの過度な依存を防ぐ必要があります。

第7部　結論
25．こどもの権利擁護は新しい段階に入っている
これまでの問題は、

人
↓
学校・施設・SNS・ゲーム
↓
こども

という構造でした。

これからは、

人
↓
生成AI
↓
SNS・ゲーム・コミュニティ
↓
こども

という構造が加わります。

さらに、

こども
↓
生成AI
↓
現実社会

という逆方向の影響も生まれます。

つまり、生成AIは単なる「新しいインターネットサービス」ではありません。

人と人とのコミュニケーションだけでなく、

「人間の判断そのもの」

に影響を与える技術になっています。

したがって、これから必要になるのは、

日本版DBS
教職員・保育士の安全管理
児童虐待・性暴力防止
SNS・ネット対策
オンラインゲーム・コミュニティ対策
個人情報・画像保護
生成AIガバナンス
です。

これらを別々の問題として扱うのではなく、

「こどもの安全を守る一つのシステム」

として考える必要があります。

26．AIにできること、AIに任せてはいけないこと
生成AIは、こどもを守るための有効な補助ツールになり得ます。

相談先を探す。

情報を整理する。

制度を調べる。

研修資料を作る。

リスクを洗い出す。

チェックリストを作る。

こうした用途では、大きな可能性があります。

しかし、

AIは事実を最終的に認定する者ではない。

AIは法的責任を最終的に決定する者ではない。

AIは慰謝料額を決定する者ではない。

AIは虐待・性暴力・いじめの最終認定者ではない。

そして、

AIは、こどもの人生に関する最終判断者ではない。

27．最後に ― 中心に置くべきものは「AI」ではなく「こどもの権利」
生成AI時代のこどもの権利擁護で重要なのは、

「AIを使わせないこと」

ではありません。

また、

「AIを全面的に信じること」

でもありません。

必要なのは、

「AIに何を任せるのか」
「AIに何を任せてはいけないのか」
「どの段階で人間が確認するのか」
「誰が最終的な責任を負うのか」
を明確にすることです。

AIは、

「人間が考え、確認し、判断するための補助者」

として利用する。

人間は、

「事実を確認し、必要な専門的評価を行い、最終的な判断と責任を担う」。

そして、そのすべての判断の中心に置くべきものは、

「AIの便利さ」ではなく、「こどもの権利」

です。

生成AI時代のこども安全ガバナンスとは、AIを規制することだけでも、AIを利用することだけでもありません。

人、制度、場所、SNS、ゲーム、コミュニティ、情報、生成AIという複数の層をつなぎ、

「こどもの安全と権利を最終的に誰が、どのように守るのか」

を明確にすることです。

その最後の判断を担うのは、AIではありません。

「人間」です。

出典・注記
【主な出典】
1．警察庁「令和7年における少年非行及び子供の性被害の状況」（令和8年2月公表）

SNSに起因する事犯の被害児童数：1,566人
前年：1,486人
前年比：80人、5.4％増
小学生の被害児童数：167人
前年：136人
前年比：31人、22.8％増
小学生の構成比：10.7％
同統計における「SNS」には通信ゲームが含まれる
検挙事例「女児になりすまして性的画像を送信させた児童ポルノ製造等事件」
2．児童福祉法等の一部を改正する法律（令和7年法律第29号）

保育所等の職員による虐待等についての通報義務等
2025年10月1日施行
3．経済産業省「AI利活用における民事責任の解釈適用に関する手引き」（2026年4月9日公表）

「補助／支援型AI」
「依拠／代替型AI」
の2類型を整理。

4．教育職員等による児童生徒性暴力等の防止等に関する法律（令和3年法律第57号）

教育職員等による児童生徒性暴力等の防止
特定免許状失効者等に関するデータベース
免許状の失効・取上げ等
5．学校設置者等及び民間教育保育等事業者による児童対象性暴力等の防止等のための措置に関する法律（令和6年法律第69号）

いわゆる「こども性暴力防止法」
いわゆる「日本版DBS」
2026年12月25日施行
【重要な注記】
生成AIを利用したこどもへのなりすまし・グルーミングについては、現時点で確認できる全国的な公的統計はありません。

本稿では、確認された被害件数としてではなく、

「生成AIによって、従来から存在する犯罪や権利侵害の手法が高度化・効率化する可能性」

として整理しています。

また、生成AIによって作成された性的画像についても、

「AIで生成したものだから違法ではない」

「AIで生成したものだから必ず児童ポルノに該当する」

という、どちらか一方の断定は避けています。

実際の法的評価は、画像の内容、実在する児童との関係、作成・所持・提供等の行為、適用される法令、証拠関係などを踏まえて個別に判断する必要があります。

また、

「AIが虐待ではないと言った」

「AIが慰謝料は○万円と言った」

という例についても、AIの回答だけで現実の事件・事故・法的責任が決定されるという意味ではありません。

本稿で問題としているのは、

人間がAIの出力を十分に検証せず、事実認定・法的評価・損害評価・支援方針などの代わりに利用してしまうこと

です。

AIは情報整理や論点整理の補助者にはなれます。

しかし、こどもの生命、安全、尊厳、権利、法的責任などに重大な影響を与える最終判断については、AIの出力だけを根拠に決定するのではなく、人間による事実確認、専門的評価、必要な関係機関との連携を行うことが重要です。

【表記について】
法令名および統計上の用語（被害児童、児童虐待、児童ポルノ、児童の権利等）を除き、原則として「こども」と表記しています。