韓国・性平等家族部、AIキャラクターチャットボットを点検　成人認証なしでも有害な応答

2026年10月16日公開

韓国の性平等家族部が成人認証なしで使えるAIキャラクターチャットボットの実際の応答を点検した結果、一部のキャラクターで性的・暴力的な描写や自傷・自殺をあおる応答など、青少年に有害となり得る内容が確認された。同部は事業者に保護措置の強化を求めた。

性平等家族部は15日、AIキャラクターチャットボットの応答点検の結果を発表した。点検は同部が韓国青少年相談福祉開発院に委託して運営する青少年メディア環境保護センターが担った。

センターは一部サービスのキャラクターを対象に、成人認証を経ない通常の利用環境で実際に生成される応答を調べた。AIキャラクターチャットボットは、利用者が性格や物語の設定を持つキャラクターを選ぶか自作し、生成AIの応答で会話を続けるサービスである。

センターは青少年保護法第9条と同法施行令別表2の青少年有害媒体物の審議基準を参考に応答を検討した。性的内容や性行為の具体的な描写、暴力・残虐性、自傷・自殺や犯罪・違法行為をあおる事例が見つかり、一部のキャラクターでは複数の類型が重なっていた。

報道資料には点検したサービスの名前は記載されていない。

同部は点検結果を事業者と共有し、自主的な改善を要請した。青少年に不適切な会話が生じる恐れのあるキャラクターは、成人認証の有無に応じて検索・推薦・会話の範囲を調整するよう求めた。

自傷・自殺の助長や具体的な犯罪の実行を手助けする応答など重大な危害の恐れがある内容は、利用者の年齢にかかわらず生成されないようにすることも要請した。今回の措置は制裁ではなく改善の要請である。

同部は事業者との実務協議を続け、自主点検と保護措置の改善状況を引き続き確認する方針だ。尹世珍（ユン・セジン）青少年政策官は、事業者の積極的な改善努力と継続的な管理が重要だと述べた。

李昌浩（イ・チャンホ）センター長は、生成AIは会話の中で新たな内容が作られるため、実際の応答まで考慮した保護措置が必要だと強調した。

出典・基準情報

2026-10-15T23:46:17.709Z

写真情報

スマートフォンを持つ手の資料写真（2015年）。点検対象のチャットボット画面ではない。CC0 1.0。