子ども向けアプリを作成する際は、常に安全を最優先に考える必要があります。デベロッパーは、アプリで使用するすべての機能を慎重に検討することで、子どもたちの安全を守ることができます。

ユーザーの大部分は、想定どおりアプリを使用する子供、保護者、教師、介護者です。ただし、不正な行為者もいる可能性があるため、注意が必要です。

危険性のある機能

意図しない結果が生じる場合を考えます。アプリを使用して子供に危害を加える方法はありますか？アプリのどの機能を使用して、悪質な行為者による最悪のユースケースに子供が関わる可能性があるか不正行為者がよく使う機能をいくつか紹介します。

アプリでユーザー同士がチャットできるようにしていますか？多くの場合、攻撃者は子供向けのアプリであってもチャット機能を悪用します。不正な行為者がチャットを使用して、子供をだまして購入させたり、マルウェアを含む他のアプリをダウンロードさせたりする可能性があります。

さらに恐ろしいことに、彼らはチャットを搾取のために使用することもあります。アプリを使用して子供との不適切な会話を始めたり、子どものユーザー名を使ってアプリ外で子供と連絡を取ることさえできます。子供とコミュニケーションをとる手段や手段を構築すると、そうした不正行為者は、不適切な画像を送るように勧誘したり、性的搾取を目的として性的な誘いかけを行ったり、実際に会うよう誘ったりする恐れがあります。

子供のアプリ内チャットのリスクを低減する方法

  • チャット機能の画像共有を無効にします。
  • 事前承認済みのフレーズやステッカー、絵文字のコミュニケーションなど、お子様が選択できる事前承認済みのチャットのみを許可します。
  • グループ チャットのコンテンツを管理します。
  • 問題がある可能性があるチャットを特定して、モデレーターが手動で確認できるように報告します。
  • ユーザーが不適切な連絡先を報告したり、ユーザーをブロックしたりできるようにします。
  • 保護者の方がお子様のチャットを監視できるよう、厳格な保護者による使用制限を設定します。 Family Online Safety Institute でオンラインの安全性について子どもと話すためのヒントをご確認ください。
  • 保護者は、お子様が行う接続の承認と管理、ユーザーのブロックと削除、お子様が送受信するメッセージの確認を行うことができます。

アプリでコメント、レビュー、その他のコンテンツをユーザーがアップロードできるようにしている場合は、UGC を許可します。ユーザー作成コンテンツが許可されると、アプリのリスク プロファイルが増加します。不正行為者は、コメントを使って、いじめや不適切な写真、不適切な写真を投稿したり、不適切な連絡先情報を共有したりすることがあります。

ユーザー作成コンテンツによる子どものリスクを減らす方法

  • 投稿する前にすべてのコンテンツを適宜管理して、
  • コミュニティ ガイドラインを投稿し、何が許可され、何が認められていないかを明確に伝え、ガイドラインを厳密に適用してください。
  • ユーザーが不適切な投稿を報告できるようにします。
  • 保護者による使用制限を設定して、保護者がお子様の投稿内容とお子様に表示される内容を確認できるようにします。
保護者や子供によるエクスペリエンスの管理に役立つツールを提供することで、安全で責任ある利用を促すことができます。使いやすく、明確に説明された設定をユーザーに提供することで、ユーザーがアプリで操作するタイミング、方法、ユーザーをコントロールできるようになります。また、Google の Be Internet Awesome プログラムにより、教師と保護者がオンライン上での子どもの安全かつ安心なエクスプローラーを支援できるように支援することもできます。