報告書のアーカイブ

2019年10月31日公開

「Xルールに基づく強制的対応」では、Xがコンテンツポリシーに基づき、それぞれの場合における対応方法の概要を示します。

Xの目的は、公共の場における会話に寄与することです。Xでは、すべての人にそれぞれの意見や考えを共有していただきたいと考えています。しかし、他の人が自らを表現することを阻止したり、オフラインで危険を感じたりするような行為も存在します。Xルールは、すべての人が自由かつ安全に、公共の場における会話に参加できるように存在しています。禁止されているコンテンツや行為の種類を説明する、特定のポリシーが含まれています。Xは、公共の場における会話の質を高め、常にルールが守られるよう努めています。

Xルール(および包含されるすべてのポリシー)、プライバシーポリシー利用規約(TOS)は集合的に「Xユーザー契約」を構成しています。これは、ユーザーによるXへのアクセスとそのサービスの使用を規定するものです。

Xのサービスにアクセスする、またはXのサービスを使用する方はどなたも、Xルールで規定されているポリシーに従う必要があります。従わなかった場合、Xは以下のような強制的対応を1つまたは複数図る場合があります。

  • 投稿の作成や他のXユーザーとのやり取りの機能を一時的に制限する。

  • 禁止されているコンテンツの削除をユーザーに要求する。それに応じて削除すると、新たな投稿の作成や他のXユーザーとのやり取りができるようになります。

  • 電話番号または電子メールアドレスを使用して、アカウントの所有を確認する。

  • アカウント(複数の場合あり)を永久に凍結する。

「Xルールに基づく強制的対応」セクションでは、攻撃的な行為児童の性的搾取(CSE)ヘイト行為個人情報センシティブな内容のメディア暴強烈な身体的脅迫なりすましの各Xルールカテゴリーでの強制的対応に関する情報を示します。なりすましポリシーの強制的対応に関する情報が報告書に含まれるのは、今回が初めてです。

Xは、コンテンツモデレーションでの透明性と説明責任に関するサンタクララ原則の精神を支持し、今後の報告書では、Xルールの強制的対応に関して、より詳細な情報を提供することに力を注ぎます。

報告された一意のアカウント

Abuse - 攻撃的な行為, Hateful Conduct - ヘイト行為, Impersonation - なりすまし, Private Information - 個人情報, Sensitive Media - センシティブな内容のメディア, 
Violent Threats - 強烈な身体的脅迫, NOTE: The data in these reports is as accurate and comprehensive as possible. - 注記:この報告書のデータはできる限り正確であり、包括的なものです。

数値について

X上のコンテンツには、Xルール違反の疑いを審査するために、当社のヘルプセンターまたはアプリ内報告機能を通じて大まかなフラグが設定されます。社内のグローバルチームはXの全サポート言語において、年中無休で内部ルールの強制的対応を管理しています。当社の最終目標は、Xルールを客観的かつ一貫的に適用することにあります。 

この報告書で取り上げているXルールの6つのポリシーカテゴリー全体で、Xルールの違反の疑いが報告されたのは15,638,349アカウントに上り、前報告期間と比較して42%増加しました。そのうち政府機関によって報告されたアカウント件数は7,760件と、前回報告期間の6,388件より21%増加しました。 

Xでは、審査過程において、報告されたコンテンツがいずれかのXルールに違反しているかどうかを、当初の報告にとらわれずに検討します。たとえば、個人情報に関するポリシー違反と報告されたコンテンツは、ヘイト行為に関するポリシーにも違反している場合があります。報告されたコンテンツがXルールに違反している場合、審査過程において適切な処置が取られます。 

また、報告されたコンテンツがルールにまったく違反していないと判断される場合もあります。このため、上記のポリシーカテゴリー別「報告された一意のアカウント」が下記の「対応した一意のアカウント」のデータセットに含まれているとは限りません。

対応した一意のアカウント

Abuse - 攻撃的な行為, Hateful Conduct - ヘイト行為, Impersonation - なりすまし, Private Information - 個人情報, Sensitive Media - センシティブな内容のメディア, 
Violent Threats - 強烈な身体的脅迫, NOTE: The data in these reports is as accurate and comprehensive as possible. - 注記:この報告書のデータはできる限り正確であり、包括的なものです。

数値について

ここでの「対応」とは各種の強制的対応のことで、アカウントの凍結などが含まれます。今回の報告期間中、Xルールのカテゴリーに違反したとして、一意のアカウント1,254,226 件に対して対応措置を取りました。この件数は、前回の報告期間と比較して105%増加しています。増加にはいくつかの要因があります。違反の可能性があるコンテンツを積極的に探し、人の手で審査するよう以前より注力したこと、受け取った報告数が42%増加したこと、なりすましデータを初めて報告に含めたことなどです。 

個々に報告されたXルールに違反しているアカウントのうち、1,791件が政府機関から報告されたものでした。これは、前回の報告期間中に報告され対処したアカウント1,601件と比較して11%増加しています。 

今回の報告書に含まれる7つのXルールカテゴリーにおいて対応措置を取ったアカウント数は、攻撃的な行為に関するポリシーが395,917件、ヘイト行為に関するポリシーが584,429件、センシティブなメディアに関するポリシーが43,536件、児童の性的搾取(CSE)に関するポリシーが30,107件、なりすましに関するポリシーが124,339件、個人情報に関するポリシーが19,679件、強烈な身体的脅迫に関するポリシーが56,219件でした。

審査過程においては、Xルール違反が特定された場合、当初の報告理由にかかわらず対処します。たとえば、攻撃的な行為に関して報告されたコンテンツに対し、最終的には強烈な身体的脅迫に関するポリシーのもとで対応を図ることがありえます。また、報告されたコンテンツがルールにまったく違反していないと判断される場合もあります。そのため、「対応した一意のアカウント」が、上記の「報告された一意のアカウント」のデータセットに含まれているとは限りません。

ポリシーの策定と強制的対応に関するXのアプローチの詳細についてはこちらを参照してください。Xルールの各カテゴリーに関しては以下を参照してください。

攻撃的な行為に関するポリシーに基づく強制的対応

Xは攻撃的な行為を、他人の発言を攻撃、脅迫、抑圧しようとするものと捉えています。攻撃的な行為の例としては、個人または集団が深刻な損害を与えることの願望または希望、他人に自傷を促すこと、個人情報または私的なメディアを暴露するという脅迫、求められていない性的誘いかけ、攻撃的な侮辱、いわれのない中傷などが挙げられます。

攻撃的な行為の報告に対する審査と適切な強制的対応の決定には、前後関係が重要になります。その部分だけ抜き出すと攻撃的だと思われるツイートのなかには、会話全体の前後関係をふまえるとそうではないというものもあります。コンテンツに個人を攻撃する意図があるのか、それても合意のもと成り立っている会話の一部なのか、はっきりしない場合があります。Xは報告されたコンテンツを審査する際、以下の要因を考慮します。

  • 行為の対象が個人または集団かどうか。

  • 報告者が攻撃的な行為の標的または目撃者かどうか。

  • 該当する行為に報道価値や正当な公益があるかどうか。

今回の報告期間中、ポリシー違反の可能性があるとして報告されたアカウント数は22%増加し、Xはポリシー違反をした一意のアカウント395,917件に対処しました。

ヘイト行為に関するポリシーに基づく強制的対応

Xは、当社のヘイト行為に関するポリシーに基づき、保護対象 (人種、民族、出身地、性的指向、性別、性同一性、信仰している宗教、年齢、障がい、疾患)の集団に属することを理由に他者への暴力行為の助長、直接的な攻撃、脅迫を禁止しています。Xルールは、上記カテゴリーに基づいて他人に害を与えることを主目的とするアカウントを禁じています。以下もヘイト行為の例に該当する可能性があります。

  • 保護対象のカテゴリーに属する人が主な標的または被害者となった大量虐殺や暴力事件を引き合いに出して、保護対象のカテゴリーに属する他者を標的とする。

  • 保護対象のカテゴリーに属する人に対する恐怖を煽るコンテンツを用いて、保護対象のカテゴリーに属する他者を標的とする。

  • 相手からの要請なしにヘイト画像を他者に送信する。

今回の報告期間中、ヘイト行為に関するポリシーに違反しているとみられるアカウント数は48%増加し、Xはヘイト行為に関するポリシーに違反した一意のアカウント584,429件に対処しました。

センシティブなメディアに関するポリシーに基づく強制的対応

今回の報告書の本セクションでは、センシティブなメディアに関するポリシーの違反に関して対応が図られたアカウントが挙げられています。人は、世界で何が起きているか示すためにXを使用し、会話の一部として画像や動画の共有も頻繁に行います。メディアは、センシティブな話題を描写している場合があります。Xはセンシティブなコンテンツに触れたくない人がいることを理解しています。だからこそ、この種のメディアの共有を許可しつつ、そのようなメディアを避けたい人の力になろうとしています。このため、暴力、ヘイト、成人向けのコンテンツはライブ映像、プロフィール、ヘッダー画像など、Xにおいて人目に触れる機会の多い場所には含むことは禁じられています。このようなコンテンツをXで共有する場合、自分のアカウントがセンシティブであるとマークする必要があります(画像と動画は警告メッセージに隠れて見えなくなります)。このポリシーに基づき、暴力的な性的行為や不要な流血に関連するメディアは許可していません。これらは暴力を正常化し、視聴する人に苦痛を与える可能性があるからです。 

このポリシーの対象となるコンテンツの例は以下のとおりです。

  • 写実的な暴力描写(死や重い怪我など)、

  • 成人向けコンテンツ(ポルノや性的興奮を煽ることを意図した描写など)、

  • 暴力的な性的行為(性的行為を伴う現実の、または擬似的な暴力の描写など)、

  • 不要な流血(死、暴力、深刻な身体的危害に関連した、必要以上に写実的または陰惨な描写、またはサディスティックな目的で共有された暴力的なコンテンツなど)

  • ヘイト画像(保護対象のカテゴリーに属することを理由に、そうした他者に対する敵意や悪意を増幅させることを目的とするロゴ、シンボル、画像など)。

今回の報告期間中、センシティブなメディアに関するポリシーに違反しているとされるアカウントの報告は37%増加し、センシティブなメディアに関するポリシー違反として43,536件の一意のアカウントに対処しました。

児童の性的搾取(CSE)に関するポリシーに基づく強制的対応

Xは、X上での児童の性的搾取を禁止しています。児童の搾取を助長する画像ないしコンテンツへのリンクなど、児童の性的搾取に関するメディアが見つかった場合、Xは該当するリンクを通告なしにサイトから削除するとともに、全米行方不明・被搾取児童センター(「NCMEC」)に報告します。児童の性的搾取に関するXルールへの違反が疑われるコンテンツは、XのWebフォームまたはアプリの報告機能を使用して報告できます。

今回の報告期間中、Xは児童の性的搾取に関連する違反を理由に、合計244,188件の一意のアカウントを凍結しました。凍結されたこれらの一意のアカウントのうち91%が、テクノロジー(PhotoDNA、社内の独自ツールなど)の組み合わせで明るみに出たものでした。

なりすましに関するポリシーに基づく強制的対応

Xは今回初めて、なりすましポリシーに基づく指標を報告します。なりすましは、あるアカウントが他の人、ブランド、組織になりすまし、見ている人を混乱させたり騙したりすることを意味し、Xルールによって禁止されています。今回の報告期間中、なりすましに関するポリシー違反として124,339件のアカウントに対処しました。

個人情報ポリシーに基づく強制的対応

このセクションでは、Xの個人情報 および合意のない裸の描写 に関するポリシーに基づき、対処されたアカウントに関する情報を提供します。これらのポリシーに基づき、本人の明示的な承認および許可がない限り、他人の個人情報や私的な画像または動画を共有することは禁じられています。個人情報の例として以下が挙げられます。

  • クレジットカード情報、社会保障番号、その他の国民識別番号などの個人識別情報や財務情報。

  • 個人宅の場所、または私的と考えられるその他の場所。 

  • 非公開の個人連絡情報(電話番号、電子メールアドレスなど)。

  • 合意のない裸体の描写(本人の合意なしに作成または拡散された、明示的な性的画像や動画)。 

報告に対する審査と適切な強制的対応の決定には、前後関係が重要になります。上記のような情報の投稿が必ずしもこのポリシーの違反になるとは限りません。Xでは、投稿された情報の性格と公開状況、現地のプライバシー関連法規、および各事例特有の事実を考慮します。たとえば、情報がかつてインターネット上のどこかで投稿または表示されていたことがある場合(公開されていたブログに電話番号を記載していた場合など)、該当する情報をXで再掲してもこのポリシーの違反にはなりません。

今回の報告期間中、個人情報ポリシーの違反の疑いが報告されたアカウントは48%増加し、19,679件の一意のアカウントに対して対応措置が取られました。増加は、Xの個人情報報告フローと内部の強制的対応プロセスの更新に関連しているとみられます。これらの更新により、目撃者が個人情報に関するポリシー違反について、より多く報告できるようになりました。  

強烈な身体的脅迫に関するポリシーに基づく強制的対応

Xルールは、強烈な身体的脅迫テロ行為および暴力過激主義の助長を禁止しています。具体的には、個人または集団に対する特定の強烈な身体的脅迫、テロ行為および暴力過激主義に関する脅迫や助長を禁じます。このポリシーの対象となるコンテンツの例には以下があります。

  • 特定の人やグループに対する暴力の意図があることを明示的に発言すること。

  • テロ行為の助長。

  • 重大な暴力行為に対する報奨の要求や提供。

  • 運動推進のために一般市民への暴力行為を使用または助長する組織との関連付け。

今回の報告期間中、暴力&過激主義に関するポリシー違反として報告されたアカウント数は17%増加し、56,219件のポリシー違反をした一意のアカウントに対処しました。 

Xは115,861件の一意のアカウントを、テロ行為の助長に関連する違反を理由に凍結しました。凍結された一意のアカウントの87%は、社内の独自ツールを使用して審査対象として表面化させたものです。今回の報告期間中に凍結された一意のアカウントの合計数は前回の報告期間と比較して30%減少しました。これは、行動パターンの変化を反映したとみられ、過去数年にわたる全体的な低下傾向に概ね一致しています。

補足情報

  • 1件の通知で複数の削除対象が指定されている場合があります。たとえば、1件の報告で複数の個別ツイートまたはユーザーアカウント全体を削除するよう求められることがあります。

  • Xは、報告された理由または他のルール違反を理由として対処することがあります。ルール違反がないと判断した場合は対応しません。

  • 「報告された一意のアカウント」には、ユーザーからXルール違反の可能性が報告されたアカウントの数が反映されています。

    • 意味のある指標を提供するため、同じポリシー違反について複数回対応したアカウントの重複を排除してあります(複数のユーザーが単一のアカウントについて同じ違反の可能性を報告した場合、または複数のユーザーが同じアカウントについて異なる違反の可能性を報告した場合)。こうした指標の目的を鑑み、特定のツイートについても報告の重複を排除してあります。つまり、同一ユーザーから複数のツイートについての報告を受け取った場合でも、「報告された一意のアカウント」の指標としてはこうした報告を1件とカウントしています。

  • 「対応した一意のアカウント」には、Xが今回の報告期間中に強制的対応を行ったアカウントの合計数が反映されています。

    • ここでの「対応」とは各種の強制的対応のことで、アカウントの凍結などが含まれます。

    • 意味のある指標を提供するため、同じポリシー違反について複数回対応したアカウントの重複を排除してあります。つまり、ツイートまたはアカウントに対して複数のポリシーに基づき対応した場合、アカウントは各ポリシーで個別にカウントされます。一方、ツイートまたはアカウントに対して同じポリシーに基づき複数回対応した場合(たとえば、アカウントを一時的に読み取り専用モードに切り替えた後、同じポリシーに基づきメディアまたはプロフィールの編集も必要になった場合)、該当アカウントは関連ポリシーについて1回カウントされます。

    • 報告されたアカウントがXルールに違反していると判断された場合(コンテンツやアカウントアクティビティの大半がルールに違反している場合)、Xは「攻撃的な行為を目的としたアカウントの利用」ポリシーに基づきアカウントを永久に凍結します。このデータは、今回の報告における「対応した一意のアカウント」の違反セクションに反映されています。