केस विवरण
In January 2024, a user replied to a Threads post containing a screenshot of a news article in Japanese. The article includes a statement by Japanese Prime Minister Fumio Kishida about unreported fundraising revenues involving members of his faction of the Liberal Democratic Party. In the statement, Kishida said the amount “remained intact and was not a slush fund.” The Threads post includes an image of Prime Minister Kishida and a caption criticizing him for tax evasion. The user’s response, also in Japanese, calls for an explanation to be given to Japan’s legislative body. It includes several hashtags using the phrase “drop dead” to refer to the Prime Minister as a tax evader as well as derogatory language for a person that wears spectacles. In January, Prime Minister Kishida made a parliamentary statement addressing his party’s alleged underreporting of this revenue. Criminal charges have since been brought against several of the Japanese lawmakers involved, although not the Prime Minister.
The user’s reply to the Threads post did not receive any likes or responses. It was reported once under the Bullying and Harassment Community Standard, which prohibits content targeting anyone (including public figures) with “calls for death.” A human reviewer determined that the content violated Meta’s Violence and Incitement rule instead that also prohibits calls for death. Meta’s internal guidance to reviewers under the Violence and Incitement policy states that the specific phrase “death to” should be interpreted as such a call when used about high-risk people such as a Head of State. Meta explained that the user’s hashtags contained calls for death, which the reviewer likely interpreted as being aimed at Prime Minister Kishida, and thus removed the content. The user then appealed to Meta, but a second human reviewer also found the content violating. Finally, the user appealed to the Board, explaining that Meta’s removal of their post, about alleged illegal activities by a public figure, interfered with their freedom of speech. As a result of the Board selecting this case, Meta determined that its original decision to remove the content was in error. Meta noted the content contained rhetorical language that did not amount to a threat that would violate its Violence and Incitement policy, and restored the post on Threads.
The Board selected this case to examine Meta’s content moderation policies and enforcement practices on political content shared on Threads. This is particularly important, in the context of Meta’s decision not to proactively recommend political content on Threads. This case falls within the Board’s Elections and Civic Space strategic priority.
The Board would appreciate public comments that address:
- The sociopolitical context in Japan, including information about online threats of violence against politicians, and limitations on freedom of expression that is critical of politicians.
- The extent to which rhetorical threats or calls for violence are common in the Japanese language and political discourse more broadly, and/or how easily such threats can be distinguished from credible threats.
- How Meta’s Bullying and Harassment and Violence and Incitement policies should protect high-risk individuals like Heads of State from credible threats of violence at-scale.
- How Meta can ensure political expression is respected, including rhetorical threats or calls for violence.
- How Meta’s choice not to recommend political content on Threads and Instagram newsfeeds, for pages not followed by users, affects access to information and political speech.
As part of its decisions, the Board can issue policy recommendations to Meta. While recommendations are not binding, Meta must respond to them within 60 days. As such, the Board welcomes public comments proposing recommendations that are relevant to this case.
टिप्पणियाँ
日本法曹有資格者・米国ニューヨーク州弁護士
杉山日那子
2024年5月30日
フェイスブック監督委員会御中
私は、カリフォルニア大学アーバイン校ロースクール国際司法クリニックに勤務する人権弁護士です。日本で育ち、第一言語は日本語です。2024-027-TH-UAに関する私の意見をお伝えします。本意見は同クリニックの見解を代表するものではありません。
本件では、自民党岸田派の所属議員の関与する政治資金収入の不記載についての岸田首相の声明を含んだスレッズの投稿に対する、岸田首相に対する「くたばれ」というハッシュタグを付した返信（以下「本投稿」）の削除の是非が問題となっています。この意見書では、第一に、本投稿の削除判断が明らかに誤りであったこと、第二に、日本で政治家を批判する表現が手厚く保護されていること、第三に、メタが取るべき再発防止策を説明します。なお、以前のコメントでもお伝えしましたが、私は、フェイスブック監督委員会が、メタによるコンテンツモデレーションのポリシーやその実施の評価にあたり適切なアプローチ―国際人権法に則りながら、問題となる表現やそのモデレーションから影響を受ける人やコミュニティの意見を考慮する参加的なアプローチ―を採用していることに感謝しています。このようなアプローチは、メタが遵守を表明する国連ビジネスと人権に関する指導原則にも合致すると考えます。
第1 本投稿の削除判断の明らかな誤り
本件では、「いじめや嫌がらせに関するコミュニティ規定」に反するというユーザーからの報告の後、メタの審査担当者が「くたばれ」という表現が死を求めるものとして「暴力と扇動のポリシー」に違反すると判断し（第1判断）、メタは本投稿を削除しました。投稿者からの不服申立てを受け、メタの別の審査担当者が改めて検討しましたが、違反を認定して削除相当と判断しました（第2判断）。その後、監督委員会が本件の審査を開始したことを受け、メタは本投稿の「くたばれ」という表現は同ポリシーに違反する危険な表現にはあたらないと判断（第3判断）して本投稿を復活しました。
改めての確認ですが、国際人権規約19条2項は表現の自由を広く手厚く保障し、同条3項は表現の自由の制約を①明確なルールに基づき、②人の権利や評判の尊重、国家の安全や公序良俗、公衆衛生や道徳の保護のいずれかのために③必要で相当である場合に限り許しています（いわゆる三部テスト）。メタは、ビジネスと人権に関する指導原則の下、ユーザーの表現の自由を侵害しないために、投稿の削除やアクセス制限の範囲を三部テストに合格するものに限定する責任を負っています。暴力を煽る投稿の拡散の防止は言うまでもなく正統な利益ですが、削除は当該利益のために必要で相当でなければならず、言い換えれば、削除が許されるのは、問題となる表現について暴力を引き起こす具体的な可能性が認められる場合に限られます（国連人権委員会一般的意見34第35段落参照）。メタの「暴力と扇動のポリシー」は、個別のモデレーションをこの規範に適合させるために制定され運用されていると理解しています。
本投稿の「くたばれ」という表現は、メタの第3判断のとおり、「暴力と扇動のポリシー」の禁じる「Threats of violence that could lead to death (or other forms of high-sensitivity violence)」に該当しません。日本で歴史が長く一般的な辞典の一つである広辞苑によれば、「くたばれ」の原形「くたばる」の一義的意味は「体力が衰える」、「弱る」です。「『死ぬ』ことをののしっていう言葉」も意味しますが副次的とされています。言い換えれば、文脈に死や身体の損傷を連想させる要素がない限り基本的に「死」を意味せず、その命令形である「くたばれ」も同様、そのような要素がなければ、殺人または身体への加害意図の表明であるとはまず捉えられません。本投稿にそのような要素がないことは明らかですので「Threats of violence that could lead to death (or other forms of high-sensitivity violence)」に該当しません。この結論はヘイトスピーチのへの取組みを整理した国連ラバト行動計画のあてはめとしても明らかです。
つまり本件では「くたばれ」の意味が正しく理解されれば、本投稿が「暴力と扇動のポリシー」に反しないという結論を導くことは難しくなかったと思われます。第1判断と第2判断の審査担当者が判断を誤った原因は、彼らが「くたばれ」を「死ね」、「殺す」等の、文脈が修辞表現であることを示していない限り原則として相手への加害の意図を示すと考えられる言葉（また、監督委員会が2022年に審査したイランのプロテストのスローガンの事例で問題となった、一義的な意味は「death with」だが「down with」という意味で用いられることがある表現）と同じカテゴリの表現だと誤解したことにあるのではないかと推察されます。
本投稿が「Threats of violence that could lead to death (or other forms of high-sensitivity violence)」にあたるかどうかに直接関係しませんが、文脈を考えれば「くたばれ」は岸田首相の辞任を求めるという意味だと思われます。
意見聴取の対象の第二点目（暴力を煽る言葉を用いた修辞的な表現がどの程度一般的であるのか、信憑性ある害悪の告知とどう区別されるのか）について（「くたばれ」の一義的意味は暴力の呼びかけではないのでやや的外れに思いますが、その点はさて措くとして）、日本の刑法222条の規定する脅迫罪に関する裁判例には一定の参照価値があると思われます。
第2 日本における政治家に対する批判への手厚い保護
次に、監督委員会は政治家に対するインターネット上の脅迫、政治家に対する批判についての表現の自由の制約等の社会政治的背景についても意見を求めています。他国の人が日本に抱くイメージのように、協調性に一定の価値を置く文化が日本に存在することについて、私を含め日本の多くの人がおそらく同意すると思われます。しかし、私が強調したいのは、日本の憲法は表現の自由を明文で手厚く保護しており、表現規制も、個別に是正が望まれる点はありますが、全体的には表現の自由とのバランスを取る努力の上で制定・運用されています。そして何より表現の自由は市民社会により特に公共の利益に関わる事柄について積極的に行使されてきました。
中でも、公職にある者はより厳しい批判にさらされるべきだという法的規範は、明文規定や裁判例で具体化されています。例えば、刑法230条の定める名誉毀損罪には1947年に230条の1が付け加えられ、その3項においては「公務員又は公選による公務員の候補者に関する事実」については真実性の証明を条件に処罰対象から外しています。政治家に対する名誉毀損の民事事件でも、裁判所は、違法性の有無あるいは損害額の算定の場面で表現の自由に傾けた厳格な判断を下しています。またプライバシー侵害の有無について、最高裁は、小説の差し止めの可否について、プライバシーを侵害されたとする者が公的立場にあるかどうかを考慮し判断しました（平成14年9月24日 最高裁判所第三小法廷集民第207号243頁）。近時の判例でも①逮捕歴を含むツイートのツイッター社への削除命令の可否（令和4年6月24日最高裁判所第二小法廷民集第76巻5号1170頁）、②犯罪歴を含む検索結果のグーグル社への削除命令の可否（平成29年1月31日最高裁判所第三小法廷民集第71巻1号63頁）が問題となった事件においても、最高裁はプライバシーを侵害されたとする者の公的立場の有無を考慮し判断しています。
日本政府も政治家を批判する表現の要保護性を表明しています。近時の例として、2022年の刑法改正により侮辱罪の法定刑が加重されましたが、改正法の国会審議の際、政府は政治家への批判について、公正な論評など刑法35条の正当行為に該当する場合には違法性が阻却されることを明確にしています（法務省の説明Q9も参照）。
一部の国に残ってしまっているような、政治家に対する批判を特に罰するような法律は日本に存在しませんし、そのような規制を求める声は日本の市民社会には見られません。むしろ、日本の市民社会は、政治家が反対派の声を抑圧しようとする場面では、訴訟等を通じて是正するアクションを取り続けてきました。例えば、2019年の参議院選挙で、街頭演説中の当時の安倍首相に批判的な発言を投げかけた市民の複数が警察官に排除されましたが、市民たちは表現の自由侵害を主張して複数の訴訟を起こし、裁判所は排除の違法性を認めました。
なお、政治家に対するオンライン上の脅迫が一般的に増加しているという具体的な報道やレポートについて目にしたことがありません。
第3 メタが取るべき再発防止策
上記のとおり、本件は2022年のイランのプロテストのスローガンのケースと異なり、問題となった「くたばれ」という表現の意味が正しく理解されさえすれば、本投稿が「暴力と扇動のポリシー」に違反しないという判断を下すことは難しくなかったと考えられます。それにもかかわらず第1判断と第2判断の各審査担当者が判断を誤っていることを考えると、判断の誤りは偶発的というよりも、メタの日本語の投稿のモデレーションの体制が不十分である可能性、ひいては第1判断と第2判断のような質の悪い判断が他の投稿についても繰り返されている可能性を示唆しているようにも思えます。もちろん杞憂に終わることを望みますが、このようなオーバー・エンフォースメントが選挙前・中・後に繰り返されれば、監督委員会が最近のレポート「歴史的な選挙イヤーにおけるコンテンツモデレーション：業界への主な教訓」で警鐘を鳴らすとおり、候補者や政党への批判表現が不相応に鎮められ選挙結果の正統性にも影響しえます（憲法上求められる2025年の衆議院選挙に先立って、2024年内に衆議院選挙が実施される可能性があると報道されています。政治資金収入の不記載の問題は有権者に支持政党を変更させうる大きな出来事であるとの見方もあります）。
更に、この問題をグローバルの視点から見ると、日本は2023年度世界GDPランキング第4位であり、日本の収益はメタの全体の収益のうちそれなりの割合を占めると思われます。ここからすると、日本のコンテンツモデレーションに十分なリソースを割り当てることはメタにとって比較的正当化しやすいと思われます。それにもかかわらず本件のような質の悪い判断がなされるということは、メタの全体の収益にあまり関係しない国におけるモデレーションについてより深刻な体制不備の可能性を示唆するようにも思えます。このような国でこそポリシーの不執行による悪影響が最も先鋭化するという、上記レポートにおける監督委員会の指摘に同意します。メタは、市民社会が繰り返し求めている通り、現地の言語の理解の拡充により一層本気で取り組むべきでです。このケースに関する監督委員会の判断が、メタのコミットメントと取組みを後押しするものとなることを願います。
スレッズ、フェイスブック、インスタグラムでの本件類似の誤判断を防ぐため、監督委員会はメタに対して、国連ビジネスと人権の指導原則に基づき、少なくとも以下の提言をすることが考えられます。
第1判断と第2判断の誤りの原因究明と特定された原因の除去（指導原則13及び19）。第1判断と第2判断の審査担当者の日本語の理解の不足に原因があった場合、日本語を第一言語とする者と同レベルの日本語の理解のある者に判断を対応させることとする。
「暴力と扇動のポリシー」に関するトレーニングの本件を踏まえたアップデート及び日本語の投稿を担当する審査担当者への周知（指導原則13及び19）
実施した再発防止策の効果測定（指導原則20）
実施した再発防止策とその効果のユーザーへの開示（指導原則21）
最後に、日本では今年、「特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律」が国会で可決されました。同法律は、ユーザーからの削除申請の対応を迅速化し、モデレーションの運用状況を透明化することを目的としています。同法24条は、大規模なプラットフォームに対し、十分な知識経験を持った侵害情報調査専門員の選任を求めています。メタは、ビジネスと人権に関する指導原則13と19に従い、憲法や国際人権法の規範―特に表現の自由に関するもの―への理解の深い専門員を選任ことが求められます。
杉山日那子
Hinako Sugiyama
A lawyer qualified in Japan (currently not registered) and admitted in New York State
To the Facebook Oversight Board,
I am a human rights lawyer supervising the work at the International Justice Clinic at the University of California, Irvine School of Law. I was raised in Japan and Japanese is my first language. This letter responds to the Oversight Board’s call for public comments on Case 2024-027-TH-UA. This opinion does not represent the views of the Clinic.
This case involves a Threads post containing the hashtag stating “kutabare,” directed at Prime Minister Kishida. The post was a response to another post that included a statement from Kishida regarding unreported fundraising revenues involving members of his faction of the Liberal Democratic Party. In this comment, I will first discuss the clear error in the decision to delete this post, second, the long-standing protection of expression that is critical of politicians in Japan, and third, the measures Meta should take to prevent the recurrence of similar errors.
As I have previously noted, I appreciate that the Board adopts an appropriate approach in evaluating Meta’s content moderation policies and enforcement – a participatory approach grounded in international human rights law and incorporating public comments from people and communities affected. I believe that such an approach aligns with the UN Guiding Principles on Business and Human Rights, to which Meta has committed to adhere.
1. Clear error in the decision to delete the post
In the present case, following a report from a user under Bullying and Harassment Community Standards, a human reviewer determined that the expression kutabare in the post amounts to calls for death and violated Violence and Incitement rule. The post was removed accordingly. Upon appeal from the author, another human reviewer also found the violation. As a result of the Board selecting the case, Meta determined kutabare did not amount to a threat that would violate the policy.
Article 19(2) of the International Covenant on Civil and Political Rights (ICCPR) broadly and robustly guarantees freedom of expression. Article 19(3) permits restrictions on freedom of expression only when they (i) are based on clear rules and (ii) are necessary and proportionate (iii) for respect of the rights or reputations of others or the protection of national security or of public order (ordre public), or of public health or morals (the so-called “three-part test”). Under the UN Guiding Principles on Business and Human Rights, Meta has the responsibility to limit the scope of content removal to those that pass the three-part test to respect users’ freedom of expression. While preventing the spread of posts inciting violence is undoubtedly a legitimate interest, removal must be necessary and proportionate to that interest. In other words, in terms of violence, removal is only permissible when there is a specific and individualized threat of violence (see the UN Human Rights Committee’s General Comment 34, para. 35). I understand that Meta intends to enforce the policy in a way that aligns individual moderation with this norm.
However, as Meta concluded in its final review, kutabare in the post would not fall under “threats of violence that could lead to death (or other forms of high-sensitivity violence)” as prohibited by the Violence and Incitement policy. According to Kojien, a widely used Japanese dictionary with a long history in Japan, the primary, literal meaning of kutabaru (the infinitive form of kutabare) is “to be weakened physically” or “to become weak.” It can also mean to curse “death,” but this is considered a secondary meaning. In other words, without contextual elements suggesting death or bodily harm, kutabaru would not mean “death.” Likewise, the imperative form kutabare would not imply an intention to murder or cause bodily harm unless such elements are present. It is evident that there are no such elements in this post, so kutabare in the post would not violate the rule. This conclusion aligns with the application of the UN Rabat Plan of Action.
In other words, if the meaning of kutabare were correctly understood, it would not have been difficult to conclude that this post did not violate the rule. I suspect that the reviewers’ mistake in their judgment was due to a misunderstanding of kutabare, categorizing it alongside expressions that suggest an intention to harm the recipient unless the context indicates rhetorical usage. Examples of such expressions include “you shall die” or “I will kill you,” as well as the slogan “marg bar…” in the Iran Protest Slogan case in 2022, which literally means “death to” but is often used as political rhetoric to mean “down with.”
Although it is not directly related to whether the post violates the Violence and Incitement rule, the context suggests that kutabare would mean demanding the resignation of Prime Minister Kishida.
Regarding the second point of the Board’s inquiry (the extent to which rhetorical expressions or calls for violence are common and how easily such threats can be distinguished from credible threats), it seems somewhat off-topic to discuss here since the literal meaning of kutabare in the post is not a call for threats or violence. However, it may be worth noting that Japanese court precedents regarding the crime of intimidation (Article 222 of the Penal Code) might be a valuable resource.
2. Strong protection of expression that is critical to politicians
Next, the Board seeks information on the socio-political context in Japan including information about online threats of violence against politicians, and limitations on freedom of expression that is critical of politicians. Many in Japan, including myself, would agree that Japan possesses a culture valuing harmony, as the image held by people outside Japan. However, I’d like to emphasize that Japan's Constitution explicitly and robustly protects freedom of expression. Speech regulations are generally legislated and operated with efforts to balance freedom of expression. Most importantly, civil society in Japan has been actively exercising freedom of expression, especially regarding matters of public interest.
In particular, the norm that people in public office should be subject to severe criticism has been embodied in statutes and case law. For example:
Article 230 of the Penal Code, which stipulates the crime of defamation, was amended in 1947 to add Article 230-1. Paragraph 3 carves out any statements concerning public officials or candidates for public office if the statements are verified. In civil defamation cases against politicians, courts have rigorously weighed in favor of freedom of expression in determining the legality or calculation of damages.
Regarding privacy violation, the Supreme Court considered whether the alleged victim held a public position to decide whether to enjoin the publication of a novel. In recent cases, the Supreme Court also considered the same in a case concerning whether to order Twitter to delete certain tweets that included arrest records, and in a case regarding whether to order Google to de-index certain search results that included criminal records.
The Japanese government also acknowledges the need to protect expression critical of politicians. For example, during the deliberation at the Parliament on the amendment to the Penal Code in 2022 to increase penalties for criminal insult, the government stated that criticism of politicians would be carved out if it falls under legitimate acts defined in Article 35 of the Penal Code such as fair comment (see also Q9 on the Ministry of Justice’s explanation).
There are no laws in Japan punishing criticism of politicians particularly, as seen in some countries, nor are there voices in Japanese civil society calling for such regulations. Instead, Japanese civil society has consistently taken action where politicians seek to suppress critical voices. For instance, during the 2019 House of Councillors election, several citizens who made critical remarks to then-Prime Minister Abe during street speeches were forced to stop by police officers. These citizens subsequently filed lawsuits, claiming a violation of their freedom of expression. Both the district court and high court recognized the police conduct as illegal.
3. Measures Meta Should Take to Prevent Recurrence of Similar Errors
Unlike the case of the Iran Protest Slogan in 2022, if the meaning of kutabare had been correctly understood, it would not have been difficult to determine that this post did not violate the Violence and Incitement rule. Nevertheless, both the first and second human reviewers made erroneous judgments, suggesting such errors were not coincidental but stemmed from a possible deficiency in Meta’s moderation system for posts in the Japanese language. If that's the case, similar poor-quality judgments are likely to be repeated. If such over-enforcement continues before, during, or after elections, it can damage the legitimacy of election results, as cautioned the Board’s recent report “Content Moderation in a Historic Election Year: Key Lessons for the Industry.” Reportedly, a House of Representatives election might be held within 2024, ahead of the constitutionally mandated one in 2025. As media reports, the issue of slush funds could potentially influence voters to switch their support to different parties.
Furthermore, from a global perspective, Japan ranks fourth in the 2023 World GDP rankings, and it is presumed that Japan's revenue constitutes a significant portion of Meta’s overall revenue. It thus seems relatively easy for Meta to justify allocating sufficient resources to content moderation in Japan. The kinds of poor-quality judgments in the present case in Japan would suggest a possibility of more serious systemic deficiencies in moderation in countries considered less lucrative. I agree with the Board’s view in the above report that “these countries are where the human rights impact of non-compliance of standards can be most severe.” Meta should make a more serious effort to expand local language expertise as repeatedly demanded by civil society. I hope the Board’s decision and recommendations on this case will further support Meta’s commitment and efforts.
I would recommend the Board make at least the following recommendations to Meta, based on the United Nations Guiding Principles on Business and Human Rights to prevent similar erroneous judgments on Threads, Facebook, and Instagram:
Identify the root causes of errors in the reviewers’ judgment and eliminate the identified causes (Guiding Principles 13 and 19). If the reviewers’ lack of comprehension of the Japanese language caused the errors, the same kinds of moderation judgments should be made by individuals with a level of Japanese comprehension equivalent to Japanese native speakers.
Update the training regarding the Violence and Incitement rule based on the lessons from the present case, and communicate to all reviewers of Japanese posts on the updated training (Guiding Principles 13 and 19).
Measure the effectiveness of the implemented measures (Guiding Principle 20).
Disclose to users the measures taken and their effectiveness (Guiding Principle 21).
Finally, this year in Japan, the Act on Handling of Infringement of Rights and Other Incidents Arising from Distribution of Information by Specific Telecommunications Services was enacted. This law aims to expedite the process of deletion requests from users and to make platforms’ moderation practices more transparent. Article 24 of the same law requires large-scale platforms like Meta to appoint investigation specialists with sufficient knowledge and experience in content moderation. Meta should appoint specialists with a deep understanding of Constitutional and international human rights norms, especially those related to freedom of expression, in accordance with Guiding Principles 13 and 19.
**Public Comment on Meta’s Content Moderation Policies and Enforcement Practices Regarding Political Content on Threads**
As a master's student in the US, and an individual with experience in Japanese media, I am submitting this comment to the Meta Oversight Board concerning the recent case involving content moderation of a Threads post about Japanese Prime Minister Fumio Kishida. This incident highlights critical issues in content moderation, freedom of expression, and the protection of high-risk individuals such as heads of state. In this comment, I will address the sociopolitical context in Japan, the nature of rhetorical threats, and provide recommendations for Meta's content moderation policies.
Japan's sociopolitical landscape is characterized by a relatively high level of respect for political figures, with strict laws governing slander and defamation. Online threats of violence against politicians are taken seriously by authorities, especially following the tragic assassination of former Prime Minister Shinzo Abe. However, there is a delicate balance between ensuring security and upholding freedom of expression. Criticism of politicians is a vital aspect of democratic discourse, and limitations on this can have a chilling effect on political engagement and transparency.
Rhetorical threats or calls for violence are relatively rare in Japanese political discourse, which tends to be more formal and restrained compared to some other democracies. However, when they occur, distinguishing between hyperbolic language and credible threats can be challenging. Japanese language and culture place significant emphasis on indirect communication and nuanced expression, which can sometimes complicate the interpretation of intent behind certain statements.
During my time working as a journalist in Japan, I encountered several instances that underscored the complexity of this issue. In one case, a prominent politician faced severe online backlash for a controversial policy decision. While some comments were clearly exaggerated expressions of frustration, others bordered on threats, making it difficult to discern the genuine level of risk. In another instance, a local politician's careless remarks on social media led to widespread outrage and intense scrutiny from both the public and the media. As journalists, we were tasked with navigating these nuanced situations, ensuring that our reporting was both accurate and responsible.
Meta’s Bullying and Harassment and Violence and Incitement policies are crucial for protecting high-risk individuals from credible threats of violence. However, these policies must also ensure that political expression, including criticism and rhetorical statements, is respected. Meta's internal guidance should be refined to better differentiate between hyperbolic or rhetorical language and genuine threats. Training for human reviewers should include cultural sensitivity training to understand the nuances of different languages and political contexts.
Meta’s decision not to proactively recommend political content on Threads and Instagram newsfeeds limits the visibility of political discourse and access to information. While this policy may reduce the spread of harmful content, it also curtails the reach of legitimate political expression and civic engagement. A balanced approach that includes measures to promote verified and credible political content could enhance informed political participation without compromising safety.
To address these issues, I propose several recommendations. First, Meta should develop more nuanced guidelines for distinguishing between rhetorical language and credible threats, particularly in non-English languages and diverse cultural contexts. Second, comprehensive training programs for content reviewers that include cultural sensitivity and language-specific nuances should be implemented to improve the accuracy of moderation decisions. Third, Meta should consider mechanisms to promote verified and credible political content in user newsfeeds to ensure access to information and support informed civic engagement. Fourth, Meta should regularly review and publicly report on its content moderation practices, including the handling of political content, to maintain transparency and build trust with users. Finally, Meta must strike a balance between protecting high-risk individuals and upholding freedom of expression, ensuring that political criticism and discourse are not unduly suppressed.
As Japan continues to navigate its complex sociopolitical landscape, it is essential that platforms like Meta uphold both safety and freedom of expression. By refining content moderation policies and enhancing reviewer training, Meta can better protect high-risk individuals while fostering a vibrant and open political discourse. The recommendations provided aim to support Meta in achieving this balance and ensuring that political expression remains a cornerstone of democratic engagement on its platforms.
一般に、「くたばれ」という日本語は殺害や死を扇動する性質のものではありません。
「死んでほしい」と願うほどの憎悪を表すというのが一般的な理解です。
本件においては、事実はさておき、総理大臣の不祥事のニュースに関し投稿者の並々ならぬ不満を述べたものです。
日本において死や暴力を扇動するととられる言動の類型の一つは、外国人を「追い出せ」「帰れ」と煽るものや、女性を「レイプ/痴漢されても仕方ない」などと形容するものが近しいものと思われます。
政治家に対しての死や暴力を煽るものは、安倍首相に対する、殺害前の過激な投稿などが参考になるものと思われます。
それらの多くは「アベ」というハッシュタグやキーワードが用いられています。
今回削除された「くたばれ」という言葉の日本語での一般的な使われ方について、意見を述べます。私は日本語のネィティブスピーカーですが、この投稿は、投稿者が首相を殺害する意図を表明したものではないと考えるからです。
「くたばれ」という用語は、通常の意味としては確かに殺害する意思を意味することもありますが、これは例外的な表現です。一般的な用語法としては、単なる非難を意味する場合が多いです。また、カジュアルな用語であり、正式な文書として書かれることはまれです。
「くたばれ」は政治的な議論において、特定の政策やアジェンダについて反対の立場をとる表明であることも多く、デモや書籍のタイトルとしても利用されてきました。以下、具体的な例を示します；
就職活動
http://www.rodojoho.org/archives_tatakai/~2013/tatakai805.html
就職氷河期
https://www.amazon.co.jp/くたばれ！就職氷河期-就活格差を乗り越えろ-角川SSC新書-常見-陽平-ebook/dp/B009Z7HSTA/ref=cm_cr_arp_d_product_top?ie=UTF8
自民党
https://www.amazon.co.jp/くたばれ-自民党―13の症候群-シンドローム-鎌田-慧/dp/4901203088
インターネット（Japanese translation of "I hate internet")
https://www.amazon.co.jp/くたばれインターネット-ele-king-books-ジャレット-コベック/dp/4909483438/ref=sr_1_7?__mk_ja_JP=カタカナ&crid=1DKNE1YVTGCJM&dib=eyJ2IjoiMSJ9.v0npLlgJDNTfnLNvSlojxW9SGe6pzhi6hVNLYggNZuahSFlq_DoqDkhA0nMq5aYQHiOWLgmyoHDOSQQAMKZlkWVHrArbxgv_EjITJzZ85UwjmYYQKbjjJw06mRetxVvsIEZf8Bo4XIqmPUJgDqOCmdcWe7_8HNShn_HfJSt4Ufvw_jJJX3A9cH4Y2lpu9JK6U6L1zzJPpXkyQ86E0zRfk3vIOv1Si4ZxJZMIS217UEo.-HvPNJK14iGFl879vWBeVNc4uG9SVT-rw68CTs8UN78&dib_tag=se&keywords=くたばれ&qid=1717076920&s=books&sprefix=くたばれ%2Cstripbooks%2C168&sr=1-7
当然のことですが、これらは特定の人物を殺害するという意思の表明ではありません。
このように、一般的な用語法である「くたばれ」は単なる非難の意図の表明であり、首相の殺害を意図するものではなく、これは日本語を理解する人物であれば通常このように判断するものと考えます。
したがって、今回の投稿は通常の政治的な非難であり、これを削除する必要はないと考えます。
Dear Oversights Board,
I am a human rights practitioner working in an International Organization as a civil servant. Due to my capacity, I would like to emphasize that the below is my personal view and does not represent my organization.
Here are the comments;
While the incitement of violence against politicians takes place everywhere in the world including in Japan, the actual violent rarely happens in Japan. As the recent killing of the former PM Abe demonstrated, this was the first terrorism since 1936. Thus, the actual impact of online threats against politicians is extremely limited.
Call for violence is uncommon in Japan. For this specific case, first of all, “Kutabare” is not a rhetorical threat or calls for violence. The post uses the word “Kutabare (imperative)” which should be interpreted as “Retire (imperative)”.
Please note that one of the uniqueness of the Japanese language is its outstandingly small numbers of derogatory terms or curse words. As the language does not have any words equivalent to “F***”, “C***”, “D***”, and others, Japanese people often use the words relevant to “death” which does not necessarily mean the incitement of violence. “Kutabare” is one of them.
It is also critically important to note the context. The post is expressing dissatisfaction about the lack of accountability for the misappropriation and embezzlement of the funds by LDP, the leading political party which PM belongs to. The criticism was not made based on the PM's ethnicity, gender or religious beliefs. The post is demanding the PM to “retire” which means “resign” in this context. As the author presumably does not have any political power and is demanding accountability from the leading party, his or her freedom of expression against the power should be respected and protected.
From the human rights perspective, Meta’s Bullying and Harassment and Violence and Incitement policies should protect the freedom of speech of the general public, particularly marginalized people or people without power, rather than protecting high profile individuals who has a political power and authority. For this case, the freedom of expression of the author of the post should be respected and protected. It is important for Meta not to repeat the same mistake by curtailing the civic space and letting the authority free from criticism.
私は、サイバー安全保障・情報戦の専門家の立場から、META社の「Threadsにおける政治的コンテンツを積極的に推奨しない」という決定ならびに、本決定に関わるThreadsにおけるユーザーの政治家に対する暴力的表現を含む投稿の削除の判断について、下記の通り意見を表明する。
私は、今回の「Threadsにおける政治的コンテンツを積極的に推奨しない」という決定に賛成の立場である。また、META社によって決定された当初の投稿削除の判断は、正しかったと考える。その理由として、第一に匿名によって行われる政治的投稿を巡るエコーチェンバーが、社会における暴力と扇動を増幅させる効果を持ちうる懸念が生じていること、第二に安倍元総理の暗殺（2022年7月）ならびに岸田総理の暗殺未遂事件（2023年4月）において、犯人のSNS上の投稿とそれに対する返信が強行の意思決定に影響を与えたと懸念されること、第三にSNS上のヘイトスピーチ（投稿）を巡る日本の司法判断が大きく変化していること、の3点が挙げられる。
第１の論点について。日本のデジタル空間においても、国民が政治に関する情報を入手する手段は、従来の新聞やテレビからインターネットへと変化している。総務省情報通信政策研究所「令和4年度情報通信メディアの利用時間と情報行動に関する調査」によれば、日本の２０代、３０代の約４０％が、「世の中の出来事について信頼できる情報を得る手段」としてインターネットを挙げており、テレビの４５％、新聞の１０％に比べても、情報入手手段としてのインターネット依存は、年々加速している。情報入手のインターネット依存が進む中で、日本社会でも米国と同様に政治的な陰謀論を信じる人が増加しており、その原因として、SNSのエコーチェンバーやフィルターバブル効果が指摘されている。
第２の論点。２０２２年７月に発生した安倍晋三元総理の暗殺事件、ならびに２０２３年４月に発生した岸田首相の暗殺未遂事件は、ローンウルフ型の政治テロ事件であった。実行犯は社会で孤立する自分の心情をツイッターに書き込んでおり、犯人の心理的状況にSNSの書き込みとその返信が与えた影響は大きかったと推測される。特に、岸田首相の暗殺未遂事件を起こした実行犯は、ツイッター上で政治的な批判をたびたび書き込んでおり、岸田首相を名指しで非難していたことが明らかになっている。
第三の論点。暴力を扇動するヘイトスピーチと表現の自由の関係について、日本の司法判断は大きく変化している。ヘイトスピーチの投稿者の氏名を公表する規定を定めた、大阪市のヘイトスピーチ抑止条例について、２０２２年２月に日本の最高裁判所は、日本国憲法２１条の表現の自由は「無制限に保障されるものではなく，公共の福祉による合理的で必要やむを得ない限度の制限を受けることがある」と判断しており、「特定人等を社会から排除すること等の不当な目的をもって公然と行われ」、「差別の意識，憎悪等を誘発し若しくは助長するようなものであるか，又はその者の生命，身体等に危害を加えるといった犯罪行為を扇動するようなもの」である限り表現の自由は制限されうる、との判断を下している。また、SNS上の書き込みについても、「悪口」や「誹謗中傷」といった他人の名誉を傷つける名誉毀損となる表現については、表現の自由の権利によって保障されない、という司法判断が行われるようになっている。さらに、インターネット上で他人を誹謗中傷する書き込みに関しては、２０２１年に改正された「プロバイダー責任制限法」において、プロバイダーによる削除を一定の条件下で免責とする条文が定められている。
上記の3つの理由により、政治家に対する書き込みであっても、個人の名誉を毀損する誹謗中傷、暴力を扇動する書き込みについては、削除等を含む制限をすべきとの社会認識は、司法上・法制度上も固まりつつあると考えられる。
そのような観点から、今回のThreadsにおける投稿を考えた場合、「くたばれ」という表現は、物理的な「死」ないし政治的な「死」を扇動する表現と考えられ、「くたばれ」という表現は、会社内で部下に対して発せられたケースでは、「パワーハラスメント」として判断された司法判断もあり、かなり強い誹謗中傷の表現と考えることができる。そのため、今回META社が下した削除の判断は、合理的であると考えられる。
また、政治指導者を対象とした、暴力を扇動する含意を有するSNSの投稿は、大規模な暴力を誘発するリスクを有するという側面だけで無く、ローンウルフ型テロを増幅するリスクがあると考えるべきである。すでに、日本では、そのようなローンウルフ型テロが発生しており、政治指導者が死亡していることを勘案すると、暴力の呼びかけを含む政治的な投稿は、プロバイダーにおいて制限されるべきであると考えられる。
（以上）
日本の首相に関するコメント(2024-027-TH-UA)に関するパブリックコメント
【結語】
公人による違法行為の疑いに関する投稿をMetaが削除したことは表現の自由を妨害するものであると考える。
• 政治家に対するネット上での暴力の脅威や、政治家に対する批判表現の自由の制限に関する情報を含む、日本の社会政治的背景。
→日本においては、表現の自由は憲法21条1項で保障されているが、2024年の報道自由度ランキングで、日本は180カ国・地域中の70位であり、G7の中では最下位である。このような表現の自由による保障が十分とは言い難い状況において、公人の違法行為を批判する投稿が一事業者に恣意的に削除されることは表現の自由に対する脅威である。
→他方、日本ではマイノリティに対するオンラインヘイトスピーチ等は削除対応が追いついていない状態である。日本にはヘイトスピーチを規制する法律も存在しない。2016年に施行されたヘイトスピーチ解消法は禁止条項も罰則もない理念法であり、オンラインヘイトスピーチの削除は、事業者の自主規制に委ねられている。
• 日本語や政治論において、どの程度の誇張的な暴力の脅威や呼びかけが一般的な範囲内であるか、また、そのような脅威は真の脅威とどの程度容易に区別できるか。
→ヘイトスピーチに文脈においては、筆者も所属するネットと人権法研究会が2023年に公表した「オンラインヘイトスピーチガイドライン」 が存在するため、同ガイドラインを参照されたい。同ガイドラインでは、ヘイトスピーチ解消法でも例示されている3類型の（①害悪告知型、②排斥型、③侮辱型）ヘイトスピーチの具体例について示し、それが「迅速に削除すべきもの」ことを示している。
【参考】
「オンラインヘイトスピーチガイドライン」（ネットと人権法研究会、2023年）
https://cyberhumanrightslaw.blogspot.com/2023/09/blog-post.html
It is of utmost importance for the board to solicit public opinions, as it did in this instance, to make informed decisions considering various countries' socio-cultural backgrounds. I am deeply grateful for this opportunity.
In Japan, where freedom of speech is legally recognized, criticism of politicians is allowed on social media. However, the board's decision that the phrase "drop dead" is a "rhetorical expression" and does not constitute "violence and incitement" as prohibited by Meta is likely to be contentious. Violent expressions attacking others are generally uncommon in Japanese language usage, and considering the assassination of former Prime Minister Abe two years ago, this decision could provoke diverse reactions.
Distinguishing between credible threats and rhetorical threats is highly challenging. Few would have considered the phrase "drop dead" to be a credible threat before the assassination of former PM Abe, even if it had been used by the perpetrator or associates at that time. However, the tragedy did occur.
Initially, this comment was reported for violating community standards on "bullying and harassment," not "violence and incitement," highlighting the need to understand Japan's social context. Four years ago, a famous television personality committed suicide due to online harassment. If people perceive Meta's decision that "drop dead" is acceptable as a rhetorical expression, it may lead to an increase in violent language.
Conversely, it is crucial for democracy to broadly accept political expression, especially toward individuals with significant responsibilities like the Prime Minister. If even slightly violent expressions are removed, it could severely restrict freedom of speech and expression.
The phrase "drop dead" can be either a rhetorical expression or a real threat, depending on the speaker and the recipient. To make this distinction, one must have a deep understanding of Japan's social culture and the speakers involved. The general user base is unaware that Meta has a team capable of making such nuanced judgments. Therefore, improving transparency in this regard is necessary.
To gain the acceptance of many Japanese users, it is also essential to explain not only the distinction between rhetorical and credible threats but also why freedom of speech is so important and why a wide range of opinions and expressions toward political leaders is vital for democracy.
Meta's algorithm, which does not promote political content on Threads, may suppress political interest within society. While political content can exacerbate social conflicts, it also has the potential to address and ameliorate societal issues by shining a light on them and fostering dialogue. This is an important topic for further discussion, separate from the debate on regulating the "drop dead" comment, and crucial for the advancement of democratic societies.
• 政治家に対するネット上での暴力の脅威や、政治家に対する批判表現の自由の制限に関する情報を含む、日本の社会政治的背景。
今回のポストに見られる「くたばれ」という表現を根拠に、この投稿者が岸田首相に対して殺意を持っていたかどうか、そしてそれをポストにおいて表現していたかは、判断できない。「くたばれ」という言葉が真剣な状況で発せられた場合、英語に直訳すると確かに「drop dead」であり、殺意を示したり暴力を扇動する意思を示す可能性がある。しかし、Xをはじめとした日本語のインターネット空間上では、もう少し広い意味で、英語圏の「fuck off」に近いと考えられる。現状与えられている背景を踏まえると、この投稿はMetaのポリシーに抵触しない蓋然性が高いと考える。
日本においては、元首相が殺害された記憶が新しく、また政治家を対象に暴力を振るうポピュリズム政党の台頭も見られる。また後述するとおり、政治家に対して死を連想させる言葉を使うといったアテンションエコノミーを念頭に置いた強い表現を志向することが、民主主義全体の信頼性を毀損する可能性がある。このため個人的には、政治家に対する暴力的な表現が無批判・無制限に肯定されるべきとは思わない。
一方で、政治家に対する言論について配慮や制限が必要という世論にはなっていないと考える。例えばネット言論についての法制として、日本では近年「侮辱罪」が厳罰化された。これはソーシャルメディア等での個人攻撃的な言論にまつわる事件を受けて、罰則が強化されたものである。しかし、この法令の制定が、政治家に対する言論を抑圧するものになってはならない、ということは国会でも確認されている。一般人に対するインターネット上での攻撃的な言論を制限する世論は高まったが、政治家に対しては特に高まっていないと見ることができる。
したがって本投稿については、与えられた背景情報と、現状の日本の状況を踏まえると、ポリシー違反と判断できる蓋然性は低いと考える。
• 日本語や政治論において、どの程度の誇張的な暴力の脅威や呼びかけが一般的な範囲内であるか、また、そのような脅威は真の脅威とどの程度容易に区別できるか。
政治的な表現において、何を持って一般的な範囲かを示すのは難しい。ポピュリズム政党や、極右政党、極左政党は、特に政治論や政治家において激しい言葉遣いを行う傾向にある。そして、そのような言葉遣いと、真の脅威を区別することは非常に難しいだろう。しかし、現在の日本においては、真の脅威や大規模な暴力が発生する蓋然性が極めて低いことを踏まえると、あらゆる言説は真の脅威ではないと言えるかもしれない。
• Metaの「いじめと嫌がらせ」および「暴力と扇動」に関するポリシーは、各国首脳のようなリスクの高い人物を、大規模な真の暴力の脅威からどのように守るべきか。 誇張的な暴力の脅威や呼びかけを含めた政治的表現を
尊重するために、Metaはどうすればよいか。
ソーシャルメディアに必要なことは、言論の自由を守りつつ、過激な言論で衆目を集めようとするインセンティブをユーザーから排除することであると考える。すなわち、個人の言論に対してはできる限り最小限の介入にとどめつつ、エコーチェンバーやアテンションエコノミーの性質をThreadsから排除することが重要だろう。したがって、政治的言説におけるレコメンデーションアルゴリズムにおいては、できるだけ多様なクラスタのポストが表示されるようにするなどのポリシーを持つべきだろう。
• ユーザーがフォローしていないページに対して、MetaやMetaのニュースフィードで政治的コンテンツを推奨しないというMetaの選択は、情報へのアクセスや政治的言論にどのような影響を与えるか。
ソーシャルメディアの持つアテンションエコノミーの性質が、政治的分断を強化する可能性がある。もとより言論の自由は、自然権であるということは前提として、加えて、民主主義を支え、人間の理性的側面を強化する観点から正当化されてきた。しかし一方で、ヘイトスピーチの議論でも明らかなように、公共の福祉に大きく反するような言論は、公共空間から排除されるべきとされる。Metaのポリシーは、こうした状況を踏まえた上でバランスのとれた手法だと考える。一方で、どのような運用が妥当かは常に社会の状況によって変わりうるものである。すなわち、このポリシーはimplementationが非常に重要と言える。すなわち、表現の自由を制限するとみなせるアルゴリズムやポスト削除については都度説明する責任がMetaに求められ続ける。
In Japanese expressions of anger, "death to" XXX or "will kill" XXX are commonly used. Even these translations may over-emphasize an intent of the speaker to "cause" such an effect or "act". The former is more accurately a rhetorical counterfactual that "I wish XXX were dead." The latter is more complicated because a seriouys threat is not distingusihable from a great majority of other cases of mere expressions of anger.
While due caution needs to be paid on such potentially threatening comments, deleting every comments making references to deaths in public discussions of state leaders would amount to violation of freedom of speech. Intent to act (including incitement) needs to be more specifically stated, in order to be considered an immediate danger to the subjected individual(s) or the public at large.
現在の日本の岸田首相が率いる自民党政権について、私は独裁的だと考えています。そのため、多少強い言葉を使って非難することは当然だと思います。
私が独裁政権と考える理由は、LGBTQ+の保護に消極的であり、同性婚について長年"検討"している点です。また、インボイス制度や共同親権の問題についても、広い賛同を得ることなく進められたことから、私はこの政権を支持していません。
前首相が市民によって殺されたことはあってはならないことであり、そのような死に繋がる言葉は慎重に扱われるべきです。しかし、"くたばれ"という言葉は、私は政権打倒の意味だと解釈します。死に繋がる言葉とは解釈しません。
"Drop dead" is not a call to violence. It's just a popular expression to reject a comment. It's like "Get lost." It did not violate Meta's terms of use.
SNSは自身の考えを発信する重要なツールであります。極度に削除する対応は言論統制になりかねず、慎重であるべきです。また、誹謗中傷の捉え方は、個々人によって、様々であります。
例えば、問題となっている「くたばれ」、「メガネ」という言葉も、その単語自体が必ずしも悪い意味ではありません。
一定の基準を制定して、（一般に公表しないとしても）明確化しておく必要があります。
また、ユーザーに対して、削除の前に、警告をするというのも、ある程度効果があると考えます。
そして、誹謗中傷に対しての対応は不偏不党である必要があります。今回、決めた決定は、岸田氏だけでなく、他の政治家や著名人、一般のユーザーへの誹謗中傷に対しても、同様の基準で行う必要があります。
また、日本では、著名人の写真を無断で使用し、Facebook等で詐欺行為を行っていることが、社会問題となっています。これに対する取り締まりの強化は、この問題同様、真剣に取り組まれることを望みます。
今回のMetaの決定に同意します。
政治家に対する批判は民主主義国家において最も守られるべき言論の自由の一つです。
「くたばれ」という表現は死を連想させるよりも(政治的に)痛い目に遭わないかなぁといった社会的地位の低下を望むコメントのように見えます。
削除は不当でしょう。
メガネの揶揄については日本ではあまりルッキズムに対する意識の広がりが見られず気にしない人が多勢ではないでしょうか。