Estratégias de enfrentamento ao discurso de ódio na internet: o caso alemão
| Autor | Thiago Dias Oliva - Dennys Marcelo Antonialli |
| Cargo | Universidade de São Paulo (USP), São Paulo, SP, Brasil. Doutorando em Direito. E-mail: thiago.dias.oliva@gmail.com - Universidade de São Paulo (USP), São Paulo, SP, Brasil. Doutor em Direito. E-mail: dennys@internetlab.org.br |
| Páginas | 29-44 |
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
29
DOI: http://dx.doi.org/10.20912/rdc.v13i30.2656
ESTRATÉGIAS DE ENFRENTAMENTO AO DISCURSO DE ÓDIO NA
INTERNET: O CASO ALEMÃO
STRATEGIES FOR ADDRESSING HATE SPEECH ON THE INTERNET IN GERMANY
Thiago Dias OlivaI
Dennys Marcelo AntonialliII
I Universidade de São Paulo (USP), São Paulo, SP, Brasil. Doutorando em Direito. E-mail:
thiago.dias.oliva@gmail.com
II Universidade de São Paulo (USP), São Paulo, SP, Brasil. Doutor em Direito. E-mail:
dennys@internetlab.org.br
Resumo: O discurso de ódio, muito embora seja
um problema amplamente reconhecido,
permanece controverso em diversos aspectos que
vão desde a sua definição, os parâmetros para sua
identificação no caso concreto até a resposta que
se deve dar a ele, sobretudo do ponto de vista
jurídico. O ambiente virtual veio acrescentar mais
uma camada de complexidade ao problema,
colocando novos obstáculos à construção de uma
sociedade inclusiva e multicultural. Neste
contexto, o Governo Federal da Alemanha
aprovou lei mais agressiva n o combate ao
discurso de ódio na Internet. Em paralelo à
aprovação da nova lei, novas iniciativas
independentes surgem com o objetivo de fazer
frente à crescente disseminação do ódio nas redes.
Para tanto, são desenvolvidas abordagens
alternativas centradas na noção de contradiscurso.
Considerando qu e o combate à disseminação de
ódio é uma questão premente também no Brasil, o
presente trabalho propõe-se a investigar c om
maior detalhamento as estratégias de
enfrentamento ao problema na Alemanha, com o
objetivo de propor reflexões em território nacional
sobre o caminho ideal para combater o problema
por aqui. O estudo será norteado pelas seguintes
perguntas: as iniciativas regulatórias propostas
para combater o discurso de ódio online na
Alemanha representam risco à liberdade de
expressão? Existem outras formas de enfrentar o
problema?
Palavras-chave: Alemanha. Discurso de ódio.
Plataformas de Internet. Redes sociais.
Abstract: Hate speech is widely acknowledged as
a problem. However, fighting against it remains
controversial due the lack of common
understanding regarding its definition, standards
for identifying it in concreto, as well as the best
way of addressing it, especially from the legal
standpoint. The digital environment added new
complexities to the issue, placing new obstacles to
the building of a more inclusive and multicultural
society. In this context, Germany’s Federal
Government approved a more aggressive law
designed to address hate speech on the Internet.
At the same time, new independent initiatives
developed to deal with online hate speech emerge.
For that matter, they employ counter speech
strategies. Considering that hate speech is an
issued to be addressed in Brazil as well, th e
present article intends to investigate in more detail
the strategies designed to tackle the problem in
Germany, with the objective of providing insights
for discussing the topic i n national territory,
aiming to find the best way to deal with the issue
in the country. The article will be guided by the
following qu estions: the regulatory policies
designed to tackle online hate speech in Germany
pose risks to free speech? Are there alternative
ways to address the issue?
Keywords: Germany. Hate speech. Internet
platforms. Social media.
Sumário: 1 Introdução; 2 O conceito de discurso de ódio; 3 O modelo de responsabilização das
plataformas na Alemanha; 4 As dificuldades das plataformas; 5 Alternativas: articulação da sociedade
civil; 6 Conclusão; Referências.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
30
1 Introdução
Como lidar com o discurso de ódio na Internet? Se mesmo antes da sua
disseminação nas redes sociais o problema já apresentava ob stáculos suficientes à
construção de so ciedades verdadeiramente multiculturais, o ambiente virtual veio
acrescentar mais uma camada de complexidade à questão.
Na União Europeia, onde a discussão já está mais avançada – ao menos em
termos de consolidação de diretivas e orientações de órgãos supranacionais sobre a
matéria – a preocupação com o discurso de ódio avançou para o ambiente digital.
Em maio do ano passado, a Comissão Europeia, em conjunto com o Facebook, a
Microsoft, o T witter e o YouTube, subscreveram um código de conduta para
combater o discurso de ódio
1
. Dentre as diversas disposições do documento, as
plataformas assumira m o compromisso de remover conteúdo tido por “discurso de
ódio ilegal” em até 24 horas contadas de notificação solicitando essa remoção. Além
disso, deveriam tornar mais claro aos seus usuários quais tipos de co nteúdo não são
permitidos e promover iniciativas de contradiscurso.
Passado um ano da divulgação do código de conduta, a Comissão Europeia
soltou nota
2
comemorando o aniversário da iniciativa e números que comprovariam
uma postura mais proativa das plataformas para lidar com o prob lema do discurso de
ódio: em média, em 59% dos casos as e mpresas teria m respondido às notificações
relatando a existência de discurso de ódio por meio da re moção do conteúdo
indicado (o dobro em relação aos seis meses que antecederam o código, quando o
índice era de apenas 28%). Teria havido ta mbém, melhora nos índices de
processamento das notificações em 24 horas: de 40% para 51%, sendo o Facebook a
única plataforma que conseguiu atingir a meta d e analisar integralmente as
notificações no prazo de um dia.
Os números atestariam, deste modo, um visível progresso das plataformas na
análise das notificações, na implementação de parcerias com a sociedade civil para
esse fim, bem como na prestação sistemática de informações sobre processos
internos de remoção de conteúdo – ainda que a qualidade des sas informações e o
índice de resposta às notificações varie consider avelmente entre as empresas de
tecnologia.
Para o Governo Federal da Alemanha, no entanto, a iniciativa não pareceu ser
o suficiente haja vista a aprovação, no dia 30 de junho de 201 7, de lei mais agressiva
no combate ao discurso de ódio na Internet
3
. Ela fixa multas milionárias em caso de
1
Para ver o documento acessar:
17-1471_en.htm> [https://perma.cc/42XA-PEGR], acesso em 23
online-code-of-conduct.pdf> [https://perma.cc/X3Y8-JRFE].
2
COMISSÃO EUROPEIA. Countering online hate speech – Comission initiative with social media
platforms and ci vil society shows progress. Bruxelas, 1º de junho de 2017. Disponível em:
jul 2018.
3
ALEMANHA. Gesetzentwurf der Fraktionen der CDU/CSU und SPD - Drucksache 18/12356. Berlin:
Bundestag, 2017. Disponível em: . Acesso
em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
31
descumprimento
4
por parte das plataformas, que deverão remover conteúdos
“claramente ilícitos” em até 24 horas.
O projeto de lei que culminou na nova le gislação aponta como justificativa o
desenvolvimento de uma cultura do debate mais “agressiva, danosa e odiosa”,
guiada por mudanças maciças no debate p úblico travado nas redes sociais. Essa
situação teria aberto espaço para a disseminação de conteúdos criminosos como o
discurso d e ódio, o que colo caria em risco a coexistência pacífica das pessoas em
uma sociedade livre, multicultural e democrática.
Outro setor que compartilha da insatisfação do governo alemão em relação às
iniciativas tomadas pelas plataformas para combater o discurso de ódio parece ser a
sociedade civil: em paralelo à aprovação da nova lei, novas iniciativas
independentes – a exemplo do projeto #Ichbinhier – surgem com o ob jetivo de fazer
frente à crescente disseminação do ódio nas redes. Para tanto, utilizam-se de
abordagens alternativas centradas na noção de contradiscurso, de modo a promover
o multiculturalismo e a diversidade.
Considerando que o combate à disseminação de ódio é uma questão p remente
também no Brasil, o p resente trabalho propõe-se a investigar com maior
detalhamento as estratégias de enfrentamento ao problema na Alemanha e suas
dificuldades, com o objetivo de propor reflexões em território nacional. O estudo
será norteado pelas seguintes perguntas: as iniciativas regulatórias propostas para
combater o discurso de ódio online na Alemanha representam risco à liberdade d e
expressão? Existem outras formas de enfrentar o problema?
No entanto, antes de responder a essas perguntas e como condição para
desenvolver as análises propostas a partir delas, o artigo definirá, por meio da
análise de doutrina produzida sobre o assunto, os contornos conceituais do termo
“discurso de ódio”.
Na sequência, retornando às perguntas, o presente estudo fará análise das
principais normas aprovadas no país europeu com a finalidade de regular o discurso
na internet, sobretudo nas redes sociais. A análise ficará centrada, sobretudo, no
texto da Lei de Aprimoramento da Impleme ntação de Normas nas Redes Sociais e
nas dificuldades das plata formas digitais no combate ao discurso de ódio. Além
disso, o artigo investigará o propósito e os mecanismos de funcionamento do projeto
#Ichbinhier, iniciativa da sociedade civil que propõe uma abordagem alternativa ao
discurso de ódio disse minado no Facebook, red uzindo seu impacto negativo p or
meio de estratégias de contradiscurso.
2 O conceito de discurso de ódio
Sarmento defi ne o “discurso de ódio” ou hate speech como “manifestações
de ód io, despr ezo ou intolerância contra determinados grupos, motivadas por
4
CLARK, Liat. Facebook and Twitter face 50€m fines of they don’t tackle hate speech. Wired, 30 de
junho de 2017. Disponível em:
fine>. Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
32
preconceitos ligados à etnia, religião, gênero, deficiência física ou mental e
orientação sexual, dentre outros fatores”
5
.
Identificando elementos convergentes na definição jurídica de discurso de
ódio empregada por democracias ocidentais, Waldron, ressalta que e sses países
regulam “o uso de palavras que são deliberadamente abusivas e/ou insultantes e/ou
ameaçadoras e/ou humilhantes direcionadas a membros de minorias vulneráveis, de
modo a instigar ao ódio contra elas”
6
.
Como o uso do termo “discurso” para tratar de expressões de ódio demonstra,
o “discurso de ódio” deve ser interpretado como um “ato discursivo”, em virtude de
seu caráter emi nentemente comunica tivo. Nessa ca tegoria, encontram -se
manifestaçõe s escritas – em documento eletrônico, dissemin ado na inter net ou em
papel i mpresso ou –, orais ou visuais – veiculação/exi bição de símbo los ou
imagens. São expre ssões que se tornam, de forma “permanente ou
semipermanent e, parte visível do ambiente em que nós [pessoas em geral] e o s
membros de grupos vulneráveis co nduzem suas vidas”
7
.
A preponderâ ncia do ele mento comunicativo na manife stação de ód io é
justame nte a prin cipal diferen ça em relaç ão aos crime s de ódio em sentid o
estrit o. Para Je remy Waldro n, essa fo rma de dis curso tem por objeti vo principa l,
a transmis são de duas mensagens : u ma, de conteúdo intimid atório, dirigid a a
membro s de um g rupo s ocialmente vulneráve l e outra, visando à instigação ao
ódio, destina da ao re stante da sociedade em que o gru po em qu estão est á
inserido
8
.
Há também a transmissão de uma me nsagem discriminatória nos crimes
motivados pelo preconceito, mas a ê nfase da conduta recai no ato de desvalor contra
a integridade patr imonial ou física da vítima. É importante ressaltar, entretanto, que
o discurso de ódio – da mesma forma que o crime odioso em sentido estrito – é uma
conduta, não constituindo mera opinião.
Françoise Tulkens, ao tratar desse assunto no artigo intitulado “When to say
is to do: Freedo m of exp ression and h ate speech in the case-law of the European
Court of Human Rights”, afirma que a Corte Europeia de Direitos Humanos
considera o hate spee ch como uma conduta, e não uma mera opinião. No
entendimento d o autor, essa é uma inversão conceitual essencial para que a
regulação do discurso se mostre viável em um contexto democrático:
em uma democracia, uma pessoa não pode ser incriminada com base na sua
opinião, mas apenas em virtude de um comportamento. Isso significa que as
palavras não devem ser submetidas a nenhuma forma de restrição? Não.
Quando consideramos a questão a partir dessa p erspectiva, o foco muda. A
questão não é ma is que ti pos de opi nião ou expressão e stão de a cordo com
a lei ou não, ma s quais at os discursiv os são co mpatíveis c om a democr acia
5
SARMENTO, Daniel. Liv res e Iguais: estudos de Direito Constitucional. Rio de Janeiro: Lumen Ju ris,
2006, p. 208.
6
Tradução livre de “the use of words which are deliberately abusive and/or insulting and/or threatening
and/or demeaning directed at members of vulnerable minorities, calculated to stir up hatred against
them”. WALDRON, Jeremy. The harm in hate speech. Cambridge: Harvard University, 2012. E-book
versão Kobo. p. 16 do Capítulo 1.
7
WALDRON, Jeremy. Op. cit., E-book versão Kobo. p. 8 do Capítulo 3.
8
WALDRON, Jeremy. Op. cit., E-book versão Kobo. p. 3 do Capítulo 1.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
33
e quai s não s ão. Quand o constat ada a su a ocorrên cia, o discurso de ódio é
um ato, e n ão mera opi nião
9
.
Em resumo, o discurso de ódio é uma conduta eminentemente comunicativa,
o que significa tratar -se de uma ação – não se limi tando, portanto, ao plano das
ideias e, por isso, gerando efeitos materiais – que tem por objetivo a transmissão de
mensagens. Em virtude dessa capacidade de gerar efeitos materiais, Swiebel e van
der Veur assi nalam que o discurso de ódio pode ser considerado um tipo específico
de crime de ódio, constituindo, da mesma forma, um tipo de violência
10
.
O caráter extremo do discurso de ódio não se constata a par tir das palavras ou
imagens utilizadas na manifestação da intolerância, mas do seu efeito: intimidar um
grupo social, negando aos seus integrantes, direitos de sua titularidade. Além disso,
insta-os a deixar o espaço público, por meio de sua inferiorização e, em alguns
casos, desumanização
11
.
Além de intimidar um grupo social específico, o conteúdo discriminatório do
discurso de ódio insta outros integrantes da sociedade ao ódio contra os membros da
minoria em questão, alimentando a intolerância. Para atingir esse objetivo, vincula
religião, etnia, procedência nacional, orientação sexual ou outra característica
identitária do grupo social visad o a comportamentos ou características avaliados
negativamente pela sociedade. A ideia é trazer à tona a rejeição latente, no tecido
social, a uma determinada minoria.
O destinatário do discurso odioso é, direta o u indiretamente, um grupo social:
uma coleti vidade p ercebida enquanto tal pela sociedad e e pelos próprios membr os
do grupo que compartilham de caracter ísticas identitárias comuns e nutrem
sentimento mútuo de identificação. Swiebel e van der Veur mencionam, a título de
exemplo, as manifestações de ódio dirigidas ao público LGBT em debates políticos
sobre direitos das minorias sexuais ou dura nte contraprotestos em even tos como
passeatas do orgulho gay
12
.
Cabe ressaltar, contudo, que o discurso de ódio pode tomar a forma de uma
agressão verbal, visual ou escrita dirigida a apenas uma pessoa no espaço público.
Nesse caso, a ação é interpretada como discurso de ódio sempre que, indiretamente,
visar a um grupo social, i.e., quando o ato comunicativo discriminar a vítima tendo
9
Tradução livre. TULKENS, Françoise. When to say is to do: freedom of expression and hate speech in
the case-law of the European Court of Human Rights. Estrasburgo, 2012. Disponível em:
ntation_When_to_Say_is_To_Do_Freedom_of_Expression_and_Hate_Speech_in_the_Case_Law_of_the
_ECtHR_October_2012.pdf> [https://perma.cc/KY7L-8WWN]. Acesso em: 23 jul. 2018.
10
SWIEBEL, Joke; van der VEUR, Dennis. Hate crimes against lesbian, gay, bisexual and tr ansgender
persons and th e policy response of internat ional gov ernmental organization s. In: Netherland s
Quarter ly of Human Rights, An tuérpia, v. 27, n. 4, p . 6, dez. 2 009.
11
O discurso de ódio representa um grupo social específico, implícita ou explicitamente, como algo
desprezível e menos que humano. Segundo Mullen e Leader, a tendência de utilizar insultos ba seados em
características identitárias de grupos “externos” pode corresponder ao processo por meio do qual as
pessoas p rescrevem caráter humano ao grupo a o qual pertencem, “infra-humanizando” outros grupos.
MULLEN, Brian; LEADER, Tirza. Linguistic Factors: Antilocutions, Ethnonyms, Ethnophaulisms, and
Other Varieties of Hate Speech. In: DOVIDIO, John F.; GLICK, Peter; RUDMAN, Laurie A. On the
Nature of Prejudice – fifty years after Allport. Oxford: Blackwell, 2005, p. 199.
12
SWIEBEL, Joke; van der VEUR, Dennis. Op. cit., P. 6.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
34
em vista o seu pertencimento a determinado grupo social. Caso contrário, a co nduta
representa insulto individual
13
que, dependendo das suas especificidades, poderia ser
interpretada, no contexto brasileiro, como um delito contra a honra – calúnia,
difamação ou injúria.
Os grupos sociais visados por manifestações de ódio tê m natureza
minoritária
14
, i.e., constituem setores “desempoderados” e marginalizados da
sociedade. O propósito do discurso é afirmar a inferioridade de deter minado grupo
com a fi nalidade de ne gar o reconhec imento de dire itos de sua ti tularidade.
Desta forma, sã o as mino rias que se encont ram mais vulneráve is a ele. Algumas
defini ções de discu rso de ódio listam, inclusi ve, as ideolo gias que podem
aliment á-lo, de modo que uma determin ada man ifestação será conside rada
“discu rso de ód io” apenas quando estiver apoiada em uma ou mai s dessas
ideolo gias.
A conformação de um grupo minoritário deve ser analisada em um contexto,
i.e., na sociedade em q ue ocorre a agressão verbal, visual ou escrita. Isso porque a
existência de uma “minoria” – e a necessidade de construção de mecanismos
protetivos destinados ao se u “empoderamento” – pressupõe uma relação desigual de
poder entre um grupo dominante ou “majoritário” e outro dominado ou
“minoritário”. Assim, a acepção de minoria empregada no presente est udo não é
numérica, mas política
15
.
Em resumo, o discurso de ódio pode ser definido como um ato discursivo de
caráter extremo, pautado por percepções subjetivas abstrata s e negativas em relação
a um grupo minoritário específico, visando, direta ou indiretamente, à reafirmação
de hierarquias construídas social mente – a subordinação de minorias, seja m elas
religiosas, étnicas, de gênero, sexuais ou quaisquer outras – por meio da intimidação
e da promoção da intolerância. Ainda que não o faça de forma explícita, essa forma
de discurso nega ao grupo minoritário visado a extensão de direitos que, a partir de
uma acepção material da igua ldade, são de sua titularidade. É, assim, uma cond uta
discriminatória
16
.
Estabelecido o conceito de discurso de ódio, cabe agora entender o modelo
alemão de responsabilização dos provedores de ser viços na Internet pela publicação
de conteúdos de terceiro – inclusive mensagens veiculando discurso de ódio.
3 O modelo de responsabilização das plataformas na Alemanha
Na União Europeia (UE), a responsabilidade das plataformas de Internet pela
publicação de conteúdo de terceiros é regulada, a nível supranacional, pela Diretiva
2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000. A
normativa estabelece, em seu artigo 14, r egra segundo a qual os pr ovedores de
serviço na Internet não devem ser responsabilizados por “ informação armazenada a
13
MEYER-PFLUG, Samantha Ribeiro. Liberdade de expressão e discurso de ódio. São Paulo: Revista
dos Tribunais, 2009, p. 102.
14
Ibid., p. 97.
15
OLIVA, Thiago Dias. Minorias sexuais e os limites da liberdade de expressão: o discurso de ódio e a
segregação social dos indivíduos LGBT no Brasil. Curitiba: Juruá, 2015, p. 55.
16
Ibid.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
35
pedido de um destinatário do serviço”, conquanto não tenham “conhec imento efetivo
da atividade ou informação ilegal ” e “a partir do momento em que tenha[m]
conhecimento da ilicitude, atue[m] com diligência no sentido de retirar ou
impossibilitar o acesso às informações”
17
. O artigo 15 estabelece, ainda, que os
Estados-Membros não deverão impor aos provedores de serviço “ obrigação geral de
vigilância sobre as informações que estes transmitam ou armazenem, ou uma
obrigação geral de procurar ativamente fatos ou circunstâncias que indiciem
ilicitudes”.
Em outras palavras, optou-se por um modelo de responsabilização por meio
do qual as plataformas poderão ser passíveis de responsabilização apenas após
tornaram-se cientes de que hospedam/armazenam conteúdo de caráter ilegal
18
. No
entanto, é o direito interno do s países que, observando essa “zona livre” de
responsabilização estabelecida pela Diretiva, deter mina em que cir cunstâncias os
provedores devem ser responsabilizados
19
.
Essa lógica foi incorporada pela Lei Alemã de Telemídia
20
, atualmente em
vigor. Nos ter mos estabelecidos pela lei, as plataformas tornam-se responsáveis por
conteúdos ilícitos armazenados caso não os removam (ou bloqueiem) assim que
tomem conhecimento da sua existência. A lei aprovada no dia 30 de junho d e 2017,
batizada de Lei de Aprimoramento da Implementação de Normas nas Redes Sociais
(ou NetzDG), veio apenas concretizar essa obrigação, criando instrumentos para que
o Estado possa constranger as plataformas a atendê-la.
Uma das ex igências da nova lei é a estruturação de sistemas para gestão dos
pedidos de remoção de conteúdo. A obrigação envolve desde a elaboração de
métodos simples para reportar conteúdo tido por ilegal
21
à manutenção de canais
17
É importante mencionar que o preâmbulo da Diretiva, item 42, limita a isenção de responsabilidade aos
casos em que a atividade do provedor de serviços seja limitada ao “processo técnico de exploração e
abertura do acesso a uma rede de comunicação na qual as informações prestadas por terceiros são
transmitidas ou temporariamente armazenadas com o propósito exclusivo de tornar a transmissão mais
eficaz [...] atividade [ ...] de natureza passiva, o que implica que o provedor de serviços de internet não
tem conhecimento da informação transmitida ou armazenada, nem o controle dela”.
18
No Brasil, o Marco Civil da Internet ( LeiNº 12.965, de 23 de abril 2014) estabelece, em seu artigo 19,
a possibilidade de responsabilização das plataformas (“provedores de aplicação”) por danos decorrentes
de conteúdo gerado por terceiros apenas quando, “ após decisão judicial específica, não tomar[em] as
providências para [...] tornar indisponível o conteúdo apontado como infringente”. A exceção à regra se
dá para conteúdo que viole a intimidade de terceiro ao conter cenas de nudez ou de atos sexuais de caráter
privado divulgadas sem a sua autorização. Nesse caso, a plataforma será responsabilizada
subsidiariamente se, notificada pelo participante das imagens ou por seu representante legal, não
indisponibilizar o conteúdo (art. 21) – ou seja, não h á necessidade de uma decisão judicial afirmando o
caráter ilícito do conteúdo. É importante ressaltar, ainda, que o regime geral de responsabilização dos
provedores de aplicação também não se aplica a violações de direito autoral (art. 19, §2º).
19
HUSOVEC, Martin. European Intermediary Liability Framework. In: Injunctions Against
Intermediaries in the European Union: Accountable But Not Liable? Cambridge: Cambridge University
Press, 2017, p. 50-72.
20
ALEMANHA. Telemediengesetz (TMG). Berlin: Bundestag, 2007. Disponível em:
2018.
21
A NetzDG define como “conteúdo ilegal” aquele que preenche os requisitos dos tipos penais 86
(disseminação de p ropaganda de organizações inconstitucionais), 86a (uso de símbolos de organizações
inconstitucionais), 89a (preparações para ação violenta com risco para o Estado), 90 (difamação do(a)
Presidente), 90a (difamação do Estado e de seus símbolos), 90b (difamação de órgãos constitucionais), 91
(encorajamento para a prática de ação violenta que coloque o Estado em risco), 100a (falsificação), 111
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
36
para que o usuário se informe a respeito de eventual pedido de remoção apresentado
por ele. Caso tal sistema não seja adequadamente estr uturado pelas redes sociais e
colocado à disposição de seus usuários, elas estarão sujeitas a multas no valo r de até
5 milhões de euros
22
.
Nos termos do art. 1º da NetzDG, a lei vincula “provedores de serviço de
telemídia [...] que permitem a usuários trocar entre si conteúdos de qualquer
natureza [...] publicamente ac essíveis (redes sociais)”. Plataformas com co nteúdo de
caráter j ornalístico, pro duzido pela pró pria plataforma, não são consideradas “rede
social” para os fins da lei. Igualme nte excluídas de s eu escopo de aplicação
encontram-se redes sociais com menos de 2 milhões de usuários na Alemanha
23
.
Com o objetivo de fazer com que as redes sociais honrem o compromisso
assumido ao assinar o código de conduta com a Comissão Europeia em 2016 , a
NetzDG torna obrigatória a remoção de conteúdos “claramente” ilícitos em até 24
horas do recebimento de ped ido nesse sentido – ou dentro de sete dias, no caso de
conteúdos cuja ilicitude é menos evidente
24
. A NetzDG impõe, ainda, dever de
transparência, carac terizado pela elaboração trimestral de relató rios, na língua
alemã, que descrevam com riqueza de detalhes e dad os o tratamento dispensado ao
controle do discurso de ódio e de outros conteúdos criminosos.
Segundo o Governo Federal Alemão
25
, a importância da NetzDG decorre da
insuficiência das iniciati vas tomadas de forma autônoma pelas platafor mas e dos
problemas de implementação das normas já existentes, o que tornou necessária a
introdução de regras de compliance.
Modelos que facilitam as situações de respo nsabilização das plataformas
aumentam o risco de overbl ocking – isto é, o estímulo às platafor mas para que
(incitação pública ao crime), 126 (violação da paz pública por meio de ameaça à prática de crimes), 129
(formação de organização criminal), 129a (formação de organização terrorista), 129b (atividade terrorista
no exterior), 130 (incitação ao ódio) – tipo penal empregado no combate ao discurso de ódio na
Alemanha –, 131 (disseminação de violência gráfica), 140 (aprovação de ofensas), 166 (difamação de
religiões e d e associações religiosas ou ideológicas), 184b (disseminação, aqui sição ou posse de
pornografia infantil), 184d (disseminação de performances sexuais por meio de serviços de mídia ou
telecomunicação), 185 (injúria), 186 (difamação), 187 (difamação intencional), 241 (ameaça de prática de
crime) ou 269 (falsificação de dados para fins de prova) do Código Penal Alemão.
22
§4 Bußgeldvorschriften […] (2) Die Ordnungswidrigkeit kann in den Fällen des Absatzes 1 Nummer 7
mit einer Geldbuße bis zu fünfhunderttausend Euro, in den übrigen Fällen des Absatzes 1 mit einer
Geldbuße bis zu fünf Millionen Euro geahndet werden.
23
Tradução livre. Cf.: §1 Anwendungsbereich (1) Dieses Gesetz gilt für Telemediendiensteanbieter, die
mit Gewinnerzielungsabsicht Plattformen im Internet betreiben, die es Nutzern ermöglichen, beliebige
Inhalte mit anderen Nutzern auszutauschen, zu teilen oder der Öffentlichkeit zugänglich zu machen
(soziale Netzwerke). Plattformen mit journalistisch-redaktionell gestalteten Angeboten, die
vomDiensteanbieter selbst verantwortet werden, gelten nicht als soziale Netzwerke im Sinne dieses
Gesetzes. (2) Der Anbieter eines sozialen Netzwerks ist von den Pflichten nach den §§ 2 und 3 befreit,
wenn das soziale Netzwerk im Inland weniger als zwei Millionen Nutzer hat.
24
§ 3 Umgang mit Beschwerden über rechtswidrige Inhalte. […] (2) der Anbieter des sozialen
Netzwerks […] 2. einen offensichtlich recht swidrigen Inhalt innerhalb von 24 Stunden nach Eingang d er
Beschwerde entfernt oder den Zugang zu ihm sperrt; dies gilt nicht, wenn das soziale Netzwerk mit der
zuständigen Strafverfolgungsbehörde einen längeren Zeitraum für die Löschung oder Sperrung des
offensichtlich rechtswidrigen Inhalts vereinbart hat, 3. jeden rechtswidrigen Inhalt innerhalb von sieben
Tagen nach Eingang der Beschwerde entfernt oder den Zugang zu ihm sperrt.
25
ALEMANHA. Bundestag beschließt Gesetz gegen strafbare Inhalte im Internet. Berlin: Bundestag,
2017. Disponível em: iv/2017/kw26-de-
netzwerkdurchsetzungsgesetz/513398>. [https://perma.cc/D2JZ-4E5S]. Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
37
censurem mais conteúdo do que o necessário, o que pode representar uma ameaça
para a liberdade de expressão e a manutenção de conteúdos legítimos no ar. No
contexto alemão, esse argumento foi considerado insuficiente para demover o
Parlamento da ideia de combater o v olume crescente de mensagens xenófobas que
circulam no país por meio da nova lei.
Ao endurecer o seu mod elo regulatório de responsabilidade de
intermediários, depositando nas plataformas a tarefa de atuar de forma mais proativa
no combate a discursos e con teúdos ofensivos, a Alemanha busca promover o
estabelecimento de uma sociedade multicultural.
Na teoria de Will Kymlicka, por exemplo, encontram-se fundamentos que
justificariam a adoção de um modelo jurídico diferenciado para minorias através de
uma “Teoria do Multiculturalismo”. Essa teoria seri a dirigida às culturas
minoritárias entendidas, no s eu recorte conceitual, como “nações”. Isso porque a
chamada “cultura societal” oferece aos membros da sociedade “estilos significativos
de vida e abrange todo o conjunto de atividades humanas”.
26
4 As dificuldades das plataformas
Ao dar mos um passo para trás nessa discussão, veremos que o discurso de
ódio, muito embora seja um problema amplamente reconhecido em muitos países,
permanece controverso em diversos aspectos que vão desde a sua definição, os
parâmetros para sua identificação no caso concreto até a respo sta que se deve dar a
ele, sobretudo do ponto de vista jurídico. E essas d ificuldades se dão, em grande
medida, pela natureza co ntextual do discurso de ódio: tanto os grupos tidos por
vulneráveis, quanto a forma de externalização da mensagem intimidatória que
caracteriza essa forma de discurso podem variar de país a país (ou até de região a
região dentro de um mesmo país).
Definir critérios e regras que norteiem a distinção entre conteúdos legítimos e
manifestações de ódio é tarefa tão delicada que pode acabar gerando distorções. Em
matéria
27
publicada no último dia 28 de junho, por exe mplo, a ProPublica divulgou
documentos contendo algumas das orientações internas que o Facebook utilizaria
para treinar seus moderadores de conteúdo.
Nos termos dos slides de treinamento divulgados, explica-se quais são as
categorias consideradas co mo protegidas (gênero, identidade de gênero, raça,
afiliação religiosa, etnia, orige m nacional, orientação sexual, séria deficiência ou
doença) e quais não são (classe social, profissão, origem de continente, ideologia
política, aparência, religiões, idade, países). Isso significa que a categoria “criança”
(idade) não é protegida e a categoria “gay” é (orientação sexual), por exemplo.
Quando as categorias são somadas em grupos, a presença de uma “categoria não
protegida” desclassifica o grupo como protegido, desaconselhando-se a remoção do
conteúdo tido como ofensivo nesses casos. Isso significa dizer, por exemplo, que
26
KYMLICKA, Will. Multicultural Citizenship: a liberal theory of minority rights. Oxford: Oxford
University, 1995.
27
ANGWIN, Julia; GRASSEGGER, Hannes. Facebook’s Secret Censorship Rules Protect White Men
from Hate Speech b ut not Black Children. ProPublica, 28 de junho de 2017. Disponível em:
Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
38
discursos d irigidos ao grupo “crianças negras” ou ao grupo “motoristas mulheres”
não seriam considerados como discurso de ódio pela platafor ma, ao passo que
aqueles dirigidos a “homens brancos” sim.
Em pronunciamento em junho de 2017
28
, o Facebook reconheceu
dificuldades em tornar a plataforma uma “zona livre” de discurso de ódio. Destacou
que vai aumentar de 4,5 para 7,5 mil o número de moderadores d e conteúdo, pessoas
contratadas e treinadas especificamente para analisar posts, imagens, vídeos e
comentários, decidindo se d evem continuar na plataforma. Além do Faceboo k,
outras plataformas co mo Twitter
29
e YouTube
30
anunciaram estar articulando regras
globais e ferramentas para a minimizar o efeito do discurso de ódio nas p lataformas
para torná-las espaços mais seguros. Mesmo assim, o desafio de operar
simultaneamente em d iversas jurisdições e estimular o fluxo de mensagens entre
pessoas localizadas em países diferentes é grande.
De fato, o conceito de “discurso de ódio” varia de país para país, sendo que
em muitos deles sequer há legislação específica, o que expõe as plataformas a
legislações aplicáveis que podem exigir pro vidências diferentes e, em alguns casos,
contrapostas. Além disso, outras questões de contexto relacionadas à cultura, à
política e ao idioma devem ser levadas em conta pelo s moderadores de conteúdo
31
, o
que torna a tarefa ainda mais complexa.
5 Alternativas: articulação da sociedade civil
Paralelamente às medidas do poder público e aos compromissos assumidos
pelas plataformas, outras iniciativas como o #Ichbinhier (ou “#Euestouaqu i”, em
português), da socied ade civil, propõem formas alternativas de combate ao discurso
de ódio na Internet.
O grupo
32
, fundado em dezembro de 2016 e inspirado na iniciativa sueca
#jagärhär, tem por objetivo intervir com firmeza sobre co mentários que disseminam
o ódio em plataformas na Internet, reduzindo seu potencial de dano. Formulada no
formato de grupo fechado no Face book, a iniciativa conta com mais de 36 mil
membros que se articulam, de maneira voluntária, com o objetivo de reduzir o
impacto negativo causado pelo discurso de ódio no ambiente digital. Nos termos do
estatuto do grupo:
28
ALLAN, Richard. Hard Questions: Hate Speech. Facebook, 27 de junho de 2017. Disponível:
29
TIKU, Nitasha; NEWTON, C asey. Twitter CEO: ‘We suck at dealing with abuse’. The Verge, 4 de
fevereiro de 2015. Disponível em:
utube-facebook-reddit-
taking-personal-responsibility-for-the>. Acesso em: 23 jul. 2018.
30
JUNIUS, Lie. Our commitment to fighting illegal hate speech online. Google, 31 de maio de 2016.
Disponível em: to-fighting-illegal-
hate_39/>. Acesso em: 23 jul. 2018.
31
BUNI, Catherine; CHEMALY, Soraya. The secret rules of the internet. The Verge. Disponível em:
censorship-free-speech>. Acesso em: 23 jul. 2018.
32
A página do grupo pode ser acessada aqui: https://www.facebook.com/groups/718574178311688/. Para
entrar, é preciso responder a três perguntas e ser aprovado por um dos moderadores. As perguntas são as
seguintes: (a) como você ficou sabendo a respeito do #Ichbinhier? (b ) quais temas são especialmente
importantes para você? (c) você leu a descrição do grupo e destravou as configurações de privacidade
para que possamos saber um pouco mais sobre você?
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
39
[...] o pluralismo como manifestação da liberdade de opinião é um fundamento
essencial da democracia. Tal pluralismo d e opiniões pressupõe que todos
estimem e respeitem t odos as pessoas que vivem dentro de um determinado
Estado, e que reconheçam a existência de diferentes opiniões, objetivos e
aspirações.
33
Uma vez aceitos para integrar o #Ichbinhie r, os membros do grupo d evem
atenuar o conteúdo de posts públicos na plataforma em meio a discussões fazendo
comentários positivos. Para fazê-lo, podem (i) identificar manifestações de ódio na
plataforma, comentá-las e compartilhar seu(s) comentário(s) no grupo; (ii) interagir
de forma positiva com co mentários feitos por outros membros do grupo (com
“curtidas” ou “amei”, por exe mplo); ou (iii) reportar ao Facebook posts com
conteúdo de ódio que violem leis ou causem danos a pessoas.
Cada contribuição feita pelos membros do grupo é marcada com a hashtag
#Ichbinhier. Quando um membro do grupo é visado por conta de um comentário que
fez, os demais juntam-se a ele na discussão, interagindo em grande escala com o seu
comentário e postando outros em apoio. Ao reagir maciçamente aos comentários de
caráter positivo, esses co mentários ganham maior visi bilidade na plataforma,
colocando as manifestações de ódio em segundo plano.
Para que o grupo tenha atuação mais eficiente e uniforme, ele conta com
pequenos manuais que auxiliam seus membros a identificar uma manifestação de
ódio, avaliar se ela ultrapassa – à luz do direito ale mão – o s limites da liberdade d e
expressão (para o fim de reportar às autoridades) e a deslegitimá-la
34
.
Iniciativas como como o # Ichbinhier tentam, com a sua abordagem,
desenvolver uma “paridade de ar mas” em relação a grupos que se articulam com a
finalidade de disse minar o ódio , colocando na prática a ideia – muitas vezes apenas
discutida em abstrato – do contradiscurso
35
.
33
Tradução live: “Pluralismus als Ausdruck der Meinungsfreiheit ist wesentliche Grundlage der
Demokratie. Ein solcher Meinungspluralismus setzt vo raus, dass jedermann Achtung und Respekt vor
allen Menschen hat, die in einem Staat leben, und die Existenz unterschiedlicher Meinungen, Ziele und
Hoffnungen anerkennt”.
34
A título de exemplo das orientações transmitidas para combater o ódio em discussões no Facebook,
pode-se mencionar: (i) a construção de alianças (uso de argumentos de outras pessoas engajadas na
mesma discussão, interagindo positivamente com eles), (ii) argumentação objetiva (destaque de forma
neutra dos erros/inverdades nos argumentos das pessoas que propagaram ódio), (iii) compartilhamento de
experiências (uso de histórias pessoais para dar mais valor à argumentação – o que pode levar à reflexão
do outro), (iv) introdução de questionamentos (levar o adversário à contradição fazendo perguntas diretas
sobre os fatos/argumentos apresentados); (v) uso do humor para deslegitimar os argumentos do adversário
(ironia auxilia a trazer à tona o absurdo de uma colocação); (vi) manutenção da calma e desescalada da
discussão (resposta agressiva afasta possíveis aliados e apenas diminui o nível da discussão); (vii)
desistência se não houver saída (caso esteja difícil vencer a discussão, deixá-la de lado para que outra
pessoa venha em a uxílio ou dar curta justificativa e sair do d ebate). Cf. #ICHBINHIER. Tipps für
Umgang mit Hate Speech im Netz. Disponível em:
35
O valor da iniciativa como forma d e empoderamento digital da sociedade civil no sentido de atuar de
forma independente no combate a um problema social grave -- como é a disseminação do discurso de
ódio –- foi reconhecido recentemente pelo Prêmio Grimme Online. O prêmio, concedido todos os anos
desde 2001 pelo Instituto Grimme -– instituição dedicada à pesquisa e prestação de serviços na área de
mídia e comunicação sediada na Alemanha –- a iniciativas de grande valor na internet, foi a tribuído ao
#Ichbinhier, em 2017, na categoria “especial” por sua motivação, pela atuação de seus moderadores e
pelo engajamento de seus membros. Para mais informações, Cf. GRIMME INSTITUT. Grimme Online
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
40
Essas iniciativas suscitam reflexões a respeito das diferentes estraté gias que
podem ser enca mpadas para a promoção de sociedades multiculturais. Sobre este
tema, Parekh propõe o estabelecimento de alguns critérios de o rientação para que se
estabeleçam sociedades multiculturais estávei s e coesas: (i) uma estr utura
fundamentada da autoridade consensual; (ii) um conjunto coletivo e aceitável de
direitos constitucionais; (iii) um Estado justo e imparcial; (iv) uma cultura comum
multiculturalmente constituída; (v) uma educação multicultural; (vi) u ma visão
plural e abrangente da identidade nacional.
36
Especialmente no que diz respeito ao “conjunto coletivo e aceitável de
direitos constitucionais”, cumpre salientar que o autor advoga no sentido de existir
um denominador comum mínimo entre as diferentes culturas, sendo admissível, nas
sociedades multiculturais, que se tutele a garantia desse conjunto mínimo de direitos
e liberdades. No caso do discurso de ódio, esse mínimo denominador comum estaria
ligado à obrigatoriedade de respeito à diversidade e à identidade dos indivíduos.
O direito à liberdade de expressão, nesse sentido, se tomado de for ma
absoluta, estaria fundado em uma co ncepção de igualdade, que, na prática, não se
sustentaria.
37
6 Conclusão
As dificuldades enfrentadas pelas plataformas no combate ao discurso de
ódio sugerem que, muito embora o problema deva ser combatido de diversas for mas,
inclusive por meio da remoção de conteúdo, transferir a res ponsabilidade de decidir
o que deve ou não ser considerado como discurso de ódio às plataformas pode ser
problemático. Nesse sentido, a utilização de critérios de análise criados pelas
plataformas pode se voltar contra os próprios grupos subalternizados na medida em
que podem dificultar estratégias de contradiscurso (como é o caso da postagem de
Didi Delgado, ativista ligado a questões raciais, que teve a postagem “todos os
brancos são racistas. Parta desse ponto de referência ou você já falhou ” removida
do Facebook, como também indica a reportagem da ProPublica)
38
.
Outro problema é a criação de óbices à fiscalização da lei nos países em que
esse tipo de discurso é regulado. Isso porque que, ao contrastar determinada conduta
Award 2017 - #ichbinhier. Disponível em:
award.de/2017/preistraeger/p/d/ichbinhier-1/>. Acesso em: 23 jul. 2018.
36
C f. PAREKH, Bhikhu. Rethinking multiculturalism: cultural diversity and political theory. London:
Macmillan, 2000, 367 p.
37
No campo dos autores ligados ao multiculturalismo, o conceito de igualdade é enfrentado por Parekh,
por exemplo. Para o autor, a igualdade se articula em diversos ní veis – da igualdade de respeito a direitos
até igualdade de poder. O autor se dedica então a elencar e descrever as dificuldades trazidas na
implementação do princípio de igualdade em sociedades multiculturais. Cf. PAREKH, Bhikhu.
Rethinking multiculturalism: cultural diversity and political theory. London: Macmillan, 2000, p. 257.
Outros autores, a partir de outros referenciais teóricos, constroem o debate sob a perspectiva da existência
ou não de valores intrínsecos ligados às liberdades. Ronald Dworkin, por exemplo, defende o valor
instrumental da liberdade de expressão para a construção de uma sociedade na qual os indivíduos,
entendidos como moralmente responsáveis, têm o direito de expor e de estarem expostos a quaisquer
discursos, aproximando o debate público da ideia d o chamado livre mercado de ideias. Cf. DWORKIN,
Ronald. Freedom’s Law: the moral reading of the American Constitution. Cambridge: Harvard
University Press, 1997, 416 p.
38
ANGWIN, Julia; GRASSEGGER, Hannes. op. cit.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
41
com os termos de uso da plataforma, os moderadores de conteúdo removerão o que
considerarem inadequado, mas provavelmente não reportarão eventual violação da
lei a autoridades públicas
39
, o que também gera um déficit de transparência.
Além de haver discussões sobre quais grupos devem s er protegidos do
discurso de ódio – no Brasil, c omo sabemos, não há lei cr iminalizando o discurso de
ódio contra LGBT s, muito embora tenhamos legislação nesse sentido coibindo o
racismo
40
, p or exemplo –, existem discussões questionando o uso do direito penal
para essa finalidade
41
, ou mesmo sobre como podemos identificar
42
, na prática, a
ocorrência de um discurso de ódio. A lista de dúvidas é grande e o debate p ermanece
em aberto.
Nesse cenário de dúvidas quanto à melhor maneira de regular o discurso na
Internet, iniciativas como o #Ichbinhier mostram que existem maneiras alternativas
de lidar com a disseminação de ódio nas redes com riscos menos significativos à
liberdade de expressão. Muito embora tenham caráter complementar – os membros
do #Ichbinhier apoiam-se, por exemplo, nos mecanismos de notificação de
conteúdos que violam os termos de uso do Facebook – estratégias de contradiscurso
estruturam-se em torno da lógica de que, para combater uma ideia abjeta, nada
melhor do que bo ns argumentos. Caso ap licado em larga escala, esse conceito, alé m
de reduzir a pressão sobre as plataformas para que removam conteúdos de maneira
excessiva, tem o p otencial para desenvolver uma cult ura de engajamento em
discussões menos superficiais.
Referências
ALEMANHA. Gesetzentwurf der Fraktionen der CDU/CSU und SPD - Drucksache
18/12356. Berlin: Bundestag, 2017. Disponível em:
_______. Telemediengesetz (TMG). Berlin: Bundestag, 2007. Disponível em:
_______. Bundestag beschließt Gesetz gegen strafbare Inhalte im Internet. Berlin:
Bundestag, 2017. Disponível em
netzwerkdurchsetzungsgesetz/513398>. Acesso em: 23 jul 2018.
39
MCNAMEE, Joe. Guide to the Code of Conduct on Hate Speech. European Digital Rights, 3 de junho
de 2016. Disponível em: ch/>. Acesso em: 23 jul. 2018.
40
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Brasília: Congresso Nacional. Disponível em:
41
MACHADO, Marta Rodriguez de Assis; LIMA, Márcia; NERIS, Natália. Racismo e insulto racial na
sociedade brasileira: Dinâmicas de reconhecimento e invisibilização a partir do direito. Novos Estudos, v.
35, 03, n. 106, pp. 11-28.
42
WEBER, Anne. Manual on hate speech. Estrasburgo: Council of Europe, 2009. Disponível em:
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
42
ALLAN, Richard. Hard Questions: Hate Speech. Facebook, 27 de junho de 20 17.
Disponível:
Acesso em: 23 jul. 2018.
ANGWIN, Julia; GRASSEGGER, Hannes. Facebook’s Secret Censorship Rules
Protect White Men from Hate Speech but not Black Children. ProPublica, 28 de
junho de 2017. Disponível em: ate-
speech-censorship-internal-documents-algorithms>. Acesso em: 23 jul. 2018.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Brasília: Congresso Nacional.
Disponível em: . Acesso em:
23 jul. 2018.
BUNI, Catherine; CHEMALY, Soraya. The secret rules of the internet . The Verge.
Disponível em:
.
moderator-history-youtube-facebook-reddit-censorship-free-speech>. Acesso e m: 23
jul. 2018.
CLARK, Liat. Facebook and Twitter face 50€m fines of they don’t tackle hate
speech. Wired, 30 de junho de 2017. Disponível em:
Acesso em: 23 jul. 2018.
COMISSÃO EUROPEIA. Countering online hate speech – Comission in itiative
with social media platforms and civil society shows progress. Bruxelas, 1º de junho
de 2017. Disponível em: 17-1471_en.htm>.
Acesso em: 23 jul. 2018.
DWORKIN, Ronald. Freedom’s Law: the moral reading of the American
Constitution. Cambridge: Harvard University Press, 1997.
HUSOVEC, Martin. European Intermediary Liability Framework. In: In junctions
Against Intermediaries in the European Union: Accountable But Not Liable?
Cambridge: Cambridge University Press, 2017, p. 50-72.
JUNIUS, Lie. Our commitment to fighting illegal hate speech online . Google, 31 de
maio de 2016. Disponível em: europe/our-
commitment-to-fighting-illegal-hate_39/>. Acesso em: 23 jul. 2018.
KYMLICKA, Will. Multicultural citizenship: a liberal theory of minority rights.
Oxford: Oxford University, 1995.
MACHADO, Marta Rodriguez de Assis; LIMA, Márcia; NERIS, Natália. Raci smo e
insulto racial na sociedade brasileira: dinâmicas de reconhecimento e invisibilizaçã o
a partir do direito. Novos Estudos, v. 35, 3, n. 106, p. 11-28.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
43
MEYER-PFLUG, Samantha Ribeiro. Liberdade de expressão e discu rso de ódio.
São Paulo: Revista dos Tribunais, 2009.
MCNAMEE, Joe. Guide to the Code of Conduct on Hate Speech. Europea n Digital
Rights, 3 de junho de 2016. Disponível em:
ceo-sent-memo-taking-
hate-speech/>. Acesso em: 23 jul. 2018.
MULLEN, Brian; LEADER, Tirza. Linguistic Factors: Antilocutions, Ethnonyms,
Ethnophaulisms, and Other Varieties of Hate Speech. In: DOVIDIO, J ohn F.;
GLICK, Peter; RUDMAN, Laurie A (Org.). On the Nature of Prejudice – fifty years
after Allport. Oxford: Blackwell, 2005.
OLIVA, Thiago Dias. Minorias sexuais e os limites da liberdade de expressão : o
discurso de ódio e a segregação social dos indivíduos LGBT no Brasil. Curitiba:
Juruá, 2015.
PAREKH, Bhikhu. Rethinking multiculturalism: cultural diversity and political
theory. London: Macmillan, 2000.
SARMENTO, Daniel. Livres e iguais: estudos de Direito Constitucional. Rio de
Janeiro: Lumen Juris, 2006.
SWIEBEL, Joke; van der VEUR, Dennis. Hate crimes against lesbian, gay, bisexual
and tr ansgender pe rsons and the policy res ponse of inte rnational go vernmental
organi zations. Net herlands Qu arterly of Hu man Rights , Antuérpia, v. 27, n. 4 , p.
6, dez. 2009.
TIKU, Nitasha; NEWTON, Casey. Twitter CEO: ‘We suck at dealing with abuse ’.
The Verge, 4 de fevereiro de 2015. Disponível em:
personal-responsibility-for-the>. Acesso em: 23 jul. 2018.
TULKENS, Françoise. When to say is to do: Freedom of expression and hate speech
in the case-law of the European Court of Human Rights. Estrasburgo, 2012.
Disponível em:
<http://www.ejtn.eu/Documents/About%20EJTN/Independent%20Seminars/TULK
ENS_Francoise_Presentation_When_to_Say_is_To_Do_Freedom_of_Expression_a
nd_Hate_Speech_in_the_Case_Law_of_the_ECtHR_October_2012.pdf>.
[https://perma.cc/KY7L-8WWN]. Acesso em: 23 jul. 2018.
WALDRON, Jeremy. The harm in hate speech. Cambridge: Harvard University,
2012. E-book versão Kobo.
WEBER, Anne. Manual on hate speech . Estrasburgo: Council of Europe, 2009.
Disponível em: . Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
44
Recebido em: 26 de maio de 2018.
Aceito em: 16 de agosto de 2018.
Para continuar a ler
PEÇA SUA AVALIAÇÃO