Um plano para documentar e desacreditar as campanhas de desinformação

Uma ferramenta para ajudar jornalistas, pesquisadores e legisladores a saber como e quando responder à desinformação em todas as suas formas.

Em 2020, em meio a uma pandemia, protestos e eleições presidenciais, a desinformação espreita por toda parte. Está em nossas redes sociais, sai da boca de nossos políticos e está impresso em panfletos enviados à nossa porta, misturados indistinguivelmente com os fatos. A Organização Mundial da Saúde chamou de infodêmico. Parte disso é o resultado de campanhas intencionais de manipulação da mídia, golpes, fraudes e truques criados por pessoas com uma agenda. Essa desinformação, como um vírus, é contagiosa e ameaça a vida, para os indivíduos e para a própria democracia.

Não começou assim. O advento da comunicação online, e a grande possibilidade de conexão que daí advém, permitiu que as pessoas se encontrassem a partir de interesses e afinidades como nunca antes, e de novas ferramentas para quem se dedica à produção cultural. Cientistas inovadores, grupos de defesa e mídia independente prosperaram em novos avanços em comunicação de rede e tecnologia de banda larga, estabelecendo suas comunidades na web aberta e mídia social.

Mas, à medida que a ingenuidade da era tecno-utópica se desvanece nos horrores da infodemia, agora vemos plataformas executando a defesa depois de permitir conscientemente o florescimento da radicalização. Danos diretos causados ​​por ataques de ransomware às nossas instituições vitais, soldados cibernéticos de regimes opressores, equipes de desinformação com fins lucrativos, teorias de conspiração nocivas baseadas no anti-semitismo e desinformação médica, e a celebração de A violência extremista está derrubando nossas instituições, que têm pouca ou nenhuma capacidade de identificar a origem desses ataques.

Nós, da equipe de Tecnologia e Mudança Social do Centro Shorenstein de Mídia, Política e Política de Harvard, estamos publicando o Livro de Casos de Manipulação de Mídia para ajudar a eliminar esse ruído. O livro de caso é um banco de dados de estudos de caso de campanhas de manipulação de mídia, algumas antigas, outras em andamento, que esperamos fornecerão uma estrutura para a análise desse fenômeno. Pretendemos que esta plataforma de pesquisa seja um recurso para acadêmicos e uma ferramenta para ajudar pesquisadores, tecnólogos, políticos, organizações da sociedade civil e jornalistas a saber como e quando responder à ameaça real da manipulação da mídia.

O coração do Casebook é o ciclo de vida da manipulação de mídia, que apresenta uma metodologia sobre como entender as origens e os impactos das campanhas de manipulação de mídia, tanto nacionais quanto internacionais, e sua relação com o ecossistema de informações mais extensas. Situado no campo emergente dos estudos críticos da Internet, é o produto de três anos de pesquisas sobre como jornalistas, grupos da sociedade civil e tecnólogos lidam com a manipulação da mídia e campanhas de desinformação. Levamos a sério a necessidade de um conjunto de definições intersetoriais para nos ajudar a entender as táticas dos manipuladores e as estratégias de comunicação que eles empregam para enganar o público.

As diferentes etapas do ciclo de vida da manipulação de mídia Projeto de mudança social e tecnológica no Centro Shorenstein de Mídia, Política e Políticas Públicas

Aqui, detalhamos como cada estágio do ciclo de vida funciona e as maneiras como diferentes grupos de pessoas que tentam lutar podem ser mais úteis. A manipulação da mídia não afeta apenas jornalistas e empresas de mídia social, mas também representa um desafio coletivo para todos nós que acreditamos que conhecimento é poder. Como um martelo em um mundo cheio de pregos, o Casebook oferece uma forma de analisar as interações em nosso ecossistema de mídia que é consistente com as práticas investigativas e jornalísticas atuais que buscam nos aproximar da verdade.

Etapa 1: planejamento de campanha

As campanhas de manipulação de mídia são um produto de nossa cultura e do Vale do Silício. À medida que os produtos da indústria de tecnologia se espalharam globalmente, movidos por uma máquina tecnocrática e com fins lucrativos, problemas sociais pré-existentes também foram reproduzidos e ampliados. Em muitas das campanhas de manipulação de mídia que catalogamos no Casebook, você vê pequenos grupos de atores motivados, muitas vezes impulsionados por essas forças sociais tóxicas, usando tecnologia de forma oportunista para dimensionar e ampliar seu impacto.

Estabelecer quem são essas pessoas e por que agem é extremamente difícil. As plataformas de mídia social, os principais alvos de extremistas e manipuladores da mídia, são cada vez mais opacas e difíceis de estudar criticamente. Isso torna o estabelecimento da intenção e atribuição de artefatos de desinformação e propaganda prejudicial um processo demorado e emocionalmente desgastante para jornalistas e pesquisadores. Por trás de cada plano de campanha visível está outra camada de comunicação invisível com estranhos, outra nova plataforma para fugir da regulamentação e supervisão.

Mas a opacidade da moderação de conteúdo em relação a esses materiais torna a pesquisa crítica externa e o jornalismo uma parte necessária para impulsionar a mudança.

Descobrir evidências de planejamento e coordenação de campanha requer conhecimento de domínio, o que leva tempo. Essas informações podem ser coletadas em tempo real por um observador dedicado à tarefa de entender a dinâmica dos espaços subculturais online, mas muitas vezes só está disponível forense. Sabemos até que ponto a extrema direita se organizou para Unite the Right por causa dos vazamentos de bate-papo postados por Unicorn Riots, por exemplo. Em nossos estudos de caso, sempre que possível, ilustramos como é o início de uma campanha e explicamos como outros pesquisadores e jornalistas podem cultivar eles próprios esse conhecimento especializado. Nossos estudos de caso sobre o fenômeno de contas falsas da Antifa nas redes sociais e o blackface digital "Operação Blaxit" mostram como o planejamento e a coordenação podem ser detectados por aqueles que sabem onde procurar.

Descobrir o planejamento de campanha e definir a intenção é impossível sem uma pesquisa qualitativa que contextualize como e por que foi criado. Em vez de depender de grandes conjuntos de dados anônimos fornecidos por essas plataformas ou do acesso cada vez mais restritivo às informações, nossos métodos de pesquisa incorporam percepções etnográficas, sociológicas e antropológicas da comunicação humana para dar sentido à bagunça. Incluído como parte de nosso pacote metodológico está o “Etnografia digital investigativa”, um guia para acadêmicos e jornalistas que buscam projetar investigações de mídia social que levem a uma visão profunda das comunidades-alvo de desinformação e daquelas que a produzem de maneira confiável. Embora também haja outra camada para uma campanha de desinformação que não podemos ver, nós, como jornalistas e pesquisadores, devemos conduzir uma investigação clara e reproduzível para abordar coletivamente os muitos danos online que enfrentamos hoje.

 

Etapa 2: propagação da campanha em plataformas sociais e na web

O estágio 2 é quando uma campanha vai do planejamento para a execução, quando memes, hashtags, falsificações e informações falsas ou enganosas são propagados nas mídias sociais, sites de notícias marginais, blogs e fóruns. Freqüentemente, com a ajuda de participantes dispostos, influenciadores online e facções da rede, esse estágio documenta o ponto inicial em que uma campanha vai além de seus criadores originais. Se as mensagens e apelos à ação forem suficientemente envolventes, a campanha cresce e atinge novos públicos que muitas vezes não têm ideia das origens ou motivações por trás do que estão a ver agora.

A intervenção nesta fase não é clara. Em que ponto você intervém? Quão notório é o conteúdo? Qual é o resultado provável? A intervenção será contraproducente? É aqui que as organizações da sociedade civil (OSCs) desempenham um papel importante. Por causa de sua experiência no domínio e suas conexões com indivíduos e grupos que podem ser mais afetados por uma operação de influência mal motivada, as OSCs não apenas saberão onde olhar, mas compreenderão melhor os vetores de ataque, problemas de cunha que surgem. eles vão enfrentar. explorado e o contexto e as nuances para discernir qual ação (se houver) precisa ser realizada. Assim, as OSCs com a capacidade de monitorar tais atividades tornam-se um ator inestimável na prevenção de uma operação de influência potencialmente perigosa de passar para o próximo estágio.

Freqüentemente, com mais conhecimento técnico e ação mais rápida, as OSCs podem contra-atacar as mensagens antes que alcancem os principais públicos, descartar possíveis equívocos sobre um problema e agitar a resposta da plataforma. Aqui, humor e criatividade são ativos que os ativistas podem aproveitar para combater o erro e a desinformação. As OSCs costumam ser as primeiras a perceber quando algo parece questionável e pode ser um recurso confiável. Pesquisadores e empresas de tecnologia também devem tomar nota, já que as intervenções mais eficazes provavelmente envolverão todas as partes

Etapa 3: respostas da indústria, ativistas, políticos e jornalistas
O estágio 3 do modelo de ciclo de vida documenta como pessoas e organizações altamente visíveis reagem e respondem fora de uma campanha de manipulação. Esses indivíduos ou instituições podem ser políticos, agências governamentais, celebridades, influenciadores, organizações da sociedade civil ou jornalistas. Quase sempre é após as reações dessas pessoas culturalmente poderosas que uma campanha de manipulação se torna mais visível e perigosa. O estágio 3 é um ponto de viragem. O que acontece durante esse período crítico determina se a campanha recebe amplificação e atenção indevidas ou falha.

É nesta fase que o julgamento jornalístico é mais importante. Os manipuladores de mídia anseiam por atenção. Se o objetivo do Estágio 2 é criar uma armadilha na Internet para chamar a atenção, o Estágio 3 é onde a campanha o pega.

Os jornalistas costumam encontrar essas armadilhas, pois seu trabalho é buscar informações importantes que o público precisa saber. Os jornalistas estão à caça. E é por isso que eles precisam pensar nas campanhas de manipulação da mídia como interrupções, espalhadas pela Internet para se atualizarem. Ao encontrar evidências de uma campanha que ainda está nos estágios 1 ou 2, os jornalistas devem equilibrar cuidadosamente a necessidade de relatar eventos reais com a necessidade de não ser vítimas de uma campanha de manipulação. Às vezes, não é do interesse público relatar campanhas incipientes.

Para determinar se a reportagem no Estágio 3 fará mais bem do que mal, os jornalistas devem se perguntar: Essa pequena manipulação da mídia tem o potencial de causar danos reais? Os influenciadores estão respondendo e espalhando a palavra? Parece que muitas pessoas estão se apaixonando e aceitando suas mensagens prejudiciais? Se a resposta a essas perguntas for sim, então o relato é garantido. Se as respostas forem menos claras, eles devem fazer o melhor julgamento possível.

Como alguns de nossos estudos de caso mostram, a pior coisa que os jornalistas podem fazer no Estágio 3 é relatar uma campanha de manipulação da mídia pelo valor de face, repetindo a desinformação e o enquadramento da campanha. Neste caso, os jornalistas foram enganados. Essa é uma vitória óbvia para os manipuladores.

Mas os jornalistas ainda podem ampliar a campanha de manipulação, mesmo que consigam as reportagens certas, tornando o Estágio 3 extremamente difícil. Se a campanha de desinformação mancar nas redes sociais, um artigo na grande imprensa - mesmo que aponte com precisão o quão falsa ou errada é a campanha - pode ser a combinação que acende o fogo da operação.

Nessa situação, o movimento correto pode ser não escrever uma história, mostrar silêncio estratégico.

Mas se for tarde demais para silêncio estratégico, por exemplo, porque outras organizações de notícias já estão ampliando isso, ou as plataformas de mídia social estão servindo para grandes públicos que já estão agindo nele, ou porque pessoas de alto perfil já estão eles estão respondendo a isso. então você já está no Estágio 3 e é apropriado e mesmo necessário relatar isso.

Uma maneira de pensar sobre isso é: como jornalistas, você raramente deseja iniciar o Estágio 3. Você só deseja iniciar o Estágio 3 com sua reportagem se uma campanha já ganhou popularidade viral tão oculta, fora do quadro geral, que está causando danos ou será iminente.

Nesse caso, o mais importante é fazer um relato crítico. Isso significa implementar uma "amplificação estratégica". Significa seguir a rubrica do sanduíche da verdade: começar com o que é verdadeiro, desmascarar rapidamente o que é falso e depois retornar ao que é conhecido. O que se sabe pode ser quem está por trás da campanha, onde foi planejada, quem dói e como ela se encaixa no atual ciclo de notícias e no ciclo de vida de manipulação da mídia. Não crie links diretos para os identificadores e sites dos operadores de campanha, se puder. Não torne fácil para os leitores usarem seus relatórios como uma forma de encontrar, espalhar a palavra e aderir à campanha.

Os jornalistas também têm um papel crucial a desempenhar na Etapa 4: Mitigação. No Estágio 4, uma campanha atingiu um ponto de inflexão viral de tal forma que uma correção de mídia é claramente necessária. A eficácia desse corretivo depende da situação, mas essa informação sempre se justifica porque a campanha alcançou certo nível de conscientização pública.

Etapa 4: Mitigação

Depois que uma campanha é ampliada na consciência pública, uma série de partes interessadas deve agir para mitigar seus danos. O jornalismo também desempenha um papel crucial aqui, verificando ativamente os fatos e desmascarando as campanhas de desinformação individuais, para trazer as ações e impactos de atores maliciosos nas plataformas de mídia social à atenção da sociedade civil, tecnólogos e especialistas. legisladores.

Conforme as redações se adaptaram nos últimos quatro anos para normalizar a desinformação nas mídias sociais, elas começaram a verificar regularmente os fatos e desacreditar os ritmos. Os verificadores de fatos escreveram milhares de artigos desmistificando a desinformação e as conspirações porque veem o público sendo repetidamente alvo de conteúdo online sensacionalista e ultrajante. É um desperdício de recursos, que poderia ser muito mais bem gasto mantendo o jornalismo do que moderando conteúdo em plataformas. Verificações de dados dedicadas são uma forma de mitigação, dominando os resultados de SEO para campanhas de violação confirmadas.

Os esforços de mitigação geralmente recaem sobre a sociedade civil, que sofre a longa cauda da manipulação por anos à medida que a desinformação se espalha. Jornalistas, profissionais médicos e de saúde pública, líderes da sociedade civil e pessoal encarregado da aplicação da lei estão arcando com o verdadeiro custo de responder à desinformação contínua.

As evidências que eles coletam se somam e podem ajudar a pressionar as plataformas a mudar seus sistemas ou Termos de Serviço. Coalizões da sociedade civil, como a Change the Terms, fazem lobby há anos para forçar as empresas de plataforma a se responsabilizarem pelos danos que proliferam em seus sites. A moderação do conteúdo não deve ser tarefa da sociedade civil ou das comunidades prejudicadas.

As empresas de plataforma são as que detêm o poder de moderação de conteúdo no Estágio 4. Elas podem retirar, remover conteúdo, banir termos; Em suma, eles podem desligar as campanhas de manipulação de mídia se tomarem as ações certas no momento certo. Deslocar os manipuladores e os traficantes de ódio funciona. Mas esses esforços de mitigação geralmente chegam tarde demais, como a demolição dos supremacistas brancos que planejaram o evento assassino Unite the Right ou o longo e lento crescimento do movimento QAnon. Um exemplo disso em nosso livro de caso é o caso do assédio direcionado a um suposto denunciante, quando algumas empresas de mídia social seguiram o exemplo do jornalismo convencional e bloquearam o uso de um nome específico em suas plataformas para proteger uma pessoa de qualquer doeu.

Mas as empresas de plataforma costumam responder tarde demais ou simplesmente não respondem. Sabemos que plataformas como o Facebook permitiram conscientemente que a radicalização se espalhasse com resultados mortais. Embora tenham departamentos de políticas voltados para a minimização de danos e tenham se comprometido repetidamente em tornar suas plataformas um ambiente seguro e equitativo, muitas vezes não agem até que sejam obrigados a fazê-lo pela sociedade civil e jornalistas. Seus esforços de mitigação díspares não são coordenados nem padronizados, permitindo que os manipuladores aproveitem um ambiente de mídia assimétrico para executar ataques.

No vácuo regulatório, vemos repetidamente as plataformas falharem em sua busca pela proteção da marca, agindo apenas quando uma campanha foi encerrada ou adaptada. Em janeiro de 2020, o Facebook divulgou um comunicado: “Na ausência de regulamentação, o Facebook e outras empresas devem criar suas próprias políticas. Baseamos o nosso no princípio de que as pessoas devem ser capazes de ouvir aqueles que querem liderá-las, com verrugas e tudo. "

Isso revela que, no Estágio 4, o corretor de poder ausente são os reguladores, que poderiam criar regras padronizadas para plataformas, mas abdicaram amplamente desse dever ou acharam isso muito difícil até agora.

Etapa 5: Adaptando a campanha

Como muitos dos casos no Case Book revelam, apesar de alguma atenuação, as campanhas de manipulação da mídia muitas vezes encontram maneiras de continuar. No Estágio 5, as campanhas são adaptadas quando possível, às vezes durante a noite ou ao longo de vários anos, como o estudo de caso da campanha digital da Operação Blaxit ou a teoria da conspiração duradoura. Pizzagate. Os operadores geralmente conhecem as melhores maneiras de explorar os sistemas sociotécnicos e costumam usar o anonimato para evitar a atribuição e usar materiais editados e linguagem codificada para evitar a marcação automática do conteúdo. Embora esses indivíduos ou grupos possam estar fora de questão, as principais plataformas de mídia social continuam sendo o principal vetor de ataque para essas campanhas e têm a responsabilidade de conter o impacto desse comportamento.

A mitigação de plataforma bem-sucedida é a única maneira de conter o impacto da adaptação pelos manipuladores. O filme "Plandemic", que afirmava que o vírus Covid-19 foi implantado por elites poderosas para criar uma nova ordem mundial, tornou-se superviral na primavera de 2020. Foi retirado após receber quase dois milhões de visualizações. Ainda circulava em plataformas de vídeo menores. Antes da mitigação, esta campanha de desinformação operava publicamente, incluindo o anúncio prévio de um filme subsequente, "Doutrinação". Quando esse filme foi lançado, as plataformas estavam prontas. Ao tomar medidas pró-ativas, as grandes plataformas fizeram muito para interromper a transmissão do documentário e foram capazes de evitar a repetição da viralidade "Plandêmica". Como resultado da coordenação intersetorial, a "doutrinação" recebeu muito menos atenção. Os manipuladores motivados continuarão a se adaptar, mas sem os recursos de amplificação de mídia social à sua disposição, seu público diminuirá drasticamente.

Manter o controle desse ecossistema é difícil. As campanhas são difíceis de encontrar, difíceis de identificar enquanto estão sendo plantadas, um desafio para os jornalistas, nossas instituições e a sociedade civil. As práticas de mitigação desiguais e desmotivadas das plataformas permitem a adaptação do manipulador. Mas no projeto Tecnologia e Mudança Social apresentamos este modelo, aberto a muitas disciplinas e práticas de pesquisa, como um meio para detectar, documentar e desacreditar a desinformação em todas as suas formas. É uma estrutura para formuladores de políticas que buscam compreender o impacto da manipulação de mídia fora da plataforma e como essas plataformas são projetadas para exploração contínua. E esperamos que seja um plano para jornalistas e pesquisadores que buscam padrões sobre como lidar com a atual crise de informação.