Humanidades Digitais/Aula 6
A Cultura do Algoritmo
editar
As novas mídias e a internet não compreendem apenas os meios materiais de telecomunicação, as mensagens e os seres humanos; elas são povoadas por certos “seres estranhos, meio textos, meio máquinas, meio atores, meio cenários: os programas” (LÉVY, 1999 p. 41)
Podemos chamá-los, também, de agentes (JOHNSON, 2001) orientados por códigos, protocolos, algoritmos. Alguns, inclusive, teriam a capacidade de "aprender" os padrões culturais dos seres humanos.
Esses algoritmos são programados para funcionar sem intervenção humana e é praticamente impossível conhecê-los e controlá-los de uma forma transparente. Eles são uma espécie de "caixa-preta" e a única forma de acompanhá-los acaba sendo, também, por meio de outras ferramentas algorítmicas (GILLESPIE, 2014).
Striphas (2015) observa que esses agentes acabam interferindo nos princípios de autoridade ou nos critérios de relevância de muitos assuntos que afetam nossos relacionamentos sociais. Valendo-se do Big Data, eles são capazes de "identificar" padrões que marcam nossas relações afetivas, comerciais, políticas etc. A relevância ou não de uma boa parte dos assuntos que nos dizem respeito está sendo lentamente mediada para os algoritmos sem que sequer nos demos conta disso.
Esses algoritmos são, então, um novo tipo de mediadores automatizados, anunciados como os heróis de um mundo que tenta escapar da entropia. Cheney-Lippold (2011) chega a tratá-los como objetos culturais incorporados e integrados aos sistemas sociais, gerando uma espécie de soft biopolitic (uma referência à Biopolítica identificada por Foucault).
A relevância dos Algoritmos para Tarleton Gillespie (6 dimensões)
editarOs algoritmos direcionam e gerenciam a maneira como interagimos e participamos na vida nos sites e redes sociais e participamos na vida pública; mapeiam nossas preferências, direcionando o que devemos ver e observar; induzem-nos ao que está em alta e ao que é tendência; nos ajudam a encontrar informações, e também nos dão pistas para o que deve ser conhecido. Eles controlam o fluxo de informações do qual dependemos e gerenciam informações e a maneira como são percebidas pelo usuário. O que é desempenhado pelo algoritmo poderia ser realizado pelo humano, mas à medida que submetemos dados às ferramentas computacionais e obtemos informações com precisão, submetemos o discurso e o conhecimento humano a essas lógicas procedimentais.
Padrões de Inclusão
editarGillespie (2012) identifica seis dimensões dos algoritmos que interferem nos nossos critérios de relevância pública da informação. Primeiro, os dados precisam ser coletados de uma certa forma e precisam assumir uma forma “legível” para os softwares. Esse já é um padrão de inclusão ou exclusão de dados que podem ser submetidos à forma algorítmica. Como os dados são preparados? A quais bancos de dados estão ligados? Cada clique, cada entrada, cada página visualizada deixa rastros digitais que se transformam em base de dados. Compreender o que está incluso nesses bancos de dados requer atenção às políticas de coletas dos serviços de informação, que são importantes para decifrarmos o que aqueles que tratam dados pensam.
Os dados devem ser preparados para que os algoritmos funcionem automaticamente, ou seja, para agirem sem qualquer intervenção. Isso representa dizer que os dados devem ser transformados e institucionalizados para que os algoritmos possam agir. Ou seja, podemos entender melhor os algoritmos compreendendo como os dados são preparados.
Ciclos de Antecipação
editarA identificação algorítmica de padrões a partir das condutas dos usuários da rede (digital fingerprints - identidade algorítmica) produzem expectativas ou ciclos de antecipação ou previsão de condutas.
Critérios de Relevância
editarComo estamos falando de Critérios de Avaliações de relevância (3), precisamos lembrar que definir relevância de alguma coisa é um assunto bastante polêmico. Isso significa que essa questão deveria ser submetida a um debate público, o que não ocorre. Na maior parte das vezes, os algoritmos são produzidos por grupos ou empresas privadas (marcadas pelo sigilo), de forma fácil e quase invisível (GILLESPIE, 2014).
Como os algoritmos determinam o que tem relevância?
Quando o usuário acessa um site de pesquisa ou Facebook, os algoritmos precisam identificar instantaneamente e automaticamente quais informações atendem aos critérios em questão. O Google possui algoritmo de pesquisa que examina mais de duzentos indicadores para cada consulta feita no site. Tais indicadores são os meios pelos quais o algoritmo estima a relevância de um conteúdo. É nessa questão que os sociólogos dos algoritmos devem se ater, pois é relevante um julgamento fluido e carregado de significados tão suscetíveis à interpretação quanto a alguns dos termos avaliativos.
Qualquer sistema de conhecimento emerge em meio aos objetivos econômicos e políticos da disponibilização de informações, sendo que estas serão moldadas para atender às estratégias das instituições que buscam capitalizá-los. Devemos considerar que, se os algoritmos são estruturados por princípios políticos ou organizações especificas que têm ramificações políticas ou ainda seus interesses comerciais, esses podem ser facilmente, instantaneamente e radicalmente alterados.
Promessa de objetividade algorítmica
editarOutra dimensão submetida à discussão é a da promessa de uma objetividade algorítmica (4). Culturalmente (para a maior parte das pessoas leigas), o algoritmo é identificado com uma garantia de imparcialidade por parecer um objeto "técnico". A partir disso, sua relevância pública de "neutralidade técnica" faz dele um poderoso estabilizador da confiança ou da crença em determinados assuntos.
Há um confronto entre o caráter puramente técnico e a garantia da imparcialidade e discute-se como isso se mantêm diante de controvérsias. Os algoritmos, mais do que ferramentas, seriam estabilizadores da confiança e suas avaliações seriam justas e precisas? Livres de subjetividades e erros, ou tentativa de influência? Como os algoritmos não podem ser tocados pelos seus provedores, isso reforça a ideia de imparcialidade e de que são automatizados.
Nenhum serviço de informação pode ser isento de interferência humana ou mesmo conter certa medida de subjetividade. É muito importante para os provedores que os algoritmos aparentem que não passam por interferências humanas. Quando um provedor tem seu algoritmo criticado, este deve ser reparado no discurso e tecnicamente. Cabe a eles garantir acima de qualquer coisa que os algoritmos de informações devem assegurar que seus algoritmos são imparciais.
O desempenho da objetividade do algoritmo tornou-se fundamental para a manutenção dessa ferramenta como mediadora e legitimadora para conhecimentos relevantes.
Enredamento em práticas sociais
editarPrecisamos falar de seu enredamento nas práticas sociais (5). Se os algoritmos estabelecem padrões de relevância, passam a definir, indiretamente, as condutas dos usuários. Se adaptam aos critérios que desconhecem como condição de sua própria visibilidade ou relevância - tornar-se algoritmicamente reconhecível. Esse enredamento, por outro lado, pode levar a um debate político importante por parte dos usuários que acabam por encontrar em um conjunto de grupos os seus porta-vozes pela transparência do debate. Os usuários reconfiguram suas práticas para se adequar aos algoritmos e como estes se transformam em espaço de disputa política, que podem até questionar a política do próprio algoritmo.
Os algoritmos se entrelaçam na vida das pessoas e, na busca por informações, os usuários se moldam e articulam os algoritmos com os quais interagem. Os algoritmos também afetam o modo como as pessoas buscam por informações, como elas percebem o conhecimento e como elas interagem nos discursos públicos. Algoritmo e usuário estão em eterna simbiose.
A quem interessa compreender e operar os algoritmos públicos tão importantes para a circulação pública de conhecimento?
O entendimento de como funcionam os algoritmos de informação é uma forma de poder - Importante para o discurso público, essencial para ganhar visibilidade online, distribuidor de credibilidade e das oportunidades que dela resultam. As comunidades tecnológicas almejam descobrir o processo de funcionamento dos algoritmos utilizando o ferramental da engenharia reversa para elucidar os critérios dos algoritmos. Os legisladores estão apenas começando a questionar as implicações dos algoritmos para um comércio e discurso político justos. Os provedores qualificam os algoritmos como segredos industriais que não devem ser divulgados em espaços públicos. O acesso, a compreensão e os direitos sobre os algoritmos desempenham um papel importante no discurso e no conhecimento público, alterando as diversas partes interessadas.
Produção de um público calculável
editarTemos, por fim, a produção de um público calculável (6), os padrões identificados não são padrões genéricos do comportamento social, são padrões alcançados a partir de registros matematicamente configuráveis desse comportamento, o que possibilita a sua leitura massiva por máquinas (networked publics). Como a apresentação dos algoritmos dos públicos para eles mesmos molda a noção de si desse público, e quem está em melhor posição para se beneficiar desse conhecimento? O algoritmo é uma ferramenta emergente para o conhecimento e discursos públicos.
A maneira como os algoritmos transformam dados em discursos políticos deve ter rechaçada a visão determinista tecnológica. Já uma análise sociológica deve conceber e passar a uma análise da sociologia as escolhas humanas por detrás desses algoritmos, ou seja, o nível de subjetividade com que são elaborados. Devemos observar a sociologia do conhecimento e a sociologia da tecnologia, isso pode revelar como algoritmos altamente sólidos são realizações frágeis. Os algoritmos são tecnologias da comunicação, instrumentos científicos da sociedade e influenciam a maneira como confirmamos o conhecimento para a vida cívica, porém de maneira mais digital.
Algoritmos e o poder público
editarOs algoritmos são códigos programados de maneira invisível, matematicamente, no qual não conseguimos de fato ver com facilidade quais são os seus propósitos e qual o seu total funcionamento. Além disso, existem pessoas que programaram esses algoritmos para que ele funcione e se aplique a determinados objetivos. Dessa forma, é preciso pensar na visão de quem o criou. Sérgio Amadeu Silveira (2016) enfatiza: "algoritmos são invenções e, como toda invenção, guarda as intenções de seus criadores".
Do ponto de vista governamental, é importante analisar que os algoritmos, em sua maioria, não são desenvolvidos pelo poder público, mas sim por empresas que vendem esses softwares para o Estado, de maneira funcional, prática e positiva, o que, subjetivamente, pode gerar algum problema caso a visão lógica do Estado não coincida com a programação do algoritmo.
Na sociedade atual, é possível identificar diversas soluções digitais que, automaticamente, com base nos algoritmos, toma decisões e se torna referência em diversos âmbitos. Silveira (2016) relaciona essa ideia com a administração pública: "Na administração pública brasileira atual, o nível das soluções dadas por algoritmos ainda é considerado de um baixo grau de importância, mas sua relevância aumentará com o avanço do big data, da disseminação de sensores conectados às redes e com o crescimento das cidades digitais e inteligentes."
Dessa forma, é necessário existir uma preocupação e uma análise mais criteriosa em relação aos avanços que acontecem na sociedade atual: qual a possibilidade de decisões governamentais serem tomadas por algoritmos em um futuro próximo? Será que o poder público está preparado para lidar com a cultura dos algoritmos e aproveitá-la de maneira responsável?
Silveira (2016) aponta sete fatores importantes sobre os quais o poder público deve refletir em relação aos algoritmos:
.jpg)
1 - Softwares e algoritmos devem ter o código-fonte aberto. Essa decisão esbarra nos modelos de negócios de empresas fornecedoras de tecnologia para o Estado, que se baseiam em licenças de propriedade intelectual restritivas.
2 - Código-aberto não é suficiente para acompanhar a atuação dos algoritmos performativos. Por isso, é necessário adotar procedimentos de auditoria, avaliação frequente e correção de rumos e de decisões adotadas.
3 - Delimitadores de decisão devem ser incorporados nos algoritmos, ou seja, o gestor público deve impor fronteiras decisórias para os algoritmos, o que evitará equívocos previsíveis e considerados inaceitáveis.
4 - Incorporar nos projetos de desenvolvimento de softwares e algoritmos os procedimentos que assegurem a privacidade no armazenamento, processamento e uso de dados pessoais, indispensáveis para o serviço público. Isso implica necessariamente a adoção de criptografia e níveis de acesso para proteger os dados dos cidadãos.
5 - Dados pessoais que não são indispensáveis não devem ser coletados. Isso evita diversas dificuldades e custos em sua proteção.
6 - Toda gestão de dados deve possuir documentos descrevendo sua guarda e utilização. Essas declarações de política de privacidade e de gestão algorítmica devem ser transparentes, de fácil acesso e possuir mecanismos claros para garantir o seu cumprimento.
7 - Algoritmos de dimensão pública não podem ser criados e desenvolvidos sem a participação dos gestores e administradores públicos. Não são neutros, nem apenas técnicos, portanto, não devem ser comprados como se compram mercadorias padronizadas. Não é a gestão pública que deve se adequar às soluções disponíveis no mercado, mas as soluções adquiridas devem ser adequadas aos interesses e peculiaridades do setor público.
Em suma, se faz necessário analisar o cenário da programação de algoritmos em geral, desenvolvidos por empresas e vendidos para o Estado, de forma que essa prática possa se tornar mais clara, responsável e ética. Por outro lado, o poder público também necessita entender que o cenário atual é tecnopolítico (SILVEIRA, 2016), e então se desenvolver cada vez mais para atuar de maneira democrática e consciente com os algoritmos e os seus resultados.
Referências Bibliográficas
editarLer:
GILLESPIE, Tarleton. A Relevância dos Algoritmos. Parágrafo, v.6 n.1, 2018
GROHMANN, Rafael, QIU, Jack. Contextualizing Platform Labor. Contracampo. v.39, n.20, 2020
POELL, Thomas, NEIBORG, David, VAN DIJCK, José, Plataformização. Revista Fronteiras - estudos midiáticos, Vol. 22 Nº 1 - janeiro/abril 2020
SILVEIRA, Sérgio Amadeu. O governo dos algoritmos. Revista de Políticas Públicas v.21 n. 1 p267-281, 2016
Complemento:
AMARAL, Adriana. Manifestações da performatização do gosto nos sites de redes sociais: uma proposta pelo olhar da cultura pop. Revista Eco-PÓS, Rio de Janeiro, v.17, n.3, 2014.
BALDI, Vania. Dataísmo: contra um saber sem conhecimento. In: BORGES, Jussara, BARREIRA, Maria I.J.S., CUNHA, Francisco J.A.P. (orgs). Mundo Digital: uma sociedade sem fronteiras? João Pessoa ; Idea, 2014
Bilić, P. (2016). Search algorithms, hidden labour and information control. Big Data & Society, 3(1). DOI: 10.1177/2053951716652159
BOYD, danah, CRAWFORD, Kate. Critical Questions for Big Data, Information, Communication & Society, v.15, p.662-679, 2012
BRUNO, Fernanda. Tecnopolítica, racionalidade algorítmica e mundo como laboratório. Entrevista com Fernanda Bruno. IHU-Unisinos, 02/11/2019
CASTANHEIRA, J.; POLIVANOV, B.; MAIA, A. Does code dream of stuff? Dinâmicas materiais em mídias digitais. In: ENCONTRO ANUAL DA ASSOCIAÇÃO NACIONAL DOS PROGRAMAS DE PÓS-GRADUAÇÃO EM COMUNICAÇÃO, 25., 2016, Goiânia.
COULDRY, Nick. Nick Couldry: Do mito do centro mediado ao esvaziamento do mundo social – as mídias e o processo de datificação da sociedade. São Paulo. Matrizes, V.13 - Nº 2 p. 77-87 maio/ago. 2019 (Entrevista Bruno Campanella)
COULDRY, Nick, MEJIAS, Ulises A.(2019) Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject. Television & New Media, 20(4) p.336 –349
GILLESPIE, Tarleton. Politics of “Plataforms”. New Media & Society, 2010
GIRARDI Jr, Liráucio. O estranho mundo da informação – e da materialidade – no campo da comunicação. Revista da Associação Nacional dos Programas de Pós-Graduação em Comunicação | E-compós, Brasília, v.20, n.1, pp. 1-18, jan./abr. 2017.
GROHMANN, Rafael. Financeirização, midiatização e dataficação como sínteses sociais. Inmediaciones de la Comunicación. v. 14, n. 2 (2019)
KITCHIN, Rob. Big Data, new epistemologies and paradigm shifts. Big Data & Society April–June 2014: 1–12
LADEIRA, João D. M. O algoritmo e o fluxo: Netflix, aprendizado de máquina e algoritmos de recomendações. Intexto, Porto Alegre, UFRGS, n. 47, p. 166-184, set./dez. 2019
MACHADO, H. Algoritmos, regulação e governança: uma revisão de literatura. Journal of Law and Regulation, v. 4, n. 1, p. 39-62, 13 nov. 2018.
MANCINI, Leonardo, VASCONCELLOS, Fabio.Jornalismo de Dados: conceito e categorias. revista Fronteiras – estudos midiáticos18(1):69-82 janeiro/abril 2016
SOUZA, Marcos de, ALMEIDA, Fernanda Gomes, SOUZA, Renato Rocha. O TERMO BIG DATA: quebra de paradigma dos n-V’s In: Workshop de informação, dados e tecnologia (2 : 2018 : João Pessoa-PB).Anais WIDaT 2018, de 27 a 29 de novembro de 2018 / Organizadores : Ricardo César Gonçalves Sant’Ana, Moisés Lima Dutra, Guilherme Ataíde Dias. - João Pessoa : Editora UFPB, 2018.
Dossiê Algoritmos (dez-2018 a fev-2019) – LabJor - Revista ComCiência, Dossiê 204 – Dezembro de 2018 a Fevereiro de 2019
Outras leituras complementares (reportagens, sites):
editarRacial Bias on Wikimedia Commons
Martin Fowler - Thinking about Big Data Making the data dream a reality - Jojo Swords - Data Science and Engineering, 13 NOV 2019
Plataforms are not Intermediaries -Tarleton Gillespie. 2GEO.L.TECH.REV.198, 2018
O que são dados? (Escola de Dados)
DATA & SOCIETY (Data & Society is an independent nonprofit research institute that advances public understanding of the social implications of data-centric technologies and automation.)
BIG DATA: o segredo por trás da eleição de Trump - Paulo Alves, Showmetec, 6 de fevereiro de 2017
Systemic Algorithmic Harms - Theories of “bias” alone will not enable us to engage in critiques of broader socio-technical systems. Kinjal Dave, Points, 31/05/2019
Boyd and Crawford Critical questions for Big Data: a summary - Chloe Johnson - Medium, 16/11/2017
Sou uma cientista de dados cética quanto aos dados - Nathalia Mazzote - Medium (Esta é uma tradução livre do texto "I’m a data scientist who is skeptical about data", publicado na Quartz pela Andrea Jones-Rooy, professora de Ciência de Dados na NYU)
Projeto de Joy Buolamwini (@jovialjoy) combate discriminação nos algoritmos - Blog do Tarcizio Silva, 09/03/2017
VIANNA, Hermano (blog). Inteligência Artificial Antropófaga - acessado em 30/10/2017
Ohlheiser, A. (2016). Three days after removing human editors, Facebook is already trending fake news. Washington Post, August 29. https://www.washingtonpost.com/news/the-intersect/wp/2016/08/29/a-fake-headline-about-megyn-kelly-was-trending-on-facebook/?utm_term=.f857ac42b2e9
O’Reilly, T. (2016). Media in the age of algorithms. Medium, November 11. https://medium.com/the-wtf-economy/media-in-the-age-of-algorithms-63e80b9b0a73#.9l86jw9r4
Critical Algorithm Studies: a Reading List -Social Media Collective (curadoria de temas relacionados aos algoritmos)
O algorítmo é mais embaixo – Tatiana Dias (texto) Sollen Robic, Marcelo Gerab (direção de arte) – TAB(UOL), 16/04/2018
Big Data Sociology: Preparing for the Brave New World- by Hamish Robertson and Joanne Travaglia. The Sociological Review (blog). Sunday 29th October, 2017
Como uma nova série em app pretende mudar a forma como se assiste televisão Rafael Iandoli - Nexo - 09 Nov 2017
O robô programado para afastar moradores de rua tomou uma sova e foi demitido - Por: Renan Lopes - GIZMODO, 17 de dezembro de 2017
Algoritmos e cosmopolíticas - Amanda Jurno e Carlos d’Andréa, Piseagrama, março de 2018
Beta , a robô feminista
A Distopia do Algoritmo: o streaming está matando a arte da música? -Drew Millard -Dez 5 2017, 8:00am (Os algoritmos não só estão mudando a maneira como escutamos música, mas também a maneira como compomos.)
A distopia do 'me fala o CPF' nas farmácias do Brasil - Brunno Marchetti - VICE,fev 15 2018
Google Arts & Culture (busca tempo e cor)
Ferramentas
editarLABCOM/MA - LNEWS/LTWEET