Livro de Jaron Lanier

Por ora, sair das redes sociais é a única forma de descobrir o que pode substituir o nosso grande equívoco.

O principal processo que leva as redes sociais a ganharem dinheiro, embora também cause danos à sociedade, é a modificação de comportamento. Essa prática exige técnicas metódicas que mudam o padrão comportamental de animais e pessoas. Pode ser usada para tratar vícios, mas também para criá-los. Os danos à sociedade ocorrem porque o vício enlouquece as pessoas. O viciado vai perdendo gradualmente o contato com o mundo e as pessoas reais. Quando muitos estão viciados em esquemas manipuladores, o mundo fica obscuro e louco. O vício é um processo neurológico que não entendemos completamente. A dopamina é um neurotransmissor que age no prazer e é considerado crucial para mudanças comportamentais em resposta à obtenção de recompensas. É por isso que Parker menciona essa substância. A modificação de comportamento, em especial a implementada por aparelhos como smartphones na modernidade, é um efeito estatístico, o que significa que é real, mas não completamente confiável; sobre uma população, o efeito é mais ou menos previsível, mas para cada indivíduo é impossível dizer. Até certo ponto, você é um animal na gaiola experimental do behaviorista. Mas o fato de algo ser indistinto ou aproximado não o torna irreal.

“você corre o risco de se tornar aos poucos um babaca, ou, segundo as estatísticas, você pode muito bem se tornar um babaca. Assim sendo, não se ofenda, mas, por favor, leve a sério essa possibilidade”.

O principal processo que leva as redes sociais a ganharem dinheiro, embora também cause danos à sociedade, é a modificação de comportamento. Essa prática exige técnicas metódicas que mudam o padrão comportamental de animais e pessoas. Pode ser usada para tratar vícios, mas também para criá-los.

O vício é um processo neurológico que não entendemos completamente. A dopamina é um neurotransmissor que age no prazer e é considerado crucial para mudanças comportamentais em resposta à obtenção de recompensas. É por isso que Parker menciona essa substância.

A sedução do feedback falho é provavelmente o que leva muita gente a relações humilhantes de “codependência” e maus-tratos.

Nosso cérebro com certeza inclui processos adaptativos e pode ser moldado para buscar surpresas, porque a natureza detesta cair na rotina.

Os precursores da exploração on-line dessa interseção entre matemática e cérebro humano não foram as empresas de redes sociais, mas os criadores das máquinas de jogos de azar digitais, como o videopôquer, e dos sites de jogos de aposta on-line. De vez em quando, pioneiros do mundo dos jogos de azar reclamam de como as empresas de redes sociais roubaram suas ideias e ganharam mais dinheiro, mas eles falam principalmente sobre como a rede social os ajuda a identificar pessoas fáceis de enganar.

Ao contrário da maioria dos animais, os seres humanos não apenas nascem absolutamente indefesos como permanecem assim durante anos. Por conta disso, só temos condições de sobreviver quando convivemos com membros da família e outros indivíduos. As preocupações sociais não são características opcionais do cérebro humano. São primordiais.

O termo “engajamento” faz parte da linguagem familiar, eufemística, que esconde a imensa estupidez da máquina que construímos. Precisamos usar termos como “vício” e “modificação de comportamento”.

O que começou como propaganda se metamorfoseou no que seria melhor chamado de “impérios de modificação de comportamento para alugar”.

O vício aos poucos nos transforma em zumbis, e os zumbis não têm livre-arbítrio. Mais uma vez, esse resultado não é total, mas estatístico. Ficamos mais parecidos com zumbis, e por mais tempo, do que ficaríamos em outras circunstâncias.

(Definição De amor?) – Nós modificamos o comportamento uns dos outros o tempo todo, e isso é bom. Afinal, só uma pessoa insensível e indiferente não mudaria seu modo de agir em função de como o outro reage. Quando a modificação de comportamento mútua funciona, talvez isso seja parte daquilo que chamamos de amor.

Talvez o livre-arbítrio exista quando nossa adaptação ao outro e ao mundo ganha uma qualidade excepcionalmente criativa. Portanto, o problema não é a mudança comportamental em si. O problema é quando isso acontece de maneira implacável, robótica e, no fim das contas, sem sentido, a serviço de manipuladores invisíveis e algoritmos indiferentes.

O problema não é o smartphone, O problema não é a internet, O problema também não é apenas os usuários se amontoarem em ambientes on-line que podem fazer aflorar o que há de pior em nós. O problema ocorre quando todos os fenômenos que acabei de descrever são impulsionados por um modelo de negócio em que o incentivo é encontrar clientes dispostos a pagar para modificar o comportamento de alguém.

É óbvio que talvez você olhe para a telinha em exagero,25 assim como exagera em um monte de coisas, mas isso não é um problema existencial para a nossa espécie. todos nós estamos carregando aparelhos apropriados para modificações de comportamento em massa.

O problema são todas as opções anteriores e mais uma coisa. Conforme explicado no primeiro argumento, o esquema que estou descrevendo amplifica mais as emoções negativas do que as positivas, sendo, portanto, mais contundente ao prejudicar a sociedade do que ao melhorá-la: clientes mais assustadores obtêm um retorno maior

Sua mudança de comportamento foi transformada em um produto. Um produto particularmente atraente não apenas para os usuários, mas para os clientes/manipuladores, porque temem que serão deixados de lado se não pagarem por ele.

Acho que é hora de cunhar um acrônimo para que eu não tenha que ficar repetindo o mesmo conjunto de fatores que formam o problema. Podemos usar “Behaviors of User Modified, and Made into an Empire for Rent”, que em português significa Comportamentos de Usuários Modificados e Transformados em um Império para Alugar. Ou seja: Bummer.

O mesmo aconteceu mais tarde, quando a maconha se tornou ilegal. Proibições são mecanismos de corrupção que dividem as sociedades em setores oficiais e criminosos. Leis funcionam melhor quando são alinhadas a incentivos de forma razoável.

Em vez disso, o problema que ultimamente vem transformando o mundo em um lugar tão obscuro e louco é a máquina Bummer, e seu centro não é exatamente uma tecnologia, mas um plano de negócio que vomita incentivos perversos e corrompe pessoas.

Um dos motivos pelos quais sou otimista é que a Bummer não é nenhuma maravilha como estratégia de negócio a longo prazo.

O problema da Bummer não é incluir alguma tecnologia específica, mas se tratar dos delírios de poder de outra pessoa.

Você pode escolher ser tratado por um terapeuta comportamental cognitivo e colher bons resultados. Com sorte, esse terapeuta fez um juramento de manter a ética profissional e vai ganhar sua confiança. No entanto, se seu terapeuta está comprometido com uma corporação gigante remota e é pago para levar você a tomar certas decisões que não são necessariamente de seu interesse, então isso seria uma Bummer.

Viciados se tornam ansiosos, dirigem um foco estranho a eventos obscuros que não são visíveis para os outros. Eles são egoístas, tão fechados em seus ciclos que não têm muito tempo para notar o que os outros sentem ou pensam. Há uma arrogância, um fetiche pelo exagero que, ao que tudo indica, compõe um disfarce para uma profunda insegurança. Uma mitologia pessoal domina os viciados, eles se veem com grandiosidade e — à medida que afundam no vício — de maneira cada vez menos realista. A característica mais curiosa da personalidade do viciado é que no fim das contas parece que ele está em busca de sofrimento.

Você conhece o ditado de que se deve escolher um parceiro baseado em quem você se torna quando está com ele? Essa é uma boa maneira de escolher tecnologias também.

Nossos colegas oscilam entre “aliado” e “inimigo” tão rapidamente que deixamos de percebê-los como indivíduos. Eles se transformam em arquétipos de uma revista em quadrinhos. A única base constante de amizade acaba sendo um antagonismo compartilhado em relação a outras alcateias.

A democracia fracassa quando o interruptor é posicionado em Alcateia. Votações tribais, cultos à personalidade e autoritarismo são as políticas do modo Alcateia.

(VÁ PARA ONDE VOCÊ É MAIS GENTIL) – O que você diz não faz sentido sem contexto. É fácil não perceber esse simples fato no dia a dia, cara a cara, porque nesses casos o contexto geralmente é óbvio.

Eis uma versão menos nerd da mesma ideia: e se escutar uma voz interior ou levar em consideração uma paixão por ética ou beleza proporcionasse um trabalho mais importante a longo prazo, mesmo que considerado menos bem-sucedido no momento? E se atingir profundamente um pequeno número de pessoas for mais importante do que atingir todo mundo com nada?

Nossa imensa nação está a apenas algumas organizações de não ter mais nenhuma redação independente com recursos e respaldo. Quando se tornam menos motivados pelo desejo de alcançar as pessoas diretamente e, em vez disso, estão determinados, por necessidade, a apelar a um sistema de distribuição de números não exatamente confiável, os jornalistas perdem sua conexão com o contexto. Quanto mais bem-sucedido o jornalista é nesse sistema, menos ele sabe o que está escrevendo.

Os podcasts ainda dependem de assinaturas e lojas de aplicativos, então mantêm uma estrutura de pessoa para pessoa, e não uma estrutura de pessoa para público/algoritmo/manipulador oculto. Aproveite os podcasts enquanto for possível.

Um exercício de raciocínio pode nos ajudar a expor como nossa situação se tornou estranha. Já imaginou se a Wikipédia mostrasse diferentes versões de verbetes para cada usuário, com base em um perfil de dados secreto? Visitantes pró-Trump veriam um artigo completamente diferente daquele mostrado a pessoas anti-Trump, mas não haveria qualquer esclarecimento sobre o que seria diferente ou a respeito do motivo. Pode parecer distópico ou bizarro, mas isso é semelhante ao que você vê em seu feed Bummer.

Se você compartilha um espaço com indivíduos que não estão olhando para seus smartphones, todos estão juntos. Todos têm uma base comum de experiências. Isso pode ser uma sensação incrível, e é um grande motivo pelo qual as pessoas vão a casas noturnas, eventos esportivos e espaços de oração. Mas quando todos estão usando o celular, você não tem qualquer noção do que está acontecendo com eles. As experiências deles são selecionadas por algoritmos distantes.

A empatia63 é o combustível que move uma sociedade decente. Sem ela, só restam regras áridas e competições por poder.

Quando você consegue ver apenas como alguém se comporta, mas não as experiências que influenciaram tal comportamento, fica mais difícil elaborar uma teoria da mente sobre esse indivíduo. Vamos supor que você tenha observado alguém batendo em uma pessoa, mas não viu que fez isso para defender uma criança. Nesse cenário, você pode interpretar mal o que está vendo.

(Teoria da mente) – Não há como saber o grau de diferença entre o que é mostrado a outra pessoa e o que posso supor que está sendo mostrado. A opacidade de nossos tempos é ainda pior porque o próprio grau de opacidade é difuso. Eu me lembro de quando se esperava que a internet viabilizasse uma sociedade mais transparente. Aconteceu justamente o inverso.

Os maiores segredos da NSA90 e da CIA91 vazaram diversas vezes, mas não conseguimos encontrar uma cópia do algoritmo de busca do Google ou do algoritmo do feed do Facebook nos desvãos da internet.92 Em grande medida, não temos acesso porque, se todos pudessem ver como a inteligência artificial e outros programas de nuvem reverenciados realmente funcionam, ficariam alarmados.

De repente, você e outras pessoas estão sendo postos em um monte de competições idiotas nas quais ninguém pediu para entrar. Por que não lhe enviam tantas fotos legais quanto mandam para o seu amigo? Por que você não tem tantos seguidores quanto ele? Essa constante dosagem de ansiedade social só deixa as pessoas mais grudadas ali. Mecanismos profundos nas partes sociais de nosso cérebro monitoram nossa posição social, e ficamos morrendo de medo de sermos deixados para trás, como um animalzinho à mercê dos predadores na savana.

Vejo que fulano foi julgado como sendo mais popular/inteligente/conectado/valioso/seja lá o que for, e o diabinho diz: “Ah, é?” E então sinto que preciso fazer alguma coisa: ou ganhar o jogo ou encontrar um jogo diferente. Mas, se permanecer dentro da Bummer, você jamais poderá escapar. Há um milhão de jogos Bummer acontecendo o tempo todo, e você é um perdedor em quase todos, porque está competindo com o planeta inteiro. Os vencedores são, na maioria das vezes, aleatórios.

O movimento para produzir softwares gratuitos foi fundamentado em um erro bem-intencionado. Tornou-se um dogma a ideia de que, se o software não fosse gratuito, não poderia ser aberto, o que significa que ninguém além do dono poderia ver o código-fonte, então ninguém entenderia o que o software realmente fazia.

Houve muito disse me disse nesse momento, por volta da virada do século. No fim das contas, apenas um método de conciliação foi identificado: o modelo de negócio baseado na propaganda. Os anúncios permitiriam que as buscas, a música e as notícias fossem gratuitas. (Isso não significou que músicos ou repórteres receberam uma fatia do bolo, porque os tecnólogos os consideraram substituíveis.) A propaganda se tornaria o negócio dominante na era da informação. No começo, isso não pareceu distópico. Os anúncios originais no Google eram bonitinhos e inofensivos. Mas, à medida que a internet, os aparelhos e os algoritmos evoluíram, a propaganda inevitavelmente se metamorfoseou em modificação de comportamento em massa. Foi assim que a Bummer nasceu.

É inerente ao modelo de negócio Bummer a afirmação de que só há uma maneira possível de os serviços digitais funcionarem: você, o usuário individual, se tornar subserviente. Isso não é verdade. A prevalência dessa mensagem é um dos melhores motivos para largar as redes sociais.

Derrubar uma sociedade para ficar rico é uma jogada estúpida, e a estupidez é exatamente o que permeia as ações no Vale do Silício.

A Bummer foi apresentada originalmente como um acordo de permuta. “Vamos espionar você e em troca lhe ofereceremos serviços gratuitos.” Pode parecer um acordo razoável a curto prazo, mas a longo prazo é terrível.

Pode-se criar arte de forma automática a partir de dados roubados de multidões de artistas reais, por exemplo. Os chamados programas de criação de arte de IA já são praticamente venerados. Então, enfermeiros robóticos poderão funcionar com dados arrancados de milhões de enfermeiros reais, mas esses mesmos enfermeiros trabalharão por menos, porque competirão com robôs.

“Data as Labor” [Dados como Trabalho], ou DaL.104 O DaL ganhou força em círculos econômicos e certamente merece ser mais explorado. Não será perfeito, mas será melhor do que a máquina Bummer.105

(Pagamento por dados seus coletados e usados.em IA) – Ouço com frequência que o Google e o Facebook jamais mudarão porque o modelo de negócio Bummer é tão bem-sucedido que os acionistas não vão permitir. Discordo. Um dos problemas com esse modelo é que ele funciona como petróleo para um Estado sem outra fonte de renda. Uma empresa que depende da Bummer pode diversificar suas atividades — seus centros de custo — tanto quanto quiser, mas nunca pode diversificar seus centros de lucro, porque precisa priorizar sempre serviços gratuitos a fim de obter mais dados e executar os serviços de manipulação. Os consumidores estão viciados, mas os impérios Bummer também estão.

Os dois gigantes de tecnologia ligados à Bummer — o Google e o Facebook — estão bem presos. Produzem a maior parte de seus lucros com a Bummer, apesar de investimentos maciços na tentativa de abrir outros tipos de negócio.

Então, mais uma vez, por que a Bummer é uma estratégia de longo prazo tão boa para empresas de tecnologia? Na verdade, não é. Essa máquina negocia o curto prazo em troca do longo prazo, assim como um Estado que depende só do petróleo.

Pode parecer indesejável ter que pagar no futuro por coisas que atualmente são gratuitas, mas, lembre-se, você também seria capaz de ganhar dinheiro com isso. E, às vezes, pagar por coisas realmente torna o mundo melhor para todos.

Mas então empresas como Netflix e HBO convenceram as pessoas a pagar uma taxa mensal, e o resultado é o que com frequência é chamado de “peak TV ” [“auge da TV”]. Por que não poderia haver também uma era do “auge da mídia social” e um “auge da busca” em que pagássemos por esses serviços?

A Bummer só sustenta as estrelas. Se você é uma daquelas raras pessoas que estão vivendo de maneira decente à custa da Bummer como influenciador, por exemplo,106 precisa entender que faz parte de um pequeno clube e está em uma posição vulnerável.

Só terei uma conta no Facebook, no Google ou no Twitter quando puder pagar por isso — e, de maneira inequívoca, ter e determinar o preço pelo uso de meus dados, e também for fácil e normal ganhar dinheiro se meus dados forem valiosos. Pode ser que eu tenha que esperar um pouco, mas valerá a pena.

Algo está afastando os jovens da democracia. Apesar das autocongratulações otimistas das empresas de mídia social, parece que quando a democracia enfraquece, o mundo on-line se torna um antro de feiura e desonestidade.

A situação me lembra a prática medieval das indulgências, em que a Igreja Católica da época às vezes exigia dinheiro para uma alma entrar no céu. As indulgências foram uma das principais reclamações que motivaram a separação dos protestantes. É como se o Facebook estivesse dizendo: “Pague-nos ou você não existe.” É o início de uma máfia existencial.

Ativistas negros e simpatizantes foram cuidadosamente catalogados e estudados. Que palavras os estimulavam? O que os irritava? Que histórias, vídeos — qualquer coisa — mantinham-nos grudados na Bummer? O que os tornaria flocos de neve para isolá-los, pouco a pouco, do restante da sociedade? O que os levou a se tornarem mais sujeitos a mensagens de mudanças comportamentais com o passar do tempo? O propósito não era reprimir o movimento, mas ganhar dinheiro.

Por sua natureza, a Bummer foi aos poucos separando as pessoas em blocos e promovendo babacas, antes que os russos ou qualquer outro cliente aparecessem para tirar vantagem. Quando apareceram, os russos se beneficiaram de uma interface de usuário projetada para ajudar “anunciantes” a se dirigir a populações com mensagens testadas para ganhar atenção. Tudo o que os agentes russos precisaram fazer foi pagar à Bummer pelo que a máquina já fazia naturalmente. O “Black Lives Matter” se tornou mais proeminente como provocação e objeto de zombaria do que como um grito por ajuda. Qualquer mensagem pode ser forjada para incitar uma determinada população se vândalos virtuais seguirem a tendência dos algoritmos. É um amálgama dos componentes A e F.

Enquanto escrevo este livro, surgiu um novo movimento social conhecido como #metoo, anunciando uma rejeição ao assédio sexual de mulheres. Os algoritmos da Bummer estão devorando tudo sobre o #metoo no exato momento em que digito. Como isso pode ser transformado em combustível para dar a algum imbecil, em algum lugar, o poder de perturbar alguém para que todos sejam mais engajados/manipulados? Como os ativistas serão incitados a se tornar menos solidários?

Nada disso implica que o Facebook prefere um tipo ou outro de eleitor. Isso depende dos clientes da plataforma, que não são vocês, os usuários.

Ao usar a Bummer, você aceita implicitamente uma nova estrutura espiritual. É como o contrato de licença do software — o acordo do usuário — que você clicou para aceitar sem ter lido. Você concordou em mudar algo íntimo de sua relação com sua alma. É bem provável que quem usa a Bummer — em algum grau, estatisticamente falando — tenha renunciado de fato ao que considera sua religião, mesmo que essa religião seja o ateísmo. Foi induzido a entrar em uma nova estrutura espiritual.

Precisa ter uma visão de mundo que rejeite qualquer que seja o grupo de pessoas que tem sido contraposto a você por algoritmos de engajamento.134

(Leia o footnote 134 – bolsonaro é o absurdo) – A consciência é a única coisa que não é enfraquecida quando é uma ilusão. Seria preciso experimentar a ilusão para a ilusão existir. Mas o outro lado disso é que, se escolher não notar que está experimentando, você pode negar sua consciência. Você pode fazer sua consciência sumir. Pode desacreditar em si mesmo e desaparecer. Chamo isso de antimágica.

A citação mais conhecida do escritor da extrema direita “Mencius Moldbug” diz: “Em muitos aspectos, o absurdo é uma ferramenta de organização mais eficiente do que a verdade. Qualquer pessoa pode acreditar na verdade. Acreditar no absurdo é uma lealdade que não pode ser forjada. Serve como um uniforme político. E, se você tem um uniforme, tem um exército.”