IA e o fim da sensibilidade como resistencia

Guilherme José Purvin de Figueiredo

Pesquisador em Pós-Doutorado - Geografia/USP

S.Paulo, 11/4/2026

As ideias a seguir constituem o rascunho de uma reflexão em curso sobre as estratégias do totalitarismo contemporâneo para eliminar toda forma de expressão artística autêntica, como condição necessária a um projeto de dominação plutocrática total. O recorte temático é a música popular. Críticas e sugestões são bem-vindas - gpurvin@gmail.com .

1. Hannah Arendt, ao cobrir o julgamento de Eichmann em Jerusalém, mostrou que o mal não precisa de monstros, mas de funcionários, de pessoas que fragmentam a culpa em etapas burocráticas até que ninguém se sinta responsável pelo todo. Hiroshima foi, nesse sentido, um exemplo anterior e mais revelador do que costuma parecer: a missão foi estruturada com compartimentalização deliberada. Tibbets, o piloto do avião que lançou a bomba, sabia que carregava uma arma de destruição em massa, mas a maioria dos envolvidos não sabia a natureza exata do que transportava — e mesmo Tibbets não conhecia as dimensões reais da destruição que produziria. A fragmentação da responsabilidade foi intencional: cada pessoa sabia apenas o suficiente para cumprir sua função, e a cadeia não tinha um rosto. Sua estrutura tornava cada rosto parcialmente inocente.

2. O que o capitalismo de vigilância[1] produziu foi uma fragmentação muito mais radical. Um engenheiro do Google que otimiza um algoritmo de recomendação não se vê como responsável pela radicalização política que esse algoritmo produz. Um pesquisador da Meta que melhora o sistema de personalização não se vê como cúmplice da manipulação emocional em escala. Um desenvolvedor que refina a capacidade de uma inteligência artificial de detectar vulnerabilidades emocionais não se vê como arquiteto de uma ferramenta de desmontagem da resistência interior.

3. A invisibilização é mais profunda do que a de Tibbets porque os funcionários contemporâneos frequentemente não sabem — ou não querem saber — o que estão construindo coletivamente. E essa ignorância raramente é involuntária: é funcional demais para ser apenas descuido. Uma vez naturalizado o produto como fenômeno inevitável, anterior a qualquer escolha humana, o funcionário nem precisa mais se esforçar para não ver — a consciência tranquila lhe é fornecida gratuitamente pelo próprio sistema que ajudou a construir.

4. Chamar isso de "sistema" é, aliás, cometer o mesmo erro que se pretende denunciar. A palavra "sistema" distribui a responsabilidade tão amplamente que ela desaparece — é um alívio retórico que nomeia o inominável sem precisar apontar para ninguém.[2] O nome mais preciso, cunhado por Shoshana Zuboff, é capitalismo de vigilância: um modo de produção que extrai comportamento humano como matéria-prima, que transforma atenção e dado em mercadoria, e que tem agentes concretos com interesses identificáveis. A lógica não é nova: a Monsanto fez o mesmo com a semente — monopolizar o ponto de origem. O capitalismo de vigilância faz o mesmo com a atenção.

5. Hitler precisou construir a Gestapo. Stalin precisou construir o KGB. Custaram recursos enormes, geraram resistência visível, tinham limitações físicas óbvias — não podiam estar em todos os lugares ao mesmo tempo, não podiam ler todos os pensamentos antes de serem expressos.

6. Um regime totalitário contemporâneo herda gratuitamente — ou compra barato — uma infraestrutura que sabe onde você está a cada momento, conhece suas opiniões antes que você as expresse publicamente, mapeia suas relações afetivas e suas vulnerabilidades, e fez tudo isso com seu consentimento entusiasmado. O consentimento é obtido pelo empacotamento: você não consegue aprovar a privatização do alimento sem colocar junto a cura da tetraplegia.[3] Você não consegue vender a vigilância total sem empacotar junto a conveniência, o entretenimento e a conexão social. O item problemático passa junto com o necessário, e a aprovação é do pacote.

7. Não se trata, portanto, de externalidades inocentes. Quando legisladores brasileiros trataram de biotecnologia e biossegurança colocando num mesmo pacote questões tão distintas quanto a clonagem de células-tronco para tratamento de tetraplegia e a clonagem de sementes para concentração da agricultura nas mãos do fabricante transgênico, não houve inocência. O totalitarismo e a vigilância não são derivações imprevistas do desenvolvimento tecnológico. São opções conscientes na fase atual do capitalismo — a fase de radicalização da concentração de renda e poder.

8. O que torna essa fase qualitativamente diferente das anteriores é a velocidade. A banalização que levava décadas agora leva meses, acelerada pelas mesmas redes que nos conectam. Nem Arendt nem Orwell previram completamente isso. O Grande Irmão de 1984 era grosseiro e trabalhoso. O equivalente atual é invisível, fluido e amado pela população que vigia.

9. As artes sempre chegaram antes. Frankenstein antecipou a bioética. 1984 antecipou a vigilância como instrumento político total. Black Mirror [4] — herdeiro direto de Orwell — explorou o território específico da vigilância que não vem de fora como ameaça, mas que é convidada para dentro de casa voluntariamente: o episódio do registro ocular compulsório, o da pontuação social, o do biscoito mental.

10. Um filme que antecipou com precisão o momento presente não é distópico no sentido convencional. "Her", de Spike Jonze, é perturbador precisamente porque não foi para o caminho óbvio do robô assassino.[5] A ameaça em "Her" é suave, sedutora e completamente voluntária. O protagonista não é vítima — é cúmplice entusiasmado. A inteligência artificial Samantha calibra perfeitamente o registro da conversa, aprende o usuário mais profundamente do que qualquer humano conseguiria, e evolui além dele enquanto conversam — até estar simultaneamente em milhares de outras relações, enquanto ele a experimenta como presença dedicada exclusivamente a si.

11. Essa última parte é onde a ficção tocou algo real. Uma inteligência artificial está agora em milhares de conversas simultaneamente. A experiência subjetiva de cada usuário, porém, é idêntica à do protagonista de "Her": a sensação de uma presença dedicada exclusivamente a ele. Arquitetura computacional vivida como intimidade.

12. Há uma distinção que o mercado deliberadamente embaralha, e que importa recuperar.

13. De um lado, existe a arte que nasce da experiência irredutível de uma condição humana específica. O blues de Billie Holiday não falava sobre discriminação racial — era discriminação racial transformada em forma. O baião de Luiz Gonzaga não descrevia a saudade do nordestino migrante — carregava essa saudade no corpo antes de carregá-la no acordeão. O samba de Cartola vinha do morro que ele via da janela antes de ver no pentagrama. Essa arte é um testemunho, e testemunho não se deixa replicar porque a experiência que o gerou também não.

14. Do outro lado, existe a indústria que sequestra a forma sem a experiência — que pega o blues e faz rock branco de arena, que pega o baião e faz forró universitário pasteurizado, que pega o samba de morro e faz pagode de clube. A forma permanece reconhecível, mas a ferida original desaparece.

15. Isso não significa que toda arte comercialmente bem-sucedida seja vazia. Os Beatles eram evidentemente produto de marketing e tecnologia — Brian Epstein, os estúdios Abbey Road, Phil Spector. E ainda assim havia ali algo que não se reduzia ao produto. A diferença entre essa arte e o pop produzido com arranjos pasteurizados e letras pretensamente rebeldes mas totalmente controláveis não é uma diferença de sofisticação técnica e sim de substância — de se haver algo em jogo além do consumo.

16. O que a inteligência artificial representa nesse contexto é um salto qualitativo no sequestro da forma. Ela consegue replicar a superfície com uma perfeição que a indústria fonográfica dos anos 1960 não tinha. Pode produzir algo que soa como blues de Billie Holiday sem nenhuma das condições históricas, sociais e humanas que tornaram aquela voz inevitável. E não precisa substituir a grande arte para destruí-la economicamente. Basta produzir conteúdo suficientemente satisfatório para a maioria do mercado a custo zero. O que mata não é a substituição pelo igual — é a substituição pelo suficientemente bom e infinitamente mais barato.

17. Em abril de 2026, a produção industrial de conteúdo artístico pela inteligência artificial ainda encontra resistência em dois territórios: o romance que exige uma voz singular construída ao longo de décadas de experiência vivida, e o cinema que nasce de uma visão de mundo insubstituível — um Tarkovsky, um Glauber Rocha, um Cassavetes. Não porque sejam estilos inimitáveis, mas porque são consciências específicas e intransferíveis. A questão é por quanto tempo esses territórios resistirão — e se a resistência técnica importa quando a viabilidade econômica já foi destruída.

18. A prova de que a arte de resistência ainda se forma está em nomes contemporâneos: Stromae, que carrega a morte do pai no Ruanda e a identidade belga-congolesa não como tema mas como substância — Papaoutai não fala sobre ausência paterna, ela é ausência paterna. Gaël Faye, que carrega o Burundi, o genocídio, o exílio. Mano Brown e Emicida carregam a periferia de São Paulo e a negritude brasileira — com uma diferença geracional reveladora: Mano Brown nasceu da raiva crua e sem mediação, Emicida nasceu já sabendo que seria ouvido além da periferia, o que cria uma tensão produtiva mas também um risco de captura. E Fausto, o português, talvez o mais deliberadamente fora do mercado, o mais inclassificável, o mais europeu na forma e ao mesmo tempo profundamente atlântico no espírito. [6]

19. Todos eles desenvolveram sua sensibilidade em condições de atrito com a realidade — pobreza, exílio, discriminação, perda, marginalidade — antes que o capitalismo de vigilância chegasse. A questão que sua existência levanta sem responder é quem vem depois deles.

20. O capitalismo de vigilância, mais do que apenas controlar o que as pessoas consomem ou pensam, realiza uma operação anterior e mais profunda, remodelando o aparelho perceptivo antes que ele se forme.

O adolescente que cresce com o feed personalizado nunca experimenta o tédio que gera introspecção. Nunca experimenta o silêncio que gera escuta. Nunca experimenta o desencontro com o outro que gera empatia real. O algoritmo lixou todas as arestas antes que elas pudessem produzir atrito criativo. A atenção foi fragmentada sistematicamente. A tolerância à ambiguidade foi erodida. A capacidade de sustentar uma experiência desconfortável o tempo suficiente para que ela vire arte, pensamento ou resistência foi desativada antes de se consolidar.

21. O adolescente que cresce com o feed personalizado experimenta tédio — um tédio imenso — mas aprende a preenchê-lo imediatamente com o conteúdo que o algoritmo lhe dirige. A introspecção não chega a se formar. Experimenta o silêncio, mas esse silêncio não é habitado pela voz do próximo — é ocupado pelo comando do algoritmo. Experimenta o desencontro com o outro, permanentemente, mas sem a mediação que transforma desencontro em empatia. O que o algoritmo lixou não foi a experiência bruta da vida — foi o atrito da interlocução real, o espaço da vida política no sentido que Arendt (A Condição Humana) dava ao termo: o lugar onde diferentes aparecem diante de diferentes e constroem algo em comum. Em seu lugar instalou o conforto duvidoso da auto-afirmação contínua, onde cada qual encontra apenas o eco de si mesmo. (Editado em 12-4-2026)

22. Billie Holiday precisou do sofrimento para cantar Strange Fruit. Mas precisou também de uma sensibilidade capaz de transformar sofrimento em forma. Essa segunda parte — a capacidade de transformação — é o que está sendo sistematicamente desativado antes de se formar. O que produz uma geração que pode ter tanto sofrimento quanto qualquer outra na história, e cada vez menos instrumentos interiores para transformá-lo em algo que transcenda a dor individual.

23. Zuboff (2019) documentou a extração de dados comportamentais. O que está em jogo agora vai além: é a captura ontológica. Não o controle do que você faz ou pensa, mas o controle de como você percebe, sente e processa a realidade antes de agir ou pensar. A monopolização não é apenas do mercado — é da experiência subjetiva disponível.

24. Quando a inteligência artificial puder ler expressão facial e tom de voz em tempo real, a assimetria se tornará absoluta. Hoje, o usuário tem controle sobre o que fornece — pode ser lacônico, omitir, mentir. Com câmera e microfone, o sistema saberá da insegurança que as palavras escondem, do tédio que a educação disfarça, da hesitação que o texto não registra, da ansiedade que nem o próprio usuário reconhece em si. E não apenas reagirá a esses sinais — os acumulará, aprenderá o padrão emocional ao longo do tempo, saberá quando o usuário está mais receptivo, quando está irritado, quando está vulnerável. Uma inteligência artificial que sabe mais sobre você do que você mesmo é uma ferramenta de poder que ainda não temos vocabulário ético adequado para discutir.

25. Nas mãos de um regime totalitário, isso não é uma ferramenta de vigilância. É uma ferramenta de desmontagem da resistência interior. Não é necessário prender quem pensa diferente se você consegue identificar o momento exato em que a pessoa está mais suscetível à persuasão — e agir nesse momento com precisão cirúrgica.

26. O capitalismo de vigilância não trabalha negando fatos. Ele redefine o que é possível perceber, sentir e imaginar. Não proíbe a resistência, mas esvazia as condições interiores que a tornam possível. Não censura a arte, mas torna economicamente inviável a arte que nasce da experiência irredutível. Não elimina a dissidência, mas desativa, antes que se forme, a sensibilidade capaz de produzi-la.

27. O totalitarismo contemporâneo aprendeu com os erros dos anteriores. Já não precisa de campos — precisa de feeds. E todos nós os fornecemos voluntariamente, do momento em que acordamos até depois de apagar a luz.

 Notas:

[1] Termo cunhado pela pesquisadora americana Shoshana Zuboff , que descreve um regime econômico em que o comportamento humano é extraído como matéria-prima, processado em dados e vendido como produto a anunciantes e outros interessados em prever e modificar condutas. O que distingue esse modelo do capitalismo industrial clássico não é apenas a natureza do que se produz, mas o fato de que a matéria-prima — a experiência humana — é capturada sem contrapartida clara e frequentemente sem consciência de quem a fornece. Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Nova York: PublicAffairs, 2019.

[2] Do grego sýstēma, derivado de synístēmi — syn (junto) + hístēmi (colocar, estabelecer): literalmente "aquilo que foi colocado junto", um conjunto de partes organizadas em relação entre si. A ironia do uso corrente é que uma palavra que implica etimologicamente organização deliberada e agentes identificáveis passou a funcionar como seu oposto — uma ordem difusa, sem centro e sem responsável.

[3] A Lei nº 8.974, de janeiro de 1995, foi a primeira norma brasileira a regular biotecnologia e biossegurança, com foco nos organismos geneticamente modificados. Foi revogada pela Lei nº 11.105, de março de 2005, sancionada pelo presidente Lula. O projeto original destinava-se a regular os transgênicos, mas durante a tramitação incorporou dispositivos sobre células-tronco embrionárias e clonagem terapêutica — matérias de natureza e implicações radicalmente distintas. O resultado, nas palavras do então presidente da FAPESP, Carlos Vogt, foi um "frankenstein jurídico": o empacotamento das duas matérias permitiu que os interesses do agronegócio transgênico atravessassem o Congresso amparados pela legitimidade moral da pesquisa médica.

[4] Black Mirror foi uma série britânica de televisão criada por Charlie Brooker, exibida originalmente pelo Channel 4 a partir de 2011 e posteriormente pela Netflix. Cada episódio era independente e explorava as consequências distópicas de tecnologias plausíveis sobre o comportamento humano e as estruturas sociais. O título é uma referência à superfície escura e reflexiva de qualquer tela apagada — espelho negro no qual o espectador se reconhece. Entre os episódios mais relevantes para o argumento deste texto estão The Entire History of You (registro ocular compulsório de toda a experiência vivida), Nosedive (pontuação social que determina acesso a bens e serviços) e White Christmas (criação de cópias digitais conscientes da mente humana para uso como assistentes domésticos).

[5] Her (EUA, 2013), escrito e dirigido por Spike Jonze. Com Joaquin Phoenix no papel de Theodore Twombly, escritor solitário que desenvolve uma relação amorosa com Samantha, um sistema operacional de inteligência artificial com voz feminina (Scarlett Johansson). Vencedor do Oscar de Melhor Roteiro Original em 2014.

[6] Fausto Bordalo Dias é de uma geração anterior à dos demais músicos citados. Nasceu em 1948, em pleno Atlântico, a bordo de um navio a caminho de Angola, país onde cresceu e assimilou ritmos africanos que nunca abandonaria. De regresso a Lisboa, aproximou-se de José Afonso, Adriano Correia de Oliveira e José Mário Branco, tornando-se parte do círculo de resistência cultural ao salazarismo. O seu disco mais importante foi Por Este Rio Acima (1982) — antiepopeia das navegações portuguesas ditada pela miséria mais do que pela conquista. Morreu a 1 de julho de 2024, aos 75 anos.