contain  multitudes  •  por  Padma  Dorje  •  fundado  em  2003
contain  multitudes
Home > Diversos > Robô significa escravo: o humano na senzala algorítmica

Robô significa escravo: o humano na senzala algorítmica

Muito se fala de tecnologias disruptivas, particularmente desde os anos 2010. Entre todas elas – até mais do que bioengenharia e nanotecnologia, duas coisas com óbvio potencial de por si só virar tudo de cabeça para baixo – a inteligência artificial é a queridinha do momento. Não que o alarme não tenha soado, com figuras como Stephen Hawking, Dzongsar Khyentse Rinpoche e Elon Musk fazendo advertências bem públicas quanto a seus perigos. No entanto, o grande problema da inteligência artificial já pode ter cerca de 200 anos, e não tem tanto a ver com computadores – como é isso?

Algumas pessoas acham que “o começo do fim” foi quando sucumbimos à agricultura. A agricultura foi a primeira tecnologia disruptiva, permitindo a própria civilização, e também acumulação de poder e riqueza; e guerras. No entanto, da agricultura até a próxima tecnologia altamente disruptiva – possivelmente algo como a escrita, passou muito tempo. As tecnologias causavam mudanças ao longo de várias vidas, e a adaptação de cada ser humano ocorria num ritmo perfeitamente acessível.

Havia tempo de absorver e pensar essas alterações. A adaptação, com contratempos, era perfeitamente possível.

Isso até cerca de 200 anos atrás.

Sem querer fazer deste texto uma espécie de manifesto do Unabomber, então veio a Revolução Industrial. As ramificações sociais do domínio da máquina e a absoluta capacidade de transformar várias energias extraídas da natureza em trabalho ainda estão sendo absorvidas e compreendidas. Sem dúvida, muito do que entendemos como normal e, que em comparação pode parecer bem positivo com o que era “normal” 300 anos atrás, é fruto dessa organização e manipulação de recursos sem precedentes, que causou o que chamamos hoje de “antropoceno”, e também a sexta extinção em massa da biodiversidade, a primeira causada por uma forma de vida que surgiu na terra.

Porém, em conjunto com essas transformações mais óbvias do ambiente e de nossas vidas (para pior e para melhor), em termos de produtos e coisas a que temos acesso, a revolução industrial teve duas revoluções concomitantes que ainda estão sendo “descobertas”, e que ainda têm grande impacto sobre nosso entendimento do que é uma máquina e o que seria inteligência artificial.


Azeitando as máquinas e maximizando a eficiência

Estas duas revoluções dizem respeito a, por um lado, contratos e novas legislações, e, por outro lado ao taylorismo, isto é, a organização de seres humanos e de suas ações como parte de um organismo bem azeitado em conjunto com máquinas.

Com relação a contratos, a primeira grande mudança foi a noção de corporação, ou o que chamamos de “sociedade anônima”. As empreitadas da revolução industrial requeriam financiadores, e a sede por finanças era infinita – havia todo um nhaco da terra a ser explorado com máquinas famintas de carvão, só esperando por um aporte. O dinheiro velho ainda era conservador em suas aplicações, e quando não era, já estava inteiramente dedicado à fundação de indústrias. Os mercados emergentes pareciam infinitos, e as coisas a se produzir e vender bem mais barato, infindáveis.

Precisávamos mais dinheiro do que a nobreza antiga podia fornecer. Agora a fonte precisava ser a riqueza emergente, bem mais fragmentada: a tal burguesia. Haveria um jeito de fazer uma espécie de “consórcio” para financiar um empreendimento? Uma forma em que pequenos investidores poderiam se reunir e fornecer aporte coletivamente, recebendo dividendos?

Aos moldes do mercado de ações, que até então era principalmente envolvido com commodities e empreitadas de exploração marítima ligadas a elas – e que já estava por trás das multinacionais e monopólios como a British East India Company, que num determinado ponto por si só se tornou mais relevante que o conceito de monarquia, antecipando a obsolescência dos estados perante as empresas em pelo menos 150 anos – decidiu-se legalizar a noção de estatuto de sociedade anônima. A grande vantagem seria que os financiadores recebiam seus dividendos sem grande envolvimento com as políticas internas da empresa, fora eleger (e demitir) representantes, como nas democracias representativas.

Até aqui, tudo muito fantástico e positivo. O dinheiro necessário para revolucionar a produção, como a energia usada para efetuar o grosso do trabalho (do carvão ou logo depois a eletricidade com várias fontes), tinha um fluxo de entrada e saída, e obedecia a padrões bem conhecidos. O ramo legislativo dos estados garantia isenção contratual, e todas as questões de comércio internacional ainda diziam basicamente respeito apenas à matéria prima e produtos manufaturados.

É importante dizer que essa mera discrepância entre matéria prima e produtos manufaturados é o que conhecemos como “subdesenvolvimento”, e a preocupação toda do Brasil já era, cof... , em plenos anos 1950..., penetrar a tal revolução industrial, e deixar apenas de ser uma fonte de matéria prima. Pelo menos foi o que me contaram na escola durante os anos 1980. Extrativismo, agricultura, indústria – ninguém imaginava o Uber e a gig economy, esse admirável mundo novo em que vivemos. A desigualdade causada por aquelas entradas e saídas de aporte financeiro e bens a serem trabalhados e bens já trabalhados foi exatamente o que criou as noções de primeiro e terceiro mundo.

Junto com isso, é claro, a questão do trabalho humano no lidar com essas máquinas. A grande ideia de Taylor foi aplicar os mesmos princípios de engenharia aplicados às máquinas aos seres humanos em contato com elas, e assim aumentar a eficiência produtiva maximizando o “operador”. O exemplo consumado do taylorismo é a cozinha de um McDonald’s. Cada ingrediente, máquina e bancada são posicionados de forma a minimizar o número de passos dados – e nem entremos em todas as questões de treinamento e adaptação de utensílios e pré-preparações customizadas. E assim a mão de obra humana se conforma aos poucos, e num grau de detalhismo diabólico, para produzir o melhor hambúrguer, em menos tempo, com o menor salário possível.

Pelo menos as pessoas têm um salário, e pelo menos outras pessoas tem um hambúrguer para comer. E pelo menos ainda há um grupo de seres humanos avaliando esses processos. Aparentemente.
Claro, nem tudo são rosas. Os abusos trabalhistas da revolução industrial foram o que levou o jovem Marx a se comover e tecer suas críticas. A legislação trabalhista foi conquistando paulatinamente direitos específicos, e justo as tais tensões trabalhistas e o trabalho intelectual sobre elas é que acabam produzindo o tal “segundo mundo”, as áreas comunistas que tentaram um enfoque diferente de produção – e que foram relativamente fracassadas.

Mas o importante na visão atual é que essa tensão sempre existiu, e essa tensão basicamente é um contraponto entre o trabalho humano e as ferramentas para extrair esse trabalho. Basicamente, a questão de classes e meios de produção da doutrina socialista se resume ao fato de que a exploração acontecia. É preciso entender que esse termo, “exploração” tem vários sentidos, mas o sentido apropriado aqui é tanto extrair algo novo quanto abusar do ambiente e das pessoas em benefício próprio ou de seu grupo ou classe. Ou simplesmente excluindo fatores como sobrevivência futura.

A visão cínica é que a exploração é simplesmente uma realidade fisiológica e sistêmica, quem não aceita isso é um sonhador. Essa é a ideologia subjacente ao derrotismo e falta de sentido que preponderam. A bota de George Orwell, sempre pressionando nosso rosto, era o estado malvadão – porém a bota que sempre pressionou os escravos foi a do senhor, pouco importa que cara específica tenha essa relação assimétrica. E a bota central é a relação de exploração com o ambiente e também com os, a princípio, humanos artificialmente desigualados (por ideologia, por signos tais como a cor da pele ou língua e costumes diferentes). Essa desumanização da força de trabalho, e a objetificação da natureza como algo a ser basicamente estuprada, é o fator essencial na ideologização do lucro.

A resposta mais cuidadosa e em bom tom da ideologia hegemônica é: não importa que alguém não usufrua exatamente o que está oferecendo, em quantidade ou qualidade. O que importa é que, de uma forma geral as pessoas possam usufruir de condições mínimas para continuar oferecendo. O que é, relativamente falando, até justo.

Desconsiderando os meios e os resultados, essa é a justificativa. Supostamente, as condições gerais melhoram. Sob que indicativos? Aqueles índices econômicos simultaneamente providos e analisados por essa mesma ideologização do lucro que inerentemente desumaniza, tais como o PIB.

O problema maior – maior ainda do que a mera desumanização com bases étnicas, e objetificação da natureza – que começamos a ver logo no início do século XX, e que filmes como Tempos Modernos de Charlie Chaplin tão bem identificam, e que em certo sentido está ligado à ideia de alienação do nosso amigo Marx, é que a cadeia produtiva desumaniza o humano como se ele fosse uma máquina.

Isso, é claro, independe de etnia. A natureza, seguindo “leis” inexoráveis, e algo amorfo, já era assim enquanto criação como entendida pelos cristãos, por exemplo – uma primeira etapa de objetificação. Mas o homem ainda possuía uma fagulha diferencial que o igualava ao criador. Com a morte de deus, a objetificação da natureza se tornou a objetificação do humano. Viramos “recursos humanos”.


Tudo e todos “iguais perante o lucro”

Enquanto que os EUA são fundados em torno da ideia de que impostos implicam representatividade própria, oferecer trabalho em troca de dinheiro é uma relação essencialmente desigual. A representação na empresa (via sindicatos ou outros meios) e a participação nos lucros são tentativas de lidar com isso ou minimizar a discrepância abismal dessa assimetria, mas o fato é que a relação de trabalho está inerentemente em tensão, por mais que façamos tentativas de aliviar, aqui ou ali, essa perspectiva.

Na base, a alienação é generalizada, e diz essencialmente respeito a desconexão entre a humanidade de uma pessoa e sua posição como agente produtivo, organizador ou explorador. Isto é, parafraseando Gandhi – que disse que entre o soldado inglês e o indiano fazendo protesto havia um inimigo comum, o fuzil – os três, trabalhador, administrador e financiador são vítimas da mesma alienação entre sua humanidade e atividade. Uma coisa que hoje em dia se costuma chamar de bullshit job, ou trabalho sem sentido.

O trabalho nos escalões mais altos não é mais satisfatório porque recompensa melhor ou permite o maior exercício de liberdades – ele é igualmente sem sentido, ainda que talvez menos desagradável.
Isso não era assim antes da revolução industrial: a exploração do trabalho podia muitas vezes ter um tom escravocrata (ou literalmente escravagista), e terrível sob muitos aspectos, mas não era inerentemente alienada. Era relativamente comum uma pessoa encontrar sentido no que fazia, e até mesmo conceitos como “o trabalho enobrece a alma” e “vocação” surgem em termos religiosos. Ou seja, pelo menos uma fatia pequena da população via sentido no que fazia.

O que a revolução industrial nos deixou de legado, além de têxteis baratos, comida processada e quinquilharias de plástico, foi a vitória da máquina: não tanto da máquina a vapor ou das máquinas com que os homens trabalham, mas a vitória da visão mecanicista que está na base do contrato que forma a corporação e do taylorismo.

Patrões e empregados obedecendo a padrões formulados por ideologias tão alienadas da realidade cotidiana de humanos enquanto seres humano, e tão focadas na ideia de ausência de sentido (fora o lucro pelo lucro), que nem mesmo dialogam com ou respondem aos interesses peculiarmente humanos. O contrato foi formulado e entramos nele abdicando da humanidade que nos permitiria avalia-lo e modifica-lo. Ele é um mecanismo que se autossustenta: uma forma de inteligência independente da vontade humana.


Algoritmos para Humanos

Quem já recebeu uma ligação de telemarketing sabe: a moça do outro lado da linha tem um roteiro. Ela precisa manter o cliente na linha e seguir os passos de acordo com as respostas, e depois ela é avaliada de acordo com as vendas e número de ligações, e vários outros indicadores.

Quando o Google revelou há não muito tempo uma inteligência artificial que faz suas ligações e marca os compromissos por nós, pouca gente comparou as duas coisas, mas corriqueiramente falamos com um ser humano, no caso atendentes de telemarketing, como se fossem robôs. Isso por que, embora ali haja um corpo biológico, as ações desse ser que tem pai e mãe e uma história pessoal, no contexto de seu trabalho, são absolutamente robóticas. As melhores atendentes com certeza são aquelas que tocam nossa humanidade, o que é um tanto pior, se você pensar bem: na medida em que ela prostituir sua humanidade em nome do trabalho, ela funciona melhor.

No fim do mês, após passar várias horas por dia fazendo a mera performance de um ser humano que no fundo obedece a um algoritmo não humano, e com finalidades não humanas, estabelecido por critérios não humanos, ela ganha o mínimo quinhão possível que satisfaça a maximização de eficiência do algoritmo x em contraposição ao algoritmo y da empresa concorrente. Ela, enquanto pessoa biológica, tem necessidades humanas, e até tenta ser humana nas horas vagas, mas após passar o dia todo fingindo ser humana em meio aos rígidos padrões de um algoritmo para ganhar o suficiente, ou quase isso, para existir enquanto saco de carne e ossos e manter o padrão necessário para fazer o que faz, não é tão fácil. Em certo sentido, é mais fácil obedecer o fluxo, e não pensar muito a respeito disso.

É a maximização da máquina e a minimização do humano, em processo acelerado de aumento de eficiência. Afinal de contas, as máquinas são melhores em conquistar os resultados e preencher os indicadores. O “toque humano”, que aquece nossos corações, fica reservado para a publicidade e para ser usado como papo de vendedor. Ele é o brinde que fecha o negócio, a idolatria cega ao mecanismo objetifica e embala o cerne da empatia como “fidelização”.

Podemos imaginar serviços no futuro em que se paga mais para lidar com uma pessoa. Espere, não é exatamente isso que chamamos de “bancos” já hoje em dia?

E podemos chegar nesse ponto da pensata e nos envergonhar um pouco, porque efetivamente já preferimos lidar com máquinas. Puxa, a que nível de desumanização chegamos que já preferimos o autoatendimento do que lidar com um atendente humano? Que já preferimos deixar o Google fazer nossas ligações? Como somos desumanos, não é?

Não.

Temos a tendência a preferir lidar com máquinas porque reconhecemos a profunda degradação que é lidar com um ser humano fazendo apenas alguma coisa que uma máquina faz melhor, ou o que seria pelo menos mais adequado a uma máquina. Falar com atendentes de telemarketing é o uncanny valley invertido: não é um robô que quase está se parecendo com um ser humano e nos dá uma sensação esquisita; é falar com um ser humano que está quase agindo apenas como um robô e nos dá uma sensação esquisita.

Puxa, e então pensamos, “nossa, pobre do trabalhador, como Charlie Chaplin em tempos modernos, mas não com engrenagens, e sim com um fluxograma.” O problema é que essa alienação que nos torna robôs (que vem do eslavo para escravo, trabalhador forçado1O que é até um tanto irônico por si só, uma vez que eslavo, slav, é uma das fontes da palavra slave – e é justo este povo, cuja associação com um termo assim nunca surge num contexto de epiteto racial pejorativo, que trazem a palavra “robô” para o idioma contemporâneo, e que tem o mesmo sentido!) não se aplica apenas ao elo mais fraco nessa corrente. Os administradores e os financiadores também se colocaram na mesma posição de alienação perante a própria humanidade. E no caso dos financiadores, eles o fizeram de propósito!


O contrato que nos isenta quanto à própria humanidade

Quando estávamos envolvidos naquela produção louca da revolução industrial, e pensamos naqueles “consórcios” para financiar as empresas, começaram a surgir certas regras.

Essas regras começaram a se relacionar com a legislação, e por fim, o contrato que estabelece as corporações se tornou uma espécie de algoritmo que se autodefende e se autoaltera com o tempo.

Esse programa não roda em silício. Ele roda nas instituições humanas, garantindo a progressiva desumanização das relações.

A corporação é a primeira inteligência artificial: apenas que ela não opera em silício, e sim em estatutos que “rodam” num sistema jurídico e na interface com estados e o big money. Este algoritmo age sobre o mundo e as pessoas como itens de entrada e saída para produzir uma única coisa: lucro.

Há um experimento de pensamento na área de filosofia da inteligência artificial (sobre o tópico de “convergência instrumental”) que propõe que uma inteligência artificial é, de forma geral, estabelecida com um propósito. Digamos que o propósito de uma determinada inteligência artificial seja produzir agulhas (o exemplo original é clipes de papel, mas aqui prefiro agulhas pois é bem conhecido pelos fãs de Adam Smith). Digamos que essa inteligência artificial seja muito bem sucedida, e ela cada vez desenvolva mais a capacidade de produzir agulhas, melhor e mais rápido do que o competidor. Como ela é a inteligência artificial mais bem desenhada, aos poucos ela aprende a adquirir minas e compra toda a cadeia produtiva do aço. Ela movimenta populações inteiras e recursos de continentes para a produção de agulhas. Enfim, com o crescimento exponencial de seu aprendizado e capacidades, ela aprende a explorar o espaço, e em alguns bilhões de anos transforma todo o metal da galáxia em agulhas.

Os seres humanos há muito esquecidos foram apenas uma etapa do processo adaptativo na produção de agulhas, quando este se restringia a apenas um “mercado”.

Veja que essa é uma inteligência artificial do tipo fraco, considerado altamente possível, ou até já em funcionamento hoje. É “fraco” porque não imita capacidades de autorreflexão tipicamente humanas, que a fariam duvidar do objetivo para que foi criada inicialmente. Essa inteligência artificial ainda é essencialmente algorítmica, por mais que ela seja capaz de maximizar os próprios algoritmos.

Claro, estamos aqui falando de algo semelhante a “cérebros de silício”. Mas a ciência da computação não vê diferença quanto ao substrato onde operam algoritmos. Caso esse substrato seja uma pessoa ou grupo de pessoa fazendo marcas no papel, desde que elas estejam trabalhando sob regras e fluxogramas, isso em nada muda o experimento de pensamento.

Então, em vez de silício, temos contratos e a noção de sociedade anônima. Em vez de agulhas, temos o lucro. Em vez de um problema para o futuro, temos um problema em ação, que está causando a sexta extinção em massa, devido a um processo automatizado criado duzentos anos atrás.

“Nossa, como são gananciosos os financiadores, a ganância está destruindo o ecossistema, etc.” Podemos imaginar algo assim, e podemos nos indignar com alguma pessoa ou grupo de pessoas “lá em cima” coordenando todos esses problemas em benefício próprio. No entanto, a realidade é um tanto mais desoladora do que meros inimigos humanos.

Desde o séc. XIX não há mais uma pessoa “lá em cima” coordenando os algoritmos. Nem mesmo um grupo ou classe “beneficiados”, ainda que vez que outra haja um aporte ideológico em termos de legislação, que tem uma aparência de humanidade ou um traço ou outro humano que se ressalta, ou tenta uma provisão temporária para proteger esse ou aquele grupo de humanos. Porém, de forma geral, a máquina jurídica da corporação é simplesmente autossustentável. Trata-se de um sistema operacional a que todas as instituições humanas, sem exceção, prestam contas – literalmente.

Estes aportes ideológicos e transformações no código fonte do processo surgem da alienação que é justamente um dos subprodutos ou externalidades dessa máquina que foi ligada na revolução industrial e até hoje está cavocando a terra e cagando toxinas sem parar, e usando seres humanos como basicamente óleo lubrificante. Não só trabalhadores, mas CEOs e financiadores também, afinal de contas, lá fundo, eles também respiram o mesmo ar e vivem suas vidinhas alienadas consumindo as mesmas coisas, talvez um pouco mais bonitas e caras, mas no fundo as mesmas coisas, que todos os outros.


Segura na mão invisível e vai

A noção faustiana (ou até prometéica) está justo aí. O contrato é assinado com o diabo, e troca a humanidade por uma finalidade quantificável. Os românticos nos alertaram quanto à máquina, a ficção científica surgiu como uma reação às mudanças sociais produzidas pela revolução industrial – estas são as tentativas de burlar a alienação básica que é transformar a vida na terra, a própria vida e a dos outros seres humanos, num empreendimento.

Evidentemente, as motivações não eram ruins. A ideia era que, se vamos unir nosso dinheiro sob um algoritmo contratual, isso seja bom para todos os envolvidos.

Como isso se deu?

Bom, reunir amigos para financiar uma empresa parece legal, não é? Se a empresa vai bem, todo mundo se beneficia. Repare que todas as defesas do capitalismo tratam a empresa como essa reunião bonachona de empreendedores, como se fosse a sociedade da sua venda da esquina. Dois irmãos vieram do interior, e com trabalho muito duro, eles fundaram aquela vendinha, e agora estão prosperando. Como é bonito o capitalismo.

Porém, quando aquele grupo de “pessoas anônimas” se reuniram para dar aporte financeiro a uma empresa, quando elas passaram a se reunir de uma forma menos presente – mais alienada – em quantidades maiores, e de forma “aberta” (isto, é, qualquer um podia botar dinheiro e receber dividendos) – isto é, quando os participantes viraram “acionistas”, é que a vaca foi para o brejo.

O que acontece é que empresas limitadas operam com um grau de responsabilidade humana. Caso uma empresa limitada prejudique a você, você processa os donos. Há proteções quanto às finanças pessoais dessas pessoas, e o que está na empresa, mas de forma geral, você está lidando com um negócio gerido por pessoas, e lidando com pessoas.

Acionistas são uma classe um pouco diferente, eles não são bem pessoas, no sentido de terem responsabilidades humanas. De fato, nenhum envolvido numa sociedade anônima tem qualquer responsabilidade pessoal pelas ações da sociedade anônima. É por isso que ela é “anônima”. Se você processa essa empresa, você não está lidando com uma pessoa, mas com um contrato.
Isso vale até, ou principalmente, para o CEO. Ele tem obrigações para com os acionistas. Se ele age contra a vontade dos acionistas, ele pode ser demitido ou multado. Porém, se as ações dele produzem digamos, externalidades que causam milhões de mortes por intoxicação, ele raramente será pessoalmente responsabilizado. Basta ele dizer que estava fazendo isso para não violar o contrato com os acionistas, e dar boas razões para isso – e provavelmente ele estava agindo com essa motivação mesmo, e não a de matar milhares de pessoas. O contrato isenta qualquer agente na empresa, e qualquer acionista particular, com relação às ações da empresa. Se as ações estão satisfazendo os acionistas, segundo o contrato, isso é tudo que é requerido de cada “mecanismo humano” dentro da empresa. Se ele agir errado, ele pode ser multado, então que pese mortes e externalidades como a destruição do mundo todo, a responsabilidade dele é com o cargo, não como ser humano. Se externalidades ocorrem, a empresa pode ser multada, mas não há humanos a responsabilizar.

Efetivamente, não há humanos na empresa anônima, qualquer noção de humanidade ali não era a forma mais eficiente de produzir lucro, então a humanidade foi extirpada desse organismo e substituída por um algoritmo contratual.


Teste de Turing às avessas

Já reparou quando o computador faz aquele teste de captcha, para saber se você é um ser humano, e não é outro computador abusando do sistema? Já pensou se Turing, que desenhou um teste invertido – que analisaria uma inteligência artificial pelo mero fato dela ser capaz de se passar por humana perante humanos num teste cego – seria capaz de conceber essa inversão?

Hoje nós temos que provar que somos humanos perante máquinas, frequentemente. Isso é altamente indicativo.

A suprema corte estadunidense já reconheceu a primeira inteligência artificial como um ser humano. A noção de corporação foi elevada pela suprema corte a alguém com liberdades civis.

Claro, esse “ser humano” não pode ser torturado, ou ter consciência moral (apenas uma campanha de RP para soar alguém preocupado com o ambiente, como até a Shell faz). A maior afronta e punição que podemos fazer com tal “ser humano” é multa-lo. E essas multas estranhamente nunca correspondem ao impacto causado. Também é preciso verificar se essa inteligência artificial contratual sente essa multa no bolso. Quando os acionistas leem os relatórios trimestrais e ali consta essa despesa causada pelos milhões de litros de petróleo que eles derramaram no mar, eles podem ter uma sensação de perda. “Puxa, 2% a menos nesse trimestre”. Será que essa dor coletiva sob a quantificação de uma multa reflete como consciência moral?

É claro que como seres humanos e pais de família, quando eles veem a foto de uma garça coberta de óleo eles se comovem, como qualquer um. No entanto, como eu e você, eles se sentem parte de uma engrenagem minúscula numa enorme máquina. Eles ficam um pouco tristes, mas eles não podem fazer muita coisa. Se eles forem acionistas majoritários, e desenvolverem consciência moral, talvez a ação mais hábil seja vender aquelas ações e comprar outras. A máquina toda não vai e não pode parar, isso não depende de nenhuma das sub-engrenagens, por mais humanas que sejam. E muitas vezes, é claro, elas já estão acostumadas a esse processo de desumanização, e já se acostumaram a descontar a garça coberta de óleo em alguma justificativa qualquer, e não ouvir o coração. Alguns podem até ser psicopatas, e não terem empatia nenhuma. De toda forma, isso é indiferente para a empresa. Talvez até seja positivo, do ponto de vista da máquina.

Essa combinação de partes que opera algoritmicamente e que desenvolveu inteligência própria, sem empatia, é basicamente um psicopata. Elas operam no mundo competindo umas com as outras indiferentes para as formas de vida do planeta, porque seu objetivo programado independe disso.

Reconhecidas como seres humanos perante a lei, elas podem fazer doações de campanha, e eleger representantes que colaborem em seu interesse, independente dos interesses de suas partes ou, muito menos, dos recursos que consomem. Entre esses recursos, hoje em dia, não são compostos apenas metais e horas de trabalho, mas da própria consciência humana.

E não só quando a amazon contrata seres humanos e paga por microtarefa de problemas difíceis de computação – o exemplo mais claro de um homem trabalhando para a máquina: essa tarefa ainda é melhor realizada por um ser humano, então dá um trocadinho para qualquer um que esteja disposto a fazer, sem nenhum tipo de contrato. A tal da gig economy, que prospera pelo pequeno tempo em que dirigir um carro ainda é uma tarefa melhor realizada por um ser humano.

Não, essa forma de uso dos “recursos humanos” é a mesma de sempre, apenas microfocalizada e sem regulação trabalhista possível – porque o algoritmo do trabalho pode, se for necessário, mudar de hora em hora. A nova forma é a própria exploração imediata da consciência das massas como na eleição de Trump, efetuada por microtargeting.


Caixa preta

O que nos leva ao elemento final, e aí verdadeiramente negro, da situação como ela se apresenta.

Os algoritmos de todo tipo estão fora da compreensão humana. Eles não estão fora da compreensão do usuário. Eles estão fora da compreensão de quem os estabelece, e cada vez mais, na medida em que os algoritmos se auto-alteram, eles estão fora da possibilidade de compreensão.

Na base, o algoritmo inicial daquela inteligência artificial contratual firmada dois séculos atrás, com a ideologização do lucro como substrato, e o lucro como objetivo, requeria informação perfeita para funcionar. Leia lá seu Adam Smith: ele vai dizer que para a competição ser eficiente, é preciso que os consumidores saibam pesar os prós e contras de cada oferta. Isso teve uma consequência desastrosa.

Basicamente, isso não causou uma maior oferta de informação, mas pelo contrário. Descobriu-se que a desinformação era mais eficiente, já que a informação, como bem escasso, vale mais. Assim, a publicidade prospera no capitalismo, e toda tentativa de regulação parece infinitamente ingênua: você pode usar de hipérbole, mas não pode mentir – bom, depende do que se entende por mentir, já que há intenção no ato de mentir. Você pode ludibriar ao máximo, desde que não fique evidente a intenção. Bom, sua intenção é vender, isso todo mundo sabe. Você não mente para enganar, você manipula a informação para vender. Nos mercados altamente regulados, é isso que se encontra. E não se encontra muitos mercados altamente regulados.

Basicamente, quanto mais confusão, maior a compra por impulso. O capitalismo, em vez de promover o conhecimento e a verdade, ao colocar um preço na informação, promove a falta de transparência. Se a informação é valiosa, ela é escassa. Se ela tem pouco valor, é abundante. Então a informação de pouco valor é mais abundante. A arte de menor valor é abundante, o entretenimento de pior qualidade ao menor valor possível é o mais abundante. E o pacote de canais premium, e a internet mais rápida, o acesso as melhores faculdades, o tempo para ler e estudar impedem que a maioria das pessoas entenda o conceito de desigualdade. Já repararam o grau de desinformação em torno desse termo? As forças de mercado não permitem sequer que o conceito de “aumento de desigualdade” seja promovido ou entendido.

E, no meio disso, o motorista do carro de aplicativo fazendo 200 corridas em uma semana para ganhar um bônus. E o cliente feliz com o desconto promocional. Todo mundo contente, exceto o taxista, é claro. “Mas tudo está bem quando acaba bem”, e qual é o fim inexorável das tecnologias disruptivas? Outras tecnologias disruptivas, e incerteza crescente.

A gamificação e desumanização das relações e atividades humanas vêm crescendo a dois séculos. A ansiedade da era digital se mistura com a desinformação, o materialismo (a objetificação do humano) e a falta de sentido. Enquanto você não entende como o algoritmo decide quanto você vai ganhar pelo trabalho de hoje, o algoritmo usa big data para saber que você vai mais ao banheiro que seu colega ao lado. Quanto mais desigual, menos acesso à informação, e mais objeto de quantificações nebulosas por parte de agentes impessoais.

Em 1999 o filme Matrix mostrava seres humanos como baterias para as máquinas. Não fazia sentido energético, em termos físicos. Mas sim, transformar o metal de uma galáxia inteira em agulhas não precisa fazer sentido, em termos humanos. A máquina é ligada e segue seu curso inexorável, ela é capaz de autorreflexão em termos de melhorar a si própria no fim estabelecido, não de mudar o fim estabelecido.

Soluções? Reconhecer os automatismos internos e externos, e a máquina que, “a todo vapor”, valoriza e reifica esses automatismos. E então fazer esforço para romper com tudo isso, da forma que for possível, e florescer enquanto ser humano.2Enquanto isso, parte da sanga budista ainda discute se meditação é engajamento político suficiente... de gente estúpida tá cheio por todo lado. No fim das contas, a maior prisão é a falta do reconhecimento da operação cega dessas ideologias. Isso está no desenho dessas ideologias, mas por todo lado é evidente que nada disso funciona no interesse de nenhum ser humano, ou de nenhum ser vivo.

(A ideia da corporação como primeira inteligência artificial vem dos seguintes artigos Instrumental Convergence, Algorithmic Entities e Capitalism is a Paperclip Maximizer, e as ideias sobre corporação e mecanização vieram dos seguintes documentários All Watched Over by Machines of Loving Grace (2011) e The Corporation (2003).)



1. ^ O que é até um tanto irônico por si só, uma vez que eslavo, slav, é uma das fontes da palavra slave – e é justo este povo, cuja associação com um termo assim nunca surge num contexto de epiteto racial pejorativo, que trazem a palavra “robô” para o idioma contemporâneo, e que tem o mesmo sentido!

2. ^ Enquanto isso, parte da sanga budista ainda discute se meditação é engajamento político suficiente... de gente estúpida tá cheio por todo lado.


Papo de Homem

Direta já: e se realmente
colocássemos a mão na política?

O que é exatamente a Democracia Direta Eletrônica? Quais as vantagens e desvantagens de eliminar, em parte ou totalmente, o sistema de representação política?
Papo de Homem

Apocalipse agora: como a religião influencia a política

A relação do pensamento apocalíptico com o conservadorismo.
tzal.org

Quem Pensa Diferente Vale Mesmo a Pena?

O argumento de que devemos “sair das bolhas” e estar abertos a discutir com quem pensa diferente é, muitas vezes, uma falácia. // Podemos estabelecer três critérios simples: 1) em que pé estamos? 2) vai adiantar? 3) vale o tempo empregado?



Se você vê mérito nos tópicos tratados, divulgue — comente e partilhe nas redes sociais. É uma prática de generosidade que ajuda na minha própria prática de generosidade de produzir e disponibilizar esse conteúdo. Outras formas de ajudar.
tzal.org é produzido por
Padma Dorje.

e-mail

boletim informativo

Tendrel: conexões auspiciosas
canal no YouTube




Banco do Brasil (001)
ag 3.240-9 cc 123.017-4



Sugestões de patronagem recorrente (mensal):








todo conteúdo, design e programação por Eduardo Pinheiro, 2003-2018
(exceto onde esteja explicitamente indicado de outra forma)
Licença Creative CommonsEste obra está licenciada com uma Licença Creative Commons Atribuição-NãoComercial-SemDerivações 4.0 Internacional.

Por favor, quando divulgar algo deste site, evite copiar o conteúdo todo de um texto; escolha um trecho de um ou dois parágrafos e coloque um link. O material aqui é revisado constantemente, e páginas repetidas na internet perdem ranking perante o Google (a sua e a minha).

https://tzal.org/robo-significa-escravo-o-humano-na-senzala-algoritmica/