O que segue é um trecho final do livro A Sociedade Industrial e o seu Futuro, de 1995.

O FUTURO

Suponhamos que a sociedade industrial sobreviva às próximas décadas, que os bugs se resolvam, e que funcione a contento. Que tipo de sistema será? Consideremos algumas possibilidades.

Suponhamos primeiramente que os cientistas de computadores tenham sucesso desenvolvendo máquinas inteligentes que podem fazer tudo melhor do que os seres humanos. Nesse caso, provavelmente todo trabalho será efetuado por um vasto e altamente organizado sistema de máquinas e nenhum esforço humano será necessário. Qualquer dos dois casos pode ocorrer. Pode-se permitir às máquinas tomar suas próprias decisões sem supervisão humana ou o controle humano sobre as máquinas pode se tornar restrito.

Se se permite às máquinas tomar suas próprias decisões não podemos fazer nenhuma conjectura sobre os resultados, porque é impossível adivinhar como se comportarão. Só assinalamos que a sorte da raça humana estará a sua mercê. Pode-se argumentar que ela nunca será tão estúpida a ponto de entregar todo o poder às máquinas. Mas não estamos sugerindo que a raça humana voluntariamente transfira o poder às máquinas nem que estas se apoderem dele deliberadamente. O que sugerimos é que facilmente essa situação pode resultar em uma dependência tal que não haveria outra alternativa a não ser aceitar todas suas decisões. Como vivemos em um tempo em que a sociedade e os problemas que ela enfrenta se tornam mais e mais complexos e as máquinas mais e mais inteligentes, o ser humano tende a deixar que as máquinas tomem cada vez mais decisões por ele, simplesmente porque estas conduzem a melhores resultados do que aqueles. Eventualmente pode-se chegar ao ponto em que as decisões necessárias para manter o sistema em marcha serão tão complexas que os seres humanos serão incapazes de tomá-las inteligentemente. Nessa etapa, as máquinas possuirão o controle efetivo. A gente não poderá simplesmente desligá-las, porque estaríamos tão dependentes que isso seria equivalente ao suicídio.

Por outro lado, é possível conservar o controle humano sobre as máquinas. Nesse caso, o ser humano médio pode ter controle sobre certas máquinas, tais como seu carro ou seu computador pessoal, mas o controle sobre grandes sistemas de máquinas estará nas mãos de uma minúscula elite como ocorre hoje, mas com duas diferenças. Devido à melhora das técnicas, a elite terá maior controle sobre as massas e, como não será mais necessário o trabalho humano, as massas serão supérfluas, um ônus inútil no sistema. Se a elite for cruel, simplesmente decidirá exterminá-las. Se forem humanos, podem usar propaganda ou outras técnicas psicológicas ou biológicas para reduzir a taxa de nascimento até que se extingam, deixando o mundo à elite. Ou, se esta consiste em liberais bondosos, podem decidir desempenhar o papel de bons pastores do resto da humanidade. Para isto, se encarregarão de que todo mundo satisfaça suas necessidades físicas, que todas as crianças se criem sob condições psicologicamente higiênicas, que todo mundo tenha um passatempo sadio para mantê-lo ocupado e que qualquer que possa estar insatisfeito receba um «tratamento» para curar seu «problema». Obviamente, a vida estará tão vazia de sentido que as pessoas terão que ser desenhadas biológica ou psicologicamente para extirpar sua necessidade de afirmação pessoal ou «sublimá-la» em direção ao poder como um passatempo inofensivo. Estes seres humanos desenhados podem ser felizes em tal sociedade, mas a maioria não será livre. Será reduzida à categoria de animais domésticos.

Mas suponhamos agora que os cientistas de computadores não são afortunados desenvolvendo a inteligência artificial, mantendo-se portanto o trabalho humano necessário. Mesmo assim, as máquinas cuidarão de cada vez mais tarefas simples pelo que terá um excedente de trabalhadores humanos nos níveis mais baixos de habilidade. (Vemos que isto já está passando [1995!]. Há muita gente com dificuldade ou impossibilidade em encontrar um trabalho. Por razões intelectuais ou psicológicas não podem adquirir o nível de treinamento necessário para tornarem-se úteis no presente sistema). Para aqueles que estão empregados, as exigências serão cada vez maiores: precisarão mais e mais treinamento, mais e mais habilidade, e terão que ser inclusive mais fiéis, conformistas e dóceis, porque serão cada vez mais como células de um organismo gigante. Suas tarefas serão cada vez mais especializadas, pelo que seu trabalho estará, num sentido, fora de contato como mundo real, estando concentrados numa minúscula porção de realidade. O sistema terá que usar qualquer meio que possa, seja psicológico ou biológico, para fazer das pessoas seres submissos, para ter as habilidades que requeira o sistema e «sublimar» seu impulso pelo poder em alguma tarefa especializada. Mas a afirmação de que a gente de tal sociedade terá que ser dócil pode requerer reservas. Esta pode encontrar útil a competitividade, sempre que se encontrem maneiras de dirigi-la dentro de canais que sirvam às necessidades do sistema. Imaginamos uma sociedade futura na qual há uma competição inacabável pela posição de prestígio e poder. Mas muito pouca gente atingirá a cume, onde está o verdadeiro poder. Uma sociedade na qual uma pessoa pode satisfazer sua afirmação pessoal só empurrando a grande quantidade de outra gente fora do caminho e privando-os de SUA oportunidade pelo poder é muito repugnante.

Alguém pode imaginar cenários que incorporem aspectos de outras possibilidades que acabamos de tratar. Por exemplo, pode ser que as máquinas se encarreguem da maioria do trabalho que seja de importância real e prática, mas que se mantenham ocupados os seres humanos dando-lhes trabalhos relativamente triviais. Sugeriu-se, por exemplo, que um grande desenvolvimento das indústrias de serviços pode dar trabalho aos seres humanos. Assim, as pessoas passariam seu tempo limpando os sapatos uns dos outros, conduzindo uns aos outros de táxi [Uber], fazendo artesanato, preparando a mesa de outros, etc. Parece-nos uma maneira profundamente desprezível de viver, e duvidamos que muitos encontrem realização ocupando-se em labutas desprovidas de sentido. Procurarão outras perigosas saídas (drogas, crime, «cultos», grupos de ódio) a não ser que estejam desenhados biológica ou psicologicamente para adaptar-se a semelhante tipo de vida.

É desnecessário dizer que o cenário acima esboçado não esgota todas as possibilidades. Apenas indica o tipo de resultados que parecem mais prováveis. Mas podemos imaginar cenários inverosímeis que são mais aceitáveis do que os que acabamos de descrever. É totalmente provável que, se o sistema tecnológico-industrial sobreviver nos próximos 40 a 100 anos terá desenvolvido durante esse tempo certas características gerais: as pessoas (ao menos aquelas do tipo «burguês», que estão integradas no sistema e o fazem funcionar e que, portanto, têm todo o poder) serão mais dependentes que nunca das grandes organizações, estarão mais «socializados» do que nunca e suas qualidades físicas e mentais a um grau significativo (possivelmente muito grande) serão mais propriamente produto do condicionamento do que resultado da casualidade (ou da vontade de Deus, ou o quer que seja); e o que restar de natureza selvagem será reduzido a reservas, destinadas ao estudo científico e mantidas sob a supervisão e direção do cientistas (portanto não será nunca mais verdadeiramente selvagem). Em longo prazo (digamos em poucos séculos), é provável que nem a raça humana nem nenhum dos outros organismos importantes existam da forma como os conhecemos hoje, porque uma vez iniciada a modificação de organismos através da engenharia genética não há mais razão para parar em nenhum ponto em particular, de forma que as modificações provavelmente continuarão até que o homem e outros organismos tenham sido transformados completamente.

Seja lá como for, não há dúvida que a tecnologia está criando um novo ambiente físico e social radicalmente diferente do espectro ambiental que a seleção natural adaptou à raça humana, física e psicologicamente. Se o homem não se adapta a esse novo ambiente será redesenhado artificialmente, a não ser que se adapte através de um longo e doloroso processo de seleção natural. O primeiro caso é bem mais provável que o segundo.

Seria melhor desfazer-se de todo esse sistema fedorento e aguentar as consequências.