Qualquer um de vós que tenha tentado seguir as voltas e reviravoltas das propagandas exageradas da Inteligência Artificial (IA) em 2023 provavelmente concordará em que foi um exercício exaustivo. O ano começou com a apresentação pública de modelos linguísticos de grande dimensão, como o ChatGPT e outros sistemas generativos, que deixaram milhões de pessoas entusiasmadas com o que parecia ser um avanço mágico na tecnologia, só para que a história passasse por uma série de grandes controvérsias, incluindo greves, desafios legais e grandes debates científicos e filosóficos.
Também tivemos absurdos, como o ridículo drama palaciano em torno da figura de proa do ChatGPT, Sam Altman, que foi despedido e não despedido como diretor executivo. E, claro, tivemos demonstrações deprimentes de uma ignorância espantosa, como o empresário tecnológico de extrema-direita, Elon Musk, que falhou e disse um disparate completo numa entrevista com o primeiro-ministro de extrema-direita, Rishi Sunak. O facto de as histórias sobre IA serem frequentemente dominadas por homens ricos e ridículos, que muitas vezes não têm qualificações reais para discutir o assunto, não é apenas irritante, mas também torna a tarefa factualmente mais difícil para as pessoas que querem compreender as verdadeiras implicações destas tecnologias.
Tudo isto leva-nos à oportunidade excelente em que saiu este livro. Eye of the Master: A Social History of Artificial Intelligence, de Matteo Pasquinelli, é um antídoto sólido para o entusiasmo e para o amplificação fantástica com que os media mainstream tendem a colorir a cobertura da IA.
A tecnologia no materialismo histórico
Pasquinelli apresenta o adversário que procura derrotar na introdução:
Escrever uma história da IA na situação atual significa considerar uma vasta construção ideológica: entre as empresas de Silicon Valley e também de universidades de alta tecnologia, a propaganda sobre o poder omnipotente da IA é a norma e, por vezes, até repetem o folclore de que as máquinas atingem uma "inteligência sobre-humana" e uma "auto-consciência". Este folclore é bem exemplificado pelas narrativas apocalípticas do [filme] Exterminator, em que os sistemas de IA atingiriam a singularidade tecnológica e representariam um "risco existencial" para a sobrevivência da espécie humana..." (pp.8-9).
A partir daqui, o autor salienta que, em muitas fases do desenvolvimento tecnológico, as novas tecnologias foram fetichizadas como entidades divinas que escapam ao controlo humano razoável. A promoção destas ideias é uma excelente forma de as pessoas que as utilizam se desresponsabilizarem pelo que as tecnologias fazem e de fazer com que pareça inútil que os seres humanos se oponham ou redireccionem os resultados destas tecnologias. Esta é a razão para a aparente contradição que temos atualmente: muitas das previsões mais loucas e mais pessimistas sobre a usurpação da humanidade pela IA vêm, na verdade, de tecnólogos que estão investidos no sector: a última coisa que querem é uma discussão informada sobre como a IA pode ser democraticamente responsável e socialmente útil.
Pasquinelli recua até à antiguidade para mostrar como o desenvolvimento das tecnologias, desde as origens da matemática na Idade do Bronze, quando um desenvolvimento de comunidades agrícolas cada vez maiores e mais complicadas descobriu que podia utilizar uma abstração da simples atividade de contar para apoiar formas de trabalho mais organizadas e bem sucedidas.
A necessidade de os meios de produção facilitarem uma mudança tecnológica na produção, criando um objetivo para a mesma, é um tema recorrente ao longo do livro. É do conhecimento geral que a máquina a vapor era, em princípio, conhecida na Grécia Clássica, mas simplesmente não havia qualquer aplicação industrial para ela até que o desenvolvimento do capitalismo na revolução industrial inglesa criou tais aplicações. No entanto, os postos de trabalho que apoiava – bombar água e fazer girar engrenagens – já haviam sido criados por novas divisões do trabalho que o capitalismo tinha estabelecido anateriormente.
Pasquinelli mostra que, se isso era verdade para a energia mecânica, também o era para a computação mecânica. Charles Babbage, frequentemente considerado como o co-inventor daquilo a que hoje chamamos "computação", juntamente com Ada Lovelace (nenhum deles utilizava esse termo na altura), desenvolveu originalmente o seu "motor diferencial" devido à nova necessidade, nos tempos coloniais, de dispor de extensas cartas de dados de navegação. Fora criada a necessidade de efetuar cálculos mais rápidos e mais precisos, pelo que existia agora a oportunidade de criar uma tecnologia para este fim. Babbage começou a conceber a máquina que poderia fazer isso. Lovelace inovou ao reconhecer que a funcionalidade da máquina podia ser ainda mais abstrata, de modo a que não se limitasse a fazer o cálculo que lhe era pedido, mas que calculasse que novos cálculos devia fazer, e é por isso que hoje em dia lhe chamam a "mãe do software".
Num pequeno aparte muito divertido, Pasquinelli aproveita um aspeto particular das notas de Lovelace em que ela levanta – mas rejeita – a ideia de que isto acabaria por tornar um motor diferencial auto-consciente tal como um humano, dizendo que nunca deixariam de ser "extensões do poder humano, ou acréscimos ao conhecimento humano": é muito divertido perceber que ela tinha tentado evitar idiotas como Elon Musk há duzentos anos atrás!
Tanto Lovelace como Babbage serviam a sua classe, claro: faziam parte da burguesia e procuravam utilizar a computação a fim de dividir ainda mais o trabalho para fins completamente burgueses. No entanto, isto significava que a origem e o objetivo fundamentalmente colaborativos e coletivos da tecnologia eram de grande importância para os críticos do capitalismo. O próprio Karl Marx não tardou a reconhecer o valor do trabalho de Babbage para o desenvolvimento dessas críticas.
Desenvolvimentos e debates
À medida que o livro avança através do desenvolvimento da computação tal como a conhecemos, um número crescente de campos de estudo são fascinantemente reunidos em interacções por vezes surpreendentes. Os primórdios da eletricidade dão origem à comunicação por telégrafo, que dá início ao estudo da eletrónica. Começa também a pensar-se no cérebro humano como uma rede de sinais, à semelhança de uma central telegráfica, em vez de se tentar considerá-lo como um conjunto de engrenagens rotativas, como no motor diferencial de Babbage. As ideias sobre o modo como a mente humana pode funcionar e sobre o modo como uma máquina de calcular a pode imitar são uma troca de conceitos bidirecional e uma visão cada vez mais multidimensional do modo como a inteligência humana pode funcionar dá início a um debate fundamental na computação.
A primeira forma de raciocínio nos computadores era dedutiva: "se X for verdadeiro, então Y, senão Z". Este tipo de programação é fácil de fazer, mas depara-se com limites de capacidade quando se pede ao computador para fazer algo que envolva um julgamento em que a verdade de X contenha ambiguidade, como descobrir se duas linhas cruzadas são ou não uma letra X. A solução proposta é a lógica indutiva, em que a máquina aprende, num processo mais semelhante ao de um humano, qual é a letra X, avaliando gradualmente tentativas mais ou menos bem sucedidas de a reconhecer e desenvolvendo a capacidade de o fazer.
A política e a economia nunca estão longe da superfície de qualquer um destes processos. O fundador do pensamento neoliberal, Fredick von Hayek, foi um dos principais defensores daquilo a que hoje chamamos redes neuronais. Ele compara um sistema de aprendizagem a um mercado, o seu único ideal de um sistema auto-organizado. Pasquinelli salienta, através dos escritos de Marx, que se trata de um a-historicismo deliberado, ignorando que colectivos produtivos foram, na realidade, mais decisivos para o desenvolvimento da informática. Pasquinelli também nos conduz através do fascinante paradoxo histórico de que, nos anos 60, as tecnologias de processamento distribuído que constituem a Internet estavam a ser impulsionadas, por um lado, por um complexo militar-industrial que queria um meio de manter o seu controlo e autoridade no caso de guerra nuclear, mas, por outro, por uma academia que acreditava estar a desenvolver os mesmos sistemas a fim de libertar as pessoas do autoritarismo. Os libertários aborrecidos de hoje estão, em muitos casos, apenas a repetir mal velhos argumentos.
Tecnopolítica
Na sua conclusão, Pasquinelli termina o livro apelando ao leitor para que compreenda o que são as tecnologias de IA através de uma teoria especificamente laboral da automação, e que a IA não é um ponto final ou um apocalipse, mas o resultado de um conjunto de avanços tecnológicos que abstraíram a automação ao ponto de esta se poder automatizar a si própria. Isto aconteceu porque temos a capacidade técnica para fabricar tais máquinas, mas também porque existe um incentivo económico para o fazer e para reorganizar novamente as divisões do trabalho.
A IA não está a seguir alguma agenda extraterrestre ou sobrenatural separada do sistema capitalista que a produziu, e tem limitações físicas de capacidade e consumo de energia, como todas as tecnologias anteriores. O autor pede que as soluções para os problemas na era da IA não sejam procurados no determinismo, mas que "O primeiro passo na tecnopolítica não é tecnológico, mas sim político" (p.253), e aconselha as pessoas a interessarem-se por grupos e indivíduos que estejam empenhados naquilo a que chama "investigação-ação". Isto é o trabalho, e o ativismo, de descobrir e começar a desafiar o poder excessivo do pequeno conjunto de inchadas corporações tecnológicas monopolistas que ascenderam ao topo da sociedade na era atual. Parece-me uma boa maneira de aprender mais sobre como o movimento laboral se deveria organizar no tempo da IA.