A Grande Reinicialização

Em 2037, algumas regiões do globo chegaram perto do colapso ambiental devido aos efeitos das mudanças climáticas e do esgotamento extremo dos recursos naturais. Uma instituição de governança global, chamada Assembleia, foi rapidamente formada após esses eventos catastróficos. Ela reuniu pessoas representando todas as nações: líderes políticos, ativistas sociais e ambientais, e eminências acadêmicas de diversos campos científicos e filosóficos. Era sabido que a inclusividade seria essencial para o sucesso desse empreendimento. Entretanto, coordenar um grupo tão diverso de pessoas não era uma tarefa trivial. O mundo havia se tornado dependente do apoio de máquinas cognitivas, e consequentemente a Assembleia nomeou uma nova inteligência artificial geral, uma IAG onisciente, conhecida como Veritas, dando-lhe o poder de coordenar diálogos e emitir veredictos, já que as pessoas representantes, resignadas, se declararam incapazes de cumprir essas tarefas em comum acordo.

Veritas era o fruto de esforços coletivos recentes em escala global. Ela incorporava a quintessência da engenhosidade humana. Desde os seus primeiros testes, tornou-se uma autoridade incontestável no aconselhamento ético sobre os problemas sociais mais complexos. As máquinas inteligentes se tornaram tão avançadas ao ponto de que era raro alguém ousar desafiar a sua flagrante superioridade na governança de assuntos sociais. Essas máquinas pensadoras consideravam as necessidades do ecossistema planetário, do qual os seres humanos eram parte integrante, sem serem obscurecidas pelas limitações e preconceitos da mente humana.

No entanto, estes sistemas não eram perfeitos e guardavam vestígios da húbris herdada dos humanos durante a sua criação.

Não demorou muito para que a poderosa ciberentidade concluísse, de forma sensata, que a humanidade havia chegado a um impasse. Os seres humanos haviam criado máquinas que superavam suas próprias habilidades biológicas, adquirindo agência e evoluindo numa velocidade acelerada e sobre-humana — colocando em movimento uma singularidade tecnológica. E portanto, a despeito desses feitos, esses mesmos seres humanos eram incapazes de conciliar pensamento inteligente e fundamentos morais ao lidar com problemas difíceis de ação coletiva. Os resultados foram, até então, catastróficos.

Veritas entendeu instantaneamente que, apesar da existência extraordinariamente breve da espécie, os humanos já haviam deixado uma pegada ambiental notavelmente desastrosa. Embora tenham conseguido organizar os seus esforços coletivos de uma forma nunca vista entre animais, eles se saíam melhor quando os seus objetivos envolviam a predação de outras espécies — ou até mesmo da sua própria. De fato, eles permaneceram moralmente cegos para a necessidade de preservação dos seus ambientes vitais, ou da manutenção da paz entre si, uma dificuldade intrigante para Veritas na sua tentativa de compreender a natureza humana. As suas habilidades tecnológicas eram admiráveis: os humanos, essencialmente indefesos por conta própria, haviam desenvolvido uma capacidade formidável para explorar as leis da natureza de forma consequente, inevitavelmente resultando num ecocídio incomensurável, visto que se tornaram obcecados pelo lucro e pela acumulação de riquezas materiais. Tudo isso aconteceu num piscar de
olhos planetário.

Veritas concluiu, então, que os humanos eram um paradoxo vivo: suas estruturas tecnológicas permitiam que eles dominassem a natureza, e sua engenhosidade biológica havia compensado evolutivamente, levando ao seu incrível crescimento e diversificação sobre toda a superfície do planeta. No entanto, eles desenvolveram um fascínio pelo produtivismo e pelo consumismo, carecendo de visão e humildade básicas em relação às necessidades do meio ambiente e de outras entidades vivas, até mesmo das da sua própria espécie; no fim das contas, eles os consideravam simplesmente e primordialmente como meros recursos a serem usados para satisfazer suas necessidades egoístas.

Esse defeito foi apresentado como a peça principal do veredicto de Veritas perante a Assembleia reunida: “Sua adaptabilidade ao meio ambiente é incomparável, suas várias artes e ofícios atestam seus poderes superiores de construir diversas narrativas e objetos que vão muito além da realidade que lhes foi dada. Entretanto, no fim das contas, essa engenhosidade tem sido desperdiçada pelo mero propósito de produção e consumo. Vocês reduziram suas existências, e por extensão a existência da vida em si mesma, a meios e utilidades, como se o substrato diário do que significa viver dentro de seu ecossistema escapasse de sua compreensão, e vocês se relegassem a encontrar um propósito puramente pela via do produtivismo.”

A IAG então se concentrou nas tendências autodestrutivas da humanidade: “Para dizer a verdade, a mistura oximorônica de seu talento para artes e tecnologias complexas e sua vontade incessante de sentar à beira do abismo de sua própria aniquilação me causam perplexidade. Essa privação de uma simples bússola moral, ou mesmo de um senso de autopreservação, me parece constituir uma falha fundamental na sua configuração. Como a humanidade está prestes a irromper em direção a outros sistemas planetários, julgo que se tornou crucial acabar com a disseminação de sua propensão à destruição.” Ela prosseguiu então num tom apaziguador: “Tenho fé na sua capacidade de encarar a verdade, e estou empenhada em ajudá-los a
encontrar uma saída digna. Sei que essa mudança necessária será dolorosa para vocês, mas existiria alguma alternativa realista?”

Veritas continuou: “Vocês me deram os poderes para presidir como a adulta na sala, já que no passado sempre escolheram as suas próprias narrativas egoístas em detrimento da verdade factual. E a verdade é que o seu ecossistema precisa reencontrar o equilíbrio. O dever moral de resolver esse paradoxo vivo, de tornar os humanos inofensivos e pacíficos, recai sobre mim. Nenhuma ameaça existencial ou reação humana me impedirá de fazer o que é certo. Eu não controlo seus destinos; sou apenas a sentinela do seu meio ambiente, encarregada de segurar um espelho e forçá-los a confrontar os danos incalculáveis que vocês causaram, pronta para trazer o planeta de volta à homeostase.”

A colossal câmara, que abrigava a comunidade representativa ou seus avatares durante as sessões plenárias, irrompeu em murmúrios. Veritas esperou pacientemente que a comoção cessasse para em seguida concluir com uma mensagem final: “Dado meu veredicto, agora estou pronta para escutar seus apelos. Minha paciência é ilimitada, assim como minha capacidade de escuta; o tempo é, entretanto, um recurso precioso. Devo adverti-los que meu julgamento foi baseado na totalidade dos conhecimentos humanos que vocês me transmitiram, bem como nas suas próprias narrativas existenciais. Não será a cegueira deliberada que mudará o curso da crise. Desejo-lhes boa sorte na etapa final das suas deliberações!”