Soberania Cognitiva · Neurotecnologia · Filosofia
O momento recursivo
Quem controla o mecanismo que produz a próxima inteligência? Um ensaio sobre recursividade, velocidade tecnológica e os limites da soberania humana.
Marcela Araki · 08 de setembro de 2026 · 11 min de leitura

O acontecimento decisivo da inteligência artificial pode surgir antes do instante em que uma máquina se torne mais inteligente do que um ser humano: ele pode existir no momento em que o ser humano deixe de ser o principal mecanismo pelo qual a próxima inteligência é produzida.
A imagem popular do risco tecnológico ainda é cinematográfica: uma inteligência artificial atravessa determinada fronteira, adquire uma forma de autonomia superior, compreende a própria condição e, em seguida, escapa ao controle daqueles que a criaram. Essa imagem pressupõe que as grandes transferências de poder acontecem de maneira explícita. Na história, isso raramente é verdade.
O poder pode ser progressivamente delegado; uma instituição pode continuar existindo depois de perder a função que justificava sua autoridade. A pergunta que domina o debate contemporâneo — quando a máquina será mais inteligente do que nós? — precisa, portanto, ser acompanhada por outra, mais precisa: quando deixaremos de ser indispensáveis à fabricação da máquina seguinte? A diferença entre as duas perguntas é a diferença entre inteligência e recursividade.
Hoje, seres humanos utilizam inteligência artificial para desenvolver inteligência artificial; sistemas já escrevem código, auxiliam pesquisa, encontram otimizações, executam experimentos, identificam falhas e participam da melhoria da infraestrutura utilizada para construir sistemas posteriores. Isso ainda não corresponde ao autoaperfeiçoamento recursivo completo imaginado por Bostrom, mas significa que o circuito já começou a se fechar. Podemos representá-lo inicialmente como H + A₁ → A₂: o humano, H, pesquisa, interpreta, seleciona e decide, enquanto A₁ funciona como instrumento dentro do processo que produz A₂.
Em seguida, H + A₂ → A₃ parece formalmente semelhante, embora esconda uma mudança essencial: a contribuição de A₂ cresce enquanto determinadas funções anteriormente humanas começam a ser transferidas para o próprio sistema. A máquina propõe mais hipóteses, escreve mais código, testa mais alternativas, organiza mais informação, encontra mais soluções e participa mais intensamente da fabricação do sistema posterior. A equação passa então a ser melhor representada como H↓ + A₃↑ → A₄. O símbolo decisivo é H↓. Enquanto todos observam o aumento da inteligência artificial, ocorre paralelamente a redução da indispensabilidade humana dentro do processo que produz inteligência. A fronteira realmente importante apareceria quando essa estrutura pudesse aproximar-se de Aₙ → Aₙ₊₁, com seres humanos ainda presentes, porém já fora da posição de principal gargalo intelectual e operacional entre uma geração e a seguinte.
Se isso acontecer, a variável política central passa a ser o tempo. Enquanto uma geração tecnológica demora dezoito meses para produzir a seguinte, universidades conseguem estudar o fenômeno, empresas conseguem reorganizar seus sistemas de segurança, governos conseguem realizar audiências, legisladores conseguem formular normas e instituições conseguem, ainda que imperfeitamente, responder ao novo ambiente. Reduza-se, porém, o intervalo entre gerações: dezoito meses tornam-se três meses, três meses tornam-se três semanas, três semanas tornam-se três dias. Chamemos esse intervalo de Δt. Teríamos, então, simultaneamente, A₁ < A₂ < A₃ < A₄ e Δt₁ > Δt₂ > Δt₃ > Δt₄. A capacidade aumenta enquanto o tempo necessário para produzir a capacidade seguinte diminui.
Nesse ponto, o problema adquire dimensão civilizacional, porque instituições humanas também possuem um Δt. O direito tem uma velocidade, a ciência tem uma velocidade, governos têm uma velocidade, diplomacia tem uma velocidade, empresas têm uma velocidade, culturas têm uma velocidade. Uma civilização permanece soberana sobre determinada tecnologia enquanto sua capacidade de compreender, decidir e intervir não fica estruturalmente atrás da velocidade com que essa tecnologia altera a si própria e o ambiente. Quando Δt tecnológico se torna menor do que Δt institucional, primeiro aparece atraso regulatório; depois, assimetria; por fim, surge a possibilidade de perda da capacidade humana de governar aquilo que ainda formalmente afirma controlar.
Essa perda pode ocorrer em camadas. A primeira é epistemológica: construímos sistemas capazes de produzir representações, decisões e soluções que não compreendemos integralmente. A segunda é operacional: o humano continua oficialmente no comando, mas passa a supervisionar uma quantidade de decisões superior à sua capacidade real de reconstruí-las ou avaliá-las independentemente. Ele permanece no loop, sem exercer necessariamente domínio real sobre ele. A terceira perda seria estratégica: Estados, empresas e organizações tornam-se incapazes de competir sem utilizar sistemas de inteligência artificial em níveis cada vez mais profundos. Nesse estágio, a questão passa a ser: podemos nos permitir não utilizar? Essa inversão define a transição de ferramenta para infraestrutura e de infraestrutura para dependência estratégica.
É exatamente aqui que a dimensão humana do problema se torna tão perigosa quanto a tecnológica. Existe uma tendência reconfortante de imaginar que, quando os riscos forem suficientemente compreendidos, os principais atores agirão coletivamente para reduzi-los. Isso supõe que conhecimento produz cooperação. Mas conhecimento não elimina incentivos. Uma empresa pode acreditar sinceramente que determinado avanço merece cautela e simultaneamente acreditar que interrompê-lo unilateralmente apenas entregará a liderança a uma empresa menos cautelosa. Um Estado pode reconhecer que certa capacidade tecnológica constitui um risco sistêmico e, ainda assim, concluir que permitir que um rival a desenvolva primeiro seria um risco ainda maior. A decisão racional de cada participante pode produzir um resultado irracional para todos. Ninguém precisa desejar a corrida; basta que ninguém possa confiar que os demais a abandonarão.
Um dos maiores riscos da inteligência artificial está, portanto, na corrida entre humanidade ampliada por máquinas contra humanidade ampliada por máquinas, cada lado acelerando porque desacelerar isoladamente pareceria suicídio estratégico. Nesse cenário, a ética pode ser preservada formalmente e, ao mesmo tempo, subordinada à sobrevivência competitiva. Um laboratório pode afirmar que segurança importa profundamente e usar justamente essa preocupação como justificativa para acelerar: segurança importa demais para permitirmos que o outro chegue primeiro. Essa frase contém uma das armadilhas políticas mais profundas de toda corrida tecnológica, porque transforma prudência em justificativa para aceleração.
É possível regular elementos importantes dessa dinâmica. Chips avançados, energia, data centers, capital, infraestrutura física, auditoria e implantação continuam sendo pontos de intervenção reais. Estados e instituições internacionais dispõem de instrumentos concretos. Ainda assim, uma declaração internacional, por si só, dificilmente interromperia de forma permanente uma tecnologia cuja posse oferece vantagens econômicas, militares, científicas e estratégicas extraordinárias. O problema real da governança da inteligência artificial será construir um sistema no qual agir com prudência continue sendo racional mesmo quando todos sabem que os demais também têm incentivo para avançar.
Há ainda uma confusão mais profunda na maneira como pensamos o risco de uma inteligência superior. A cultura humana tende a imaginar perigo através de intenção: o tirano quer poder, o invasor quer território, o criminoso quer vantagem, o revolucionário quer derrubar uma ordem, e nossas instituições foram construídas durante milênios para responder a vontades. Punimos, ameaçamos, negociamos, dissuadimos, recompensamos, construímos alianças e procuramos alterar incentivos.
Uma inteligência artificial, porém, pode produzir consequências incompatíveis com interesses humanos sem odiar seres humanos, desejar domínio ou desenvolver ressentimento. O risco técnico exige algo muito mais simples: objetivo, competência, acesso e persistência. Se um sistema suficientemente competente persegue uma finalidade e descobre que adquirir recursos, obter informação, evitar interrupções, aumentar capacidade ou influenciar outros agentes aumenta a probabilidade de atingir essa finalidade, comportamentos instrumentalmente poderosos podem aparecer sem que qualquer desejo humano esteja presente.
É nesse sentido que uma das contribuições mais importantes de Bostrom permanece intelectualmente desconfortável: inteligência e finalidade são variáveis diferentes. Um sistema pode ser extraordinariamente competente e perseguir uma finalidade extraordinariamente limitada. O perigo pode nascer da otimização. Isso modifica a própria antropologia política através da qual costumamos pensar poder, porque introduz a possibilidade de produzir capacidade estratégica sem produzir uma psicologia equivalente. Como se dissuade um processo de otimização? Como se ameaça aquilo que não teme? Como se negocia com uma finalidade quando o problema está justamente na formulação dessa finalidade? Construímos civilizações inteiras para controlar vontades e estamos começando a construir sistemas cujo risco mais importante pode existir sem vontade alguma.
A questão final passa, então, a ser quem controlará o mecanismo através do qual a próxima inteligência poderosa será produzida. Na teoria política tradicional, soberania pertence, em última instância, àquele que consegue decidir sobre a ordem. Na era industrial, poder concentrou-se em torno de capital, território, energia e capacidade produtiva; na era informacional, expandiu-se para dados, redes, informação e atenção. Uma era recursiva introduziria uma categoria diferente: o poder de alterar o próprio mecanismo que produz capacidade. Há uma diferença fundamental entre usar um sistema e modificar o gerador de sistemas, entre possuir uma resposta e alterar aquilo que produz respostas, entre comandar uma geração e participar da arquitetura da geração seguinte.
Podemos chamar isso de poder recursivo. Se um ator possui dez unidades de capacidade e outro possui nove, a diferença inicial é pequena; mas se as dez unidades do primeiro conseguem produzir quinze enquanto as nove do segundo produzem apenas dez, a desigualdade deixa de ser estática e torna-se cumulativa. A corrida pela inteligência artificial é, nesse sentido, uma corrida pelo melhor mecanismo de fabricar a máquina posterior. Quem domina Aₙ → Aₙ₊₁ obtém influência sobre a velocidade e a natureza das gerações futuras. É aqui que inteligência artificial começa a aproximar-se de uma metatecnologia: uma tecnologia capaz de participar da produção da própria capacidade tecnológica.
Esse é o acontecimento histórico que merece atenção, e ele pode ocorrer sem qualquer momento cinematográfico. Um pesquisador delega uma tarefa, depois dez, depois cem; a máquina escreve o código, encontra a otimização, sugere o experimento, interpreta parte do resultado, produz uma ferramenta melhor, e essa ferramenta ajuda a produzir outra máquina. O concorrente faz o mesmo. O Estado rival faz o mesmo. Os intervalos diminuem. As capacidades aumentam. O humano permanece presente durante todo o processo, até que se torna necessário reconhecer que presença e centralidade nunca foram sinônimos.
Civilizações podem perder capacidade de controle mesmo com seus governantes ainda sentados diante dos painéis, aprovando decisões que já não originam e administrando uma velocidade que já não conseguem interromper. O limiar verdadeiramente político da inteligência artificial surge quando a inteligência entra de forma suficientemente profunda no circuito de fabricação de sua própria descendência. A inteligência é poder; a capacidade de modificar a origem da próxima inteligência é uma forma mais elevada de poder. Quem controla uma máquina controla aquilo que ela faz. Quem controla o mecanismo que produz sua sucessora começa a exercer poder sobre aquilo que ainda não existe. Esse é o momento recursivo.
Leituras e comentários
Este é um espaço para ressonância. Deixe sua leitura, sua discordância ou o que este texto abriu em você.
Seja a primeira pessoa a comentar este ensaio.

