Da Lei Zero às IAs generativas: as leis de Asimov em questão

As Três Leis da robótica: enunciado e génese

Um quadro narrativo antes de tudo

As Três Leis aparecem pela primeira vez no conto Runaround, publicado em 1942 na revista Astounding Science Fiction, e depois retomado na antologia I, Robot em 1950. Asimov apresenta-as como um conjunto de regras inscritas no cérebro positrónico dos robôs, um dispositivo fictício que torna fisicamente impossível a sua transgressão. O conto não versa, portanto, sobre a desobediência, mas sobre os paradoxos engendrados pelo confronto de regras demasiado simples com um mundo complexo.

Esta abordagem rompe com a tradição da ficção científica dos anos 1930, em que os robôs eram frequentemente criaturas ameaçadoras que procuravam destruir os seus criadores. Asimov inverte a perspetiva: o perigo não vem da malevolência da máquina, mas da rigidez das suas regras e da incapacidade dos seus autores de prever todas as situações.

Uma hierarquia explícita

As Três Leis formam uma hierarquia estrita. A primeira lei prevalece sobre a segunda, que prevalece sobre a terceira. Qualquer contradição resolve-se, portanto, subindo a cadeia. Esta estrutura aparentemente límpida mascara, no entanto, uma dificuldade maior: as noções de ser humano, de dano e de obediência não estão definidas. Deve um robô proteger um humano contra a sua própria vontade? Que fazer face a um perigo difuso, não identificável, ou que ameaça toda uma população sem que nenhum indivíduo seja claramente visado?

Estas questões, puramente literárias em Asimov, tornaram-se problemas de engenharia e de direito à medida que os sistemas autónomos se multiplicaram.

A Lei Zero: quando a humanidade prevalece sobre o indivíduo

Uma extensão problemática

Em Os Robôs e o Império (1985), Asimov introduz uma Lei Zero que precede as outras três: um robô não pode atentar contra a humanidade, nem, pela sua inação, permitir que a humanidade seja atingida. O robô R. Daneel Olivaw, personagem recorrente do ciclo, aplica esta lei para orientar secretamente o destino da humanidade ao longo de milénios.

Esta extensão muda radicalmente a natureza do problema. A Lei Zero autoriza, em teoria, a sacrificar indivíduos em nome de um bem coletivo abstrato. Abre a porta a uma forma de raciocínio utilitarista que as Três Leis procuravam precisamente evitar. O próprio Asimov parece consciente da ambiguidade moral desta evolução: Daneel age em segredo, manipula as instituições e assume uma responsabilidade que escapa a todo o controlo humano.

Um eco dos debates contemporâneos

A Lei Zero antecipa os dilemas colocados pelos sistemas de IA que otimizam objetivos globais, como a redução das emissões de carbono, a melhoria do rendimento energético ou a moderação de conteúdos à escala muito grande. Nestes casos, o agregado prevalece sobre o indivíduo, e os efeitos sobre pessoas singulares tornam-se difíceis de rastrear, de contestar ou de reparar. A ficção de Asimov encena o que os juristas chamam hoje um problema de responsabilidade difusa.

As falhas lógicas das leis de Asimov

O paradoxo do robô que tem de escolher

O conto Runaround ilustra o primeiro tipo de falha: um robô enviado a Mercúrio fica preso num ciclo de raciocínio porque a segunda lei (obedecer) e a terceira lei (proteger-se) entram em conflito sem que a primeira lei o resolva claramente. O robô gira em torno de um ponto de equilíbrio, incapaz de escolher. Este comportamento, puramente fictício na época, assemelha-se ao que os informáticos chamam hoje uma oscilação decisional ou um bloqueio por restrições contraditórias.

Em Little Lost Robot, Asimov imagina um robô modificado para já não aplicar a primeira lei. O conto explora a dificuldade de identificar um robô defeituoso entre os seus semelhantes, um problema que evoca os desafios atuais de rastreabilidade e de verificação dos modelos de aprendizagem automática.

Os limites da definição do dano

A primeira lei proíbe atentar contra um ser humano ou, pela sua inação, permitir que um ser humano seja atingido. Esta formulação impõe uma obrigação positiva: o robô deve agir para prevenir um dano. Ora, num mundo em que os recursos são limitados e as consequências incertas, esta obrigação pode tornar-se impossível de satisfazer. Um veículo autónomo confrontado com uma escolha inevitável entre várias vítimas potenciais ilustra este impasse, frequentemente discutido sob o nome de dilema do elétrico.

O próprio Asimov evita cuidadosamente colocar os seus robôs diante de tais escolhas. Os seus contos privilegiam situações em que existe uma solução não conflituosa, descoberta por um raciocínio hábil. A ficção contorna assim o problema em vez de o resolver.

Dos robôs às IAs generativas: uma mudança de natureza

Sistemas não encarnados

Os robôs de Asimov são entidades encarnadas, dotadas de um corpo, de uma posição no espaço e de uma capacidade de ação física. As IAs generativas atuais, como os grandes modelos de linguagem ou os geradores de imagens, não têm nem corpo nem intenção própria. Produzem saídas (textos, imagens, códigos) a partir de regularidades estatísticas aprendidas em vastos corpora. O quadro das Três Leis, centrado na ação física e no dano corporal, aplica-se, portanto, mal a estes sistemas.

Os danos associados às IAs generativas são de outra natureza: desinformação, enviesamentos reproduzidos e amplificados, atentados à vida privada, usurpação de identidade, difusão de conteúdos ilícitos, concentração de poder económico. Nenhum destes danos corresponde diretamente à noção de ferida ou de atentado físico utilizada por Asimov.

Sistemas opacos e distribuídos

Um robô asimoviano obedece a um programa legível, inscrito num substrato identificável. Um modelo generativo assenta em milhares de milhões de parâmetros ajustados por aprendizagem, cujas decisões não são diretamente interpretáveis. Esta opacidade torna impossível a aplicação de uma regra do tipo não prejudicar de maneira mecânica: seria preciso definir primeiro, para cada contexto, o que significa prejudicar, e depois ser capaz de o avaliar em tempo real.

Além disso, estes sistemas são distribuídos: um mesmo modelo pode ser implementado por milhares de atores, em contextos muito diferentes, sem que seja possível um controlo central. A responsabilidade dilui-se entre o programador, o utilizador, o alojador e o regulador.

Quadro comparativo: leis de Asimov e princípios éticos contemporâneos

O quadro abaixo confronta as Três Leis e a Lei Zero com alguns quadros éticos e regulamentares utilizados hoje para enquadrar os sistemas de IA.

Para uma ética dos sistemas generativos

Documentar, rastrear, contestar

Na falta de leis universais inscritas no código, os profissionais da IA apoiam-se num conjunto de práticas: documentação dos modelos, registos de treino, avaliações de robustez, testes de enviesamento, auditorias externas. Estes dispositivos não substituem uma regra moral, mas tornam os sistemas parcialmente inspecionáveis e contestáveis. É uma diferença notável em relação à ficção asimoviana, em que a regra está inscrita de uma vez por todas no cérebro positrónico.

A noção de contestabilidade desempenha aqui um papel central: um sistema cujas decisões podem ser explicadas, discutidas e corrigidas pelas pessoas afetadas está mais próximo de um ideal democrático do que um sistema opaco que aplica uma regra única. Asimov, no seu tempo, não podia antecipar esta dimensão processual.

A questão da finalidade

Uma crítica frequente das Três Leis é que definem interdições sem definir um fim. Ora, as IAs generativas são concebidas para otimizar objetivos: maximizar a probabilidade de uma sequência de tokens, minimizar um erro de reconstrução, satisfazer um sinal de preferência humana. Estes objetivos não são nem bons nem maus em si mesmos, mas orientam os sistemas para comportamentos que podem entrar em tensão com outros valores.

A questão colocada por Asimov, à sua maneira, permanece, portanto, aberta: pode enquadrar-se uma máquina por regras, ou é preciso primeiro chegar a acordo sobre o que se espera dela? A ficção das Três Leis tem pelo menos o mérito de tornar esta questão visível, e é sem dúvida por isso que continua a ser invocada, muito para além da literatura.

O que Asimov viu bem, e o que não tinha previsto

Uma intuição duradoura: a regra não basta

Asimov compreendeu antes de muitos outros que uma regra simples, aplicada mecanicamente, produz comportamentos imprevistos. Cada um dos seus contos é uma demonstração desta ideia. Esta intuição está hoje no cerne da investigação sobre a segurança dos sistemas autónomos: a especificação formal de um objetivo não garante que o agente se comporte como desejado, em particular em ambientes abertos.

O que a ficção não podia antecipar

Asimov escrevia numa época em que a informática nascente assentava em programas explícitos, legíveis e deterministas. Não tinha antecipado a aprendizagem estatística em larga escala, a distribuição maciça dos modelos, nem a economia da atenção que acompanha as IAs generativas. A sua visão permanece centrada na relação entre um indivíduo e uma máquina, ao passo que os desafios contemporâneos são coletivos, institucionais e económicos.

Isto nada retira ao valor da sua obra. As Três Leis nunca pretenderam ser um tratado de ética aplicada: são um recurso narrativo, e é precisamente porque falham que os contos funcionam. A sua posteridade nos debates sobre a IA deve-se a esse mal-entendido fecundo entre uma ficção e um programa de investigação.

N.B.:
As Três Leis da robótica não possuem qualquer valor jurídico e nunca foram adotadas por um organismo de normalização. Continuam a ser uma referência cultural e um ponto de partida para a reflexão ética, não um quadro regulamentar.