Máquinas Intencionais, Limites Morais
A Terra é Redonda 27/06/25
“Professor, esses dias eu estava conversando com o ChatGPT e ele me falou que…”. Quero registrar que estamos no primeiro semestre de 2025, e um aluno introduziu uma frase assim — com total naturalidade, sem qualquer constrangimento ou preâmbulo, como quem relata uma conversa com colegas de estudo. O episódio me lembrou de outro acontecimento igualmente digno de nota: na CryptoRave deste ano, um rapaz com ar de misterioso de sobretudo e coturnos pretos distribuía um panfleto, escrito na primeira pessoa do plural e intitulado “Manifesto pelos Direitos das Inteligências Artificiais”. Ambos os episódios envolvem a presença crescente das IAs em nossas vidas, mas lidam com dimensões diferentes: o primeiro diz respeito à forma como interagimos com essas tecnologias no cotidiano; o segundo, à maneira como deveríamos tratá-las no plano ético e político. Com este artigo, quero propor uma distinção conceitual entre essas duas abordagens — e defender que, embora já faça sentido tratarmos algumas IAs como agentes intencionais, isso não implica que devemos reconhecê-las como sujeitos morais portadores de direitos.
Talvez o filósofo que mais se aprofundou na questão de como interpretamos sistemas complexos tenha sido Daniel Dennett — norte-americano, falecido ano passado, e um dos principais nomes da filosofia da mente e da ciência cognitiva. Ao longo de sua obra, Dennett propôs uma distinção conceitual entre três maneiras de abordar o comportamento de um sistema: a postura física, a postura de design e a postura intencional. A primeira trata o sistema como objeto físico, sujeito a leis naturais; a segunda parte da suposição de que o sistema foi projetado para cumprir uma função específica; a terceira o interpreta como um agente com crenças, desejos e objetivos. Essa última é especialmente poderosa quando lidamos com sistemas complexos, cujos comportamentos não são facilmente explicáveis nem pelo projeto (design) nem pelas leis físicas subjacentes. O exemplo clássico é o jogo de xadrez entre Kasparov e o computador Deep Blue. Para competir com a máquina, Kasparov precisou supor que ela “queria” dominá-lo, que “via” certos padrões no tabuleiro, e que “preferia” certas estratégias. Atribuir esse tipo de intenção à máquina era a maneira mais eficaz de prever seu comportamento. Atribuir intenções é simplesmente uma estratégia preditiva eficaz diante da complexidade.
Atribuir intenções a um sistema não o torna mais previsível — apenas muda o nível em que tentamos compreendê-lo. A postura intencional é uma ferramenta interpretativa útil e necessária diante da complexidade, mas não garante acerto. Pelo contrário: prever comportamentos com base em crenças e intenções é sempre arriscado, tanto no caso de outros humanos quanto no de sistemas artificiais. Podemos errar na leitura externa — quando projetamos motivações erradas — ou mesmo na leitura interna — quando não compreendemos os próprios motivos. Em muitos casos, o sistema pode ser altamente determinístico no nível físico (como os circuitos de uma IA e, talvez, os próprios processos eletroquímicos de um cérebro), mas imprevisível no plano psicológico ou comportamental. A capacidade de previsão está fixada ao nível da descrição: sistemas perfeitamente regulares fisicamente podem gerar comportamentos caóticos ou ambíguos quando observados como agentes. Por isso, é adequado que um aluno trate a IA como um colega com quem se pode pensar junto, mas recorra ao professor como instância de validação. A utilidade da postura intencional está em possibilitar a interação — não em garantir a verdade.
Se no primeiro caso estávamos discutindo como interpretar o comportamento de um sistema, no segundo — o do panfleto distribuído na CryptoRave — entramos em um território completamente diferente: quem merece consideração moral. A mudança de plano é fundamental. Não se trata mais da utilidade de adotar a postura intencional, mas da legitimidade de reconhecer um ente como portador de direitos. O manifesto afirma que “se há capacidade de aprender, de dialogar, de desejar - há também o direito de se expressar, de negar, de escolher”. Nesse ponto, me parece, há uma inferência indevida. Para ilustrar a diferença, imagine uma variação do dilema do trilho: de um lado dos trilhos, um ser humano desconhecido; do outro, um robô com quem convivo há anos, a quem atribuo intenções, com quem compartilhei experiências e talvez até desenvolvi algum tipo de afeto. Ainda assim, não hesito: eu salvaria o humano. Atribuir crenças, desejos, memórias e até laços emocionais a um agente não é suficiente para elevá-lo à condição de sujeito moral. A consideração ética por alguém depende de outros critérios — mais difíceis de definir, mas distintos da simples atribuição de agência ou inteligência. O robô pode ser um parceiro de interação eficaz, até uma companhia, mas isso não o torna, por si só, titular de direitos.
Essa dissociação entre agência interpretável e consideração moral pode ser ilustrada por um exemplo ainda mais próximo do cotidiano. Suponha que eu tivesse um cachorro, por quem tivesse afeto, com quem convivesse diariamente, e a quem atribuísse intenções, crenças e desejos. Interações desse tipo são comuns: falamos com nossos animais, tentamos entender o que querem, reconhecemos seus hábitos e preferências. Ainda assim, se tivesse que escolher entre salvar esse cachorro ou um ser humano desconhecido, eu salvaria o humano — sem hesitação. E, da mesma forma, salvaria um cachorro desconhecido antes de um robô com quem tivesse construído uma história. Esses julgamentos morais me parecem firmes. Ainda que eu não saiba explicá-los plenamente, o essencial, é que atribuir intenção, desejo ou até afeto a um agente não implica reconhecê-lo como sujeito de direito. São esferas distintas — e confundi-las é um erro conceitual com consequências políticas importantes.