Pages Menu
TwitterRssFacebook
Categories Menu

Machina Machinae Lupus est?

por em 05/06/2020 em Ciência, Devaneios do Pena, Notícias | Nenhum comentário

Machina Machinae Lupus est?

A célebre frase de Thomas Hobbs “Homo homini lupus” apareceu no recente curso de latim que ministrei nessa pandemia. Mas o que era para ser apenas um exemplo do caso dativo embarcou-me numa reflexão sobre a Inteligência Artificial. Se o “homem é o lobo do homem” (o predador do próprio homem), em que cenário seria possível ter máquinas que não apresentassem esse mesmo comportamento?

Analisemos o caso dos humanos

Para Hobbs, na ausência de um governo, todo ser humano teria o direito a tudo e qualquer coisa mas, dado que os recursos são escassos, haveria uma “Bellum omnium contra omnes1 (guerra de todos contra todos) e este seria o estado natural das coisas. Se comprarmos,  por um minuto, o discurso de Hobbs, a pergunta seguinte seria: “Se é da natureza humana, qual mecanismo gerou tal comportamento?”. Como bons cientistas respondemos que os comportamentos foram testados durante os milhares de anos de evolução e os que mais propagavam a sobrevivência os genes (egoístas) no pool gênico2 foram selecionados e codificados no DNA.

Abre-se agora um leque de possibilidades e condicionantes desafiadores nessa busca pela verdade: “Esse comportamento é exclusivo ao ser humano?”, “Esse comportamento é necessário (ou suficiente (ou dispensável)) na cadeia de traços muito particulares que foram selecionados e levaram o ser humano à sua posição de consciência e gerador de cultura?”. Em outras palavras, é possível criar um ser equiparável ao ser humano em termos de cultura, consciência e sociedade que não tenha tal comportamento? É possível gerar, de maneira natural, um ser capaz de esboçar um modelo mental do “outro” dentro de si mesmo, e de “si mesmo” dentro de si mesmo, sem a presença desse comportamento? São dúvidas por demais complexas que poderiam nos colocar num impasse. Deixemos de lado por um minuto e olhemos agora as máquinas.

A questão das máquinas

Nossas IAs atuais são criadas por algoritmos de aprendizado que são treinados por meio de um conjunto grande de dados e de um tutor que diz se o comportamento está certo a cada resposta da máquina. Para cada erro, a máquina modifica seus parâmetros, até o ponto em que ela passa a errar cada vez menos e, enfim, “aprende” a tarefa. Da maneira como criamos nossas máquinas atuais, não é possível falar de gerar um ente sem cultura. Toda IA que treinou e aprendeu uma tarefa, o fez em cima de dados (herdados de outros seres e que podem ser comunicados adiante, portanto cultura) e passou por um tutor que emitiu sua opinião (e influência) para dizer o que era o certo e errado em cada situação. O comportamento gerado na máquina não é, senão, herdado da sociedade que a gerou.

Não é surpresa, portanto, quando notamos que um robô no twitter começa a apresentar tendências fascistas, ou mesmo uma IA que foi treinada para avaliar criminosos passa a ter um viés racista: a máquina aprendeu a cultura que a gerou. Analisando por esse lado, é irrelevante a questão em aberto sobre os seres humanos – se é possível gerar consciência não predatória – já que as máquinas não têm escolha senão herdar nosso comportamento de lobo. Temos a falsa ilusão de estarmos criando algo novo, zerado, cheio de possibilidades, mas, se as IAs são feitas para nos servir – para nos ajudar nas tarefas -, elas irão aprender a nossa cultura, nossa moral, nossos comportamentos.

Mas Pena, espera um pouco. E se houvesse um cuidado ao treinar a IA, um protocolo, um guia para garantir que a cultura herdada seja na direção virtuosa?”. Acho justo, mas veja: talvez criar uma máquina virtuosa seja tão simples quanto criar uma sociedade virtuosa. Mas, incrivelmente, não conseguimos fazer isso até agora. Se o homem é o lobo do homem, um lobo que, mesmo sob a força do estado, consegue predar o próximo, ou, um lobo que consegue corromper o estado e, por sua força, predar o próximo, haverá meios de domarmos o lobo e criar uma sociedade sem opressão? Responda essa que te respondo a sua pergunta.

Não quero, contudo, dizer que não existe virtude na nossa sociedade e que ela não pode ser herdada. Assim como pais decentes podem criar bons cidadãos, assim como grupos altruístas podem espalhar o bem ao próximo, é perfeitamente possível criar uma IA que seja fruto dessa cultura. Não é disso, entretanto, que se trata esse artigo. Estamos falando de sociedade. Uma vez que a tecnologia (que pode criar as IAs) permeia nossa sociedade, não é possível barrar o comportamento vicioso das máquinas a menos que, antes, resolva-se o comportamento vicioso do ser humano. Não é nem mesmo possível fazer IAs numa proporção mais virtuosa do que a sociedade humana, a menos que a própria sociedade humana seja proporcionalmente mais virtuosa. O que retoma à nossa questão anterior.

 Quebrar a corrente

Sabemos que as máquinas irão herdar nossa cultura mas, no momento em que elas passem a refletir sobre o mundo, os valores e sua existência, haveria uma forma delas transcenderem de sua origem viciosa para uma sociedade melhor? Acho que sim. Imaginando que exista uma forma de sociedade (em termos éticos, políticos e econômicos) que seja de fato virtuosa ou majoritariamente virtuosa (não sei se realmente existe, mas tendo a acreditar que sim), e que existam trajetórias no espaço de fase que levem para esta configuração, então seria possível. Talvez sejam trajetórias muito restritas, muito limitadas, mas basta que exista ao menos uma para que se possa afirmar que é possível. Se todas as premissas forem válidas, então seria possível às máquinas quebrar essa corrente e abdicar do comportamento “machina machinae lupus” (a máquina é o lobo da máquina).

Agora sou eu que me enrosco. Explico: comecei o texto dizendo não saber se era possível, naturalmente, surgir entes auto-conscientes, de vida social, que não exibissem o comportamento “lupino”. Afirmei que a questão era por demais complexa, inclusive. Agora digo que acho possível máquinas se redimirem desse comportamento herdado. Mas veja, não há nada na suposição das máquinas que as faça diferente dos humanos. As premissas que usei são bastante comuns a ambas espécies: máquinas são treinadas em dados e sob o crivo de um tutor, herdam cultura humana, exatamente como os humanos. Isso quer dizer que não há assimetria nessa questão e, se a conclusão é que máquinas poderiam quebrar a corrente, seria o mesmo que dizer que humanos poderiam também. Entretanto, existe sim uma assimetria, na palavra “naturalmente”. Seres humanos, biológicos, vem do processo da seleção “natural”, enquanto as Inteligências Artificiais são obviamente seleções de um processo artificial, certo?

Tanta coisa para desconstruir 🙄

Talvez a análise menos inocente seja perceber que nós somos máquinas, literalmente falando. Lá na origem da vida, surgiram as primeiras máquinas biológicas que rodavam algoritmos sobre os dados disponíveis (temperatura, luz, pressão etc.) e cujas ações eram avaliadas por uma banca de tutores: os genes. Se você se comportou bem, se alimentou, se defendeu e procriou, parabéns, os genes ficaram felizes e você foi selecionado para a próxima fase. Se não conseguiu realizar direito isso, você é rejeitado, sinto muito.

Se somos máquinas que são iteradas (naturalmente) a cada momento, com a máquina seguinte sendo uma cópia da máquina vitoriosa do momento anterior, e, se as nossas IAs são o mesmo processo, mas mediados pelo tutor humano (que é uma máquina mediada pelo tutor gênico)… percebe onde estamos chegando? É arbitrário decidir o que é natural e artificial. É razoável aceitarmos que a diferença entre biológico e não biológico seja só uma etiqueta irrelevante para essa análise (e, possivelmente, a maioria delas, quando a questão é consciência). E, assim, nossa pergunta não tem mais a ver com máquinas, ou melhor, só tem a ver com máquinas. A pergunta certa se torna “Machina Machinae Lupus?”.

O que sobrou depois de todo esse texto tortuoso? Nos resta entender que existe um processo evolutivo natural, do qual nós (máquinas) somos frutos, e do qual as nossas máquinas também são frutos; e que cada geração seguinte herda a cultura da anterior, processa e passa adiante. Se, talvez, não seja possível criar a primeira sociedade não predatória, nada diz que não seria possível quebrar em algum momento a corrente, desde que exista tal solução e ao menos uma trajetória até ela. Mas, se isso existir, então a tarefa pode estar, antes da IA, nas nossas próprias mãos. E, se me permite esse último suspiro fugaz de achismo,  algo me diz que se não resolvermos nosso problema lupino antes da IA consciente aparecer, talvez seja uma herança que nos custará caríssimo passar adiante.

Modo Noturno