Pages Menu
TwitterRssFacebook
Categories Menu

Máquinas envelhecem?

por em 29/05/2018 em Ciência, Entretenimento, Tecnologia | Nenhum comentário

Máquinas envelhecem?

Máquinas envelhecem? Spoiler: SIM. Quer dizer, provavelmente, mas não da forma como você está pensando.

Nesta semana temática do Portal Deviante, sobre envelhecimento, discutimos como não estamos preparados para envelhecer, num mundo em que novas promessas surgem a cada dia, com a tecnologia aumentando exponencialmente.

Já é muito explorada na ficção a idéia de que poderemos nos transferir (fazer uma cópia de nossas memórias, consciência, etc) para corpos artificiais, máquinas, virtualmente imortais.

Idosa aparentemente em transe, com dispositivo em sua têmpora.

No episódio “San Junipero”, da série Black Mirror, pessoas podem viver virtualmente para sempre.

Claro que mesmo estes corpos artificiais poderiam sofrer a ação do tempo. Feitos, talvez, de metal, ou outro material mais resistente – quem sabe serão apenas sinais elétricos em um pequeno circuito, onde viveremos virtualmente – mas ainda assim, sujeitos a erosão, radiação, e outras interpéries.

Robô humanóide aparentemente morto e "apodrecendo" em meio à natureza. Grama e passarinhos

Arte de Simon Stalenhag

Mas não é desse tipo de envelhecimento que quero falar.

Será que máquinas, capazes de aprender, evoluir, e se melhorar (medo? empolgação? já estamos condenados?) também se sentirão mais velhas e sábias, com o passar do tempo, e até gagás, e precisarão de cuidados diferenciados de máquinas mais “jovens”?

A memória é uma das coisas que sabemos ser muito diferente, em seu cerne, seu funcionamento básico, entre máquinas e seres biológicos como conhecemos. Nossa memória é probabilística, enquanto a das máquinas é determinista.

Explico. Nós não lembramos minimamente de todos os detalhes de um acontecimento. E muitas vezes até lembramos erroneamente fatos importantes. Isso acontece porque nosso cérebro funciona sempre tentando prever o que vai acontecer no momento seguinte.

Então, quando nos recordamos de algum acontecimento, na verdade estamos pegando pequenos vestígios dele e rodando uma simulação do que aconteceu em seguida. Ao longo da vida, atualizamos nossa simulação, de forma que ela se torna realmente bastante precisa. Você já viu objetos caírem centenas de vezes. Se lembrar de quando alguém soltou um copo no ar,  você tem 100% de certeza que em seguida ele começou a se mover para baixo. (A não ser que você esteja em uma estação espacial, ou pulando de paraquedas, etc, situações muito impactantes onde o cérebro provavelmente não estaria usando sua expectativa padrão. Ou estaria, e seria justamente onde sua memória poderia se enganar).

O ponto é que nós reconstruímos as memórias sempre que recordamos.

Já as máquinas, como foi primorosamente ilustrado na série Westworld da HBO, têm uma memória perfeita. Elas têm gravado, fisicamente, cada detalhe do que aconteceu, e, para elas, relembrar seria como rever um filme, em primeira pessoa e com todas as sensações.

Na série Westworld, Maeve se lembra de sua “vida” anterior como se fosse real. Para ela é real, ela revive cada segundo.

Então, em termos de memória, as máquinas não envelheceriam, não se lembrariam das coisas com mais dificuldade com o passar do tempo.

Porém, há um outro aspecto, ao considerar experiência e comportamento. Idosos (humanos) tendem a ser mais teimosos, ter mais viéses e preconceitos duros de mudar. Quanto mais você vive, mais “viciada” se torna sua expectativa das coisas. E sim, isso também acontece com as máquinas. Quanto mais uma máquina aprende, ou seja, mais “vive”, mais dados recebe, mais treinamento pratica, mais enviesada ela fica. Isto é inevitável; Por mais que nos esforcemos para dar aos algoritmos um conjunto de dados ótimo, bem amostrado, aleatório e sem viéses, sempre vai haver algum desbalanço mínimo, que pode se acumular e acumular…

Quando se trata de questões mais humanas, podemos ver isso claramente. Hoje, algoritmos que buscam uma solução para um caso jurídico, com base nas características do caso, e tendo sido treinados em milhares de casos passados, reforçam preconceitos e viéses da sociedade, como os julgadores humanos fizeram antes. O mesmo acontece com chat-bots de atendimento ou protótipos que são lançados na internet. Logo se tornam um espelho da sociedade que os envolve. (Às vezes um espelho bem escuro…)

Ou seja, à medida que máquinas envelhecem, e são constantemente atualizadas com mais e mais dados, elas também podem se enviesar e ficar teimosas, com certas “opiniões”.

Podemos, é claro, apertar o botão de reset de tempos em tempos. (Seria bom poder fazer isso com alguns humanos, não? Opa, peraí, acho que foi a máquina que vive em mim falando). Mas isso também implicaria em perder as boas atualizações, que com mais dados teriam previsões mais precisas. É um trabalho minuncioso saber dosar isso, como é feito hoje para evitar o overfitting – “super adequação” (escute mais no Scicast #253).

Fazendo um exercício de especulação (alou, Contrafactual), podemos imaginar que, numa sociedade de máquinas, as velhinhas, já cheias de teimosias e opiniões enviesadas, não conseguissem mais funcionar, pois não conseguiriam atualizar bem suas previsões, sempre agindo conforme o passado, não acompanhando o ritmo de evolução do presente. E assim, essas máquinas já “não funcionais”, seriam desligadas, pois não tem mais utilidade, nem são capazes de viver sozinhas no mundo moderno.

No desenho “Planeta do Tesouro”, Ben passa muito tempo sozinho e fica um tanto “gagá”.

Lembrando que, quando falamos de algoritmos, essa idade se refere à experiência, e não ao tempo em si. Quanto mais dados a máquina recebeu, mais “velha” ela está. Assim, virtualmente, uma máquina poderia se tornar idosa e obsoleta em segundos.