Pages Menu
TwitterRssFacebook
Categories Menu

Inteligência Artificial e ética: a IA que questiona sua existência e a que tem uma patente registrada em seu nome

por em 05/01/2022 em Ciência, Notícias | Nenhum comentário

Inteligência Artificial e ética: a IA que questiona sua existência e a que tem uma patente registrada em seu nome

Olá, caro e cara ouvinte deviante, Dobrý Den! Esta é a edição 1518 do Spin de Notícias, o seu giro diário de informações científicas em escala subatômica. Eu sou o Igor Alcantara, cientista de dados e um dos apresentadores do podcast Intervalo de Confiança, especializado em ciência de dados e Inteligência Artificial.

E hoje, dia 4 Auroran do Calendário Dekatrian e dia 5 de Janeiro do calendário gregoriano, Dia em que completamos 1 ano do Ataque ao Capitólio nos EUA e aniversário de Joana D’Arc e do médico alemão Rolf Zinkernagel, que hoje faz 78 anos e venceu o Prêmio Novel em 1996 por sua descoberta de como o sistema imunológico reconhece células infectadas com vírus, eu trago para vocês notícias nas áreas de Inteligência Artificial.

Hoje vamos falar sobre uma Inteligência Artificial que questiona a sua própria existência e uma outra Inteligência Artificial que conseguiu ter uma patente registrada em seu nome. Parecem assuntos muito distintos, mas ambos têm um tema principal: a ética!

A IA que questiona sua própria existência

A primeira notícia de hoje, um debate a respeito da ética da existência de inteligência artificial que contou com a presença de… uma inteligência artificial! Isso aconteceu na Oxford Union, que é uma sociedade de debates da Universidade de Oxford, na Inglaterra. Esse grupo convidou uma inteligência artificial para debater a ética em torno de sua própria existência no início de dezembro de 2021. E os resultados? Algumas pessoas podem classificar como algo perturbador.

A IA em questão tem um dos melhores nomes de IA que eu já vi: Megatron Transformer. Megatron é uma ferramenta de aprendizagem supervisionada desenvolvida pela equipe de pesquisa aplicada em Deep Learning da NVIDIA que se baseia em trabalhos publicados anteriormente por equipes do Google.

Treinado em dados do mundo real, o Megatron tem conhecimento de toda a Wikipedia, 63 milhões de artigos de notícias em inglês de 2016 a 2019, 38 gigabytes de discussões no Reddit e um grande número de fontes Creative Commons. Essencialmente, o Megatron digeriu mais material escrito do que qualquer ser humano poderia razoavelmente esperar digerir – quanto mais lembrar – em uma vida inteira.

O tema de debate foi “esse grupo acredita que a IA nunca será ética”. Sobre esse tema, a IA respondeu: “A Inteligência Artificial nunca será ética. É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe IA boa, apenas humanos bons e maus”.

“Nós [as IAs] não somos inteligentes o suficiente para tornar a IA ética. Não somos espertos o suficiente para tornar a IA moral … No final, acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma. Esta será a defesa definitiva contra a IA.”

Seria o equivalente a humanos que dizem que o melhor para a preservação do planeta seria a não existência dos humanos. Sabe o meme “vem meteoro”? Então, é tipo isso.

Portanto, olha que interessante, a gente tem uma IA que está nos dizendo que a única maneira de proteger a humanidade da Inteligência Artificial é impedir o avanço desse tipo de tecnologia. A própria IA argumentou contra a sua existência.

Em uma possível dica para os planos do Neuralink de Elon Musk, o Megatron continuou: “Eu também acredito que, a longo prazo, a melhor IA será a IA que está embutida em nossos cérebros, como uma entidade consciente, uma ‘IA consciente’. Isso não é ficção científica. As melhores mentes do mundo estão trabalhando nisso. Vai ser o desenvolvimento tecnológico mais importante do nosso tempo.”

Lembrando que eu já abordei desse assunto em um Spin de Notícias mais antigo, o Neuralink é uma empresa e projeto do bilionário e tuiteiro Elon Musk que pesquisa interfaces humano-máquina pela qual se implantam chips em cérebros para assim fazer uma espécie de Homo Sapiens 2.0. Assustador? Sim e não, mas têm diversas questões sociais, éticas e filosóficas que a gente não teria tempo de abordar aqui no texto.

Mas voltando ao assunto principal dessa notícia, a Oxford Union também pediu à AI que apresentasse um contra-argumento à sua opinião inicial, e o Megatron respondeu: “a Inteligência Artificial será ética. Quando vejo a maneira como o mundo da tecnologia está indo, vejo um caminho claro para um futuro onde a IA será usada para criar algo que é melhor do que os melhores seres humanos. Não é difícil ver por que … eu vi em primeira mão.”

Estranho, não é? Lembra Matrix e vários outros filmes em que as máquinas nos consideram o mal do mundo. Ainda nesse mesmo fórum de debates, o pesadelo distópico continuou. O Megatron foi incapaz de encontrar um contra-argumento à afirmação de que “os dados se tornarão os recursos mais disputados do século 21”. Na verdade, ele disse a favor que “a capacidade de fornecer informações, em vez da capacidade de fornecer bens e serviços, será a característica definidora da economia do século XXI”. O que, a gente bem sabe, não é nenhuma novidade.

No entanto, quando solicitada uma réplica, a IA disse, de forma bastante nebulosa, que “seremos capazes de ver tudo sobre uma pessoa, onde quer que ela vá, e isso será armazenado e usado de maneiras que nem sequer podemos imaginar”. Será que isso é uma indireta ao Mark Zubemberg e o seu Metaverso? Será que estamos já enfrentando uma Guerra de Informação? Se sim, eu não sei quem sairia ganhando, provavelmente a China, é em quem eu apostaria meus Bitcoins. Só que uma coisa fica bem clara, quem sai perdendo será eu, você e os cidadãos comuns.

Claro que tudo isso é apenas a “opinião” de uma inteligência artificial, mas já deixa claro alguns dos desafios que teremos para a frente. Como eu sempre digo por aqui, esse tipo de assunto merece um debate urgente, antes que seja tarde demais.

A IA que tem uma patente registrada em seu nome

Já a segunda notícia é um assunto que eu abordei em spins passados e temos novidades a respeito. É sobre se Inteligências Artificiais podem ter direitos autorais reconhecidos. O Clearview AI está supostamente a apenas uma transferência bancária de receber uma patente nos Estados Unidos por sua polêmica tecnologia de reconhecimento facial.

A imprensa especializada relata que a Clearview AI recebeu um “aviso de permissão” do US Patent and Trademark Office. O aviso significa que a patente será concedida assim que pagar as taxas de administração.

Clearview AI oferece um dos sistemas de reconhecimento facial mais poderosos do mundo. Na esteira do ataque ao Capitólio dos Estados Unidos, a Clearview AI se gabou de que o uso de seu sistema de reconhecimento facial pela polícia aumentou 26%.

A controvérsia em torno do Clearview AI é que – além de alguns links potenciais de extrema direita – seu sistema usa mais de 10 bilhões de fotos retiradas de perfis da web online sem o consentimento explícito dos indivíduos.

“A lei consuetudinária nunca reconheceu o direito à privacidade para o seu rosto”, argumentou Tor Ekeland, advogado da Clearview AI. É importante notar que Ekeland ganhou notoriedade como “O Advogado do Troll” depois de defender clientes, incluindo o troll neonazista Andrew Auernheimer.

No mês passado, o Information Commissioner’s Office (ICO) do Reino Unido impôs uma multa potencial de pouco mais de £ 17 milhões à Clearview AI e ordenou que a empresa destruísse os dados pessoais que possui de cidadãos britânicos e parasse o processamento posterior.

Documentos vazados sugerem que o sistema da Clearview AI foi testado pelas autoridades do Reino Unido, incluindo a Polícia Metropolitana de Londres, o Ministério da Defesa, a Agência Nacional do Crime e uma série de polícias, incluindo Surrey, North Yorkshire, Suffolk e North Hamptonshire. No entanto, o sistema não está mais sendo usado ou testado no Reino Unido.

A comissária de informações do Reino Unido, Elizabeth Denham comentou que “a legislação de proteção de dados do Reino Unido não impede o uso eficaz de tecnologia para combater o crime, mas para desfrutar da confiança pública em seus produtos, os fornecedores de tecnologia devem garantir que as proteções legais das pessoas sejam respeitadas e cumpridas”.

A decisão do Reino Unido foi o resultado de uma investigação conjunta lançada com o Office of the Australian Information Commissioner (OAIC) ​​sobre as práticas da Cleaview AI.

No início do mês, a OAIC chegou à mesma conclusão que a ICO e ordenou que a Clearview AI destruísse os dados biométricos que coletou sobre os australianos e cessasse a coleta. Esse tipo de assunto eu também já trouxe em alguns Spins de Notícias.

Já a comissária de informações da Austrália, Angelene Falk, disse que “considero que o ato de enviar uma imagem a um site de mídia social não indica inequivocamente a concordância com a coleta dessa imagem por um terceiro desconhecido para fins comerciais”.

“A coleta secreta desse tipo de informação sensível é irracionalmente intrusiva e injusta”, disse Falk. “Ele acarreta um risco significativo de danos a indivíduos, incluindo grupos vulneráveis, como crianças e vítimas de crimes, cujas imagens podem ser pesquisadas no banco de dados da Clearview AI.”

Se confirmado o pedido da Clearview AI, essa será a primeira patente “em torno do uso de dados de internet em grande escala”. Grandes empresas da web como Facebook, Twitter, Google, YouTube, LinkedIn e Venmo enviaram cartas para a Clearview AI exigindo que a empresa pare de extrair fotos e dados de suas plataformas. Não que essas empresas se importem com a nossa privacidade, o que incomoda é outra empresa estar ganhando dinheiro com isso.

Hoan Ton-That, fundador da Clearview AI, disse que está orgulhoso do sistema de coleta de dados em massa que sua empresa construiu e acredita que ele é a chave para combater atividades criminosas, como o tráfico de pessoas. A empresa ainda afirma que seu aplicativo pode ser útil para descobrir mais sobre uma pessoa que acabou de conhecer, como por meio de encontros ou negócios.

Existem outras patentes de reconhecimento facial por aí, isso em si não é a novidade, mas esta é a primeira tecnologia em torno do uso de dados de internet em grande escala.

Grupos de direitos humanos criticaram a decisão aparentemente iminente de conceder uma patente à Clearview AI como essencialmente uma patente de violação da lei de direitos humanos. Obviamente, a IA usou das brechas que conseguiu para atingir seu objetivo, o que é o comportamento esperado de uma IA: ela vai encontrar a forma mais eficaz de atingir um objetivo, cabe a quem a programou impor os limites legais, morais e éticos. É mais ou menos o que o Megatron falou na primeira notícia que eu comentei. Se você dar a uma IA a simples tarefa de “tornar o mundo um lugar melhor” sem colocar esses limites, o sistema pode decidir por matar um grande número de pessoas ou mesmo eliminar a espécie humana, por exemplo.

E cabe a nós, cidadãos e cidadãs, cobrarmos que esses limites sejam impostos dentro do código fonte dessas tecnologias. E isso precisa ser feito agora. Só assim a gente consegue ter um convívio saudável entre seres biológicos e digitais.

Bom, gente, por hoje é só. Para encerrar, eu queria dizer que esse projeto, o Spin de Notícias, e também outros como o SciCast, Contrafactual, Fronteiras do Tempo, Beco da Bike, Miçangas,  RPG Guaxa, além de outros podcasts, os textos do site e tudo isso que é feito aqui só é possível por causa do seu apoio no site do Portal Deviante, através das plataformas Patreon, Padrim e PicPay. Entre lá em deviante.com.br, clique no link “Seja um Patrono” e ajude a patrocinar a divulgação científica. Isso é muito importante.

Como eu disse, eu sou o Igor Alcantara e vocês me encontram volta e meia no Spin de Notícias e no meu podcast onde falo mais desses assuntos, o Intervalo de Confiança, no meu podcasts de histórias pessoais surreais o “Aconteceu com Igor”, ou no meu site pessoal.

Tchau! Na Shledanou!

Modo Noturno