O submersível e o fascínio pela tecnologia

Na semana passada, o mundo entrou em compasso de espera, ansiando por boas notícias do submersível que levava cinco pessoas até os destroços do Titanic. A tragédia da implosão da embarcação que transformou uma aventura em uma comoção global esconde lições que vão além da fatalidade. A relação entre a última expedição ao Titanic, que tirou a vida de um grupo de milionários no oceano Atlântico a uma profundidade de cerca de quatro mil metros pede uma pausa para a gente questionar o homem tecnológico que tudo pode e tudo quer.

Para quem trabalha com tecnologia e seu impacto em nossas vidas, a tragédia do submersível Titan desperta mais do que curiosidade ou compaixão. Ela nos leva a pensar que a tecnologia se transformou numa religião, com bilhões de seguidores cegos na sua fé. Mais do que isso: além de acreditar que as técnicas vão nos salvar das doenças, das pestes, da fome e dos erros humanos, como diz Yuval Harari no Livro “Homo Deus, uma breve história do amanhã”, é muito possível que a gente acredite que nós, como seres que constroem a sua dimensão tecnológica, também temos superpoderes. A inevitabilidade da morte, assim, vai se desafazendo como certeza, pois, de novo, o homem “tecnologizado” é imortal.

Por mais insensata que essa conversação possa parecer, o fascínio pela tecnologia, e a dependência extrema que desenvolvemos pelos dispositivos eletrônicos, nos faz esquecer que a carne é fraca, e que as leis da natureza, assim como as redes sociais, também não negociam seus termos de uso.

Eu fiz questão de trazer essa temática para discutir se o fascínio pela tecnologia justifica tudo. E por que, tendo a ciência como escudo, nos transformamos em divindades e embarcamos em aventuras que ignoram os nossos instintos de sobrevivência mais primitivos.

Falar desse tema traz o desafio moral de não julgar as decisões humanas, e para isso eu convidei o Cristiano Maciel, professor da Universidade Federal de Mato Grosso e pós doutorando na Universidade de CalPoly na cidade de Pomona, na Califórnia. Cristiano é coordenador do projeto Davi, Dados Além da Vida, que discute a importância do legado digital pós-morte.

O professor Cristiano Maciel aceitou o desafio de relacionar o papel da tecnologia com tragédias como a do submersível, a partir de uma perspectiva hegemônica do papel da tecnologia em nossas vidas:

“Nós temos aí o lado individual, e cada um tinha o seu lado de confiar na tecnologia, tem a ver com o papel do endeusamento da tecnologia em nossa vida. A gente não sabe como foi vendido tudo isso em termos de segurança. O proprietário das empresas deveria saber o quanto aquilo poderia ou não suportar a pressão. Por outro lado, havia um especialista em exploração do Titanic, ou outro em avião. Pessoas com conhecimentos avançados, que poderiam ter checado, mas não checaram? Talvez por confiança ou por fascínio pela tecnologia. Já o paquistanês é uma pessoa que amava o Titanic, e a gente não sabe como foi vendida a ideia para ele. Mas ele não estava produzindo este tipo de tecnologia. É uma situação bastante complexa, mas que faz com que a gente tenha que refletir sobre esse fascínio que a tecnologia exerce sobre nossas vidas e até onde elas devem ou não ser utilizadas.”

O escritor Harari discute que na busca pela felicidade, o homem quer recriar a vida. Nesse sentido, a tecnologia, tanto a que faz a bomba atômica, quanto a que cura o câncer, são armas de criação e de destruição. E, portanto, nós somos os grandes criadores dessa nova agenda humana baseada na inovação. Isso muda o jeito de a gente encarar a morte?

A tecnologia muda tudo. Nunca estivemos tão submetidos a uma invasão de nossas vidas como no atual mundo midiático e mediado pelas grandes corporações. Vivemos o reino da internet das coisas, da conectividade, da experimentação científica e do valor supremo dos dados. As pesquisas do professor Cristiano Maciel mostram que as decisões sobre o destino da humanidade estão sendo tomadas sem nos perguntarmos se realmente este é um caminho de mão dupla, e aí eu faço de novo uma analogia como submersível: até que ponto este é um caminho sem volta?

Cristiano Maciel responde que o amanhã depende das escolhas que fazemos a cada instante.

“No campo da engenharia de sistema, nós temos os sistemas críticos que podem levar à perda de vidas ou de grandes montantes de dinheiro. Eles são considerados como sistema que precisam ser muito bem testados antes A gente pensa o que faz um conjunto de pessoas experientes que conhecem a profundidade do Titanic para se aventurar num equipamento e estavam comercializando isso. É realmente crítico, e no traz reflexões não só no campo do desenvolvimento de tecnologias, mas no campo das ações humanas e da responsabilidade humana sobre o desenvolvimento dessas tecnologias.”

E qual a responsabilidade das empresas nesse processo? Até que ponto a empresa que fez o submersível e as empresas que usam os nossos dados estão colocando a vida em primeiro lugar? Até que ponto a inteligência artificial e os dispositivos como carros autônomos e aparatos de exploração científica têm o direito de colocar a vida em risco?

Eu vejo uma conexão muito clara entre aquele consentimento que os cinco milionários assinaram ao embarcar na viagem sem volta no fundo do mar e os termos de consentimento das plataformas digitais, que todos nós assinamos todos os dias, digitalmente, e a semelhança maior é, muitas vezes, a falta de compromisso ético das empresas em assumir a responsabilidade pela integridade de nossas vidas, incluindo aí os nossos dados pessoais, os nossos direitos, a nossa privacidade. Para muitas empresas, o que conta são nossos dados, e dados têm valor, como nos ensina Cristiano Maciel.

“Por trás da tecnologia, há uma intenção de uma empresa. A empresa tem responsabilidade, mas a gente não sabe o quanto ela se responsabiliza de fato. Um exemplo bem simples é nas redes sociais. Quem lê os termos de consentimento? Os termos de consentimento são os nossos contratos com as empresas. E nem sempre a gente lê. Nem sempre a gente sabe de um detalhe que pode fazer a diferença na hora que eu for usar aquela aplicação. Assim como num sistema crítico, precisamos questionar se aquele sistema foi ou não testado, o material que foi usado naquele sistema, como ele protege ou não o usuário e seus dados, são detalhes que deveriam ser transparentes para que a pessoa que vai fazer uso da tecnologia possa tomar a decisão sobre isso. Por isso, é importante que a gente alerte sobre essa responsabilização coletiva. A gente tem que ficar de olho que por trás das empresas estão os interesses comerciais e a gente não pode esquecer nunca essa não neutralidade das tecnologias.”

Sempre cabe aquela pergunta clássica: o que a legislação tem a ver com tudo isso?

Responsabilidade é a palavra-chave quando a gente trata de tecnologia, Márcio, e essa responsabilidade pelo coletivo independe da minha ou da sua vontade, ou do quanto nós podemos pagar para ter essa tecnologia. Quando a gente fala de tecnologia, e sobre inteligência artificial, ou sobre algoritmos, cada vida importa. E por isso estamos discutindo nesta casa o Marco Regulatório da Inteligência Artificial.

O livre arbítrio tecnológico acaba quando o nosso bem mais sagrado está em jogo.

Como alerta o Cristiano, na aventura que é a vida, não vamos embarcar na onda da tecnologia sem nos perguntarmos qual é o preço.