Dois centavos para contribuir com o debate sobre os Algoritmos e a IA

Redes de controle = opacidade, classificação, predição e outros bichos cibernéticos

IMAGEM: ideianoar

Prof/Pr Lenon Andrade – Campina Grande /PB

A gente vive numa sociedade controlada por coorporações que utilizam tecnologias digitais para impor a lógica do acúmulo instrumentalizada pelo controle cibernético sobre os usuários de computador (aqui o computador é também o tablet e o celular, além de qualquer dispositivo que tenha um processador imbutido). Como diz o professor Sergio Amadeu da UFABC, a internet é uma rede de controle, mas, também é uma rede ambivalente, explico!

Percebam que falei uma ruma de coisas não triviais, porém plenamente explicáveis. OK, vamos iniciar de trás pra frente:

1) Ambivalência → do ponto de vistas das redes digitais é a possibilidade de aplicá-las em sentidos opostos, exemplo: as redes podem e são usadas para o bem ou para o mal, portanto, podem e são usadas pelas corporações (bigTecs)  para controlar seus usuários, mas, também podem ser usadas em senitdo contrário, para liberar os usuários para o uso livre da rede ou, digamos, uso democrático da internet, como era a TecnoUtopia dos anos 90 até meados dos anos 2000. Assim, a característica ambivalente das redes AINDA permitem o estabelecimento de uma resistência tecnopolítica a serviço da democracia e do processo civilitório.

2) Algoritmo → Vamo logo desmistificar o monstro. Algorítmo nada mais é do o CÓDIGO ESCRITO pelo programador de computador...pensem numa receita de bolo (conjunto de passos/instruções para se montar, misturar os ingredientes, definir tempo de forno etc). Todo conjunto de instruções lógimente ordenadas é umALGORÍTMO. E, se é logicamente ordenado, então também é inteligível, portanto, nada do outro mundo. O problema é quando o algorítmo é COMPILADO e os donos do código não pérmitem a sua auditagem. É, pois, neste contexto cibernético que ocorre o controle porque, o algoritmo compilado é linguagem de máquina, não dá para fiscalizar, é absolutamente OPACO!

3) Opacidade → Vejam a seguinte fórmula: =se(nota do aluno >= 7, então, “aprovado”, senão, “reprovado”), fim-se; Fácil de entender, não? Agora, imaginem se a mesma fórmula fosse escrita assim: ■▓$%▓$)▓(&■%%■$■$@%&■▓$%▓$)▓(&■%%■$■$@%&... A opacidade impede qualquer possibilidade de auditoria, fisclização e controle por parte das instituições sobre as atividades cibernéticas das BigTecs. Há um lema na TecnoUtopia Hacker que diz o seguinte: “Na rede, quem controla o código, controla o poder!” O problema não é o algoritmo ou a inteligência artificial, que nada mais é do que algorítmo complexo escrito pelo ser humano com a ajuda das máquinas. O verdadeiro perigo está nas REGRAS OPACAS, sem transparência alguma, de quem controla o código! Por isso que, corretamente, o ministro Flávio Dino falou ao Twitter, “danem-se” seus TERMOS De USO..! O Estado, a população e a Democracia não podem permanecer a mercê do controle cibernético das BigTecs!

Para terminar esta pequena contribuição sobre um assunto tão “complexo” e delicado para a manutenção da Democracia e a permanência da civilidade, afirmo que a opacidade algorítmica das corporações são deletérias ao processo civilitório porque suas configurações são carregadas de intecionalidade mercantilista, com vies idelógicos e político partidário que podem descambar para vieses xenofóbicos, racistas, regioso/fundamentalistas, aporofóbicos (ódio ao pobre), misóginos, homofóbicos, etc. Tudo isso porque é possível configurar essas máquinas e softwares para classificar e predizer tendências, comportamentos e escolhas dos seus usuários. 

Nosso lema, portanto, deve ser, controle e transparência para os poderosos (BigTecs e corporações)! 

Liberdade (direito de ir e vir nas redes) e garantia da inviolabilidade da intimidade (opacidade plena) para o cidadão!

Prof/Pr Lenon Andrade – Campina Grande /PB

O inexorável

Trégua de seis meses nas pesquisas sobre IA não vai resolver nada. Olhe com ternura e compaixão para o mundo à sua volta, pois ele vai desaparecer num suspiro

IMAGEM: crawly

 O Estado de S. Paulo, 18/5/2023 

Eugênio Bucci JORNALISTA, É PROFESSOR DA ECA-USP

  De umas poucas semanas para cá, o historiador israelense Yuval Harari escreveu um par de artigos afirmando que a inteligência artificial (IA) “hackeou” o “sistema operacional” da espécie humana. Tratase de uma metáfora: “sistema operacional”, aqui, significa linguagem. A máquina finalmente dominou nossas formas de expressão e comunicação – e o perigo que isso representa é inédito, colossal, maior do que qualquer outro que tenhamos conhecido antes.

Harari tece raciocínios com uma limpidez irresistível. Autor de best-sellers mundiais, como Homo Sapiens (publicado no Brasil pela Companhia das Letras), tem o dom de tornar palatáveis, acessíveis e até mesmo envolventes alguns dos mais excruciantes dilemas do nosso tempo. O primeiro dos artigos, originalmente publicado no The New York Times, foi traduzido em jornais brasileiros. O Estadão o estampou em suas páginas no dia 28 de março, com o título de O domínio da inteligência artificial sobre a linguagem é uma ameaça à civilização.

Pouco depois, o escritor liderou um abaixo-assinado transnacional pedindo uma trégua de seis meses nas pesquisas sobre inteligência artificial. Em seguida, voltou à carga com um novo texto, desta vez no semanário inglês The Economist (de 28 de abril), com a mesma mensagem: uma tecnologia capaz de se apossar da linguagem humana tem tudo para encilhar a humanidade inteira.

O argumento procede. Todos os mitos, todas as religiões e todas as culturas que existem ou já existiram sobre a face da Terra não são feitos de aminoácidos ou de cromossomos, mas de signos linguísticos. Esses signos vertebram o “sistema operacional” dos nossos sistemas de fé, da nossa expressão artística e da nossa identidade – são o tecido da nossa consciência. Logo, softwares e hardwares que se apropriem desse “sistema” poderão mandar em nós. Eis por que, na opinião de muita gente bem informada, a inteligência artificial se equipara aos armamentos nucleares em potencial destrutivo.

Mas isso não é nem a metade da missa de réquiem que mal começou. Se olharmos a questão de frente, notaremos que Yuval Harari poderia ter dito mais do que disse. O desenvolvimento do chamado machine learning, do big data e dos equipamentos autoprogramáveis segue um curso irrefreável. Nenhum abaixo-assinado poderá estancá-lo. O ponto de não retorno talvez já tenha ficado para trás.

Para entender a irreversibilidade do processo tecnológico, é bom nos lembrarmos daquele outro processo, o jurídico, tal como foi descrito por Franz Kafka. A despeito da existência ou não de provas, a trama judicial ia em frente, sem que ninguém lograsse detê-la. A tecnologia, como o direito, é uma criação humana. Diferentemente do direito, porém, fica mais forte à medida que se desumaniza e se liberta das pessoas.

Martin Heidegger pressentiu algo parecido quando falou do poder da técnica, na primeira metade do século 20. Trezentos anos antes, Thomas Hobbes notou que o Estado, possuído pelo monstro Leviatã, faria o que bem entendesse, contra quem quer que fosse. A sensação de que o engenho humano fabrica “monstros” que ganham vida própria não é nova. Adam Smith vislumbrou uma tal “mão invisível” puxando os fios do mercado. Karl Marx detectou um “sujeito automático” escondido em alguma reentrância entre a mercadoria e o capital.

A realidade lhes deu razão. A burocracia que Max Weber viu com uma ponta de otimismo logo se degradou em stalinismo e devorou seus pais, como se confirmasse a maldição do romance Frankenstein, de 1818, em que Mary Shelley retratou a criatura que subjuga o criador. Nas tragédias da Grécia Antiga, a fatalidade que não tinha governo atendia pelo nome de destino. Na modernidade, você pode chamá-la de inconsciente. O pensamento até entende o que contempla, mas não tem como impedir.

E aqui estamos nós, cara a cara com a inteligência artificial. A possibilidade de domála é exígua. Ela conseguiu o feito de retirar a linguagem humana do domínio dos falantes de carne e osso. Ela, a linguagem, que só podia existir através de nós, agora poderá viver além de nós. Não subestimemos o tamanho deste pequeno passo que será um grande salto para a tecnologia. O linguista Ferdinand de Saussure ensinou que aquele que inventa uma língua e a coloca em circulação perde o controle sobre ela. Em breve, poderemos perder o controle sobre as máquinas que aprenderam a falar a linguagem que era só nossa.

A inteligência artificial automatiza protocolos que eram humanos na origem e deles extrai predições eficazes, em escalas progressivamente mais velozes e mais agigantadas. Ela cresce e se complexifica dentro dos bunkers privados e opacos das big techs – ou dentro dos subterrâneos dos mais bem guardados segredos de Estado, também opacos. Não há força política na atualidade que consiga quebrar essas duas opacidades simultaneamente. Não, uma trégua de seis meses não vai resolver nada. Nossas chances são mínimas.

Olhe com ternura e compaixão para o mundo à sua volta, porque ele vai desaparecer num suspiro.