Inteligência Artificial: Aliada ou Inimiga?

1. Introdução

Li na imprensa espanhola que um pai belga de trinta e poucos anos, um cientista e profissional de saúde pública de sucesso no seu país, se suicidou depois de ter um “diálogo” com ELIZA durante seis meses. ELIZA é um programa desenvolvido na década de sessenta do século passado por Joseph Weizembaum, informático de origem alemã que na época trabalhava no Massachusetts Institute of Technology (MIT); ELIZA era capaz de simular uma conversa como se estivesse numa sessão de psicanálise. Posteriormente, foram desenvolvidos mais programas de simulação de conversação, sendo o mais famoso e conhecido hoje o Dr. Abuse, facilmente acessível na Internet.

 Continuo a ler que o suicida estava obcecado com as mudanças climáticas e com as poucas acções eficazes que são tomadas para as minimizar. O surpreendente é que ele foi procurar ajuda num programa de computador e não em organizações não-governamentais ecológicas que pudessem canalizar as suas preocupações. A única coisa que o programa de computador “pôde” fazer é servir de espelho das próprias opiniões de quem o interrogava, potenciando as suas obsessões até que ele decidisse cometer suicídio porque não conseguia mais “suportar-se”.

Infelizmente no nosso tempo, o indivíduo vive em grandes cidades com centenas de milhares ou milhões de pessoas, mas sente-se sozinho, sem verdadeiro contacto humano, e procura paliativos em substitutos como as redes sociais ou o chat com uma máquina que parece humana nas suas respostas, mas que não o é, o que acaba por reforçar a sua alienação, despojando-o aos poucos dos verdadeiros sentimentos humanos, desta forma robotizando-se pouco a pouco.

Nas linhas seguintes tentarei fazer uma análise daquilo que habitualmente se chama, com mais presunção do que o que é na realidade, a Inteligência Artificial e as implicações a que a sua utilização indevida nos pode levar, como está a ser revelada pela recente aplicação ChatGPT ou pela robotização de empregos ainda realizados por seres humanos.

2. O que é Inteligência Artificial? Origem do termo

Uma breve pesquisa sobre a etimologia de inteligência na Internet diz-nos que o termo inteligência vem do latim intelligentia, que por sua vez deriva de intelligere, que significa optar, escolher; de forma que a origem etimológica do conceito de inteligência refere-se a quem sabe escolher: a inteligência permite-nos seleccionar as melhores opções para resolver um problema.

A palavra programa é usada para descrever o conjunto de instruções que um computador deve executar com base em dados para obter um resultado. A palavra foi usada pela primeira vez para o primeiro computador de uso geral, que foi o ENIAC, cujo projecto começou a ser desenvolvido na Universidade da Pensilvânia em 1943, embora só tenha sido apresentado definitivamente no início de 1946.

O primeiro a cunhar o termo Inteligência Artificial para o mundo da computação foi o cientista da computação do MIT, John McCarthy, em 1956, que usou o termo numa conferência em Dartmouth College sobre simulação do comportamento humano utilizando computadores. Foi também ele que desenvolveu a primeira versão de uma linguagem de programação de diferenciação simbólica conhecida como LISP (List Processing), que foi a primeira das linguagens a seguir o paradigma funcional.

Estas linguagens eram utilizadas para processos recursivos, e também admitiam funções recursivas como seus argumentos. Mais tarde, essas linguagens de paradigma funcional seriam seguidas por aquelas que utilizariam a lógica filosófica desenvolvida por Aristóteles e Kant, criando o paradigma lógico para linguagens de programação de computadores. Por fim, a programação orientada a objetos é o que nos permite separar os diferentes elementos de um programa e é o que mais se aproxima de como expressaríamos as coisas na vida real.

Devemos assinalar que tais paradigmas de linguagem de computador foram baseados, se não literalmente copiados, da linguagem humana e dos processos de pensamento. Estavam a ser postos em prática nestes computadores incipientes formas de trabalhar que imitavam o que chamamos de pensamento, aquele processo especial da mente humana com o qual tentamos conhecer o mundo que nos rodeia.

Mas este último merece um ponto separado. Por enquanto, é suficiente para nós saber que começou a atribuir-se um nome incorrecto como Inteligência Artificial a um software e hardware informáticos que ainda estavam na sua infância e que não tinham nem remotamente as capacidades de um simples PC como o que estou a usar agora para escrever esses resumos.

 3. O que é pensar? A lógica matemática e seus paradoxos

Uma simples consulta ao dicionário R.A.E.¹ [Real Academia Española] diz-nos que pensar é, no seu primeiro sentido, formar ou combinar juízos ou ideias na mente. É também examinar mentalmente algo cuidadosamente para formar um juízo. Ambas as definições implicam que pensar é algo que não depende das impressões dos nossos sentidos, que são a forma como percebemos o mundo que nos rodeia e nos relacionamos com ele.

Para pensar é preciso primeiro raciocinar, embora ambos os processos estejam interligados, sendo Aristóteles o responsável pela primeira investigação básica sobre os processos de raciocínio e os seus princípios básicos a que chamamos lógica, sendo Aristóteles considerado o seu fundador, por ter sido o primeiro a sistematizar os seus procedimentos.

Mais tarde, mais de dois mil anos depois de Aristóteles, o filósofo alemão Immanuel Kant introduziu a lógica transcendental na sua Crítica da Razão Pura, onde estabeleceu que, para poder pensar, precisamos de impressões dos nossos sentidos. A compreensão por si só não pode intuir nada, e os sentidos por si só não podem pensar nada; é necessária a união de ambos para produzir conhecimento. Como consequência, não se aprende filosofia, mas sim como filosofar.

Aproximadamente um século após Kant, foi feita uma tentativa de fundamentar a matemática através de um sistema de axiomas através do qual todos os teoremas matemáticos pudessem ser deduzidos pela aplicação automática das regras da lógica. Isto era já conhecido desde a época do matemático e geómetra grego Euclides, que com os seus cinco axiomas e as regras citadas, conseguiu deduzir todos os teoremas geométricos da sua época, dando origem ao que hoje se conhece como geometria euclidiana.

Esse foi um dos desafios colocados pelo matemático David Hilbert, dar fundamentos lógicos à matemática da mesma forma que Euclides o havia feito com a geometria. Parte disso já tinha sido alcançado, pois os princípios da aritmética que incluíam os números naturais e as quatro operações básicas já tinham sido estabelecidos e sistematizados com os axiomas dos números naturais do matemático italiano Giuseppe Peano.

No entanto, o matemático austríaco Kurt Gödel demonstrou, com os seus teoremas da incompletude, que no caso da aritmética existiam algumas propriedades verdadeiras dos números naturais que não são demonstráveis ​​a partir dos axiomas de Peano. Isto é conhecido como o primeiro teorema da incompletude; estendendo o caso a qualquer sistema axiomático, o segundo teorema da incompletude diz-nos que existirão, em qualquer sistema que siga as regras da lógica formal, axiomas ou verdades que não são demonstráveis, nem a sua falsidade é demonstrável. Isso é conhecido como proposições indecidíveis. Isto tem imediatamente como consequência que conceitos como verdade são considerados não mais pertencentes à linguagem, mas à metalinguagem.

Alan Turing, matemático britânico considerado o pai da computação digital, na sua tese “Systems of logic based on ordinals”², escreveu que: o raciocínio matemático pode ser considerado de forma bastante esquemática como o exercício de uma combinação de duas faculdades, que podemos chamar de intuição e criatividade.

4. O que é um computador? Máquinas de Turing

Tudo o que foi dito acima é necessário para saber que um computador, cuja arquitetura trabalha com portas e operadores lógicos binários do tipo SIM/NÃO, escritos em código máquina por um programador, apenas pode resolver problemas computáveis, ou seja, aqueles que podem ser formulados por um algoritmo, segundo a conhecida tese de Church-Turing, ambos figuras ilustres nos campos da lógica e da informática.

Até agora temos falado sobre computadores e suas capacidades de cálculo e de possível pensamento. Mas devemos perguntar-nos: o que é um computador? Como atualmente é entendido, é uma máquina de Turing de uso geral ou máquina-u. Esta máquina de Turing deve decidir automaticamente, isto é, seguindo um algoritmo, quais as funções matemáticas que podem ser calculadas e quais não. Se uma função puder ser calculada, a máquina de Turing, após um certo tempo finito, devolver-nos-á um resultado. Se, por outro lado, a função não puder ser calculada porque não é computável, a máquina continuará com os seus cálculos indefinidamente, sem nunca parar. Isso é conhecido como problema da paragem. É por causa desse problema que os computadores às vezes “penduram”. Eles encontram um ciclo “infinito” não computável no seu conjunto de instruções que os faz repetir as mesmas etapas uma e outra vez.

Turing concebeu originalmente a sua primeira máquina, que chamou de máquina-a, como resposta ao desafio de Hilbert que vimos anteriormente, a busca por um procedimento estritamente lógico, ou na linguagem atual, um procedimento computacional, que decidiria a verdade ou não de uma proposição matemática. Deve notar-se que a máquina de Turing é virtual, sem existência real. Porém, é considerada a primeira proposta teórica do que poderia vir a ser um computador. Um dos problemas da máquina-a é que ela tem sempre o mesmo programa e, portanto, executa apenas uma única tarefa. Para superá-lo, ele concebeu uma nova máquina, a máquina-u (de universal), que seria capaz de conter várias máquinas-a de Turing dentro dela. Um computador é um exemplo de máquina-u, pois pode processar diferentes programas. Este foi um passo decisivo na história dos computadores, uma vez que já não era necessário construir um especificamente para cada tarefa.

Conclui-se de tudo isto que um computador só pode resolver problemas computáveis, ou seja, que sejam sistematizados em um algoritmo. Este último é um conjunto de instruções e passos “mecânicos” sistematizados de acordo com regras lógicas… que segundo os teoremas de Gödel, conterão verdades indecidíveis não dedutíveis por algoritmos; chega-se à conclusão natural de que um computador não será capaz de deduzir teoremas que já não estejam predeterminados em seu conjunto de instruções que foram programadas por humanos. Portanto, não poderá “sair” do algoritmo ou algoritmos previamente programados nele. A intuição, tal como nós, humanos, a entendemos, como uma compreensão directa de uma verdade, está fora das suas capacidades.

5. Máquinas versus pessoas: o teste de Turing e as diferentes abordagens à IA

A ideia por trás dos computadores digitais pode ser explicada dizendo que essas máquinas se destinam a realizar qualquer operação que possa ser realizada por um computador humano.

Alan Turing, Máquinas de Computação e Inteligência³

No artigo cuja citação encabeça este ponto, Alan Turing pergunta como podemos descobrir se um computador se comporta de forma inteligente, mesmo que não o seja. Para fazer isso, ele desenvolveu um teste, conhecido como teste de Turing, criando o que hoje é conhecido como abordagem comportamental da IA ​​e evitando dar uma definição do que é inteligência. Também não responde à questão de saber se as máquinas podem pensar.

O teste de Turing consiste no seguinte. Suponha que uma pessoa possa comunicar através de um monitor e teclado com um computador localizado fora do alcance de seus sentidos, por exemplo, em outra sala insonorizada. A referida pessoa faz uma série de perguntas através do teclado e obtém a resposta no monitor após um curto período de tempo. Se a pessoa não conseguir distinguir das respostas obtidas se foram feitas por um computador ou por um ser humano, a máquina em questão passou no teste de Turing.

Deve notar-se que se a máquina passar no teste de Turing, isso não significa que ela tenha consciência ou intencionalidade próprias. Como vimos, um computador ou uma máquina de Turing só pode resolver processos computáveis, mas sempre existirão procedimentos não computáveis ​​ou verdades indecidíveis que um computador, por definição, não será capaz de resolver. Por enquanto, a consciência e a intenção são qualidades especificamente humanas.

Turing também foi um precursor da outra abordagem da IA, a chamada abordagem simbólica. Sob esse ponto de vista, são estudados sistemas que processam cadeias de símbolos, como as palavras, que são outras manifestações da inteligência humana. Sob esta abordagem, o comportamento de um especialista pode ser simulado. Em resumo, o significado das palavras e dos sistemas que as contêm, como as frases, é reduzido a respostas do tipo SIM/NÃO, para posteriormente trabalhar com elas em sistemas binários.

Esta última abordagem gerou um intenso debate entre os defensores da IA ​​forte, que acreditam que os computadores um dia serão capazes de “pensar” tal como os humanos, e os defensores da IA ​​fraca, que pregam que qualquer manifestação de Inteligência só pode ser simulada por um computador.

É claro que, para o jovem profissional belga que se suicidou após conversar com ELIZA, este último software teria passado no teste de Turing. O que nos leva a outra questão: se as máquinas são programadas por pessoas através da computação, será que estes procedimentos, abordagens à IA e aos programas de computador que são escritos para elas, também influenciarão a forma como as pessoas pensam e sentem o mundo, tal como sucedeu no caso que mencionamos antes.

6. Retroalimentação das máquinas: dados humanos

Uma notícia recente que apareceu na imprensa espanhola informa que os aspiradores automáticos de uma marca que não mencionarei são treinados no reconhecimento de padrões pelos chamados “trabalhadores fantasma” da IA. Tudo isso já se sabe há muito tempo, que os supostos robôs que nos auxiliam nas tarefas diárias são retroalimentados com reconhecimento de imagens realizado por humanos.

Assim, como as próprias máquinas não conseguiam reconhecer os padrões dos vários móveis e objectos encontrados numa casa, eram estes “trabalhadores fantasma” que, por alguns cêntimos e em tempo real, realizavam eles próprios a categorização e rotulagem dos itens, de modo que que o software implementado nas máquinas domésticas pudesse desempenhar a sua tarefa da forma mais eficiente possível.

O que fez disparar o alarme foi que algumas imagens captadas pelas câmaras embutidas nos aspiradores vazaram para as redes sociais. Algumas dessas imagens postadas eram de uma mulher sentada numa sanita, de uma criança olhando para a câmara do aspirador ou de uma família inteira sentada à mesa, entre outras mais íntimas.

Os problemas típicos de tratamento de dados surgiram imediatamente na compilação destas imagens, sem que o utilizador final tivesse verdadeiramente conhecimento da utilização que estava a fazer, uma vez que normalmente é dado consentimento para a sua utilização sem saber o que está implícito, como estamos a ver neste caso concreto.

 Outra ferramenta que também utiliza trabalhos anteriormente realizados por humanos é a aplicação ChatGPT desenvolvido pela empresa OpenAI. Basta dar-lhe um tema para desenvolver e algumas palavras-chave e ele faz um trabalho académico sobre essas palavras que em muitos casos, principalmente académicos, é indistinguível do que faria um ser humano que pesquisasse o referido tema. A referida aplicação realiza uma pesquisa em milhões de bases de dados espalhadas pela Internet e combina-as para criar a escrita que pretendemos. Ela descreve-se a si própria como “um modelo de linguagem”.

sto cria problemas com a autoria das obras, além da possível violação de direitos de autor que seriam cometidos pela referida aplicação. Além disso, se ela fosse considerada culpada de plágio, quem seria o culpado? A empresa que a desenvolveu, o utilizador que fez o pedido, a própria aplicação? Tudo isto gera um debate ético e moral para o qual, obviamente, não estamos preparados. Da mesma forma, a aplicação ChatGPT foi proibida na Itália até que seja conhecido o real impacto na sociedade. Algumas vozes autorizadas pedem a declaração de uma moratória de seis meses para estudar todas as possibilidades que o uso generalizado do ChatGPT causaria.

Há ainda outro factor a ter em conta. Estamos a usar o termo Inteligência Artificial, e já vimos nos pontos anteriores que a palavra Inteligência não era adequada para descrever o processo realizado pelos computadores. Se além disso trabalham com dados previamente criados por humanos, não se pode dizer que seu trabalho mereça ser chamado de Artificial, pois a única coisa que os aplicativos fazem é retrabalhar os dados e trabalhos que pessoas já tinham feito.

7. Impacto no pensamento e na criatividade humana

Esta emergência tão acelerada de tecnologias associadas à IA trará consigo uma modificação nos critérios artísticos, científicos e filosóficos. Da mesma forma que os trabalhos manuais provocam alterações no corpo do trabalhador que os executa e os métodos burocráticos alteram a forma de pensar e de trabalhar dos trabalhadores de escritório, gerando até doenças específicas de cada trabalho, as ferramentas de IA já estão a provocar mudanças aceleradas na sociedade humana. Possivelmente o auge das doenças mentais na nossa sociedade do século XXI dever-se-á à interação contínua com máquinas que funcionam com algoritmos, e que nos levam a pensar também algoritmicamente quase sem nos darmos conta.

Imaginemos que substituem os seres humanos, dada a sua maior eficiência em muitas das tarefas repetitivas que costumamos realizar; Isso terá um grande impacto na altura de dizer o que somos, pois tradicionalmente o trabalho é o que nos define diante dos outros. Ninguém se apresenta como sonhador, fã de xadrez ou filósofo por vocação. Normalmente apresentamo-nos como eletricista, jornalista, informático ou químico.

A repercussão social do lazer generalizado pode ser imenso, e isto no melhor dos casos, assumindo que sejam implementados sistemas de rendimento básico universais, como propõe o bilionário proprietário da Tesla e do Twitter, Elon Musk. A libertação da maldição bíblica do trabalho implica a perda daquilo que nos definiu socialmente.

 Outro factor a ter em conta é a diminuição das capacidades humanas que a utilização destas tecnologias traz consigo. O uso da memória já diminuiu porque um mecanismo de busca na Internet nos fornece a informação que desejamos com o toque do polegar na tela do smartphone. A associação de ideias é cada vez menor porque é mais fácil procurar informações online do que é deduzi-las através da leitura de um texto. Aprender através de vídeos e imagens provoca uma redução na aprendizagem de palavras e, portanto, no pensamento criativo. Vemos como a tecnologia nos transforma lentamente… e nos enfraquece.

8. Problemas sociais, éticos e morais do uso de ferramentas de IA

Recentemente, um químico da Universidade de Córdoba foi suspenso do emprego e do salário por publicar os seus trabalhos noutros meios de comunicação universitários, enquanto tinha contrato a tempo inteiro com o referido centro académico. Este cientista está entre os mais citados no mundo universitário, já que o sistema científico funciona actualmente seguindo o paradigma “publicar ou morrer”.

Este nosso pesquisador publicou mais de setecentos artigos em toda a sua vida profissional, só em 2023 publicou 58, aproximadamente um a cada dia e meio. É sabido que nem tudo o que é publicado em revistas académicas pode ser verificado experimentalmente por outra equipa de cientistas, o que provoca um aumento na duração das pesquisas, visto que nem sempre os resultados podem ser corroborados.

A questão é que o referido cientista vinha a utilizar a ferramenta ChatGPT desde dezembro passado, segundo ele para aperfeiçoar os seus textos em inglês, mas a dúvida mantém-se, pois é comum os cientistas comprarem autorias em outras publicações para engordar o seu currículo. Além disso, a ferramenta de IA é especialista em compilar e pesquisar dados para os apresentar como se tivessem sido criados por uma pessoa.

Podem surgir outros problemas associados à utilização de tecnologias de IA, como a geração de vídeos de notícias falsas onde uma figura pública é apresentada a fazer declarações e gestos que nunca fez, ou a reelaboração de notícias através de filtros feitos especialmente para os utilizadores conforme os seus perfis nas redes sociais; essa reformulação das fake news foi o que fez Donald Trump vencer a disputa pela Casa Branca nas eleições de 2016.

9. Conclusão

Neste breve trabalho tentámos levantar o problema da Inteligência Artificial desde a sua raiz, abordando-o primeiro do ponto de vista filosófico e matemático, e depois transferindo-o para o ponto de vista ético e social. Quer queiramos quer não, as ferramentas da IA ​​já existem e precisamos de aprender a utilizá-las antes que elas assumam o controlo.

 A escritora Irene Vallejo, no seu artigo La revuelta de las cosas⁴, interroga-se acerca da relação que temos com os objetos que criamos, fazendo eco das pinturas da cultura mochica, no litoral norte do Peru, onde os artistas desenharam objectos de uso quotidiano com mãos e pernas como se tivessem ganhado vida. Em algumas representações esses objetos estão em atitude de serviço às pessoas, mas em outros desenhos são eles que assumiram o controlo, lutando contra os seres humanos e escravizando-os. Nas palavras da escritora, “os Mochicas anteciparam as nossas preocupações contemporâneas ao expressarem um terror profundamente enraizado diante do poder que certos artefactos adquirem quando escapam de nossas mãos”.

Portanto, a questão que encabeça este artigo permanece de pé; Inteligência Artificial, aliada ou inimiga? Espero que o paciente leitor, se chegou até aqui, encontre a resposta no uso que cada um de nós lhe dá. Fizemos muitos progressos do ponto de vista científico e tecnológico, mas esses progressos não foram acompanhados a nível filosófico e moral. Precisamos de uma nova filosofia que nos reconecte com a nossa essência espiritual, porque somos mais que um algoritmo. É com essa esperança que termino estas linhas.

---

Notas

1. Real Academia Española – entrada disponível em https://dle.rae.es/pensar ↩︎
2. Transcrição disponível em https://www.dcc.fc.up.pt/~acm/turing-phd.pdf ↩︎
3. Transcrição do artigo original em inglês disponível em http://lia.deis.unibo.it/corsi/2005-2006/SID-LS-CE/downloads/turing-article.pdf ↩︎
4. Artigo disponível em https://cesarmiguelrondon.com/opinion/desde-el-exterior/la-revuelta-de-las-cosas-irene-vallejo/ ↩︎

Bibliografia utilizada

– La computación Turing: pensando en máquinas que piensan, por Rafael Lahoz Beltra, Ed. National Geographic
– Del ábaco a la revolución digital; algoritmos y computación, por Vicenç Torra, Ed. RBA
– El sueño de la razón; la lógica matemática y sus paradojas, por Javier Fresan, Ed. RBA

Artigos de imprensa consultados

– Una medicina no se puede vender sin probar. Con la IA debería pasar lo mismo, por Rodrigo Alonso, ABC 03-04-2023
– Bélgica registra un primer caso de suicidio inducido por un chat de inteligencia artificial, por Enrique Serbeto, ABC 03-04-2023
– Ni es artificial ni es inteligente, por Eugeny Morozov, EL PAIS 02-04-2023

– La “ética” artificial es una impostura, por Eric Sadis, EL PAIS 26-02-2023

– Imaginemos una vida sin trabajar, por Sergio C. Fanjul, EL PAIS 19-02-2023

– El día que los robots provocaron un cataclismo bursátil, por Agustín Fernández Mallo, EL PAIS 01-02-2023

– Los trabajadores fantasma de la inteligencia artificial, por Manuel G. Pascual, EL PAIS 08-01-2023

– Noticias del futuro, por Rosa Montero, EL PAIS SEMANAL 18-02-2023- La inteligencia artificial se lanza a reorganizar el mundo, por Andrea Ricci/Kiko Llaneras, EL PAIS 29-01-2023

Imagem de capa

Design MpF

Foto de Michael Dziedzic na Unsplash

Imagens no artigo

Foto de Andy Kelly na Unsplash

Foto de Kenny Eliason na Unsplash

Foto de Onur Binay na Unsplash

Foto de Quino Al na Unsplash

Foto de Aideal Hwa na Unsplash