Na edição deste ano do ZOOM SMART CITIES, um dos mais importantes eventos do setor em Portugal, que teve lugar a 22 de Junho, tivemos a oportunidade de ouvir Arlindo Oliveira, presidente do Instituto Superior Técnico, falar sobre o futuro da humanidade, os desafios e dúvidas que estão a ser colocados em permanência pela crescente euforia em torno da Inteligência Artificial (AI, na sigla em inglês). O prestigiado académico explica, de forma absolutamente extraordinária e coerente, como estamos já a viver no futuro.
Não deve ser a “euforia” e o deslumbramento sobre novos avanços tecnológicos que nos devem ocupar o tempo nem o pensamento. A parte mais complexa e preocupante é que, enquanto nos deslumbramos com discussões fantasiosas sobre o que é ou não é inteligente, artificial ou humano, os algoritmos continuam a correr. As máquinas continuam a multiplicar, imparáveis, a sua propensa capacidade para autoaprendizagem e sistemas otimizados para embater contra a nossa humanidade e provocar choques entre os próprios humanos.
Já sabemos, há muito, que a capacidade de processamento dos computadores está a aumentar vertiginosamente e, em muitos casos, já suplanta assustadoramente a capacidade humana de resolver problemas complexos (falta saber ainda se suplantará a capacidade inata de os criar). As máquinas, que conseguem estudar regras e diretrizes, tornam-se verdadeiros deuses no Olimpo da cloud. Impossíveis de alcançar e de ultrapassar. A tecnologia atual permite que as mesmas possam executar infinitas simulações e projeções, aprender com os erros e contorná-los no instante seguinte, numa fração de segundo. À primeira vista, e se estivermos a falar de um simples jogo de xadrez ou do cubo de Rubik, parece inocente e inofensivo. Afinal de contas, já sabemos que somos limitados naturalmente e assumimos que as máquinas são infinitamente melhores no processamento de informação e dados, contudo, o jogo mais importante, no qual as máquinas já se posicionam, tem a ver com as nossas próprias vidas.
O maior avanço tecnológico da história moderna foi a invenção da imprensa no século XV, que permitiu a busca de conhecimento empírico para suplantar a doutrina litúrgica que dominava até então. A Era da Razão para gradualmente substituir a Era da Religião. Momento decisivo para o desenvolvimento individual e conhecimento científico como substituto da fé, enquanto razão primordial na formação da consciência humana. A informação passou a ser guardada e organizada em arquivos e livrarias. A Era da Razão originou o pensamento e ação que moldaram o atual mundo em que vivemos.
Ainda estamos na era em que a Inteligência humana domina e é agora que a humanidade deve promover o combate que o Iluminismo inspirou: a promoção de pensamento filosófico através da tecnologia.
Esta ordem está agora, também ela, num processo de substituição gradual por uma nova, ainda mais assente numa revolução tecnológica cujas consequências ainda ninguém conseguiu identificar e avaliar de forma clara e que, em última instância, poderá colocar o mundo dependente de máquinas alimentadas por dados e algoritmos desgovernados sem princípios éticos, morais ou filosóficos. A Era da Internet, na qual já vivemos, configura algumas das questões que a AI vai tornar ainda mais prementes. O Iluminismo procurou submeter as verdades tradicionais a uma razão humana analítica e livre. A utilização da Internet serve agora para confirmar conhecimentos através da acumulação e manipulação de dados em expansão contínua. O ‘conhecimento’ humano perde o seu caráter pessoal. Indivíduos transformam-se em dados, e os dados passam a reinar.
Os utilizadores da Internet raramente se interrogam sobre história ou filosofia. Na maior parte das vezes, exigem informação relevante para as suas necessidades imediatas. No processo, os algoritmos dos motores de busca adquirem a capacidade de prever as preferências individuais, permitindo que outros algoritmos personalizem informação que será, posteriormente, utilizada para fins políticos e comerciais. As redes sociais, por exemplo, tornam-se palco de disputas e conflitos, provocam a ira e a frustração. A velocidade da informação e o imediatismo inibem a reflexão. Promovem o radical, em vez da inteligência. Valorizam o consenso por subgrupos e não pela introspeção.
Na crónica anterior, referi a possibilidade de surgirem no futuro os “Quantum Mayors” ou, em resumo, a extinção, por incompetência clara dos protagonistas, de uma função que muitos estão a querer que seja desempenhada precisamente recorrendo aos dados e a AI para otimizar e tornar processos mais eficientes, neste caso, nas cidades. Aquilo a que chamamos “ferramenta de apoio” à humanidade pode ser uma ameaça. De um lado, o humano, que “embrutece” e regressa à escuridão como consequência da ação direta, do outro lado, a máquina, que, num processo desenfreado de autoaprendizagem alimentado por algoritmos e informação oriunda das redes sociais e outras plataformas, consegue promover a extinção da consciência individual, com consequências que estamos já a observar diariamente na política, nos negócios, nas causas fraturantes, nas amizades e até nos relacionamentos.
Estas pressões enfraquecem os pilares para o desenvolvimento e construção de convicções que apenas surgem a caminhar uma estrada solitária, o que está na essência da criatividade. Este é o momento ideal para lançar um “Juramento de Hipócrates” para as áreas tecnológicas. Definir regras de conduta, tornar impossível o crescimento de algoritmos alegadamente ‘neutros’ e desprovidos de ‘emoções’ e ‘valores’.
Ainda estamos na era em que a Inteligência humana domina e é agora — numa altura em que há uma corrida global ao controlo da AI e que existe uma urgência em garantir acesso a dados, seja pela justificação de segurança (reconhecimento facial), seja pela partilha de informações pessoais para obter benefícios diversos (social score) — que a humanidade deve promover o combate que o Iluminismo inspirou: a promoção de pensamento filosófico através da tecnologia. Porque estamos também numa era em que se caminha na direção oposta: geramos uma tecnologia potencialmente dominante na procura de uma filosofia orientadora. Ainda podemos vencer a corrida. Mas, em breve, já não será possível.
As opiniões expressas são da responsabilidade dos autores e não reflectem necessariamente as ideias da revista Smart Cities.
