Professor Universitário, Doutorado em Gestão | andre.magrinho54@gmail.com
A Inteligência Artificial (IA) entrou definitivamente nas nossas vidas: escreve textos, cria imagens, traduz, programa, analisa dados e apoia decisões. E, cada vez mais, as máquinas, por via do algoritmo, comunicam entre si e tomam decisões, sem intervenção humana direta, em níveis tendencialmente mais elevados. Isto levanta uma questão inevitável: os perigos da IA são reais ou estamos perante uma nova forma de ficção científica? A resposta exige distinguir entre riscos que já existem, riscos que estão a emergir e cenários extremos ainda incertos. Na IA generativa, popularizada pelo ChatGPT e sistemas semelhantes, vários riscos são já bem reais. Os modelos podem produzir informação falsa com enorme aparência de credibilidade, as chamadas “alucinações”. Podem facilitar deepfakes, desinformação, fraude, manipulação através das redes sociais ou de ameaças informáticas. Acrescem problemas de privacidade, propriedade intelectual, enviesamentos e uma questão particularmente importante: a crescente tendência para confiarmos nas respostas da máquina sem as verificarmos.
Existe igualmente o impacto económico e social. A grande transformação do emprego talvez não resulte do desaparecimento imediato de profissões inteiras, mas da automatização de uma parcela crescente das tarefas realizadas por trabalhadores qualificados. Médicos, professores, engenheiros, advogados, gestores ou jornalistas poderão continuar a existir, mas trabalharão provavelmente de forma bastante diferente. Contudo, uma nova etapa está a tornar o debate mais complexo: a denominada IA agêntica. Enquanto um chatbot responde a perguntas, um agente pode receber objetivos e executar sucessivamente tarefas, recorrendo a diferentes ferramentas e sistemas. O problema passa a ser, o que acontece quando a IA erra e pode agir? Quanto maiores forem a autonomia da máquina, as permissões que lhe concedermos e a velocidade a que executar as suas ações, maior será a necessidade de supervisão humana. É precisamente neste ponto que surgiu uma interessante polémica nos Estados Unidos.
Em setembro de 2026, OpenAI, Anthropic e Google, apesar de serem ferozes concorrentes, propuseram-se discutir formas de cooperação relativamente à segurança da IA. Amodei, da Anthropic, defendeu uma moderação do ritmo de desenvolvimento dos modelos mais avançados, ideia que recebeu sinais de apoio de Altman, da OpenAI, e Hassabis, da Google DeepMind. Mas surge imediatamente outro dilema: até onde podem os gigantes tecnológicos cooperar em nome da segurança sem limitarem a concorrência? O debate chegou mesmo às possíveis implicações antitrust dessa coordenação. Acresce ainda a dimensão geopolítica. Nos EUA, os defensores de uma rápida aceleração argumentam que abrandar excessivamente poderá proporcionar uma vantagem à China. A Administração Trump tem-se mostrado crítica relativamente à ideia de atrasar o avanço tecnológico americano por razões de segurança. Forma-se assim um círculo vicioso: as empresas aceleram porque receiam os concorrentes; os Estados aceleram porque receiam outros Estados; e todos reconhecem simultaneamente que uma tecnologia cada vez mais poderosa exige maior controlo e segurança. Quanto aos cenários extremos de uma superinteligência que escape ao controlo humano, importa evitar tanto o alarmismo como a complacência.
Não existe fundamento para afirmar que uma catástrofe é inevitável. Mas também já não parece prudente considerar todos esses riscos simples ficção científica, sobretudo quando os próprios responsáveis pelas empresas essas empresas discutem mecanismos adicionais de avaliação e supervisão. Porventura, o maior perigo não será uma máquina que subitamente se torne consciente e decida combater a humanidade, como tantas vezes imaginou o cinema. O risco mais plausível é sermos nós próprios a entregar progressivamente maior autonomia e poder de decisão a máquinas cada vez mais capazes, enquanto empresas e Estados competem para chegar primeiro. O grande desafio não será o Homem contra Máquina, mas sim conseguir que a nossa capacidade de governar a IA evolua tão rapidamente como a nossa capacidade para a criar.
