Riscos e benefícios dos algoritmos

O ChatGPT e outros grandes modelos de linguagem podem ser as aplicações mais populares da inteligência artificial, mas estão longe de ser as mais relevantes. Há diversos sistemas que condicionam já hoje a nossa relação com o mundo, e na maior parte dos casos interagimos com algoritmos sem sequer ter noção disso mesmo. Por isso, vale a pena fazer uma viagem rápida pelas oportunidades, e pelos perigos, que esta tecnologia permite.

Comecemos pelas oportunidades. A resolução de problemas complexos é um dos aspetos em que mais especialistas colocam as expectativas. De facto, aplicações de inteligência artificial podem ajudar-nos a processar rapidamente grandes quantidades de dados e a identificar padrões que não conseguiríamos ver por nós próprios.

Em simultâneo, esta tecnologia pode também simular diferentes hipóteses de forma rápida, apresentando as melhores opções. Poderá ser assim que se encontrarão modelos para antecipar padrões climáticos ao nível planetário, bem como explicações para o que se passa dentro de um buraco negro e para fenómenos relacionados com a anti-matéria.

Estes são alguns exemplos para os quais os humanos necessitam de ajuda de máquinas avançadas, mas a verdade é que os primeiros benefícios da inteligência artificial deverão fazer-se sentir de forma mais tangível.

Uma área que seguramente vai beneficiar da imensa capacidade de processamento de dados é a medicina: ao encontrar padrões complexos em milhões de exames, a IA irá facilitar a cura de algumas doenças e permitir o advento da medicina personalizada, em que a medicação e os tratamentos serão de facto individualizados de acordo com os padrões de cada pessoa.

Da mesma forma, também se espera que no ensino existam grandes progressos. Tendo em conta que cada indivíduo tem uma forma específica de aprender, um assistente personalizado poderá trazer muitas vantagens no desenvolvimento de técnicas específicas, dando origem a tutores virtuais que tornarão o estudo mais fácil.

Uma última área que se revela promissora: a gestão de desastres. A grande capacidade de ingestão e processamento de dados permitirá a criação de algoritmos devidamente treinados para responder rapidamente a situações de emergência, colocando os recursos disponíveis nos locais onde eles serão mais necessários.

Passemos aos perigos. As experiências recentes têm demonstrado que a aplicação desregulada desta tecnologia tem levado a vários problemas, visto que as suas imensas capacidades nem sempre são utilizadas de forma correta.

Para perceber os riscos é essencial entender as características da tecnologia, e há aqui três aspetos que se destacam. O primeiro tem a ver com a qualidade dos dados que são fornecidos aos algoritmos para que estes encontrem soluções; se os dados forem incorretos ou espelharem uma realidade injusta, os resultados irão reproduzir essa mesma realidade, repetindo os problemas originais.

Outro ponto muito importante tem a ver com aquele que é conhecido como "o problema do alinhamento": um sistema algorítmico vai cumprir um objetivo pedido sem ter em conta as consequências das suas opções, porque não tem enraizados os valores humanos de ética e moral que consideramos essenciais.

Um exemplo típico equacionado por cientistas é aquele em que se pede a um sistema avançado de IA que resolva o problema do aquecimento global, em que o sistema rapidamente conclui que a melhor forma de o fazer será através da eliminação dos seres humanos, visto que são estes que mais impactam negativamente o ambiente. Este cenário de ficção científica serve para mostrar que é essencial que os objetivos pedidos estejam alinhados com os valores humanos, pelo que não se pode permitir a autonomia destes sistemas.

Por fim, outro perigo é que muitas das tecnologias algorítmicas que estamos a usar sofrem de um efeito conhecido como "caixa opaca". Isto significa que ninguém, nem os cientistas que as estudam nem os técnicos que as programam, conseguem explicar como a máquina atinge determinadas conclusões. Ora, sem transparência, é difícil assumir que estas tecnologias podem ser deixadas à solta para servir os humanos - é preciso que se perceba bem o que se passa para que possamos aplicar as soluções com confiança.

As consequências imediatas da aplicação sem barreiras destas tecnologias têm sido perturbadoras: muitos algoritmos têm replicado e até aumentado as desigualdades, como é o caso de decisões judiciais e de gestão de apoios sociais, que na maior parte dos casos acabam a prejudicar as minorias que a sociedade deveria proteger.

Voltamos, portanto, ao início: há muitos perigos e oportunidades no desenvolvimento da inteligência artificial. O que é essencial, como em qualquer outra tecnologia transformadora, é garantir que há uma regulação que aumenta os benefícios e reduz os riscos. Não é fácil, e a discussão sobre o tema será dinâmica e periodicamente revisitada.