Tecnologia e inovação pública

Hoje é cada vez mais importante estimular o debate em sociedade sobre o futuro que queremos vir a ter. No quadro da digitalização, isso implicará escolhas e equilíbrios, nem sempre de decisão fácil ou óbvia.

Considerando o meu percurso profissional, não é difícil perceber que irei seguir uma abordagem de direitos humanos (‘human rights based approach’), que coloca a pessoa ao centro e assume como obrigação fundamental a garantia do respeito, proteção e cumprimento destes mesmos direitos – nomeadamente no desenvolvimento das tecnologias.

O revelar da perspetiva é importante, permite perceber a raiz da identificação de certas realidades, assim como aquele que é o nosso posicionamento em relação às mesmas.

O meu primeiro contacto com o tema do digital, ocorreu na sequência da leitura de um artigo, datado de 2011, cujo título era “Why software is eating the world”, da autoria de Marc Andreessen. Resumidamente, o autor, um empreendedor de Sillicon Valley, descrevia como as empresas emergentes de software estavam a destruir o tecido empresarial tradicional, que obrigava à adoção urgente de novos modelos de negócio, apostados exatamente na transição digital.

Relembro este episódio, não tanto por aquilo que foi escrito, mas pelo que não foi. O autor – e já agora o mundo – guiado por uma lógica económica, de produtividade e eficiência, não antecipou o impacto que esta mesma transformação digital também iria ter no mundo dos direitos humanos e dos próprios sistemas de governo dos países.

Como já aconteceu no passado com outras inovações, a transição digital trouxe, de facto, muitas mudanças, que eu considero maioritariamente positivas, mas também desafios, geradores de medos e preocupações.

Seja por ignorância, associada à novidade e agravada por estarmos numa área com forte pendor técnico, onde as pontes da linguagem são particularmente difíceis de construir. Seja por comodismo, historicamente comum a qualquer alteração ou tentativa de alteração do status quo. Mas também, e há que reconhecer, porque podemos estar perante ameaças ao núcleo essencial dos nossos direitos fundamentais, ou – a meu ver com maior expressão – ao equilíbrio democrático destes direitos, responsável por determinar e legitimar a definição das respetivas fronteiras. Ou seja, na verdade, o que cada um de nós, individualmente, está disposto a abdicar em prol da comunidade.

Olhando para o estado da arte, compreende-se a apreensão. Num curto período de tempo, em todo o mundo, a tecnologia digital, com pouca ou nenhuma regulação, transformou não apenas a forma como os direitos humanos são exercidos, como também violados. Da Primavera Árabe ao software Pegasus, os exemplos abundam, bem como as opiniões. Valerá a pena ler a minuta de relatório da Comissão de Inquérito do Parlamento Europeu sobre o uso do Pegasus e outros spywares de vigilância equivalentes, publicado em novembro de 2022.

Estruturalmente, várias dimensões deste “novo” mundo digital vieram mesmo desafiar o próprio conceito tradicional de governance, dando origem a muitas discussões em torno da relevância e/ou suficiência do atual enquadramento legal.

Para tal, basta pensar na natureza trasfronteiriça da internet, que coloca problemas de competência territorial, ou na chamada digitalização de tudo, que significa basicamente que tudo o que fazemos é potencialmente rastreável – justificando as palavras de Al Gore quando em tempos disse que vivemos numa economia de stalking, onde a surveillance é o novo modelo de negócio da internet. Não esquecendo a crescente privatização de diversas áreas de governo, com o deferimento (consciente ou inconsciente, ou seja, por ação ou omissão) a empresas privadas – através de políticas internas, algoritmos e termos de serviço – da gestão de múltiplas dimensões da nossa vida, que muitas vezes estão diretamente relacionadas com o gozo e exercício de certos direitos fundamentais.

É certo que também cabe às empresas a responsabilidade de garantir o respeito pelos direitos humanos. Contudo, na internet, são vários os modelos de negócio que aparentam colocar em causa este importante compromisso e dever.

Por exemplo, motores de pesquisa online ou plataformas de redes sociais com proteções de privacidade muito limitadas, exatamente para facilitar e apoiar certas práticas de publicidade. Veja-se o mais recente caso da empresa Meta, dona do Facebook, Instagram e Whatsapp, novamente multada pelo regulador irlandês por incumprimento do regulamento de proteção de dados.

Lembro também diferentes aplicações de sistemas automatizados de decisão, uns mais complexos do que outros, que na procura de eficiência adotam algoritmos, cuja atuação pode conduzir a resultados discriminatórios. Um bom exemplo destes riscos, quando falamos em utilizar inteligência artificial (IA) para setores como segurança social e justiça, foi o escândalo holandês relacionado com a utilização de IA para detetar fraude nos benefícios sociais (aplicação SYRI – System Risk Indicator), que acabou mesmo por levar à demissão do governo.

Ou, ainda, sítios de compras online que utilizam práticas de manipulação conhecidas como “dark patterns”, cujo objetivo é levar o consumidor a fazer escolhas que poderia de outra forma não fazer. O último relatório de 2022 da Rede de Cooperação no domínio da Defesa do Consumidor – CPC –, depois de analisar 399 websites de retalhistas, chega a conclusões preocupantes. Com o foco em três práticas, a saber, os temporizadores falsos, as falsas hierarquias no desenho do interface e informação escondida, quase 40 % dos websites verificados demonstraram recorrer a uma destas formas de manipulação do consumidor.

E tudo isto num ecossistema digital ainda com grandes falhas em matéria de acesso à tecnologia, literacia digital, regulação, consciencialização, participação e – não menos importante – confiança.

Colocando a pessoa ao centro – com especial relevância para o setor público –, não é difícil perceber a importância das avaliações de impacto de direitos humanos, previsto na Proposta da Comissão Europeia de Lei de Inteligência Artificial, ou do dever de diligência em matéria de direitos humanos (“human rights due diligence”), previsto na Proposta de Diretiva do Parlamento Europeu e do Conselho relativa ao dever de diligência das empresas em matéria de sustentabilidade.

Está em causa garantir a avaliação a todo o tempo – principalmente aquando do seu desenho, no caso da IA - das implicações reais e potenciais do uso destas novas tecnologias, numa perspetiva de identificação, prevenção, mitigação e reparação de riscos e danos.

Reconheço que a experiência adquirida na Provedoria de Justiça como Provedora Adjunta contribuiu em muito para uma maior sensibilidade e interesse relativamente ao impacto da digitalização nos direitos das pessoas, com destaque para os serviços públicos. A Provedoria de Justiça é, sem dúvida, um observatório privilegiado do Estado e da forma como Estado se materializa na vida dos cidadãos, que a ela recorrem, com maior ou menor consciência dos seus direitos, em busca de uma solução.

Desde, pelo menos, 2017 até 2022, o número de queixas relacionadas com a transição digital foi aumentando progressivamente. A meu ver, fruto de dois fatores: por um lado, o acelerar do ritmo da digitalização na área pública, por outro, a adoção ao nível interno de um olhar mais atento e sistematizador.

Uma nota de curiosidade: sendo esta uma matéria transversal, também aqui – seguindo um padrão histórico -, os direitos ditos de primeira geração (os direitos civis) dominam o discurso e a prática do tópico direitos humanos e tecnologia, priorizando matérias como a privacidade, igualdade e não discriminação, transparência e consentimento informado. Uma realidade que se reflete na retórica dominante e, logo, no próprio motivo ou tipo de queixas apresentadas.

Como seria de prever, quanto mais se avançou no chamado ‘Estado de bem-estar digital’, mais pertinente se tornou identificar e reconhecer – também nas queixas – como a tecnologia tem impacto nos direitos sociais, em particular no direito ao trabalho, na segurança social, na saúde ou educação. Um processo que não é de todo fácil, nem imediato, fugindo mesmo a uma lógica abstrata e macro dos números.

Um pequeno exemplo, que demonstra esta realidade. Em 2021, um estudo à população centrado na avaliação de diversos indicadores da saúde no período Covid-19, entre os quais o recurso à telemedicina, revelava, de forma não surpreendente, que uma esmagadora percentagem de inquiridos era favorável a estes novos meios de consulta. Os discursos que se seguiram foram naturalmente apologéticos quanto à necessidade de acelerar o investimento neste campo. Todavia, uma abordagem de direitos humanos obriga-nos a caracterizar as pessoas que responderam ‘não’, pois se estas forem quem eu penso que são, maioritariamente de mais idade e de zonas mais interiores, provavelmente utilizadoras mais intensivas do serviço nacional de saúde, a apresentação do resultado parece-me que deve obrigar o governo a alguma reflexão consequente quanto à estratégia digital a adotar no quadro da saúde.

É este o olhar que materializa o lema dos objetivos de desenvolvimento sustentável: não deixar ninguém para trás.

Um olhar fundamental, que naturalmente – há que reconhecer - não é isento de limitações, principalmente quando a questão se coloca ao nível da hierarquia de direitos e daquele que é, para mim, o maior desafio da digitalização, ou seja, o difícil equilíbrio entre benefícios e riscos, vantagens e desvantagens, que existirão sempre.   

Mais um exemplo. Com a pandemia Covid-19, todos fomos pioneiros do desconhecido, sendo que no campo do digital fomos mesmo promotores e cobaias de uma verdadeira revolução. Da Educação à Saúde, quase todos os domínios do Estado lançaram mão destes instrumentos para poder continuar a garantir o gozo e exercício de certos direitos num mundo fisicamente parado. Como que de repente, começaram a surgir novos problemas, que rotularei imprecisamente de erros de computador.

Refiro-me às dificuldades que ocorreram no cruzamento de informação e no processamento dos dados, alguns incorretos, não poucas vezes acompanhados de falta de formação e conhecimento dos funcionários, no quadro de uma estrutura muito rígida que não oferece flexibilidade, seja no preenchimento dos documentos e dos requerimentos, seja na atualização e correção de dados.

Sendo frequentemente alcançada uma solução, considerando o contexto em que muitos destes processos são apresentados (ex. candidaturas a apoios), qualquer demora deve ser motivo de preocupação. Mais, parece-me importante clarificar que não pode ocorrer nestes casos o que aparenta ser uma inversão do ónus da prova a favor do Estado e contra os titulares de direitos, que uma vez em desvantagem ainda têm de provar o erro do computador e frequentemente assumir o impulso da respetiva correção e reparação.

Um último exemplo, mais a título de comentário. Na pandemia, para além do défice de consciencialização que ainda existe nesta área, foi interessante observar como em emergência o discurso dos direitos – particularmente os menos conhecidos e materializáveis – tende a ceder perante necessidades de ordem prática. Refiro-me, por exemplo, ao chamado “efeito do clique”. Ou seja, quando para se ter acesso a certos benefícios, como por exemplo testes covid gratuitos, era obrigatório proceder a uma série de registos, clicando num conjunto sucessivo de termos de serviço, estando as pessoas a inconscientemente abdicar e dar acesso a certos dados pessoais.

Há, pois, um longo caminho a percorrer, ainda que, hoje, e na minha opinião, haja importantes sinais de progresso e melhoria, nomeadamente ao nível das políticas públicas e de regulação, nacionais, europeias e internacionais.

Na Europa, no âmbito da década digital, para além da relativamente recente Declaração sobre direitos e princípios digitais, entrou em vigor a lei dos mercados digitais e a lei dos serviços digitais, para um ambiente digital mais seguro, justo e transparente, estando igualmente em processo de adoção, como anteriormente referido, uma lei para a inteligência artificial.

Todavia, parece-me que continuamos a cometer os mesmos erros do passado, ou seja, estamos a construir um novo espaço público partindo maioritariamente de uma estratégia de cima para baixo, esquecendo que foi exatamente isso que historicamente conduziu à discriminação e à exclusão.

Se verdadeiramente pretendemos ser competitivos e continuar a construir um futuro mais inclusivo, igual e resiliente, precisamos de trabalhar mais a base. As pessoas não podem ser meros objetos da mudança, têm de ser também os seus sujeitos.

Quando no interior do nosso país um Presidente de Junta recebe receitas médicas dos seus fregueses porque estes não têm telemóvel, não temos naturalmente de parar – até porque não podemos -, mas temos de saber garantir que a estratégia do digital assume e adapta-se ao contexto da sua aplicação. Com velocidades diferentes, com alternativas, abraçando a modernidade sem deixar ninguém para trás.

É tempo de olharmos todos em conjunto para o futuro. Sem medo.