«Mais de 350 especialistas e personalidades de topo acabam de publicar uma declaração alarmante sobre os perigos que podem resultar da expansão desregulada da Inteligência Artificial (IA). A lista de signatários é impressionante. Reúne os nomes mais conhecidos e mais influentes na matéria. Quase todos vivem nos Estados Unidos ou no Canadá, aos quais se juntam alguns académicos europeus e três chineses. As empresas representadas estão essencialmente baseadas na Califórnia. O depoimento é surpreendentemente breve. É um grito de alerta de uma só frase.
Aí se diz, na minha versão em português: "Mitigar o risco de extinção que pode advir da IA deverá ser uma prioridade global, e o mesmo se aplica a outros riscos de grande escala, tipo pandemias e guerra nuclear." Ao escrever extinção, referem-se à espécie humana. É uma afirmação muito séria, numa área tecnológica de ponta, de transformação social e de criação de riqueza, incluindo, como as últimas semanas o mostraram, de fortunas baseadas na valorização em bolsa de empresas de IA. É simultaneamente um aviso categórico, sem mais explicações. Porém, não pode ser ignorado. Provém de muitas das melhores cabeças na matéria.
Pode-se perguntar o que está por detrás dessa declaração. Mais, ainda. Recordo que em finais de março, Elon Musk e muitos outros assinaram um apelo a uma pausa de seis meses na expansão da IA. A petição, vinda de personalidades que têm sido pioneiras no desenvolvimento e na aplicação da IA, deixou muitos analistas perplexos. Tal como agora. Na essência, a moratória que sugeriam só seria levantada quando as autoridades - norte-americanas, na mente da maioria dos subscritores - tivessem adotado sistemas de controlo da IA, capazes de distinguir o real do falso, e posto em funcionamento as instituições de supervisão, suscetíveis de definir as regras e evitar a manipulação da opinião pública, nomeadamente nos domínios económicos e políticos. A referência à política encaixa nos que veem nas novas tecnologias instrumentos que podem ser utilizados para destruir a democracia por parte de ditadores de todas as cores, e de segmentos radicais, populistas e oportunistas.
Eles sabem do que falam. Mas hesitam em aprofundar algumas verdades que são de facto aterradoras. Não me refiro apenas à automatização dos postos de trabalho, que desta vez irá sobretudo afetar os "colarinhos brancos". A estrutura laboral será bastante diferente da atual, embora o ensino continue a formar futuros frustrados. Também não menciono os preconceitos, os enviesamentos e a filosofia de vida que estão por detrás das respostas dadas por máquinas criadas por elites com valores muito próprios.
Uma dessas verdades diz respeito à concorrência desenfreada entre as empresas de computação mais determinantes, que procuram vencer a corrida através do desenvolvimento e a comercialização de sistemas numéricos cada vez mais avançados e autónomos, com capacidades de aprendizagem automática. Pode ser uma corrida para o desastre.
Um outro alerta apontaria para as indústrias da guerra. Os signatários sabem que certas forças armadas estão a transformar a IA no instrumento fundamental das guerras de amanhã. Podemos chegar a um ponto em que não haverá tempo para uma decisão humana: a máquina decidirá por si só disparar, e disparará.
E temos pela frente a problemática da competição geopolítica entre os EUA e a China, as superpotências que de facto contam. Se houver guerra, que muitos temem que possa acontecer na segunda metade desta década, vencerá quem estiver mais avançado na utilização da IA. Neste momento, a vantagem parece estar do lado americano. E mais ainda: sempre que outros países desenvolvem algo de novo, como é o caso da Índia, que está a investir a sério na formação de especialistas e na criação de start-ups, o sistema de atração e as forças do mercado levam grandemente à transferência desses conhecimentos e empresas para a Califórnia.
Não se sabe em que ponto se encontra a China. Mas devemos estar cientes que os avanços da IA no domínio militar poderão provocar, em caso de conflito, uma situação fora do controlo humano. E com isto voltamos ao ponto de partida: se não houver cooperação nesta matéria, estaremos de facto numa via que pode levar a um desastre em larga escala. Por isso, o G7 acaba de criar um grupo de trabalho sobre a IA. A UE e os EUA também procuram criar uma referência comum. Mas tratando-se de um risco global, a sua gestão deveria caber a uma instituição multilateral, no quadro da ONU. Como o apelo deixa entender.»
.
0 comments:
Enviar um comentário