“Uma abundância de meios e uma confusão de fins”. A fórmula atribuída a Albert Einstein é um retrato instantâneo de um mundo interpelado pelas novas tecnologias e por elas moldado. Os interesses em jogo são múltiplos, não “neutros”, e é nesse contexto que a Santa Sé, sem fins militares ou comerciais, pode desempenhar um papel fundamental na promoção de uma governança global que desenvolva sistemas “éticos desde a sua concepção”. Essas foram algumas das ideias que surgiram no seminário “Potencialidades e desafios da Inteligência Artificial”, organizado pela Secretaria para a Economia e pelo Escritório do Trabalho da Sé Apostólica (ULSA), realizado nesta manhã de segunda-feira, 2, no Salão São Pio X, na Via della Conciliazione, 5, em Roma. Os trabalhos foram abertos pelo professor Pasquale Passalacqua, diretor da ULSA, que destacou como o próprio Papa Leão XIV, informado diretamente sobre a iniciativa pelo presidente, dom Marco Sprizzi, a “apreciou e encorajou”, desejando uma “consciência mais profunda neste campo tão atual e complexo”. As intervenções foram moderadas por Alessandro Gisotti, vice-diretor editorial do Dicastério para a Comunicação. Os palestrantes foram monsenhor Paul Tighe, secretário do Dicastério para a Cultura e a Educação; padre Paolo Benanti, professor da Pontifícia Universidade Gregoriana e da Universidade LUISS Guido Carli; e o professor Corrado Giustozzi, professor do curso de mestrado em Engenharia de Sistemas Inteligentes da Universidade Campus Bio-Medico.
Volatilidade, incerteza, complexidade, ambiguidade
Para resumir as consequências da difusão, em 2022, do ChatGPT, um dos chatbots mais populares desenvolvidos pela empresa norte-americana OpenAI, monsenhor Tighe utilizou a sigla VUCA: Volatility (Volatilidade), Uncertainty (Incerteza), Complexity (Complexidade) e Ambiguity (Ambigüidade). Os riscos, “sem ceder à retórica apocalíptica”, são, no entanto, concretos: “armas biológicas, propaganda, desinformação, sistemas que escapam ao controle humano”. Representatividade, transparência e compreensibilidade são palavras-chave para combater o “paradigma tecnocrático” já identificado pelo Papa Francisco, que corre o risco de amplificar injustiças, desigualdades, polarização e ameaças ambientais, em vez de saná-las. O desenvolvimento da IA não ocorre, portanto, em espaços neutros, reiterou o bispo irlandês. Na ausência de regulamentações internacionais, “as grandes potências buscam a superioridade tecnológica, especialmente no âmbito militar”, enquanto “a consciência de uma possível bolha financeira incentiva a assunção de riscos em detrimento da segurança”. Nesse sentido, monsenhor Tighe citou notícias recentes e o caso da Anthropic, empresa norte-americana criada com o objetivo de desenvolver uma IA mais ética e alvo de “pressões governamentais para flexibilizar seus compromissos éticos sobre usos militares e de vigilância”.
Os riscos sociais das novas tecnologias
Além disso, os modelos de Inteligência Artificial são projetados para agradar o usuário, muitas vezes pelas mesmas empresas que controlam as redes sociais, a ponto de “adular” o usuário e gerar “alucinações”, fornecendo “respostas esperadas mais do que precisas”. Também foi destacado o risco de delegar à IA tarefas cognitivas propriamente humanas, especialmente por parte daqueles que não são capazes de avaliar criticamente os resultados e fazer as perguntas adequadas. Isso não afeta apenas os âmbitos profissional e acadêmico, mas também os pessoais, relacionais e espirituais, incorporando a observação do psicólogo Abraham Maslow: “Para quem tem um martelo, tudo parece um prego”.
A Igreja orienta o desenvolvimento da IA
Diante de tais complexidades, o bispo citou o documento Antiqua et Nova, indicando na “sabedoria do coração, capaz de integrar o todo e as partes”, aquilo de que a humanidade mais precisa hoje: uma inteligência que, diante do poder das ferramentas disponíveis, questione seu serviço, seus fins e suas consequências. Nesse contexto, compreende-se “a atenção suscitada pelo compromisso do Papa Leão XIV em colocar a reflexão sobre a inteligência artificial entre as prioridades de seu pontificado”. Por sua vez, a Igreja possui uma “autoridade moral” e a capacidade de reunir interlocutores qualificados, tornando-se um parceiro significativo na orientação do desenvolvimento da IA.
O conhecimento, um dom e não um dado adquirido
Monsenhor Tighe explicou, ponto por ponto, como esses princípios podem se traduzir em ações concretas por parte da Igreja. No que diz respeito à competitividade, promovendo a cooperação e a governança global das novas tecnologias.
No contexto da polarização, reafirmando a cultura do encontro e do diálogo. Em relação às desigualdades, lembrando que “um pacto social realista” deve também unir as diferentes culturas e visões do mundo. Finalmente, no que diz respeito à “delegação cognitiva”, reafirmando a visão católica da educação e reforçando a rede das universidades católicas.
Os desafios éticos da IA
A palestra do padre Benanti centrou-se nos desafios éticos da inteligência artificial, propondo uma visão que questiona a “política” desses modelos. “Todo artefato tecnológico, quando impacta um contexto social, funciona como disposição de poder e forma de ordem”, afirmou o franciscano, ressaltando a urgência de uma questão que ressoa em “diferentes fóruns”: da Santa Sé às Nações Unidas – o padre Benanti é o único italiano membro do Comitê da ONU sobre IA –, onde as citadas “disposições de poder” são cada vez mais influenciadas por “acordos comerciais”.
Os diferentes objetivos da tecnologia
Isso também se reflete no contexto da informação: a visibilidade de um artigo não depende necessariamente de sua qualidade, mas agora depende mais da posição que o algoritmo lhe concede nas páginas da web. Uma “mediação de poder”, afirmou o professor.
A inovação pode ser ditada por um “propósito específico”, quando surge em resposta a uma necessidade, embora “nunca neutra”. Mas também existem famílias de tecnologias que “por si só não mudam nada, mas modificam a maneira de fazer as coisas”. As chamadas “tecnologias de propósito geral”, como a eletricidade e a própria IA. “É por isso que este é um tema tão importante: porque, através da IA, mudamos a natureza dos objetos que criam a realidade”. Uma chamada “sociedade definida por software”, uma sociedade definida pelo software que utiliza, que afeta a natureza e os processos decisórios de qualquer organização, incluindo a Santa Sé.
Eliminar o “atrito”, ceder poder
A vantagem do uso da IA, afirmou o padre Benanti, está em eliminar o “atrito”. Uma metáfora que encontra várias aplicações concretas. Por exemplo, um aplicativo de encontros elimina o atrito, o “esforço” de procurar o amor da sua vida. “Mas, ao fazer isso, você cede parte do seu poder” e as informações passadas tornam-se assim um “instrumento de controle”. Nesse sentido, ao concluir sua intervenção, o vice-diretor editorial do Dicastério para a Comunicação lembrou a mensagem do Papa Leão XIV para o 60º Dia Mundial das Comunicações Sociais e uma esperada “alfabetização à mídia, à informação e à IA”.
O que é um algoritmo
A intervenção do professor Giustozzi concentrou-se na natureza da IA e nos seus limites técnicos, apresentando um dos seus componentes essenciais: o algoritmo e as principais criticidades dos processos decisórios baseados em algoritmos. Entre elas, o problema do viés: os algoritmos podem implementar mecanicamente “estratégias de escolha que estão na mente de seu criador”, incorporando, às vezes, preconceitos, de boa-fé ou deliberados, que distorcem os resultados ou os tornam injustos. Além disso, um algoritmo pode ser ineficaz se o problema for formulado de maneira incorreta; pode produzir resultados distorcidos se baseado em suposições imprecisas ou em aproximações excessivamente simplificadas.
A importância do treinamento da IA
Aprofundando ainda mais a questão, o professor Giustozzi explicou a importância decisiva do treinamento, ou seja, a fase de aprendizagem, no desenvolvimento do algoritmo: se os dados estiverem incompletos ou distorcidos, os resultados serão inevitavelmente errados ou discriminatórios.
Uma natureza complexa e intricada, a ponto de, para enquadrá-la, o professor ter adaptado um famoso aforismo de Santo Agostinho sobre o tempo: “Se ninguém me perguntar, eu sei bem; mas se eu quisesse dar uma explicação a quem me perguntasse, eu não saberia”. Por fim, o professor chamou a atenção para os riscos associados ao uso da IA, enfatizando que ela deve ser sempre considerada um “suporte” à atividade humana e que seus resultados devem ser objeto de uma revisão crítica constante. Referindo-se ao conceito de treinamento e coleta de dados, Gisotti observou que o impacto da IA também afeta o meio ambiente e a casa comum: em Virgínia, nos Estados Unidos, mais de 30% da energia é utilizada pelos chamados datacenters, centros que armazenam as informações nas quais se baseará o treinamento das novas tecnologias. Na Irlanda, o dado continua sendo igualmente significativo: 20% são utilizados pelo Google. Em resumo, uma realidade bastante “energivora”. Na parte final do seminário, os participantes fizeram perguntas de aprofundamento aos palestrantes.
Fonte: Canção Nova
