'IA E DEMOCRACIA'

 

Hoje, escutando e dialogando com o Prof. Arsénio Reis, Coordenador do Laboratório de Sistemas Inteligentes da UTAD e com a Direcção do Curso de Engenharia Informática na mesma instituição, na Escola Secundária de Murça, sobre o tema "Inteligência Artificial e Democracia"

- Partindo, nós, do diagnóstico de Adela Cortina ("Ética ou ideologia de la inteligência artificial?", Paidós, 2024) de que, mo século XXI, está a produzir-se um eclipse da razão, produzido pelo triunfo da razão instrumental e estratégica que colonizou todo o âmbito do espaço público e de que para comunicar é preciso cuidar com cuidado a palavra, porque esta tem de ser veraz;

- Uma das experiências relatadas pela filósofa e em cuja conclusão também nos revemos: em Washington, face aos resultados escolares deficitários, a reitora em centros educativos da primária e do Secundário criou uma ferramenta para avaliação dos professores chamada IMPACT. A ideia, na selecção e recrutamento de professores, era evitar vieses humanos, evitar subjectivismos, amiguismos...Mas com base neste mecanismo, uma professora muito apreciada por pais, alunos, diretor foi demitida - mais tarde, recuperada por uma escola privada que muito a quis. Ora, "acreditar que as tecnologias são neutrais é pura ideologia" (p.75). Ora, os sistemas inteligentes tem vieses. Os afectados têm direito a controlar o uso dos seus (nossos) dados e a conhecerem os algoritmos que os manejam. Os vieses dos algoritmos podem resultar dos vieses dos programadores;

- De acordo com o Regulamento Geral de Protecção de Dados da União Europeia (2018), os cidadãos europeus não devem ser sujeitos a decisões baseadas unicamente no processamento automático de dados, nem a práticas de contratação digital sem intervenção humana. (p.73);

- Com as ideias e crenças pós-humanistas, talvez um ponto refrescante e não já um a priori dado como óbvio seja este: os sistemas inteligentes são instrumentos para melhorar a vida humana e a da natureza e não fins em si mesmos. "No mundo pós-moderno nihilista, a hybris é considerada uma qualidade necessária ao progresso e recebe a recompensa devida aos audazes" (p.48); "Chega a ser o que és" (máxima de Píndaro e de Nietzsche); hoje, com a IA: "chega a ser o que não és!"; No limite, teremos pessoas inorgânicas? Pós-humano: aperfeiçoamento/superação de tantas (das) qualidades humanas que (o que/quem passamos a ter) já não seria humano. Se os robôs forem autónomos, terão direitos e deveres. E devem merecera nossa compaixão? Devem ser eleitos como nossos representantes em sociedades democráticas? (como, aliás, já sucedeu, no Japão, em localidade de 150 mil habitantes);

- Se as máquinas aprendem por si próprias, (não) iriam manter os valores de respeito, solidariedade, justiça ou compaixão (?) - os sistemas iriam propor os seus próprios valores (?) (p.37);

- Quem é responsável pelos danos causados pelos robôs, dado que estes não possuem auto-propriedade?;

- Fala-se em carros autónomos, mas a autonomia é algo que só se aplica aos humanos. Só estes têm capacidade para auto-legislar-se;

- Os documentos sobre a IA na Europa são humanocêntricos, ainda que com obrigação de respeitar também a natureza;

- Relativamente à IA (não só, mas também...), EUA são líderes na inovação; a China na produtividade; a UE na normatividade (p.67). Estas características irão manter-se tal quale, mesmo depois do tipo de (primeira) reacção dos responsáveis europeus ao 'Deepseek' (chinês)? Até aqui, na UE, procurou conjugar-se a eficiência com a protecção e promoção dos direitos pessoais; evitar-se que as pessoas percam direitos, que a sua intimidade seja roubada, porque, se o for, estas perdem liberdade e justiça, perdem humanidade. Para Adela Cortina, a confiabilidade do produto e serviços será uma vantagem competitiva europeia (p.64);

- As máquinas carecem do sentido comum que é possível gerar-se pelas nossas vivências corporais. O corpo é essencial para dar significado ao que nos rodeia (p.39).  A IA é especializada, muito adequada para tarefas concretas, mas não é uma inteligência geral, como a dos humanos.