SciELO - Scientific Electronic Library Online

 
vol.41EUTANÁSIA E “DOMÍNIO DA VIDA”AMIROU, Rachid (2007), Imaginário Turístico e Sociabilidades de Viagem, Vila Nova de Gaia, Estratégias Criativas índice de autoresíndice de assuntosPesquisa de artigos
Home Pagelista alfabética de periódicos  

Serviços Personalizados

Journal

Artigo

Indicadores

Links relacionados

  • Não possue artigos similaresSimilares em SciELO

Compartilhar


Sociologia

versão impressa ISSN 0872-3419

Sociologia vol.41  Porto jun. 2021  Epub 25-Fev-2022

https://doi.org/10.21747/08723419/soc41r1 

Recensão

PEREIRA, Luís Moniz; LOPES; António (2020), Máquinas Éticas. Da Moral da Máquina à Máquina Moral, Caparica, NOVA.FCT Editorial.

Ana Cláudia Albergaria1 

1Faculdade de Letras da Universidade do Porto


O livro , de Luís Moniz Pereira1 e de António Lopes2, incide sobre os Impactos Sociais da Inteligência Artificial ( IA) a partir da desconstrução do conceito de “Moral” e de outros correlacionados. A obra está organizada em quatro áreas: “Inteligência Artificial e Autonomia das Máquinas” (Capítulos 2 a 4); “Impactes Sociais da IA” (Capítulos 5 a 10); “Especificidades da Moral Computacional” (Capítulos 11 a 17) e “O Futuro da IA / Desafios Estruturais da Revolução Digital” (Capítulos 18 a 21). Apesar do número elevado de capítulos, possui 218 páginas e não impõe uma leitura linear, podendo o leitor decidir o percurso a fazer em função das suas prioridades, nomeadamente, a partir da leitura dos resumos que antecedem os capítulos. O texto desenvolve-se em torno de perguntas, elaboradas com base no que os autores consideram ser as dúvidas e dilemas sobre IA, partilhados por um público mais vasto. As respostas assentam num diálogo interdisciplinar, entre as Ciências da Computação ( conhecimento técnico em IA) e a Filosofia, tendo como base os contributos principais das investigações mais recentes de Luís Morais Pereira na área da “Moral Computacional” , articulados com a reflexão filosófica e o enquadramento histórico de António Lopes; o que torna este livro imperioso para a inauguração de novas vias de abordagem sobre a relação entre o Homem e a Máquina, criando pontes com outras áreas do conhecimento, nomeadamente as ciências sociais, através de uma linguagem, intencionalmente, clara, sem comprometer , contudo, o rigor e a pertinência cientifica. Os autores abordam a Inteligência Artificial e a Autonomia das Máquinas (Capítulos 2 a 4) partindo de uma perspetiva evolucionista (transversal a toda a obra), exemplificando como o Homem temeu, desde sempre, o domínio das máquinas sobre a humanidade e revelando os contornos únicos da Revolução Cognitiva atual, resultante do desenvolvimento da IA; através da problematização das novas competências que as máquinas reclamam para si e que eram exclusivas do ser humano. Trazem para a reflexão os dilemas de desenho e de conceptualização da IA, abordando os problemas de ordem económica e social daí decorrentes. Somos confrontados com a necessidade de refletirmos sobre a sociedade que queremos e sobre como programar as máquinas, para a tomada de decisões, com base em princípios morais partilhados com os humanos, que com elas viverão em simbiose. Segundo os autores, a moral é evolutiva e computacional, pelo que teremos de saber programar a moral e saber legislar sobre as máquinas morais, porque “(…) há vários tipos de autonomia das máquinas, mas as nossas leis são feitas para seres humanos, que pressupomos terem uma certa autonomia-tipo-base, a não ser que estejam doentes ou mentalmente incapacitados. Quando se fizer legislação com respeito às máquinas, teremos que começar por definir e usar conceitos novos, sem os quais será impossível fazer leis, pois estas têm sempre que apelar aos conceitos de jurisprudência”. Pereira e Lopes (2020: 43). Relativamente aos Impactes Sociais da IA, apresentam-se as dimensões de analise que devem ser tomadas em consideração, partindo da definição de “Agente Inteligente” e da distinção entre “Inteligência Artificial” e “Inteligência Natural”, assim como entre “Algoritmos Biológicos” codificados em ADN e “Algoritmos Maquinais” codificados em zeros e uns. Problematizam a autonomia das máquinas e dos humanos por aproximação aos conceitos de “Algoritmo Genético” e de “Emergência”, convocando outros conceitos sugestivos dos impactos sociais, tais como: “Preconceitos Algorítmicos” e “Algorítmização Social, remetendo para: insegurança; direitos humanos e limites do conhecimento da IA. As “Especificidades da Moral Computacional”, emergem da abordagem dos processos cognitivos e da decisão moral, com base nos conceitos de “Moral Evolucionaria” e de “Moral Social”, articulando-os com o surgimento de máquinas autónomas, para sugerirem que as questões de ética social e política devem ser pensadas lado a lado com a evolução cientifica e tecnológica. Deparamo-nos com a abordagem de temas como o impacto da IA no (des)emprego; a construção da identidade juvenil na era digital; delegação de decisões em máquinas e em softwares, que afetam liberdades, segurança e acesso a oportunidades. Os autores apresentam-nos propostas peculiares, tais como: a necessidade de programar as máquinas inteligentes para desenvolverem o sentimento de “culpa” e “pedirem desculpa”, o que consideram ser, além de possível, fundamental para o desenvolvimento de consciência ética; assim como a necessidade de exigirmos dessas máquinas o pagamento de impostos sobre o trabalho que venham a fazer e que seria realizado por humanos, de forma a contribuírem também para o estado-social (responsabilização dos agentes cognitivos/autónomos não humanos). Termina com a abordagem do Futuro da IA e dos desafios estruturais da Revolução Digital, numa postura pouco otimista, enfatizando a necessidade de darmos a devida atenção às dimensões morais e éticas desta revolução, para evitarmos que os “donos” das máquinas não escravizem os restantes humanos; o que, em certo sentido, poderá estar já a acontecer. Contudo, reconhecem igualmente que o conhecimento permite evitar os perigos e que “De qualquer modo, é sempre com maior avanço tecnológico que se evita, querendo, o mau uso do progresso tecnológico” Pereira et al (2020: 111). As principais teses que Luís Moniz Pereira foi defendendo ao longo da sua carreira, são apresentadas de forma inovadora, clara e aprazível, pese embora algumas redundâncias, fundamentadas pela opção de não linearidade (assumidas pelos próprios autores no prólogo da obra). Tratando-se predominantemente de um campo científico tendencialmente hermético, sobre o qual é urgente a disseminação de conhecimento, nomeadamente para o reforço do olhar interdisciplinar e para o desenvolvimento de uma consciência coletiva critica sobre os impactos sociais da IA, consideramos ser uma obra atual de referência, cumprindo os requisitos de interesse científico e social

Notas

1Luís Moniz Pereira é Professor Emérito de Ciência da Computação na U. Nova de Lisboa/Portugal; Recebeu a Medalha Nacional de Mérito Cientifico (2019). Doutor Honoris Causa pela Universidade Técnica de Dresden (2006). Eleito Fellow da Associação Europeia de Inteligência Artificial (EurAI)/2001. Presidente fundador da Associação Portuguesa para a Inteligência Artificial (APPIA)/1984.

2António Lopes é Mestre em Filosofia / U. Nova de Lisboa. Docente de Filosofia. Requisitado pela ANQEP- Agência nacional para a Qualificação e Ensino Profissional. Colaborou na obra: A Máquina Iluminada - Cognição e Computação, de Luís Moniz Pereira2 António Lopes é Mestre em Filosofia / U. Nova de Lisboa. Docente de Filosofia. Requisitado pela ANQEP- Agência nacional para a Qualificação e Ensino Profissional. Colaborou na obra: A Máquina Iluminada - Cognição e Computação, de Luís Moniz Pereira.

Creative Commons License Este é um artigo publicado em acesso aberto sob uma licença Creative Commons