Inteligencia Artificial y sesgos de género

  1. Alonso Betanzos, Amparo 1
  1. 1 Universidade da Coruña
    info

    Universidade da Coruña

    La Coruña, España

    ROR https://ror.org/01qckj285

Revista:
Gender on digital: Journal of Digital Feminism

ISSN: 3020-4410

Año de publicación: 2023

Volumen: 1

Páginas: 11-32

Tipo: Artículo

DOI: 10.35869/GOD.V1I.5060 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Gender on digital: Journal of Digital Feminism

Resumen

Estamos inmersos en una nueva revolución, una era de transformación impulsada por la Inteligencia Artificial (IA), que afecta significativamente al equilibrio geopolítico, la sociedad, la economía, el empleo y la educación, generando cambios constantes en estos ámbitos. La IA es una disciplina transversal que está presente en prácticamente cualquier campo, desde la Industria, la Salud o el Medioambiente hasta áreas relacionadas con las Ciencias Sociales y las Humanidades. Esta omnipresencia trae consigo innumerables oportunidades y abre nuevas perspectivas, pero también trae retos, algunos relacionados con ciertos desafíos éticos que pueden aparecer por el tratamiento de datos a gran escala que hace la tecnología. Uno de ellos es la posible aparición de sesgos de género, que pueden deberse a que el funcionamiento de los algoritmos no ha sido suficientemente examinado en este sentido, o a que el entrenamiento de los modelos se ha realizado con datos históricos cuya calidad no es la adecuada, entre otros. Además, es fundamental tener en cuenta que los sesgos no sólo están en los algoritmos, también pueden derivar de desigualdades en el acceso a la tecnología, o de falta de diversidad en los equipos de diseño, entre otros. Estos factores pueden limitar la perspectiva y comprensión holística de los problemas, perpetuando así prejuicios y desigualdades en la IA. Es imprescindible abordar con responsabilidad estos sesgos si queremos garantizar una IA ética, confiable y justa. No es menos importante fomentar la diversidad en los equipos de desarrollo y diseño de tecnologías de IA, para que se reflejen diferentes perspectivas que puedan conducir a soluciones más inclusivas y equitativas.

Referencias bibliográficas

  • Chat GPT. OpenAI, https://chat.openai.com
  • González de la Garza, Luis M. Teoría de sesgos en el sistema educativo de la democracia del siglo XXI Nuevas garantías para la libertad de pensamiento, el “Derecho a no ser engañados”. Revista de Educación y Derecho. Nº 22, Abril-septiembre 2020.
  • Regulation 2016/679, General Data Protection Regulation, https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016R0679.
  • S. Leavy, "Gender Bias in Artificial Intelligence: The Need for Diversity and Gender Theory in Machine Learning,"2018 IEEE/ACM 1st International Workshop on Gender Equality in Software Engineering (GE), Gothenburg, Sweden,pp. 14-16, 2018.
  • High-Level Expert Group on Artificial Intelligence. Ethical Guidelines for Trustworthy AI. April, 2019.
  • Proposal for a regulation of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (artificial intelligence act) and amending certain Union legislative acts https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf
  • European Commission, Directorate-General for Justice and Consumers, Gerards, J., Xenidis, R., Algorithmic discrimination in Europe –Challenges and opportunities for gender equality and non-discrimination law, Publications Office, 2021, https://data.europa.eu/doi/10.2838/544956
  • Turing, Alan M. (1950) Computing Machinery and Intelligence. Mind 49: 433-460. https://redirect.cs.umbc.edu/courses/471/papers/turing.pdf
  • https://digital-strategy.ec.europa.eu/en/policies/desi
  • West, Mark, Kraut, Rebecca, EiChew Han. I’d blush if I could: Closing gender divides in digital skills through education. UNESCO and EQUALS Skill Coalition, 2019. https://unesdoc.unesco.org/ark:/48223/pf0000367416
  • Blumberg,Sven, Krawina, Melanie, Mäkelä, Elina and Soller, Henning. Women in tech: The best bet to solve Europe’s talent shortage. McKinsey Digital, January, 2023.
  • Torre de la Sierra, Ana M., and Guichot-Reina, Virginia. The influence of school textbooks on the configuration of gender identity: A study on the unequal representation of women and men in the school discourse during the Spanish Democracy, Teaching and Teacher Education, Vol 117, 103810, 2022.
  • Sunderland, J. New understandings of gender and language classroom research: Texts, teacher talk and student talk Language Teaching Research,4(2)(2000), pp.140-173,10.1177/136216880000400204.
  • Obermeyer, Ziad; Powers, Brian; Vogeli, Christine and Mullainathan, Sendhil. Dissecting racial bias in an algorithm used to manage the health of populations. Nature, Vol. 36, Nº 6464, pp 447-453, 2019.
  • Turner Lee, Nicol; Resnik, Paul and Barton, Genie. https://www.brookings.edu/articles/algorithmic-bias-detection-and-mitigation-best-practices-and-policies-to-reduce-consumer-harms/, 2019.
  • Martin, Kirsten. Ethics of Data and Analytics, Auerbach Pub, 2022.
  • Merill, Jeremy B. https://themarkup.org/google-the-giant/2021/02/11/google-has-been-allowing-advertisers-to-exclude-nonbinary-people-from-seeing-job-ads, 2021.
  • Bolukbasi, Tolga; Chang, Kai-Wei; Zou, James; Saligrama, Venkatesh and Kalai, Adam . Man is to Computer programmer as Woman is to Homemaker? Debiasing Word embeddings. 30th Conference on Neural Informations Processing Systems (NIPS 2016).
  • Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok, and Denton, Emily. Saving face: Investigating the Ethical concerns of facial recognition auditing. AAAI/ACM AI Ethics and Society Conference, pp 145-151, 2020.
  • Document 52022PC0068. Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on harmonized rules on fair access to and use of data (Data Act). https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2022%3A68%3AFIN, 2022.
  • European Commission, ‘White Paper on Artificial Intelligence: A European approach to excellence and trust’ COM(2020) 65 final, 2020.
  • European Commission. Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee, and the Committee of the Regions. “A Union of Equality: Gender Equality Strategy 2020-2025" COM(2020) 152 final, 2020.
  • Gerards, Janneke and Xenidis, Raphaëlle. Algorithmic discrimination in Europe: Challenges and opportunities for gender equality and non-discrimination law. Special report. European Commission, 2020.
Fuente de los datos: Dialnet