Nos encontramos viviendo una época tecnológica donde la Inteligencia Artificial (IA) se ha convertido en uno de los temas más emergentes y controvertidos, ya que ha llegado a revolucionar todos los aspectos de la vida y el trabajo, principalmente por plataformas como ChatGPT, DALL-E y Midjourney, que han puesto la IA en el radar de todos.
Si bien muchas personas consideran a la IA como una herramienta revolucionaria y novedosa gracias a estas plataformas, ésta tiene sus orígenes desde 1943 cuando Warren McCulloch y Walter Pitts presentaron su modelo de neuronas artificiales, considerada la primera inteligencia artificial, siendo el primer intento de formalizar matemáticamente el comportamiento de una neurona y de estudiar sus implicaciones en cuanto a la capacidad de computar y procesar la información. Es así como en la actualidad la podemos encontrar en ordenadores de cómputo, calculadoras, celulares, programas en la web, plataformas traductoras; pero al no ser una IA tan innovadora como teclear en ChatGPT para pedirle que se comporte como Platón y simular una conversación con este filósofo, no nos damos cuenta de que está ahí.
La diferencia radica en el tipo de Inteligencia Artificial que estamos tratando, ya que ChatGPT, por ejemplo, se trata de una IA generativa, que no se limita a seguir las reglas de un algoritmo programado y meramente analizar datos, sino que ésta aprende de la data brindada y crea mayor contenido a partir de ésta.
La Inteligencia Artificial es el campo de la ciencia computacional que tiene la finalidad de abordar problemas cognitivos asociados con la inteligencia humana, como el aprendizaje.
Hoy en día, las organizaciones de diversas industrias recopilan grandes cantidades de datos de diversas fuentes, como sensores inteligentes, contenido generado por humanos, herramientas de supervisión y registros del sistema, y utilizan esta IA para desarrollar sistemas de autoaprendizaje que puedan interpretar estos datos y aplicar el conocimiento adquirido para resolver nuevos problemas de manera similar a los seres humanos para optimizar los procesos, mejorar la experiencia del cliente y fomentar la innovación, principalmente en actividades como el procesamiento inteligente de documentos, supervisión de rendimiento de aplicaciones, mantenimiento predictivo, investigación médica y análisis empresarial.
Si bien el aprovechamiento del aprendizaje profundo y los datos masivos ayudan a la IA para producir resultados creativos de alta calidad, no olvidemos que el resultado de estos procesos no siempre puede garantizar el cumplimiento de los derechos humanos de grupos vulnerables, específicamente para materia de este artículo, los de las mujeres.
A través del tiempo, nos hemos caracterizado por ser un grupo en situación vulnerable marcado por violencia, discriminación sistematizada y segregación social; pese a que con el transcurso del tiempo se han logrado grandes avances en cuanto a los derechos de las mujeres, tanto en los sistemas jurídicos nacionales, como internacionales. Es esencial considerar que la información que alimenta la IA no se remonta solamente a unos pocos años en el tiempo en el que los derechos de las mujeres progresaron, o en donde se encuentran mayores mujeres en posiciones de liderazgo; sino que generalmente la información que alimenta a la IA, está comprendida por datos de la historia de la humanidad, en la cual ha predominado la violencia, la discriminación sistematizada hacia la mujer, así como la desigualdad en los derechos laborales, educativos y sociales.
Si los conjuntos de datos utilizados para entrenar modelos de IA contienen un sesgo histórico, como la preferencia por ciertos géneros en determinadas ocupaciones o roles, la IA puede aprender y perpetuar esos sesgos; otro ejemplo son los sistemas automatizados que utilizan IA, como los algoritmos de préstamos o los sistemas de evaluación de riesgos de crédito, que pueden tomar decisiones discriminatorias si se basan en datos o algoritmos sesgados. Sin embargo, los algoritmos de IA pueden desarrollar sesgos incluso si los datos de entrenamiento no son inherentemente sesgados, por ejemplo, si los algoritmos se diseñan de manera que favorezcan ciertos atributos que están correlacionados con el género, como el uso de palabras clave en currículums que pueden estar más asociadas con un género en particular; incluso podemos observar que existen asistentes virtuales (chatbots) con estereotipos de género, diseñados para responder de manera más servil o sumisa a las consultas de género femenino y de manera más autoritaria a las consultas de género masculino.
El sesgo en la inteligencia artificial merece una atención cuidadosa, toda vez que la IA puede reflejar y amplificar los sesgos existentes en los datos utilizados para su entrenamiento, llevando a resultados injustos o discriminatorios, especialmente en áreas como la contratación, el crédito y la atención médica.
Para abordar el sesgo de género y otros sesgos en la IA a efecto de asegurar que el uso de estas tecnologías sean equitativas y beneficiosas para todos, es crucial tomar medidas para como la implementación de prácticas de recopilación de datos equitativas y diversificadas, generar algoritmos de IA que sean transparentes y explicables, contar con equipos de desarrollo de IA en los que haya diversidad para de identificar y mitigar sesgos inadvertidos, por no mencionar la urgente necesidad de políticas y regulaciones claras para la IA con la finalidad de garantizar la equidad e imparcialidad en el desarrollo y la implementación de sistemas de Inteligencia Artificial.
Referencias:
- “Historia de la inteligencia artificial. La inteligencia artificial: nacimiento, aplicaciones y tendencias de futuro” IBERDROLA https://www.iberdrola.com/innovacion/historia-inteligencia-artificial Consultado el 13 de marzo de 2024
- R. Prieto, A. Herrera, J. L. Pérez, A. Padrón “EL MODELO NEURONAL DE McCULLOCH Y PITTS. Interpretación Comparativa del Modelo” Research Gate https://www.researchgate.net/profile/Alejandro-Padron-Godinez/publication/343141076_EL_MODELO_NEURONAL_DE_McCULLOCH_Y_PITTS_Interpretacion_Comparativa_del_Modelo/links/5f18c12145851515ef419d11/EL-MODELO-NEURONAL-DE-McCULLOCH-Y-PITTS-Interpretacion-Comparativa-del-Modelo.pdf Consultado el 13 de marzo de 2024
- “¿Qué es la inteligencia artificial (IA)?” AMAZON WEB SERVICES https://aws.amazon.com/es/what-is/artificial-intelligence/ Consultado el 13 de marzo de 2024
Sobre las autoras:
Samantha Maldonado G. es Asociada en Santamarina y Steta S.C., con más de 3 años de experiencia profesional, se especializa principalmente en asesoría de estrategias de protección, observancia, defensa y ejercicio de los derechos de. Propiedad Intelectual, con un enfoque. en las industrias de retail, tecnología, startups, hotelería y restaurantes, cuidado e higiene, cosméticos, salud, entre otras.
Faride Hage es Asociada en Santamarina y Steta S.C., con más de 4 años de experiencia profesional, se especializa en asuntos de propiedad intelectual. Brinda asesoría a las empresas
multinacionales en las industrias de
comercio, hotelería, belleza, salud,
entre otras, confrontando los efectos
de la legislación en propiedad
intelectual en términos de materia de
marcas y en derechos de autor en
general.
*Este artículo es publicado bajo la responsabilidad exclusiva de sus autoras y no necesariamente refleja la posición de Abogadas MX.