{"id":89067,"date":"2023-03-08T09:44:57","date_gmt":"2023-03-08T12:44:57","guid":{"rendered":"https:\/\/laurbedigital.com.ar\/noticias\/?p=89067"},"modified":"2023-03-07T22:01:54","modified_gmt":"2023-03-08T01:01:54","slug":"sesgos-en-la-inteligencia-artificial-como-se-reproduce-la-discriminacion-de-genero-en-algoritmos","status":"publish","type":"post","link":"https:\/\/laurbedigital.com.ar\/noticias\/2023\/03\/08\/sesgos-en-la-inteligencia-artificial-como-se-reproduce-la-discriminacion-de-genero-en-algoritmos\/","title":{"rendered":"Sesgos en la inteligencia artificial: c\u00f3mo se reproduce la discriminaci\u00f3n de g\u00e9nero en algoritmos"},"content":{"rendered":"
<\/h6>\n
Un algoritmo que aprendi\u00f3 a asociar im\u00e1genes de artefactos dom\u00e9sticos con mujeres y otro que cuando es consultado por personas destacadas o id\u00f3neas para ciertas profesiones s\u00f3lo ofrece el perfil de varones: dos ejemplos que ayudan a pensar c\u00f3mo se reproduce la discriminaci\u00f3n por razones de g\u00e9nero en los datos -sociales e hist\u00f3ricos- con los que se entrena la inteligencia artificial (IA), cuyos impactos en la vida de mujeres y LGBTIQ+ son abordados por especialistas.<\/strong><\/h6>\n
\n

Que la IA est\u00e1 cada vez m\u00e1s presente en la vida cotidiana no es algo nuevo, aunque s\u00ed su capacidad de dar respuestas a demandas cada vez m\u00e1s complejas como generar textos acad\u00e9micos, im\u00e1genes o producciones art\u00edsticas casi indistinguibles de las que podr\u00eda producir una persona humana.<\/p>\n

Se logra a trav\u00e9s de las t\u00e9cnicas de aprendizaje autom\u00e1tico, o machine learning, con las que se entrena a la IA para que pueda emular comportamientos o generar predicciones o recomendaciones a partir de una gran cantidad de datos y con diversos grados de autonom\u00eda.<\/p>\n

El problema es que, si nunca hubo -o no se reconoce- la participaci\u00f3n de mujeres y LGBTIQ+ en determinados \u00e1mbitos de la vida y, por ende, no existen datos que den cuenta de eso, probablemente la IA reproducir\u00e1 por defecto este tipo de disparidades.<\/p>\n

Esto ocurre porque \u201cse suele pensar a los datos como algo objetivo, olvidando que son el producto de relaciones sociales subjetivas y asim\u00e9tricas\u201d, explic\u00f3 Victoria Dumas, directora del equipo de Ciencia de Datos e Inteligencia Artificial de la Fundaci\u00f3n Sadosky.<\/p>\n

En di\u00e1logo con T\u00e9lam, enfatiz\u00f3 en la necesaria \u201cformaci\u00f3n y sensibilizaci\u00f3n en sesgos (de g\u00e9nero, de clase, de raza) para las personas que est\u00e1n a cargo de dise\u00f1ar y programar los algoritmos de IA\u201d, en tanto que solo podr\u00e1n desarrollar sistemas que no discriminen \u201csi son capaces de identificar y dominar sus propios sesgos inconscientes\u201d.<\/p>\n

No es extra\u00f1o, entonces, que ante la consulta a un chatbot por el nombre de personas destacadas de la filosof\u00eda, por ejemplo, la respuesta sea un listado s\u00f3lo de hombres, dado que \u201cestad\u00edsticamente las mujeres fil\u00f3sofas est\u00e1n subrepresentadas en los datos de entrenamiento\u201d, ejemplific\u00f3.<\/p>\n

Esto es particularmente problem\u00e1tico por el creciente uso de estas respuestas \u201cinteligentes\u201d en distintos \u00e1mbitos, incluso educativos y laborales.<\/p>\n

Tiempo atr\u00e1s, la empresa Amazon tuvo que retirar un software de reclutamiento de personas trabajadoras que discriminaba a las mujeres de sus ofertas en puestos t\u00e9cnicos, al haber sido entrenada con \u201clos perfiles de solicitantes de (esos) empleos en los \u00faltimos a\u00f1os, que en su mayor\u00eda eran hombres\u201d.<\/p>\n

\u201cLos modelos de IA conocen c\u00f3mo somos y c\u00f3mo fuimos como sociedad, pero no saben hacia d\u00f3nde queremos ir, y en esto est\u00e1 la clave donde es necesario que accionemos\u201d, apunt\u00f3 la experta.<\/p>\n

Por su parte, la cofundadora y directora del Observatorio de Datos \u201cDataG\u00e9nero\u201d, Ivana Feldfeber, asegur\u00f3 que una de las \u201cgrandes preocupaciones\u201d en la materia es que cada vez m\u00e1s gobiernos \u201cimplementan algoritmos de IA que inciden en nuestras vidas y no sabemos nada al respecto\u201d.<\/p>\n

Operando inadvertidamente, estos sistemas se usan \u201cpara tomar decisiones que afectan directamente a las personas\u201d, por ejemplo para determinar a qui\u00e9nes entregar pr\u00e9stamos, atenci\u00f3n m\u00e9dica o social, o incluso para medir una pena judicial o el riesgo de reincidencia, indic\u00f3.<\/p>\n

El proyecto \u201cNot my AI\u201d (\u201cNo mi IA\u201d, en espa\u00f1ol), desarroll\u00f3 un mapa de \u201cproyectos problem\u00e1ticos\u201d que usan IA en Latinoam\u00e9rica, y Argentina registr\u00f3 al menos tres, dos de ellos relacionados a la video vigilancia.<\/p>\n

Tambi\u00e9n se encuentra la Plataforma Tecnol\u00f3gica de Intervenci\u00f3n Social, un programa que el gobierno de Salta y la mega empresa Microsoft impulsaron en 2018 y que aspiraba a poder predecir el embarazo adolescente mediante inteligencia artificial.<\/p>\n

\u201cAdem\u00e1s de lo estigmatizante que es la propuesta, que s\u00f3lo recopila datos de ni\u00f1as pero no de las personas que las dejan embarazadas, la pregunta es qu\u00e9 se hace despu\u00e9s con esos datos que refieren a una problem\u00e1tica tan compleja\u201d, cuestion\u00f3 Feldfeber, quien enfatiz\u00f3 en que estos proyectos \u201clo \u00fanico que buscan es marcar\u201d grupos sociales mediante la IA.<\/p>\n

Pese a las complejidades que presenta, las especialistas destacaron las oportunidades que puede brindar la IA, abordada desde una perspectiva de g\u00e9nero, en las luchas de mujeres y LGBTIQ+.<\/p>\n

Ejemplos de esto son los chatbots dise\u00f1ados para la recepci\u00f3n de denuncias por violencia de g\u00e9nero para agilizar los tiempos judiciales, o Themis, un corrector de textos que advierte sobre las palabras sexistas y propone alternativas inclusivas.<\/p>\n

Tambi\u00e9n lo es AymurAI, un programa para computadora basado en IA, que tiene como objetivo ayudar a los poderes judiciales a recolectar y disponer datos anonimizados sobre la violencia de g\u00e9nero, desarrollado por DataG\u00e9nero junto a colegas mexicanas y suecas.<\/p>\n

Consultada por T\u00e9lam, Yasm\u00edn Quiroga, abogada e integrante del observatorio, explic\u00f3 que la iniciativa surgi\u00f3 a partir de la carencia de datos unificados sobre violencia de g\u00e9nero en el pa\u00eds y, a su vez, el bajo nivel de confianza en el poder judicial argentino, que la \u00faltima encuesta de Latinobar\u00f3metro ubic\u00f3 en un 16%.<\/p>\n

En casos de violencia de g\u00e9nero, esto se traduce en \u201cbajos niveles de denuncia, desconfianza en el sistema de justicia y menor acceso\u201d a la misma, asegur\u00f3.<\/p>\n

En ese marco, AymurAI fue pensada como una forma de agilizar la recolecci\u00f3n de datos sobre la violencia de g\u00e9nero a partir de la automatizaci\u00f3n de su registro, de manera que permita \u201ccomprender la violencia de g\u00e9nero y respaldar el desarrollo de pol\u00edticas p\u00fablicas\u201d, detallaron sus creadoras.<\/p>\n

\u201cLos datos tienen una capacidad transformadora porque permiten conocer la realidad de las personas. Son una evidencia concreta, m\u00e1s all\u00e1 de que no son objetivos\u201d, indic\u00f3 Quiroga.<\/p>\n

\u201cEstos datos ya existen y son muy demandados por la sociedad, es cuesti\u00f3n de empezar a trabajarlos y publicarlos\u201d, sostuvieron las creadoras de AymurAI, que ya est\u00e1 en funcionamiento y disponible \u201cpara quienes lo quieran implementar\u201d.<\/p>\n

Y concluyeron: \u201cNo esperamos que estas herramientas solucionen el problema de la violencia de g\u00e9nero, pero s\u00ed creemos que tienen mucho que aportar\u201d.t\u00e9lam<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Un algoritmo que aprendi\u00f3 a asociar im\u00e1genes de artefactos dom\u00e9sticos con mujeres y otro que cuando es consultado por personas<\/p>\n","protected":false},"author":1,"featured_media":89068,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"kia_subtitle":"","footnotes":"","jetpack_publicize_message":"Sesgos en la inteligencia artificial: c\u00f3mo se reproduce la discriminaci\u00f3n de g\u00e9nero en algoritmos","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[15],"tags":[],"class_list":["post-89067","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tendencias"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/laurbedigital.com.ar\/noticias\/wp-content\/uploads\/2023\/03\/20230308-IA-inteligencia-artificial.jpg","_links":{"self":[{"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/posts\/89067","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/comments?post=89067"}],"version-history":[{"count":3,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/posts\/89067\/revisions"}],"predecessor-version":[{"id":89070,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/posts\/89067\/revisions\/89070"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/media\/89068"}],"wp:attachment":[{"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/media?parent=89067"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/categories?post=89067"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laurbedigital.com.ar\/noticias\/wp-json\/wp\/v2\/tags?post=89067"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}