{"id":2854,"date":"2023-03-14T14:16:18","date_gmt":"2023-03-14T14:16:18","guid":{"rendered":"https:\/\/donesidrets.uab.cat\/?p=2854"},"modified":"2023-03-15T07:38:03","modified_gmt":"2023-03-15T07:38:03","slug":"la-inteligencia-artificial-tambien-tiene-nombre-de-mujer","status":"publish","type":"post","link":"https:\/\/donesidrets.uab.cat\/index.php\/2023\/03\/14\/la-inteligencia-artificial-tambien-tiene-nombre-de-mujer\/","title":{"rendered":"La inteligencia artificial \u201ctambi\u00e9n\u201d tiene nombre de mujer"},"content":{"rendered":"\n<p>\u00bfPor qu\u00e9 este t\u00edtulo a mi intervenci\u00f3n? \u00bfPor qu\u00e9 \u201ctambi\u00e9n\u201d tiene nombre de mujer? O quiz\u00e1 deber\u00eda decir para ser m\u00e1s cercana a la realidad \u201c<em>deber\u00eda tener<\/em>\u201d nombre de mujer.<\/p>\n\n\n\n<p>Pues contestar\u00eda que por dos \u00f3rdenes de razones principalmente:<\/p>\n\n\n\n<p><\/p>\n\n\n\n<p> 1.  La primera porque se ha constatado que, en el <em>dise\u00f1o<\/em> de los sistemas de IA, as\u00ed como en la selecci\u00f3n de<strong> los datos con los que se nutre al sistema<\/strong> (datos de entrenamiento, datos de testeo y datos para la validaci\u00f3n del sistema), la mayor\u00eda de los programadores son <em>hombres cauc\u00e1sicos<\/em> que pueden plasmar sus propios sesgos, sin ser consciente de ello, o reproducir los sesgos que aparecen como arquetipos en el inconsciente colectivo, en la sociedad o en una cultura determinada. En este sentido, las instrucciones y los datos pueden infrarrepresentar a un grupo social (mujeres) respecto de otro que est\u00e1 sobre-representado (hombres) conduciendo a consecuencias indeseables si no se detectan a tiempo (v.gr. pueden conducir a tratamientos m\u00e9dicos inadecuados).<br><br><em>\u00bfC\u00f3mo se puede resolver, si se me permite esta expresi\u00f3n, esta situaci\u00f3n? Teniendo en cuenta la necesidad de que en los equipos de trabajo que dise\u00f1an algoritmos participen mujeres, no solo dise\u00f1ando el algoritmo sino para contribuir a eliminar estereotipos o corregir datos que est\u00e9n sesgados. Es decir, para introducir la perspectiva de g\u00e9nero desde el dise\u00f1o (gender-by-design) del propio sistema de inteligencia artificial. Adem\u00e1s, si se trata de sistemas de IA de \u201calto riesgo\u201d deber\u00e1 exigirse, como har\u00e1 la futura Ley europea de IA (art. 10), unos requisitos m\u00ednimos de calidad, dentro de los cuales se exige que los conjuntos de datos sean pertinentes, representativos, carezcan de errores y sean completos. La Ley Integral de Igualdad de 15 de julio de 2022, en su art. 23, recoge esta norma europea. Y adem\u00e1s establece que se promover\u00e1 \u201cun sello de calidad de los algoritmos\u201d.<\/em><\/p>\n\n\n\n<p><\/p>\n\n\n\n<p>2. La segunda raz\u00f3n tiene que ver con posibles <em>aplicaciones<\/em> o <em>usos<\/em> que se hagan de un sistema basado en IA pues hay que tener presente que el sistema se alimenta constantemente de los datos que existen en su entorno, los cuales pueden ser \u201cdatos abiertos\u201d accesibles para su reutilizaci\u00f3n por cualquiera. \u00c9stos pueden contener sesgos de los que el sistema se alimenta y acabar reproduci\u00e9ndolos en sus an\u00e1lisis, predicciones, perfiles y recomendaciones o, incluso, decisiones<br><br>\u00bfQu\u00e9 soluciones pueden darse en este caso? Que los sistemas de IA se dise\u00f1en y desarrollen de modo que puedan ser vigilados de manera efectiva por personas f\u00edsicas durante el per\u00edodo que est\u00e9n en uso, lo que incluye dotarlos de una herramienta de interfaz humano-m\u00e1quina adecuada y hacer seguimiento del funcionamiento del sistema despu\u00e9s de introducido en el mercado o puesto en servicio. Con ello se pretende prevenir o reducir al m\u00ednimo los riesgos y, entre ellos, los riesgos de que haya o se reproduzcan sesgos, que afecten a la salud, la seguridad o los derechos fundamentales incluso a pesar de que el sistema de IA se usa correctamente acorde con la finalidad prevista. De esta forma, la persona puede decidir parar el uso del sistema de IA, restaurar el sistema o intervenir en el funcionamiento del sistema, entre otras medidas (art. 14 Ley de IA).<br><br>Y si el uso que se hace del sistema de IA elabora un perfilado a partir del tratamiento automatizado de los datos personales discriminando a una mujer \u00bfqu\u00e9 soluciones legales hay? Pues de forma sucinta tenemos los siguientes: <\/p>\n\n\n\n<p><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><em>Tiene derecho, si se han recabado y tratado <strong>datos personales<\/strong>, a que se le informe acerca la l\u00f3gica en la que se basa ese tratamiento (arts. 13 y 14 RGPD) cuando se elaboran perfiles o se adoptan decisiones automatizadas y de las consecuencias que se derivan de ello.<\/em> <em>Esta informaci\u00f3n significativa, de la que hablo, puede facilitar que la persona que se ha visto perjudicada por esa decisi\u00f3n automatizada o por la elaboraci\u00f3n de ese perfil pueda exigir que se supriman sus datos (art. 17 RGPD), que se rectifiquen (art. 16 RGPD), que se limite el tratamiento (art. 18 RGPD), o tambi\u00e9n puede oponerse al tratamiento de sus datos personales incluida la oposici\u00f3n a la elaboraci\u00f3n de perfiles (art. 21 RGPD). Asimismo, puede impugnar la decisi\u00f3n automatizada (art. 22.3 RGPD). Informaci\u00f3n ex ante.<\/em><\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li><em>Una <strong>decisi\u00f3n tomada exclusivamente sobre la base del tratamiento automatizado de datos, incluido la elaboraci\u00f3n de perfiles, que produzca \u201cefectos jur\u00eddicos en el sujeto o le afecte significativamente de modo similar<\/strong>\u201d est\u00e1 categ\u00f3ricamente prohibida por el art. 22.1 RGPD, salvo que el responsable del tratamiento demuestre que contaba con el consentimiento expl\u00edcito del sujeto afectado o era legal o contractualmente necesario (art. 22.2 RGPD). Y, a\u00fan as\u00ed, la persona afectada puede solicitar la intervenci\u00f3n humana del responsable e impugnar la decisi\u00f3n adoptada de forma totalmente automatizada para lo cual muy probablemente necesita acceder a la informaci\u00f3n de la supuesta \u201ccaja negra\u201d que tiene el sistema de IA.<\/em><\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li><em>en el <strong>\u00e1mbito contractual<\/strong>, una negativa a contratar con \u00e9l o que se incluyan, en el contrato en cuesti\u00f3n, por ejemplo, cl\u00e1usulas que implican m\u00e1s deberes o cargas para el discriminado (art. 69.1 Ley Org\u00e1nica de Igualdad). El sujeto discriminado con base en una decisi\u00f3n automatizada puede solicitar que se declare la nulidad -total o parcial, seg\u00fan el supuesto- de aquellos negocios jur\u00eddicos celebrados o de algunas de sus cl\u00e1usulas que, con base en ello, lo discriminan (art. 10 LOI).<\/em><\/li>\n<\/ul>\n\n\n\n<p><em>Si el efecto que se deriva para el sujeto afectado es la negativa a contratar con \u00e9l con base en el perfil establecido, que asimismo ha servido de base para una decisi\u00f3n automatizada y que asume la contraparte humana, podr\u00e1 exigir la celebraci\u00f3n del contrato con \u00e9l. As\u00ed, aunque existe libertad para contratar y elegir a la contraparte, estatuye el art. 69.2 LOI, que esa libertad cede ante el hecho de que no se contrate a la contraparte por raz\u00f3n de sexo.<\/em><\/p>\n\n\n\n<p><em>Adicionalmente, siempre y en todo caso, la persona perjudicada puede exigir que se le indemnicen los da\u00f1os ocasionados (arts. 10 y 72.1 LOI), en especial, en estos casos, los morales.<\/em><\/p>\n\n\n\n<p><\/p>\n\n\n\n<p>As\u00ed que s\u00ed, la IA tambi\u00e9n tiene -tambi\u00e9n deber\u00eda tener- nombre de mujer.<\/p>\n\n\n\n<p><\/p>\n\n\n\n<p><strong>Susana Navas Navarro<br>Degana Facultat de Dret<\/strong><\/p>\n\n\n\n<p><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfPor qu\u00e9 este t\u00edtulo a mi intervenci\u00f3n? \u00bfPor qu\u00e9 \u201ctambi\u00e9n\u201d tiene nombre de mujer? O quiz\u00e1 deber\u00eda decir para ser m\u00e1s cercana a la realidad \u201cdeber\u00eda tener\u201d nombre de mujer. Pues contestar\u00eda que por dos \u00f3rdenes de razones principalmente: 1. La primera porque se ha constatado que, en el dise\u00f1o de los sistemas de IA, [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":2861,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[9],"tags":[],"class_list":["post-2854","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-les-nostres-activitats-i-el-nostre-entorn"],"uagb_featured_image_src":{"full":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE.jpg",600,402,false],"thumbnail":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE-150x150.jpg",150,150,true],"medium":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE-300x201.jpg",300,201,true],"medium_large":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE.jpg",600,402,false],"large":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE.jpg",600,402,false],"1536x1536":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE.jpg",600,402,false],"2048x2048":["https:\/\/donesidrets.uab.cat\/wp-content\/uploads\/2023\/03\/IE.jpg",600,402,false]},"uagb_author_info":{"display_name":"admin","author_link":"https:\/\/donesidrets.uab.cat\/index.php\/author\/admin\/"},"uagb_comment_info":0,"uagb_excerpt":"\u00bfPor qu\u00e9 este t\u00edtulo a mi intervenci\u00f3n? \u00bfPor qu\u00e9 \u201ctambi\u00e9n\u201d tiene nombre de mujer? O quiz\u00e1 deber\u00eda decir para ser m\u00e1s cercana a la realidad \u201cdeber\u00eda tener\u201d nombre de mujer. Pues contestar\u00eda que por dos \u00f3rdenes de razones principalmente: 1. La primera porque se ha constatado que, en el dise\u00f1o de los sistemas de IA,&hellip;","_links":{"self":[{"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/posts\/2854","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/comments?post=2854"}],"version-history":[{"count":8,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/posts\/2854\/revisions"}],"predecessor-version":[{"id":2898,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/posts\/2854\/revisions\/2898"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/media\/2861"}],"wp:attachment":[{"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/media?parent=2854"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/categories?post=2854"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/donesidrets.uab.cat\/index.php\/wp-json\/wp\/v2\/tags?post=2854"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}