<\/p>\n
Darrera edici\u00f3 del post: setembre 2023<\/em><\/p>\n <\/p>\n Reflexions des d’experi\u00e8ncies concretes davant la imminent aprovaci\u00f3 de la legislaci\u00f3 europea sobre Intel\u00b7lig\u00e8ncia Artificial (AI Act)<\/h4>\n <\/strong><\/p>\n per Xnet, Simona Levi amb la col\u00b7laboraci\u00f3 de Miriam Carles<\/em><\/p>\n <\/p>\n Des del punt de vista dels drets i les llibertats fonamentals, els elements a considerar que entren en joc en els projectes que involucren intel\u00b7lig\u00e8ncia artificial s\u00f3n\u00a0:<\/p>\n – L\u2019efici\u00e8ncia<\/strong>: \u00e9s per se un element positiu per facilitar la vida de les persones tant en l\u2019\u00e0mbit propi com en la seva relaci\u00f3 amb les institucions. S\u2019ha de promoure, per\u00f2 en nom de l\u2019efici\u00e8ncia no s\u2019han de sacrificar en cap cas drets i llibertats.<\/p>\n – La seguretat<\/strong>: el dret a la seguretat \u00e9s tamb\u00e9 un b\u00e9 del qual han de poder gaudir les persones, per\u00f2 massa sovint es confon la seguretat amb el control de la poblaci\u00f3. L’escalada en l’\u00e0mbit de la identificaci\u00f3 de les persones en nom de la seguretat sovint xoca amb el seu dret leg\u00edtim a no ser perfilades ni vigilades. En propers articles, el reconeixement facial ens servir\u00e0 com a exemple extrem, ja que el rostre, de totes les dades biom\u00e8triques, dades que mai no podrem canviar o esborrar, \u00e9s l’element personal m\u00e9s exposat i p\u00fablic.<\/p>\n – La privacitat<\/strong>: \u00e9s un dret fonamental que s\u2019ha de prioritzar en totes les consideracions respecte l\u2019\u00fas de l\u2019IA i biometria perqu\u00e8 efici\u00e8ncia i seguretat no la perjudiquin.<\/p>\n Per integrar aquesta perspectiva en els aspectes pr\u00e0ctics de la creaci\u00f3 d\u2019IA s\u2019han d\u2019aplicar en com es dissenya, pel que parlarem d\u2019usabilitat<\/strong>, i en com s\u2019informa sobre el disseny, pel que parlarem d\u2019auditabilitat<\/strong>. A m\u00e9s, aix\u00f2 hauria d’estar impl\u00edcit en els programes institucionals que usin IA, ja que haurien de buscar la confian\u00e7a de la i l’usuari, la qual nom\u00e9s es pot construir en base a la rendici\u00f3 de comptes(1)<\/em><\/a>.<\/p>\n Quan parlem d\u2019usabilitat ens referim a la comprensi\u00f3 de l’acci\u00f3 que s’ha de dur a terme (activa o passiva), facilitat d\u2019\u00fas i navegaci\u00f3 per part de les persones usu\u00e0ries quan interactuen amb aplicacions o programes. Les normes internacionals ISO 9241-11(2)<\/em><\/a> i 25010(3)<\/em><\/a> la defineixen com la capacitat d\u2019un producte per ser ent\u00e8s, apr\u00e8s, utilitzat i resultar atractiu perqu\u00e8 els usuaris puguin assolir objectius espec\u00edfics amb efectivitat, efici\u00e8ncia i satisfacci\u00f3 en un context espec\u00edfic.<\/p>\n L\u2019auditabilitat de l\u2019IA es refereix al fet de que sigui p\u00fablica la “recepta” dels procediments i “ingredients” utilitzats i la possibilitat de sotmetre procediments, models i bases de dades registrades i validades a an\u00e0lisi per con\u00e8ixer el funcionament i verificar que no s\u2019incompleixen ni vulneren acords, drets fonamentals de les persones o altres consideracions ni es produeixen danys a causa de l\u2019aplicaci\u00f3 dels sistemes algor\u00edsmics. Tamb\u00e9 hauria de significar que aquesta auditoria no s\u2019ha de dur a terme tant sols per part de les institucions involucrades sin\u00f3 que la informaci\u00f3 ha de ser accessible, incloent les dades utilitzades per l\u2019entrenament, informaci\u00f3 sobre el seu origen i com s\u2019han recollit(4)<\/em><\/a>, els mecanismes (com els mecanismes d\u2019anonimitzaci\u00f3 de les dades personals) i funcions utilitzats, etc. Aquesta informaci\u00f3 s\u2019hauria de fer p\u00fablica de forma pormenoritzada, com es fa per exemple amb els medicaments o, i la obligatorietat de proporcionar-la s\u2019hauria d\u2019establir per llei(5)<\/em><\/a>, per tal de garantir que la ciutadania no perd el control sobre l\u2019\u00fas de les seves dades, pugui confiar amb aquells que les utilitzen i perqu\u00e8 l\u2019auditabilitat sigui distribu\u00efda (que la pugui efectuar qualsevol actor extern amb compet\u00e8ncies que ho desitgi).<\/p>\n Per entendre millor quin tipus d’informaci\u00f3 ha de ser p\u00fablica, tra\u00e7able, aquestes s\u00f3n les definicions aportades per la Comissi\u00f3 Europea(6)<\/em><\/a>:<\/p>\n – La tra\u00e7abilitat<\/strong> s’ha d’aplicar sobre els m\u00e8todes utilitzats per al disseny i el desenvolupament de l’algorisme; el model normatiu en qu\u00e8 es basa o el model d’entrenament de l’algorisme, incloent-hi quines dades s’han recollit i seleccionat i com s’ha fet; les metodologies utilitzades per tastar i validar l’algorisme; en cas de sistemes d’IA basats en models normatius, els escenaris o casos utilitzats per provar i validar-los; o en cas de sistemes basats en models d’entrenament, la informaci\u00f3 sobre les dades utilitzades per provar i validar el sistema; els resultats del sistema algor\u00edtmic; els resultats de les decisions preses per l’algorisme i d’altres decisions potencials en altres situacions.<\/p>\n – L’explicabilitat<\/strong> s’ha d’aplicar sobre l’avaluaci\u00f3 de les decisions preses pel sistema d’IA i fins a quin punt es poden entendre; com es pot explicar als usuaris com pren les decisions; grau d’influ\u00e8ncia de l’algorisme en els procediments de decisi\u00f3 de l’organitzaci\u00f3; valoraci\u00f3 del motiu pel qual s’ha desenvolupat aquest sistema a una \u00e0rea espec\u00edfica; avaluaci\u00f3 del model de negoci basat en aquest sistema \u2013 creeu valor per a l’organitzaci\u00f3?; disseny de l’IA considerant la seva explicabilitat des del disseny; determinar si s’ha cercat i intentat utilitzar el model m\u00e9s simple i explicable; valoraci\u00f3 sobre les dades utilitzades per entrenar i provar el sistema, possible actualitzaci\u00f3 de les dades utilitzades i acc\u00e9s al flux de treball del model.<\/p>\n – La comunicaci\u00f3: informaci\u00f3 a les persones usu\u00e0ries finals que interactuen amb un sistema d’IA i no amb una persona; introducci\u00f3 de mecanismes per informar dels criteris i motius utilitzats per l’IA per decidir; claredat i intel\u00b7ligibilitat de la informaci\u00f3; procediments per tenir en compte els comentaris dels usuaris per adaptar el sistema; informaci\u00f3 sobre els riscos dels biaixos; informaci\u00f3 sobre l’objectiu de l’IA i qui o qu\u00e8 es beneficia del producte\/servei; la informaci\u00f3 sobre tot aix\u00f2 ha de ser comprensible, sense risc de confusi\u00f3 i tenint en compte el biaix de comfirmaci\u00f3 i la fatiga cognitiva.<\/p>\n El marc \u00e9s doncs favorable. A all\u00f2 que haurem de prestar esfor\u00e7 i atenci\u00f3 ser\u00e0 que les institucions ho implementin amb la mirada posada en l’inter\u00e8s com\u00fa. Aquest text \u00e9s l\u2019adaptaci\u00f3 d\u2019una part de la contribuci\u00f3 d’Xnet al Projecte Gavius, per a la EU Urban Innovative Actions (mar\u00e7 2023)\u2028<\/p>\n <\/p>\n Traducci\u00f3 de l’article publicat a Infolibre: —– <\/p>","protected":false},"excerpt":{"rendered":" Darrera edici\u00f3 del post: setembre 2023 Alguns conceptes necessaris: usabilitat, tra\u00e7abilitat, explicabilitat, auditabilitat i transpar\u00e8ncia informativa Reflexions des d’experi\u00e8ncies concretes davant la imminent aprovaci\u00f3 de la legislaci\u00f3 europea sobre Intel\u00b7lig\u00e8ncia Artificial (AI Act) per Xnet, Simona Levi amb la col\u00b7laboraci\u00f3 de Miriam Carles Des del punt de vista dels drets i les llibertats fonamentals, […]<\/p>\n","protected":false},"author":15,"featured_media":25581,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[52],"tags":[],"class_list":["post-25557","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog","ejes-neutralidad-de-la-red"],"yoast_head":"\nAlguns conceptes necessaris: usabilitat, tra\u00e7abilitat, explicabilitat, auditabilitat i transpar\u00e8ncia informativa<\/strong><\/p>\n
\n <\/p>\n
\nhttps:\/\/www.infolibre.es\/opinion\/plaza-publica\/inteligencia-artificial-administracion-publica-entenderla-s-dominarla-s_129_1518557.html<\/a><\/em>
\n <\/p>\n
\n<\/a>
\n1 – Access Now, \u201cAn open letter to the leaders of international development banks, the United Nations, international aid organisations, funding agencies, and national governments\u201d
\nhttps:\/\/www.accessnow.org\/whyid\/<\/a>
\n<\/a>
\n2 – UNE-EN ISO 9241-11:2018. Ergonom\u00eda de la interacci\u00f3n hombre-sistema. Parte 11: Usabilidad. Definiciones y conceptos.
\n<\/a>
\n3 – ISO\/IEC 25010:2011. Systems and software engineering — Systems and software Quality Requirements and Evaluation (SQuaRE) — System and software quality models.
\n<\/a>
\n4 – The Technolawgist. \u201cLos 5 principios b\u00e1sicos de la responsabilidad algor\u00edtimica\u201d. Juliol 2019.
\nhttps:\/\/www.thetechnolawgist.com\/2019\/07\/16\/cinco-principios-basicos-responsabilidad-algoritmica\/<\/a>
\n<\/a>
\n5 – \u201cLawmakers in several European countries are passing or considering legislation to keep algorithms in check. How it will be enforced, and by whom, is still unclear\u201d. Algorithm Watch. \u201cThe algorithm police is coming. Will it have teeth?\u201d. Febrer 2020.
\nhttps:\/\/algorithmwatch.org\/en\/story\/algorithm-police\/<\/a>
\n<\/a>
\n6 – https:\/\/ec.europa.eu\/futurium\/en\/ai-alliance-consultation\/guidelines\/2<\/a><\/span><\/p>\n