{"id":25542,"date":"2023-06-13T20:11:05","date_gmt":"2023-06-13T18:11:05","guid":{"rendered":"https:\/\/xnet-x.net\/es\/?p=25542"},"modified":"2023-09-15T10:46:49","modified_gmt":"2023-09-15T08:46:49","slug":"inteligencia-artificial-administracion-libertad-eleccion","status":"publish","type":"post","link":"https:\/\/xnet-x.net\/es\/inteligencia-artificial-y-administracion-publica-4\/","title":{"rendered":"Inteligencia Artificial y administraci\u00f3n p\u00fablica (4)"},"content":{"rendered":"

<\/p>\n

\u00daltima edici\u00f3n del post: septiembre 2023<\/em><\/p>\n

Libertad de elecci\u00f3n<\/strong><\/h4>\n

Reflexiones desde experiencias concretas ante la inminente aprobaci\u00f3n de la legislaci\u00f3n europea sobre Inteligencia Artificial (AI Act)<\/strong><\/em><\/h4>\n

por Xnet, Simona Levi con la colaboraci\u00f3n de Miriam Carles<\/em>
\n <\/p>\n

Para implantar herramientas y soluciones tecnol\u00f3gicas de forma masiva ya menudo abusiva, suele utilizarse el argumento de la libre elecci\u00f3n, seg\u00fan el cual cada uno es libre de escoger si las utiliza o no. Esto tambi\u00e9n es v\u00e1lido para el uso de la IA en el acceso a los servicios y a la Administraci\u00f3n. En realidad, en muchas ocasiones no existe posibilidad de elecci\u00f3n. Es evidente que en la mayor\u00eda de los casos la aceptaci\u00f3n de los t\u00e9rminos y condiciones de uso de aplicaciones o pol\u00edticas (en caso que nos ocupa, digitales), no constituye un consentimiento voluntario sino una obligaci\u00f3n o una exclusi\u00f3n; en realidad se trata de un tipo de coacci\u00f3n. De ah\u00ed que en el \u00e1mbito de las pol\u00edticas p\u00fablicas que por definici\u00f3n deben ser servicios para toda la poblaci\u00f3n, a\u00fan menos se debe utilizar este argumento para implementar herramientas o protocolos. <\/p>\n

La poblaci\u00f3n por lo general tiene una falta total de poder de negociaci\u00f3n; el consentimiento en tales circunstancias no es un consentimiento v\u00e1lido sino coercitivo(1)<\/em><\/a>. Como detalla el profesor de derecho del Boston College, Kent Greenfield en The Myth of Choice<\/em>, debe ponerse en duda que en las democracias actuales se hayan establecido las condiciones para que las personas puedan construir el uso de su libertad y poder ejercer realmente su libre albedr\u00edo. La toma de decisiones, incluyendo el consentimiento, est\u00e1 atravesada por condicionantes de contexto, pero sobre todo por la diferencia de acceso a la informaci\u00f3n desde una perspectiva democr\u00e1tica, veraz y no contaminada por numerosos intereses. Greenfield parte del libro del neurocient\u00edfico de la Universidad de Columbia Jonah Lehrer, How We Decide<\/em>. Entre otras muchas cosas, Lehrer explica que, por ejemplo, la crisis de las subprimas ha sido, en cierto modo, fruto de ciertos sesgos cognitivos a la hora de tomar decisiones.<\/p>\n

Desde esta perspectiva, es de referencia la hip\u00f3tesis de los marcadores som\u00e1ticos, de Antonio Damasio. Simplificando mucho, Damasio considera que la toma de decisiones est\u00e1 asistida de un dispositivo que restringe el n\u00famero de posibles decisiones a unas pocas y m\u00e1s manejables: la evaluaci\u00f3n se mueve entre el dolor inmediato o la recompensa futura y entre dolor y a\u00fan m\u00e1s dolor.<\/p>\n

Ian Carter(2)<\/em><\/a> distingue entre la \u00ablibertad\u00bb, la \u00abcapacidad de elecci\u00f3n\u00bb y la \u00ablibertad de elecci\u00f3n\u00bb. Para tener \u00ablibertad\u00bb la persona debe carecer de restricciones para la realizaci\u00f3n de una acci\u00f3n. La \u00abcapacidad de elecci\u00f3n\u00bb se refiere a cuando la persona carece de restricciones para (I) seleccionar razonadamente y realizar una o m\u00e1s acciones sobre las que puede escoger o (II) seleccionar razonadamente una o m\u00e1s acciones que en caso de serlo ser\u00edan realizadas por otra persona. La \u201clibertad de elecci\u00f3n\u201d se refiere a cuando una persona carece de limitaciones en la selecci\u00f3n razonada y en la ejecuci\u00f3n de una o varias acciones sobre las que puede escoger. Una vez ha definido estos tres conceptos Ian Carter demuestra que una persona puede disfrutar de la libertad sin hacerlo de la libertad de elecci\u00f3n, y que puede disfrutar de un aumento en una de estas sin un aumento en la otra.
\n <\/p>\n

Cuando el consentimiento no es libre \u2013 los dark patterns\/facilidad de uso (ease of use) que vician la libertad de elecci\u00f3n<\/strong><\/p>\n

Los llamados \u201cdark paterns\u201d son dise\u00f1os de interfaz de usuario\/protocolos digitales que consiguen conducir deliberadamente y de forma poco \u00e9tica a la persona usuaria hacia una concreta acci\u00f3n interesada -como el consentimiento-, priv\u00e1ndolo de su capacidad de elecci\u00f3n. Se trata de configuraciones predeterminadas, procesos farragosos o confusos, lenguaje confuso o uso de eufemismos, el resaltado del bot\u00f3n donde se quiere que clique el usuario, opciones incoherentes, ocultaci\u00f3n de informaci\u00f3n, recompensas y castigos o acciones forzadas y\/o sobrevenidas. El dise\u00f1ador de experiencias de usuario Harry Brignull acu\u00f1\u00f3 el neologismo el 28 de julio de 2010 con el registro de darkpatterns.org, una \u00abbiblioteca de patrones con el objetivo espec\u00edfico de nombrar y avergonzar interfaces de usuario enga\u00f1osas. En t\u00e9rminos m\u00e1s generales, los dark patterns suplantan \u201cel valor para el usuario… a favor del valor para el accionista\u201d(4)<\/em><\/a>.<\/p>\n

Los dark paterns<\/em> aprovechan los sesgos cognitivos inconscientes de las personas de los que habl\u00e1bamos al principio, haciendo que en vez de tomar decisiones basadas en la racionalidad \u00e9stas sean influidas por estos sesgos. \u00abPor ejemplo, las personas tienden a elegir peque\u00f1as recompensas a corto plazo, en lugar de grandes ganancias a largo plazo (descuento hiperb\u00f3lico), y prefieren las opciones y la informaci\u00f3n que confirman sus creencias preexistentes (sesgo de confirmaci\u00f3n)\u00bb(5)<\/em><\/a>.<\/p>\n

Como se\u00f1ala el Consejo Noruego del Consumidor(6)<\/em><\/a>, el uso de estos dark patterns<\/em> es \u00abespecialmente problem\u00e1tico dados los desequilibrios de poder y las asimetr\u00edas de informaci\u00f3n que ya existen entre muchos proveedores de servicios y sus usuarios\u00bb. \u201cAdem\u00e1s, si los usuarios conf\u00edan en el proveedor de servicios, muchos supondr\u00e1n que \u00e9ste sabe lo que es mejor para el usuario. Esto, o la sospecha de que la manipulaci\u00f3n de la configuraci\u00f3n por defecto podr\u00eda eliminar una funcionalidad importante, puede afectar a la tendencia a dejar la configuraci\u00f3n por defecto(7)<\/em><\/a>.\u201d En este sentido, la utilidad y facilidad de uso de un servicio sin que el usuario tenga que esforzarse en personalizarlo se encuentran significativamente correlacionadas con los usos de un determinado servicio(8)<\/em><\/a>, (9)<\/em><\/a>, (10)<\/em><\/a>.<\/p>\n

La libertad de elecci\u00f3n tambi\u00e9n se ve influenciada por la presencia de interfaces dominantes en el mercado se benefician de la ausencia de competici\u00f3n cuando los usuarios adquieren habilidades espec\u00edficas de \u00e9sta, reduciendo la probabilidad de que se cambien a otro competidor(11)<\/em><\/a>, (12)<\/em><\/a>. Del mismo modo se habla del \u201cnetwork effect\u201d ejemplarizado en Facebook(13)<\/em><\/a>, fen\u00f3meno en el que el consumo de una persona influye directamente en el consumo de otros.
\n <\/p>\n

T\u00e9rminos y condiciones: contratos de adhesi\u00f3n y consentimiento viciado<\/strong><\/p>\n

Fundamentada en la autonom\u00eda de la voluntad, la libertad contractual forma parte de la libertad de elecci\u00f3n de las personas, ya que no s\u00f3lo implica decidir sobre si se contrata o no, sino tambi\u00e9n decidir sobre la esencia o \u201cconfiguraci\u00f3n interna\u201d del contrato: las partes con las que se contrata, el tipo de contrato, c\u00f3mo se establecer\u00e1, su contenido y condiciones concretas, etc.<\/p>\n

En los casos de los contratos de adhesi\u00f3n, como son los t\u00e9rminos y condiciones, esta libertad y posibilidad de configurar el contrato se ven reducidas y pr\u00e1cticamente eliminadas. \u201cQuien se adhiere no puede ejercer plenamente el derecho a su libertad contractual, ya que no interviene ni participa en modo alguno en la redacci\u00f3n del contenido del contrato […]. La parte m\u00e1s fuerte […] imponen sus condiciones a la otra parte (los consumidores) m\u00e1s d\u00e9biles, creando verdaderos monopolios de hecho o derecho donde estos \u00faltimos s\u00f3lo pueden aceptar o rechazar, corriendo el riesgo, en este \u00faltimo caso, de no poder satisfacer sus necesidades m\u00e1s elementales. La libertad de configuraci\u00f3n del contrato se concentra con exclusividad en uno solo de los contratantes, mientras que para el adherente esta libertad s\u00f3lo existe para decidir si contrata o no, y en muchos casos ni siquiera conserva esa posibilidad de elecci\u00f3n\u201d(14)<\/em><\/a>.<\/p>\n

Seg\u00fan la definici\u00f3n jurisprudencial del Tribunal Supremo(15)<\/em><\/a>, una de las caracter\u00edsticas de los contratos de adhesi\u00f3n es el \u201cestado de necesidad\u201d de los consumidores, quienes aceptan contratos que les son impuestos por quien tiene mayor capacidad de negociaci\u00f3n. Existe m\u00e1s bien una adhesi\u00f3n o sometimiento de una voluntad a otra por lo que se habla de \u00abdeshumanizaci\u00f3n contractual\u00bb. <\/p>\n

Es pues falaz hablar de contrato frente a una situaci\u00f3n de monopolio de las empresas contratadas, que imponen las condiciones como actos unilaterales y reglamentarios. Esto no ocurre solo en \u00e1mbito digital sino en muchos otros \u00e1mbitos como en los casos de los cr\u00e9ditos bancarios, por ejemplo. As\u00ed pues, al igual que el uso de dark patterns, el modelo contractual de los t\u00e9rminos y condiciones no ayuda a superar el desequilibrio de poder y de informaci\u00f3n(16)<\/em><\/a> entre las partes, sino todo lo contrario. Adem\u00e1s, estudios realizados con las 21 plataformas m\u00e1s conocidas indican que en promedio se necesitar\u00edan 250 h para que una persona se pudiera leer los t\u00e9rminos y condiciones que constantemente est\u00e1 aceptando para poder utilizar las aplicaciones(17b)<\/em><\/a>. <\/p>\n

Pero, siendo los t\u00e9rminos y condiciones contratos, deber\u00eda ser de aplicaci\u00f3n las causas de invalidez e ineficacia aplicables a todo tipo de contrato. El ordenamiento jur\u00eddico deber\u00eda velar por que el consentimiento a los contratos se d\u00e9 de forma libre y consciente y que cuando \u00e9ste es fruto del error, coacci\u00f3n o enga\u00f1o, pueda declararse como viciado(17)<\/em><\/a>. En la mayor\u00eda de los casos, los t\u00e9rminos y condiciones impuestos a los consumidores y usuarios podr\u00edan considerarse sistem\u00e1ticamente viciado . Una vez m\u00e1s vemos que m\u00e1s que un problema de legislaci\u00f3n, existe una falta de voluntad institucional por cambios de implementaci\u00f3n.
\nA consecuencia de la influencia de las grandes plataformas y de los mecanismos de autorregulaci\u00f3n, los t\u00e9rminos y condiciones se est\u00e1n convirtiendo en una legislaci\u00f3n privatizada en un \u00e1mbito en el que la legislaci\u00f3n se establece con posterioridad al desarrollo tecnol\u00f3gico ya sus consecuencias.
\nLas grandes plataformas incluyen en sus t\u00e9rminos y condiciones normas que son de aplicaci\u00f3n a las y los usuarios, actuando c\u00f3mo(18)<\/em><\/a> y adelant\u00e1ndose al legislador(19)<\/em><\/a>.<\/p>\n

Las consecuencias nocivas de esta legislaci\u00f3n privada ya se han podido constatar en diversos \u00e1mbitos, afectando a derechos fundamentales de las y los usuarios(20)<\/em><\/a> debido a la insuficiente previsi\u00f3n de salvaguardias(21)<\/em><\/a>.
\n <\/p>\n

Avances legales para un consentimiento libre<\/strong><\/p>\n

Aunque de forma no exhaustiva todav\u00eda, en la UE se van promulgando legislaciones para corregir esta situaci\u00f3n, como el recientemente aprobado Digital Services Package (v\u00e9ase por ejemplo en particular DMA, Considerando 37) o el Reglamento General de Protecci\u00f3n de Datos.<\/p>\n

A modo de ejemplo, citamos este \u00faltimo:<\/p>\n