Inteligencia Artificial y administración pública (4)

Última edición del post: septiembre 2023

Libertad de elección

Reflexiones desde experiencias concretas ante la inminente aprobación de la legislación europea sobre Inteligencia Artificial (AI Act)

por Xnet, Simona Levi con la colaboración de Miriam Carles
 

Para implantar herramientas y soluciones tecnológicas de forma masiva ya menudo abusiva, suele utilizarse el argumento de la libre elección, según el cual cada uno es libre de escoger si las utiliza o no. Esto también es válido para el uso de la IA en el acceso a los servicios y a la Administración. En realidad, en muchas ocasiones no existe posibilidad de elección. Es evidente que en la mayoría de los casos la aceptación de los términos y condiciones de uso de aplicaciones o políticas (en caso que nos ocupa, digitales), no constituye un consentimiento voluntario sino una obligación o una exclusión; en realidad se trata de un tipo de coacción. De ahí que en el ámbito de las políticas públicas que por definición deben ser servicios para toda la población, aún menos se debe utilizar este argumento para implementar herramientas o protocolos.

La población por lo general tiene una falta total de poder de negociación; el consentimiento en tales circunstancias no es un consentimiento válido sino coercitivo(1). Como detalla el profesor de derecho del Boston College, Kent Greenfield en The Myth of Choice, debe ponerse en duda que en las democracias actuales se hayan establecido las condiciones para que las personas puedan construir el uso de su libertad y poder ejercer realmente su libre albedrío. La toma de decisiones, incluyendo el consentimiento, está atravesada por condicionantes de contexto, pero sobre todo por la diferencia de acceso a la información desde una perspectiva democrática, veraz y no contaminada por numerosos intereses. Greenfield parte del libro del neurocientífico de la Universidad de Columbia Jonah Lehrer, How We Decide. Entre otras muchas cosas, Lehrer explica que, por ejemplo, la crisis de las subprimas ha sido, en cierto modo, fruto de ciertos sesgos cognitivos a la hora de tomar decisiones.

Desde esta perspectiva, es de referencia la hipótesis de los marcadores somáticos, de Antonio Damasio. Simplificando mucho, Damasio considera que la toma de decisiones está asistida de un dispositivo que restringe el número de posibles decisiones a unas pocas y más manejables: la evaluación se mueve entre el dolor inmediato o la recompensa futura y entre dolor y aún más dolor.

Ian Carter(2) distingue entre la «libertad», la «capacidad de elección» y la «libertad de elección». Para tener «libertad» la persona debe carecer de restricciones para la realización de una acción. La «capacidad de elección» se refiere a cuando la persona carece de restricciones para (I) seleccionar razonadamente y realizar una o más acciones sobre las que puede escoger o (II) seleccionar razonadamente una o más acciones que en caso de serlo serían realizadas por otra persona. La “libertad de elección” se refiere a cuando una persona carece de limitaciones en la selección razonada y en la ejecución de una o varias acciones sobre las que puede escoger. Una vez ha definido estos tres conceptos Ian Carter demuestra que una persona puede disfrutar de la libertad sin hacerlo de la libertad de elección, y que puede disfrutar de un aumento en una de estas sin un aumento en la otra.
 

Cuando el consentimiento no es libre – los dark patterns/facilidad de uso (ease of use) que vician la libertad de elección

Los llamados “dark paterns” son diseños de interfaz de usuario/protocolos digitales que consiguen conducir deliberadamente y de forma poco ética a la persona usuaria hacia una concreta acción interesada -como el consentimiento-, privándolo de su capacidad de elección. Se trata de configuraciones predeterminadas, procesos farragosos o confusos, lenguaje confuso o uso de eufemismos, el resaltado del botón donde se quiere que clique el usuario, opciones incoherentes, ocultación de información, recompensas y castigos o acciones forzadas y/o sobrevenidas. El diseñador de experiencias de usuario Harry Brignull acuñó el neologismo el 28 de julio de 2010 con el registro de darkpatterns.org, una «biblioteca de patrones con el objetivo específico de nombrar y avergonzar interfaces de usuario engañosas. En términos más generales, los dark patterns suplantan “el valor para el usuario… a favor del valor para el accionista”(4).

Los dark paterns aprovechan los sesgos cognitivos inconscientes de las personas de los que hablábamos al principio, haciendo que en vez de tomar decisiones basadas en la racionalidad éstas sean influidas por estos sesgos. «Por ejemplo, las personas tienden a elegir pequeñas recompensas a corto plazo, en lugar de grandes ganancias a largo plazo (descuento hiperbólico), y prefieren las opciones y la información que confirman sus creencias preexistentes (sesgo de confirmación)»(5).

Como señala el Consejo Noruego del Consumidor(6), el uso de estos dark patterns es «especialmente problemático dados los desequilibrios de poder y las asimetrías de información que ya existen entre muchos proveedores de servicios y sus usuarios». “Además, si los usuarios confían en el proveedor de servicios, muchos supondrán que éste sabe lo que es mejor para el usuario. Esto, o la sospecha de que la manipulación de la configuración por defecto podría eliminar una funcionalidad importante, puede afectar a la tendencia a dejar la configuración por defecto(7).” En este sentido, la utilidad y facilidad de uso de un servicio sin que el usuario tenga que esforzarse en personalizarlo se encuentran significativamente correlacionadas con los usos de un determinado servicio(8), (9), (10).

La libertad de elección también se ve influenciada por la presencia de interfaces dominantes en el mercado se benefician de la ausencia de competición cuando los usuarios adquieren habilidades específicas de ésta, reduciendo la probabilidad de que se cambien a otro competidor(11), (12). Del mismo modo se habla del “network effect” ejemplarizado en Facebook(13), fenómeno en el que el consumo de una persona influye directamente en el consumo de otros.
 

Términos y condiciones: contratos de adhesión y consentimiento viciado

Fundamentada en la autonomía de la voluntad, la libertad contractual forma parte de la libertad de elección de las personas, ya que no sólo implica decidir sobre si se contrata o no, sino también decidir sobre la esencia o “configuración interna” del contrato: las partes con las que se contrata, el tipo de contrato, cómo se establecerá, su contenido y condiciones concretas, etc.

En los casos de los contratos de adhesión, como son los términos y condiciones, esta libertad y posibilidad de configurar el contrato se ven reducidas y prácticamente eliminadas. “Quien se adhiere no puede ejercer plenamente el derecho a su libertad contractual, ya que no interviene ni participa en modo alguno en la redacción del contenido del contrato […]. La parte más fuerte […] imponen sus condiciones a la otra parte (los consumidores) más débiles, creando verdaderos monopolios de hecho o derecho donde estos últimos sólo pueden aceptar o rechazar, corriendo el riesgo, en este último caso, de no poder satisfacer sus necesidades más elementales. La libertad de configuración del contrato se concentra con exclusividad en uno solo de los contratantes, mientras que para el adherente esta libertad sólo existe para decidir si contrata o no, y en muchos casos ni siquiera conserva esa posibilidad de elección”(14).

Según la definición jurisprudencial del Tribunal Supremo(15), una de las características de los contratos de adhesión es el “estado de necesidad” de los consumidores, quienes aceptan contratos que les son impuestos por quien tiene mayor capacidad de negociación. Existe más bien una adhesión o sometimiento de una voluntad a otra por lo que se habla de «deshumanización contractual».

Es pues falaz hablar de contrato frente a una situación de monopolio de las empresas contratadas, que imponen las condiciones como actos unilaterales y reglamentarios. Esto no ocurre solo en ámbito digital sino en muchos otros ámbitos como en los casos de los créditos bancarios, por ejemplo. Así pues, al igual que el uso de dark patterns, el modelo contractual de los términos y condiciones no ayuda a superar el desequilibrio de poder y de información(16) entre las partes, sino todo lo contrario. Además, estudios realizados con las 21 plataformas más conocidas indican que en promedio se necesitarían 250 h para que una persona se pudiera leer los términos y condiciones que constantemente está aceptando para poder utilizar las aplicaciones(17b).

Pero, siendo los términos y condiciones contratos, debería ser de aplicación las causas de invalidez e ineficacia aplicables a todo tipo de contrato. El ordenamiento jurídico debería velar por que el consentimiento a los contratos se dé de forma libre y consciente y que cuando éste es fruto del error, coacción o engaño, pueda declararse como viciado(17). En la mayoría de los casos, los términos y condiciones impuestos a los consumidores y usuarios podrían considerarse sistemáticamente viciado . Una vez más vemos que más que un problema de legislación, existe una falta de voluntad institucional por cambios de implementación.
A consecuencia de la influencia de las grandes plataformas y de los mecanismos de autorregulación, los términos y condiciones se están convirtiendo en una legislación privatizada en un ámbito en el que la legislación se establece con posterioridad al desarrollo tecnológico ya sus consecuencias.
Las grandes plataformas incluyen en sus términos y condiciones normas que son de aplicación a las y los usuarios, actuando cómo(18) y adelantándose al legislador(19).

Las consecuencias nocivas de esta legislación privada ya se han podido constatar en diversos ámbitos, afectando a derechos fundamentales de las y los usuarios(20) debido a la insuficiente previsión de salvaguardias(21).
 

Avances legales para un consentimiento libre

Aunque de forma no exhaustiva todavía, en la UE se van promulgando legislaciones para corregir esta situación, como el recientemente aprobado Digital Services Package (véase por ejemplo en particular DMA, Considerando 37) o el Reglamento General de Protección de Datos.

A modo de ejemplo, citamos este último:

• El Considerante 42 prevé que «(…) El consentimiento no debe considerarse libremente prestado cuando el interesado no goza de verdadera o libre elección o no puede denegar o retirar su consentimiento sin sufrir ningún perjuicio».

• El Considerante 43 “(…) en particular cuando el responsable sea una autoridad pública y sea por tanto improbable que el consentimiento se haya dado libremente en todas las circunstancias de la situación particular».

Este texto es la adaptación de una parte de la contribución de Xnet al Proyecto Gavius, para la EU Urban Innovative Actions (marzo 2023)

Es la versión de un texto publicado en el Ara:
https://www.ara.cat/opinio/no-sotmetre-ia-simona-levi_129_4729534.html
 

——-


1 . Access Now, “Open letter para los líderes de international development banks, United Nations, international aid organizations, funding agencies, and national governments”
https://www.accessnow.org/whyid/

2 – Ian Carter “Choice, freedom and freedom of choice” . Soy Choice Welfare 22, 61-81 (2004). https://doi.org/10.1007/s00355-003-0277-z

3 – “Dark Patterns and the Ethics of Design”
https://medium.com/adventures-in-ux-design/dark-patterns-and-the-ethics-of-design-31853436176b

4 – «Dark paterno». Wikipedia. https://en.wikipedia.org/wiki/Dark_pattern

5 – Forbruukerradet. (2018). “Decieved by design. How tech companies use dark patterns to discourage us from exercising our rights to privacy”.
https://fil.forbrukerradet.no/wp-content/uploads/2018/06/2018-06-27-deceived-by-design-final.pdf, p.7

6 – Forbruukerradet. (2018). “Decieved by design. How tech companies use dark paterns to discourage os from ejercer tus rights to privacy”.
https://fil.forbrukerradet.no/wp-content/uploads/2018/06/2018-06-27-deceived-by-design-final.pdf, pgs. 6-7

7 – ¿Do users change their settings?” 

https://www.uie.com/brainsparks/2011/09/14/do-users-change-their-settings

8 – Frío D. Davis. “Perceived Usefulness, Perceived Ease of Use, y User Acceptance of Information Technology.” MIS Quarterly. Vuelo. 13, No. 3 (Sep., 1989), pp. 319-340.
https://www.researchgate.net/profile/Fred-Davis-3/publication/200085965

9 – Mauricio S. Featherman, Anthony D. Miyazaki, David E. Sprott (2010). “Reducing online privacidad risk a la facilidad de e‐service adopción: la influencia de perceiven efecto de uso y corporate credibility”. Journal of Services Marketing. ISSN: 0887-6045.
https://www.emerald.com/insight/content/doi/10.1108/08876041011040622/full/html

10 – Eija Kaasinen (2005). User aceptance of Mobile services – value, ease of use, trust and ease of adoption. VTT Information Technology. p. 94,
https://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.97.455&rep=rep1&type=pdf

11 – Entre otros: Fred D. Davis. “Perceived Usefulness, Perceived Ease of Use, y User Acceptance of Information Technology.” MIS Quarterly. Vuelo. 13, No. 3 (Sep., 1989), pp. 319-340. https://www.jstor.org/stable/249008?seq=1, Eija Kaasinen. User aceptance of mobile services-value, ease of use, trust and ease of adoption. http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.97.455&rep=rep1&type=pdf , Nadim Jahangir, Noorjahan Begum. “El role perceived usefulness, percibido como uso, seguridad y privacy, y customer attitude en engender customer adaptación in the context of electronic banking.” 2008. https://www.semanticscholar.org/paper/The-role-of-perceived-usefulness%2C-perceived-ease-of-Jahangir-Begum/6933a520a292c307a74a6e7a6e4fd6ac9e627 E _ .Sprott. “Reducing online privacidad risk a la facilidad de e‐service adopción: la influencia de perceiven efecto de uso y corporate credibility”. Journal of Services Marketing. ISSN: 0887-6045. Publication date: 25 May 2010.
https://www.emerald.com/insight/content/doi/10.1108/08876041011040622/full/html

12 – Kyle B. Murray y Gerald Häubl. “Freedom of Choice, Ease of Use, y la formación de Interface Preferences.” MIS Quarterly. Vuelo. 35, No. 4 (December 2011), pp. 955-976.
https://link.springer.com/article/10.1007/s00355-003-0277-z

13 – Feng Zhu, Marco Yansiti. “Why Some Platforms Thrive and Others Don’t”, Enero-Febrero 2019. https://hbr.org/2019/01/why-some-platforms-thrive-and-others-dont

14 – HERRERA-TAPIAS, BELINHA; ÁLVAREZ-ESTRADA, JASSIR. “El mercado y la libertad contractual de los consumidores en los contratos por adhesión.” Revista Juridicas. jul-dic2015, Vol. 12 Issue 2, p26-41. https://dialnet.unirioja.es/servlet/articulo?codigo=7537578, p.7.

15 – Luis Martín Ballestero Hernández. La interpretación de los contratos de adhesión por la Jurisprudencia del Tribunal Supremo. Revista Crítica de Derecho Inmobiliario. Nº. 581, Julio – Agosto 1987. Pss 1083-1098.
https://libros-revistas-derecho.vlex.es/vid/interpretacion-contratos-adhesion-supremo-333285

16 – Salazar, Diego F. “Asimetrías de Información y Análisis Económico de los Contratos de Adhesión: Una reflexión teórica sobre el ejercicio de la libertad contractual.”, 2006.
https://escholarship.org/uc/item/3mk2r7vb

17 – Nili Steinfeld. “Y agree a los términos y condiciones”: (How) ¿do users read privacy policies online? An eye-tracking experiment.” Computeros en Human Behavior. Volume 55, Parte B, February 2016, Pages 992-1000.
https://www.sciencedirect.com/science/article/pii/S0747563215301692
17b – https://www.visualcapitalist.com/terms-of-service-visualizing-the-length-of-internet-agreements/

18 – Financial Times: Big Tech companies want to act like governments. https://www.ft.com/content/36f838c0-53c5-11ea-a1ef-da1721a0541e

19 – Enrique Dans. “Big tech finally faces regulation: it won’t be easy.” Sep 14, 2019.
https://medium.com/enrique-dans/big-tech-finally-faces-regulation-it-wont-be-easy-4ecf5221a0cf

20 -Lalit K Jha, PTI (2021). «Self-regulation in social media no working: White House». https://economictimes.indiatimes.com/tech/technology/self-regulation-in-social-media-not-working-white-house/articleshow/86774172.cms

21 – Damian Tambini, Danilo Lepnardi, Chris Marsden. (2008). The privatisation of censorship: self regulation and freedom of expression. In: Tambini, Damian and Leonardi, Codifying cyberspace: comunicaciones self-regulation in the age of internet convergence. Routeledge/UCL Press, Abingdon, UK, pp. 269-289. ISBN 9781844721443
https://www.researchgate.net/publication/265489539_The_privatisation_of_censorship_self_regulation_and_freedom_of_expression