AI

Diseño ético de experiencias con Inteligencia Artificial - Parte 2

Publicado por
Fernando Roblero
Diseño ético de experiencias con Inteligencia Artificial - Parte 2
Escrito por
Fernando Roblero
Publicado en
January 12, 2024
Tiempo de lectura
8 min
Categoría
AI

En esta segunda parte hablaremos sobre cómo diseñar productos con inteligencia artificial en conformidad con las leyes.

Algo que debemos tener presente es que, en un mundo cada vez más impulsado por la inteligencia artificial (IA), los diseñadores y desarrolladores de productos se enfrentan a desafíos adicionales para asegurarse de que sus creaciones cumplan con las leyes y regulaciones vigentes. Actualmente, las leyes pueden ejercer una influencia significativa en el diseño y uso de productos basados en IA, por lo resulta crucial mantenerse al tanto de estas normativas, que además están en constante evolución.

A continuación te comparto algunos ejemplos concretos:

GDPR: Protección de Datos en Europa

Nuestra primera parada nos lleva a la Unión Europea y su Ley General de Protección de Datos (GDPR). Aunque la GDPR no fue concebida específicamente para regular la IA, su alcance es considerable en el mundo de la tecnología. La GDPR aborda temas clave, como la minimización de datos, el consentimiento informado y la transparencia, que son fundamentales para el diseño de productos basados en IA que recopilan y procesan datos personales. Los diseñadores deben ser conscientes de cómo estos principios se aplican a sus productos y garantizar que se cumplan.

México y la Protección de Datos Personales

En México, la Ley Federal de Protección de Datos Personales en Posesión de los Particulares establece principios fundamentales, como la licitud, el consentimiento, la calidad y la proporcionalidad en el tratamiento de datos personales. Aunque esta ley no está dirigida específicamente a la IA, su impacto se extiende a cualquier producto o servicio que maneje datos personales, lo que incluye la mayoría de los sistemas de IA. Los diseñadores en México o que trabajen para cliente allí deben incorporar estos principios en el diseño de productos de IA para garantizar su conformidad legal y ética.

California y la Privacidad del Consumidor

La Ley de California de Privacidad del Consumidor (CCPA) es una legislación que otorga a los consumidores de la zona derechos significativos sobre sus datos personales. Similar a la GDPR, la CCPA da a los usuarios el derecho a conocer qué datos se recopilan, a rechazar la venta de sus datos y a solicitar la eliminación de estos. Para las empresas que ofrecen productos o servicios en California, el diseño de productos basados en IA debe considerar cómo cumplir con estos derechos del consumidor.

Además de las leyes generales de protección de datos, es importante considerar las regulaciones sectoriales que pueden ser aplicables. Por ejemplo, las leyes de salud y finanzas pueden tener requisitos específicos para el manejo de datos en productos de IA relacionados con estos sectores. Además, organizaciones de estándares como el Instituto Nacional de Estándares y Tecnología (NIST) en los Estados Unidos están desarrollando marcos de referencia para la IA que podrían tener implicaciones en el diseño de productos.

Caso de Estudio: Microsoft y Cortana

Un ejemplo ilustrativo de cómo estas leyes afectan el diseño de productos de IA es el caso de Microsoft y su asistente virtual, Cortana. Para cumplir con la GDPR, Microsoft debió obtener el consentimiento explícito de los usuarios antes de recopilar datos de voz y proporcionar transparencia sobre su uso. Bajo la CCPA, la empresa tuvo que permitir a los usuarios optar por no vender sus datos personales recopilados a través de Cortana. Este caso demuestra cómo las empresas deben adaptar sus productos de IA para cumplir con diversas regulaciones.

¿Qué pasa con estas regulaciones en LATAM?

En octubre de este año, Santiago de Chile fue sede del primer foro sobre ética de la inteligencia artificial de América Latina y el Caribe. En esta instancia, los países de la región se comprometieron a trabajar en conjunto para promover el desarrollo ético y responsable de la IA.

En la Declaración de Santiago, los países se comprometieron a:

  • Garantizar que la IA se desarrolle y utilice de manera compatible con los derechos humanos, la diversidad cultural y la soberanía de los países.
  • Promover la transparencia y la rendición de cuentas en el desarrollo y uso de la IA.
  • Proteger la privacidad y la seguridad de los datos personales.
  • Fomentar la participación de todos los sectores de la sociedad en el desarrollo de la IA.

Durante el último tiempo, los gobiernos centro y latinoamericanos han dado pasos importantes en la promoción de la ética en el desarrollo de la IA: la creación del Consejo Regional de Inteligencia Artificial para América Latina y el Caribe es un ejemplo de esta nueva dirección, que apunta a garantizar que la IA se use de manera beneficiosa para todos.

IA Safety Summit: Primera Cumbre Mundial

La primera Cumbre Mundial sobre Seguridad de la Inteligencia Artificial (AI Safety Summit) se celebró en Bletchley Park este 1 y 2 de Noviembre de 2023, el lugar en el que Alan Turing rompió el Enigma, con la participación de 28 gobiernos, incluyendo la UE, EE UU y China. Los participantes firmaron la Declaración de Bletchley, en la que reconocen que la IA tiene un gran potencial para mejorar la vida humana, pero también plantea riesgos significativos, incluso catastróficos. Por ello, acordaron la necesidad de regular su desarrollo de forma colectiva.

El mensaje de la cumbre es de urgencia. El primer ministro británico, Rishi Sunak, propuso crear un Grupo Intergubernamental de Expertos sobre la IA, similar al IPCC, y celebrar cumbres cada seis meses. El día anterior, el G-7 anunció su código ético para las empresas que desarrollen sistemas de IA y el presidente de EE UU, Joe Biden, promulgó una orden ejecutiva para promover y controlar esta tecnología.

Estas iniciativas muestran que la comunidad internacional está cada vez más preocupada por los riesgos de la IA. Es importante que se trabaje de forma coordinada para garantizar que esta tecnología se desarrolle de forma segura y responsable.

En la actualidad nos encontramos en un entorno normativo en constante cambio, donde es de suma importancia para las empresas que diseñan y desarrollan productos con inteligencia artificial mantenerse al día con las leyes y regulaciones pertinentes, y así poder implementarlas con éxito. A medida que la IA se vuelve más omnipresente en nuestras vidas, es crucial asegurarse de que los productos que la utilizan sean éticos y respeten los valores fundamentales de la sociedad.

Es esencial establecer una cultura de cumplimiento dentro de las organizaciones que trabajan con IA promoviendo la educación y la capacitación continua sobre las leyes y regulaciones pertinentes, así como estableciendo procesos y controles internos para garantizar su correcta aplicación.

What’s a Rich Text element?

The rich text element allows you to create and format headings, paragraphs, blockquotes, images, and video all in one place instead of having to add and format them individually. Just double-click and easily create content.

Static and dynamic content editing

A rich text element can be used with static or dynamic content. For static content, just drop it into any page and begin editing. For dynamic content, add a rich text field to any collection and then connect a rich text element to that field in the settings panel. Voila!

How to customize formatting for each rich text

Headings, paragraphs, blockquotes, figures, images, and figure captions can all be styled after a class is added to the rich text element using the "When inside of" nested selector system.

Descarga nuestro Clever UI KIT 👇

Gracias. Te será enviado un mail confirmando la inscripción
¡Ups! Algo salió mal al enviar el formulario.
Gracias. Por rellenar el formulario
¡Ups! Algo salió mal al enviar el formulario.
Gracias. Te será enviado un mail confirmando la inscripción
¡Ups! Algo salió mal al enviar el formulario.
Gracias. Te será enviado un mail confirmando la inscripción
¡Ups! Algo salió mal al enviar el formulario.
Gracias. Por rellenar el formulario
¡Ups! Algo salió mal al enviar el formulario.

Crea tu propio manual de marca con esta plantilla gratuita.
¡Organiza tus activos de diseño de forma más eficiente!

¿¡Listo para innovar con IA y cumplir regulaciones globales?