.png)
En esta segunda parte hablaremos sobre cómo diseñar productos con inteligencia artificial en conformidad con las leyes.
Algo que debemos tener presente es que, en un mundo cada vez más impulsado por la inteligencia artificial (IA), los diseñadores y desarrolladores de productos se enfrentan a desafíos adicionales para asegurarse de que sus creaciones cumplan con las leyes y regulaciones vigentes. Actualmente, las leyes pueden ejercer una influencia significativa en el diseño y uso de productos basados en IA, por lo resulta crucial mantenerse al tanto de estas normativas, que además están en constante evolución.
A continuación te comparto algunos ejemplos concretos:
Nuestra primera parada nos lleva a la Unión Europea y su Ley General de Protección de Datos (GDPR). Aunque la GDPR no fue concebida específicamente para regular la IA, su alcance es considerable en el mundo de la tecnología. La GDPR aborda temas clave, como la minimización de datos, el consentimiento informado y la transparencia, que son fundamentales para el diseño de productos basados en IA que recopilan y procesan datos personales. Los diseñadores deben ser conscientes de cómo estos principios se aplican a sus productos y garantizar que se cumplan.
En México, la Ley Federal de Protección de Datos Personales en Posesión de los Particulares establece principios fundamentales, como la licitud, el consentimiento, la calidad y la proporcionalidad en el tratamiento de datos personales. Aunque esta ley no está dirigida específicamente a la IA, su impacto se extiende a cualquier producto o servicio que maneje datos personales, lo que incluye la mayoría de los sistemas de IA. Los diseñadores en México o que trabajen para cliente allí deben incorporar estos principios en el diseño de productos de IA para garantizar su conformidad legal y ética.
La Ley de California de Privacidad del Consumidor (CCPA) es una legislación que otorga a los consumidores de la zona derechos significativos sobre sus datos personales. Similar a la GDPR, la CCPA da a los usuarios el derecho a conocer qué datos se recopilan, a rechazar la venta de sus datos y a solicitar la eliminación de estos. Para las empresas que ofrecen productos o servicios en California, el diseño de productos basados en IA debe considerar cómo cumplir con estos derechos del consumidor.
Además de las leyes generales de protección de datos, es importante considerar las regulaciones sectoriales que pueden ser aplicables. Por ejemplo, las leyes de salud y finanzas pueden tener requisitos específicos para el manejo de datos en productos de IA relacionados con estos sectores. Además, organizaciones de estándares como el Instituto Nacional de Estándares y Tecnología (NIST) en los Estados Unidos están desarrollando marcos de referencia para la IA que podrían tener implicaciones en el diseño de productos.
Un ejemplo ilustrativo de cómo estas leyes afectan el diseño de productos de IA es el caso de Microsoft y su asistente virtual, Cortana. Para cumplir con la GDPR, Microsoft debió obtener el consentimiento explícito de los usuarios antes de recopilar datos de voz y proporcionar transparencia sobre su uso. Bajo la CCPA, la empresa tuvo que permitir a los usuarios optar por no vender sus datos personales recopilados a través de Cortana. Este caso demuestra cómo las empresas deben adaptar sus productos de IA para cumplir con diversas regulaciones.
En octubre de este año, Santiago de Chile fue sede del primer foro sobre ética de la inteligencia artificial de América Latina y el Caribe. En esta instancia, los países de la región se comprometieron a trabajar en conjunto para promover el desarrollo ético y responsable de la IA.
En la Declaración de Santiago, los países se comprometieron a:
Durante el último tiempo, los gobiernos centro y latinoamericanos han dado pasos importantes en la promoción de la ética en el desarrollo de la IA: la creación del Consejo Regional de Inteligencia Artificial para América Latina y el Caribe es un ejemplo de esta nueva dirección, que apunta a garantizar que la IA se use de manera beneficiosa para todos.
La primera Cumbre Mundial sobre Seguridad de la Inteligencia Artificial (AI Safety Summit) se celebró en Bletchley Park este 1 y 2 de Noviembre de 2023, el lugar en el que Alan Turing rompió el Enigma, con la participación de 28 gobiernos, incluyendo la UE, EE UU y China. Los participantes firmaron la Declaración de Bletchley, en la que reconocen que la IA tiene un gran potencial para mejorar la vida humana, pero también plantea riesgos significativos, incluso catastróficos. Por ello, acordaron la necesidad de regular su desarrollo de forma colectiva.
El mensaje de la cumbre es de urgencia. El primer ministro británico, Rishi Sunak, propuso crear un Grupo Intergubernamental de Expertos sobre la IA, similar al IPCC, y celebrar cumbres cada seis meses. El día anterior, el G-7 anunció su código ético para las empresas que desarrollen sistemas de IA y el presidente de EE UU, Joe Biden, promulgó una orden ejecutiva para promover y controlar esta tecnología.
Estas iniciativas muestran que la comunidad internacional está cada vez más preocupada por los riesgos de la IA. Es importante que se trabaje de forma coordinada para garantizar que esta tecnología se desarrolle de forma segura y responsable.
En la actualidad nos encontramos en un entorno normativo en constante cambio, donde es de suma importancia para las empresas que diseñan y desarrollan productos con inteligencia artificial mantenerse al día con las leyes y regulaciones pertinentes, y así poder implementarlas con éxito. A medida que la IA se vuelve más omnipresente en nuestras vidas, es crucial asegurarse de que los productos que la utilizan sean éticos y respeten los valores fundamentales de la sociedad.
Es esencial establecer una cultura de cumplimiento dentro de las organizaciones que trabajan con IA promoviendo la educación y la capacitación continua sobre las leyes y regulaciones pertinentes, así como estableciendo procesos y controles internos para garantizar su correcta aplicación.
