La Inteligencia Artificial (IA) está penetrando rápidamente en los procesos de innumerables empresas en todos los sectores, y para regular su uso y desarrollo, la UE ha redactado el Acta de IA de la UE, un documento oficial que establece una serie de pautas que tanto las empresas que desarrollan soluciones de IA como las empresas que utilizan esta tecnología deben respetar.
Una serie de reglas fundamentales para garantizar un desarrollo y uso ético y respetuoso de la privacidad de las tecnologías de inteligencia artificial, que ahora deberán ser ratificadas por los Estados miembros. Las empresas que no cumplan corren el riesgo de enfrentar sanciones muy severas: hasta 35 millones de euros, o el 7% de los ingresos, dependiendo de cuál sea la cifra más alta.
Para ayudar a las empresas a introducir la IA en los procesos comerciales de manera segura y respetuosa, SAS propone un enfoque que cubre todo el ciclo de desarrollo de la IA y los datos relacionados. Un marco útil no solo para evitar sanciones, sino también para garantizar que los proyectos de IA estén libres de prejuicios que podrían llevar a decisiones erróneas, anulando las inversiones realizadas en inteligencia artificial. Veamos cuáles son los puntos clave.
¿El Acta de IA de la UE: un freno a la innovación o una oportunidad?
Europa, como es conocido, es muy cuidadosa al legislar sobre varios aspectos, incluido el uso de tecnologías, y tiende a actuar mucho antes que otros países, como los Estados Unidos, para ser a menudo un ejemplo y liderar las regulaciones a nivel global. Un ejemplo de esto es el RGPD, con el que el Viejo Continente fue pionero en las reglas de privacidad, luego adoptadas también por otros países. Y quiere hacer lo mismo con la IA con el Acta de IA de la UE, recientemente aprobada.
Se trata de un reglamento que define los usos legítimos y los inaceptables de las soluciones de IA, excluyendo, por ejemplo, sistemas para la puntuación social, y estableciendo qué sistemas tienen un alto riesgo y qué medidas deben tomarse para minimizar los riesgos y garantizar un uso ético, seguro y respetuoso de la privacidad de la IA. Las multas, como se mencionó, pueden ser sustanciales, incluso solo para aquellos que proporcionen información falsa a las autoridades encargadas de supervisar estos sistemas.
¿Un freno a la innovación? En realidad no: aunque los borradores anteriores del documento fueron criticados por imponer restricciones demasiado estrictas a la investigación, la versión final del documento establece claramente lo que se puede hacer y lo que no. Y, sobre todo, indica cómo deben adquirirse y tratarse los datos utilizados para el entrenamiento de los sistemas de IA. Colocando a las empresas en condiciones de poder desarrollar soluciones de IA seguras y respetuosas desde el principio.
El enfoque de SAS para el ciclo de vida de la IA
El enfoque de SAS abarca todo el ciclo de vida de las soluciones de IA, desde la gestión de datos hasta la generación de resultados, pasando por el desarrollo de los modelos de inteligencia artificial. Una serie de mejores prácticas para las empresas, que al seguirlas no solo podrán garantizar el cumplimiento normativo, sino también desarrollar soluciones efectivas y libres de prejuicios, es decir, los sesgos que la IA podría tener debido a un conjunto de datos poco confiables. Esto podría llevar a respuestas inexactas y, en consecuencia, a decisiones erróneas.
El primer paso del marco ideado por SAS comienza precisamente con la gestión de datos. El enfoque de la multinacional se centra en la gestión de los datos utilizados para el entrenamiento de los modelos. Aquí, las empresas deben prestar atención a la privacidad, asegurándose de que el conjunto utilizado no contenga información que pueda estar relacionada con individuos específicos, anonimizando así los datos y eliminando cualquier información considerada sensible. No es el único aspecto importante en esta fase: también es fundamental asegurarse del contexto de estos datos, de cómo están relacionados entre sí. Y que sean de buena calidad, identificando aquellas informaciones que podrían generar resultados inconsistentes e indeseados.
El segundo paso se refiere al desarrollo del modelo. No basta con garantizar que la información para el entrenamiento sea de buena calidad: también es necesario que las empresas sean capaces de interpretar el modelo generado, comprendiendo cómo se generan los resultados e introduciendo herramientas para verificar la presencia de posibles sesgos interpretativos y corregirlos.
El tercer y último paso del enfoque es el análisis continuo del modelo, que debe ser monitoreado constantemente por herramientas automáticas para asegurarse de que los resultados sean precisos y relevantes con el tiempo. En esta fase, SAS prevé la introducción de las llamadas Model Cards, una especie de «etiquetas» que indican el estado de salud del modelo en términos de precisión de las respuestas.
A excepción de las Model Cards, que se implementarán a partir del verano de 2024, todas las demás herramientas ya están integradas en la suite SAS Viya, una plataforma de datos y análisis de extremo a extremo que permite un desarrollo confiable en cada fase del ciclo de vida de la IA, caracterizada por una interfaz gráfica intuitiva.
Entre las funcionalidades de la solución, supresión de datos (para eliminar información sensible), reparación semántica de tipos, para correlacionar eficazmente los datos con los contextos adecuados, calidad de datos, para verificar la calidad de la información en la base del modelo, Información de Lenguaje Natural, para obtener información sobre el funcionamiento del modelo haciendo preguntas en lenguaje natural.
