La disponibilidad de watsonx.governance, la nueva solución de IBM para apoyar a empresas y entidades públicas en la mejor utilización de la IA generativa, está a punto de llegar. Esta herramienta busca reducir el riesgo de sesgos y garantizar la seguridad y transparencia en el uso de los LLM y los datos utilizados para su entrenamiento.
Reduciendo los riesgos de la IA con watsonx.governance
La IA generativa es una tecnología formidable que ha experimentado una rápida adopción tanto en empresas como en individuos. Sin embargo, sigue siendo una tecnología joven con numerosas limitaciones, especialmente en lo que respecta a los conjuntos de datos utilizados para entrenar los modelos. Estos datos suelen obtenerse principalmente a través de scraping de contenidos en línea, lo que presenta diversos problemas, como la falta de privacidad y la presencia de datos erróneos que afectan la precisión de las aplicaciones de IA generativa.
La propuesta de IBM con watsonx.governance es abordar estos riesgos, proporcionando a empresas y entidades públicas las herramientas necesarias para gestionar, monitorear y gobernar los modelos, permitiendo la integración de una variedad de LLM provenientes de diferentes proveedores de tecnología y comunidades de código abierto.
Esta solución de IBM ayuda a los clientes a cumplir con las normativas vigentes en diversos países, generando políticas y flujos de trabajo empresariales. Además, incluye herramientas para monitorear los flujos de trabajo que utilizan IA, así como para gestionar los modelos, identificar y corregir automáticamente posibles sesgos, todo ello bajo un enfoque sin necesidad de código.
Los casos de uso son variados e incluyen desde la gestión del riesgo crediticio, que se vuelve más precisa al eliminar posibles sesgos, hasta la gestión de la cadena de suministro, donde la IA puede estimar la demanda futura. En el ámbito de recursos humanos, la solución de IBM puede hacer que el proceso de selección de candidatos sea más transparente, reduciendo los prejuicios potenciales. Por último, IBM señala que en el ámbito de la salud, la adopción de watsonx.governance puede mejorar la toma de decisiones de los médicos, permitiéndoles sugerir tratamientos más precisos y reducir los errores debidos a diagnósticos erróneos.
«Los consejos de administración y los CEO de las empresas están buscando cosechar los beneficios de los modelos de inteligencia artificial más potentes, pero se enfrentan a riesgos debido a la falta de transparencia y la incapacidad de gestionar dichos modelos”, explica Kareem Yusuf, Ph.D, Vicepresidente Senior de Gestión de Productos y Crecimiento de Software de IBM. «Watsonx.governance es una plataforma con una interfaz única para empresas que tienen dificultades para integrar y gestionar LLM y modelos de ML, proporcionando las herramientas necesarias para automatizar los procesos de gobierno de la IA, monitorear los modelos y tomar medidas correctivas, todo ello con una mayor visibilidad. Su capacidad para traducir regulaciones en políticas aplicables se volverá cada vez más esencial para las empresas a medida que se introduzcan nuevas regulaciones sobre IA en todo el mundo«.
