Las preocupaciones sobre la privacidad están limitando en parte la adopción de la IA generativa por parte de las empresas. Cisco revela esto en su informe Data Privacy Benchmark Study 2024, realizado tras entrevistar a 2.600 profesionales de privacidad y seguridad en 12 países, incluyendo Italia.
IA generativa: los temores de las empresas sobre la privacidad
Como hemos destacado en varias ocasiones en Edge9, herramientas de IA generativa como ChatGPT pueden impulsar significativamente la productividad de una empresa, automatizando y acelerando una variedad de procesos. Sin embargo, el tema de la privacidad sigue siendo crucial: al alimentar información a ChatGPT, esencialmente se proporcionan más datos al LLM, lo cual representa un gran problema para la confidencialidad de la información, especialmente la relacionada con los clientes.
Según el informe de Cisco, el 91% de las empresas examinadas afirma que es necesario hacer más para garantizar la privacidad de sus clientes. Además, la gran mayoría (94%) es plenamente consciente de que los clientes podrían dejar de adquirir productos y servicios si no se les brindan garantías suficientes sobre cómo se tratan sus datos personales. Como explica Harvey Jang, vicepresidente y director de privacidad de Cisco, «El 94% de los encuestados afirma que los clientes solo compran si sus datos están adecuadamente protegidos. Los consumidores buscan pruebas concretas de que la organización es confiable. La privacidad está intrínsecamente ligada a la confianza y lealtad de los clientes. Esto es aún más evidente cuando se trata de IA, donde invertir en privacidad permite que las organizaciones actúen de manera ética y responsable«.
Por un lado, el 79% de la muestra sostiene que la IA generativa está aportando valor a la empresa, pero por otro lado, temen que las incertidumbres relacionadas con la privacidad puedan causar más perjuicios que beneficios. Casi la mitad (48%) de las empresas encuestadas admite que sus empleados proporcionan información confidencial a las aplicaciones de IA generativa. En Italia, en particular, el 38% declara haber incluido información sensible, incluyendo datos sobre empleados (33%) y sobre la empresa (38%). Por este motivo, la abrumadora mayoría (92%) afirma que se necesitan nuevas técnicas para gestionar adecuadamente estos datos.
IA generativa y privacidad: ¿qué están haciendo las empresas italianas?
Para evitar problemas legales y la disminución de la confianza de sus clientes, la mayoría de las empresas están implementando sistemas adicionales y verificaciones para garantizar un mejor control de su información. ¿Cuáles? Un poco más de la mitad, el 51%, ha impuesto limitaciones sobre el tipo de datos que pueden ingresarse en las aplicaciones de IA generativa. Este porcentaje aumenta al 63% a nivel mundial. El 51% (61% a nivel mundial) ha decidido establecer límites sobre las herramientas de GenIA que pueden ser utilizadas. Además, hay una minoría significativa (21% en Italia, 27% a nivel mundial) que por precaución ha decidido prohibir completamente el uso de aplicaciones de IA generativa.
En detalle, el informe de Cisco destaca que las empresas que han optado por no limitar el uso de la IA generativa están tomando medidas para reducir los riesgos. El 50% está trabajando en la formación, para explicar cómo funcionan este tipo de aplicaciones y cuáles son los posibles riesgos. Un 49% ha establecido programas internos para garantizar un uso ético de la tecnología, mientras que un tercio de la muestra (33%) afirma realizar verificaciones internas en las aplicaciones de GenIA para verificar la ausencia de posibles sesgos, los «prejuicios» inherentes en los modelos de IA o en los datos utilizados para entrenarlos.
«Las organizaciones consideran a la GenAI como una tecnología llena de desafíos«, explica Dev Stahlkopf, Director Legal de Cisco. «Más del 90% de los encuestados considera que la GenAI requiere nuevas técnicas para la gestión y seguridad de los datos y riesgos. Aquí es donde entra en juego una gobernanza cuidadosa. La confianza de los clientes está en juego«.
