Los usuarios corporativos de IA generativa ven un gran potencial, así como un riesgo sustancial, en esta tecnología en constante evolución.
Según una nueva encuesta realizada a más de 400 profesionales de alto nivel y de tecnología de la información de Portal26 y CensusWide, el 84% de los encuestados han invertido o planean invertir en IA generativa, la cual se basa en el aprendizaje automático (ML) y puede crear nuevo contenido e ideas, como conversaciones, historias, imágenes, videos y música.
Sin embargo, el 73% de los encuestados ya han experimentado un incidente de seguridad o mal uso de la IA generativa, y el 67% de ellos ocurrieron en el último año. De aquellos encuestados cuyas empresas han adoptado la IA, el 85% está preocupado por los riesgos de privacidad y seguridad que conlleva.
Las principales preocupaciones de la IA generativa son las siguientes:
- Reglas y cumplimiento tanto internos como externos (64% y 62%, respectivamente).
- Gobernanza (63%).
- Uso de indicaciones por parte de los empleados (63%).
- Protección de la propiedad intelectual (62%).
- Seguridad de los datos (60%).
- Capacitación de los empleados (58%).
- Shadow AI (uso desconocido o no autorizado de la IA generativa – 58%).
- Privacidad de los datos (56%).
- Sesgo en el entrenamiento (55%).
Vea también: Vigilancia inteligente como herramienta para el bien social
La seguridad de los datos es un problema especialmente apremiante para las grandes organizaciones encuestadas con 5.000 o más empleados, el 93% de las cuales informaron preocupaciones elevadas en torno a la Shadow AI. Según el análisis de Portal26, esto se debe a que cuantos más empleados tiene una empresa, más puntos de entrada potenciales existen para un actor malintencionado o un error humano inadvertido.
A pesar de estas preocupaciones, los encuestados también expresaron una perspectiva positiva sobre los beneficios de la IA generativa para sus empresas, con un 82% que informó tener una gran confianza en que la GenAI les otorga una ventaja competitiva. Sin embargo, el 80% ya ha implementado pautas y políticas en torno a la IA, mientras que el 68% ha creado y compartido políticas de uso aceptable para garantizar que los empleados no compartan información privada de manera inadvertida o violen accidentalmente los mandatos de cumplimiento.
Aunque casi todos los encuestados (99%) dijeron que han invertido o van a invertir en una herramienta de gobernanza de datos de GenAI para su empresa, el entrenamiento de los empleados en GenAI está rezagado en comparación con los avances tecnológicos. Casi seis de cada diez (58%) encuestados brindan menos de cinco horas de educación y capacitación anual sobre temas de GenAI a sus empleados.
«Con la adopción generalizada de GenAI entre las corporaciones, estamos presenciando un experimento masivo en tiempo real», dijo Arti Raman, fundador y CEO de Portal26. «Los beneficios de GenAI son innegables, pero la falta de visibilidad inevitablemente conducirá a una menor productividad y mayores riesgos en torno a la seguridad, Shadow AI, gobernanza, privacidad y más».
