Preguntas desafiantes están surgiendo en torno a las estrategias de IA empresarial, y los CIO deben al menos ser capaces de dar forma a las conversaciones sobre estos temas, si no responder a ellas.
La inteligencia artificial ha provocado una gran cantidad de discusión y debate, con trabajadores, ejecutivos de alto perfil y líderes mundiales oscilando entre elogios y temores sobre la IA.
Si bien los CIO no han sido llamados a testificar ante el Congreso, están siendo interrogados en salas ejecutivas y salas de juntas, ya que los líderes empresariales recurren a sus jefes de tecnología con todo tipo de preguntas desafiantes que se espera que los CIO respondan.
Así que prepárate.
«El CIO está en el centro de esas conversaciones», dice Tim Crawford, asesor estratégico de CIO en la firma de asesoría de TI AVOA con sede en Los Ángeles. «El CIO no tiene que conocer toda la información, pero como alguien que ve en toda la organización, el CIO debería poder aportar ideas que ayuden a los otros ejecutivos a juntar todas las piezas».
Los líderes de TI dicen que están discutiendo desde los costos de implementación de la IA hasta si la IA es una amenaza existencial para la humanidad, como algunos temen. Y aunque no pueden responder a esto último, deben liderar las conversaciones sobre lo primero y otros temas similares.
Aquí están las conversaciones centrales sobre IA que deberías tener con tus equipos, líderes de líneas de negocio, colegas de la alta dirección y la junta directiva.
1 – ¿Qué casos de negocio realmente necesitan IA?
ChatGPT causó bastante revuelo después de su lanzamiento a finales de 2022, con personas ansiosas por poner a prueba la nueva tecnología. El lanzamiento también puso a la IA en el centro de atención y en la cima de muchas agendas corporativas. El informe CEO Outlook Pulse de octubre de 2023 de la firma de servicios profesionales EY informó que el 99% de los directores ejecutivos planeaban invertir en IA generativa.
Pero ¿están esos directores ejecutivos realizando las inversiones correctas? Esa es la pregunta que muchos CIOs se están haciendo, ya que algunos informan que ahora son ellos quienes plantean puntos sobre las necesidades empresariales y el valor empresarial cada vez que hay demanda de una solución de IA.
El CIO del Estado de Alaska, Bill Smith, ha estado en esa situación. Un empleado declaró la necesidad de una solución de IA, pero cuando se le presionó para que diera las razones, el trabajador respondió solo con: «Simplemente necesitamos IA».
«Todos estamos hablando de IA, y hay muchas expectativas y exageraciones alrededor de ella, pero al mismo tiempo hay realmente esta falta de rigor en torno a los casos de uso que pueden desarrollarse en estos ciclos de exageración. Así que a menudo la gente viene con soluciones en mente y no con problemas que resolver. Así que pregunto, ‘¿Qué específicamente estás tratando de abordar?’ porque tal vez lo que necesitan no es IA», dice Smith.
La tendencia actual de hablar sobre el uso de la IA, en lugar de enfocarse primero en el problema a resolver o la oportunidad a aprovechar, no es sorprendente, dada la exageración en torno a la IA generativa, dice Smith. Aun así, su objetivo es hacer que las conversaciones sean más productivas educando a otros sobre la inteligencia artificial. Él y su equipo han creado presentaciones, documentos y presentaciones que describen los diversos tipos de IA y cómo pueden ser utilizados, y explican cómo y dónde la IA y el aprendizaje automático pueden ser útiles, y por qué no es la solución a todos los problemas que tienen.
Vea también: NRF destaca cuatro principios rectores para el uso de la inteligencia artificial
2 – ¿Qué ideas proporcionarán verdadero valor empresarial?
Las inversiones empresariales en IA están dando frutos, en gran medida.
Un informe reciente, «The Business Opportunity of AI», encargado por Microsoft y realizado por IDC, encuestó a 2.100 líderes empresariales globales y descubrió que están viendo un retorno del 350%, obteniendo $3.50 por cada $1 invertido en IA. Además, el tiempo promedio para que las organizaciones obtengan retornos de sus inversiones en IA es dentro de los 14 meses posteriores a la implementación.
A pesar de tales hallazgos, los CIOs dicen que se encuentran recordando a sus colegas y equipos que no todos los proyectos de IA valen la pena perseguir o valen la pena perseguir de inmediato.
«Es muy fácil emocionarse con la tecnología como la IA, y la gente quiere implementar 100 pilotos y pruebas diferentes, pero hay que enfocarse en las ideas que proporcionarán valor a la organización», dice Juan Pérez, CIO del fabricante de software Salesforce.
«Es un dilema interesante que tienen los CIOs. Queremos asegurarnos de habilitar a la empresa para utilizar nuevas tecnologías; ese es mi objetivo personal. Pero también quiero asegurarme de que lo que hago esté alineado con la empresa y sus objetivos para que pueda tener éxito», dice.
Para hacer eso, Pérez evalúa los proyectos de IA como lo haría con otros proyectos construidos con tecnologías menos populares, trabajando con equipos para evaluar el caso de uso, las necesidades de gobernanza, los beneficios empresariales anticipados y los retornos esperados.
«No puedes diluir tus esfuerzos en proyectos que no proporcionarán valor», agrega Pérez. «Así que elige esas pocas áreas clave donde puedas ver el valor y el gran propósito que la IA puede brindar a la organización y apuesta por ellas, enfócate en ellas, aprende de ellas y expande hacia otras áreas a medida que aprendas».
3 – Dado las limitaciones de recursos, ¿qué podemos lograr razonablemente?
Después de la aparición de la IA generativa, Nicholas Colisto, vicepresidente senior y CIO del fabricante multinacional Avery Dennison, trabajó para que su empresa aprovechara su potencial. Colisto educó a los líderes sobre las capacidades y riesgos de la IA para mover a la empresa de un «no» a un «saber». Avery Dennison ha avanzado en la ideación, pilotos y producción de la IA generativa.
Sin embargo, Colisto ha tenido que equilibrar el impulso con la realidad de los recursos disponibles.
No hay un nuevo presupuesto disponible para la IA, y algunas personas pensaron erróneamente que las prácticas de financiamiento de la empresa no se aplicaban a las iniciativas relacionadas con la IA. Otros CIO también están discutiendo las limitaciones de dinero, talento y tiempo. La falta de talento es un problema actualmente, y las empresas necesitan habilidades específicas para trabajar con IA.
Se requiere una gran capacitación o la contratación de nuevo talento.
Muchas organizaciones se ven afectadas por la falta de talento adecuado.
Según un estudio de Microsoft/IDC, el 52% de los encuestados citaron la falta de trabajadores capacitados como la mayor barrera para implementar y escalar la IA.
Los CIO también están recordando a sus colegas que sus equipos de TI también tienen otros trabajos que hacer. «Tenemos ciclos de proyectos normales. Tenemos proyectos regulares en marcha. No íbamos a abandonarlo todo por la IA», dice Colisto.
En lugar de discutir sobre esos puntos, los CIO dicen que dirigen las conversaciones de vuelta a las prioridades comerciales.
«Estamos pidiendo a nuestras unidades comerciales que identifiquen ideas que se alineen con los objetivos estratégicos y luego hablen sobre los costos de esas ideas, la eficiencia de costos o el impacto generador de ingresos de esas ideas, y la viabilidad de lograr esos beneficios», dice Colisto. «Con la IA, todavía necesitamos que las unidades comerciales identifiquen los programas más basados en el valor. Tenemos cientos de casos de uso en todas las funciones principales, y estamos financiando aquellos que tienen alta prioridad.»
4 – ¿Puede el estado actual de nuestras operaciones de datos entregar los resultados que buscamos?
Otro tema difícil que los CIO están teniendo que abordar con sus colegas es cómo los problemas con la calidad de los datos empresariales obstaculizan sus ambiciones de IA.
Una encuesta de 2023 de más de 1,500 profesionales y tomadores de decisiones en IA, realizada por S&P Global Market Intelligence para el fabricante de plataformas de datos WEKA, encontró que la gestión de datos fue el inhibidor tecnológico más citado para la implementación de IA y aprendizaje automático. De manera similar, el Informe de Encuesta de Riesgos de IA de EE. UU. de 2023 de la firma de servicios profesionales KPMG encontró que la integridad de los datos fue el número 1 entre los tres principales riesgos, seguido por la validez estadística y la precisión del modelo.
«La conversación sobre datos es muy real, y a menudo son los CIO los que dicen: ‘Si no lo arreglas, no se obtendrán los resultados que deseas'», dice Krishna Prasad, director de estrategia y CIO en UST, una empresa de soluciones de transformación digital.
Prasad dice que ha escuchado la conversación en su propia organización, así como en las empresas clientes de la firma.
CIOs dicen que es una discusión particularmente difícil porque generalmente no tienen responsabilidad sobre el estado de los datos comerciales; todo lo que pueden hacer es compartir sus observaciones y ayudar a idear soluciones.
Por otro lado, los CIOs dicen que sus llamados a tomar más medidas sobre la calidad de los datos están ganando más fuerza hoy en día debido a la inteligencia artificial. «La IA está elevando la conversación sobre los datos, porque los datos son ahora más críticos para la empresa que nunca», dice Perez de Salesforce.
6 – ¿Cuál es nuestro apetito por el riesgo y cómo lo abordamos?
Los riesgos y preocupaciones de seguridad en torno a las iniciativas de IA también dominan muchas de las conversaciones que los CIOs tienen con sus colegas ejecutivos y equipos.
Hay buenas razones para eso: las empresas han visto cómo sus datos propietarios y protegidos por regulaciones se alimentan en herramientas de IA abiertas, como ChatGPT. Han visto que la IA produce respuestas sesgadas y resultados fabricados (conocidos como alucinaciones de IA). Y han obtenido resultados de IA que no pueden autenticar o validar debido a la falta de explicabilidad.
«Hay ejemplos por todas partes de personas que están utilizando esta tecnología de maneras que ponen en riesgo a ellos mismos y a su organización, y no se dan cuenta de que lo están haciendo», dice Crawford.
Los CIOs enfatizan que bloquear el uso de la IA no es la respuesta. Prohibir su uso no lo detendrá, ya que es probable que algunos empleados continúen experimentando con ella. Además, los fabricantes de software empresarial están incorporando la IA en los productos y servicios que venden, por lo que la IA está ingresando a la empresa de todos modos. Además, prohibir o limitar su uso debido al miedo a los riesgos desventaja a la organización frente a competidores que están avanzando con iniciativas de IA.
Los CIOs deben llevar esos puntos a la mesa, dicen Crawford y otros. Además, los CIOs ahora deben seguir las discusiones legislativas sobre posibles regulaciones y determinar cómo afectarían la agenda de IA de su organización.
«Es una conversación difícil para los CIO, ya que fomentan la innovación pero al mismo tiempo intentan proteger los datos de los clientes y la propiedad intelectual, porque si los CIO no tienen cuidado con lo que dicen, pueden dar la impresión de ser alguien que se opone o no apoya esta nueva tecnología y las personas buscarán formas de trabajar al margen de usted», agrega Crawford.
6. ¿Cómo aborda nuestra estrategia de IA las preocupaciones éticas? Amanda Crawford, directora ejecutiva del Departamento de Recursos de Información de Texas y CIO del Estado de Texas, dice que está hablando sobre los parámetros éticos y aceptables del uso de la IA como parte de sus conversaciones sobre el uso de la tecnología dentro del gobierno estatal.
«No queremos estar a la vanguardia; eso no es algo a lo que aspiramos, debido a las obligaciones y responsabilidades que conlleva ser el gobierno. Esto también se aplica a otras tecnologías emergentes, y es cierto para una tecnología disruptiva masiva como la IA«, dice. «Así que el ritmo al que nos movemos en el gobierno es un poco más lento, más reflexivo, intencional y deliberado, porque tiene que ser así, debido a la naturaleza de lo que hacemos. Tenemos que mantener la confianza.»
Esto no sugiere que el Estado de Texas no utilice la IA, dice Crawford. De hecho, al igual que muchas entidades privadas, el gobierno estatal de Texas ha implementado chatbots, automatización inteligente y sistemas inteligentes en sus operaciones y está estudiando dónde se podrían utilizar la IA generativa y otras tecnologías de IA más nuevas.
«Pero las conversaciones que estamos teniendo se centran en los desafíos éticos y de privacidad y las obligaciones que tenemos en el gobierno en cuanto a los derechos constitucionales y los derechos de privacidad de nuestros constituyentes. Estas cosas tienen que influir en nuestras decisiones», explica Crawford.
Por ejemplo, esas conversaciones podrían centrarse en si algunas tareas deben ser realizadas por humanos en lugar de sistemas inteligentes debido a la ley, la política pública, las mejores prácticas o las expectativas de los ciudadanos, dice.
«Con frecuencia veo que como CIO es mi función plantear estas preguntas», dice Crawford, añadiendo que ella y muchos otros líderes de TI dentro del Estado de Texas buscan «liderazgo a nivel ejecutivo y legislativo para ayudarnos con las directrices al implementar esto».
Crawford y las entidades gubernamentales no son las únicas que preguntan sobre los parámetros éticos de la IA.
Los CIO están hablando con colegas ejecutivos sobre sus responsabilidades si sus sistemas de IA producen resultados sesgados o alucinaciones, dice Prasad de UST. Están hablando sobre cómo asegurarse de que pueden rastrear y explicar las salidas de IA y qué debería suceder si no pueden.
«La IA te permite hacer todo tipo de cosas, pero la pregunta es si realmente quieres hacerlo. Ese es un tema que requiere una conversación con el equipo ejecutivo e incluso con la junta directiva», dice.
