Riesgos al usar ChatGPT y GPT-4 para las Empresas

GIGA

Riesgos al usar ChatGPT y GPT-4 para las Empresas, desde el 1 de marzo de 2023, OpenAI no utiliza los datos de los clientes enviados a través de la API para entrenar o mejorar ChatGTP. Esta ha sido una de las principales preocupaciones que me han comentado las empresas con la que me he reunido para conversar y explorar el uso de IA en sus operaciones. Y no deja de ser un tema fundamental para la adopción de modelo LLM, que permiten ahorrar tiempo, liberar recursos y desbloquar innovación dentro de las organizaciones.

Un Modelo de Lenguaje Grande (LLM, por sus siglas en inglés) es una red neuronal basada en un componente específico llamado «transformer». «Grande» en el caso de LLM significa muy, muy, muy grande, como en la escala de millones y miles de millones. «Lenguaje» se refiere al hecho de que las palabras, oraciones, párrafos, los componentes básicos del lenguaje, viven en el centro de cómo funciona este tipo de IA «semántica». Los «modelos» son representaciones matemáticas de una gran cantidad de información escrita.
Es importante destacar que cuando se les hace una pregunta, los LLM no están «buscando» una respuesta. En cambio, producen una cadena de palabras prediciendo cuál palabra sería la más adecuada para seguir a la anterior, teniendo en cuenta el contexto más amplio de las palabras que la preceden. En esencia, proporcionan una respuesta de «sentido común» a una pregunta.


Banner_frasco-suscripcion-800x250

Si bien los LLM más potentes han demostrado su capacidad para producir respuestas en gran medida precisas en una amplia gama de tareas, la precisión de esas respuestas no puede garantizarse. Además, existe la posibilidad que dado los datos ingresados a ChatGPT por usuarios empresariales, que contengan información sensible y de caracter privado, se utilizen para el entrenamiento del modelo. Esto supone posteriormente que otros usuarios podrian ser capaces de generar como respuesta información critica de una organización. Un ejmplo simple de esto es preguntarle a ChatGPT sobre el ingrediente secreto de Coca-Cola, o la receta de la salsa McDonalds.

Conoce más aquí

Banner_azules
Reciba las últimas noticias de la industria en su casilla:

Suscribirse ✉