¿Temes implantar IA Generativa? Haces bien. No te olvides de cinco cuestiones esenciales: sistemas no determinantes, datos anónimos o falsos

Muchas empresas ya han implementado de una u otra forma la IA en al menos una función empresarial. Además, utilizan diariamente la IA Generativa, muchísimo más que lo que la usaban hace solo un año. A pesar de su gran despunte en el ámbito corporativo, no todo es oro lo que reluce y su integración en aplicaciones empresariales presenta varios desafíos técnicos, organizativos y de procesos.

Retos a los que se enfrentan las empresas en la inclusión de esta tecnología emergente:

• De Chat GPT a Gemini o Claude. Se catalogan como sistemas no determinantes: están programados en la actualidad para que respondan como lo haría un ser humano. Se recomienda incluir sistemas que detecten si el modelo de IA Generativa está respondiendo bien según un contexto u otro.
• Están diseñados para interactuar con humanos, no entre otras máquinas o robots: esto puede provocar dificultades cuando interaccionan con otro sistema automatizado. Es necesario desarrollar mecanismos que validen y filtren para asegurar respuestas coherentes con aplicaciones monitorizadas.
• Requieren muchos recursos, lo que puede aumentar los costes: es crucial usar sistemas de Big Data que haga una primera función de filtrado de información, y después usar la IA Generativa con aquellos datos y elementos que hayan sobrevivido a esta primera criba.
• Están programados con lenguaje natural: esto transforma la interacción con la IA en una colaboración similar a una conversación con un humano en la que hay que establecer un contexto. Para que haya una mejora continua, es muy importante la supervisión constante y la creación de actualizaciones que se generan a raíz de un trabajo colaborativo.
• Pueden poner la seguridad y privacidad en compromiso: en alguna ocasión los modelos de IA Generativa son capaces de crear respuestas no apropiadas, por lo que requieren controles automatizados para asegurar la eficacia de las soluciones que pongan encima de la mesa. También es factible la anonimización de datos para evitar la exposición de datos sensibles o personales.

Fuente: Redegal

Imagen: JaviRROYO