“Hoy estamos siendo testigos de la revolución de la inteligencia artificial generativa. Gracias a los avances en los modelos de lenguaje grande (LLMs) y otros modelos de base, estamos presenciando un cambio significativo en la capacidad de la IA en múltiples dominios: imágenes, audio, video y texto”, indica Francisco Rojas, Director Ejecutivo de Applied Intelligence en Accenture Chile.
Según el ejecutivo, esto permite que por primera vez las máquinas sean computacionalmente creativas, generando contenido significativo y valioso bajo demanda, lo que impacta a todas las empresas de todas las industrias gracias al poder, la amplia adaptabilidad y la fácil accesibilidad de esta tecnología.
“Los líderes empresariales tienen razón en estar emocionados por las oportunidades. Al igual que los empleados, muchos de los cuales ya están usando esta tecnología en su día a día. Sin embargo, ambos grupos deben estar muy atentos a los riesgos en los que pueden estar incurriendo y cómo se pueden minimizar. Las empresas deben comenzar a impulsar hoy una estrategia de seguridad bien planificada y ejecutada”, asegura Rojas.
De acuerdo al profesional, las compañías deben crear un ambiente seguro de datos. Una de las principales preocupaciones empresariales es el riesgo de que la propiedad intelectual u otros datos protegidos se filtren fuera de la organización al dar acceso a aplicaciones como ChatGPT. Al buscar ahorrar tiempo, responder preguntas, obtener información o simplemente experimentar con la tecnología, los empleados pueden fácilmente transmitir datos confidenciales. “La buena noticia es que, con un poco de esfuerzo técnico inicial, este riesgo se puede minimizar pensando en casos de uso específicos para habilitar el acceso a las aplicaciones de IA generativa mientras se evalúa el riesgo basado en dónde fluyen los datos”.
Para Rojas, los sistemas de inteligencia artificial generativa son tan imparciales y valiosos como los datos con los que fueron entrenados. “El plagio involuntario, la infracción de derechos de autor, el sesgo y la manipulación deliberada son varios ejemplos obvios de malos datos de entrenamiento. Para generar confianza en la IA, las empresas deben poder identificar y evaluar los riesgos potenciales en los datos utilizados para entrenar los modelos de base, anotando las fuentes de datos y cualquier defecto o sesgo, ya sea accidental o intencional. Existen herramientas y técnicas que las empresas pueden usar para evaluar, medir, monitorear y sintetizar los datos de entrenamiento”.
El experto destaca la importancia de capacitar a los empleados, que en muchos casos aprenden sobre inteligencia artificial generativa mediante canales sociales y medios de comunicación, lo que abre la puerta a la desinformación. “A menudo no tienen forma de saber qué es correcto y qué no. Y el hecho de que puedan acceder a estas aplicaciones a través de sus propios teléfonos inteligentes y computadoras portátiles puede terminar creando un nuevo tipo de ‘TI en la sombra’ e introduciendo nuevas amenazas de ciberseguridad. Por eso, un programa de capacitación para la fuerza laboral es tanto esencial como urgente”, apunta.
También considera fundamental que los directorios comprendan los riesgos emergentes, pues al ser una tecnología en constante evolución, los líderes de las compañías deben estar siempre atentos a nuevas amenazas relacionadas con la inteligencia artificial generativa y diseñar sistemas de seguridad robustos.
“La inteligencia artificial generativa representa un verdadero hito en el desarrollo de la IA. Las oportunidades son prácticamente ilimitadas. Pero también hay nuevos riesgos y amenazas. Ante esto, los líderes empresariales necesitan comprender estos riesgos y tomar medidas urgentes para minimizarlos”, concluye el Director Ejecutivo de Applied Intelligence en Accenture Chile.
