Jonathan Cohen, vicepresidente de Investigación Aplicada de Nvidia, indicó que “la seguridad en la inteligencia artificial generativa es una preocupación de toda la industria”, motivo por el cual la compañía presentó un conjunto de herramientas de software que apuntan a prestar ayuda a los chatbots y cuidar el lenguaje que utilizan.
Cabe recordar que, en febrero pasado, Microsoft limitó con su buscador Bing el número de preguntas por sesión a sus usuarios, luego de que el New York Times informara que éste daba respuestas inquietantes. También hay que considerar que estos asistentes virtuales pueden dar entre sus respuestas menciones a los máximos competidores, lo que es uno de los aspectos a cuidar.
Nvidia desarrolló herramientas de software para distribuirlas de manera gratuita con el fin de proteger a las empresas de estas respuestas no deseadas que pueden dar sus chatbots, controlando las conversaciones mantenidas entre los usuarios y los asistentes virtuales en términos de seguridad y protección.
Así es como se activarán medidas de seguridad eficientes para evitar que los chatbots respondan a preguntas peligrosas, tales como la forma de crear armas o la propagación de virus informáticos.
La vigilancia al respecto se basa en dos elementos básicos: la temática, garantizando que las conversaciones se ciñan al tema dentro de un tono coherente; y la seguridad, evitando un lenguaje peligroso o inapropiado, así como la conexión a aplicaciones de terceros no seguras.
