Hoy la utilización de datos y algoritmos permite automatizar y apoyar la toma de decisiones. En el sector estatal, por ejemplo, tenemos los datos administrativos, utilizados, entre otras cosas, para el diseño de múltiples políticas públicas, tales como detectar una enfermedad en diabéticos e incluso enfrentar la crisis del Covid-19. Es decir, estamos hablando de mucho más que de herramientas técnicas desarrolladas por programadores y expertos informáticos: son instrumentos con implicancias de orden ético y social que se deben gestionar.
Una de las normativas relacionadas -la de datos personales- data de 1999 y sin duda es insuficiente. Entonces, ¿qué estamos haciendo tanto desde el mundo público como desde el sector privado para garantizar una gestión responsable de los datos?
Una iniciativa en esta línea
En la Universidad Adolfo Ibáñez, gracias a una alianza con BID Lab y el apoyo de ChileCompra, el Ministerio de Ciencia y la División de Gobierno Digital del Ministerio Secretaría General de la Presidencia, estamos impulsando el proyecto “Algoritmos Éticos, Responsables y Transparentes”, cuyo objetivo es promover estándares que garanticen el buen uso de los datos.
Vamos a trabajar en guías para el desarrollo e implementación de algoritmos, servicios de Inteligencia Artificial y sistemas automatizados o semi-automatizados (SDA), que sean capaces de proveer servicios sociales sin sesgos ni discriminaciones arbitrarias. Para ello los ingredientes más importantes de esta “receta” son principios y buenas prácticas de privacidad, el aseguramiento de la equidad, la no discriminación y la transparencia, entre otros pilares. Hoy estamos enfocados en dos frentes. Por una parte, en influir en las empresas de tecnología que proveen servicios de datos e Inteligencia Artificial al sector público y, por otra, en fomentar que el sistema de compras públicas considere este asunto dentro de los requisitos de sus licitaciones.
Para ello, implementaremos dos pilotos con organismos públicos que licitarán, adquirirán e implementarán SDA (Sistemas de Detección Automatizada) que incluyan estándares éticos, a la vez que ofreceremos cursos gratuitos de capacitación para startups, entre otras muchas otras acciones.
El rol del Estado
Estamos convencidos de que el Estado se debe convertir en el primer gran comprador que implemente y promueva estas buenas prácticas, que están en línea con la Política Nacional de Inteligencia Artificial que está preparando el Gobierno de Chile.
Esto no solo beneficiará a la población en general, sino que a su vez permitirá ir creando y potenciando progresivamente un mercado de proveedores privados capaces de satisfacer estos requerimientos éticos, lo que luego será una ventaja competitiva para los desarrolladores chilenos frente al mercado internacional. En Europa ya está implementada una estricta normativa de protección de datos, y está en proceso de desarrollo una norma que podría regular el uso de la inteligencia artificial.
Asumimos que es un camino largo, que requiere de la colaboración de distintos socios estratégicos y de la voluntad de las empresas, a las que desde este espacio, invitamos a sumarse al desafío de elevar los estándares éticos con que prestan servicios en ámbitos tan delicados como son salud, educación, vivienda, seguridad ciudadana y transporte, entre otros.
El resultado, esperamos, se traducirá en un cambio cultural asociado a la gestión ética de la información, asunto que es urgente ante riesgos ciertos que ya hemos comenzado a observar. Nuestro recorrido recién comienza.
Mayor información sobre el proyecto en https://goblab.uai.cl/algoritmoseticos/
