La Universidad Adolfo Ibáñez acogió la semana pasada un seminario sobre la inteligencia artificial responsable en el que se debatió sobre el papel que los algoritmos tienen, sus beneficios y riesgos.
Por Nicolás Kuncar Salvador
Daniel Howden durante la charla en la UAI l Gentileza de www.uai.cl
La inteligencia artificial (IA) es parte de nuestro día a día. Sin embargo, puede ser un arma de doble filo, según planteó Daniel Howden, periodista británico, director general y fundador de “Lighthouse Reports”, una agencia sin fines de lucro enfocada al periodismo de investigación a través de los algoritmos y la tecnología, que trabaja con medios como “The Economist”, “El País” y “The Guardian”, entre otros.
“El riesgo de implementar un sistema en una institución pública y que trabaje bajo interpretaciones o estereotipos es una realidad” aseguró Howden.
Algoritmos Éticos, Responsables y Transparentes es el nombre del proyecto que la Universidad Adolfo Ibáñez (UAI), junto con el Ministerio de Ciencias y el apoyo del Banco Interamericano de Desarrollo (BID) desarrollan desde hace cuatro años.
El rector de la UAI, Harald Beyer, participó de la instancia y se refirió al rol formador y la importancia de estas iniciativas. “El desafío del Estado y del sector privado es usar la información con un propósito. Con un sentido de responsabilidad, buscando acercar a los ciudadanos a las necesidades que se requieren” afirmó.
Carolina Carrasco, Daniel Howden, Aysén Etcheverry y Harald Beyer l www.uai.cl
Chile ha sido pionero en la implementación de la IA, según la ministra de Ciencias, Tecnología, Conocimiento e Innovación, Aysén Etcheverry. Destacó además el interés del gobierno por el desarrollo y señaló que “como Estado hemos invertido en investigación, en un lapso de 10 años, hay más de 80 mil millones de pesos invertidos directamente en inteligencia artificial”.
La máquina de sospechas
“Hace cuatro años no teníamos idea qué estábamos haciendo, así que puedo entender si es confuso lo que hablo sobre los algoritmos” comenzó el periodista británico en su lengua materna para los asistentes al seminario. “Ha sido muy interesante ver lo que está pasando en Chile y cómo este debate sobre IA y ética se está dando en distintos contextos” aseguró.
Daniel Howden y su equipo de Lighthouse publicaron un informe sobre cómo los algoritmos interfieren en nuestra sociedad y fue parte de la presentación realizada en el seminario, que trae por premisa “los oscuros algoritmos gubernamentales están tomando decisiones que cambian la vida de millones de personas en todo el mundo”.
“Tenemos ciertas habilidades que en otras “news rooms” no se encuentran, como fuentes abiertas, inteligencia artificial analítica, expertos en registros públicos y acceso a información”, planteó Howden sobre su sistema de investigaciones. Mayor profesionalización y resultados gracias al uso responsable de los algoritmos es lo que llevó a la agencia a su reconocimiento de nivel mundial.
El periodista vinculó la confianza y el buen uso de los aparatos estatales. “Para mí no existe una contradicción entre la entrega deficiente de los servicios públicos, y la transparencia y responsabilidad del juicio de los algoritmos” tras ejemplificar el caso con Noruega, país que se encuentra pionero en la libertad de prensa y en la satisfacción de su población en el mundo.
No todo lo que brilla es oro
Con una investigación sobre la criminalística en ocho países, entre ellos Francia, Países Bajos, Noruega y Alemania, realizada solo con algoritmos pudieron llegar al nivel de riesgo de cada ciudad. “Probando el sistema, pudimos mostrar por qué el sistema cae, por qué no funcionó y también por qué se discriminaba por motivos étnicos y de género” dando a conocer que los algoritmos y la inteligencia artificial usan los sesgos para su obtención de información.
Los sistemas que se usan tradicionalmente en la esfera estatal proveen de una base de datos con sesgos, peligro que Howden advirtió. Sin embargo, su mecanismo insertado en “Lighthouse” contiene “la documentación técnica que cualquier algoritmo utiliza para hacer un código para el modelo predictivo y un manual para conocer las interpretaciones del algoritmo” aseguró el director general de la empresa y explico que “esto contiene controles, evaluaciones de comportamiento y validación de conducta. Además de velar por los derechos humanos y la privacidad”.
Imagen de GitHub l Lighthouse Report
El desarrollo de las nuevas tecnologías e inteligencias artificiales trae consigo un campo comercial y la propiedad intelectual es una de ellas. A través de este mecanismo de algoritmos, Howden planteó que “puede existir una discriminación sistemática” y que es necesario usar con responsabilidad la IA. “La gente tiene el derecho a saber qué hacen las instituciones con los financiamientos públicos. Estos influyen en su vida cotidiana” reafirmó el fundador de “Lighthouse”.
Carolina Carrasco, quien es especialista líder del BID planteó la realidad en la que vivimos como una convivencia con la tecnología. “Tanto la prestación de servicios a los ciudadanos, como las atenciones de salud, la educación, la selección de personal o mejoras de productividad están siendo disruptivamente alcanzadas por la IA” dijo Carrasco, y propuso una migración al uso consciente de esta herramienta para no “profundizar en las desigualdades”.
