Entrevista. Según el experto, los sistemas de inteligencia artificial deben “salvaguardar la privacidad y los derechos de los datos de los usuarios, así como proporcionar garantías explícitas sobre cómo se utilizarán y protegerán sus datos personales”.
SANTIAGO/TALCA. Los datos generados por los humanos se han transformado en el nuevo recurso natural y de esta forma es como deben ser protegidos para garantizar su uso adecuado, según indica Jaime Moreno, distinguido científico y director Senior de Infraestructura de sistemas de nube híbrida de IBM, presente en la versión 2021 de Congreso Futuro.
Para esto, según el experto, los sistemas de inteligencia artificial deben “salvaguardar la privacidad y los derechos de los datos de los usuarios, así como proporcionar garantías explícitas sobre cómo se utilizarán y protegerán sus datos personales”.
-Si los datos son patrimonio universal y recursos naturales, ¿qué piensa sobre los dilemas éticos en base a la utilización de estos?
“Decimos que los datos son un nuevo ‘recurso natural’ dadas sus características: abundancia, contienen valor, requieren refinamiento para extraer ese valor, entre otras. Pero esto no significa que todos los datos están a disposición generalizada; por el contrario. Así como los recursos naturales, los datos deben ser protegidos para garantizar su uso adecuado. Hay datos que son públicos, ubicados en repositorios de acceso abierto, como datos sobre caminos y carreteras, por citar un caso. Tales datos deberían ser de fácil acceso para todos, de manera de poder generar beneficios de ellos, como mapas actualizados por ejemplo. Por otro lado, hay datos que son propiedad de quien los ha generado, en cuyo caso su uso es controlado por el propietario, por ejemplo los datos sobre el funcionamiento de una fábrica. Algunos países están estableciendo normas que impiden sacar datos fuera de sus fronteras, un concepto de propiedad nacional establecida mediante legislación. Luego están los datos personales, privados, de los individuos, que deben ser protegidos para garantizar que sean usados solo para fines específicos, como por ejemplo datos médicos. Aquí también se requiere legislación y control para garantizar la privacidad de las personas. El dilema ético es similar al existente en otras áreas, pero amplificado por el volumen y rapidez de gestación de los datos. Sin embargo es posible administrar de manera responsable y ética los datos, y utilizarlos para extraer nuevo conocimiento e información; por ejemplo, acceso controlado a datos sobre enfermedades complejas, obtenido a través de un sistema cognitivo, permite a los especialistas acelerar la investigación para realizar nuevos descubrimientos al expandir su propio conocimiento gracias a la información extraída de esos datos. Realizado éticamente, esto tiene un beneficio tremendo para la sociedad. Los sistemas de inteligencia artificial deben priorizar y salvaguardar la privacidad y los derechos de los datos de los usuarios, así como proporcionar garantías explícitas sobre cómo se utilizarán y protegerán sus datos personales”.
-¿Por qué se requiere supercomputación en cognitividad?
“El primer requisito para tener un sistema cognitivo apropiado son los datos, puesto que el sistema ‘aprende’ a partir de tales datos. Asimismo, el volumen de datos debe ser muy grande y variado, de otro modo la información contenida en los datos no es suficientemente valiosa o valedera para el entrenamiento del sistema cognitivo. Analizar un gran volumen de datos requiere capacidad computacional significativa. Ambos aspectos están directamente relacionados: mayor volumen y variedad de datos genera mejor conocimiento, lo cual requiere mayor capacidad computacional para realizar el proceso de ‘aprendizaje’ o ‘entrenamiento’ del sistema cognitivo. Tal demanda computacional ha ido creciendo en forma acelerada estos últimos años, como consecuencia de la proliferación en el uso de sistemas cognitivos, así como también en el incremento sustancial de la complejidad de tales sistemas. La tecnología cognitiva en uso se conoce como ‘redes neuronales’ (por referencia a las neuronas en el cerebro, aun cuando la forma que estas redes neuronales operan es muy diferente). La estructura de tales redes neuronales, el número de parámetros usados, las operaciones realizadas durante el aprendizaje, todos estos factores han aumentado de manera tal que requieren sistemas de gran capacidad computacional para construir un sistema cognitivo, y aún así el tiempo de ejecución de los algoritmos pertinentes se mide en días o semanas de cálculo. Esto ha llevado, en los últimos años, a investigación y desarrollo de elementos computacionales especializados para el tipo de funciones propias de la redes neuronales”.
DISPOSITIVOS
-¿Cree que aún no está democratizado el acceso a la información, a pesar de la evolución de los sistemas cognitivos?
“Personalmente creo que se han logrado avances en otorgar acceso a información a todos, sin excepciones, lo cual podemos clasificar como democratizar el acceso a información. En la actualidad, un individuo usando un dispositivo electrónico en cualquier lugar con conexión a Internet puede tener acceso a información a través del mundo. Comparemos esta situación con épocas anteriores, cuando la información estaba concentrada en bibliotecas o lugares similares, disponible solo en ciudades grandes o en comunidades pudientes. Hoy podemos tener libros disponibles gratuitamente, eventos culturales, educación, conciertos, recetas de cocina, clases sobre hobbies, de todo. Aun hay información restringida, pero eso entra en el contexto de datos privados o de propiedad restringida. El resto está al alcance de todos. Internet nos ha dado una ventana, no, una puerta muy ancha para accesar al anfiteatro de la información, de manera gratuita”.
-¿Cómo será la relación de los ciudadanos específicamente de los chilenos y los sistemas inteligentes pensando en el 2056?
“Los individuos tenemos que abrirnos a este mundo de las tecnologías cognitivas y de inteligencia artificial. Tenemos que prepararnos para ese futuro, desde ahora. Esto requiere considerar varios aspectos, en particular normas y programas asociados con educación y entrenamiento en temas de IA. Aquí Chile tiene oportunidad de liderar sobre este aspecto. No solamente personas, también instituciones. Tenemos que ‘perder el miedo a IA’. Por supuesto, tenemos que velar por el uso ético de esta tecnología, tal como deberíamos hacerlo con otras tecnologías. Debemos garantizar el acceso fácil al uso de la tecnología, empoderar los ciudadanos con ellas, con las protecciones necesarias para privacidad, propiedad, diversidad y veracidad de los datos en uso. También debemos asegurar el acceso fácil a infraestructura computacional adecuada, así como es fácil acceder a una carretera para desplazarnos físicamente. Como ciudadanos, debemos estar atentos a garantizar la capacidad de poder evolucionar con los cambios tecnológicos, asegurar el acceso a educación y entrenamiento adecuados para tal evolución. Desde esta perspectiva, la temática del Congreso Futuro es muy apropiada, bien dirigida en la discusión de estos aspectos. Hay que avanzar, como ciudadanos, en forma muy activa por este camino. No es un camino fácil, requiere esfuerzo y dedicación para enfrentar los desafíos de este camino rumbo al 2056, rumbo al futuro en general. Los beneficios a obtener para toda la sociedad lo justifican, y debe motivarnos a todos por ser parte de este proceso”.
Desarrollado por
