Versión estenográfica del sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” realizado por la Comisión de Análisis, Seguimiento y Evaluación Sobre la Aplicación de la Inteligencia Artificial en México, presidida por el Senador Rolando Rodrigo Zapata Bello, realizada en las salas 3 y 4 de la planta baja del Hemiciclo del Senado de la República. El Presidente Senador Rolando Rodrigo Zapata Bello: (Así inicia) … ésta es una comisión de reciente creación. Ustedes saben que la inteligencia artificial es una tecnología que tiene un gran dinamismo, una gran fuerza, está cambiando los escenarios geopolíticos que está en el ámbito global, México, por supuesto, no puede quedarse al margen de esto tan importante Nosotros tenemos la responsabilidad, junto con las comisiones hermanas, la Comisión de Derechos Digitales, que preside el senador Luis Donaldo Colosio, y la Comisión de Ciencia, Tecnología, Innovación e Humanidades, que preside la senadora Susana Harp. Hemos estado analizando el trabajo, tenemos la responsabilidad de plantear una propuesta de marco normativo al respecto del uso de la inteligencia artificial en nuestro país, tomando en cuenta que hoy no existen instrumentos normativos, no existen disposiciones que aborden este importante tema. No sabemos si estamos, tarde o temprano, lo que sí es que ya es muy importante que abordemos este tema, como lo estamos haciendo. ¿Qué es lo que hicimos en la comisión en un inicio? Por una parte, hicimos un curso, nos apoyó la Canieti, nos apoyó la consultora Siglo XXI, para hacer un curso específicamente para los legisladores con el fin de ver la óptica que tenemos respecto a la inteligencia artificial, el curso se llamó “introducción a la inteligencia artificial: Una visión general regulatoria”. Son 16 cápsulas de 20 minutos, cada cápsula fue abordada por diferentes especialistas en la materia. Se los comento porque llevó una plática el maestro Alonso Tamiz que nos decía cómo es este material. No por otra cosa, para que ustedes vean cuál es la información homologada básica que tenemos los legisladores en esa visión respecto a la inteligencia artificial. Por otra parte, en paralelo, iniciamos esta serie de conversatorios, éste es el sexto que realizamos a estos conversatorios, cada uno con una temática específica diferente, nos ha permitido sentar en la mesa y hacer una escucha activa con representantes del sector público, del sector privado, de las grandes, medianas y pequeñas empresas que son fundadoras a actores en este gran tema del curso de la inteligencia artificial; la academia, universidades, educación superior, que de igual manera tienen un estudio, un análisis sobre la inteligencia artificial; asociaciones de la sociedad civil, de igual manera se conectan con el tema. Así como cuerpo diplomático, han venido representantes de diferentes de gobiernos, embajadas, hacemos sus planteamientos y disposición en el tema que nos ocupa, vemos temas con gobiernos y la toma de decisiones estratégicas. El contenido de estos conversatorios está siendo procesado con versiones estenográficas para poner por escrito todos los comentarios. Página 3 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Al concluir este sexto conversatorio, que es el seis, vamos a hacer un análisis metodológico, sistemático de todo el contenido. Y una vez que ya lo tengamos estaremos en condiciones, con los demás miembros de la comisión y de las comisiones hermanas, de hacer un planteamiento de cuáles serán los temas que vamos a abordar. Eso lo estaremos haciendo en el período de receso, que es mayo, junio, julio y agosto, para estar en condiciones para el siguiente período de poder tener ya algunos productos. Les comento que esta dinámica la estamos haciendo de la mano y en plena vinculación institucional tanto con la Agencia de Transformación Tecnológica, como con la Secretaría de Ciencia, Tecnología, Innovación del gobierno de la República, y en comunicación también con la “Comisión del Ramo” de la Cámara de Diputados. En la Cámara de Diputados no tienen una comisión de inteligencia artificial, pero la Comisión de Ciencia, Tecnología e Innovación es la que lleva el tema. Es muy importante para mí expresarles, además de agradecerles su participación, que ahorita expresaré quiénes son las personas que nos acompañan en esta tarde. Expresarles que lo que nos ha permitido que estos foros o estos espacios sean nutritivos, etcétera, decirles que nosotros tomamos los comentarios y las opiniones de cada uno de los participantes a título personal, es decir, entendemos que no son representativas de la institución que representan, sino que son a título personal. Así es como lo hemos diseñado, pues para que haya mayor libertad y para comentar lo que cada uno de ustedes considere, opine o piense sobre el tema. Por eso, agradezco mucho (falla de origen) del cibercomando de la Armada de México. Muchas gracias, que viene acompañado del capitán de Fragata Melcar Samuel Béjar Figueroa, que es jefe de grupo de inteligencia artificial de la Secretaría de Marina. Así como el capitán de navío Fernando Enrique Vega Mauri, enlace institucional de la Secretaría de Marina ante el Senado. Muchísimas gracias a la Secretaría de Marina. A Marco Antonio Moreno Ibarra, director general de desarrollo, transferencia de tecnología e innovación de la Secretaría de Ciencia, Humanidades, Tecnología e Innovación del gobierno de México. Muchísimas gracias. A Enrique Ayala Gonzaga Rodríguez, Director de Datos Geoespaciales de la Agencia de Transformación Digital y Telecomunicaciones del gobierno de México, quien viene acompañado de Manuel Mijail Martínez, subdirector de procesos estocásticos e investigación de operaciones. Así como Daniel Sánchez Kelly, jefe del Departamento de Procesamiento de Datos. Muchísimas gracias. Al embajador Ulises Canchola Gutiérrez, embajador especial para tecnologías emergentes de la Secretaría de Relaciones Exteriores. Muchas gracias, embajador. A la doctora Cintia Smith, profesora e investigadora del Tecnológico de Monterrey. Página 4 Versión estenográfica Muchas gracias. Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” A la maestra Cristina Martínez Pinto, fundadora de PIT Policy Lab. Muchas gracias. A Emilio Guerra Estévez, fundador de Cosmos. Muchas gracias. A Daniela Rojas Arroyo, coordinadora de proyectos de Eon Institute. Muchas gracias. A la doctora María Elena Estavillo Flores, directora general del Centro-i y para la Sociedad del Futuro. Gracias. Al maestro Alonso Santiago CEO de Bambú Móvil. Gracias. Y a Héctor Emilio Velázquez, fundador y director de Group Suite. Muchísimas gracias. Son los especialistas a quienes agradeceremos sus intervenciones y comentarios. Sin mayores preámbulos, le pido al maestro Alonso Tamez, quien es el secretario técnico de la comisión nos exponga la dinámica del conversatorio, y ya demos paso al mismo. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, presidente. Muy buenas tardes a todas y a todos. Permítanme explicar la dinámica que seguiremos esta tarde. 1. bordaremos cuatro preguntas detonadoras, previamente compartidas con ustedes. 2. Cada intervención tendrá un tiempo máximo de dos minutos. Les pedimos seguir rigurosamente esta regla. 3. La participación seguirá el orden de la mesa, de izquierda a derecha, en forma de herradura, y así se hará en cada una de las preguntas. 4. Si algún participante decide no intervenir en una pregunta, se continuará con el siguiente, no hay ningún problema. 5. Si una senadora o senador solicita intervenir se le dará prioridad en el turno inmediato posterior, luego retomando el orden establecido. 6. Todas las intervenciones serán registradas para integrar una transcripción, que será publicada en el micrositio de la comisión, como las de los otros cinco conversatorios. Página 5 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Y ésta, como las demás transcripciones serán un insumo fundamental para la elaboración de un informe final que contribuya a la propuesta de un marco normativo en materia de inteligencia artificial en México. La sesión también está siendo transmitida por el canal institucional Webex, y también cuenta con la cobertura de comunicación social del Senado y el Canal del Congreso. Pasemos a la primera pregunta. Les recuerdo, el tiempo máximo de dos minutos por intervención, en este caso iniciaremos con la doctora María Elena Estavillo Flores. ¿Qué condiciones institucionales son necesarias para que los estados integren la inteligencia artificial en sus funciones sin debilitar su autonomía ni su legitimidad democrática? Doctora, bienvenida. La Doctora María Elena Estavillo Flores: Gracias. Antes que nada, muchas gracias por la invitación y por abrir estos espacios tan importantes para el debate. Como condiciones institucionales yo comenzaría por el conocimiento, creo que tenemos que partir de ahí, conocer las tecnologías, sus alcances, sus limitaciones también, para no pedirles más de lo que pueden dar, pero también poder extraer el mayor beneficio donde sí pueden ser sumamente útiles. Y esto también nos permite entender dónde debe haber intervención humana y de qué manera hay que hacerlo. También una condición importante es la que tiene que ver con la infraestructura, la ciberseguridad, la fiabilidad del control en todos los sistemas, también tiene que ver con los datos para poder mantener la privacidad de los datos utilizados y la no manipulación, no es nada más con la privacidad, sino para que no se puedan alterar el funcionamiento y el resultado de los sistemas. Como otras condiciones, que también me parece que son muy importantes, y tiene que ver con la capacidad institucional, esa participación multiactor en las decisiones y en la construcción de los sistemas, precisamente para que tengan legitimidad democrática, la aplicación de estos sistemas, que se consideren las perspectivas de diferentes actores, sobre todo de los usuarios, el impacto que tienen los usuarios directos e indirectos. Y tener medidas para la aplicación de estos sistemas de análisis de proporcionalidad de protección de los derechos humanos y la igualdad, y tener protocolos de principios éticos y responsabilidad social. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, doctora María Elena Estavillo. Pasamos con Héctor Emilio Velázquez, director de Group Suite El Director Héctor Emilio Velázquez: Gracias. Antes que nada, les quiero agradecer, como lo dijo la doctora, estos espacios para nosotros que podamos exponer ciertos puntos para que el gobierno se entere desde nuestra perspectiva que estamos pensando y cómo lo estamos analizando. Esta pregunta, como ustedes bien lo saben, es demasiado abierto. Y quisiera centrarme sobre un punto en específico, que sería el tema de los datos. Página 6 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Creo que el tema de los bancos de datos es un tema que tenemos que priorizar sobre el tema de la información, dónde se va a quedar, porque ahora, como ustedes lo saben, estos bancos de datos, la mayoría de lo que nosotros llamamos “nube” no vive dentro de lo que nosotros llamamos soberanía. Y eso es muy importante el gobierno tome decisiones porque en un futuro, un año, dos años cualquier inteligencia artificial va ser mejor para cualquier actividad humana. Y estos datos van a ser muy importantes quién los va a almacenar, y que dependan de nosotros. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Héctor Emilio Velázquez de Group Suite. Pasamos con Emilio Guerra Estévez, fundador de Cosmos. El C. Emilio Guerra Estévez: Muchas gracias. Gracias, secretario y senador, gracias por este espacio. También muchas gracias a todas las dependencias del gobierno federal y sus distintas representaciones. A los colegas que nos dedicamos a la generación de tecnología. Yo quisiera comenzar planteando las condiciones institucionales que deberían de existir o que deben de existir para poder integrar la inteligencia artificial dentro de los estados; creo que vale la pena hacer una distinción muy importante. Tenemos que tener la capacidad de distinguir entre la labor del Estado en el uso de la inteligencia artificial entre privados, la relación del Estado con esa capacidad generadora de información a través de esta inteligencia artificial y las tecnologías; creo que esa es una discusión muy específica, además muy socorrida en todos los terrenos de discusión tanto públicos o privados en el mundo. Y la segunda, que ahí es donde quisiera centrar mi intervención, es la incorporación de la tecnología de la inteligencia artificial en la propia actividad del gobierno. Ahí es precisamente en donde quisiera llamar la atención, el gobierno está en condiciones o más bien el Estado mexicano está en condiciones para incorporar la tecnología de la inteligencia artificial. Yo creo que el simple hecho de que exista una comisión de inteligencia artificial y abra la discusión en el Senado de la República apunta hacia una muy alta sospecha que se antoja positiva, ¿qué quiero decir con esto? El Estado mexicano está listo para abrir la conversación de incorporar el uso de la tecnología y la inteligencia artificial, como también el lugar protagónico que tiene la agencia digital en la creación de política pública, y simplemente la apertura ante estos temas. Entonces, yo en esta primera intervención en esta comisión me gustaría hacer esta importante distinción en cuanto a qué condiciones institucionales. Y creo que la primera es distinguir entre nuestra labor como privados y la intervención del Estado y la incorporación de inteligencia artificial y tecnologías al Estado mexicano. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias a Emilio Guerra Estévez. Ahora es el turno de la maestra Cristina Martínez Pinto de PIT Policy Lab. La Maestra Cristina Martínez Pinto: Me sumo a los agradecimientos de mis colegas. Voy a ser relativamente breve, porque estoy un poco afónica. Página 7 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Gracias por este espacio de conversación y a todas y todos los presentes por compartir ideas, intercambiar tal vez algunas de las mejores prácticas que traemos desde nuestras distintas instituciones alrededor de estas temáticas. Retomando el hilo de lo que comentaba mi colega, yo quisiera centrarme en las condiciones institucionales que deberían de existir, que deben de existir para el aprovechamiento de la inteligencia artificial desde una perspectiva de política pública. Y en ese sentido una, que además creo que es una precondición que se está cumpliendo en este espacio es mecanismos de diálogo, es decir, el podernos sentar a la mesa, el compartir, el conocer, el aprender, el contextualizar y el poder aterrizar con base en las distintas necesidades que se tienen, justo cuáles son los casos de uso que pueden ser relevantes a nuestras necesidades. Por otro lado, como bien decía mi colega, la doctora Estavillo, la infraestructura, sin duda, es clave, el conocimiento, aunque también quisiera enfocarme un poco en el desarrollo de talento; porque por un lado hablamos de la importancia el tema, pero no nada más está lo técnico, también es liderazgo en tecnología, también es formación de las personas que tomas decisiones al frente de las instituciones de gobierno, la capacitación de éstas. Por otro lado, el diseño de marco de gobernanza, digamos, éstas son ideas que recopilamos de distintos reportes que hemos venido desarrollando de instituciones, como PIT Policy Lab, Centro y para la Sociedad del Futuro, Eon Institute, Centro México Digital, en donde hablamos sobre el establecimiento de reglas claras. Cuando hablamos de gobernanza, que es un tema que está muy de moda, realmente estamos hablando de coordinación de las partes, de tener las reglas del juego que nos permitan tener la claridad sobre a qué nos referimos cuando hablamos de no socavar la soberanía nacional. Y por otro, sé que ya me estoy pasando del tema, presupuesto, no podemos hablar de institucionalizar este tema si no hay presupuestos dedicados para su desarrollo. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Cristina Martínez Pinto de PIT Policy Lab. Pasamos con el capitán de navío, Francisco Salmerón, comandante del cibercomando de la Marina Armada de México. El Capitán Francisco Salmerón: De igual manera, muchas gracias por la invitación a este foro, que conjunta a todas las ideas, es un foro bastante nutrido. Retomo, incluso, algunos puntos que ya coincido con previos comentarios, en cuanto a establecer la gobernanza en el tema, creo que esa parte es muy importante, y precisamente con esos foros empieza la gobernanza, el crear desde la administración pública una coordinación, que finalmente incluya lo público, lo privado, la academia, la sociedad en general. Y que esté alineado todo esto ya para la creación de un código de ética en el desarrollo de esta tecnología emergente. Esto a final de cuentas debemos apoyar a lo que se trata la soberanía tecnológica, es decir, para que posteriormente podamos ir dependiendo menos de tecnologías del exterior. También, coincido, hay que fortalecer el capital humano desde el aspecto del desarrollo tecnológico, y también desde un uso responsable de la inteligencia artificial. Es necesario fortalecer estas capacidades técnicas mediante alianzas en la administración pública y centros de investigación. Y esto nos va a permitir asegurar, a final de cuentas, sobre todo en la parte del control Página 8 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” cuando tratemos de usar esta tecnología emergente, sobre todo en la toma de decisiones que pudieran ser críticas. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, capitán. Para este punto repetiremos la primera pregunta, ¿qué condiciones institucionales son necesarias para que los estados integren la inteligencia artificial en sus funciones sin debilitar su autonomía ni su legitimidad democrática? Pasamos con el doctor Marco Antonio Moreno, Director General de Desarrollo, Transferencia de Tecnología e innovación de la Secretaría de Ciencia del gobierno federal. El Doctor Marco Antonio Moreno: Les agradezco mucho esta oportunidad, realmente creo que es un tema que hay que comentar y discutir, porque es algo que realmente que es muy complejo. Se tiene que revisarse desde un punto de vista multidisciplinario, no es un tema de ingenieros, no es un tema de abogados, no es un tema de la sociedad, sino es un tema de todos en conjunto. Entonces, tiene que verse desde diferentes perspectivas, lograr un balance, un punto medio. Yo creo que el punto esencial para lograr estas condiciones es establecer una normativa, aunque suene un poco obvio, pero yo creo que hay que recalcarlo, se requiere una normativa que tenga unos principios bien definidos. Lo más importante yo considero es que se preserven los derechos humanos, que se preserven la equidad, que promueva en la medida de lo posible no abrir brechas más grandes entre nuestra sociedad, es decir, se vaya aprovechando para que haya un desarrollo. Por ejemplo, yo puedo comentar desde el punto de vista de la Secretaría, es realmente importante tener esta normativa, estos fundamentos de manera que se pueda propiciar, que se haya innovación, que haya desarrollo tecnológico con cierta orientación que permita garantizar que estas tecnologías se van a usar de forma correcta. Y hay muchos ejemplos en el mundo de este tipo de normativa, yo creo que también se tendría que escoger qué tan restrictiva queremos que sea o queremos que sea laxa. Entonces, es en realidad, va ser un tema que se tiene que discutir, sobre todo, también tratar de adaptar nuestra normativa actual a esa nueva normativa; creo que eso va a ser un reto, por ejemplo, en el caso de la figura de propiedad intelectual es un tema que está planteado para otorgarse a personas. Sin embargo, la inteligencia artificial generativa es un ente que automáticamente genera texto, genera video, y no tiene vida. No se le puede tratar así como a un ciudadano. Hay muchas que discutir, creo que ya es suficiente. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, doctor Marco Antonio Moreno de la Secretaría de Ciencia del gobierno federal. Pasamos con el embajador Ulises Canchola Gutiérrez, embajador especial para tecnologías emergentes de la Secretaría de Relaciones Exteriores. El Embajador Ulises Canchola Gutiérrez: Muchas gracias, Alonso. Página 9 Versión estenográfica Senador, muchas gracias por la invitación. Muy buenas tardes a todas y todos ustedes. Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Por supuesto, trabajando en cancillería busco incorporar una visión internacional o global a mis comentarios. Comenzaré con una consideración general e insistido en muchos foros sobre este aspecto, estamos transitando por un cambio de época global, equipos de cambios que no vemos, sino cada 400 o 500 años. Y como he dicho también en otros foros, el futuro fue ayer, de ese tamaño es el tipo de cambio que necesitamos conceptualizar. Muy de acuerdo con lo que se ha comentado hasta el momento, como las condiciones institucionales para integrar la inteligencia artificial como una tecnología emergente al Estado. Me parece fundamental lo que se ha dicho, la alfabetización y la capacitación de cuadros. Y aquí simplemente haría yo una acotación, porque he visto mucho un frenesí, no solamente en nuestro país, sino en otras latitudes; todo mundo queremos estar evangelizando sin saber exactamente qué es lo que estamos enseñando. Y desde esa perspectiva creo que necesitamos establecer estándares claros. Ese es el primer punto. Segundo, totalmente de acuerdo, necesitamos adoptar un enfoque multidisciplinario, pero también multiactor, por una simple y sencilla razón; este cambio nos va a impactar a todos, este cambio va a cambiar fundamentalmente el pacto social. Y si no participamos todos de este cambio, solamente ampliaremos la brecha entre los que tienen acceso a este tipo de tecnologías y los que no. Tercer punto, y me parece que esto es fundamental, necesitamos una alineación clara entre políticas públicas, estrategias y legislación. Y conste que aquí solamente dejo indicada el tamaño del reto, no podemos seguir legislando de la forma en la que hemos hecho. Más adelante abordaré el tipo de reto que estamos enfrentando, pero la alineación entre política implica un entendimiento común de estas tecnologías, repito, una estandarización tanto en enseñanza, como en los métodos para estar acopiando información y datos. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, embajador Ulises Canchola. Pasamos con Manuel Mijael Martínez, subdirector de procesos estocásticos e investigación de operaciones en la Agencia de Transformación Digital y Telecomunicaciones. El C. Manuel Mijael Martínez: Muchas gracias por la invitación. Yo quisiera hacer la necesidad de un equipo involucrado en el gobierno que sea multidisciplinario, que se componga de consultores asesores, que tenga filósofos, abogados, que puedan analizar las implicaciones a mediano y largo plazo de las políticas de inteligencia artificial que pudieran incorporarse o establecerse, además especialistas en tecnologías de la información, ciencias de la computación. Página 10 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Y que todo este equipo rinda cuentas a la población y vele por los intereses de la nación, un requisito justo, previo para este equipo multidisciplinario, del que acabo hablar, poseer y desarrollar capacidades técnicas para entender y administrar estos sistemas. De otro modo, el Estado puede depender de entes externos o privados para conformar estos esfuerzos. Es fundamental invertir en la educación popular y en la formación continua de los trabajadores del Estado. Con mucho orgullo puedo decir que formo parte de un equipo que trabaja incansablemente en lograr estos objetivos, que han mencionado mis compañeros, como la gobernanza de los datos, la seguridad de la información, la autonomía, transparencia. Es un trabajo largo, dedicado que seguramente va a persistir por varias generaciones, que va a derivar en una mejora de la calidad de la nación mexicana. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Manuel Mijael Martínez de la Agencia de Transformación Digital. Pasamos con la doctora Cintia Smith del Tecnológico de Monterrey. La Doctora Cintia Smith: Hola, buenas tardes a todos y todas. Un gusto haber venido a la Ciudad de México, al Senado. Gracias por la invitación. Varios de los temas que iba a decir ya los han abordado, no quiero ser repetitiva. Solamente me gustaría plantearlo como apertura que varios países han estado legislando ya en la materia, y que el reto o la paradoja es muy delicado, ¿a qué me refiero? Que los países que han tenido regulaciones muy rígidas, como comentaba el doctor recién, tienen riesgo a perder inversión, no inversión, innovación, esa es la palabra. Mi invitación a la hora de legislar es cuidar mucho el equilibrio entre el tema de protección, seguridad, que son importantísimas, pero también asegurar las condiciones para que haya desarrollos de innovación en México, y que seamos importadores de tecnología. Y esa condición para ese desarrollo de innovación en México requiere abrir condiciones para que emprendedores tecnológicos y de innovación estén dispuestos a trabajar. Aquí me tocó la experiencia de liderar de la Secretaría de Innovación y Gobierno Abierto en la ciudad de Monterrey en los últimos años, así que conozco lo que es tener la cachucha de la Función Pública a nivel municipal, los retos adentro del gobierno son muy grandes y la velocidad es muy rápida. Por lo tanto, tenemos que legislar con muchísima delicadeza, pero sin perder la oportunidad de innovar, porque los países que no estén abiertos a ese proceso corren con desventaja. Yo quiero llevarme una frase en esta intervención, que la escuché en un evento, que fue a principios del mes aquí en la Ciudad de México, vinieron legisladores de muchos países de América Latina. Una legisladora decía: “No legislemos el miedo”. Y eso creo que es muy importante. Por eso conocer, por eso los cursos, por eso el multiactor. Y aquí estamos para apoyar todo lo que se pueda. Página 11 Versión estenográfica Gracias. Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, doctora Cintia Smith. Pasamos con Daniela Rojas Arroyo, coordinadora de proyectos de Eon Institute. La C. Daniela Rojas Arroyo: Hola, muy buenas tardes a todos y a todas. Igual me sumo, muchas gracias por invitación, senador. Y hago mucho eco a lo que han dicho anteriormente aquí en esta mesa, creo que estoy muy de acuerdo que hay una falta de conocimiento a nivel general por parte de los tomadores y las tomadoras de decisiones, creo que es algo clave que tenemos que atacar, donde se conozcan los beneficios, los retos que vienen con el desarrollo y uso de este tipo de tecnologías. Tener como estos estándares muy claros de qué es lo que queremos enseñar, cómo lo queremos enseñar, y que estén muy alineados a todos estos principios, que ya han hecho organizaciones, como la Unesco, la OCDE, alrededor del desarrollo y uso responsable de este tipo de tecnologías. También creo que llevamos en esta conversación ya desde 2018 donde el ecosistema de inteligencia artificial, no solo desde el sector privado, sino también desde el sector público, desde la academia, desde la sociedad civil. Estamos preparados ya para lograr una estrategia, un marco integral y donde todos estos esfuerzos se han hecho implicando la colaboración entre los diferentes sectores y diferentes partes interesadas. Entonces, también aplaudo mucho que lo sigan impulsando y que sigan impulsando este tipo de diálogos. Pero una de las cosas que también nosotros en un documento que realizamos apenas con PIT Policy Lab, solo para no repetir lo que ya han hecho, una de las cosas que decíamos es que se necesita realizar un análisis sobre las atribuciones y límites de cada entidad de gobierno para asegurar justamente un marco sólido. Creo que por ahí también podemos irnos, yo sé que también lo hicieron, es como colaborar y ver como todos estos documentos que ya se han hecho, actualizarlos para tener este marco. También como impulsar una creación de ejercicios y pruebas controladas, que creo que un poco el reto es que dejemos todos estos principios alrededor del desarrollo y uso responsable de tecnologías; pero después no sabemos cómo traducirlos a la práctica. Entonces, necesitamos un poquito más de documentos, de ejercicios, de ver cómo hacer estos puentes entre estos principios y a la hora de implementarlo a la práctica y operacionalizarlo. Súper rápido, sí necesitamos más infraestructura, capital humano, súper de acuerdo. También necesitamos más investigación y desarrollo, sobre todo, como decía Cristi, presupuestos. Lo dejo hasta ahí. El Secretario Técnico Alonso Tamez Vélez: Muchísimas gracias, Daniela Rojas Arroyo de Eon Institute. Y terminamos esta ronda con el maestro Alonso Santiago de CEO de Bambú Móvil. El Maestro Alonso Santiago: Muchas gracias, senador. Página 12 Versión estenográfica Muchas gracias, tocayo Alonso. Muchas gracias a todo el presídium. Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Me gustaría arrancar tomando en cuenta que la IA, todos lo tenemos muy claro, porque es una tecnología, y dentro de las tecnologías se han venido construyendo dentro de los últimos 80 años, 50 años, desde las primeras tecnologías digitales, la implementación que permite generar gobernanza tecnológica. La gobernanza tecnológica me permite tener el control a la protección de datos, el control a la información, el control a quién y cómo consume o cómo genera información. Hoy los puntos que tiene, y particularmente en la pregunta, ¿qué necesitan los estados? Los estados necesitan particularmente a través de sus instituciones tener gobernanza tecnológica. Esto lo digo desde la experiencia, en los últimos 10 años que hemos trabajado con diferentes dependencias seguimos viendo muchas dependencias grandes, no solo las dependencias de gobierno pequeñas, sino las grandes que siguen utilizando medios tecnológicos no adecuados, siguen compartiendo información a través de WhatsApp, a través de correos electrónicos personales. Eso hace que se rompa la gobernanza tecnológica, y eso continúa la pregunta que eso va a generar y va a perder legitimidad, eso hace que se pierda legitimidad; porque si hoy no se utilizan al menos los medios estándares o la gobernanza tecnológica estándar, pues qué podemos esperar en el uso de ciertas herramientas, particularmente de IA que no cumplan con ciertos estándares que requerimos. Por ejemplo, ¿qué pasa si se define para poder hacer una política el otorgamiento de becas, pero se está utilizando un modelo de IA de otro país que no va acorde con las necesidades del gobierno mexicano? Eso prácticamente rompe legitimidad, rompe el comportamiento. Entonces, desde mi perspectiva todo debe estar relacionado siempre a las prácticas que ya se tienen implementadas en temas de gobernanza tecnológica. Y hay muchos otros que van a permitir tener un control con todas las instituciones, y esto no solamente para las instituciones del Estado, sino también promoverlos hacia la población y hacia las empresas. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, maestro Alonso Santiago. Pasamos a la segunda pregunta. Iniciaremos con la doctora Estavillo. ¿Cómo pueden los organismos multilaterales contribuir a que los países en desarrollo no queden subordinados tecnológicamente a las grandes potencias en materia de inteligencia artificial? Le damos la palabra a la doctora Estavillo. La Doctora María Elena Estavillo Flores: Muchas gracias. Es claro que no podemos quedarnos siendo solo usuarios de tecnología, es una parte muy importante, necesitamos tener tecnológica que sea relevante y que nos funcione para nuestras necesidades. Y eso quiere decir también que necesitamos más investigación basada en nuestros países, en nuestras experiencias. Los que nos dedicamos a investigar sabemos muy bien lo difícil que es conseguir datos cada vez que tenemos que estudiar algo gráfico, lo comparamos con la información disponible, inclusive, para nuestra región; podemos encontrar más datos para Chile, para Argentina, y para México cada vez se ha hecho más difícil encontrar datos. Y eso nos limita muchísimo. Página 13 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Y creo que sí podemos hacer esfuerzos en la parte doméstica y también en la regional precisamente para no quedar subordinados tecnológicamente. Podemos reunir recursos, hacer nuestra parte como país, pero también reunir recursos, colaborar entre países con realidades comparables. Y en eso estoy pensando en América Latina, evidentemente, en países que hablan español, porque también como dato para entrenamiento de inteligencia artificial es muy importante el contenido en español, inclusive, pensando en la comunidad latina de Estados Unidos, que es una comunidad grandísima, que a veces no volteamos a verla porque está en un país que no es latino, pero combatimos muchísimo. En los organismos multilaterales se puede empujar el crear mecanismos para facilitar la participación de países en desarrollo en estos temas mediante grupos de trabajo, sobre todo en la toma de decisiones, y apoyarnos en trabajos regionales. También asegurar que la definición de las agendas participen en los países en desarrollo, porque también muchas veces las agendas reflejan otras prioridades. Y, por último, me gustaría mencionar que la inteligencia artificial también nos puede ayudar a construir mecanismos de decisión descentralizada. Y creo que es algo que tenemos que explorar, es una herramienta que puede ser muy valiosa, sobre todo para países, los países en desarrollo que tenemos limitación de recursos, a veces el mismo hecho de no tener recursos para estar presentes físicamente en muchos foros internacionales restringe nuestra participación. Y creo que ahí tenemos una manera tecnológica de impulsar nuestra participación. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, doctora Estavillo. Pasamos con Héctor Emilio Velázquez de Group Suite. El C. Héctor Emilio Velázquez: Quisiera establecer bien por qué es tan importante esta parte de organismos multilaterales para la IA en el caso de México. Creo que la parte más importante que tenemos que centrarnos aquí es que ellos nos pueden ayudar a cerrar las brechas que existen actualmente entre zona rural, zona urbana, pero zonas que tienen acceso a estudios con inglés, estudios con matemáticas, estudios con computación. Tratar de que estos organismos nos ayuden a financiar mucha parte, tener acceso de que muchas personas puedan tener acceso a esos nuevos mecanismos, acceder a la información, acceder a las nuevas herramientas. Tenemos que entender que esa parte es muy importante, tenemos que hacer que esto nos ayude demasiado para cerrar las brechas, que cada vez se van a distanciar más en la hora de toma de decisiones. La toma de decisiones va ser muy rápida, a cada quien le van a preguntar algo, y va a poder tomar decisiones rápidas, va a tener a la inteligencia artificial para tomar rápido una decisión. Y esa parte es muy importante, que los que tenemos en este caso ayudar a ustedes que toman grandes decisiones en el país, tomen grandes decisiones para cerrar las brechas en este sentido entre las personas que acceder y las personas que no acceden. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Héctor Emilio Velázquez. Pasamos con Emilio Guerra Estévez de Cosmos. El C. Emilio Guerra Estévez: Muchas gracias. Página 14 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Yo quiero comenzar respondiendo esta pregunta, poniendo sobre la mesa la importancia legitimadora que tienen los organismos multilaterales, bien lo mencionaban hace un momento, la importancia que tiene el concierto de las naciones en el desarrollo tecnológico. Y para eso vale mucho la pena hablar que, así como David Held hablaba de la idea global y las eliminaciones de las fronteras en el desarrollo de talentos. Yo respondería de una manera tajante, ¿cómo pueden los organismos multilaterales apoyar a que los países en desarrollo no queden atrás? Muy fácil, confiando en las tecnologías hechas en México, habemos muchas empresas que estamos designando tiempo, recursos, apoyos, alianzas para desarrollar tecnología. La doctora María Elena lo decía hace rato, y me parece que es uno de los apuntes más brillantes en esta conversación, que además quisiera hacer un paréntesis, es un gran panel. Muchas gracias, senador. No solo hay que entendernos como consumidores, en México también somos generadores de tecnologías y de inteligencias artificiales, algunas, como es el caso de Cosmos, orientadas específicamente a la operación gubernamental. A mí me gustaría que a partir de la conversación dada hoy, en el seno de la Comisión de Inteligencia Artificial en el Senado, es decir, no hay mejor espacio institucional que éste, para llamar la atención de los organismos internacionales y sus aliados horizontales, para decirles: Volteen a ver a México. El Senado mexicano toca la puerta para que cuando se abra las personas que entremos en la discusión de inteligencia artificial sean las tecnologías hechas en México. Eso creo que sería la respuesta de este lado, creo que vale mucho la pena que los organismos multilaterales, más allá de establecer conexiones multidisciplinarias en este caso. No, es algo muy sencillo, que confíen en las tecnologías hechas en México. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Emilio Guerra Estévez de Cosmos. Pasamos con la maestra Cristina Martínez Pinto de PIT Policy Lab. La Maestra Cristina Martínez Pinto: Yo quiero compartir algunos ejemplos de cómo los organismos internacionales ya están impulsando y apoyando al ecosistema nacional, por un lado, desde la perspectiva de producción de conocimiento, desde el fortalecimiento de comunidades de práctica, desde el intercambio de casos de uso, mejores prácticas internacionales y demás, pero también desde el financiamiento de iniciativas. La primera es, la semana pasada tuvimos aquí en el Senado la presentación del reporte de caso de uso de la Alianza Nacional de Inteligencia Artificial, la CAF fue el ente financiador, junto con Microsoft, en este esfuerzo. Y la idea fue justo el poder recuperar las lecciones aprendidas del desarrollo de esta alianza, más allá del trabajo que se realizó en el marco de la misma, como un modelo replicable de gobernanza de la inteligencia artificial para América Latina y el Caribe. Por otro lado, la CAF y la Unesco tienen una alianza estratégica a través de la cual están trabajando con países en la región para la creación de un bloque, de una voz que nos permita participar, no solamente tener una visión compartida, pero también participa en espacios internacionales y compartir cuáles son estas necesidades y estas realidades que tiene Latinoamérica y el Caribe. Página 15 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Por otro lado, con la Unesco desde PIT Policy Lab estuvimos trabajando con el gobierno de Guanajuato en aterrizar la recomendación sobre la ética de la inteligencia artificial a una política local, una política estatal de inteligencia artificial que se alinee a las prioridades de desarrollo que tiene el Estado, específicamente es un reporte que vamos a estar publicando muy pronto. En los años 2019-2022 el Banco Interamericano de Desarrollo con el Tec de Monterrey, con el gobierno del estado de Jalisco y con Siemens estuvo trabajando en el primer prototipo de la región en Jalisco, que fue este espacio de convergencia multiactor, multidisciplina, donde se habló del aprovechamiento de una ética, de una inteligencia artificial ética y responsable al servicio de las políticas públicas y de las prioridades del gobierno, las lecciones aprendidas, los reportes, los casos de uso. Todo está documentado y disponible para consulta, y me parece que ofrece lecciones importantes. Así que ahí podría enumerar muchos más ejemplos, pero lo que me parece clave es demostrar que ya existen este tipo de colaboraciones, y que los organismos multilaterales han tenido un rol clave para el impulso de éstas y de las comunidades de prácticas en nuestro país y en nuestra región. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Cristina Martínez Pinto. Pasamos con el capitán Francisco Salmerón de la Marina Armada de México. El C. Francisco Salmerón: Sí. Definitivamente el trabajar de manera cercana con organismos multilaterales pues sería bastante conveniente, digo, en otros temas se ha visto realmente los resultados. Yo quisiera plantear que no tan sólo podrían ser los organismos multilaterales, sino también el incluir acuerdos multilaterales, ya existen acuerdos en cuestión de ciencia y tecnología para la transferencia tecnológica, algo que bien se podría aprovechar este tema. También quisiera aportar dos ejemplos en cuestión de los trabajos que se han hecho con organismos multilaterales. Por ejemplo, la ONU, la Unesco y en conjunto con la Unión Internacional de Telecomunicaciones, elaboraron en octubre de 2023 el documento llamado Sistema de las Naciones Unidas sobre la gobernanza de la inteligencia artificial. Y ahí aporta y analizar diferentes modelos de otros países y que finalmente esto aporta o se lo entrega,… son parte de… Por otro lado, mencionar la mesa redonda de Antena sobre IA y el Estado de derecho, igual es un juego internacional. Y, bueno, pues el tema principal de intersección de la Inteligencia Artificial o lo que es el Estado de derecho. Y pues bueno, con todo esto, pues sí es una cooperación activa que nosotros debemos de aprovechar. Creo que es el principal reto aprovecharlo. Y, como dicen, ejercer lo que es la diplomacia tecnológica que es un término que ya es bien sabido por varios. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias capitán Salmerón. Para este punto repetimos la pregunta. Página 16 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” ¿Cómo pueden los organismos multilaterales contribuir a que los países en desarrollo no queden subordinados tecnológicamente a las grandes potencias en materia de inteligencia artificial? Pasamos con Marco Antonio Moreno Ibarra de la Secretaría de Ciencia del Gobierno Federal. El C. Marco Antonio Moreno Ibarra: Sí, muchas gracias. Me parece que es un aspecto fundamental la integración de México en estos organismos multilaterales. Me parece que está muy claro que los avances de inteligencia artificial ya están concentrados en Estados Unidos, en Europa y tal vez en China. Entonces yo creo que hay que acercarse a esos países y colaborar y, por supuesto que en la región tenemos que colaborar con nuestros países que están más cercanos, por supuesto en Latinoamérica. Pero además recordar que esta colaboración nos va a llevar a integrarnos al mundo global nos va a llevar a usar estándares internacionales, nos va a llevar a formar científicos de alto nivel que eventualmente harán aportaciones a nuestro país. Entonces me parece que es imprescindible hacerlo. Además, tiene otra gran ventaja, nos permite colaborar en diferentes sentidos. Por ejemplo, ahora mismo en mi correo tengo una propuesta que me envió la Secretaría de Relaciones Exteriores para una normativa de un organismo que participamos en tema de inteligencia artificial. Entonces me parece que, si no entramos a estos organismos multilaterales de una forma más eficiente, con todas las capacidades que tiene este país, nos vamos a quedar muy rezagados. Y, otra ventaja que yo quería comentar, que este tipo de organismos multilaterales permite detectar las prácticas monopólicas, es decir, permite tener una mejor industria, permite trabajar de una mejor forma a quienes forman parte de este ecosistema de desarrollo de inteligencia artificial. Y, por supuesto, un elemento importante que hay que considerar para estas colaboraciones es la diáspora que tenemos en muchos países, en donde los mexicanos están haciendo grandes aportaciones y, por supuesto que están deseosos de colaborar con los otros en cualquier tema. Y, por último, quisiera comentar que este tipo de organismos multilaterales ya existen, se ha visto que hay grandes aportaciones, los países aportan, conforme son sus posibilidades y dar unos resultados maravillosos. Entonces, creo que esta es una cosa que tenemos que hacer como país de manera obligada. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Marco Antonio Moreno, de la Secretaría de Ciencia del Gobierno Federal. Saludamos y damos la bienvenida a la Senadora Yeidckol Polevnsky Gurwitz, presidenta de la Comisión de Relaciones Exteriores Asia-Pacífico. Damos la palabra al embajador Ulises Canchola, de la Secretaría de Relaciones Exteriores. El C. Ulises Canchola: Muchas gracias. Página 17 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Básicamente, de acuerdo con lo que se ha dicho y, sobre esa base aventuro dos … de cautela. Finalmente, los organismos internacionales no tienen vida propia, son lo que los Estados miembros queremos que sea. Y, desde esa perspectiva debo de destacar dos tendencias que advertimos internacionalmente. La primera, una erosión continua del multilateralismo. Y eso no podemos negarlo, esto puede obedecer a diferentes razones, no voy a hacer un desglose puntual, pero sí destacar, por ejemplo el divorcio que vemos entre lo legal y lo legítimo en el ámbito internacional. Hay un relativismo axiológico que estamos viendo continuamente, perdón, en las instancias de estos organismos internacionales y debo decirlo también, hay una crisis de la diplomacia profesional, reflejada entre otros aspectos en estos adjetivos que luego se le cuelga a la diplomacia. Perdón, yo soy muy cuidadoso de ponerle adjetivo a la diplomacia. El segundo, la segunda tendencia es la relativa debilidad del Estado, y esto obedece a dos razones fundamentales; la primera, el empoderamiento de actores internacionales. En los últimos 40 años hemos visto una emergencia, un empoderamiento, por supuesto de la sociedad civil, pero también de otros actores como redes, crímenes organizados transaccional o como lo demostró el Covid, el sector privado y aquí el Estado pues se enfrenta a una situación… La debilidad también se refleja en los impactos de la tecnología. Nosotros hemos estados hablando aquí, exhibamos o no a depender de alguien que tenga mayor tecnología. Un efecto de la tecnología es que los democratiza y sí, vamos a estar advirtiendo que de repente un Estado puede tener un mayor desarrollo tecnológico que nosotros, pero podemos aprender o aprovechar una ventana de oportunidad que es de aprender de la experiencia que tenga este país. ¿Qué quiero decir con esto? Coincido totalmente con lo que comentaba el doctor Marco Antonio Moreno Ibarra, es muy importante que México participe en los foros internacionales, pero para hacerlo necesitamos y regreso a la primera pregunta, definir políticas, definir posición, definir estrategia, para que nosotros podamos estar incidiendo en la conformación de la nueva arquitectura global en materia tecnológica. Dos, necesitamos también emprender un activismo internacional, bilateral con aquellos países sí, como decía la doctora, similares a nosotros, pero también aquellos que han venido utilizando las tecnologías para aprender pues no solamente esos aciertos, sino sobre todo sus errores. Ahí se abre una ventana de oportunidad fundamental que México debe de aprovechar. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias embajador Canchola. Damos la palabra a Enrique Eduardo Ayala Gonzaga Rodríguez de la Agencia de Transformación Digital. El C. Enrique Eduardo Ayala Gonzaga Rodríguez : ¡Hola! Mucho gusto. (Fallas de origen) A mí me gustaría comenzar con una … a lo que comentábamos esta tarde. La soberanía del siglo XXI ya no se defiende sólo con ejércitos, ni fronteras físicas…. Más poderoso que es el… Página 18 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Hoy la … tecnológica es la verdadera batalla que define el futuro de las naciones. Esta batalla no puede… tecnológicos que …y concentrar el poder en …capitales globales. … los países del Sur global tienen un camino propio, construir las infraestructuras digitales públicas. Qué exactamente es una estructura digital pública, una “IDP”, son sistemas digitales abiertos, transparentes y gestionar públicamente que permiten a las naciones controlar sus propios datos, software y recursos tecnológicos. … mostró su enorme potencial con el sistema Aadhaar, que … identificación única y eso asimila lo que son las opciones de la agencia… En donde … billones de dólares y garantizar un derecho donde antes sólo había extorsión y corrupción. Brasil, por su parte, logró democratizar el mercado financiero con PIX, una plataforma pública que transformó radicalmente las oportunidades económicas de millones y pequeños ciudadanos y comercios. Estos ejemplos no solamente demuestran que las … públicas son posibles, sino que son esenciales para la autonomía tecnológica y justicia económica y así como inclusión social. Aquí los organismos multilaterales tienen un papel crucial urgente o pueden ayudar concretamente, primero, financiando bancos de cómputo nacionales y regionales, centros de datos soberanos y repositorios abiertos de software libre, esto evitará que nuestros países dependan de licencias propietarias controladas del extranjero y permitirá compartir nuevas prácticas tecnológicas. Además, estas instituciones pueden establecer estándares internacionales que formaron … y evitan la … tecnológica, facilitando que los países emergentes puedan colaborar, avanzar juntos y no quedar subordinados tecnológicamente hablando. Al promover las … digitales públicas, los organismos multilaterales no solamente financian tecnología, crea un espacio… vital para que las democracias emergentes crean sus propias reglas, se protejan del extractivismo digital y completan inteligencia artificial en … público al servicio de sus ciudadanos y … tecnológico. El reto es grande, pero la recompensa es aún mayor, una arquitectura digital que… derechos, la competitividad y refuerce la autonomía global en nuestros pueblos. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Enrique Ayala Gonzaga. Pasamos con la doctora Cintia Smith, del tecnológico de Monterrey. La Doctora Cintia Smith: Muchas gracias. Escuchaba como Enrique hablaba de la importancia de la infraestructura digital pública y no podría estar más de acuerdo. Es lo importante en términos de los organismos internacionales, des de mi perspectiva y la experiencia que he tenido el desarrollo de … que no salió acá en la discusión. ¿Qué implica esto? La oportunidad de agarrar temas pilotos, donde puedan con financiamiento y no tan sólo con financiamiento, sino también con capacitación se puedan desarrollar capacidades dentro de estos gobiernos. Yo sumaría, porque es una visión personal y como decía el senador, que en estos esquemas de sandboxes, y en estos modelos tendríamos que incorporar el tema de “StarTops”, es muy valioso, con Bitcop Bitlab, Página 19 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” proyectos de sandboxes triangulados donde trabajamos, obviamente el organismo internacional, gobiernos municipales y StarTops mexicanas que tienen capacidades valiosísimas. Entonces, en la medida de que podamos hacer estas alianzas, creo que es fundamental la oportunidad en tecnología. Está muy bien el tema obviamente y ya lo mencionaron, por eso no quiero ser repetitiva, el tema de estándares, son fundamentales y el prototipado es clave, hacer pruebas, hacer estos espacios de pruebas de sandboxes, son fundamentales. Ojalá que en la regulación queden estipuladas en términos de incentivos estos espacios que son para construir tecnología y tecnología mexicana sea pública o sea privada es fundamental y para que le vaya bien a México le tiene que ir bien al gobierno y le tiene que ir bien también al sector privado. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, doctora Cintia Smith, pasamos con Daniela Rojas Arroyo de ION Institute. La Doctora Daniela Rojas Arroyo: Muchas gracias. Justo va a estar muy alineada mi intervención a lo que ahorita está mencionando Cintia, porque los organismos multilaterales han sido aliados clave, dentro de estas conversaciones de cómo impulsar la inteligencia artificial, pero también desde un enfoque responsable, de un caso de uso que nosotros impulsamos desde ION. Fue, en 2023 lanzamos un documento que fue producto de un ejercicio tipo Sandbox, un prototipo de políticas públicas que implementamos junto con el Banco Interamericano de Desarrollo, “Simaif”, Meta, en donde pues creamos un marco, una propuesta “como marco regulatorio en temas de transparencia y explicabilidad, lo probamos con diez empresas que estaban desarrollando, utilizando sistema de inteligencia artificial y a partir de todos estos aprendizajes, entonces creamos recomendaciones de política pública que fueron entregadas al Inai. Entonces esa es una prueba de cómo estos organismos multilaterales pueden ayudar justamente a estas pruebas, a esta creación de documentos, a este tipo de investigaciones y, para que justamente no sólo seamos receptores, hablando de la creación de la tecnología, tampoco que seamos receptores de estos discusiones y de estos lineamientos que se están reproduciendo en otras regiones del mundo, en estas conversaciones que se están dando en Estados Unidos, en la Unión Europea o en algunos países asiáticos. Sino, que nosotros también sumar a estas conversaciones desde nuestras perspectivas, desde nuestro conocimiento, desde nuestra experiencia y esto implica, pues involucrar a las personas expertas que tenemos en México, a nivel regional, también, pues estar en contacto con las comunidades locales, también con el sector privado. Y, pues realizar todos estos documentos, empezando realizándolos en español, existen estos marcos, existe toda esta investigación, pero no existe mucho en español, entonces arrancando desde ahí y, además, enfocado a nuestras propias necesidades. Tal vez lo que se están enfrentando en niveles de retos en otras regiones no tiene que ver con lo que nosotros nos estamos enfrentando como país. Entonces, estos organismos, pues son claves para, justamente llevar esta discusión. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Daniela Rojas. Página 20 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Pasamos con el maestro Alonso Santiago de Mambo Mobile. El C. Alonso Santiago: Perfecto. Muchas gracias. No sé si les va a gustar mucho mi comentario, pero pues yo creo que lo más importante es ser conscientes de que esa carrera ya la perdimos, porque hoy estamos subordinados prácticamente a muchos aspectos tecnológicos, más del 50 % de los servidores, de las instituciones públicas se encuentran, por ejemplo, en … Prácticamente todos los routers, afortunadamente el 70 % de los routers de wifi en el país son de Huawei son chinos. Entonces lo mismo está pasando con todas las herramientas; las plataformas de redes sociales, Meta, tiene la información de todos nosotros y puede saber, es más, es por predecir lo que nosotros queremos hacer, comprar prácticamente todo el tiempo están captando datos. Que eso va a permitir y esos son los modelos que alimentan la inteligencia artificial. Entonces partiendo desde la conciencia de decir, hoy los países latinoamericanos no tenemos la capacidad de invertir, por ejemplo en una OpenAi hay que invertir miles de millones de dólares en los últimos tres años y que difícilmente lo vamos a estar haciendo nosotros pero lo que sí podríamos estar haciendo es tomar la estadística para entender qué se está consumiendo en el país, porque al final es una tecnología muy democrática y entender que hoy la población está utilizando … para qué tipo de acciones. Y de ahí hacer alusiones a decir: “Oigan, tienen que llevar este tipo de tecnologías a tener este control”. Hubo un caso en Estados Unidos donde decían: “Oye, es que Tik Tok a través de modelos de inteligencia artificial le recomienda qué ver a los ciudadanos”. Y resultaba que por ahí decía: “Es que en Estados Unidos le enseña… (Falla de origen)… y en China pues les enseña cosas de aprendizaje. Entonces al final pues esas son influencias que se están generando y ahora si nos vamos a que como empresas, como instituciones, como personas, les vamos a estar previendo de más información a las diferentes tecnologías, eso se puede volver un problema grande. Entonces mi recomendación sería pues poder tener un ojo fijo a todas las herramientas tecnológicas y de ahí a que se estén implementando en el país y no tener, o sea si va a haber un control abierto y totalmente democrático y que cada quien escoja lo que quiere utilizar, pues bueno, que al menos haya claridad en qué es lo que se está utilizando y cómo se está utilizando. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, maestro Alonso Santiago. Pasamos a la tercera pregunta que fue previamente compartida con ustedes. ¿Qué riesgos políticos y geoestratégicos implica delegar decisiones sensibles como seguridad, salud o gobernabilidad a sistemas automatizados basados en inteligencia artificial u otras tecnologías emergentes? Comenzamos del lado izquierdo con la doctora Estavillo. La Doctora Estavillo: Bueno, aquí yo comenzaría por replantear la pregunta. Yo creo que no se deben delegar esas decisiones a la inteligencia artificial y no pues tratar de enfrentar esos riesgos. Página 21 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Hay decisiones que no se deben denegar, tenemos que tener ahí siempre al final el ojo humano, la decisión humana y en cuanto saber cuáles son estas decisiones que no se deben de denegar, el principio de proporcionalidad, me parece que es importantísimo. Es, se justifica el empleo de sistemas de inteligencia artificial por el beneficio que se pueda obtener frente a los riesgos incurridos, porque siempre nos tenemos que hacer esa pregunta y la verdad es que en algunas decisiones la respuesta es no. Entonces hay que tomar esa respuesta, no podemos partir del hecho de que todo se le puede dejar a la inteligencia artificial. E incluso cuando se usa pues estar muy seguros de usarla como una herramienta para facilitar el análisis, para facilitar el procesamiento de datos, porque esto sí puede mejorar mucho la toma de decisiones, pero siempre dejando, sobre todo, … estratégicas, tema de seguridad, de salud, de gobernabilidad a las personas humanas. Y bueno, ahí también la reflexión, la inteligencia artificial es que ni siquiera hay que preguntarnos si estamos listos, se usa en México desde hace años, en muchos gobiernos locales por muchas entidades públicas y se ha estado usando sin protocolo, sin principios, sin auditorías, sin evaluaciones, sin transparencia. Entonces más bien ya nos urge tener todo este entramado, porque se stá usando, se va a seguir usando cada vez más y basarse, estar seguros de que estamos usando los datos pertinentes, completos, no sesgados, con principios de trazabilidad, de transparencia, de explicabilidad, y principios activos, no tener la información guardada por si alguien nos pregunta, sino que la gente esté informada. Este sistema con el que estás interactuando, este sistema único, hay inteligencia artificial detrás y estamos tomando la decisión con inteligencia artificial. Eso es importantísimo para empoderar a las personas, sabiendo que estamos interactuando o que una decisión que nos afecta la tome un sistema de inteligencia artificial. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias doctora Estavillo. Pasamos con Héctor Emilio Velázquez de “Grout Site”. El C. Héctor Emilio Velázquez: En ese sentido, tratar de parar la toma de decisiones con inteligencia artificial, todo el mundo aquí lo sabe, es imposible. Más bien lo que tenemos que hacer es pensar cómo nos va a ayudar la inteligencia artificial para que tomemos mejores decisiones y todo el tiempo podamos tratar de que haya mecanismos de transparencia a través de los cuales nosotros podamos obtener cómo se tomaron esas decisiones. Creo que esa parte es muy importante. Es decir, si nosotros no tomamos las riendas de cómo se toma el algoritmo con el cual se decidió tal cosa, no vamos a saber, la gente, alguien le pide, sabes qué, hazme una nota de tal cosa. Lo primero que va a hacer alguien va a ser tal, te entrego tal información. Ese algoritmo a través del cual se decidió cierta decisión estratégica cada vez va a depender más de la IA, tres meses, seis meses, unos años, hasta el punto de ya no decidamos nosotros. Esa es una realidad. El tema importante se tomó, tomamos mecanismo de transparencia para saber a través de qué algoritmo se tomó esa decisión y no se tomó una decisión incorrecta por esos algoritmos. Página 22 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Entonces la única forma, cómo ustedes bien lo saben es esas bases de datos, esos datos pasen a través de nuestra soberanía y de datos… (Falla e origen) a través de ustedes, decisiones importantes sobre qué va a pasar con esa información, cómo se van a utilizar, cómo se van a tomar esos algoritmos, qué van a hacer. Eso va a ser muy importante para el futuro, que ya llegó hoy. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Héctor Emilio Velázquez. Pasamos con Emilio Guerra Esteves de Cosmos. El C. Emilio Guerra Esteves: Muchas gracias. Yo creo que particularmente en la atención del os riesgos geopolíticos y de las decisiones estratégicas, como se llama el foro, es específicamente para evitar que siga construyéndose un plan óptico en donde la tecnología vea todo alcance, todo trastoque, todo, tome decisiones de todo. Me parece que justamente, como lo decía la doctora Smith hace rato, para evitar legislar con miedo, esta parte tiene que ser una creación, legislación de política pública enfocada en las personas. Creo que esta parte de los riesgos no debe de tocar los protocolos tecnologías en sí mismos, sino entender, analizar, conocer cómo es que las personas ya estamos involucrados en el mundo de la tecnología. Entonces, un poco para darle forma a la discusión que hemos venido dando, me parece que, al principio México está listo y preparado, por supuesto está en la carrera de la incorporación de la tecnología y de la IA dentro del Estado Mexicano y de su interrelación con la tecnología de entre privados. Los organismos multilaterales tienen un rol fundamental. Y eso va muy bien a la hora de construir la legislación y la política pública. A la hora de tocar el tema de los riesgos, creo que tiene que ser específicamente algo que en el mundo de la tecnología y las metodologías de la investigación es el Human Centered Design. Aquí tiene que llegar el factor humano, la atención de los riesgos. La tecnología en sí misma ya es un riesgo, una oportunidad ambivalente en sí misma, pero el factor humano es, me parece el centro de la discusión de los riesgos, porque finalmente quien puede poner en riesgo a otro ser es otro ser humano en cuanto al uso de las tecnologías, ya existen, ya están puestas ahí, ya hay servidores, ya hay gavetas, ya hay botones, ya hay pantallas, hay monitores. Creo que a lo que debemos de tener especial atención en nuestros foros de discusión que son campos de cultivo para construir política pública y legislación es que cuando tocamos el área de los riesgos, tenemos que estar enfocándonos en proteger a los seres humanos y no en tenerle miedo a la tecnología. Muchas gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Emilio Guerra Esteves. Pasamos con Cristina Martínez Pinto de Policy Lab. La C. Cristina Martínez Pinto: Yo quiero tocar sobre cuáles son algunos de estos posibles riesgos políticos y estratégicos a los que nos enfrentamos, en cierto modo, ya los hemos abordado a lo largo de las distintas intervenciones de las y los colegas. Está un tema de… tecnológica y la concentración de poder tecnológico. Página 23 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Muchas veces cuando hablamos de inteligencia artificial es una conversación que en el centro estamos hablando de poder y es un poder que se está disputando las potencias de Estados Unidos, China, en menor medida Europa, sobre todo con la perspectiva centrada en las personas, con el desarrollo de legislación en donde se priorizan los derechos humanos . Pero también creo que en la región vemos que Brasil ha emergido como uno de los líderes, como potencia tanto en el desarrollo de políticas en el ámbito legislativo, pero también de … de inteligencia artificial. Creo, por otro lado, que algunos otros de los riesgos incluyen el crecimiento posible, crecimiento de las brechas existentes, brechas de desigualdad tecnológica, por ejemplo, el tema de sesgo y discriminación algorítmica a partir de los datos sobre los cuales están entrenándose estos modelos, pero como contraparte, como respuesta, creo que tendríamos que trabajar también, adicional a lo que ya han mencionado mis colegas, en el fortalecimiento de políticas de competencia y en el desarrollo de programas Gob Tech, como bien apuntaba la doctora Smith. Estos programas lo que buscan es impulsar la relación, la colaboración estratégica de emprendedores tecnológicos locales que presten servicios a las necesidades de gobiernos y funcionan a través de retos, están conectados a tema de compra pública, de innovación, hay distintos puntos de entrada para su abordaje, pero sin duda, presentan un panorama alentador sobre cómo se puede desarrollar tecnología desde lo local en respuesta a las necesidades y al contexto local. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Cristina Martínez Pinto. Pasamos con el capitán Francisco. El C. Francisco Salmerón: Sí. Con respecto a los riesgos igual, hay algunos que ya quisiera hacer énfasis en ellos también. Por ejemplo, en los sistemas que se utilizan los sistemas de salud, pues bueno, estaríamos viendo la cuestión de los datos confidenciales, es un tema que se debe poner atención en cuestión de ciberseguridad. Igual, violaciones a la privacidad, como ya mencionaron, interpretación errónea de los datos que pudiesen dar diagnósticos equivocados y que pues con el consecuente incumplimiento de normas regulatorias, incluso algunas son estándares internacionales. Igual, la automatización de sistemas de control y vigilancia sin supervisión humana confiable, pues bueno, realmente podría afectar algunas infraestructuras críticas de información que ya las utiliza y que pudiesen provocar algún riesgo en cuestión de los sistemas bancarios, cadena de suministro nacional, sistema de transportes, sistemas dedicados, incluso a la seguridad. Igual, entones hay que evitar el uso de la inteligencia artificial en decisiones estratégicas en donde no haya supervisión humana, ya que decisiones en tiempo real podrían difuminar en sí la cadena de mando, y responsabilidad sobre todo en operaciones de seguridad, lo que puede afectar la legitimidad institucional ante errores o fallas provocadas. Y bueno, por último, sí es necesario priorizar el desarrollo de los modelos de IA nacionales, entrenados con datos propios y libres de influencias externas y fortalecer, sobre todo, lo que ya hemos mencionado que es la soberanía tecnológica. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias capitán Salmerón. Página 24 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Para este punto vamos a repetir la pregunta, la número 3, qué riesgos políticos y geoestratégicos implica delegar decisiones sensibles como seguridad, salud, gobernabilidad a sistemas automatizados basados en la inteligencia artificial u otras tecnologías emergentes. Pasamos con Marco Antonio Moreno Ibarra de la Secretaría de Ciencia del Gobierno Federal. El C. Marco Antonio Moreno Ibarra: Muchas gracias. Entre más los escucho, creo que es un tema más complejo de lo que podemos imaginar. Muy bien. Yo creo que un elemento importante es que hay que considerar que este tipo de tecnología requiere la supervisión humana en todo momento. Por el momento no es viable dejar que un sistema tome decisiones en temas importantes como salud. Por ahí hay muchos sistemas que hacen diagnóstico con radiografía. Yo sugeriría que cuando se usen, que siempre haya un médico experto que avale los resultados, ¿por qué? Porque realmente los algoritmos no son 100 % eficientes. Entonces siempre por ahí hay algún caso y ese caso puede ser fatal. Entonces, siempre es importante que haya supervisión. Y yo creo que ese es el mayor riesgo que veo. Por ahí también comentaron el tema del entrenamiento de los datos. Por supuesto que ese es un tema. Yo especialmente he probado algoritmos de esos reentrenados muy grandes, entrenados con muchos conjuntos de datos para analizar imágenes de satélites. Y, nos hemos encontrado con la particularidad de que, para encontrar objetos arquitectónicos en México, es decir, huellas de construcción, no funcionan bien, ¿por qué? Porque están entrenados con otro tipo de arquitectura. Entonces es un ejemplo de que tenemos que entrenar los modelos con nuestros datos, utilizar nuestra idiosincrasia, encontrando esas particularidades, tanto físicas, geográficas, de lenguaje, de idiosincrasia, para que los sistemas respondan a como nosotros pensamos y como nosotros necesitamos. Ahora, un aspecto importante que me parece dar en la inteligencia artificial es el tema de la automatización. Sin embargo, creo que, si no se hace de forma correcta, se convierte un riesgo porque se puede abrir una brecha aún más grande. Y yo creo que es podría ser otro riesgo. Otro riesgo importante, por supuesto que es la dependencia tecnológica, nos hacemos usuarios de una tecnología que si no la dominamos vamos a se esclavos, no la vamos a poder normar, no la vamos a poder perfeccionar, entonces eso es un aspecto clave y, por supuesto un riesgo clave es el tema de la ciberseguridad. Hemos estado seguramente en alguna conversación hasta de tipo informal y de repente abrimos el teléfono y ya Facebook nos lanza una promoción para vendernos de lo que hablamos. Página 25 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Entonces ese es un tema liberadísimo que habría que tocarlo también. Algunos países restringen el uso de cierta tecnología que ya sabemos que incluye inteligencia artificial porque saben que nos están haciendo espionaje. Entonces, me parece que sí es un asunto serio y tiene mucho que… (Falla de origen) … Por último, quisiera comentar que no todos los algoritmos se comportan de la misma forma con todos los tipos de datos. Eso está demostrado matemáticamente, hay un teorema que se llama “No free lunch”, entonces eso quiere decir que debemos tener muy claro que debemos de usar un tipo de algoritmo para un cierto de problemas y un cierto conjunto de datos, y si no lo hacemos pues el resultado puede que no sea el correcto. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias doctor Marco Antonio Moreno. Pasamos con el embajador Ulises Canchola. El C. Ulises Canchola: Muchas gracias. En el marco de esta pregunta solamente dos o tres reflexiones, en adición a lo que se ha comentado. Primero una nota de cautela respecto de la transferencia algorítmica. Yo soy abogado, nadie es perfecto, pero tengo entendido, todavía no podemos garantizar la transparencia algorítmica, existe incluso una rama, una nueva rama de la ciencia que se denomina “Mecanistic Proyect BILT”, si cada vez que hablamos de procurar la transparencia del algoritmo es algo que todavía no podemos asegurar o generar. Dicho esto, creo que la pregunta es bastante relevante porque enfatiza lo que venimos de plantear en la primera pregunta, es decir, esta idea de estar generando política y legislación perfectamente alienada, pero sobre todo, con la idea de tener una comprensión y un entendimiento común a nivel social, de lo que es no solamente la tecnología, sino qué relación queremos con la tecnología. Y aquí la gran pregunta me parece, no la hago yo, de hecho, ya son otros filósofos, es, concebimos esta tecnología como un elemento de reemplazo o como un elemento de complemento. Digo, la pregunta bastante toma si se quiere, pero nuevamente, al menos, en el ámbito de las discusiones internacionales, no obstante que aquí se ha dicho que sí se ha venido discutiendo desde hace mucho tiempo, sí ya estamos listos para legislar. Los invito a crear una legislación europea. En ninguna parte del proemio de la legislación se habla de la relación que se busca con la tecnología, podemos, podemos encontrarla implícita, pero no está explícita y creo que sí es un elemento fundamental que tengamos una claridad en este aspecto, la tecnología debe ser una herramienta. Ahora, desde esa perspectiva y es mi último comentario, debemos regular el uso de la herramienta, quizás no entrar a regular cómo diseñamos la herramienta, aquí lograr un equilibrio entre la seguridad y el desarrollo, incluyendo la innovación de la que tanto se habló. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias embajador Ulises Canchola. Página 26 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Pasamos con Enrique Ayala Gonzaga, de la Agencia de Transformación, la Agencia de Transformación, la Agencia Digital de Transformación y Telecomunicaciones. El C. Enrique Ayala Gonzaga: Gracias. Delegar decisiones vitales a sistemas automatizados basados en inteligencia artificial puede sonar moderno, eficiente y atractivo, pero hay que tener cuidado, estamos frente a una trampa peligrosa, si no actuamos con responsabilidad y vigilancia democrática, ya encontrar tecnología, encontrar también nuestro destino. Hoy más que nunca no podemos permitir que nuestra soberanía digital y epistémica sea rehén de algoritmos sin supervisión democrática. El primer riesgo es la concentración excesiva de poder tecnológico en pocas empresas privadas con más capacidad de procesamiento de datos que países venideros. Cuando una corporación acumula más poder computacional que naciones soberanas, estamos frente a una amenaza directa a la democracia, la transparencia y a la autonomía política. El segundo riesgo es económico y social, la inteligencia artificial sin regulaciones claras profundiza desigualdades. Estudios alertan que millones de empleos en América Latina podrían desaparecer por una automatización descontrolada afectando especialmente a mujeres y jóvenes, … aún más nuestros países y eso que todavía no llegan los robots. Pero quizás el … más profundo sea el uso indebido y peligroso de nuestros datos personales. Sistemas en la nube están siendo utilizados hoy mismo para recopilar y analizar información sensible con fines hostiles. En Medio Oriente, grandes corporaciones tecnológicas provienen infraestructura crítica y herramienta de análisis que lejos de proteger a las personas optimizan la violación sistemática de derechos humanos. Esto demuestra que la soberanía no sólo es energética, territorial, también es digital. México debe de asegurar su soberanía digital mediante la creación de un Centro Nacional de Datos que garantice nuestro poder computacional independiente, evitando así que nuestra información pueda ser usada en nuestra contra en situaciones en situaciones límite. Necesitamos evaluar… estrictas, protección absoluta de datos personales, transparencia total en algoritmos, supervisión obligatoria en decisiones críticas, … nuestros valores democráticas más no suplantarlos. Que nuestra generación sea recordada por defender la soberanía digital, la cuestión social y la dignidad humana frente a la explotación tecnológica. Hagamos que la inteligencia artificial sea una herramienta de empoderamiento colectivo y no una amenaza a nuestra autonomía política. La historia del mundo se escribe antes de que suceda, y la historia del mundo también se codea antes de que suceda. Gracias. Página 27 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Enrique Ayala Gonzaga, de la Agencia de Transformación Digital y Telecomunicaciones. Pasamos por la doctora Cintia Smith del Tecnológico de Monterrey. La C. Cintia Smith: Bueno, los riesgos ya los mencionaron ampliamente y son completamente válidos. A mí lo que me preocupa, y les comentaba, esta yo en un evento que fue aquí en la Ciudad de México, había legisladores de toda América Latina es que cuando pongamos, que pongamos estos riesgos a un nivel donde la legislación sea como tirarnos, escupir para arriba, lo voy a decir bien claro, escupir para arriba. Y eso fue un problema bien serio que están teniendo en Europa, la legislación europea ha construido toda una categoría de cuáles son los riegos y cuáles son los habilitantes de esos riesgos. Y, eso está provocando serias consecuencias, digamos, indirectas que terminan afectando a la misma sociedad y a los ciudadanos y a los emprendedores de esos países. Voy a dar un ejemplo para hacerlo más claro y las sutilezas que hay que manejar en estos aspectos para no irnos por el lado del miedo. En este evento el tema de la regulación de las personas que llevan comida con las motitos, y el tema este de la legislación laboral y se aplican en la legislación laboral o no aplican en la legislación laboral y sabemos que hay muchas desigualdades en ese sentido. Más, sin embargo, pudiese llegar, o sea, van cambiando los mercados del trabajo y van cambiando las habilidades de trabajo y querer regular todo con los modelos tradicionales nos puede llevar a quitarle trabajo a personas que se están adaptando en esos esquemas. Entonces la responsabilidad muy grande la tienen ustedes, ustedes son los legisladores. Y, por eso es tan importante tocar todos los sectores, todos los sectores que están involucrando en nuevas economías emergentes, y que estoy segura que cualquiera de los que estamos aquí, los que estudiamos la carrera, bueno, en mi caso ya hace algunas décadas no es lo que terminamos trabajando. ¿Por qué? Porque el mundo cambió y va a seguir cambiando y nos vamos a tener que seguir readaptando a nuevas… Entonces si bien la inteligencia artificial es un tipo de tecnología emergente, cuidar la perspectiva de la innovación, los cambios de los trabajos, los cambios de las oportunidades y tener en cuenta las amenazas, porque las amenazas están ahí, no las estoy negando, pero cómo las podemos aplicar en la legislación para que no sean deshabilitantes, perdón. El Secretario Técnico Alonso Tamez Vélez: Gracias, doctora Smith. Pasamos con Daniela Rojas de ION Institute. La C. Daniela Rojas: Gracias. Pues igual, como sumando a lo que ya dijeron de los riesgos, por ejemplo, el foro del futuro de la privacidad. Alguna vez hizo como estos clústers de los riesgos, de los posibles riesgos que pueda haber con decisiones de toma automatizada, y los dividía como en cuatro principales, una como pérdida de oportunidad, ya sea como laboral, ya sea educativa, ya sea de financiamiento, otra como pérdida económica, por ejemplo, alienado con los créditos, también perjuicio social, que no es con la reproducción de estereotipos, que es muy alineado con temas de sesgos, que pues ya lo mencionaron los sesgos, en realidad no sólo vienen de Página 28 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” los datos, también puede ser de la anotación de datos, también puede venir de la anotación de datos, también puede venir de hacer más eficientes el algoritmo, etcétera, etcétera. También la pérdida de libertad, como por ejemplo vigilancia masiva o también con el uso de reconocimiento facial y cómo está teniendo estos casos de falso reconocimiento en temas de justicia y de seguridad, muchos casos en Estados Unidos y así podemos estar como tres horas hablando de los riesgos. Pero justamente creo que, ahorita mi intervención va a estar alineada a lo que ya decía un poco el Embajador Ulises que es regresarnos unos pasos atrás y decir ¡cómo es nuestra visión como México?, ¿cuál es nuestra relación con estas tecnologías, sobre todo queremos que esté muy alineada a lo que ya estamos discutiendo o viendo sobre los riesgos que pueden estar sobre la mesa, que estén alineados a estos estándares y lineamientos internacionales, pero eso también lo que implica, porque ahorita se está moviendo un poco el tablero y también al respecto, tal vez no sea una prioridad para algunos países estar alineado como a estos estándares. Entonces nosotros cómo nos vemos también dentro de esta visión internacional. Y creo que esto reafirma también la importancia de seguir teniendo este tipo de conversaciones dentro de México y de cómo queremos vernos también en la parte competitiva, porque sí es verdad que tenemos que ser como cautelosos en temas de regulación, lograr este equilibrio, pero una de las coas buenas que hizo el AAAT en la Unión Europea, es que hizo la regulación, pero también hizo un paquete de inversión, como un poco nivelando, o sea, vamos a tener negociación, pero también vamos a tener un paquete de inversión. Entonces siento que es algo que también tenemos que considerar teniendo este tipo de conversaciones, justamente para estar alineados en temas de competitividad. Gracias. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, Daniela Rojas de ION Institute. Y finalizamos esta pregunta con el maestro Alonso Santiago de Bambu Mobile. El C. Alonso Santiago: Muchas gracias. Para mí lo que considero más importante son los riesgos de influencia extranjera. Como bien se mencionaba, pues bueno, muchas de las tecnologías que hoy se utilizan o la mayoría son de procedencia extranjera. Entonces tenemos que ser conscientes de eso y entender esa influencia cómo puede afectar en la toma y en la implementación de ciertas soluciones. Un ejemplo, nosotros construimos desde el año pasado y una solución, que se llama “Sher”, es una solución para fiscalías donde cargamos mucha, la fiscalía y con eso les habilitamos una gente que les permita a los investigadores empezar a trabajar y hacerle preguntas reiterativas para poder descubrir ciertos comportamientos. Por ejemplo, le preguntan a la IA, oye, dime el comportamiento de robo de vehículos donde haya habido personas a mano armada y que aparte hayan sido enfrente de un semáforo en tal colonia. Entonces lo que hace la IA es, va y analiza toda la información y con eso empieza arrojar respuestas y con eso el investigador puede empezar a tratar. Página 29 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Porque es importante aquí detectar qué tipo de tecnología estamos utilizando, porque sin duda es una herramienta muy útil que le ahorra muchas horas de trabajo, incluso días de trabajo a los investigadores, es decir, tenemos que promover y hacer uso de ese tipo de tecnologías. Sin embargo tenemos que tener cuidado qué modelo, por ejemplo, en ese proyecto en particular que les digo que nosotros…pues cargamos información altamente delicada, y si nosotros esa información qu es muy delicada la ponemos en un modelo extranjero del cual no tenemos control o no sabemos dónde va a terminar la información pues prácticamente estamos regalando la “Ata” que puede jugar en nuestra contra, por ahí en temas con el capitán, temas de guerras electrónicas que ahora se les llama o en temas de soberanía nacional, pues son muy, muy importantes todo el tiempo e insisto, con parte de mi respuesta anterior, ser conscientes dónde estamos, qué tipo de tecnología estamos utilizando, por qué la estamos utilizando, sin duda, estarlas promoviendo, pero siempre partiendo de lo resigo que pueden traer hacia nosotros. Esa sería mi aportación. El Secretario Técnico Alonso Tamez Vélez: Muchas gracias, maestro Alonso Santiago. Y, pasamos a la cuarta y última pregunta. ¿Qué principios, salvaguardas y mecanismos de control democrático deben incorporarse en un marco normativo sobre inteligencia artificial para garantizar el respeto a los derechos humanos y la soberanía nacional? Empezamos del lado izquierdo con la doctora Estavillo. La Doctora Estavillo: Gracias. Quisiera tocar el tema, para iniciar esta respuesta, cómo vemos una tendencia a la concentración del poder y al aumento de las desigualdades? Creo que esto es un punto muy preocupante y que tenemos que atender en cualquier enfoque que tengamos, con principios, mecanismos de control democrático para que también procuremos el cierre de brechas y que incorporemos en esta conversación el tema de la competencia, qué tiene que ver con la concentración del poder y de ahí se generan muchos riesgos. Sé que hay algunos temas que exceden nuestra jurisdicción, nuestras capacidades nacionales, porque estos son mercados que se están concentrando en el mundo, pero sí podemos pensar en mecanismos que puedan pues digamos que a mí ignorar un poco estos efectos o empoderar al gobierno nacional, a los gobiernos locales, a las personas, a las empresas, para no estar tan vulnerable frente a esta concentración y necesitamos un diseño institucional para la gobernanza, la inteligencia artificial. No basta, simplemente, pensar en algunos principios, ¿cómo lo vamos a lograr? Necesitamos toda una arquitectura institucional y pensar a quién le toque qué, cómo vamos a colaborar en la sociedad, cómo vamos a intercambiar (Falla de audio) recursos, apoyos, conocimientos. Y esto significa que, necesitamos muchas cosas, necesitamos mecanismos ágiles, innovadores en la regulación y en la legislación, lo que estamos enfrentando es algo muy nuevo, muy rápido, un cambio al que es muy difícil estarnos manteniendo y eso quiere decir que necesitamos innovar en la manera en que se regula, en que se legisla, que permita un cambio. Este es el punto, que permita cambio, adaptación y aprendizaje continuo y no es sólo regulación, necesitamos política pública, porque tiene que ver con estos, es aminorar riesgos, pero también aprovechar oportunidades. Necesitamos esas dos partes. Página 30 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Luego, cómo aprovechamos oportunidades y cómo aminoramos riesgos, o sea, no es una cosa o la otra. Y esto, claro que se basa en principios pero para que se pueden aplicar, prácticamente, necesitamos traducirlos en cosas muy accionables, en protocolos, lineamientos, guías. A lo largo de todo el ciclo de vida de la inteligencia artificial, no es nada más llegar hasta cuándo se usa, cómo se desarrolla, cómo se entrena, de dónde se obtienen los datos, cómo se financia, cómo se valida, es más, hasta como se comisiona, qué hacemos con los datos una vez que ya sale de uso una inteligencia artificial. Y tenemos mecanismos, tenemos evaluaciones de impacto ético que podemos aplicar en cualquier momento del ciclo de vida, la rendición de cuentas, transparencia, explicabilidad, auditorías independientes y propias, que estén relacionadas con la rendición de cuentas, tenemos que hacerlas públicas también, o sea, usar a la sociedad como parte de este mecanismo de gobernanza. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, doctora Estavillo, de Centro y para la Sociedad del Futuro. Pasamos con Héctor Emilio Velázquez, de Group Site. El C. Héctor Emilio Velázquez: Mira, esta parte es muy interesante, la diferencia en la toma de decisiones que se enfrenta el gobierno. Por un lado, las empresas están creciendo a un nivel de automatización muy duro, pueden detectar la parte de, infracciones, hacer modelos hospitalarios, cómo asignar mejor las más hospitalarias, cómo difundir mejor un gasto público o hacerlo más eficiente y, por otro lado, tenemos el gobierno con sus métodos tradicionales a la hora de tomar decisiones. Si no entendemos en esta parte que debe haber un gobierno que crezca tan rápido como están tomando, como está creciendo la inteligencia artificial no va a lograr adaptarse a los cambios tan rápidos que están sucediendo y el tema es que esos cambios ya son el día de hoy, es decir, mientras se están haciendo modelos de eficiencia en cómo asignar mejor las camas en los hospitales, el gobierno lo sigue haciendo de forma tradicional, voy a poner a mi amigo, voy a poner a Juanito ahí. Entonces, sí es muy importante mejorar en ese sentido, pero, a la vez, poner un instituto que defina ciertos algoritmos y que los supervise para que todo el tiempo estén checándose y que esos cuando se metan en las vidas humanas sí se revise que está siendo los más eficientes y los más humanitarios. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, Héctor Emilio Velázquez. Pasamos con Emilio Guerra Estévez, de Cosmos. El C. Emilio Guerra Estévez: Muchas gracias. Me parece que hay muchas referencias a las cuales podemos hacernos llegar ya en la discusión de las salvaguardas, los mecanismos, los principios. Hay uno muy específico que, además, es una entrega académica de Stanford, del doctor Road Right que escribe un texto que se llama System Broad, que es toda una reflexión académica de cómo el planteamiento tecnológico en Estados Unidos que es el más comercial y que todos aquí lo conocemos, y los softwares que todos aquí utilizamos todos los días para interactuar, nuestras redes sociales, las herramientas de entrega de alimentos, etcétera. Cómo podemos nosotros alcanzar esa brecha operativa que ellos ya se equivocaron. Página 31 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Entonces, hay un nuevo, hay un replanteamiento académico y hay un replanteamiento de los colegios de ética aplicada para el uso de la tecnología. Entonces, me parece que para contestar puntualmente esta pregunta, ¿qué principios, salvaguardas y mecanismos democráticos? Bueno, simplemente creo que aquí es importante no mirarnos al ombligo, hay que ir allá afuera, a buscar ejemplos muy claros que existen, que están documentados y que, además, son de acceso muy fácil. Y segundo, seguir haciendo (falla de audio) … el principio de la propia operación y concepción de lo que es el gobierno y de lo que es la política y de lo que es la discusión parlamentaria es ya en sí mismo un principio, ya es en sí mismo una salvaguarda democrática. Debe de seguir haciendo este ejercicio con mucho más tiempo y debe de irse abriendo a muchos más lugares y debe de irse abriendo la puerta a muchos más congresos locales, a muchos más cabildos en los municipios. Me parece que, lo que va a nutrir la protección a los individuos y la arquitectura institucional es, seguir nutriendo esta herramienta democrática que es la discusión y la libertad de expresión, que eso a mí me parece de lo más extraordinario. Entonces, diría estos dos puntos muy específicos: no nos miremos al ombligo, platiquemos encontremos los lugares en donde ya se equivocaron y ya quieren enmendar. No cometamos los mismos errores y lo más importante, sigamos haciendo esto, que esto es lo que me parece mucho más valioso. Muchas gracias. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, Emilio Guerra Estévez. Pasamos con Cristina Martínez Pinto, de Pit Policy Lab. La C. Cristina Martínez Pinto: Yo quiero hacer hincapié sobre la recomendación sobre la ética de la inteligencia artificial de la UNESCO, porque es un marco normativo global del cual México es país signatario y porque ya define una serie de valores y una serie de principios e, incluso, ejes de acción política para aterrizar estas ideas en acciones. Partimos del respeto a los derechos humanos, diversidad de inclusión, el respeto al medio ambiente, sociedades pacíficas, vivir en paz, principios, ya lo mencionaba la doctora Estavillo, proporcionalidad, muchos de los colegas lo han mencionado, seguridad, protección, equidad, no discriminación, sostenibilidad, determinación humana, transparencia, explicabilidad, gobernanza y colaboración. Creo que entorno al tema de cuáles son estos mecanismos de control democrático donde también ya mencionaban tanto evaluaciones de impacto como auditorías, pero, sin duda, debe haber espacios de participación ciudadana y mecanismos de retroalimentación sobre la propia implementación de estas tecnologías. Y regresándonos al punto sobre la diferencia entre el uso de tecnología en el sector público y en el sector privado, me parece que algunos ejercicios muy interesantes que se han realizado en el sector privado es una práctica que realizó, en su momento, el Foro Económico Mundial, que se llama Uso Responsable de Tecnología, en donde reunió a algunas de las principales empresas para preguntarles. Bueno, ¿a partir de tus códigos de ética tú cómo pones en práctica esos principios? Y salieron, emergieron una serie de ejemplos bien interesantes alrededor, por ejemplo, de evertining o de las auditorías o de los jurados comunitarios, o de prácticas en donde se impulsa la participación de distintos Página 32 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” actores que pueden ser potencialmente impactados por estas tecnologías, o bien se plantea tal vez preguntas que en los equipos que diseñan estas tecnologías no tenían en cuenta. Entonces, me parece que ejemplos de prácticas de mecanismos existentes, pero también que vengan del sector privado son fundamentales para entender, pues, cuáles de estas buenas prácticas también son aplicables en el sector público. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, Cristina Martínez Pinto. Pasamos con el Capitán Francisco Salmerón, de la Marina Armada México. El C. Francisco Salmerón: Gracias. Sí, definitivamente, en cuestión del marco normativo, pues, sí es necesario, finalmente, que éste se encuentre ya alineado, principalmente, como todos ya sabemos, por la Constitución y, finalmente, armonizarnos con las leyes que ya existen, o sea, un claro ejemplo, pues, en lo que ya mencionábamos, que eran los datos, ¿no? La privacidad de los datos es un claro ejemplo. Por otro lado, bueno, quisiera aportar igual unos principios que ya algunos ya mencionaron, que considero debieran estar en este marco normativo, por ejemplo, el desarrollo humano, la equidad, la transparencia, la rendición de cuentas, la supervisión humana, el respeto a los derechos humanos, la privacidad y la protección de datos. Considero que esto, el incluir estos principios, pues, sí, generarían confianza en la sociedad y no necesariamente, o sea, al contrario, creo que de manera paralela van a fomentar, pues, un ecosistema de inteligencia artificial competitivo ¿no? Como toda ley, pues, bueno, debe incluir esas responsabilidades, como bien comentaba en uno de esos principios y estas responsabilidades deben incluir también a los, no tan solo a los proveedores nacionales sino también a los extranjeros, como ocurre en otros temas, ¿no? Considero (Falla de audio) de derecho en el tema de inteligencia artificial, creo que vamos a ver un fenómeno muy parecido al que vimos con internet, cuando estaba este desarrollo exponencial de él en los noventas, ¿no? En donde, pues, muchos países empezaron a emerger con sus iniciativas, con sus normas, países que ya son hoy potencia, algunos lo hicieron un poco más restrictivo, otro más laxo y hay unos que se quedaron en la en la parte media, pero lo que sí es que en todas éstas va a haber consecuencias intencionadas y no intencionadas. Gracias. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, capitán Francisco Salmerón. Repetiremos la cuarta y última pregunta. ¿Qué principios salvaguardas y mecanismos de control democrático deben incorporarse en un marco normativo sobre inteligencia artificial para garantizar el respeto a los derechos humanos y la soberanía nacional? Damos la palabra al doctor Marco Antonio Moreno, de la Secretaría de Ciencia del Gobierno Federal. El C. Marco Antonio Moreno: Muchas gracias. Página 33 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Bueno, sobre todo yo creo que estos principios deben guiarse por principios éticos, que debe aceptarse, que los derechos humanos tienen que preservarse en cualquier momento sin importar la etnia, la condición social de las personas y, por supuesto, deben favorecer la inclusión social. En cuanto al tema de salvaguarda, pienso que algunas cosas tienen que desarrollarse, por ejemplo, si los ciudadanos no quieren ser evaluados o no quieren ser considerados dentro de un esquema que involucre una decisión tomada con inteligencia artificial, me parece que ellos tendrían el derecho de decir que no quieren esa consideración. Por ejemplo, otro concepto que me parece que también hay que desarrollar en ese sentido es lo que se conoce como el derecho al olvido. Si yo tengo por ahí algún antecedente o algo que ya no quiero que aparezca en mi historial, que no se considere, pues que yo tenga el derecho a solicitarlo para que se borre de todos lados. Entonces son algunas ideas en ese sentido. Y por ejemplo, con respecto al control, me parece que la educación es un elemento básico, independientemente de comités, de ciudadanos o de autoridades que puedan darle seguimiento, la educación va a hacer que esto pueda tener un control, que los ciudadanos hagan valer sus derechos, que las autoridades sepan qué hacer, que los legisladores sepan legislar adecuadamente y decir que tengamos una sociedad que conozca de estos temas digitales. Y he pensado que una cosa que podría hacerse es algo que se hace normalmente en el área de ciencias biológicas, con lo que tiene que ver con algunos medicamentos, químicos del agro, que tienen una regulación muy estricta. ¿Y a qué me refiero? Que cuando se va a sacar algún producto o se va a comenzar en una investigación, se va a dar algún permiso para que algo entre en operación y entra todo esto a un comité de bioética, en este caso, pero podría pensarse en un comité de otro tipo, en donde, en el caso que un grupo de expertos decidan que ese proyecto no debe seguir, que viola algún derecho, alguna garantía, pues ya no entra a producción o ya no se da el permiso correspondiente. Entonces, me parece que deben verse ejemplos de otras áreas en donde las regulaciones tienen muchos años. No es que sean regulaciones perfectas pero son regulaciones al fin y al cabo. Y, bueno, muchas gracias. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, doctor Marco Antonio Moreno. Pasamos con el embajador Ulises Canchola. El C. Ulises Canchola: Muchas gracias. Voy a dividir en dos partes brevemente mi intervención. La primera respondiendo puntualmente a la pregunta. Ya se ha dicho mucho, efectivamente, en el ámbito internacional comienza a haber una serie de manuales o de metodologías que pueden orientarnos. Página 34 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Y también hay que tomar nota que en próximos días, la Unesco estará debatiendo los principios éticos sobre las neuro tecnologías, que es un tema muy, muy, muy importante y fundamental, al cual deberíamos o deberíamos darle una atención muy, muy particular. La segunda parte de mi intervención, si me permite, senador, quisiera ampliar un poco el foco a manera de recapitulación y volver a insistir en el tipo de reto que estamos enfrentando, particularmente respecto de tecnologías emergentes como la inteligencia artificial. Estamos hablando de una tecnología hiper, hiper evolutiva que está avanzando al momento que estamos hablando, como ninguna otra tecnología nos está transformando igual al momento que estamos hablando. Y creo que no exagero al decir que el tipo de reto que enfrentamos implica, entre otras cosas, que no tenemos siquiera vocabulario para definir el cambio que estamos a experimentar. De ese tamaño es el reto. Para tratar un poco, en fin, creo que deberíamos de tener perfectamente una tecnología que se digitaliza, una tecnología que se digitaliza, se acelera. Cuando se acelera suele converger. Es ahí donde tenemos que poner el foco cuando estamos hablando de política pública o de legislar, tratar de anticipar y no sé si esto sea un poco un sueño guajiro, pero tratar de ubicar en esa matriz el tipo de tecnologías que nos interesan como país, prioritarias para nuestro desarrollo nacional. Y por supuesto, en el ámbito tanto global como nacional, tenemos un reto encarnado en un trilema, si existe la palabra en español. Tomando la analogía de los sistemas de computación, corríjanme los expertos, por favor, pero no podemos tener tres cosas al mismo tiempo. No podemos tener un sistema abierto, en este caso participativo, que sea ágil y rápido, y que sea estable. Estas tres cosas en un sistema de computación no lo podemos tener y me da la impresión, viendo la experiencia que tuvimos para enfrentar el COVID, cuando necesitamos una respuesta ágil, participativa, estable, pues no salimos muy bien librados internacionalmente. Solamente lo tomo como un ejemplo adicional del tipo de reto que estamos enfrentando al hablar de gobernanza. Finalmente, el contexto internacional quizás no sea para que estemos buscando todas las respuestas. Se me antoja que el contexto internacional o el contexto global está más bien para que nos hagamos las preguntas correctas. Muchas gracias. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, embajador Ulises Canchola. Pasamos con el doctor Manuel Martínez Ramos, de la Agencia de Transformación Digital y Telecomunicaciones. El C. Manuel Martínez Ramos: Yo quisiera centrar mi respuesta en los principios éticos que salvaguardarían el respeto a los derechos humanos y la soberanía nacional. El primero es la responsabilidad y la búsqueda de la verdad, debe haber un esfuerzo activo y continuo para eliminar los sesgos existentes en los datos. Página 35 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Las funciones que se buscan optimizar en la fase de entrenamiento deben ser un reflejo de lo que queremos como sociedad y como gobierno. Y esto debe incluir la no discriminación, la tolerancia, el respeto, la preservación de nuestra cultura, la soberanía y demás valores y principios que nos rigen. Además de prever que los algoritmos deben evolucionar junto a nosotros conforme nuestros mismos vayamos mejorando. El siguiente principio que quiero mencionar es el del conocimiento libre y accesible. Promover la utilización de software de código abierto y libre distribución que, en consecuencia, sea auditable y usar los principios de la ciencia abierta y reproducible a través del uso de repositorios de código abierto. El siguiente par de principios que quiero mencionar son los de dignidad y privacidad, que la información de identificación humana esté resguardada, que sea soberana y que esté lo más libre posible de ataques cibernéticos o algunas otras tentativas de violación. Y, por último, quisiera mencionar el principio de apertura e inclusión. Que los datos que sean abiertos e impersonales sean fácilmente disponibles para que se haga un consenso o una verificación que siempre que haya una afirmación, las personas puedan buscar las referencias correspondientes y verificar. Muchas gracias. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, doctor Manuel Martínez. Pasamos con la doctora Cintia Smith, del TEC de Monterrey. La C. Cintia Smith: Yo voy a ser muy breve. Realmente apoyo cien por ciento la postura de María Elena y de Cristina, era de lo que tenía escrito aquí; es un mecanismo de gobernanza articuladora que sea multiactor y que le dé seguimiento al algoritmo de principio a fin y a los datos de principio a fin hasta que se desechen. Y comentar nada más brevemente que estoy muy contenta de haber sido invitada y que ojalá sigan abriendo estos espacios y que le estaré dando muchísimo seguimiento una vez que el proyecto de ley esté en construcción ya en fases de evolución y que cuentan siempre con mi experiencia y con mi apoyo a sus obras. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, doctora Cintia Smith. Pasamos con Daniela Rojas de ION Institute. La C. Daniel Rojas: Igual voy a ser súper breve para no repetir lo que ya dijeron, pero sí hablando de principios, tenemos los de la UNESCO, que creo que es uno de los documentos más importantes al respecto, donde ya mencionaron muchos de los principios que comento. Y, pues, sólo como súper rápido, pues lo decía también en mi primera intervención, o sea, realizar como este análisis de las atribuciones y límites de cada entidad de gobierno para asegurar que este marco sea sólido. También como designar a una entidad responsable de parte del gobierno también para la implementación. Página 36 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” También tener un consejo de inteligencia artificial como para este monitoreo donde sea multisectorial, multiactor, justo muy alineado a lo que decían, como ya seguir teniendo estos mecanismos de colaboración que algunos gobiernos ya lo tienen, lo tienen como separado, o sea, tienen la agencia y también tienen como el consejo. También mecanismos de evaluación continua. Aprovechar estos partnerships externos desde gobierno también hacia otras entidades, sociedad civil, qué está haciendo academia, qué está haciendo el sector privado. Una caja de herramientas como todo esto, documentos que ya existen, un poco de que ya existen, pero también tropicalizarlos, a ver cuáles son las necesidades puntuales que nosotros tenemos como país. Y, pues, justamente, también que se enfoque y lo mencionaba también Cristina, en su intervención, que se enfoque mucho en el sector público porque tenemos mucha documentación y muchos ejercicios alrededor del sector privado, pero no tantísimo al sector público. Sí existen como algunos gobiernos que lo están implementando. Entonces, bueno, de esos casos que podemos sacar como de buenas prácticas que han hecho internacionalmente, un caso, pues, como interesante, Singapur, en temas de gobernanza. Entonces a lo mejor es algo que podríamos estar observando. Y pues nada, muchas gracias por la invitación. El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, Daniela Rojas de ION Institute. Y terminamos la cuarta pregunta con el maestro Alonso Santiago de Bambú Mobile. El C. Alonso Santiago: Gracias. Bueno, en esta complejidad de poder definir un marco normativo y empezar a legislar en esta etapa de esta tecnología emergente y con todo lo que se viene, para mí lo más importante es, pues, enfocar y llevar a la población, no solamente a todas las instituciones, sino hacer un esfuerzo importante hacia la población, porque es una tecnología democrática, todos tenemos acceso a ella de forma muy accesible, o sea, muy barata. Por lo cual, llevar a tener un tema de trazabilidad y transparencia, ¿no? Donde todo el uso de tecnología, con IA o sin IA, pero que sea tecnología digital, que esté haciendo uso de datos, lleve a cabo un proceso de trazabilidad y transparencia, ¿no? Eso nos va a permitir, pues, llevar controles en el futuro. Y estas tecnologías van a venir evolucionando, ¿no? Aunado al comentario del embajador Ulises Canchola de decir lo que viene en el futuro. Hoy, por ejemplo, tenemos, todo el tiempo nos están diciendo las nuevas empresas que viene el cómputo cuántico, que prácticamente va a ser la diferencia y va a transformar de manera impresionante, disruptiva y exponencial. Todo lo que se viene, casi casi nos están diciendo todo sistema que ustedes tengan va a ser hackeado de una forma polite y debemos estar preparando para eso, o sea, y debemos de ser conscientes de eso y sino llevamos a la población y a la sociedad en general a ser conscientes del uso de la tecnología. Pues, difícilmente vamos a poder implementar marcos que puedan ser utilizados, implementados con todos los ciudadanos. Página 37 Versión estenográfica Ese sería mi único comentario. Muchas gracias. Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” El Secretario Técnico Alfonso Tamez Vélez: Muchas gracias, maestro Alonso Santiago. Ahora, cedemos la palabra a la Senadora Yeidckol Polevnsky. La Senadora Yeidckol Polevnsky: Gracias. Bueno, yo creo que el uso de las bases de datos y de la inteligencia artificial, a la que la mayor parte de la gente se refiere, porque es a lo que estamos acostumbrados, es por lo que hemos visto cómo los ha utilizado, principalmente, Estados Unidos, que es con una visión de mercado. Tengo toda tu información, todas estas bases de datos, pero, básicamente, para saber qué te gusta comer, qué te gusta comprar, si te gusta el fútbol, si te gusta el béisbol, qué entonces te ofrezco. Eres un mercado cautivo y con tu información te vendo, ¿no? Pero ese es el uso que dan ellos. Efectivamente, como lo comentó aquí este maestro, China lo maneja en una forma distinta, toda la información que pueda obtener de base de datos, para cómo llevo esta información para mejorar la calidad de vida de las personas y esto, que es un principio marxista, cómo logramos llevar a la gente a la felicidad. La felicidad tendría que ser el último objetivo y ese objetivo tiene que ver con el bienestar. Entonces, son dos formas totalmente distintas de visualizar la inteligencia artificial y también el uso de las bases de datos. A fin de cuentas, los algoritmos son el potencial, la posibilidad de poder manejar una gran cantidad de datos en una forma más eficiente y poder hacer uso de ella. No que esas bases de datos o esos algoritmos nos van a manejar. No, somos nosotros los que tenemos que aprovecharlos y que manejarlos y es un tema que se tiene que revisar y analizar. China fue un buen ejemplo, porque China y Estados Unidos son como que la antítesis, entre lo que hace uno y el otro y por qué objetivos los hacen. Efectivamente, China aprendió de Estados Unidos, pero lo superó por mucho y lo utiliza en una forma distinta. Ahora, hay que tener claro lo que se planteaba en un principio. Sí es verdad que hoy los gobiernos son más débiles y los estados también, pero hubo una intencionalidad para debilitar a los estados, muy perversa y los medios de comunicación hablaban todo el tiempo mal del que hubiera que debilitar. Si el partido en el que tenía el poder fuerte era el PRI, pégale al PRI, porque es el que hay que debilitar, porque es el fuerte. Entonces, sí, y si el gobierno, pues hay que pegarle al gobierno, pero hubo una intencionalidad muy perversa. Página 38 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Ahora, el discurso que se planteaba era, hay que hacer estructuras más delgadas, hay que bajar la burocracia y hay que tener estructuras esbeltas, ¿no? Sí, pero una cosa es tener estructuras esbeltas y otra cosa es tener gobiernos débiles y lo que no debemos permitir ni aceptar son los gobiernos débiles. Necesitamos gobiernos fuertes y en el tema internacional no puedo estar más de acuerdo, en cuanto con esa visión y finura diplomática en lo manejo, necesitamos estar presentes en el tema diplomático y hacer un trabajo multilateral y bilateral. Es una realidad que las Naciones Unidas nacieron y hoy estamos en un riesgo dramático, porque los ataques al multilateralismo son severos, nacieron para evitar que hubiera una siguiente guerra, que no hubiera una tercera guerra mundial. Ese era el objetivo y por eso se crearon tantas instancias. Sin embargo, si ustedes escuchan hoy el discurso de Trump, diciendo que si no ponen los países de Europa, este, mínimo un cinco por ciento para la OTAN, entonces ellos se salen de la OTAN. ¿Pero para qué quieres un cinco por ciento para armamento, si lo que quieres es garantizar la paz? Entonces, la Unión Soviética, cuando se viene abajo, sí cierra el pacto de Varsovia, pero Estados Unidos no acaba con la OTAN, y la OTAN trata de meterse no solamente en el Atlántico Norte, en el sur, por todos lados. Entonces, hay que tener muy claro la intencionalidad que hay entre todas estas cosas, que son no para la paz y no para un bienestar de toda la población. Y con eso, tener claro que tenemos que tener partidos fuertes, no uno, varios. La competencia así como entre las empresas, también entre los partidos es importante y es valiosa, pero tener clara cómo se manejan las intencionalidades de los trabajos. Luego, no tenerle miedo a la automatización, tampoco a los robots. Tenemos que contemplar que los robots deben ser vistos y utilizados para los trabajos pesados. El hombre ya no tiene por qué, por eso ya no podemos hablar de mano de obra, ahora es mente de obra. Entonces, si necesitamos que tener robots para cargar cajas y para moverlas, maravilloso. Para hacer el trabajo duro que no tiene por qué hacer la persona, también y si esto le puede reducir el tiempo de trabajo, que todo el tiempo estamos trabajando para reducir horas de trabajo, sí, pero para que las tenga el ser humano, para la convivencia familiar, para disfrutar de la vida y no para trabajar tantas horas. En el pasado, el trabajo era esclavo (Falla de audio) y hemos ido disminuyendo el número de horas de trabajo, pero se ha ido aumentando la calidad de horas de trabajo, que eso es muy importante. Ahora, cuánto tiempo le lleva a una persona calcular, por ejemplo, para hacer empaques y embalajes, para mandar a cualquier lado, los cálculos, a ver, para este contenedor, tantas cajas de este tamaño, más tantas, cómo las acomodo, cómo las arreglo, eso lo usan los algoritmos. Eso lo podemos resolver con algoritmos. ¿Qué está sucediendo? Página 39 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” Estamos usando la tecnología a nuestro favor, en beneficio, no tendríamos que estar aterrorizados por esa parte. Creo que eso es muy básico y luego, unos datos. Bueno, sí, efectivamente, debe garantizarse que aquí ya se comentó, los avances, que los avances científicos nos permitan y que sean accesibles, asequibles y especialmente, impulsar mucho a los países en desarrollo. Tantísimo. Hemos hablado mucho de la integración latinoamericana, hemos hablado mucho, pero no hemos hecho tanto. Hoy China plantea el apoyo para el sur global y con hechos, con acciones reales no con discursos, y no comprometiendo a los países a que tengan una ideología o a que tengan o sigan alguna visión sino para que cada país mantenga su propia opinión. Y efectivamente, la UNESCO elaboró en 2021 las recomendaciones sobre ética de inteligencia artificial. La UNESCO y México han trabajado de la mano diez años en temas de inteligencia artificial, muy importantes, esto del RAM del 2021 es importantísimo, hay que aprovecharlo, porque habla de ética y permite que la UNESCO pueda apoyar a los gobiernos para resolver las brechas institucionales, ya hay un trabajo hecho, hay que aprovecharlo. Además, somos parte de él. La ONU constituyó el órgano asesor de alto nivel sobre inteligencia artificial en 2023, también importantísimo, un órgano importante y hablando del multilateralismo, es que hoy tenemos que defender el multilateralismo, de todas las formas posibles. ¿Por qué? Porque Estados Unidos busca ser el único. Entonces, efectivamente, antes hubo dos grandes potencias, o sea, dos grandes poderes, la Unión Soviética y Estados Unidos, y la Unión Soviética, entonces Estados Unidos quiere ser el todo poderoso. No, el multilateralismo nos garantiza y nos ayuda a todos los países y, voy a decir, ahí tenemos, por ejemplo, la Agenda 2030. La Agenda 2030 llevó un trabajo de 15 años para lograrse y aprobarse la Agenda 2030. Es una agenda progresista, muy importante, que tendría que ser una hoja de ruta para todos los países y, sin embargo, no se está atendiendo. ¿Qué países han trabajado? Por ejemplo, China sí sacó, acabó con la pobreza extrema, muy importante y el Banco Mundial reconoce que México sacó un número muy importante, 9.5 millones de personas de la pobreza extrema, pero tenemos muchas tareas. México, por ejemplo, en el tema de género, que muchas feministas no aceptan el término como género, pero vamos a plantear este tema, nos adelantamos por mucho y, entonces, llegamos al Congreso en paridad total y llegamos a las dependencias de gobierno a tener, México hoy es ejemplo a seguir, porque tiene 50 % y 50 % de mujeres, que se supone el objetivo era lograrlo para el 2030. Nosotros llegamos a ello muchísimo antes. Entonces, en esa parte estamos muy avanzados, pero en otras partes estamos muy atrasados. En los temas de salud, en los temas de educación, estamos muy rezagados y tendríamos que plantearlo para México y para muchos otros países. Entonces, bueno, pues, defendamos el multilateralismo y reconozcamos todo. Página 40 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” No me cabe la menor duda que al rato Trump va a decir, pues, me salgo de Naciones Unidas y ojalá lo hiciera, porque con eso de que tiene derecho de veto y ahí los votos no se cuentan sino que se pesan, y cuando decide, no importa si todos los países votan para que se acabe el bloqueo a Cuba tiene derecho de veto Israel y Estados Unidos, dicen que no, y no importa el voto de todos los demás, que pagamos nuestras cuotas. Entonces, son temas que vale la pena revisar, porque Estados Unidos no es un país democrático, Estados Unidos no garantiza, y habló y tuvo un discurso sobre libre comercio por años y años, y nos sometió a muchos países y ahora nos quiere someter con el tema de los aranceles, inaceptable. Bueno, la inteligencia artificial es, a fin de cuentas, una herramienta que depende del uso que le demos, que no hay que tenerle miedo, que al contrario, hay que pensar cómo la aprovechamos en el beneficio propio. China hoy es el líder global de publicaciones de artículos científicos sobre inteligencia artificial, tiene el 23 % del total de publicaciones, Europa el 15 %, y India y Estados Unidos el 9 %. En patentes en inteligencia artificial, de 2010 a 2023, China tuvo el 69 % de las patentes en inteligencia artificial, mientras Estados Unidos tuvo el 14 %. Deep Seek, ¿qué sigue ahora? Todo el mundo, métete al chat de PTI, no sé qué tanto, para que te analice un... Yo la verdad, cuando me lo recomendaron mis nietas, dije, qué horror, qué espanto, no, no hace un análisis, no, no hace un análisis porque ahora es genérico. Pero, lo que está planteando ahora, el famosísimo Deep Seek, es personalizar, traducir este artículo, ya menos, ok, ahora lo quiero, pero en lenguaje mexicano, que es distinto al argentino, o al cubano, o al chileno. Ahora quiero hacer un documento, pero yo no uso estos términos y yo uso, y entonces vas a poder ir personalizando lo que quieres, y entonces se vuelve más útil, se vuelve más eficiente. Entonces, ¿qué sigue? Algo de personalizar estos sistemas y hay que recordar que Deep Seek, a fin de cuentas, se logró con muchísimo menos recursos que con lo que se logró en chat TPI. La mayoría de los estudiantes de ciencias computacionales en Estados Unidos, tristemente no son mexicanos, son chinos e indios, 93 % en maestría, 60 % en doctorados, chinos e indios. Ni Estados Unidos los tiene. Estoy hablando de universidades de Estados Unidos. La iniciativa global de gobernanza de la inteligencia artificial propuesta por China en 2023, plantea incrementar la cooperación internacional en el desarrollo de capacidades de inteligencia artificial, que también es muy importante. China está dispuesta a trabajar con todos los países, especialmente con los del sur global, para impulsar el crecimiento económico mundial y garantizar el bienestar. Que eso es muy importante. ¿Por qué? Porque cuando hablamos de tratados de libre comercio, es decir, ábreme este mercado, bájame los aranceles en este otro, todo es en función de mercados, de negocios, no de bienestar y esto es lo que cambia toda la visión. El Centro de Investigaciones en Tecnologías de la Información y Comunicación, Infotec, hizo un, desarrolló en forma conjunta con Huawei en 2024, y a lo mejor valdría la pena, si el presidente está de acuerdo, que les pidamos que nos hagan un nuevo, porque hicieron un curso muy interesante en el que nosotros Página 41 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” participamos, para un programa de desarrollo de talentos, se llama el Programa de Desarrollo de Talento de la Inteligencia Artificial 1000. Bueno, de este programa, 1000 mexicanos se certificaron en inteligencia artificial, y los 107 mejores promedios viajaron a China para recibir dos semanas de instrucción avanzada por parte de expertos de Huawei. Entonces, creo que vale la pena tomar el curso y difundirlo, promoverlo, y que otra vez sacar otro grupo, que lo financien y lo manden con todo pagado para allá. Algo que vale la pena marcar es, ¿saben cuánto invierte o reinvierte Huawei en investigación y desarrollo? El 50 %. El 50%. Yo vengo desde que vengo del sector empresarial, pidiendo que México por lo menos llegue al 2 y nunca hemos llegado arriba del medio punto por ciento del PIB. Ellos, el 50 % de sus ingresos es para reinvertirlos en investigación y desarrollo. Claro que no nos van a alcanzar los americanos ni queriendo. Bueno, este programa busca crear talentos en inteligencia artificial que permitan contribuir a la resolución de problemas nacionales, o sea, los de México. Entonces, creo que ese es algo que vale la pena. México y Brasil poseen el 95 % de las patentes de inteligencia artificial de América Latina, que también es un dato que creo que vale la pena, porque algo estamos haciendo y algo estamos haciendo bien. Entonces, creo que, en verdad, estos foros son una maravilla. Me emocionan cada que me invitas. Te lo agradezco mucho, presidente. Reconozco, de verdad, que son foros muy, muy importantes, donde uno puede nutrirse de lo que escucha aquí, de todos los importantes invitados que tú tienes aquí. Y, nada más, reconocer y celebrar la gran labor que estás haciendo y creo que tuvieron un tremendo acierto para que tú seas el presidente de esta importante comisión que tanta falta le hace a nuestro país y porque estás haciendo un trabajo maravilloso. El otro día lo platicaba con un compañero que decíamos que, dentro de todos los senadores, eres la gente más seria y del mayor compromiso entre todos. El Presidente Senador Rolando Rodrigo Zapata Bello: Muchísimas gracias, senadora, por sus palabras. De verdad, nos motivan mucho para seguir echándole muchas ganas. Y, de manera muy particular, agradecerles a todas y todos ustedes que han participado en este sexto conversatorio. Como les decía al principio, fue una serie de conversatorios, seis, donde, haciendo un poco de numeralia, que es importante, precisamente, en esta noche que concluye esta serie, pues fueron 65 ponentes, fueron más de 260 intervenciones, tomando en cuenta que cada uno de ustedes tuvo cuatro intervenciones hoy. Están siendo consignadas en la versión estenográfica y eso nos va a permitir un análisis metodológico sistematizado para ir arribando a los planteamientos que vamos a hacer esta comisión y las comisiones Página 42 Versión estenográfica Sexto conversatorio “Gobiernos, Organismos Multilaterales y la Toma de Decisiones Estratégicas” hermanas respecto a qué productos legislativos serán necesarios para atender un planteamiento que dijo el embajador Canchola, que me gustó mucho, senadora. Decía, no pretendamos en este ejercicio, yo lo aterrizo legislativo, responder todas las preguntas que en el ámbito global están circulando sobre la inteligencia artificial, mejor no pretendamos buscar respuestas, pretendamos mejor hacernos nosotros, en el caso mexicano, las preguntas correctas para poder dar una respuesta, una resolución al planteamiento dinámico, al gran reto complejo, multidisciplinario, que implica el poder construir un marco normativo sobre el uso de la inteligencia artificial, que realmente le sea útil a México, que le permita a nuestro país hacer uso de esta tecnología que yo creo, con todo respeto, no es una opción, ya está sucediendo, y alcanzar ese balance, ese equilibrio de cómo. Por una parte, poner al ser humano en el centro de la ecuación, garantizar que se dé el uso de la inteligencia artificial bajo principios éticos, de dignidad, de respeto, que impulse el bienestar para la población, porque a fin de cuentas ese es el fin último de todo proceso, de todo impulso, que nos respondamos con claridad, como también aquí se expresó, ¿para qué queremos usar inteligencia artificial en México? Y al responder esa pregunta, nos toparemos, sin duda, con el gran elemento del bienestar para la población, pero al mismo tiempo, que haya un equilibrio y que esas normas no se conviertan en un obstáculo para la innovación, para la ciencia, para la tecnología, para la inversión, porque a fin de cuentas el desarrollo y el impulso económico también le genera condiciones de bienestar a la población, fundamentalmente a través del empleo, del empleo del siglo XXI, que es como tenemos que visualizar, bien lo dijo la senadora Yeidckol Polevnsky. Yo he platicado, bueno, a raíz del nombramiento, ustedes entenderán, pues voy mucho a medios y me preguntan, y un tema que siempre hay, que siempre salta es: oigan, pero si va a, si se usa la inteligencia artificial y los robots, entonces los seres humanos se van a quedar sin empleo. Entonces, yo el otro día escuché un planteamiento que decía, sí, me parece muy lógico, a un ser humano no le va a quitar su trabajo una máquina, le puede quitar su trabajo otro ser humano que sí maneja las herramientas tecnológicas. Por eso me encanta el planteamiento del conocimiento continuo, el aprendizaje continuo, el cambio continuo, la innovación continua, y bueno, son demasiados temas, pero a fin de cuentas, reitero, toda esa información importante, toda esta información de los seis conversatorios está a disposición de todos ustedes en el micrositio de la de la comisión, y les vamos a pedir que nos permitan mantenernos en comunicación con ustedes para que cuando ya concluyamos, ya hemos concluido esta noche, sistematicemos la información, etcétera. Pues las compartamos con ustedes porque a fin de cuentas la labor y la tarea que ustedes realizan en sus diferentes instituciones, pues realmente estoy seguro que les interesa lo que colegas como ustedes, tantos como sesenta y cinco, han pasado por esta mesa del Senado de la República expresando sus ideas con toda generosidad, sus conocimientos, sus experiencias, sus inquietudes, y eso nos ha nutrido enormemente como Senado de la República y nos compromete con ustedes para darles un debido seguimiento a esta a esta tarea, este diálogo inacabado. Muchísimas gracias, muy buenas noches. SALVA ÁRBOLES Y AHORRA PAPEL Consulta la Versión Estenográfica del Senado en www.senado.gob.mx
No hay comentarios:
Publicar un comentario