TRANSCRIPCION

Muchísimas gracias. Medianamente lo logramos. Estamos conectados con Emilio Saldaña Quiñones, mejor conocido como PISU. PISU nos está acompañando de manera virtual desde China. Él es un destacado especialista en tecnologías de la información y comunicación, con más de 30 años de experiencia en la integración de soluciones digitales para los sectores público y privado. Su trayectoria ha estado marcada por un profundo compromiso con la innovación tecnológica, el uso de Internet como herramienta de transmisión y la divulgación de la ciencia y tecnología en distintos medios. Actualmente es director general de Alternativa Digital y socio director del Laboratorio de Innovación y Transformación Digital Hugo Blab, desde donde impulsa proyectos de modernización digital para el sector gubernamental en Iberoamérica. Como analista de tecnología, PISU ha colaborado durante más de 20 años en diversos medios de comunicación nacionales e internacionales. Actualmente es responsable de la sección de tecnología en los programas de W Radio, Heraldo TV, 1TV y Grupo Fórmula, donde analiza tendencias digitales, ciberseguridad, inteligencia artificial y el impacto de la tecnología en la sociedad. ha conducido programas especializados como Factor Ciencia, ¿Qué rayos? y Generación H, acercando la ciencia y la innovación a nuevas audiencias. Como herramienta de la inteligencia artificial, como herramienta, perdón, la inteligencia artificial nos hace cuestionar no solo la imparcialidad y la transparencia, sino que tenemos que pensar cómo se garantiza la divulgación autorizada, si es indispensable el etiquetado de la información. La inteligencia artificial nos enfrenta a retos éticos, discriminación automatizada, rastreo de datos, considerando el sesgo algorítmico. Y Pisu nos va a compartir su experiencia. ¿Listo, Pisu? Muchas gracias por la invitación. Debo ofrecer una disculpa porque, en efecto, les estoy platicando, converso con ustedes el día de hoy desde China, desde Shanghai, con la problemática que implica además conectarse desde China a servicios de este estilo, pero les ofrezco una disculpa porque el viaje salió posterior al compromiso de participar en el evento y me apena pues el que se haya realizado de esta forma, habiendo tenido la intención de estar ahí directamente con ustedes, pero les agradezco mucho esta oportunidad y agradezco mucho que me consideren para poder compartirles algún par de reflexiones acerca de cómo está el reto en términos de la inteligencia artificial y cómo podríamos en un momento dado considerar verla como una aliada para la industria del cine. ¿Cuáles son los retos éticos y cuáles en todo caso son algunos de los casos prácticos de los que podemos comenzar a tener referencia? ¿Han tenido ustedes a lo largo de la mañana presentaciones y en donde han ido acercando el tema de la inteligencia artificial y distintos retos que la misma nos ha venido presentando. Pero yo quisiera comenzar rápidamente comentándoles que el reto que hoy implica la inteligencia artificial en muchos sentidos es un reto que la humanidad, me parece, no habíamos enfrentado. Es decir, el ser humano no había tenido un competidor intelectual hasta la llegada de la inteligencia artificial. Ser el único ser vivo en el planeta en el que dominábamos en términos del razonamiento y del conocimiento y de todo esto, nos había dado una ventaja muy interesante. Y quizá un poco parte del miedo que nos provoca la inteligencia artificial o la angustia o la preocupación que pudiera generarnos, tiene y tiene mucho que ver precisamente con esto, con el que no habíamos tenido la especie humana, un competidor intelectual que nos dejara claro que en ese aspecto, incluso en muchas ocasiones, es tanto o más eficaz, rápida, precisa, creativa, o lo que entenderíamos por un proceso de integración de algunas ideas como creatividad. De manera que conducir el ejercicio de la inteligencia artificial se ha convertido en un reto en muchos sentidos, pero el principal es cómo podemos asegurarnos de que en términos técnicos, por un lado, por otro, en términos éticos, no se convierte en un competidor nuestro, sino se convirtiera en un aliado. Me parece que ese sería, digamos, uno de los principales objetivos con los que querríamos convivir con la inteligencia artificial. Cuando hablamos de procesos creativos y cuando hablamos de procesos que involucran mucho del conocimiento combinado con aspectos técnicos y con aspectos artísticos, tenemos entonces es un reto muy interesante porque al final del día la inteligencia artificial no solo asiste en realidad tipo crea junto con nosotros y nos obliga a hacernos varias preguntas que son parte de la participación que quisiera compartir con ustedes y en estos ejemplos y en estas reflexiones la primera sería, hablando de transformación disruptiva de este proceso creativo y de innovación si la inteligencia artificial crea junto con nosotros, por supuesto una pregunta que el mismo evento está llamando a las mujeres ¿Quién es el autor? Cuando la inteligencia artificial propone por ejemplo un guión o edita alguna escena o sintetiza alguna voz, ¿Quién es en todo caso entonces el autor? La pregunta, aunque filosófica en un momento dado, comienza a tener intentos de respuestas en lo práctico y escuchamos países en donde determinan que si la inteligencia artificial crea o co-crea algo en particular, no sea susceptible de registro, por ejemplo, en términos de derecho de autor, sino quien en un momento dado haya generado a través de un prompt, de una petición cierto tipo de procesos creativos y de generación de contenidos. Y en este caso me parece que el CIME enfrenta una frontera muy interesante entre, y un reto además muy grande, entre lo que implicaría inspiración y lo que implicaría una copia automatizada. Dentro de este tema, o dentro de estos retos, está el principal dolor de cabeza con el que estamos lidiando ahorita que tiene que ver los derechos de autor y las varias zonas grises que el uso de la inteligencia artificial está planteando. Hoy, por ejemplo, la ley actual, aunque trata de explorarlo, no contempla obras generadas por inteligencia artificial. Y la pregunta es ¿debemos proteger una creación sin un autor humano directo? Y esto en un momento dado, ¿qué consecuencias puede tener? ¿Y cuáles son hoy los vacíos legales en los que el entrenamiento, por ejemplo, de modelos de inteligencia artificial con obras protegidas se está llevando a cabo. Y la pregunta ahí sería, ¿estamos hablando de uso o estamos hablando de infracción? Hay varios aspectos en la forma en la que la inteligencia artificial se está acercando a distintas áreas de la producción y de la creatividad que presentan retos adicionales y que a mí me llaman la atención y por eso además les agradezco la oportunidad de la atención de ustedes y que me escuchen, de los aspectos o de los distintos rubros dentro del cine en los que podríamos tener uso de inteligencia artificial, y esto me llama la atención, son tales las variantes que el determinar en una sola condición si la inteligencia artificial es o no conveniente o positiva sería evidentemente, me parece, equivocado. Tenemos, por ejemplo, toda la parte de preparación o de preproducción que involucran desde la creación de una historia, el detalle en el desarrollo de un guión, hasta parte del diseño en un momento dado, tanto auditivo como visual, que pudiera tener una obra asistidos por una inteligencia artificial a la que le estemos pidiendo cierto tipo de apoyo. Tenemos, por ejemplo, y esto es algo que he tenido la oportunidad de ver de cerca ya sucediendo, tenemos, por ejemplo, lo ocasionado con los actores y actrices en términos de consentimiento y derechos sobre las voces, rostros e incluso estilos que se están utilizando. Y hoy una pregunta que estamos empezando a escuchar constantemente es, ¿en verdad están planeando en clonar la voz o imagen de un actor, por ejemplo, vivo o fallecido, sin autorización para poder utilizarlo? ¿O aun con su autorización, este actor o actriz está consciente del impacto que pueda tener esto? Conocemos el caso, por ejemplo, de James Earl Jones, de Darth Vader, que permitió que su voz fuera grabada y utilizada en un futuro para poder darle vida a versiones adicionales de Darth Vader que evidentemente él ya no podría acompañar. La pregunta es, ¿esto va a ser una excepción o va a ser una regla? Porque hoy, en una de las amenazas más importantes, si pensamos en desplazamiento laboral, es decir, ¿qué tanto la inteligencia artificial podría impactar los puestos laborales dentro de la industria del cine? Pues está dentro de la generación de contenidos, está, por ejemplo, hoy este reto. Y esto es algo que los estudios en distintos países han comenzado a ser actores de doblaje, actrices de doblaje, que además en México, como ustedes saben, en la industria del doblaje es una de las industrias más reconocidas a nivel mundial. hoy comienza a presentar ya el reto de la grabación de voces para utilización de inteligencia artificial, en el que el tema más importante tiene que ver con que no se está apreciando o valorando más la voz, por ejemplo, de una actriz o de un actor, por haber sido grabada y utilizada, sino al revés. Pareciera que la industria, o ciertos aspectos de la industria, quisieran reducir el pago que tuvieran que darle a alguna actriz o actor de doblaje, en la medida en la que están utilizando su voz licenciada, pero ya no están haciendo trabajar presencialmente a esa actriz o a ese actor. Y aquí lo que me parece que es muy importante, y hoy todavía no tenemos estos aspectos considerados, es la transparencia que tendría que haber en los mecanismos de compensación para creadores digitales. ¿Cómo estamos considerando que cuando tenemos la propiedad intelectual de un actor o de una actriz, En el caso de su voz, ¿cómo deberíamos valorarlo? En muchos casos, fuera del cine, por ejemplo, está sucediendo a través. El valor que se le está dando al conocimiento o al tangible humano con el que se entrena una inteligencia artificial, está cobrando un valor muy relevante. Hay un caso, por ejemplo, interesante en las empresas que están dedicadas al soporte y al servicio a clientes telefónico. Han comenzado a intentar entrenar sistemas de inteligencia artificial para que hablemos con estos chatbots que nos puedan atender y nos resuelvan problemas. La mayoría de nosotros no nos gustan estos chatbots porque literalmente casi nunca nos responden la pregunta correcta. Pero lo que están logrando en estos casos es que empresas que se dedican al soporte y servicio en algún producto o servicio en particular han comenzado a entrenar inteligencia artificial con humanos, con los humanos más expertos o más avesados en el soporte al cliente y en atención al cliente para que con base en esa información y en ese conocimiento estos sistemas de inteligencia artificial sean más precisos, más puntuales, más proactivos incluso en la forma en la que están escuchándonos y respondiéndonos preguntas. Lo interesante es que en un momento dado la pregunta de estas empresas fue a esas personas que toda su vida se dedicaron a dar servicio al cliente y que por ello tienen un nivel de percepción y de experiencia en el manejo de la atención a los clientes, deberíamos pagarles más o pagarles menos. Y quienes se prestaron para este tipo de entrenamiento, afortunadamente dijeron, no, tendrían que pagarnos más, mucho más, porque el conocimiento que nosotros le vamos a aportar a esta plataforma va a hacer que la plataforma sea en efecto eficiente, veraz, asertiva en la forma en la que atiende a un cliente. Y ese entrenamiento tendría que tener un valor de replicabilidad. Se lo voy a enseñar una vez, pero esa plataforma la va a poder utilizar cientos de miles de veces. Y un poco lo traigo a colación porque en casos prácticos de cómo la inteligencia artificial comienza a hacerse presente en distintas áreas de los procesos creativos. Uno de estos tendría que ver con dejar en salvaguarda a las personas y los trabajos de las personas, por un lado, y por el otro, revisar qué tanto podemos utilizar como herramientas de asistencia y colaborativas temas de inteligencia artificial, sin que pongan en riesgo, digamos, todo esto que implicaría los derechos laborales, la remuneración y, por supuesto, todo lo que tenga que ver en materia de derechos de autor y de replicabilidad. Hay casos, por ejemplo, como el de Indiana Jones, en el que Disney utilizó inteligencia artificial, no sé si lo recuerden, para rejuvenecer digitalmente a Harrison Ford. Aquí combinando aprendizaje automático y todo este tipo de temas con películas y con archivos de películas anteriores para lograr este efecto. Y aquí la pregunta es, ¿qué tanto en este sentido esto podría ser en detrimento del mismo actor? Y me parece que es uno de los casos en los que veríamos que, pues no, no tendría por qué haber tanto impacto, porque el mismo actor, en todo caso, pudo haber recibido una remuneración, aún siendo procesada su imagen como tal. Hay otro caso interesante, que es conocido además, porque se trata del actor Morgan Freeman, en el que él se hizo bastante famoso con respecto a este tema de la inteligencia artificial, por su postura contra el uso no autorizado de su voz, e hizo que su equipo legal interviniera, en casos donde ya habían de hecho clonado su voz para utilizarla y lo que hizo fue llevar a cabo más bien un proceso para detener que se continuara utilizando este tipo de cuestiones. Hay dentro de estos retos y dentro de los retos del derecho de autor y de los retos que tendríamos dentro del cine la premisa de determinar si estamos utilizando herramientas de inteligencia artificial para poder previsualizar parte del proyecto para llevar a cabo, para ejecutar el proyecto como tal, o al final del día para integrar este tipo de tecnología como un proceso de postproducción que permite, en todo caso, mejorar con ciertas características y uso de tecnología el resultado final. Hay un caso importantísimo que nos da, me parece, una luz importante en hacia dónde deberíamos o querríamos dirigir esto, Y es el caso de Sagaftra, el contrato y el sindicato que en Estados Unidos los actores tienen y que en particular hace unos meses, recordarán, hicieron todo un movimiento alrededor de reclamar precisamente la consideración del uso de inteligencia artificial y limitarla y establecer un precedente, digamos, para los derechos laborales y creativos frente a todo este tema de los algoritmos que lograron de alguna forma poner sobre la mesa la discusión a nivel global de hacia dónde lo estamos llevando. Me parece que uno de los llamados importantes en los que yo quisiera participar tiene que ver justamente con un llamado a que en la medida en la que no logremos un consenso global, las distintas actiones por países que puedan llevarse a cabo van a quedar apotadas, se van a quedar con menos fuerza, porque en la medida en la que países y empresas descubran que en otros lugares no hay una protección homogénea a los derechos de autor o a los derechos laborales versus inteligencia artificial, lo que vamos a ir generando van a ser silos muy particulares de, bueno, pues ya no grabemos en Estados Unidos, ya no rodemos acá, vamos a rodar a este país que no tiene nada de protección alrededor, que globalmente nos permitiría jugar un poquito más. Y hay otro ejemplo, en términos prácticos, en el que me parece que la inteligencia artificial tiene muchas posibilidades de potenciar y mejorar los resultados que la industria cinematográfica tiene. Por ejemplo, en el caso del doblaje automático con sincronización, en el que el mismo actor permita y reciba remuneración porque el doblaje se lleve a cabo con su voz para que lo podamos escuchar en cualquier idioma. Por supuesto que tan pronto lo estoy terminando de mencionar, me queda claro que hay toda una comunidad de actores de doblaje que quedan amenazados. Estos retos, este encuentro y este conflicto que existiría entre lo que podemos lograr con las voces o con el contenido de las personas mismas y el desplazamiento laboral que les puede implicar, es uno de los temas que a mí me gustaría mucho escuchar que en México, por ejemplo, empezaran a trabajarse ya que, como comentábamos, hay una población y una industria muy importante. finalmente las ventajas que la inteligencia artificial puede traer a este tipo de industrias creativas solo las vamos a ver realmente potenciadas en la medida en la que pongamos al centro de la discusión todos estos temas que estamos comentando el derecho de autor, los derechos laborales y la dinámica que implicaría la transparencia cuando si estoy utilizando inteligencia artificial esto lo hemos visto ya en redes sociales cada vez más, ¿no? Plataformas que lo que están penalizando no es que no se use o se use la inteligencia artificial, sino que no sea transparente al respecto, que no avise que estoy utilizando una herramienta de inteligencia artificial. Me llaman la atención adicionalmente los procesos de postproducción dentro de la industria puedan estar presentes, porque en ese caso, mientras no estuviéramos atentando contra algunos de los temas que yo estoy resaltando, Creo y creo que la inteligencia artificial puede ser una gran herramienta para mejorar en general el contexto de la industria del cine. Ahora, quisiera tomar, y con esto me acerco al cierre de mi participación, pero quisiera tomar un poco, rescatar qué fenómenos hemos ido viendo cuando llegan nuevas tecnologías y cómo reaccionamos en general con la sociedad. y muy rápidamente, en la industria del internet o en la era del internet, tuvimos una era en la que estábamos en modo finders keepers, ¿no? Yo me lo encontré y es mío, y no tendría que pagar por él porque pues me lo encontré en internet. Me estoy refiriendo, por ejemplo, al caso de la música, en el que la descarga de MP3 en algún momento dado se convirtió en un casi de porte nacional, pero que atentaba directamente contra los derechos de autor de los distintos actores, y músicos, incluidos nuestros artistas favoritos, cuando descargábamos sus productos sin su autorización. Y esta autorización no tiene que ver directamente con ir y comprar directamente el contenido con ellos, sino tiene que ver que hubiera marcos correctos para que esto pudiera suceder, como hemos visto que nacieron en términos de plataformas musicales, por ejemplo, Spotify y todas las demás, que hoy incluso vemos que ya enfrentan retos muy importantes en cómo están compensando a los intérpretes y cómo están ellos mismos concentrando las ganancias. Todo parecía indicar que hoy plataformas como Spotify y similares terminaron por convertirse en el mismo manager que criticábamos, que tenía un puro y se dedicaba únicamente a explotar a los artistas en su propio beneficio. Bueno, hoy vemos que estas plataformas un poco replicaron este modelo, pero por otro lado quitaron el esquema de la ilegalidad en el que los consumidores nos encontrábamos. Finalmente yo quisiera resaltar que me parece que México y en general América Latina tienen una oportunidad de liderar desde la industria creativa y por las razones que hemos estado platicando y mucho del reto estaría en qué tanto los países estamos dispuestos a colaborar y a ser equipo y yo creo que el cine puede ser sin duda un ejemplo de cómo podemos equilibrar tecnología, cultura y derechos. Así que agradezco mucho la oportunidad de conversar con ustedes y yo les pediría la oportunidad de que al abrir estos temas no cerremos la conversación y esto debería de considerarse un tema de revisión constante y de acercamiento entre múltiples partes involucradas para que quienes entienden del tema de la industria cinematográfica puedan en un momento dado ayudarnos a quienes estamos en otras perspectivas tecnológicas, entender cuáles pudieran ser las grandes consecuencias y por supuesto los grandes impactos. Y cierro con una frase que a mí me gusta mucho porque la uso desde siempre trabajando con tecnología, pero que en el caso de la inteligencia artificial, pareciera que tiene un doble lenguaje o un doble significado, y es piensa en grande, comienza en pequeño y escala rápido. Y esta escala rápido, en el caso de la inteligencia artificial, ya estamos viendo que es más maldición que bendición. Entonces es un reto que me parece muy interesante y agradezco muchísimo de verdad la oportunidad de dirigirme a ustedes y a Zuku le agradezco mucho la invitación a este panel. Estoy con todo gusto a sus órdenes. Muchísimas gracias, Piso. Pues el día de hoy hemos podido ver las diferentes aplicaciones de la inteligencia artificial desde el ámbito de la música, desde la autoridad, cómo registra las obras, cómo se apega a la legislación en la materia, cómo la inteligencia artificial nos ayuda como herramienta de preservación y difusión de las lenguas y culturas indígenas. Y sobre todo en este cierre de la conversación con mi querido Pisu, el tema ético del uso de la inteligencia artificial y el pensar que ésta tiene que efectivamente regularse, regularse no de una manera urgente, sino a partir de la reflexión y la aplicación de la misma. Les cedo la palabra a nuestra directora general, Dinorat Ramírez, para que nos ayude a cerrar este seminario. Hola de nuevo, pues qué gusto volverles a encontrar ya para hacer el cierre oficial. Bienvenidos otra vez a los que acaban de llegar también, de nuevo bienvenidos y bienvenidas. Y pues otra vez agradecer muchísimo a todos nuestros ponentes la generosidad que tuvieron de venir el día de hoy con tantísima apertura a hablar de estos temas tan importantes, tan fundamentales para poder, como decía también en el mensaje de inicio, seguir construyendo y entender no nada más qué tipo de industria queremos construir, sino también qué sociedades vamos a construir. Esto es fundamental porque el proceso artístico es un proceso humana muy importante y muy sensible y en este sentido toda la parte de la tecnología pues siempre genera un montón de dudas, cuestionamientos, inseguridades. Nos queda un largo camino por recorrer en torno a estos temas, irnos profesionalizando continuamente y caminando juntos y juntas en estas conversaciones, porque si no, si nos quedamos fuera de esto, pues nos vamos a quedar muy atrás. Justo con Mariana Cerrilla está teniendo una conversación donde hablábamos, en el caso de la producción, las carpetas de oficina y todo el trabajo que te toma toda esa burocracia. Y a veces descuidas de fondo lo fundamental que es lo creativo y bueno, ya no hay excusa. La inteligencia artificial puede y va a favorecer muchísimos estos procesos para potenciar la otra parte. Pero bueno, hacia dónde vamos caminando, cuáles son esos límites éticos y cómo los construimos con las comunidades y no nada más desde los centros urbanos es fundamental. Entonces, pues de nuevo les agradezco muchísimo, le agradezco muchísimo al equipo jurídico que es de donde nace estas inquietudes. A mí me emociona mucho que siendo el CCC una institución educativa, que todo el equipo, desde la academia hasta finanzas, por supuesto el jurídico, tienen esta capacidad y esta habilidad hacia la educación. y entonces pues que se organice este seminario impulsado por ellas y por ellos y yo siempre les estaré enormemente agradecida, por supuesto de nuevo a ustedes por estar aquí y darnos su confianza y estos valiosísimos tiempos para poder construir con nosotros estas conversaciones y de nuevo pues a nuestros ponentes y a nuestras ponentes. Субтитры создавал DimaTorzok Gobierno de México Segundo piso de la Cuarta Transformación