Speaker A
Yus, [música] Canal Multimedia presenta La Constitución, el Amparo [música] y tú. Programa de los Colegios de Garantías y Amparo y Derecho Constitucional [música] de la Facultad de Derecho de la UNAM.
Análisis sobre los desafíos que plantea la inteligencia artificial para la democracia mexicana desde una perspectiva constitucional y social.
Key Takeaways
- La inteligencia artificial es una herramienta poderosa que puede influir en la opinión pública y, por ende, en la democracia.
- Los algoritmos pueden generar perfiles que facilitan la manipulación de la información y la opinión ciudadana.
- Es necesario un marco regulatorio que proteja libertades públicas y garantice la transparencia en el uso de la inteligencia artificial.
- La educación y la conciencia crítica son fundamentales para enfrentar los desafíos que plantea la inteligencia artificial.
- La democracia mexicana enfrenta retos específicos ante la creciente influencia de tecnologías digitales y algoritmos.
What the video covers
- Introducción al programa 'La Constitución, el Amparo y tú' y presentación del invitado Jorge Islas López.
- Trayectoria y logros de Jorge Islas, incluyendo su labor como cónsul en Nueva York y rescate de documentos históricos mexicanos.
- Definición y explicación básica de la inteligencia artificial como sistema de almacenamiento y conexión de megadatos.
- Impacto de la inteligencia artificial en la opinión pública y su relación con las democracias contemporáneas.
- El papel de los algoritmos en la generación de perfiles de usuarios y la manipulación de información.
- Riesgos de la inteligencia artificial para la democracia, incluyendo la manipulación y desinformación.
- Importancia de regular la inteligencia artificial desde diferentes perspectivas internacionales.
- Ejemplos de cómo la inteligencia artificial afecta la educación y la toma de decisiones políticas.
- Reflexión sobre la dependencia tecnológica y los retos sociales, económicos y políticos que implica la inteligencia artificial.
- Llamado a la reflexión y análisis desde el derecho constitucional sobre la influencia de la inteligencia artificial en la democracia mexicana.
Chapters
- 00:00Introducción y presentación del invitado
- 04:08Trayectoria y logros de Jorge Islas López
- 07:10Definición y explicación de la inteligencia artificial
- 10:38Impacto de la inteligencia artificial en la opinión pública
- 13:32El papel de los algoritmos en la manipulación de la información
- 16:15Desafíos y riesgos para la democracia mexicana
- 19:04Regulación internacional y perspectivas
- 23:40Educación, dependencia tecnológica y conclusiones
Full Transcript — Download SRT & Markdown
Speaker A
Conducido por Luciano Silva Ramírez y Guillermo [música] Teutli Otero. Comenzamos. [música] Muy buenas tardes, bienvenidos a una edición más del programa La Constitución, el Amparo y tú que se transmite por Canal Multimedia. En esta ocasión tenemos un invitado que nos
Speaker A
va a tratar y vamos a abordar un tema de una inmensa actualidad que da la impresión, además, que a pesar de su inmensa actualidad estamos solamente al principio de todo lo que puede crecer como tema. Y nos acompaña el licenciado
Speaker A
Jorge Islas López, que es egresado de la Facultad de Derecho, que es también egresado de la Universidad de Columbia, Columbia en Estados Unidos, en Nueva York, donde hizo una tesis muy importante, asesorado nada menos que por uno de los constitucionalistas más
Speaker A
importantes de la época contemporánea, como fue Sartori, fue Sartori que murió. Además, Jorge le ha dedicado buena parte de su vida a la universidad en general, ha ocupado puestos muy importantes como fue la abogacía general o abogado general de la universidad, ha
Speaker A
sido maestro en nuestra facultad por todos estos años y después ha sido de alguna manera el responsable de una tarea muy pesada, como puede significar el consulado de México en Nueva York. Es probablemente, si no el más difícil, uno de los más
Speaker A
difíciles, quizás comparado algunos los de Los Ángeles o de San Antonio, en fin, grandes, sí que son los que más, pues, más chamba tienen por la cantidad de gente que deben atender, particularmente Nueva York es grave, no nada más por los mexicanos que
Speaker A
están allá y o que viajan por allá, sino todos los que viajan, los turistas que también andan por ahí, que también se meten en problemas.
Speaker A
Jorge, entre los logros que hizo, no me meto a todo lo que fue la defensa de los derechos de los migrantes y de los mexicanos en general, sino también tienen su récord el haber [resoplido] conseguido la repatriación de una buena
Speaker A
cantidad de documentos o históricos mexicanos que son de la prehistoria, antes de la época española, pues estamos hablando de la época indígena, que estaban ahí de alguna manera buena o mala, pero estaban
Speaker A
en Estados Unidos y sobre todo los que estaban de mala manera, que no es poco, desafortunadamente no fue y no es poco común, los pudo rescatar, logró el apoyo de las autoridades norteamericanas y se vinieron a México, creo que no recuerdo, son más de más
Speaker A
de 2,000, 2,500, 2,500 sí que [carraspeo] esa es una labor muy apreciada que no todos los cónsules eh lo aceptan y ni lo hacen, ¿no?
Speaker A
Bienvenido, Jorge, a esta plática. Como siempre te transmito el saludo de la directora, la doctora Sonia.
Speaker A
Muchas gracias. Nos pide por favor que te demos la bienvenida, Sonia Venegas Álvarez. Y estamos cumpliendo la instrucción que nos dio de tomar de tocar temas que son realmente importantes, que tienen trascendencia y
Speaker A
que tienen una perspectiva todavía muy amplia, ¿no? Insisto, es mi personal opinión. Estamos viviéndolo, ya está ahí la inteligencia artificial, pero todavía, según se entiende, está en sus albores. Esta inteligencia va a tener todavía un
Speaker A
crecimiento inmenso y una consecuencia social eh también muy fuerte, económica también. Y ahora vamos a tratar de tocar el tema, su consecuencia política, los desafíos de la inteligencia artificial frente a la democracia mexicana. Mm, ahí eh ahí se combinan muchos elementos,
Speaker A
uno la inteligencia artificial y otro pues la forma de ser de los mexicanos, que de alguna manera siempre utilizamos o le cambiamos fines nobles a los instrumentos que tenemos. La electrónica y la comunicación electrónica llegó hace
Speaker A
tiempo, no mucho. Todavía cuando estábamos en la facultad no existía y en unas tres décadas, cuatro décadas, impresionante la forma como no nada más ha aparecido, si nos ha hecho, nos ha hecho depender.
Speaker A
Dependemos de ella en todo momento. Eh, ya platicaremos un poco sobre la marcha, pero si nosotros, bueno, al menos a mí, eh, dependo de ella de una manera muy muy primaria porque no estoy acostumbrado todavía plenamente a
Speaker A
manejar todos los instrumentos, pero la juventud de hoy en día es impresionante la forma como dependen y ya veremos, nos platicarás de la inteligencia artificial. Se quejan los papás de que ya no les consultan cómo curarse un catarro, van a la
Speaker A
inteligencia artificial. Cualquier cosa se la resuelve la inteligencia artificial. Bienvenido, Jorge. En verdad, nuevamente debo de transmitirte también a todos ustedes el saludo del Dr. Luciano Silva.
Speaker A
Desafortunadamente Luciano eh ha estado enfermo, estuvo delicado, está ahora menos, pero sigue delicado y eso le impide no acompañarnos en estos programas. Yo evidentemente estoy en contacto con él, lo oigo mejor, pero todavía con peligro de una recaída.
Speaker A
No está al 100%. Yo espero, cruzo los dedos para que a partir del programa de la semana que entra nuevamente esté con nosotros. Luciano, te extrañamos bien y ojalá que te mejores.
Speaker A
Jorge, por favor. Muchas gracias, Guillermo, por la invitación. Un saludo a Luciano, que se recupere pronto y que tengamos oportunidad de ver en el programa La Constitución, El Amparo y tú. Bueno, pues eh por este y un saludo, por
Speaker A
favor, también a la señora directora que generosamente nos abre estos espacios para poder reflexionar desde la facultad sobre los temas de coyuntura que tienen alta incidencia en el derecho y en este caso concreto en el derecho constitucional por tener una íntima
Speaker A
relación con la democracia como sistema de gobierno en la parte institucional y la inteligencia artificial. Partamos de un principio. La inteligencia [carraspeo] artificial es básicamente este almacenamiento de megadatos que hacen una interconexión a fin de dar respuesta en tiempo real
Speaker A
sobre distintos temas y se va autogenerando esta inteligencia con más información que se va creando al mismo tiempo. O sea, la inteligencia artificial, como lo dice su nombre, es una inteligencia no humana,
Speaker A
no cognitiva, sino artificial en cuanto a un sistema de un programa que va conectando datos, que va conectando contenidos y que va conectando una serie de elementos, ideas y conceptos a fin de dar respuesta a las distintas interrogantes que van presentando las personas en los sistemas en los que se
Speaker A
van conectando. La inteligencia artificial juega un papel preponderante en las nuevas y es un reto y es un desafío para las democracias. Es lo que yo creo, porque el tema es que la inteligencia artificial al generar una serie de
Speaker A
elementos, eh, conocimiento, no conocimiento, sino datos y generar una serie de contenidos, parece que está alimentando básicamente una manipulación de la opinión pública.
Speaker A
Y las democracias, por definición, las contemporáneas, son básica y esencialmente sistemas políticos de opinión. [carraspeo] Las democracias son democracias de opinión. ¿Qué quiere decir esto? Quiere decir que son democracias en donde la opinión pública, en lo que Sartori llamaba la democracia
Speaker A
horizontal, van desarrollando y expresando una serie de cadenas de opinión a fin de que cuando llega la elección nos expresamos en un sentido hacia una preferencia electoral u otra basado en la opinión que fuimos generando a lo largo del proceso
Speaker A
electoral. Carl Dutch en los años 50 generó lo que él llamó las charcas o las fuentes de cómo se genera la opinión pública en la democracia. Toda la información pública sale y su origen está en lo que el gobierno ofrece, en lo
Speaker A
que los investigadores del periodismo van descubriendo y esto va bajando en distintas charcas y en distintos niveles hasta que llegan los distintos medios de comunicación, eh, prensa, radio y luego la televisión.
Speaker A
Y esto es lo que va detonando una opinión pública para generar un ánimo y un consenso bastante antes de las redes sociales.
Speaker A
Ahora con las
Speaker A
Y hay otro elemento que se incorpora a la inteligencia artificial, que es el algoritmo. Es lo que estábamos comentando hace un momento. El algoritmo lo que hace básicamente es establecer un perfil del usuario y el algoritmo en base a tus preferencias de consumo
Speaker A
informativo te va alimentando y te va alineando en base a la información que nutre todo el universo de las redes.
Speaker A
Entonces, si eres una persona que está a favor, vamos a suponer, de la interrupción del embarazo, te va a dar toda la información de todos los distintos grupos que alimente este ánimo, pero al mismo tiempo te va a dar
Speaker A
la información contraria de una manera que va a empezar a polarizar los ánimos que hay en la sociedad. llévalo esto a la democracia electoral y entonces vas a tener electorados polarizados por la opinión pública más ahora porque todo el
Speaker A
día estás consumiendo información a través de las redes sociales. Habemos excepciones que nos dedicamos a trabajar y no estamos todo el día pegados a las pantallas, pero somos los menos. Ahora hay un instrumento que absorbe tu perfil, entiende quién eres, quién está
Speaker A
detrás de esa pantalla y te alimenta con esa información. Esto es muy peligroso porque el debate público anteriormente generaba reflexiones sobre opiniones que eran más sensatas, más directas, eh más elaboradas. Ahora hay una especulación porque hay algo que se llama fake news o
Speaker A
deep news, que son básicamente eh información falsa, [carraspeo] calumnias, mentiras propagandísticas que distorsionan la realidad de los hechos para manipular y coptar a un segmento de un electorado, llámale a los indecisos de un voto y los puede eventar
Speaker A
hacia una opción u otra opción. Esto, ¿qué está haciendo? Desdibujando y desnaturalizando el sentido de la expresión de la voluntad popular, que es la que termina al final del día en los en los mecanismos de renovación del poder público, quién nos va a gobernar.
Speaker A
Y podemos escoger, como sucedió el domingo pasado, hace menos de 48 horas en Alemania, un segmento muy importante.
Speaker A
Ha votado a la extrema derecha [carraspeo] extrema derecha de Alemania. O sea, se polarizó la política. Exactamente.
Speaker A
Y esta eh digamos eh tendencia la vamos a seguir viendo repetida en democracias consolidadas, como es el caso de Alemania. Estamos hablando, estimado Memo, de la extrema derecha alemana, en donde algunos de los integrantes hacen saludos nazis, ¿sí?
Speaker A
En donde hay una total y absoluta repulsión a la migración, a la diversidad, a la pluralidad y quieren ver una Alemania total y absolutamente sajona. ¿Qué va a pasar con las minorías que ya son alemanes?
Speaker A
los van a empezar a marginar y los van a empezar a golpear con políticas públicas a fin de no darles opción, sino de volver a tener que migrar a otros lugares, porque los lugares en donde ya forman parte y que tienen la
Speaker A
nacionalidad los van a expulsar por esta naturaleza. ¿Qué pasa que la democracia se desnaturalice? Claro.
Speaker A
¿Qué pasa? Que la democracia, que es esencialmente un sistema de demoprotección de libertades y de garantías, una de ellas, la libertad de tránsito, la libertad de una nacionalidad, la libertad de participar en la cosa pública, te van a marginar
Speaker A
los propios locales, los propios naturales de una sociedad. ¿Por qué? Porque las redes sociales están alimentando esto y a través, en buena medida, estos instrumentos llamados inteligencia artificial. Concluyo este primer comentario.
Speaker A
Vamos a tener que volver a repensar los sistemas de partidos, porque si tú tienes un mal diseño de sistema de partidos, puedes tender a fragmentar y a polarizar a una sociedad. Si tú le agregas el componente técnico de la
Speaker A
inteligencia artificial, el potencial para fragmentar y polarizar es aún mayor. Te pongo otro ejemplo. Esto es importante porque son ejemplos que nos sirven como referencia y terminaremos con el caso mexicano. Estados Unidos hoy, lugar que conozco bien porque desde
Speaker A
muy joven yo me eduqué en Estados Unidos, este, y trabajé como abogado en Estados Unidos y mis experiencias diplomáticas en Estados Unidos. Me permiten conocer esta esta sociedad política.
Speaker A
Están muy polarizados. Hay un, o sea, tan polarizados que eligieron presidente alguien que no es un político profesional.
Speaker A
Así es. Y la y y ¿qué fue lo que logró que lo eligieran? en buena medida, la polarización que logró detonar una campaña de odio en contra de la clase política para elegir alguien que no tiene una vocación por la política ni
Speaker A
que es un político profesional para resolver temas de política que tiene que ver con el interés público en favor de todos los integrantes de una sociedad tan diversa, tan plural y tan heterogénea como la norteamericana. Hoy más que nunca Estados Unidos está
Speaker A
extraordinariamente polarizado porque el sistema no ayuda en cuanto a reglas e incentivos, pero también por las redes sociales y por la inteligencia artificial que impacta su democracia. ¿Qué va a pasar? Pues que ves una democracia debilitada. ¿Qué va a
Speaker A
pasar? Que ves una sociedad extraordinariamente enfrentada. ¿Qué va a pasar? pues que tienes hoy a instituciones que han sido legendarias, centenarias en cuanto a su funcionamiento y que han dado resultados positivos en favor de la democracia en vilio y con alfileres. Y si quieres en
Speaker A
el otro segmento hablamos el caso mexicano, ¿no? Cóm no. [carraspeo] Sí, es muy interesante lo que dices.
Speaker A
Efectivamente, a mí la cuestión de la democracia, de la inteligencia artificial me preocupa porque tiene tiene algo cosas positivas, evidentemente, pero negativas. Por ejemplo, en el mercado laboral, la gente está con pavor con respecto a la a la inteligencia
Speaker A
artificial, porque lo que están haciendo es sustituir mano de obra en las empresas y eso implica pérdida de empleo, pérdida de salario y buscar una alternativa que no siempre está a la mano. Y así podemos encontrar varios varios otros tipos de donde tiene
Speaker A
efectos negativos, pero para lo que tú estás mencionando yo coincido plenamente, pero me preocupa algo, si no nada más polariza, sino que manipula.
Speaker A
Efectivamente los los algoritmos es dotarlos de una serie de secuencias, de una serie de información concisa, precisa para que lo puedas razonar el algoritmo y te da una solución. Pero si tú esa información la haces negativa para para vilipendiar a un candidato, el
Speaker A
algoritmo te lo va a distribuir, te lo va a mandar a las redes sociales y entonces la popularización [carraspeo] ya no es nada más entre partidos, va a ser va a afectar a la persona directamente, ¿no? y no y el y la
Speaker A
inteligencia artificial es un peligro en ese sentido porque es anónima es no tiene nombre y apellido, no tienes a quién demandar, no tienes con quién que entonces supones que te está diciendo la verdad, pero no tienes manera de de
Speaker A
contrastarla, no te manera decir, no, no es cierto, no me estás diciendo la verdad porque el promedio de de cultura general que se vive también ha disminuido.
Speaker A
le les han quitado la curiosidad de ir a los libros, la curiosidad de investigar por uno mismo, porque te lo da todo digerido y tú supones que es verdad. La parte es, como tú me las redes sociales son en ese sentido un verdadero peligro.
Speaker A
A mí me pasa seguramente a todos, de repente pides ahí una información X y durante los siguientes dos meses te te abarrotan de la de de todo lo que tiene que ver con esa información. Si yo no la
Speaker A
pedí. Ah, no, pero ahí va, porque el algoritmo dice está interesado en eso y hay que darle toda la información que quiera en eso. Y yo que te te te abarrotan y te bloquean mentalmente, ya dices, tú cierras el celular, yo voy
Speaker A
coincido contigo. Yo tampoco soy de los que se la pasa todo el día, prefiero este leer, estudiar, hacer mis investigaciones. Pero ese peligro sí se tiene. Ese peligro eh, ¿cómo te estábamos comentando? Sí, la la inteligencia artificial puede
Speaker A
llegar y detener educando a la persona. M y la va a educar conforme el algoritmo que le dieron, porque ella no tiene capacidad para decir, "Es bueno o es malo. A mí me están diciendo, haz esto y yo lo hago." Se trata de hablar mal de
Speaker A
una persona, de un candidato, de un partido, de un país, no hay problema. tú dame la vía y yo me encargé de de investigar, de juntar todas las fuentes de de de información que haya para validar tu queja sobre ese país, sobre
Speaker A
esa eso nos está mandando pues a algo muy muy grave porque eventualmente no lo mencionaste, pero también puede ser un instrumento muy fuerte de diálogo que se está padeciendo mucho, que es el populismo, que es la la democracia
Speaker A
revestida del voto mayoritario y para un voto mayoritario que puede ser producto de inteligencia artificial, de la polarización que tú mencionas, ¿no?
Speaker A
Sí. Eh, digamos, el populismo no es sino la expresión de la de un gobierno irresponsable y demagogo, que ofrece lo que no puede cumplir y a expensas de hipotecar el futuro de la nación, eh, quiere coptar a clientelas
Speaker A
electorales para favorecer y tender a dar políticas asistenciales que no son autosuficientes o autosustentables por sí mismas, o sea, es como si vamos a una fiesta y nos gastamos todo. Ya pues, se acabó la fiesta, ahora hay que pagar la cuenta.
Speaker A
¿Quién la va a pagar? Claro, en la fiesta todos muy divertidos, pero cuando terminó la fiesta se prenden las luces y está la cuenta, ¿quién quién paga?
Speaker A
Así es. Entonces, eh sí, el yo el el problema de la inteligencia artificial, a ver, tiene muchas ventajas, por supuesto, este, como académicos que somos, eh una investigación la puedo hacer en mucho menos tiempo de lo que me
Speaker A
hubiera llevado a hacer una investigación yendo a la biblioteca, simplemente primero para buscar en la base de datos los libros de un tema de investigación, posteriormente buscar los índices, posteriormente buscar los contenidos idos de los índices y de ahí
Speaker A
ya tengo, digamos, el el el grueso de con el material que voy a trabajar. Eso me llevaría trabajando muy fuerte dos o tres semanas. Esto lo puedo hacer en 2 horas. Claro.
Speaker A
Y dos horas nada más para contrastar que sea cierto. [risas] Eso es una maravilla. O sea, tú en un día puedes tener un la base de lo que puede ser una investigación seria, eh, material serio.
Speaker A
El problema que tenemos es que la inteligencia artificial, así como te puede ayudar para eso, te puede también lastimar mucho en cuanto a que puede desnaturalizar cierta información. Está probado que mucha de la inteligencia artificial como autogenera contenidos,
Speaker A
¿no? No, o información a veces de información que es es información falsa. Ha pasado en muchos juicios [carraspeo] que inventa precedentes que no son ciertos. Entonces los abogados a la hora que presentan su caso llegan con precedentes que son inexistentes y tú
Speaker A
los lees y dices, "Wow, parece que son ciertos, pero no son ciertos." Entonces ahí hay un un riesgo y en su impacto con la democracia lo que más me preocupa es que el debate público se ve desnaturalizadom pierde eh esencia, pierde calidad y
Speaker A
desinforman, manipulan, coptan con propaganda y no con información ante la opinión pública para incidir los grandes intereses corporativos en la expresión de la voluntad popular para la renovación del poder público a través de las elecciones. veces crea uno de los
Speaker A
riesgos mayores. ¿Qué hacer? Regular. Y me gustó mucho una observación que haces. Todo poder en un estado derecho debe tener controles, pesos y contrapesos.
Speaker A
Y este es un poder sin control, sin ninguno. Entonces, los estados y el sistema internacional debe de crear mínimas reglas para ser transparente y que rindan cuentas a todos los generadores de inteligencia artificial con las consecuencias que eso conlleva.
Speaker A
Porque se están elementando campañas de odio, de desinformación, de subinformación, de mala información o propagandística. Lo que quieren hacer es buscar un propósito ajeno a la expresión de la voluntad popular legítima en base a los contenidos reales, legítimos,
Speaker A
sustantivos, que les permita tomar una decisión. Antes tenías una radio que tenía calidad, tenías medios plurales que te permitían leer [carraspeo] información diversa según la la tendencia editorial de cada casa o televisión, lo mismo. Pero ahora con esto tienes un problema que hay
Speaker A
anonimato detrás de quién alimenta estos eh contenidos y esto lamentablemente es lo que hoy más se consume más que la televisión, que el periódico y que la radio. La gente está tomando decisiones en la democracia sobre la base de lo que el algoritmo
Speaker A
dice, vía inteligencia artificial reproducido en redes sociales. Cuidado porque nos están dando mala información.
Speaker A
Hay un mal debate público con malas decisiones y lo estamos viendo. Se están eligiendo extremos polarizados que lo único que están haciendo es provocar excisiones con altas convulsiones políticas en democracias que antes considerábamos consolidadas.
Speaker A
Así es. Es ese peligro. Por eso a mí me preocupa mucho la lo insisto, ¿no? El anonimato de esto. La frialdad de la de la de la inteligencia es lógica.
Speaker A
es tiene una está diseñada para procesar la información y para llegar a una conclusión y la conclusión puede ser válida si la información que le dan tiene un sentido y tiene esa vertiente.
Speaker A
O el problema es que la información, como bien dices, que se le está abasteciendo. Yo puedo, por ejemplo, decir que el de Jorge Islas es un extraordinario cónsul y a partir de ahí te voy a hacer crecer y seas o no seas
Speaker A
un extraordinario. Ken, con todo respeto Jenny en defensa mía, perdón, pero fui muy buen cons.
Speaker A
No, no, [risas] yo lo dije al principio del programa y me consta, además, tuve la oportunidad de estar en Nueva York y constatarlo de primera mano. Es tu labor ahí, pero me refiero igual te puedo desprestigiar, igual puedo decir, [carraspeo] "No saben
Speaker A
qué, hizo esto mal, hizo esto mal, hizo esto mal." Y si y la inteligencia me decir si es cierto, el algoritmo que me estás dando me lleva a concluir que fue un mal cónsul y pasado mañana se te hace
Speaker A
la fama de mal cónsul y bueno, ¿de dónde salió? No hay manera de combatirlo.
Speaker A
Eh, sí, ahí hay un problema. Como lo decía, tienen ahora mecanismos o técnicas a través de los famosos bots en donde contratan a una serie de máquinas que reproducen mensajes, alimentan el número y se ve como si estuviera muy
Speaker A
inflado un número en contra de una persona cuando son máquinas, no son personas. Así es. Así es.
Speaker A
Y esto tergiversa la naturaleza del debate porque tú pensarías que hay un alto número de personas que se está expresando en un sentido o en otro. Lo que importa es la verdad incontrovertible. y objetiva de los hechos y los acontecimientos para decir
Speaker A
esto es cierto y esto es falso. Lamentablemente la gente no se da la oportunidad de checar las fuentes de información para verificar qué es cierto y qué no es cierto. Y esto alimenta la desinformación, la calumnia, la este
Speaker A
digamos campañas de desprestigio, campañas negras para lastimar las eh digamos candidaturas o lastimar los prestigios personales y esto pues esto no alimenta un debate serio en la democracia. Déjame hacerte una pregunta que este que me vino a la a la mente de
Speaker A
la relatoría de hechos que hiciste. Trump, el presidente de Estados Unidos, Trump efectivamente dista mucho de ser un político de oficio, dista mucho de tener una idea real de qué hacer en un país, en el mundo en que estamos
Speaker A
viviendo. Y sin embargo tiene cada ocurrencia que yo te preguntaría tú que conoces bien la realidad estadounidense, que cuál sería la la tasa de prestigio, el porcentaje de gente que apoya a Trump hoy. Hoy, o sea, hoy más o menos está
Speaker A
rondando en los 30% muy bajo. Del 30%. 30 mitad 30 35 entre 30 a 36%. muy bajo, más cuando tienes una elección de renovación de la mitad del Congreso Senado y Cámara de Repres. A lo a mi intención en la pregunta es, da la
Speaker A
impresión, bueno, desde aquí que a veces lo que vemos es una son bots de Trump, eh, unos muy malos, otros mejores, pero pretende hacer un presidente eh, hacer grande a su país, todo, todas las la migración, make America great,
Speaker A
así es, toda la política antimigrante que tiene. Realmente hasta dónde llega eso en impactar a Trump en su proyecto de de de mantenerse en la presidencia, ¿no? ¿no?
Speaker A
Bueno, él ya está en su segundo periodo, ya avanzó esto muy rápido, va en su segundo año, él tiene elecciones próximamente y si no le favorece el voto al Partido Republicano, va a tener eh dos años muy complejos, porque va a ser
Speaker A
un Congreso que le va a limitar muchas iniciativas, le va a pelear mucho los presupuestos, le va a controlar mucho sus eh decisiones bélicas, porque quien hace la guerra es el ejecutivo. Pero quien declara la guerra formalmente es el Congreso en el
Speaker A
sistema constitucional norteamericano. Y eh creo que incluso políticamente eh podría exponerse a que le a que lo volvieran a a enjuiciar políticamente, que hay yo he escuchado y he leído analistas que dicen que si los demócratas tienen una mayoría más o
Speaker A
menos holgada si ganan en noviembre, eh han valorado la posibilidad de volver a reiniciarle juicios políticos, lo cual le complicaría mucho el cierre de su gestión de su segundo término.
Speaker A
Así es, ¿no? de acuerdo. Por eso es ese tema tenemos que que agregarlo a un otro programa. Pero aquí la pregunta es, ¿qué tantos están valiendo a favor o en contra en el caso concreto del presidente de Estados Unidos? Porque las
Speaker A
medidas que toma es son a veces inexplicables, ¿no? Es decir, de repente cambi intentar y por una pretendida orden cambiar el nombre a un estado de la federación, pero es una federación, es una provocación. Claro que es quien lo determina es el Congreso local,
Speaker A
no Washington. Pero eso lo sabe él y sin embargo no creo que lo sepa.
Speaker A
[risas] Por eso lo hace o lo hace por provocación porque debe tener un abogado que en la oficina oval que le diga, "No, señor presidente, como somos federalistas, eso lo determina el Congreso local." Así es. Pero lo que a lo que iba yo es a
Speaker A
lo siguiente. Sí, es una provocación, pero buscando una reacción a favor, que la tenga o no la tenga es otro problema.
Speaker A
Eh [carraspeo] eh sí, él torea para sus huestes electorales, efectivamente, él no torea para todos y más en un proceso que es eminentemente electoral en el que está ahorita Estados Unidos. Entonces, él lo hace para sus huestes. Lake
Speaker A
Ontario, ahora le llama Lake America, así es, ¿no? Golf of Mexico, Golf of America.
Speaker A
Toread para sus huestes que se lo celebran. Eh, el tema es que en Estados Unidos tradicionalmente el voto va asociado también a la cartera.
Speaker A
Claro. Y hay que ver la economía cómo es que está funcionando en recuperación de empleos, en salarios y en capacidad productiva.
Speaker A
Pues el desafío de la inteligencia artificial frente a la democracia es muy muy duro porque efectivamente yo coincido contigo, le pierde la naturaleza de la democracia, puede ser totalmente manipulado en un sentido, en el otro y termina polarizando, ¿no? Y
Speaker A
termina eh desuniendo a un país y muchas veces con con dijiste, fake news, con noticias elaboradas de manera falsa, con la intención de justamente lograr eso.
Speaker A
Sí, hay hay líderes en América Latina, por ejemplo, que hemos visto, que logran el propósito de dividir a la a la sociedad y colarse ellos entre medio y con ello sentarse nuevamente en la silla presidencial y permanecer ahí. La
Speaker A
democracia, según Sartori, tiene dos planos. la democracia representativa. Eh, el primero es un plano horizontal que él llama democracia electoral, procesos mediante el cual el demos, nosotros, el pueblo, participamos para el día de la elección tomar una decisión y expresar nuestra simpatía por
Speaker A
el partido A B CZ, el candidato A, CZ, coaliciones o no en un sistema parlamentario, en un sistema semipresidencial o en un sistema presidencial.
Speaker A
En ese proceso, ¿no? Todos los elector electores potenciales nos vemos eh ante vitrinas de información que nos ofrecen información diversa. El problema es cuál es real y cuál no es real. ¿Cuál es propaganda? ¿Cuál es falsa? ¿Cuál es
Speaker A
maliciosa? ¿Cuál es temeraria? ¿Y cuál es objetiva? real, sincera, que me permita generar un una reflexión como ciudadano y decir, eso es lo que le hace falta al país y yo votaré por esta opción A, B, C, Z. Ese
Speaker A
es el problema que tenemos. La discusión pública se ve hoy altamente fragmentada por las diversas opciones que tenemos de información, número uno y número dos, que son fuentes de información no verificables, que pueden ser fake news con el único propósito de manipularnos a
Speaker A
través de propaganda falsa, maliciosa, eh digamos eh provocadora, que tiene como único fin distorsionar la realidad a fin de provocar sentimientos, no razones adversos en contra de una causa.
Speaker A
Entonces, una vez no votas a favor de alguien, votas en contra de alguien por todo el cúmulo de propaganda negra en contra de una persona. Entonces, eso tergivers el sentido de la democracia porque estás eligiendo o te están
Speaker A
induciendo a elegir bajo los intereses de una agenda corporativa o de otros intereses que no sabemos y que están manipulando a un grueso de la población y que la democracia solamente la están utilizando como una un medio de justificación para
Speaker A
legitimar, porque una vez que esa democracia horizontal termina, que es cuando termina la elección, entramos al edificio que Sartori llamaba vertical y en la democracia ser representativa y en el gobierno son las instituciones con los nuevos gobernantes los que tomarán
Speaker A
las decisiones. Así es. Pero eso nos lleva una vez más al a preguntarnos, porque si tú lo recibes en las redes sociales, mucha gente lo cree, mucha gente que supone que es verdad que nadie se va a atrever
Speaker A
a decir una mentira, pero no hay manera de controlarla. ¿Cómo se puede controlar? No, no quiero sonar a idealista o utopista.
Speaker A
Pero creo que este es un acto de responsabilidad en donde el Estado, las instituciones educativas, desde universidades hasta las escuelas básicas, los padres de familia y creo que las iglesias, sin entrar en dogmas de fe, nos tienen que invitar a pensar y
Speaker A
a decir, "No consumas en demasía algo que te está atrofeando cognitivamente y que te está manipulando y que te está coptando." este leer, ser un ciudadano más libre, porque no eres libre. Si estás coptado, no eres libre.
Speaker A
Eh, este, yo creo que son las alternativas y obviamente un estado responsable va a regular el ejercicio de las redes sociales y de la inteligencia artificial, a fin de que no hayan excesos y abusos, empezando porque sean transparentes. ¿Quiénes son los
Speaker A
ingenieros programadores? ¿Ante quién responden? ¿Y cuáles son las consecuencias de excesos que hayan subido? información maliciosa, temeraria, falsa, que esté redundando, impactando en contra del interés público. Yo empezaría por regular, no solamente propiedad intelectual, no por lo por aquellos casos de que pongan unas
Speaker A
imágenes que no son o que pongan voces que no son y que falsifiquen cosas, ¿no?
Speaker A
[carraspeo] Mi mi argumento en ese sentido es cómo el Estado lo hacemos responsable a fin de que haga responsables a los que controlan los grandes centros de metadatos que hacen de la inteligencia artificial, el medio por el cual la gente se está informando
Speaker A
para tomar una decisión de alto impacto al interés público, que es una elección, por ejemplo. ¿Cómo lo hacemos?
Speaker A
regulando, ¿qué vamos a regular? No nos vamos a meter para eh censurarlos, la censura previa. Eso es una disposición constitucional ganada desde hace mucho tiempo, pero sí las consecuencias de algo que puede inhibir, lastimar o tergiversar el sentido de la expresión
Speaker A
de la voluntad popular en una elección, por ejemplo. Pero lo tendrías que demostrar, ¿no? Claro, lo tienes que demostrar.
Speaker A
¿Y cómo lo vas a demostrar? pues lo demuestras simplemente diciendo, "Esto no es cierto." Y tan no es cierto que aquí hay todos los elementos de prueba de que esto no es cierto y lo están eh esparciendo dolosamente con el ánimo de
Speaker A
generar un tipo de consecuencia dentro de un proceso electoral. Claro, tienes que crear mecanismos, procesos y tener la tecnología para detectarlo lo más pronto posible a fin de que no afecte el resultado electoral. Pero de que debe de
Speaker A
haber consecuencias y transparencia, creo que es algo que la legislación tiene que tener, no México en general, en todas las democracias, a fin de hacer responsables a los que eventualmente pueden incidir en el ánimo de la expresión de la voluntad popular.
Speaker A
Estoy de acuerdo, aunque se ve un poco difícil todo eso, ¿no? Pero no imposible, hay que hacerlo. Los sistemas constitucionales nacen contra el abuso del poder. Hoy los dueños de las corporaciones, que son los que controlan la inteligencia artificial, tienen
Speaker A
tanto, muchísimo poder porque no tienen mucha regulación que los controle. Se antojaba imposible acabar con el absolutismo que duró 1000 años en Europa y se acabó. Hoy los reyes en España y las monarquías constitucionales son, lo digo con mucho respeto, decorativas.
Speaker A
Gobierna el pueblo a través de su parlamento. En el caso de los agentes económicos que tuvieron mucho poder y abusaron y explotaron al trabajador o a los campesinos, el constitucionalismo social les puso un dique para controlar sus excesos y sus abusos y se logró regular.
Speaker A
Hoy que llegó la tecnología deben de existir mecanismos que observen, controlen, regulen eh este tipo de abusos en detrimento del interés público. Sí, pero ahí ahí coincido contigo, aunque eh aunque eso me a mí me despierta mucha inquietud porque no veo
Speaker A
cómo pueda realmente de forma ágil llevarse un control sobre todo lo que circula en las redes sociales y que de alguna manera [carraspeo] es producto también de este de esta inteligencia artificial, ¿no? No veo fácilmente cómo se porque va a ser el enfrentamiento de
Speaker A
una verdad contra otra, aunque sabes que una es falsa, pero no. Sí, me dices tú, se puede demostrar.
Speaker A
Sí probablemente te llegue un momento que se pueda demostrar con facilidad, pero tú estás yendo a un juez, ¿no? No un juez judicial, me refiero, estás yendo a una un árbitro, una persona, o una instancia que es la que te va a
Speaker A
decir, es que esta información es falsa y es y es dolosa, además, y vamos a y vamos a a responsabilizar a la persona que lo de acuerdo. El problema está uno, no hay, yo no veo fácilmente ese mecanismo y segundo tampoco veo
Speaker A
fácilmente que que me digas quién es la persona. Sí, ahí sí lo ideal es llegar a ello, ¿no?
Speaker A
Yo yo yo pensaría en varias alternativas. Una de ellas, eh yo pensaría en medios de autorregulación ética, así como hay medios de mecanismos y mecanismos de autorregulación de los médicos, de los abogados, también de los eh que crean todas estos programas de
Speaker A
inteligencia artificial deben de tener medios y mecanismos de autorregulación ética. Ese sería uno. Dos, [carraspeo] medios de control legal y de contención.
Speaker A
Si no lo podemos hacer en tiempo real, porque es casi imposible, como lo dices, pues sí que haya consecuencias, consecuencias en donde legalmente en la vía civil, no sé si en la vía penal, dependiendo eh puedan haber eh consecuencias normativas
Speaker A
para evitar ese tipo de de excesos. De otra manera es dejar a las fuerzas del mercado y a las fuerzas de los intereses oscuros y anónimos que funcione y que fluya toda la información que genera la inteligencia artificial
Speaker A
que puede ser manipulada desde el origen sin que haya consecuencia alguna con el que lo hizo.
Speaker A
[carraspeo] Quizó decían los romanos e quis custo descusto 10. ¿Quién controla los que controlan?
Speaker A
Así es. ¿Quién va a controlar a un centro de poder que hoy es determinante y que lo demostró, por ejemplo, con el Brexit en Inglaterra? Toda la inteligencia artificial, las redes y el algoritmo incidieron en el electorado probado con esta empresa este Cambridge
Speaker A
analítica para que la mayoría de la gente votara a favor de salir del mercado europeo.
Speaker A
Así es. está probado y están en juicio y están sentenciados porque está probado el daño que hicieron y que lo que lo manipularon para llegar por vía de redes al mayor número de electores. Entonces, o sea, de que se puede, se puede, hay
Speaker A
que regularlo. Claro. Ahora, regularlo para los asiáticos, el tema inteligencia artificial más sensible seguridad. Para los europeos son libertades públicas y para los norteamericanos es el tema de propiedad intelectual.
Speaker A
Déjame llevarte a a una la segunda parte de este programa que nos queda poco tiempo. [carraspeo] México. En México se está hablando mucho de cómo regular esta parte, ¿no? Que que no utilicen tu voz, que no utilicen tu imagen, que no
Speaker A
utilicen tu circunstancia. Y si la utilizan, hay que sancionar. ¿En dónde? ¿Dónde estamos en México en esta situación? En pañales. No hay legislación. hay un proyecto que ya está en el Congreso para que en este periodo ordinario que inició
Speaker A
el primero de septiembre eh trabajen sobre una iniciativa precisamente en este tema muy particular, a fin de que no hayan eh se utilice la imagen, voz, datos de una persona eh que tergiverse su naturaleza y que sea en su
Speaker A
desprestigio. lo hacen para las básicamente no no solamente para proteger reputaciones, sino para evitar que esto forme parte de las elecciones y engañe o pueda generar más eh digamos opacidad en las elecciones y manipulen con otra intención.
Speaker A
está en el proceso. Yo creo que será aprobada, pero me parece que la tecnología nos va a rebasar en ese sentido.
Speaker A
Yo tengo la impresión de que nos va ya nos rebasó y nos va a seguir rebasando, pero no hay que dejar de dar la batalla y los instrumentos que la civilidad hemos ha encontrado en Occidente desde Roma ha sido a través del derecho. Y
Speaker A
entonces llevamos 2000 años en donde hemos encontrado soluciones a nuestros problemas de cotidianidad colectiva a través del derecho. el derecho sea el que nos dé oportunidad de encontrar ventanas para solucionar problemas que hoy la tecnología nos presenta. Y yo creo que
Speaker A
esa es la alternativa para que la democracia se mantenga intacta en su naturaleza, en su esencia y en su valor, tal cual como fue concebida, como un ejercicio de libertades, plural, plural, diverso, incluyente y que no sea el el ocaso de la democracia porque la
Speaker A
tecnología y los intereses corporativos de unos pocos este y que se apropien manipulando, coptando por vía de propaganda la expresión de la Voluntad Popular a través de las elecciones. Ese es el gran riesgo que hay que trabajar.
Speaker A
Yo creo que es el es el gran desafío. Coincido contigo. Me encanta saber y ver que eres muy optimista. Yo soy un poco más pesimista en ese sentido porque eh como tú bien dijiste, la tecnología va adelante de nosotros, ¿no?
Speaker A
Y eso se demuestra muy un ejemplo rápido. Estaba yo en mi clase de de repartir los temas para que hiciera una exposición y bueno, compañero, la clase que entra la Ya la tengo, maestro.
Speaker A
[risas] ¿Cómo que ya la tienes? Si te acabo de dar el tema, ¿no? A ver, haz tu exposición. hizo una muy buena exposición, pero con inteligencia artificial hizo 5 minutos.
Speaker A
Sí, es decir, una cosa es que haya hecho la exposición y otra cosa es que él se haya quedado con el conocimiento.
Speaker A
Ah no ahí que pedagógicamente es lo que buscamos los profesores para que nuestros alumnos se queden con las ideas, el conocimiento y la capacidad técnica a fin de que ellos cuando sean abogados lo puedan llevar a la prá.
Speaker A
Así es. Así es. Pero ahí es donde yo creo que la inteligencia artificial está de alguna manera obstaculizando ese desarrollo personal y empobreciendo la capacidad cognitiva de nuevas generaciones para pensar, argumentar, estructurar y dar soluciones eh profesionales a los retos que la
Speaker A
misma circunstancia [carraspeo] les va poniendo sobre la mesa. Justo lo que acabas de decir, yo creo que es el principal desafío para la democracia en general y particularmente la mexicana. ¿Cómo le hace a la persona para que investigue, analice,
Speaker A
estructure, tome una decisión conforme a datos que él considera que son reales y que no se deja manipular? ¿Cómo puede él de alguna manera o el mexicano de la calle, cómo puede decir, es que esto es fake, esto es falso? ¿Cómo puede
Speaker A
hacerlo? ¿Cómo puede cumplir todos esos plazos que tú acabas de mencionar como el problema es con los niños que nacen y que a los dos o tres años para que los papás estén tranquilos desayunando les dan una pantalla y desde ahí ya empiezan
Speaker A
a ser se vuelven adictos a la pantalla y entonces crecen con un empobrecimiento cognitivo que cuando llegan a la edad de 15 años no han leído a los clásicos, no leyeron a Julio Verne, no leyeron este a a Walter Scott, no leyeron este a o sea
Speaker A
los clásicos No los leyeron. Entonces leen resúmenes o en TikTok quieren ellos entender algo que es muy abstracto, muy complejo y cuando llegan a la universidad llegan con un empobrecimiento cognitivo que les hace casi imposible este entender cosas
Speaker A
que son fundamentales para el ejercicio de la profesión y el entendimiento cabal de lo que es la justicia y el derecho.
Speaker A
Eso es un gran riesgo, lamentablemente. La sción no, bueno, no es un gran riesgo, es una verdad la que estamos viviendo. Ya [carraspeo] lo puedes comprobar cotidianamente. detás a una a un lugar donde hay niños y los tienen
Speaker A
con el teléfono en la mano para que la la demás gente pueda platicar o el niño esté quieto. Aunque ya hay países, sobre todo en los países escandinavos, que están regresando al libro y en Chicago Los School, eh, la Universidad de
Speaker A
Chicago está prohibiendo que los alumnos de primer año entren con laptops, tabletas o teléfonos a la clase, libros y cuadernos y pluma, como fuimos educados en un momento determinado, lo cual nos invita a que nuestras cabezas estén más eh en los conceptos y en las
Speaker A
abstracciones que en las imágenes. Pero ahí ahí tú es que el derecho tiene la solución, pero también hay que entender la forma de aplicar el derecho.
Speaker A
Es el ejemplo de Escandinavia, sí es cierto, y hay otros [carraspeo] países en Europa que también lo están prohibiendo, pero te te recuerdo el caso de de Francia que acab Francia también el presidente manda una iniciativa para controlar los
Speaker A
laptops y los y la y la se despierta el agravio al derecho humano a la libertad. está bien informado a la educación y va a dar hasta el Consejo Constitucional y el Consejo Constitucional dice, "Sí, es cierto, se están agraviando esos
Speaker A
derechos, por lo tanto, quita tu iniciativa de ley, no puedes prohibir el uso de celulares y tablets en las escuelas." Entonces ahí estamos. El el derecho también tiene que cambiar, también tienes que pensar en eso porque, perdón, el caso francés es muy ilustrativo
Speaker A
porque si es por un lado te dicen, "Mira, si tú le quitas el el celular al al niño o a la tablet, etcétera, lo vas a obligar a pensar, lo vas a a que piense, a que razone, a que se informe,
Speaker A
a que a que arme su propio algoritmo, ¿no? Perfecto. Es la idea. Sí, claro, por supuesto, pero es parte de la cultura y el desarrollo del niño o de la persona en general, ¿no? Pero si no te si no le prohibes algunas cosas, lo
Speaker A
estás tú mismo lo estás este invitando a que no lo haga. Y si y en el caso Fred dice, "No, pues sí, pero prevalece el derecho a la a la libertad, el derecho a la a la libre opinión."
Speaker A
Este, pongámonos de acuerdo porque no hay no hay no hay una en México, hay, como bien dices tú, hay una iniciativa ahí para regularla.
Speaker A
va a triunfar. Bueno, por lo pronto es un avance, como tú dices, se irá mejorando, ¿no? Ahora falta también ver qué cara y si de qué manera este se va a aplicar si se aprueba esa iniciativa, de qué manera va a quedar aplicada y cuál
Speaker A
va a ser su consecuencia, ¿no? Pero bueno, por algo hay que empezar. Eso no me queda me queda muy claro.
Speaker A
El problema es que, por ejemplo, hoy en la prensa nacional estamos viendo que nuestros niños en la prueba este que hace la OCD eh bajaron este es el peor momento de las resultados de los niños mexicanos eh con
Speaker A
relación a los otros integrantes de la OCD. Todos han bajado, incluyendo las los país desarrollados, pero México es el de los que más abajo está. Es el peor momento desde que se hacen esas pruebas PIS.
Speaker A
Ellos son niños de tabletas, así es, de inteligencia artificial y del algoritmo. Así es.
Speaker A
Así que la cosa no va a cambiar. Mi preocupación es que ellos en 20 años o 30 años van a gobernar.
Speaker A
Claro. O van a dar clases. Claro. O van a dar clases. Entonces, Jorge es un tema realmente muy actual. muy polémico que este que ya llegó para para instalarse y que definitivamente lo que debería ser una una ayuda al desarrollo
Speaker A
puede ser un obstáculo al desarrollo porque lo que se puede perder ahí es el capital humano.
Speaker A
Exacto. Y esa y esa parte es lo esencial. Yo siempre he dicho que la riqueza de una persona la trae arriba de los hombros, no la trae nada de nada. Y ahora también la trae no nada más en la bolsa con lo
Speaker A
económico, sino en la mano con la tablet y con el Y tenemos que regresar a que tenga arriba de los hombros.
Speaker A
Como decía Descartes, ergo cojito pienso luego existo. Ahora es veo, luego [carraspeo] existo. Veo de que ven imágenes y que están estimulados horas y horas y horas por algo que no les está nutriendo sus capacidades cognitivas para razonar y pensar. Jorge,
Speaker A
me queda a la conclusión de que hay que impulsar los controles a todo esto y que deben de estar desde la Constitución como controlar para que se cumplan bien los del gobierno, lo que esperamos del gobierno, ¿no? Te agradezco muchísimo
Speaker A
que hayas estado con nosotros. Por supuesto que tendremos la oportunidad de volverte a invitar. Yo espero que ya Luciano nos acompañe en esas épocas y por ahora, en verdad muchas gracias. Muchas gracias a ustedes.
Speaker A
[música]
Topics:inteligencia artificialdemocracia mexicanaopinión públicaalgoritmosmanipulación de informaciónderecho constitucionalJorge Islas Lópezregulación tecnológicaeducación y tecnologíaCanal Multimedia
