Speaker A
La inteligencia artificial ha dejado de ser un simple chat para convertirse en una herramienta que no solo responde, también actúa.
Análisis de la evolución de la IA hacia agentes autónomos con Luis Ángel Martínez, explorando LLM, multimodalidad y retos en ciberseguridad.
Ask about this video. Answers come from its transcript only — with the timestamp, so you can check them.
Generated from the transcript and can be wrong — check the timestamp.
Key Takeaways
- La IA agéntica está revolucionando la productividad empresarial con un impacto sin precedentes.
- La evolución de la IA es un proceso continuo que requiere aprendizaje y adaptación constante.
- Los LLMs modernos son herramientas multimodales que integran múltiples capacidades en una sola interfaz.
- La supervisión humana sigue siendo esencial para controlar riesgos y garantizar un uso responsable de la IA.
- La historia y evolución de la IA muestran un avance desde reglas fijas hacia modelos complejos y autónomos.
What the video covers
- La IA ha evolucionado de simples chats a agentes autónomos capaces de razonar y ejecutar tareas complejas.
- Se explican conceptos clave como LLM (Large Language Models) y MCP, y su papel en modelos como Chat GPT y Gemini.
- Luis Ángel Martínez, experto en ciberseguridad y transformación digital, aporta su visión sobre la evolución y el impacto empresarial de la IA.
- La IA representa una transformación disruptiva comparable a la Revolución Industrial, pero con un ritmo mucho más acelerado.
- Se destaca la necesidad de supervisión humana crítica para mitigar riesgos como las alucinaciones de los modelos.
- La historia de la IA se remonta a Alan Turing y programas iniciales como ELIZA, enfrentando limitaciones de cómputo y datos.
- Los modelos de IA requieren una cantidad de datos mucho mayor que el cerebro humano para aprender.
- Los LLM actuales son multimodales, integrando capacidades para generar texto, imágenes, audio y vídeo.
- Los agentes de IA funcionan como entes que orquestan tareas utilizando distintos modelos especializados.
- El LLM actúa como una interfaz conversacional que facilita la interacción y coordinación entre modelos para el usuario final.
Full Transcript — Download SRT & Markdown
Speaker A
En este análisis, desglosamos cómo conceptos como LLM y MCP han permitido que modelos como Gemini o Chat GPT evolucionen hacia agentes autónomos capaces de razonar y ejecutar tareas complejas.
Speaker A
Exploraremos por qué estamos ante una transformación profunda, analizando desde sus aplicaciones reales en ciberseguridad hasta los retos que suponen las alucinaciones y la necesidad de mantener siempre una supervisión humana crítica.
Speaker B
Bienvenidos a un nuevo episodio de Punto Tendencias.
Speaker B
Hoy nos acompaña Luis Ángel Martínez Cancelo, que es el director del área de sistemas y ciberseguridad en Proconsi, donde lidera proyectos de protección, de resiliencia, de transformación digital, aplicando su visión para defender todos los sistemas digitales y para asegurar una protección íntegra de los sistemas.
Speaker B
Luis Ángel, además de este papel técnico, es un gran conocedor de la inteligencia artificial, un amante de este ámbito.
Speaker B
Y apuesta por ese aprendizaje continuo que en un mundo que está actualizándose y evolucionando día a día.
Speaker B
Es fundamental, ¿no?
Speaker B
Bienvenido, Luis.
Speaker C
Gracias.
Speaker C
Pues sí, la verdad es que el tema de evolucionar, de de aprender,
Speaker C
de estar continuamente estudiando un poco, creo que lo llevo un poco en el ADN, ¿no?
Speaker C
Eh, y la inteligencia artificial es una de esas de esas
Speaker C
no sé si llamar disrupciones o evoluciones, porque es un algo demasiado fuerte
Speaker C
lo que está pasando ahora mismo como para clasificarla o categorizarla con una sola palabra.
Speaker C
Tengo claro que la inteligencia artificial es presente ya,
Speaker C
que es futuro,
Speaker C
que podríamos debatir o podríamos discutir si ese futuro va a ser utópico o distópico.
Speaker C
No lo sé.
Speaker C
La inteligencia artificial nos da las dos posibilidades.
Speaker C
Hay que ver cómo cómo como humanidad o como como especie evolucionamos y utilizamos la herramienta.
Speaker C
Pero sí que tengo también claro que es algo que ya está aquí.
Speaker C
Desde el punto de vista empresarial, es un tren en el que no es cuestión de decidir si te quieres subir o no te quieres subir.
Speaker C
Es que o te subes o te arrolla.
Speaker C
Porque la la capacidad que nos está dando, sobre todo a raíz de la inteligencia artificial agéntica, a raíz de la generación de la creación de los agentes de inteligencia artificial a las empresas,
Speaker C
es una capacidad de evolución en la productividad sin precedentes en toda la historia.
Speaker C
Ni siquiera en la revolución industrial, que podríamos compararlo con ello.
Speaker C
Se ha producido o se está produciendo un cambio tan repentino y tan disruptivo como el que se está produciendo hoy en día con la inteligencia artificial.
Speaker C
Aquella época fueron muchos años.
Speaker C
Hubo trabajos que se perdieron, trabajos nuevos que se generaron.
Speaker C
Eso mismo está ocurriendo ahora con la inteligencia artificial.
Speaker C
El problema es el espacio de tiempo, el espacio temporal en el que eso está sucediendo.
Speaker C
Que la capacidad de adaptación que tenemos es muchísimo más corta de lo que ocurrió en aquella época, ¿no?
Speaker B
Pues de esto vamos a hablar, eh, de, has mencionado los agentes de inteligencia artificial.
Speaker B
Pero creo que es importante que que comentemos todo este recorrido.
Speaker B
Como tú dices, es un concepto muy grande.
Speaker B
Que abarca muchos, tiene muchas aristas.
Speaker B
Abarca muchas cosas.
Speaker B
Entonces, vamos a empezar quizá por lo que tenemos más en el día a día o conocemos más todos.
Speaker B
Eh, que son modelos como Chat GPT o como Gemini de Google.
Speaker B
Y quiero aclarar qué son estos modelos, son LLM o qué es ese concepto de que es LLM que también se utiliza a menudo.
Speaker C
Bueno, para eso tendríamos que que hablar o o tener claro primero que la inteligencia artificial no es algo que haya aparecido o haya nacido
Speaker C
en el 2022, en noviembre del 2022, cuando Chat GPT aparece en medios de comunicación.
Speaker C
Y aparece ese esa herramienta que se llama LLM.
Speaker C
Un modelo de Large Language Model, un modelo de lenguaje amplio, grande.
Speaker C
Sino que la inteligencia artificial viene de mucho más atrás.
Speaker C
De hecho, el primero en pensar o o en o en plantearse si las máquinas llegarían a pensar fue Alan Turing.
Speaker C
Que muchos le conocerán aunque solo sea por la película de Descifrando Enigma.
Speaker B
Descifrando Enigma.
Speaker C
Entonces, la evolución de la inteligencia artificial ha sido un camino muy largo.
Speaker C
Un camino en el que quizás la clave es intentar algo, algo que a mí me parece bonito, ¿no?
Speaker C
Entender cómo eh cómo la mente humana piensa y ver si una máquina con un definir una serie de reglas fijas,
Speaker C
o no tan fijas,
Speaker C
eh puede puede pensar.
Speaker C
Entonces, realmente hay en esa evolución
Speaker C
nos encontramos que la inteligencia artificial sigue o evoluciona en claros y oscuros.
Speaker C
Porque ahí en los orígenes,
Speaker C
año 56, se acuña el término.
Speaker C
Eh, en esos orígenes que se empieza al primer, en los años 60, el primer software que trata de un poco de emular la inteligencia artificial,
Speaker C
que era un programa, un psicoterapeuta.
Speaker C
Se llamaba Elisa ese programa.
Speaker C
Pero se encuentra con problemas la inteligencia artificial en aquella época.
Speaker C
Se encuentra sobre todo con los problemas, básicamente, capacidad de cómputo.
Speaker C
Lo las máquinas que había en aquella época no tenían una capacidad suficiente.
Speaker C
Y luego datos.
Speaker C
Los de la inteligencia artificial tenemos que tener claro
Speaker C
que necesita datos suficientes y datos representativos.
Speaker C
Como dato curioso,
Speaker C
eh para que una inteligencia artificial, uno de estos modelos de inteligencia artificial aprenda,
Speaker C
necesita 1000 veces más información que nuestro cerebro de carbono para aprender.
Speaker C
Que si yo, por ejemplo, cuando veo un perro de una raza, la que sea, un Sitsu, por ejemplo,
Speaker C
soy capaz de cuando lo he visto dos veces o tres veces, ya reconocer el siguiente perro que vea de esa raza, reconocer que es de tal raza.
Speaker C
Eh, una inteligencia artificial necesitaría 3000 veces más ver esa imagen.
Speaker C
Claro, eso necesita cómputo.
Speaker C
Porque si no nuestro cerebro es mucho más óptimo en ese sentido.
Speaker C
Los modelos al final es esa evolución que tenemos de la programación clásica a la programación de inteligencia artificial.
Speaker C
Los modelos al final no dejan de ser los especialistas en algo.
Speaker C
Que yo tengo un modelo de lenguaje, que es un especialista en lenguaje.
Speaker C
Tengo modelos para generación de imágenes, que son especialistas en generación de imágenes.
Speaker C
Todo esto es modelos que inicialmente nacen como modelos independientes.
Speaker C
Se unen en interfaces, en las interfaces conversacionales que que todos conocemos, como puede ser Chat GPT, Gemini, Copilot.
Speaker C
Cualquiera de estas interfaces conversacionales que llamamos LLMs.
Speaker C
Al final ya no son solo modelos de lenguaje.
Speaker C
Ya no son solo modelos que son capaces de manejar el idioma.
Speaker C
Sino que llaman dentro de ellos a otros modelos, por ejemplo, para generar imágenes, para generar vídeos, para generar audios.
Speaker C
Por eso se habla ya de la multimodalidad.
Speaker C
Entonces, lo que hoy seguimos llamando como los LLMs, los grandes modelos de lenguaje,
Speaker C
para mí ya no son solo modelos de lenguaje.
Speaker C
Sino que son herramientas que tienen esa capacidad de multimodalidad que nos permite hacer distintas distintas cosas con ellas.
Speaker B
Mhm.
Speaker B
O sea, que el LLM, el LLM es casi como un director de orquesta que tú te comunicas con él y es el que luego.
Speaker C
Bueno, a lo que estamos llegando ahora mismo, sí.
Speaker C
Y hacia donde va estas capacidades agénticas,
Speaker C
también, ¿no? Porque al final un un agente ya por ir introduciendo un poco la parte de la gente.
Speaker C
Un agente de IA es un.
Speaker C
Hombre, me llamaría un ente.
Speaker C
Por no entrar en en otro tipo de debates.
Speaker C
Un ente que va a realizar una serie de tareas apoyándose en distintos modelos.
Speaker C
Cuando lo necesite.
Speaker C
Para ello hace falta un orquestador.
Speaker C
Realmente el orquestador es LLM.
Speaker C
No necesariamente.
Speaker C
Yo creo que no.
Speaker C
En mi opinión no.
Speaker C
El orquestador estaría un paso más atrás.
Speaker C
Sí que el LLM al final se está volviendo una herramienta conversacional muy que todos los usuarios pueden manejar, muy sencilla.
Speaker C
Entonces, tiene esas ciertas capacidades de orquestación, esas ciertas capacidades de comunicarse con otros elementos, con otros modelos,
Speaker C
para dar un resultado desde una interfaz única para para la persona.
Speaker C
Por eso los LLMs han evolucionado hacia hacia eso.
Speaker C
Pero realmente si somos puristas,
Speaker C
realmente lo que es Chat GPT, Gemini, Copilot, no deja de ser una interfaz conversacional en la que por detrás hay distintos modelos que interactúan unos con otros.
Speaker C
No es, en cierto modo, sí que podría ser un cierto orquestador.
Speaker C
Aunque desde el punto de vista empresarial, cuando ya hay que hacer cosas más complejas,
Speaker C
se utilizan otros orquestadores.
Speaker C
Se utilizan otras otras herramientas.
Speaker B
Y ahora, antes de aclarar que ya hemos empezado a introducir
Speaker B
y a comentar estos aspectos de de qué es un agente de inteligencia artificial.
Speaker B
Pero hay otro concepto que yo no tengo claro y que también se asocia al LLM y a los agentes.
Speaker B
Que es el de MCP.
Speaker C
Sí.
Speaker C
El Model Context Protocol.
Speaker C
Al final, si yo necesito un agente,
Speaker C
si yo necesito ese ese ente que hablamos, que es capaz de relacionarse con distintos elementos,
Speaker C
no siempre o no exclusivamente elementos de inteligencia artificial.
Speaker C
Luego comentaremos un poco la diferencia entre las automatizaciones
Speaker C
tradicionales y automatizaciones en las que interviene la inteligencia artificial.
Speaker C
Necesito, si necesito tener ese esa orquestación, necesito poderme comunicar
Speaker C
con distintos elementos, con distintos softwares, con distintos servicios de internet.
Speaker C
Y eso precisamente es lo que hace el MCP, el Model Context Protocol.
Speaker C
Es decir, el que yo me pueda desde una herramienta comunicar a través de una interfaz con otros elementos.
Speaker C
Un poco para los más técnicos.
Speaker C
Yo lo diría que es como si fuera una API invirvitaminada o una API mejorada o una.
Speaker C
Un sistema, al final lo que se busca con los MCPs es un sistema universal de comunicación
Speaker C
entre distintos modelos de inteligencia artificial o herramientas
Speaker C
en las que la inteligencia artificial necesita interactuar o los modelos necesitan interactuar.
Speaker C
Si yo, por ejemplo, quiero llegar a tener un agente eh que sea capaz de un agente autónomo,
Speaker C
que sea capaz de, no sé, me quiero ir de vacaciones a Islandia, por ejemplo.
Speaker C
Y que ese agente, que eso va a ser lo que veremos a lo largo del 2026,
Speaker C
cómo los agentes autónomos peguen la gran disrupción, ¿no?
Speaker C
Es un agente autónomo al final sería capaz de decirle, me quiero ir de vacaciones a Islandia.
Speaker C
Me prepare la ruta, como me puede hacer un LLM, un Chat GPT, un Gemini.
Speaker C
Eh, no solamente me diga los sitios de interés, sino que me reserve los hoteles en base a mis gustos o mis preferencias.
Speaker C
Me reserve las excursiones, me reserve los restaurantes.
Speaker C
Claro, para poder hacer todo este sistema,
Speaker C
ese ese agente necesita ser capaz de conectarse con centrales de reservas de hoteles, centrales de reservas de restaurantes.
Speaker C
Tiene que interactuar con mi tarjeta de crédito para poder para poder actuar.
Speaker C
Y ese es también el un poco el gran peligro o el el problema al que se van a enfrentar los agentes autónomos ahora mismo.
Speaker C
Es decir, el nivel de de confianza o de confidencialidad
Speaker C
en los datos que va a tratar.
Speaker C
Va a tratar datos sensibles.
Speaker C
Va a tratar datos financieros.
Speaker B
Mhm.
Speaker C
Aquí quizás también podríamos hablar de otro de los grandes riesgos con con el tema de la inteligencia artificial, ¿no?
Speaker C
La gente está sorprendida de lo que puede hacer la inteligencia artificial.
Speaker C
Y le empieza a dar datos e información que puede ser confidencial, que puede ser crítica.
Speaker C
A modelos que a lo mejor no están respetando la privacidad como como debería.
Speaker C
Entonces, es una tecnología.
Speaker C
Es una gran evolución.
Speaker C
Pero cuidado, ya me sale la vena de la ciberseguridad.
Speaker C
Hay que tener cuidado un poquito con eso.
Speaker C
De de siempre ver cómo maneja los datos, cómo trata los datos.
Speaker C
Y el gran reto de los agentes autónomos va a estar precisamente ahí en en ese tratamiento de los datos.
Speaker C
Más allá de la necesidad de los MCPs, de esa interconexión entre todos los sistemas o plataformas.
Speaker B
Entonces, la la diferencia entre lo que era
Speaker B
agente IA, que ahora, como dices, ya va derivando a esa agente autónomo.
Speaker B
Y una automatización más clásica o más más antigua, digamos.
Speaker B
Es la capacidad de decisión, ¿no?
Speaker C
Sí, en cierto modo, la diferencia entre una automatización normal y una automatización con IA.
Speaker C
Como paso intermedio a las automatizaciones en las que ya los agentes
Speaker C
vamos a tener agentes autónomos.
Speaker C
Deriva precisamente de eso.
Speaker C
No, en una automatización clásica, yo lo que hago es utilizar herramientas informáticas para que hagan determinados procesos.
Speaker C
En los que no es necesario interpretar o no es necesario analizar.
Speaker C
Es un poco lo que hablábamos o lo que podíamos hablar de la programación clásica.
Speaker C
Al final, cuando hablamos de programación, hablamos de algoritmos.
Speaker C
Cuando hablamos de algoritmos, para un poco para que la gente no no técnica lo entienda.
Speaker C
Un algoritmo no deja de ser una receta de cocina.
Speaker C
Si yo quiero hacer un plato, tengo una serie de ingredientes, que serían los datos de entrada.
Speaker C
Tengo la receta, que sería el algoritmo que va a tratar esos ingredientes.
Speaker C
Mezcla tanto de esto, tanto del otro, tanto de más allá.
Speaker C
Y obtengo un resultado que es el plato cocinado.
Speaker C
En un algoritmo de programación clásica, es la persona, es el humano, el que define
Speaker C
cómo se van a tratar esos datos, cómo se van a procesar.
Speaker C
Cómo se va a hacer todo.
Speaker C
Es decir, se basa en reglas.
Speaker C
Si pasa esto, haces esto.
Speaker C
Si pasa esto otro, haces esto otro.
Speaker C
Entonces, en un algoritmo de programación clásica, que las automatizaciones tradicionales se basan en la programación clásica.
Speaker C
Estamos muy limitados en base a las reglas.
Speaker C
Sin embargo, en un algoritmo de inteligencia artificial,
Speaker C
el programa, al final, ese algoritmo es el que va a decidir cómo va a hacer las cosas, ¿no?
Speaker C
En ese en ese.
Speaker C
La verdad es que es un tema muy apasionante.
Speaker C
Pero no nos va a dar tiempo a hablar de ello, ¿no?
Speaker C
Entonces, ese ese algoritmo de de programación de inteligencia artificial tiene esa capacidad,
Speaker C
podríamos decir, de pensar, entre comillas, esa capacidad de razonamiento.
Speaker C
Lo que me permite definirle cosas más avanzadas.
Speaker C
Por ejemplo, un caso que se da en empresas.
Speaker C
Que había una automatización, el poder digitalizar documentos.
Speaker C
El poder digitalizar una factura para poder facilitar la contabilización de la factura.
Speaker C
En la automatización tradicional, antes de la aparición de los agentes de inteligencia artificial,
Speaker C
cuando ya existía el OCR, es decir, la capacidad de reconocer caracteres
Speaker C
mediante un documento escaneado.
Speaker C
En un algoritmo de automatización eh de programación clásica y automatización tradicional, yo tenía que coger cada una de las distintas facturas que recibía.
Speaker C
Irle diciendo, en esta zona está el número de factura, en esta zona están los datos del proveedor.
Speaker C
En esta zona.
Speaker C
Tenía que irle marcando cada zona.
Speaker C
Para que luego la automatización leyera, gracias al OCR, interpretara esos datos.
Speaker C
Y me los grabará en ciertos campos.
Speaker C
Lo que te he marcado en esta zona es el número de factura.
Speaker C
Lo que te he marcado en esta zona es la fecha de factura.
Speaker C
Claro, cuando evoluciona y llegan los agentes de inteligencia artificial y empezamos a dotar de de modelos de inteligencia artificial.
Speaker C
Yo ya no necesito ante una factura marcarle cada uno de los campos.
Speaker C
Porque el algoritmo va a ser capaz de reconocer esos caracteres.
Speaker C
Y entiende, piensa, sabe lo que es un número de factura.
Speaker C
Por tanto, lo busca.
Speaker C
No necesito que yo le diga dónde está ese número de factura.
Speaker C
O sabe lo que es el importe, sabe lo que es la base, sabe lo que es el IVA.
Speaker C
Fíjate el cambio tan brutal que supone una automatización tradicional.
Speaker C
Frente a una automatización basada en la inteligencia artificial.
Speaker C
Ese tiempo que yo perdía en en enseñarle dónde estaba cada posición en la factura, desaparece.
Speaker C
Si el proveedor me cambiaba la factura, yo tenía que volver a modificar la plantilla para decirle dónde estaban los nuevos campos.
Speaker C
Ahora no, ahora directamente, yo puedo dejar en una carpeta todas las facturas.
Speaker C
Y gracias a esa capacidad de los modelos de inteligencia artificial, va a ser capaz de determinar dónde está cada una de las cosas.
Speaker C
Generarme los datos que luego va a grabar en el programa de contabilidad, ¿no?
Speaker C
Y ya no solamente el agente.
Speaker C
Ese ese ese agente que que ya le estamos dando esa capacidad de hacer más cosas.
Speaker C
No solamente va a ser capaz de leer los datos y pasárselos a la contabilidad.
Speaker C
Sino que va a ser capaz de interpretar y decir, este es tal proveedor, pues tal proveedor sé que la cuenta contable va a ser tal.
Speaker C
No no te dejo los datos en neutro, en vacío y tú te buscas la vida con programación clásica para incorporarlo.
Speaker C
Sino que le estamos dotando de esa capacidad de pensamiento o de raciocinio.
Speaker B
Claro.
Speaker B
Porque, a ver, si lo he entendido bien, gracias al MCP, es decir, a ese protocolo que le dice
Speaker B
qué reglas y cómo comunicarse con con otros modelos.
Speaker B
El agente puede utilizar distintos modelos para, en este ejemplo que has puesto de la factura,
Speaker B
pues con uno reconocer los caracteres, otro ya conoce cómo son las facturas.
Speaker B
Y entonces.
Speaker C
Sí, realmente el el propio modelo, el propio modelo, el agente, yo ya con con con sin necesidad de un MCP.
Speaker C
El propio LLM va a ser capaz de reconocer qué es lo que hay dentro de cada factura.
Speaker C
Cuál es el número de factura, cuál es la fecha, cuál es el importe.
Speaker C
El MCP, ¿qué es lo que nos va a dar? Nos va a dar esa capacidad luego de llegar a conectarnos.
Speaker C
Para que el apunte contable ya esté grabado en la contabilidad.
Speaker C
Directamente.
Speaker C
Sin tener que hacer nada por el medio, porque ahora en automatización tradicional.
Speaker C
Yo tengo el escaneador, el reconocimiento de caracteres.
Speaker C
Eso deja un fichero.
Speaker C
Me tengo que ir al programa de contabilidad.
Speaker C
El programa de contabilidad importar ese fichero.
Speaker C
Hacer una serie de pasos o de caminos intermedios que que el humano tiene que ir definiendo.
Speaker C
Pues este este apunte va a tal cuenta contable, este va a tal otra, este va a tal otra.
Speaker C
Con un modelo MCP, al final, todos hablan con todos.
Speaker C
Con lo cual es como si fuera el el agente autónomo, es como si fuera esa persona.
Speaker C
Me gusta más llamarle ese.
Speaker C
Ese ente o ese.
Speaker C
Ese elemento que es capaz de hacer las tareas que hace la persona.
Speaker C
Reconozco los caracteres que hay.
Speaker C
Me lo apunto en el programa de contabilidad.
Speaker C
Y para, claro, para que todo eso que son programas totalmente distintos,
Speaker C
que nada tienen que ver unos con otros, funcione.
Speaker C
Necesito un protocolo de comunicaciones entre todos ellos.
Speaker C
Para que ese agente, ese ente, sea capaz de leer de uno, escribir en otro, mandar a otro.
Speaker C
Es como.
Speaker C
Eso, pues muchos dirán, bueno, pero eso son las APIs.
Speaker C
En cierto modo, sí, es una API.
Speaker C
Pero hipervitaminada, ¿no?
Speaker C
Una API que es como una evolución, es que podríamos decir de las APIs.
Speaker C
En en un contexto así más más tradicional.
Speaker B
Y antes, ya avanzaste que el tema de ciberseguridad es importante.
Speaker B
En todo, en general, en el mundo digital.
Speaker B
Pero claro, aquí con la capacidad que tiene, todo, cuanta más capacidad tiene,
Speaker B
más precauciones, digamos, hay que tomar.
Speaker C
Claro.
Speaker B
¿Qué limitaciones tienen también estos agentes IA autónomos, agentes de inteligencia artificial?
Speaker B
¿Qué riesgos puede haber en el aspecto ya, en el ámbito de ciberseguridad?
Speaker C
Lo primero que tenemos que tener claro y tenemos que tener en cuenta
Speaker C
es que la inteligencia artificial alucina y puede alucinar.
Speaker C
Se puede equivocar.
Speaker C
Puede inventar datos.
Speaker B
Eso es importante, ¿no?
Speaker B
Porque el concepto de alucinación era algo como que se escucha mucho también.
Speaker C
Claro, la la alucinación al final, la inteligencia artificial
Speaker C
siempre va a intentar tu tu Chat GPT, tu Gemini, tu Copilot, va a intentar siempre darte respuestas.
Speaker C
Una cosa curiosa, siempre intenta siempre intenta darte respuestas.
Speaker C
Tienes que lograr mediante distintas técnicas, lógicamente, a medida que van evolucionando los LLMs.
Speaker C
Las alucinaciones se van reduciendo.
Speaker C
Porque les van obligando a repensar.
Speaker C
Me acuerdo cuando empezamos a trabajar a finales del 2022, principios del 2023.
Speaker C
Con los LLMs, que primero hay que utilizar lo que llamábamos técnicas de prompting, como cadenas de pensamiento, etcétera.
Speaker C
Para intentar reducir el número de alucinaciones, ¿no?
Speaker C
Eso se va va mejorando.
Speaker C
Los propios fabricantes, los propios desarrolladores van reduciendo ese número de alucinaciones.
Speaker C
Pero tenemos que ser conscientes que la inteligencia artificial alucina.
Speaker C
Es decir, puede darme resultados que no son correctos.
Speaker C
Bueno, también las personas alucinamos a veces.
Speaker C
Y damos resultados que no son correctos.
Speaker C
Es decir,
Speaker C
hay muchos símiles, ¿no?
Speaker C
Y ahí podríamos entrar en un debate de la inteligencia del carbono.
Speaker C
Y la inteligencia basada en el silicio, ¿no?
Speaker C
Las diferencias.
Speaker C
Pero hay que tener cuidado de esas alucinaciones.
Speaker C
Eh, la la inteligencia artificial me ayuda a pensar mejor.
Speaker C
Pero pensar mejor no significa pensar menos.
Speaker C
No podemos caer nunca en la tentación del copia y pega.
Speaker C
Lógicamente,
Speaker C
si yo estoy hablando de un agente autónomo, que el agente autónomo va a ser capaz de hacer todo ese proceso de manera autónoma.
Speaker C
Sin intervención o con una mínima intervención humana.
Speaker C
Significa que el riesgo de alucinación es alto.
Speaker C
Entonces, tengo que.
Speaker C
Uno de los grandes retos con los agentes autónomos es que cuando se define ese agente,
Speaker C
cuando se está, digamos, programando, se está preparando para que funcione en la realidad.
Speaker C
Tiene que llevar una supervisión humana muy estricta.
Speaker C
Tiene que poderse acotar todos toda esa información.
Speaker C
Y dependiendo del contexto en el que esté, tendré que tener en cuenta hasta qué punto le dejo o doy libertad o doy credibilidad
Speaker C
a los resultados que me está dando.
Speaker C
Piensa que al final un agente autónomo va a poder estar contabilizando facturas.
Speaker C
Donde el riesgo de un error es un riesgo, digamos, menor.
Speaker C
Me ha contabilizado una factura en la cuenta contable que no es la correcta.
Speaker C
En algún momento saltará y demás.
Speaker C
Pero si tengo un agente autónomo que está llevando a cabo, está tomando decisiones más críticas.
Speaker C
Imagínate, yo que sé, agentes autónomos que están tomando decisiones en el ámbito médico o en el ámbito de la salud.
Speaker C
Donde un error puede suponer una vida, ¿no?
Speaker C
Claro que un que un agente, alguno dirá, bueno, pero es que los médicos humanos
Speaker C
también se equivocan y también eso tiene tiene consecuencias.
Speaker C
Correcto.
Speaker C
No te voy a decir que no.
Speaker C
Pero, desde luego, una de las de los puntos clave es que la inteligencia artificial, los agentes autónomos, por supuesto, en particular, pero la inteligencia artificial en general,
Speaker C
requiere siempre de supervisión humana.
Speaker C
Requiere además que seamos conscientes
Speaker C
que necesito grandes cantidades de datos, como veía antes.
Speaker C
Pero además, datos que sean representativos.
Speaker C
Porque si yo tengo volúmenes de datos, pero esos datos no representan la generalidad.
Speaker C
Al final, el resultado que voy a obtener es.
Speaker B
Sesgado, está condicionado.
Speaker C
Al final, tenemos que tener en cuenta que la base de la inteligencia artificial son las matemáticas, es la estadística.
Speaker C
Aquello que de las derivadas y las integrales, pero para qué sirven las derivadas que estudiabas, ¿no?
Speaker C
Pues ahora tenemos la explicación de para qué sirven las derivadas.
Speaker C
Bueno.
Speaker C
Bueno, bromas aparte.
Speaker C
Entonces, la parte de la ciberseguridad es importante.
Speaker C
Lo primero, porque necesitamos supervisión humana.
Speaker C
Lo segundo, porque cuando estoy interactuando con modelos de inteligencia artificial,
Speaker C
tengo que tener claro el nivel de privacidad
Speaker C
que me va a dar ese modelo.
Speaker C
No puedo estar dando información confidencial de mi empresa a un modelo de inteligencia artificial
Speaker C
que no me garantiza que esos datos no van a ser utilizados para para su entrenamiento.
Speaker C
Hay gente que empieza a coger modelos gratuitos.
Speaker C
Ven por internet un modelo y le suben datos confidenciales de la empresa.
Speaker C
Pero alma de cántaro.
Speaker C
A ver, que que ese modelo esos datos los utiliza para tu entrenamiento.
Speaker C
Que tus datos van pueden aparecer, yo que sé, dónde.
Speaker C
Pueden acabar escupiéndolos una inteligencia artificial.
Speaker C
Y luego también es importante la ciberseguridad en otro sentido.
Speaker C
Y es que no podemos no podemos perder de vista
Speaker C
que los ciberdelincuentes también están haciendo su transformación digital.
Speaker C
Y lo mismo que estamos generando agentes, de agentes autónomos para el bien.
Speaker C
Para optimizar o hacernos más productivos en nuestras empresas.
Speaker C
Los ciberdelincuentes lo están haciendo para hacerlos más productivos en su en sus empresas del cibercrimen.
Speaker C
Eso quiere decir que si queremos, desde el punto de vista de la ciberseguridad, luchar
Speaker C
como siempre hemos hecho contra todos estos ciberataques y cibercrimen.
Speaker C
Necesitamos apoyarnos también en la inteligencia artificial.
Speaker C
Porque ante la capacidad de cómputo tan bestial que pueden desencadenar los ciberdelincuentes.
Speaker C
Solo podemos luchar con esa otra capacidad de cómputo tan bestial.
Speaker C
Por eso la inteligencia artificial también a nosotros nos ayuda.
Speaker C
Nos ayuda mucho en el ámbito de la ciberseguridad.
Speaker C
La inteligencia artificial, cuando tienes grandes volúmenes de datos, es muy buena reconociendo patrones.
Speaker C
Por tanto, cuando estamos hablando de ciberdefensa, el detectar de manera temprana patrones de ataques,
Speaker C
es fundamental también para nosotros.
Speaker B
Y de hecho, antes de ir cerrando, te quería preguntar que en relación con esto.
Speaker B
Qué perfil de profesional crees que va a ser fundamental en en el desarrollo de de estas tecnologías o en la supervisión de estas tecnologías.
Speaker C
Pues, desde luego, hace falta profesionales de todo tipo.
Speaker C
Los equipos multidisciplinares son muy relevantes.
Speaker C
Se está diciendo que las las carreras de humanidades
Speaker C
son una de las carreras que más se va a impactar o más va a impactar la inteligencia artificial, ¿no?
Speaker C
Y está impactando, como en temas de fotografía.
Speaker C
Edición de vídeo, dobladores.
Speaker C
Evidentemente.
Speaker C
Filólogos.
Speaker C
La traducción, ahora con la inteligencia artificial, la traducción automática.
Speaker C
Pero, sin embargo, los equipos multidisciplinares siguen siendo muy necesarios.
Speaker C
Y la parte de las humanidades, en un en un entorno en el que es tan importante el cómo me relaciono y y de qué manera hablo y demás.
Speaker C
Las humanidades también tienen su su relevancia.
Speaker C
En cualquier caso, aparte de estos equipos multidisciplinares, lo que necesitamos es gente abierta.
Speaker C
Gente de mentalidad abierta.
Speaker C
No gente que ni ni negacionistas de la inteligencia artificial.
Speaker C
Que digan, esto es, no sé.
Speaker C
Esto es un logro, esto nos va a extinguir.
Speaker C
No necesitamos una inteligencia artificial para que nos extinga.
Speaker C
Al final, los humanos y la estupidez humana es.
Speaker B
Lo podemos hacer nosotros mismos.
Speaker C
Nosotros mismos.
Speaker C
Pero sí necesitamos gente que que sepa valorar
Speaker C
el riesgo del mal uso de las cosas.
Speaker C
Gente que tenga la mente abierta.
Speaker C
Gente que se apoye en la inteligencia artificial, pero no ciegamente en la inteligencia artificial del copia y pega.
Speaker C
Ese es el gran error.
Speaker C
Porque dependiendo cómo yo pregunte, dependiendo del contexto que le dé la inteligencia artificial.
Speaker C
Las respuestas que me va a dar van a ser unas u otras.
Speaker C
Si yo me limito a copiar y pegar lo que me da la inteligencia artificial.
Speaker C
Si entro en la comodidad, que al final no deja de ser un sesgo humano, ¿no? Esa comodidad.
Speaker C
Ya me lo han hecho, ¿para qué me voy a molestar yo en hacerlo?
Speaker C
Bueno, yo no quiero esa gente en los equipos.
Speaker C
Yo quiero gente que utilice la inteligencia artificial con cabeza.
Speaker C
Que cuestione, la mente crítica, el espíritu crítico, esa mentalidad de
Speaker C
infantil de, ¿y por qué? Y de dónde viene.
Speaker C
Es algo que se necesita en los equipos de trabajo que van a que van a trabajar en el futuro, ¿no?
Speaker C
Y y.
Speaker C
Para una empresa que quiera iniciarse.
Speaker C
En en integrar soluciones con agentes autónomos.
Speaker C
Qué primer paso le podríamos recomendar, podríamos dejar como consejo para todas estas empresas.
Speaker C
Pues el primer paso, que es el más importante de todo esto, es conocer el negocio.
Speaker C
Hay que conocer la estrategia de negocio.
Speaker C
Tienes, necesitas un perfil que sea capaz de que hable contigo.
Speaker C
Que tú le cuentes cuál es tu estrategia de negocio.
Speaker C
Y que conozca las herramientas de inteligencia artificial.
Speaker C
Si nos lanzamos a la automatización por la automatización, vamos a fracasar.
Speaker C
Está pasando ahora en empresas, nos estamos encontrando, cuando hacemos consultoría de inteligencia artificial.
Speaker C
Nos estamos encontrando empresas que no han iniciado, todavía no han dado el primer paso, ni siquiera han empezado a utilizar un LLM.
Speaker C
Y empresas que ya han empezado a utilizar un LLM y que se han encontrado con que sí.
Speaker C
Nos parecía muy sorprendente, pero cuando lo hemos querido llevar a la práctica,
Speaker C
no ha funcionado.
Speaker C
No esa emoción inicial.
Speaker C
Y después la decepción.
Speaker C
Y viene precisamente, ¿por qué?
Speaker C
Porque hay que analizar primero tus procesos de negocio.
Speaker C
Hay que ver qué es susceptible de automatización y qué no lo es.
Speaker C
No en todo se puede utilizar IA.
Speaker C
Hay veces que metería significa ir al fracaso.
Speaker C
¿Por qué? Porque ese proceso no necesita ser automatizado.
Speaker C
No te lleva tanto tiempo y la complejidad de implantar IA en él.
Speaker C
No compensa.
Speaker C
Al final, esto es una evaluación de riesgos, ¿no?
Speaker C
Tengo que que ver qué es lo que me demanda mucho tiempo.
Speaker C
Y de lo que me demanda mucho tiempo, qué es lo primero que voy a automatizar con inteligencia artificial.
Speaker C
Lo importante es ponerte en manos de buenos profesionales.
Speaker C
Que te ayuden en este en este proceso de conocer tus tus procesos de negocio.
Speaker C
Y ver cómo se puede automatizar.
Speaker C
Y luego empezar por lo que llamamos los early winners, los ganadores tempranos.
Speaker C
Es decir, esas automatizaciones que son sencillas, que son fáciles de asumir.
Speaker C
Pero que la gente ya lo ve reflejado en el día a día de manera inmediata.
Speaker C
Eso es lo que nos va a dar luego la progresión.
Speaker C
Para poder para poder crear automatizaciones.
Speaker C
Que realmente nos hagan ser más productivos.
Speaker C
Porque es muy importante.
Speaker C
Si no lo haces tú, lo va a hacer tu competencia.
Speaker C
Si tu competencia es mucho más productiva que tú, gracias a esas automatizaciones.
Speaker C
Tu destino como empresa, pues se puede ver.
Speaker B
Se complica.
Speaker B
Se complica.
Speaker B
Pues muchas gracias, Luis, ha sido un gusto poder escucharte y aprender de todo lo que nos cuentas.
Speaker C
Gracias a vosotros.
Speaker B
Y gracias a todos también por por seguir Punto Tendencias.
Speaker B
Esperemos que hayáis disfrutado, que hayáis aprendido.
Speaker B
La inteligencia artificial es un mundo de de posibilidades,
Speaker B
de avances, de de tecnología.
Speaker B
Con presente y con muchísimo futuro, que no para de evolucionar.
Speaker B
Y que nos permite pues tener este tipo de debates también.
Speaker B
Y y otros muchos que se podrían tener.
Speaker B
Como tú dices, de dónde está ese límite de inteligencia, inteligencia de silicio frente a inteligencia de carbono.
Speaker B
Así que muchas gracias por estar aquí.
Speaker B
Disfrutadlo.
Speaker B
Suscribiros, darle a like y nos vemos en el próximo episodio.
Topics:inteligencia artificialagentes autónomosLLMmodelos de lenguajemultimodalidadciberseguridadtransformación digitalLuis Ángel MartínezChat GPTGemini
