Agentes Autónomos & LLM con Luis Ángel Martínez | Punto Tendencias

Full Transcript — Download SRT & Markdown

00:26
Speaker A
La inteligencia artificial ha dejado de ser un simple chat para convertirse en una herramienta que no solo responde, también actúa.
00:34
Speaker A
En este análisis, desglosamos cómo conceptos como LLM y MCP han permitido que modelos como Gemini o Chat GPT evolucionen hacia agentes autónomos capaces de razonar y ejecutar tareas complejas.
00:47
Speaker A
Exploraremos por qué estamos ante una transformación profunda, analizando desde sus aplicaciones reales en ciberseguridad hasta los retos que suponen las alucinaciones y la necesidad de mantener siempre una supervisión humana crítica.
01:55
Speaker B
Bienvenidos a un nuevo episodio de Punto Tendencias.
01:59
Speaker B
Hoy nos acompaña Luis Ángel Martínez Cancelo, que es el director del área de sistemas y ciberseguridad en Proconsi, donde lidera proyectos de protección, de resiliencia, de transformación digital, aplicando su visión para defender todos los sistemas digitales y para asegurar una protección íntegra de los sistemas.
02:22
Speaker B
Luis Ángel, además de este papel técnico, es un gran conocedor de la inteligencia artificial, un amante de este ámbito.
02:40
Speaker B
Y apuesta por ese aprendizaje continuo que en un mundo que está actualizándose y evolucionando día a día.
02:49
Speaker B
Es fundamental, ¿no?
02:50
Speaker B
Bienvenido, Luis.
02:52
Speaker C
Gracias.
02:53
Speaker C
Pues sí, la verdad es que el tema de evolucionar, de de aprender,
03:00
Speaker C
de estar continuamente estudiando un poco, creo que lo llevo un poco en el ADN, ¿no?
03:06
Speaker C
Eh, y la inteligencia artificial es una de esas de esas
03:14
Speaker C
no sé si llamar disrupciones o evoluciones, porque es un algo demasiado fuerte
03:20
Speaker C
lo que está pasando ahora mismo como para clasificarla o categorizarla con una sola palabra.
03:25
Speaker C
Tengo claro que la inteligencia artificial es presente ya,
03:30
Speaker C
que es futuro,
03:32
Speaker C
que podríamos debatir o podríamos discutir si ese futuro va a ser utópico o distópico.
03:40
Speaker C
No lo sé.
03:41
Speaker C
La inteligencia artificial nos da las dos posibilidades.
03:44
Speaker C
Hay que ver cómo cómo como humanidad o como como especie evolucionamos y utilizamos la herramienta.
03:49
Speaker C
Pero sí que tengo también claro que es algo que ya está aquí.
03:56
Speaker C
Desde el punto de vista empresarial, es un tren en el que no es cuestión de decidir si te quieres subir o no te quieres subir.
04:04
Speaker C
Es que o te subes o te arrolla.
04:07
Speaker C
Porque la la capacidad que nos está dando, sobre todo a raíz de la inteligencia artificial agéntica, a raíz de la generación de la creación de los agentes de inteligencia artificial a las empresas,
04:19
Speaker C
es una capacidad de evolución en la productividad sin precedentes en toda la historia.
04:25
Speaker C
Ni siquiera en la revolución industrial, que podríamos compararlo con ello.
04:31
Speaker C
Se ha producido o se está produciendo un cambio tan repentino y tan disruptivo como el que se está produciendo hoy en día con la inteligencia artificial.
04:40
Speaker C
Aquella época fueron muchos años.
04:43
Speaker C
Hubo trabajos que se perdieron, trabajos nuevos que se generaron.
04:48
Speaker C
Eso mismo está ocurriendo ahora con la inteligencia artificial.
04:52
Speaker C
El problema es el espacio de tiempo, el espacio temporal en el que eso está sucediendo.
05:00
Speaker C
Que la capacidad de adaptación que tenemos es muchísimo más corta de lo que ocurrió en aquella época, ¿no?
05:08
Speaker B
Pues de esto vamos a hablar, eh, de, has mencionado los agentes de inteligencia artificial.
05:12
Speaker B
Pero creo que es importante que que comentemos todo este recorrido.
05:20
Speaker B
Como tú dices, es un concepto muy grande.
05:25
Speaker B
Que abarca muchos, tiene muchas aristas.
05:28
Speaker B
Abarca muchas cosas.
05:31
Speaker B
Entonces, vamos a empezar quizá por lo que tenemos más en el día a día o conocemos más todos.
05:40
Speaker B
Eh, que son modelos como Chat GPT o como Gemini de Google.
05:47
Speaker B
Y quiero aclarar qué son estos modelos, son LLM o qué es ese concepto de que es LLM que también se utiliza a menudo.
05:54
Speaker C
Bueno, para eso tendríamos que que hablar o o tener claro primero que la inteligencia artificial no es algo que haya aparecido o haya nacido
06:01
Speaker C
en el 2022, en noviembre del 2022, cuando Chat GPT aparece en medios de comunicación.
06:10
Speaker C
Y aparece ese esa herramienta que se llama LLM.
06:16
Speaker C
Un modelo de Large Language Model, un modelo de lenguaje amplio, grande.
06:20
Speaker C
Sino que la inteligencia artificial viene de mucho más atrás.
06:24
Speaker C
De hecho, el primero en pensar o o en o en plantearse si las máquinas llegarían a pensar fue Alan Turing.
06:33
Speaker C
Que muchos le conocerán aunque solo sea por la película de Descifrando Enigma.
06:39
Speaker B
Descifrando Enigma.
06:40
Speaker C
Entonces, la evolución de la inteligencia artificial ha sido un camino muy largo.
06:45
Speaker C
Un camino en el que quizás la clave es intentar algo, algo que a mí me parece bonito, ¿no?
06:52
Speaker C
Entender cómo eh cómo la mente humana piensa y ver si una máquina con un definir una serie de reglas fijas,
07:00
Speaker C
o no tan fijas,
07:02
Speaker C
eh puede puede pensar.
07:03
Speaker C
Entonces, realmente hay en esa evolución
07:07
Speaker C
nos encontramos que la inteligencia artificial sigue o evoluciona en claros y oscuros.
07:14
Speaker C
Porque ahí en los orígenes,
07:16
Speaker C
año 56, se acuña el término.
07:19
Speaker C
Eh, en esos orígenes que se empieza al primer, en los años 60, el primer software que trata de un poco de emular la inteligencia artificial,
07:28
Speaker C
que era un programa, un psicoterapeuta.
07:30
Speaker C
Se llamaba Elisa ese programa.
07:31
Speaker C
Pero se encuentra con problemas la inteligencia artificial en aquella época.
07:34
Speaker C
Se encuentra sobre todo con los problemas, básicamente, capacidad de cómputo.
07:39
Speaker C
Lo las máquinas que había en aquella época no tenían una capacidad suficiente.
07:43
Speaker C
Y luego datos.
07:44
Speaker C
Los de la inteligencia artificial tenemos que tener claro
07:49
Speaker C
que necesita datos suficientes y datos representativos.
07:53
Speaker C
Como dato curioso,
07:56
Speaker C
eh para que una inteligencia artificial, uno de estos modelos de inteligencia artificial aprenda,
08:03
Speaker C
necesita 1000 veces más información que nuestro cerebro de carbono para aprender.
08:09
Speaker C
Que si yo, por ejemplo, cuando veo un perro de una raza, la que sea, un Sitsu, por ejemplo,
08:17
Speaker C
soy capaz de cuando lo he visto dos veces o tres veces, ya reconocer el siguiente perro que vea de esa raza, reconocer que es de tal raza.
08:25
Speaker C
Eh, una inteligencia artificial necesitaría 3000 veces más ver esa imagen.
08:30
Speaker C
Claro, eso necesita cómputo.
08:32
Speaker C
Porque si no nuestro cerebro es mucho más óptimo en ese sentido.
08:38
Speaker C
Los modelos al final es esa evolución que tenemos de la programación clásica a la programación de inteligencia artificial.
08:45
Speaker C
Los modelos al final no dejan de ser los especialistas en algo.
08:50
Speaker C
Que yo tengo un modelo de lenguaje, que es un especialista en lenguaje.
08:55
Speaker C
Tengo modelos para generación de imágenes, que son especialistas en generación de imágenes.
09:00
Speaker C
Todo esto es modelos que inicialmente nacen como modelos independientes.
09:03
Speaker C
Se unen en interfaces, en las interfaces conversacionales que que todos conocemos, como puede ser Chat GPT, Gemini, Copilot.
09:10
Speaker C
Cualquiera de estas interfaces conversacionales que llamamos LLMs.
09:14
Speaker C
Al final ya no son solo modelos de lenguaje.
09:17
Speaker C
Ya no son solo modelos que son capaces de manejar el idioma.
09:21
Speaker C
Sino que llaman dentro de ellos a otros modelos, por ejemplo, para generar imágenes, para generar vídeos, para generar audios.
09:28
Speaker C
Por eso se habla ya de la multimodalidad.
09:30
Speaker C
Entonces, lo que hoy seguimos llamando como los LLMs, los grandes modelos de lenguaje,
09:37
Speaker C
para mí ya no son solo modelos de lenguaje.
09:42
Speaker C
Sino que son herramientas que tienen esa capacidad de multimodalidad que nos permite hacer distintas distintas cosas con ellas.
09:50
Speaker B
Mhm.
09:51
Speaker B
O sea, que el LLM, el LLM es casi como un director de orquesta que tú te comunicas con él y es el que luego.
10:00
Speaker C
Bueno, a lo que estamos llegando ahora mismo, sí.
10:04
Speaker C
Y hacia donde va estas capacidades agénticas,
10:08
Speaker C
también, ¿no? Porque al final un un agente ya por ir introduciendo un poco la parte de la gente.
10:13
Speaker C
Un agente de IA es un.
10:16
Speaker C
Hombre, me llamaría un ente.
10:18
Speaker C
Por no entrar en en otro tipo de debates.
10:21
Speaker C
Un ente que va a realizar una serie de tareas apoyándose en distintos modelos.
10:28
Speaker C
Cuando lo necesite.
10:30
Speaker C
Para ello hace falta un orquestador.
10:35
Speaker C
Realmente el orquestador es LLM.
10:39
Speaker C
No necesariamente.
10:40
Speaker C
Yo creo que no.
10:41
Speaker C
En mi opinión no.
10:43
Speaker C
El orquestador estaría un paso más atrás.
10:46
Speaker C
Sí que el LLM al final se está volviendo una herramienta conversacional muy que todos los usuarios pueden manejar, muy sencilla.
10:53
Speaker C
Entonces, tiene esas ciertas capacidades de orquestación, esas ciertas capacidades de comunicarse con otros elementos, con otros modelos,
11:01
Speaker C
para dar un resultado desde una interfaz única para para la persona.
11:06
Speaker C
Por eso los LLMs han evolucionado hacia hacia eso.
11:11
Speaker C
Pero realmente si somos puristas,
11:16
Speaker C
realmente lo que es Chat GPT, Gemini, Copilot, no deja de ser una interfaz conversacional en la que por detrás hay distintos modelos que interactúan unos con otros.
11:25
Speaker C
No es, en cierto modo, sí que podría ser un cierto orquestador.
11:27
Speaker C
Aunque desde el punto de vista empresarial, cuando ya hay que hacer cosas más complejas,
11:33
Speaker C
se utilizan otros orquestadores.
11:35
Speaker C
Se utilizan otras otras herramientas.
11:37
Speaker B
Y ahora, antes de aclarar que ya hemos empezado a introducir
11:41
Speaker B
y a comentar estos aspectos de de qué es un agente de inteligencia artificial.
11:48
Speaker B
Pero hay otro concepto que yo no tengo claro y que también se asocia al LLM y a los agentes.
11:54
Speaker B
Que es el de MCP.
11:56
Speaker C
Sí.
11:57
Speaker C
El Model Context Protocol.
11:58
Speaker C
Al final, si yo necesito un agente,
12:00
Speaker C
si yo necesito ese ese ente que hablamos, que es capaz de relacionarse con distintos elementos,
12:08
Speaker C
no siempre o no exclusivamente elementos de inteligencia artificial.
12:12
Speaker C
Luego comentaremos un poco la diferencia entre las automatizaciones
12:15
Speaker C
tradicionales y automatizaciones en las que interviene la inteligencia artificial.
12:20
Speaker C
Necesito, si necesito tener ese esa orquestación, necesito poderme comunicar
12:26
Speaker C
con distintos elementos, con distintos softwares, con distintos servicios de internet.
12:30
Speaker C
Y eso precisamente es lo que hace el MCP, el Model Context Protocol.
12:34
Speaker C
Es decir, el que yo me pueda desde una herramienta comunicar a través de una interfaz con otros elementos.
12:40
Speaker C
Un poco para los más técnicos.
12:43
Speaker C
Yo lo diría que es como si fuera una API invirvitaminada o una API mejorada o una.
12:50
Speaker C
Un sistema, al final lo que se busca con los MCPs es un sistema universal de comunicación
12:57
Speaker C
entre distintos modelos de inteligencia artificial o herramientas
13:03
Speaker C
en las que la inteligencia artificial necesita interactuar o los modelos necesitan interactuar.
13:08
Speaker C
Si yo, por ejemplo, quiero llegar a tener un agente eh que sea capaz de un agente autónomo,
13:16
Speaker C
que sea capaz de, no sé, me quiero ir de vacaciones a Islandia, por ejemplo.
13:21
Speaker C
Y que ese agente, que eso va a ser lo que veremos a lo largo del 2026,
13:28
Speaker C
cómo los agentes autónomos peguen la gran disrupción, ¿no?
13:32
Speaker C
Es un agente autónomo al final sería capaz de decirle, me quiero ir de vacaciones a Islandia.
13:39
Speaker C
Me prepare la ruta, como me puede hacer un LLM, un Chat GPT, un Gemini.
13:46
Speaker C
Eh, no solamente me diga los sitios de interés, sino que me reserve los hoteles en base a mis gustos o mis preferencias.
13:52
Speaker C
Me reserve las excursiones, me reserve los restaurantes.
13:56
Speaker C
Claro, para poder hacer todo este sistema,
14:01
Speaker C
ese ese agente necesita ser capaz de conectarse con centrales de reservas de hoteles, centrales de reservas de restaurantes.
14:10
Speaker C
Tiene que interactuar con mi tarjeta de crédito para poder para poder actuar.
14:17
Speaker C
Y ese es también el un poco el gran peligro o el el problema al que se van a enfrentar los agentes autónomos ahora mismo.
14:26
Speaker C
Es decir, el nivel de de confianza o de confidencialidad
14:30
Speaker C
en los datos que va a tratar.
14:33
Speaker C
Va a tratar datos sensibles.
14:35
Speaker C
Va a tratar datos financieros.
14:38
Speaker B
Mhm.
14:39
Speaker C
Aquí quizás también podríamos hablar de otro de los grandes riesgos con con el tema de la inteligencia artificial, ¿no?
14:43
Speaker C
La gente está sorprendida de lo que puede hacer la inteligencia artificial.
14:49
Speaker C
Y le empieza a dar datos e información que puede ser confidencial, que puede ser crítica.
14:55
Speaker C
A modelos que a lo mejor no están respetando la privacidad como como debería.
15:02
Speaker C
Entonces, es una tecnología.
15:05
Speaker C
Es una gran evolución.
15:07
Speaker C
Pero cuidado, ya me sale la vena de la ciberseguridad.
15:13
Speaker C
Hay que tener cuidado un poquito con eso.
15:17
Speaker C
De de siempre ver cómo maneja los datos, cómo trata los datos.
15:21
Speaker C
Y el gran reto de los agentes autónomos va a estar precisamente ahí en en ese tratamiento de los datos.
15:30
Speaker C
Más allá de la necesidad de los MCPs, de esa interconexión entre todos los sistemas o plataformas.
15:37
Speaker B
Entonces, la la diferencia entre lo que era
15:41
Speaker B
agente IA, que ahora, como dices, ya va derivando a esa agente autónomo.
15:48
Speaker B
Y una automatización más clásica o más más antigua, digamos.
15:53
Speaker B
Es la capacidad de decisión, ¿no?
15:56
Speaker C
Sí, en cierto modo, la diferencia entre una automatización normal y una automatización con IA.
16:02
Speaker C
Como paso intermedio a las automatizaciones en las que ya los agentes
16:06
Speaker C
vamos a tener agentes autónomos.
16:10
Speaker C
Deriva precisamente de eso.
16:11
Speaker C
No, en una automatización clásica, yo lo que hago es utilizar herramientas informáticas para que hagan determinados procesos.
16:19
Speaker C
En los que no es necesario interpretar o no es necesario analizar.
16:23
Speaker C
Es un poco lo que hablábamos o lo que podíamos hablar de la programación clásica.
16:28
Speaker C
Al final, cuando hablamos de programación, hablamos de algoritmos.
16:32
Speaker C
Cuando hablamos de algoritmos, para un poco para que la gente no no técnica lo entienda.
16:36
Speaker C
Un algoritmo no deja de ser una receta de cocina.
16:39
Speaker C
Si yo quiero hacer un plato, tengo una serie de ingredientes, que serían los datos de entrada.
16:46
Speaker C
Tengo la receta, que sería el algoritmo que va a tratar esos ingredientes.
16:52
Speaker C
Mezcla tanto de esto, tanto del otro, tanto de más allá.
16:56
Speaker C
Y obtengo un resultado que es el plato cocinado.
17:00
Speaker C
En un algoritmo de programación clásica, es la persona, es el humano, el que define
17:07
Speaker C
cómo se van a tratar esos datos, cómo se van a procesar.
17:11
Speaker C
Cómo se va a hacer todo.
17:12
Speaker C
Es decir, se basa en reglas.
17:16
Speaker C
Si pasa esto, haces esto.
17:19
Speaker C
Si pasa esto otro, haces esto otro.
17:23
Speaker C
Entonces, en un algoritmo de programación clásica, que las automatizaciones tradicionales se basan en la programación clásica.
17:30
Speaker C
Estamos muy limitados en base a las reglas.
17:33
Speaker C
Sin embargo, en un algoritmo de inteligencia artificial,
17:40
Speaker C
el programa, al final, ese algoritmo es el que va a decidir cómo va a hacer las cosas, ¿no?
17:46
Speaker C
En ese en ese.
17:48
Speaker C
La verdad es que es un tema muy apasionante.
17:50
Speaker C
Pero no nos va a dar tiempo a hablar de ello, ¿no?
17:52
Speaker C
Entonces, ese ese algoritmo de de programación de inteligencia artificial tiene esa capacidad,
18:00
Speaker C
podríamos decir, de pensar, entre comillas, esa capacidad de razonamiento.
18:06
Speaker C
Lo que me permite definirle cosas más avanzadas.
18:10
Speaker C
Por ejemplo, un caso que se da en empresas.
18:13
Speaker C
Que había una automatización, el poder digitalizar documentos.
18:18
Speaker C
El poder digitalizar una factura para poder facilitar la contabilización de la factura.
18:23
Speaker C
En la automatización tradicional, antes de la aparición de los agentes de inteligencia artificial,
18:31
Speaker C
cuando ya existía el OCR, es decir, la capacidad de reconocer caracteres
18:35
Speaker C
mediante un documento escaneado.
18:38
Speaker C
En un algoritmo de automatización eh de programación clásica y automatización tradicional, yo tenía que coger cada una de las distintas facturas que recibía.
18:47
Speaker C
Irle diciendo, en esta zona está el número de factura, en esta zona están los datos del proveedor.
18:54
Speaker C
En esta zona.
18:56
Speaker C
Tenía que irle marcando cada zona.
19:00
Speaker C
Para que luego la automatización leyera, gracias al OCR, interpretara esos datos.
19:08
Speaker C
Y me los grabará en ciertos campos.
19:11
Speaker C
Lo que te he marcado en esta zona es el número de factura.
19:14
Speaker C
Lo que te he marcado en esta zona es la fecha de factura.
19:18
Speaker C
Claro, cuando evoluciona y llegan los agentes de inteligencia artificial y empezamos a dotar de de modelos de inteligencia artificial.
19:28
Speaker C
Yo ya no necesito ante una factura marcarle cada uno de los campos.
19:33
Speaker C
Porque el algoritmo va a ser capaz de reconocer esos caracteres.
19:39
Speaker C
Y entiende, piensa, sabe lo que es un número de factura.
19:43
Speaker C
Por tanto, lo busca.
19:45
Speaker C
No necesito que yo le diga dónde está ese número de factura.
19:48
Speaker C
O sabe lo que es el importe, sabe lo que es la base, sabe lo que es el IVA.
19:52
Speaker C
Fíjate el cambio tan brutal que supone una automatización tradicional.
19:58
Speaker C
Frente a una automatización basada en la inteligencia artificial.
20:02
Speaker C
Ese tiempo que yo perdía en en enseñarle dónde estaba cada posición en la factura, desaparece.
20:09
Speaker C
Si el proveedor me cambiaba la factura, yo tenía que volver a modificar la plantilla para decirle dónde estaban los nuevos campos.
20:16
Speaker C
Ahora no, ahora directamente, yo puedo dejar en una carpeta todas las facturas.
20:22
Speaker C
Y gracias a esa capacidad de los modelos de inteligencia artificial, va a ser capaz de determinar dónde está cada una de las cosas.
20:30
Speaker C
Generarme los datos que luego va a grabar en el programa de contabilidad, ¿no?
20:34
Speaker C
Y ya no solamente el agente.
20:38
Speaker C
Ese ese ese agente que que ya le estamos dando esa capacidad de hacer más cosas.
20:45
Speaker C
No solamente va a ser capaz de leer los datos y pasárselos a la contabilidad.
20:50
Speaker C
Sino que va a ser capaz de interpretar y decir, este es tal proveedor, pues tal proveedor sé que la cuenta contable va a ser tal.
20:58
Speaker C
No no te dejo los datos en neutro, en vacío y tú te buscas la vida con programación clásica para incorporarlo.
21:04
Speaker C
Sino que le estamos dotando de esa capacidad de pensamiento o de raciocinio.
21:10
Speaker B
Claro.
21:12
Speaker B
Porque, a ver, si lo he entendido bien, gracias al MCP, es decir, a ese protocolo que le dice
21:19
Speaker B
qué reglas y cómo comunicarse con con otros modelos.
21:23
Speaker B
El agente puede utilizar distintos modelos para, en este ejemplo que has puesto de la factura,
21:31
Speaker B
pues con uno reconocer los caracteres, otro ya conoce cómo son las facturas.
21:38
Speaker B
Y entonces.
21:40
Speaker C
Sí, realmente el el propio modelo, el propio modelo, el agente, yo ya con con con sin necesidad de un MCP.
21:46
Speaker C
El propio LLM va a ser capaz de reconocer qué es lo que hay dentro de cada factura.
21:51
Speaker C
Cuál es el número de factura, cuál es la fecha, cuál es el importe.
21:55
Speaker C
El MCP, ¿qué es lo que nos va a dar? Nos va a dar esa capacidad luego de llegar a conectarnos.
22:00
Speaker C
Para que el apunte contable ya esté grabado en la contabilidad.
22:05
Speaker C
Directamente.
22:06
Speaker C
Sin tener que hacer nada por el medio, porque ahora en automatización tradicional.
22:13
Speaker C
Yo tengo el escaneador, el reconocimiento de caracteres.
22:18
Speaker C
Eso deja un fichero.
22:21
Speaker C
Me tengo que ir al programa de contabilidad.
22:24
Speaker C
El programa de contabilidad importar ese fichero.
22:27
Speaker C
Hacer una serie de pasos o de caminos intermedios que que el humano tiene que ir definiendo.
22:34
Speaker C
Pues este este apunte va a tal cuenta contable, este va a tal otra, este va a tal otra.
22:39
Speaker C
Con un modelo MCP, al final, todos hablan con todos.
22:44
Speaker C
Con lo cual es como si fuera el el agente autónomo, es como si fuera esa persona.
22:52
Speaker C
Me gusta más llamarle ese.
22:54
Speaker C
Ese ente o ese.
22:56
Speaker C
Ese elemento que es capaz de hacer las tareas que hace la persona.
23:04
Speaker C
Reconozco los caracteres que hay.
23:08
Speaker C
Me lo apunto en el programa de contabilidad.
23:11
Speaker C
Y para, claro, para que todo eso que son programas totalmente distintos,
23:14
Speaker C
que nada tienen que ver unos con otros, funcione.
23:17
Speaker C
Necesito un protocolo de comunicaciones entre todos ellos.
23:22
Speaker C
Para que ese agente, ese ente, sea capaz de leer de uno, escribir en otro, mandar a otro.
23:27
Speaker C
Es como.
23:29
Speaker C
Eso, pues muchos dirán, bueno, pero eso son las APIs.
23:33
Speaker C
En cierto modo, sí, es una API.
23:36
Speaker C
Pero hipervitaminada, ¿no?
23:39
Speaker C
Una API que es como una evolución, es que podríamos decir de las APIs.
23:43
Speaker C
En en un contexto así más más tradicional.
23:47
Speaker B
Y antes, ya avanzaste que el tema de ciberseguridad es importante.
23:52
Speaker B
En todo, en general, en el mundo digital.
23:57
Speaker B
Pero claro, aquí con la capacidad que tiene, todo, cuanta más capacidad tiene,
24:05
Speaker B
más precauciones, digamos, hay que tomar.
24:09
Speaker C
Claro.
24:10
Speaker B
¿Qué limitaciones tienen también estos agentes IA autónomos, agentes de inteligencia artificial?
24:15
Speaker B
¿Qué riesgos puede haber en el aspecto ya, en el ámbito de ciberseguridad?
24:19
Speaker C
Lo primero que tenemos que tener claro y tenemos que tener en cuenta
24:23
Speaker C
es que la inteligencia artificial alucina y puede alucinar.
24:27
Speaker C
Se puede equivocar.
24:28
Speaker C
Puede inventar datos.
24:30
Speaker B
Eso es importante, ¿no?
24:31
Speaker B
Porque el concepto de alucinación era algo como que se escucha mucho también.
24:35
Speaker C
Claro, la la alucinación al final, la inteligencia artificial
24:40
Speaker C
siempre va a intentar tu tu Chat GPT, tu Gemini, tu Copilot, va a intentar siempre darte respuestas.
24:45
Speaker C
Una cosa curiosa, siempre intenta siempre intenta darte respuestas.
24:48
Speaker C
Tienes que lograr mediante distintas técnicas, lógicamente, a medida que van evolucionando los LLMs.
24:56
Speaker C
Las alucinaciones se van reduciendo.
25:00
Speaker C
Porque les van obligando a repensar.
25:03
Speaker C
Me acuerdo cuando empezamos a trabajar a finales del 2022, principios del 2023.
25:09
Speaker C
Con los LLMs, que primero hay que utilizar lo que llamábamos técnicas de prompting, como cadenas de pensamiento, etcétera.
25:16
Speaker C
Para intentar reducir el número de alucinaciones, ¿no?
25:20
Speaker C
Eso se va va mejorando.
25:22
Speaker C
Los propios fabricantes, los propios desarrolladores van reduciendo ese número de alucinaciones.
25:27
Speaker C
Pero tenemos que ser conscientes que la inteligencia artificial alucina.
25:32
Speaker C
Es decir, puede darme resultados que no son correctos.
25:35
Speaker C
Bueno, también las personas alucinamos a veces.
25:38
Speaker C
Y damos resultados que no son correctos.
25:40
Speaker C
Es decir,
25:42
Speaker C
hay muchos símiles, ¿no?
25:44
Speaker C
Y ahí podríamos entrar en un debate de la inteligencia del carbono.
25:48
Speaker C
Y la inteligencia basada en el silicio, ¿no?
25:50
Speaker C
Las diferencias.
25:52
Speaker C
Pero hay que tener cuidado de esas alucinaciones.
25:56
Speaker C
Eh, la la inteligencia artificial me ayuda a pensar mejor.
26:01
Speaker C
Pero pensar mejor no significa pensar menos.
26:05
Speaker C
No podemos caer nunca en la tentación del copia y pega.
26:09
Speaker C
Lógicamente,
26:11
Speaker C
si yo estoy hablando de un agente autónomo, que el agente autónomo va a ser capaz de hacer todo ese proceso de manera autónoma.
26:20
Speaker C
Sin intervención o con una mínima intervención humana.
26:24
Speaker C
Significa que el riesgo de alucinación es alto.
26:29
Speaker C
Entonces, tengo que.
26:30
Speaker C
Uno de los grandes retos con los agentes autónomos es que cuando se define ese agente,
26:35
Speaker C
cuando se está, digamos, programando, se está preparando para que funcione en la realidad.
26:40
Speaker C
Tiene que llevar una supervisión humana muy estricta.
26:43
Speaker C
Tiene que poderse acotar todos toda esa información.
26:46
Speaker C
Y dependiendo del contexto en el que esté, tendré que tener en cuenta hasta qué punto le dejo o doy libertad o doy credibilidad
26:52
Speaker C
a los resultados que me está dando.
26:56
Speaker C
Piensa que al final un agente autónomo va a poder estar contabilizando facturas.
27:01
Speaker C
Donde el riesgo de un error es un riesgo, digamos, menor.
27:06
Speaker C
Me ha contabilizado una factura en la cuenta contable que no es la correcta.
27:10
Speaker C
En algún momento saltará y demás.
27:12
Speaker C
Pero si tengo un agente autónomo que está llevando a cabo, está tomando decisiones más críticas.
27:19
Speaker C
Imagínate, yo que sé, agentes autónomos que están tomando decisiones en el ámbito médico o en el ámbito de la salud.
27:24
Speaker C
Donde un error puede suponer una vida, ¿no?
27:28
Speaker C
Claro que un que un agente, alguno dirá, bueno, pero es que los médicos humanos
27:32
Speaker C
también se equivocan y también eso tiene tiene consecuencias.
27:36
Speaker C
Correcto.
27:37
Speaker C
No te voy a decir que no.
27:39
Speaker C
Pero, desde luego, una de las de los puntos clave es que la inteligencia artificial, los agentes autónomos, por supuesto, en particular, pero la inteligencia artificial en general,
27:48
Speaker C
requiere siempre de supervisión humana.
27:51
Speaker C
Requiere además que seamos conscientes
27:56
Speaker C
que necesito grandes cantidades de datos, como veía antes.
28:00
Speaker C
Pero además, datos que sean representativos.
28:04
Speaker C
Porque si yo tengo volúmenes de datos, pero esos datos no representan la generalidad.
28:09
Speaker C
Al final, el resultado que voy a obtener es.
28:12
Speaker B
Sesgado, está condicionado.
28:14
Speaker C
Al final, tenemos que tener en cuenta que la base de la inteligencia artificial son las matemáticas, es la estadística.
28:20
Speaker C
Aquello que de las derivadas y las integrales, pero para qué sirven las derivadas que estudiabas, ¿no?
28:25
Speaker C
Pues ahora tenemos la explicación de para qué sirven las derivadas.
28:28
Speaker C
Bueno.
28:29
Speaker C
Bueno, bromas aparte.
28:30
Speaker C
Entonces, la parte de la ciberseguridad es importante.
28:34
Speaker C
Lo primero, porque necesitamos supervisión humana.
28:38
Speaker C
Lo segundo, porque cuando estoy interactuando con modelos de inteligencia artificial,
28:44
Speaker C
tengo que tener claro el nivel de privacidad
28:48
Speaker C
que me va a dar ese modelo.
28:51
Speaker C
No puedo estar dando información confidencial de mi empresa a un modelo de inteligencia artificial
28:58
Speaker C
que no me garantiza que esos datos no van a ser utilizados para para su entrenamiento.
29:03
Speaker C
Hay gente que empieza a coger modelos gratuitos.
29:06
Speaker C
Ven por internet un modelo y le suben datos confidenciales de la empresa.
29:11
Speaker C
Pero alma de cántaro.
29:13
Speaker C
A ver, que que ese modelo esos datos los utiliza para tu entrenamiento.
29:19
Speaker C
Que tus datos van pueden aparecer, yo que sé, dónde.
29:23
Speaker C
Pueden acabar escupiéndolos una inteligencia artificial.
29:26
Speaker C
Y luego también es importante la ciberseguridad en otro sentido.
29:31
Speaker C
Y es que no podemos no podemos perder de vista
29:35
Speaker C
que los ciberdelincuentes también están haciendo su transformación digital.
29:41
Speaker C
Y lo mismo que estamos generando agentes, de agentes autónomos para el bien.
29:48
Speaker C
Para optimizar o hacernos más productivos en nuestras empresas.
29:53
Speaker C
Los ciberdelincuentes lo están haciendo para hacerlos más productivos en su en sus empresas del cibercrimen.
29:58
Speaker C
Eso quiere decir que si queremos, desde el punto de vista de la ciberseguridad, luchar
30:05
Speaker C
como siempre hemos hecho contra todos estos ciberataques y cibercrimen.
30:10
Speaker C
Necesitamos apoyarnos también en la inteligencia artificial.
30:14
Speaker C
Porque ante la capacidad de cómputo tan bestial que pueden desencadenar los ciberdelincuentes.
30:20
Speaker C
Solo podemos luchar con esa otra capacidad de cómputo tan bestial.
30:24
Speaker C
Por eso la inteligencia artificial también a nosotros nos ayuda.
30:27
Speaker C
Nos ayuda mucho en el ámbito de la ciberseguridad.
30:31
Speaker C
La inteligencia artificial, cuando tienes grandes volúmenes de datos, es muy buena reconociendo patrones.
30:37
Speaker C
Por tanto, cuando estamos hablando de ciberdefensa, el detectar de manera temprana patrones de ataques,
30:41
Speaker C
es fundamental también para nosotros.
30:44
Speaker B
Y de hecho, antes de ir cerrando, te quería preguntar que en relación con esto.
30:52
Speaker B
Qué perfil de profesional crees que va a ser fundamental en en el desarrollo de de estas tecnologías o en la supervisión de estas tecnologías.
31:00
Speaker C
Pues, desde luego, hace falta profesionales de todo tipo.
31:03
Speaker C
Los equipos multidisciplinares son muy relevantes.
31:07
Speaker C
Se está diciendo que las las carreras de humanidades
31:12
Speaker C
son una de las carreras que más se va a impactar o más va a impactar la inteligencia artificial, ¿no?
31:19
Speaker C
Y está impactando, como en temas de fotografía.
31:24
Speaker C
Edición de vídeo, dobladores.
31:27
Speaker C
Evidentemente.
31:29
Speaker C
Filólogos.
31:30
Speaker C
La traducción, ahora con la inteligencia artificial, la traducción automática.
31:33
Speaker C
Pero, sin embargo, los equipos multidisciplinares siguen siendo muy necesarios.
31:41
Speaker C
Y la parte de las humanidades, en un en un entorno en el que es tan importante el cómo me relaciono y y de qué manera hablo y demás.
31:48
Speaker C
Las humanidades también tienen su su relevancia.
31:52
Speaker C
En cualquier caso, aparte de estos equipos multidisciplinares, lo que necesitamos es gente abierta.
31:57
Speaker C
Gente de mentalidad abierta.
31:59
Speaker C
No gente que ni ni negacionistas de la inteligencia artificial.
32:05
Speaker C
Que digan, esto es, no sé.
32:08
Speaker C
Esto es un logro, esto nos va a extinguir.
32:11
Speaker C
No necesitamos una inteligencia artificial para que nos extinga.
32:13
Speaker C
Al final, los humanos y la estupidez humana es.
32:16
Speaker B
Lo podemos hacer nosotros mismos.
32:18
Speaker C
Nosotros mismos.
32:20
Speaker C
Pero sí necesitamos gente que que sepa valorar
32:25
Speaker C
el riesgo del mal uso de las cosas.
32:28
Speaker C
Gente que tenga la mente abierta.
32:31
Speaker C
Gente que se apoye en la inteligencia artificial, pero no ciegamente en la inteligencia artificial del copia y pega.
32:39
Speaker C
Ese es el gran error.
32:41
Speaker C
Porque dependiendo cómo yo pregunte, dependiendo del contexto que le dé la inteligencia artificial.
32:45
Speaker C
Las respuestas que me va a dar van a ser unas u otras.
32:49
Speaker C
Si yo me limito a copiar y pegar lo que me da la inteligencia artificial.
32:54
Speaker C
Si entro en la comodidad, que al final no deja de ser un sesgo humano, ¿no? Esa comodidad.
33:02
Speaker C
Ya me lo han hecho, ¿para qué me voy a molestar yo en hacerlo?
33:06
Speaker C
Bueno, yo no quiero esa gente en los equipos.
33:08
Speaker C
Yo quiero gente que utilice la inteligencia artificial con cabeza.
33:13
Speaker C
Que cuestione, la mente crítica, el espíritu crítico, esa mentalidad de
33:19
Speaker C
infantil de, ¿y por qué? Y de dónde viene.
33:23
Speaker C
Es algo que se necesita en los equipos de trabajo que van a que van a trabajar en el futuro, ¿no?
33:28
Speaker C
Y y.
33:30
Speaker C
Para una empresa que quiera iniciarse.
33:33
Speaker C
En en integrar soluciones con agentes autónomos.
33:39
Speaker C
Qué primer paso le podríamos recomendar, podríamos dejar como consejo para todas estas empresas.
33:44
Speaker C
Pues el primer paso, que es el más importante de todo esto, es conocer el negocio.
33:49
Speaker C
Hay que conocer la estrategia de negocio.
33:52
Speaker C
Tienes, necesitas un perfil que sea capaz de que hable contigo.
33:59
Speaker C
Que tú le cuentes cuál es tu estrategia de negocio.
34:03
Speaker C
Y que conozca las herramientas de inteligencia artificial.
34:07
Speaker C
Si nos lanzamos a la automatización por la automatización, vamos a fracasar.
34:13
Speaker C
Está pasando ahora en empresas, nos estamos encontrando, cuando hacemos consultoría de inteligencia artificial.
34:19
Speaker C
Nos estamos encontrando empresas que no han iniciado, todavía no han dado el primer paso, ni siquiera han empezado a utilizar un LLM.
34:26
Speaker C
Y empresas que ya han empezado a utilizar un LLM y que se han encontrado con que sí.
34:33
Speaker C
Nos parecía muy sorprendente, pero cuando lo hemos querido llevar a la práctica,
34:39
Speaker C
no ha funcionado.
34:41
Speaker C
No esa emoción inicial.
34:44
Speaker C
Y después la decepción.
34:47
Speaker C
Y viene precisamente, ¿por qué?
34:50
Speaker C
Porque hay que analizar primero tus procesos de negocio.
34:56
Speaker C
Hay que ver qué es susceptible de automatización y qué no lo es.
35:00
Speaker C
No en todo se puede utilizar IA.
35:03
Speaker C
Hay veces que metería significa ir al fracaso.
35:08
Speaker C
¿Por qué? Porque ese proceso no necesita ser automatizado.
35:12
Speaker C
No te lleva tanto tiempo y la complejidad de implantar IA en él.
35:17
Speaker C
No compensa.
35:19
Speaker C
Al final, esto es una evaluación de riesgos, ¿no?
35:21
Speaker C
Tengo que que ver qué es lo que me demanda mucho tiempo.
35:28
Speaker C
Y de lo que me demanda mucho tiempo, qué es lo primero que voy a automatizar con inteligencia artificial.
35:33
Speaker C
Lo importante es ponerte en manos de buenos profesionales.
35:37
Speaker C
Que te ayuden en este en este proceso de conocer tus tus procesos de negocio.
35:43
Speaker C
Y ver cómo se puede automatizar.
35:47
Speaker C
Y luego empezar por lo que llamamos los early winners, los ganadores tempranos.
35:51
Speaker C
Es decir, esas automatizaciones que son sencillas, que son fáciles de asumir.
35:58
Speaker C
Pero que la gente ya lo ve reflejado en el día a día de manera inmediata.
36:03
Speaker C
Eso es lo que nos va a dar luego la progresión.
36:06
Speaker C
Para poder para poder crear automatizaciones.
36:11
Speaker C
Que realmente nos hagan ser más productivos.
36:14
Speaker C
Porque es muy importante.
36:17
Speaker C
Si no lo haces tú, lo va a hacer tu competencia.
36:21
Speaker C
Si tu competencia es mucho más productiva que tú, gracias a esas automatizaciones.
36:27
Speaker C
Tu destino como empresa, pues se puede ver.
36:31
Speaker B
Se complica.
36:32
Speaker B
Se complica.
36:34
Speaker B
Pues muchas gracias, Luis, ha sido un gusto poder escucharte y aprender de todo lo que nos cuentas.
36:41
Speaker C
Gracias a vosotros.
36:43
Speaker B
Y gracias a todos también por por seguir Punto Tendencias.
36:51
Speaker B
Esperemos que hayáis disfrutado, que hayáis aprendido.
36:56
Speaker B
La inteligencia artificial es un mundo de de posibilidades,
37:00
Speaker B
de avances, de de tecnología.
37:05
Speaker B
Con presente y con muchísimo futuro, que no para de evolucionar.
37:13
Speaker B
Y que nos permite pues tener este tipo de debates también.
37:18
Speaker B
Y y otros muchos que se podrían tener.
37:22
Speaker B
Como tú dices, de dónde está ese límite de inteligencia, inteligencia de silicio frente a inteligencia de carbono.
37:29
Speaker B
Así que muchas gracias por estar aquí.
37:33
Speaker B
Disfrutadlo.
37:36
Speaker B
Suscribiros, darle a like y nos vemos en el próximo episodio.

Transcribe Another YouTube Video

Paste any YouTube link and get the full transcript with timestamps for free.

Transcribe a YouTube Video