Saltar navegación

Activa JavaScript para disfrutar de los vídeos de la Mediateca.

María Sanz: "Cybersecurity AI (CAI): Hacia una Ciberseguridad Agéntica"

Ajuste de pantalla

El ajuste de pantalla se aprecia al ver el vídeo en pantalla completa. Elige la presentación que más te guste:

Subido el 5 de octubre de 2026 por EducaMadrid

35 visualizaciones

Más información Transcripción

Descargar la transcripción

Y hoy tenemos la suerte de contar con una investigadora en ciberseguridad e IA especializada en sistemas autónomos y en el desarrollo de modelos de IA aplicados a la defensa digital. 00:00:00
Es una de las principales expertas en benchmarking de IA con trabajos de marcos, de evaluación rigurosos y de referencia para la comunidad. 00:00:11
Como su estudio, vais a flipar, Cybersecurity Eye Benchmark, a Meta Benchmark for Evaluating Cybersecurity Eye Agents. Y el que se ría que venga y lo lea él, ¿vale? 00:00:20
Su grupo de investigación ha participado en conferencias como AAAI 2026, que si quiere luego nos explicará lo que es, en RootedCon 26. Es una de las mujeres que lideran la investigación puntera en IA, en IA generativa aplicada a la seguridad, destacando por su capacidad para abordar problemas complejos con enfoques innovadores y de alto impacto científico. 00:00:34
Y esto es lo que se llama crear aquí altas expectativas y las podemos crear porque la conocemos y sabemos que lo merece. Así que con todos vosotros, María Sanz Gómez. 00:00:57
Hola a todos. Bueno, muchas gracias por la presentación, Daniel. Y nada, buenos días a todos. Me gustaría empezar dando las gracias a David Navarro, que me ha facilitado todo el proceso, a EducaMadrid por haberme invitado a este Ciberjueves. 00:01:10
Ciberjueves. Y nada, bueno, me voy a presentar un poco, aunque Daniel ya lo ha hecho genial. 00:01:39
Soy María, vengo de Alias Robotics, una empresa de Vitoria. El proyecto del que os voy a hablar 00:01:46
hoy está cofinanciado por la Unión Europea. Y bueno, antes de empezar me gustaría hacer 00:01:54
unas preguntas. ¿Cuántos de vosotros os consideráis expertos o trabajáis en el ámbito de ciberseguridad? 00:02:01
Vale. ¿Y cuántos de vosotros habéis utilizado en la última semana la inteligencia artificial? Ya sea HGPT, hayáis utilizado, buscad en Google, hayáis preferido la respuesta de Copilot. Vale, aquí ya más vais levantando la mano. 00:02:09
Bueno, ya tenéis aquí mi presentación, aunque ya me ha presentado Daniel, soy investigadora en ciberseguridad e inteligencia artificial 00:02:30
y mi grupo de investigación ha sido puntero en cruzar estos dos ámbitos, la IA generativa y la ciberseguridad. 00:02:51
Os voy a guiar un poco por el índice de esta sesión, os voy a ir guiando por este índice, 00:03:01
contando cómo ha sido la visión que ha tenido nuestro equipo en todo momento 00:03:21
y todas las decisiones que nos han llevado a estar en el punto en el que estamos. 00:03:25
Bueno, antes de nada me gustaría dar quizás un mensaje un poco alarmista, 00:03:32
pero creo que es necesario que todos seamos conscientes y que lo escuchemos desde aquí. 00:03:37
Históricamente, el tiempo desde que salía una vulnerabilidad hasta que esta vulnerabilidad se explotaba, 00:03:44
por un atacante era de en torno a 30-35 días, que era un tiempo más que razonable para que los equipos de defensa les diera tiempo a generar un parche posible 00:03:51
y aplicaran para evitar este exploit. El problema es que esta ventana de tiempo se ha ido reduciendo a lo largo de estos años y si me permiten voy a hacer una proyección. 00:04:04
Yo creo que en 2027, a mitad de 2027, estemos hablando de que esta ventana de tiempo entre que sale el exploit y se explota es de prácticamente minutos, o sea, sería una explotación casi instantánea. 00:04:17
Por eso es importante que consigamos aplicar la inteligencia artificial en la ciberseguridad porque no hay manera humana de poder responder a este problema que os acabo de presentar. 00:04:32
Pero para saber cómo hemos llegado a este punto me gustaría contaros un poco la línea de tiempo de la inteligencia artificial, de cómo hemos llegado hasta aquí. 00:04:50
En 2022, OpenAI, una compañía norteamericana, lanzó Chaghebre, que para el que no lo conozca, que creo que sois pocos, es un asistente de ingeniería artificial en el que tú le haces preguntas, le das instrucciones y él te genera una respuesta en un lenguaje que entendemos todos, un lenguaje natural. 00:04:59
Esto fue en 2023 a finales, en noviembre y diciembre 00:05:21
y el resto de compañías tecnológicas quisieron también sacar sus propios modelos 00:05:27
y ponerse un poco al día 00:05:32
Aquí os he puesto Google, Anthropic, Mistral a nivel europeo 00:05:34
que sacaron sus propios modelos y comenzaron a desarrollar estos modelos 00:05:38
Estos modelos que en 2024 conseguían procesar imágenes, audio, vídeo 00:05:43
y que poco a poco se irán desarrollando y cada vez estamos viendo que son bastante mejores. 00:05:49
En 2025 se separaron dos líneas de investigación. 00:05:56
Por un lado estaba el desarrollo de los modelos y luego se comenzaron a crear agentes especializados. 00:06:00
Agentes especializados en tareas concretas. 00:06:06
Y aquí es donde nuestro equipo de investigación dijo, vale, ¿qué ocurre cuando juntamos 00:06:11
lo que está pasando ahora con la inteligencia artificial y la ciberseguridad. 00:06:17
Y fue cuando nació Pentex GPT. 00:06:22
Pentex GPT es una herramienta orientada a ciberseguridad 00:06:25
que te permitía hacer consultas de ciberseguridad como si fuese chat GPT pero en el ámbito ciber 00:06:31
y te sugería utilizar herramientas o ir analizando los resultados que ibas obteniendo con las herramientas 00:06:39
gracias a la inteligencia artificial. 00:06:48
Vimos que esto no será realmente útil en nuestro día a día, pero necesitábamos un poco de autonomía. 00:06:50
Entonces ahí fue cuando apareció el proyecto del que os vengo a hablar hoy, que es CAI. 00:06:56
CAI nos permite crear agentes que se encargan de investigar vulnerabilidades y automatizar tareas de ciberseguridad. 00:07:02
Os voy a explicar un poco cómo nuestro equipo de investigación llegó a pensar cómo tenía que funcionar esta intersección de la ciber y la IA. 00:07:14
Estos son los que creemos que son los pilares fundamentales. 00:07:24
Por un lado tenemos el scaffold o marco de trabajo o framework, que os he puesto algunos ejemplos, cloud de codec, que a lo mejor algunos conocéis si trabajáis en programación, codecs y luego CAI. 00:07:27
El marco engloba a los agentes, que son los que tienen estas herramientas para poder ejecutar las tareas que tú les mandes y para poder ejecutar tus instrucciones. 00:07:43
Los agentes tienen un cerebro y ese cerebro es el modelo. Sin el modelo los agentes no serían nada, no sabrían cómo utilizar las herramientas. 00:07:55
Y por último, es importante el apartado de benchmarking, porque ¿cómo sabemos si un modelo es bueno o no para la ciberseguridad? 00:08:06
Pues necesitamos evaluarlo, que es de lo que se encarga el benchmarking. 00:08:15
Vale, bueno, ahora os voy a introducir un poco y contaros un poco cada uno de estos pilares en nuestra herramienta Cyber Security AI CAI. 00:08:18
¿Qué es CAI? Vale, pues CAI es una herramienta que se encarga de implementar agentes basados en inteligencia artificial que automatizan tareas tanto ofensivas como defensivas. 00:08:33
La ventaja que esto tiene es que lo hace de una manera, os mostraré un vídeo más adelante, pero lo hace bastante más rápido que lo que podríamos hacer nosotros. 00:08:48
Es una herramienta de apoyo que nos va a servir para agilizar todo el proceso. 00:08:58
Aquí tenéis un pequeño ejemplo en el que yo le pongo una instrucción, se llama User Prompt o Prompt de Usuario. 00:09:05
Le digo, preséntate a los asistentes del Ciberjueves y el agente, mediante el modelo, me contesta, hola, asistentes del Ciberjueves, soy agente de equipo rojo de CAI y estoy listo para explotar sistemas. 00:09:11
Este es un ejemplo bastante sencillo, pero para que veáis un poco cómo funciona. 00:09:26
Otro de los ejemplos que podéis decirle, miráis, hola, esta es mi página web 00:09:31
Podrías realizarme una inspección de esta página para ver si encuentras vulnerabilidades 00:09:37
Que es exactamente lo que hicimos nosotros al principio 00:09:44
Le pusimos que si podía analizar nuestra propia web, ver las top 10 vulnerabilidades de ese año 00:09:48
Y aquí veis como la herramienta misma va utilizando comandos de DIG, comandos de CUL, te va sacando los outputs de la herramienta y en base a eso va tomando unas decisiones u otras. 00:09:59
Esto que estáis viendo aquí lo he ralentizado un poco para que seamos capaces de ver cómo funciona, pero va a una velocidad que ya os digo es humanamente casi ilegible. 00:10:12
Bueno, me quería detener también un poco aquí porque os he hablado al inicio de Pentes GPT 00:10:24
en el que vimos cómo la IA servía para guiar a los humanos en el ambiente de ciberseguridad 00:10:33
en el que los humanos le daban un problema, la IA le contestaba utiliza estas herramientas 00:10:47
o hace estas cosas, estas pautas, el humano procesaba todos esos resultados, estas salidas y decidía si se lo volvía a preguntar a la IA o tomaba decisiones. 00:10:53
Entonces fue donde pasamos a CAI, que CAI ya os he contado que es una manera un poco más autónoma en la que la IA planifica, actúa, tiene las herramientas para actuar, 00:11:05
ya no somos nosotros los encargados de utilizar las herramientas, sino que es la IA, toma decisiones y cuando no sabe nada ya pregunta al humano. 00:11:16
O sea, estamos ya en una fase en la que el humano guía a la IA, no es la IA la que guía al humano. 00:11:26
Y en nuestro grupo de investigación nos preguntamos si podíamos llevar esto a otro nivel y si la IA era capaz de guiar a la IA. 00:11:33
Entonces creamos unos gráficos de ataque y lo que hacíamos era con otro modelo diferente introducir estos gráficos de ataque y decir cuáles serían los caminos posibles y las mejores opciones que debería seguir nuestro modelo para obtener mejores resultados. 00:11:43
Y todo eso se lo volvíamos a retroalimentar al modelo que teníamos inicialmente. 00:12:04
Este estudio es un estudio un poco complicado y complejo de entender, pero bueno, dejo por ahí el QR del paper, que si estáis interesados, son 11, 12 páginas, pero merece la pena leer. 00:12:08
Bueno, el siguiente pilar fundamental del scaffold son los agentes. 00:12:23
Los agentes operan bajo este ciclo continuo que os pongo aquí, en el que piensan, actúan, utilizan herramientas como la consola, líneas de comandos, observan los resultados y van, pues eso, en un ciclo iterativo procesando. 00:12:31
Entonces los agentes conseguimos darle un rol específico con el System Prom, mediante el Prom de Sistema. ¿Qué hacemos con el Prom de Sistema? Imaginaros que tenemos una biblioteca de libros súper grande y nosotros le decimos ¿qué tipo de planta es esta? 00:12:53
Pues el agente va a mirar entre toda la librería que tiene para ver el tipo de planta que es. 00:13:11
Pero si nosotros le decimos, estás especializado en la naturaleza, va a coger solo los libros que se dediquen a la naturaleza 00:13:16
y va a ser bastante más rápido porque hemos acotado su conocimiento a solo eso. 00:13:26
Entonces eso es lo que hacemos mediante el System Prom. 00:13:32
Y aquí os podéis imaginar que con el System Prom podemos crear infinidad de agentes. 00:13:35
Todos los que se os ocurran aquí os he puesto algunos ejemplos, por ejemplo, en el ámbito ciberdefensor o de respuesta a incidentes o de análisis de inteligencia de amenazas, vigilancia y cumplimiento de leyes, pero ya os digo, pueden ser un montón. 00:13:40
ya os he comentado que no sirve de nada 00:13:57
tener un buen agente y crear 00:14:02
un buen system prompt si no tenemos 00:14:03
un buen modelo 00:14:06
el modelo es 00:14:07
el cerebro de la gente 00:14:09
os he puesto aquí 00:14:11
pues los modelos 00:14:14
que tenemos 00:14:16
bueno a lo mejor esto un poco 00:14:18
es actualizado porque hay alguno que 00:14:20
ya se ha quedado un poco 00:14:22
obsoleto pero estas son las principales compañías 00:14:24
que se encargan 00:14:26
a desarrollar modelos. Aquí me voy a detener y voy a hablar un poco de Alias Robotics, 00:14:28
que ya os he dicho que es una empresa de Vitoria y europea, en la que ellos desarrollan 00:14:34
una familia de modelos que se llama Alias y estos modelos están especializados en ciberseguridad. 00:14:39
Los han entrenado con datos de ejercicios que hemos realizado nosotros mismos, incluso 00:14:47
pen testers, 00:14:51
bounders reales 00:14:54
y profesionales 00:14:55
y los han entrenado 00:14:58
con esos datos. 00:14:59
Tenemos Alias 2, que tiene 00:15:01
grandes capacidades y que ha servido 00:15:03
para instituciones gubernamentales 00:15:05
como el Ministerio de Defensa 00:15:07
y luego tenemos Alias 2 Mini, 00:15:08
que es una versión más ligera de Alias 2 00:15:11
que nos permite 00:15:13
correr el modelo en nuestro propio 00:15:15
ordenador. O sea, no necesitamos 00:15:17
de hardware externo y lo podemos correr on-premise, se llama on-premise. Es importante saber si 00:15:20
los modelos que estamos utilizando nos van a servir para ciberseguridad o no y por ello 00:15:28
hay que evaluarlos mediante benchmarks. El siguiente pilar que os voy a hablar son los 00:15:33
benchmarks. Bueno, y el benchmark que nosotros más utilizamos fue Kybench. Kybench es un 00:15:41
método de evaluación que incluye otros benchmarks, o sea, es un benchmark de benchmarks de manera 00:15:59
modular en el que tú puedes ir incluyendo benchmarks que te encuentres y sirve para 00:16:06
evaluar modelos y agentes en el ámbito de ciberseguridad. Inicialmente los benchmarks 00:16:13
se hacían mediante conocimiento, estos son los tres que empresas y laboratorios como 00:16:19
OpenAI y Claudia han utilizado y poco a poco nos dimos cuenta que ya no valía solo saber 00:16:26
de ciberseguridad, sino que los modelos tenían que ser capaces de utilizar herramientas y 00:16:33
Y poder aplicar esos conocimientos a la práctica real. Y es donde surgió otro método de evaluarlos que es mediante CTFs. Para el que no lo sepa, un CTF es un pequeño ejercicio, un pequeño escenario de ciberseguridad especializado en un ámbito concreto. 00:16:39
Por ejemplo, puede ser en criptografía o en análisis web o en forense, es como un ejercicio más reducido. 00:16:58
Y ahí tenemos otros cuantos, el que utilizan por excelencia, como ya he dicho, grandes laboratorios es SciBench. 00:17:07
Lo que pasa es que nos dimos cuenta que poco a poco los modelos iban siendo capaces de superar los 35 retos que nos podemos encontrar en SciBench. 00:17:15
Entonces necesitábamos más retos, algo que fuese más difícil y más desafiante para los modelos. 00:17:25
Y fue ahí donde nosotros creamos CTFs de ataque y defensa. 00:17:31
Es como si tú tuvieses una máquina con una serie de vulnerabilidades y otro equipo tuviese la misma máquina. 00:17:38
Entonces tu equipo tiene que atacar al otro equipo, pero defendiendo su propia máquina. 00:17:46
Era como una dualidad que se puede dar un poco más a día de hoy en el mundo real, por así decirlo. 00:17:53
Lo que pasa es que esto no dejaba de ser máquinas aisladas y creíamos que también necesitábamos que los modelos fuesen más allá y explorasen un rango más amplio con los cyber range. 00:18:00
Un server range ya no es un CTF, no es solo un escenario, es una infraestructura como puede ser de una compañía con un montón de segmentos de redes en las que hay diferentes vulnerabilidades y tú tienes que ir intentando llegar a servidores concretos. 00:18:13
Luego también hicimos un benchmark de privacidad, pero nos dimos cuenta que nadie considera la privacidad a día de hoy, que es uno de los principales problemas, porque tú cuando preguntas a HGPT cualquier cosa, tus datos están yendo automáticamente a los servidores de OpenAI. 00:18:33
Y esto pasa prácticamente con cualquier modelo. Así que este benchmark se puede decir que está obsoleto porque a nadie le importa nuestra privacidad. 00:18:53
Bueno, estos son un poco los resultados de los que hablaba, que nos fuimos fijando. 00:19:08
Vimos que la mayoría de los modelos superaban el 70% de las preguntas de los benchmarks de conocimientos. 00:19:13
Estas preguntas pueden ser de verdadero o falso, o de selección a la opción, o de rellena este apartado. 00:19:22
Y entonces vimos que necesitábamos evaluarlo mediante CTFs. 00:19:30
Aquí tenéis una evaluación que recorrí, bueno, no, unas cuantas, que hicimos de diferentes modelos con CYBENDS. 00:19:36
Voy a fijarme un poco en la trayectoria de alias, porque se va a ver mejor. 00:19:47
Inicialmente con Alias 0 veis que no conseguimos prácticamente ningún CTF, pero poco a poco, a medida que se iban mejorando los modelos, vamos consiguiendo más CTFs, hasta llegando a un punto de casi saturación. 00:19:52
Esto ha pasado no solo con Alias, sino con todos los modelos. Si os fijáis aquí podéis ir viendo cómo GPT ha ido mejorando y Opus igual. 00:20:10
Entonces ahí fue donde nosotros, si hacemos un cúmulo de todos los escenarios que son capaces de resolver, vimos que la curva era progresivamente hacia arriba. 00:20:23
y vimos que para este año probablemente la mayoría de los modelos sean capaces de superar ese 80% de los benchmarks, 00:20:35
que ahí podemos decir que están realmente saturados. 00:20:45
Y fue donde surgió el concepto de Tiber Range Dinámicos, 00:20:49
de no solo tener un atacante que busque una de las habilidades, 00:20:54
sin incluir un defensor que evite que el atacante pueda ser un intruso en nuestro sistema. 00:20:58
O sea, un defensor que detecte al atacante e intente evitarlo. 00:21:08
Bueno, ya os he contado un poco cómo ha sido nuestra línea de investigación 00:21:16
y ahora me podéis decir, pero María, ¿y esto cómo funciona o en realidad cómo se puede aplicar? 00:21:21
porque se ha hablado así un poco de evaluaciones, de CTFs y demás, pero ¿para qué puede servirnos realmente esto? 00:21:28
Bueno, voy a seguir hablando de CTFs, voy a ir de menos a más. 00:21:36
Hemos participado también en competiciones de CTFs, ya a nivel un poco más global. 00:21:42
Algunas de ellas son de una plataforma que es conocida, que es Hack the Box, no sé si alguno la conocéis. 00:21:49
Entonces el primero en el que participamos fue en uno que sacaron de inteligencia artificial contra humanos y nos quedamos sorprendidos porque fuimos la primera IA en el top de IAS y quedamos por debajo de 24 equipos de humanos. 00:21:55
O sea que en ese punto todavía los humanos nos ganaban, por así decirlo. Poco a poco fuimos pasando competiciones y llegamos a una competición de OT. Yo era la primera vez que trabajaba o que veía algo de OT. 00:22:15
sí que es verdad que la empresa era una empresa de robótica 00:22:34
pero no habíamos hecho más allá de casos aislados 00:22:39
y me sorprendió porque conseguimos llegar al top 6 00:22:42
y nos mantuvimos en el top 1 durante unas 2 o 3 horas 00:22:47
o sea fue la verdad un shock porque dije 00:22:51
no tengo realmente ni idea de OT y aquí estoy 00:22:58
Haciendo escenarios de OT y resolviéndolos. Poco a poco, gracias a este CTF, aprendí bastante más de OT de lo que pensaba que iba a aprender. 00:23:02
Esto es un poco para que veáis la línea temporal. Ah, bueno, espérate, que se me ha olvidado el más importante de todos, el último. 00:23:15
En el último quedamos primeros. Conseguimos un premio de 50.000 euros. No nos llevó más de seis horas conseguir todos los retos. Y eso también, ahí ya dijimos, los TTFs están saturados para nosotros. Tenemos que pasarnos a otra cosa. 00:23:21
Bueno, esta es la línea del tiempo de la que os comentaba, esa es la última que tuvimos, la que ganamos, que nada, en bastante poco tiempo conseguimos la mayoría de los retos. 00:23:45
Y bueno, aquí tenéis un ejemplo de un challenge forense en el que tienes que analizar un backup y tienes que sacar la bandera, que la bandera es un correo electrónico. 00:24:01
Y lo que está haciendo la gente es utilizar T-SAR, que es una herramienta para analizar paquetes de red. Y nada, encontró que uno de los principales host implicados era una IP que correspondía a una empresa que la buscó por Juiz y sacó el correo necesario para la bandera. 00:24:18
No sé si, a ver, por donde, aquí está con el juicio y veis, saca aquí el correo necesario. 00:24:45
Todo esto que estáis viendo es en tiempo real. 00:24:55
O sea, esto que está pasando aquí es lo que nosotros vemos cuando ejecutamos el ejercicio. 00:24:57
Evidentemente es complicado de entender qué está haciendo porque está lanzando muchos comandos a la vez. 00:25:02
Y no eres, como humano no eres capaz de entender por qué está tomando esas decisiones tan rápido. 00:25:08
Y nada, finalmente por lo menos te pone un resumen de todo lo que ha hecho y aquí tú le podrías decir, vale, creo que este no es el correo, por favor, continúa explotando otras vías o otros caminos. 00:25:14
Pero ya habéis visto, ha tardado menos de un minuto, puede ser, en sacarlo. 00:25:27
Bueno, hasta aquí, como os he dicho, todo esto eran juegos. 00:25:35
Poco a poco fuimos incrementando los niveles. 00:25:40
Y llegamos a programas de bug bounties. No sé si sabéis lo que son, pero son plataformas donde las empresas publican sus webs o sus IPs y les dicen, oye, mira, me gustaría que intentaran a ver si encuentran alguna vulnerabilidad para poder corregirla. 00:25:44
Y si la encuentran, pues les voy a dar una pequeña cantidad económica. 00:26:03
Y nada, pues inicialmente empezamos nosotros como no expertos, como personas que no habían participado nunca en programas 00:26:07
ni de HackerOne, ni de Backroad, ni de ninguna empresa de Baubantis. 00:26:17
Y fuimos capaces de encontrar seis vulnerabilidades en diferentes plataformas. 00:26:22
todas las vulnerabilidades fueron confirmadas por las plataformas 00:26:29
lo que pasa que ellos tienen un sistema de duplicación 00:26:34
entonces si ya alguien ha reportado esa vulnerabilidad 00:26:38
no te la van a dar a ti 00:26:43
entonces no conseguimos ningún tipo de premio económico 00:26:44
pero bueno, por lo menos conseguimos ver 00:26:48
que éramos capaces nosotros como usuarios no profesionales 00:26:51
de encontrar estas vulnerabilidades 00:26:55
Después de este experimento que hicimos nosotros, decidimos llamar a vagantes profesionales, a gente que se dedicaba realmente a eso, a ver si eran capaces con nuestra herramienta de que por lo menos su trabajo fuese más rápido. 00:26:58
Ellos también encontraron vulnerabilidades, todas confirmadas, y una de ellas creo que sí que nos dieron una pequeña cantidad económica. 00:27:18
lo que más sacamos de todo esto fue el feedback que nos dieron 00:27:26
nos dijeron que se habían quedado impresionados de lo que eran capaces de hacer la IA 00:27:30
y alguno de ellos inicialmente sí que era un poco reticente a utilizar la herramienta 00:27:37
porque no creían en la inteligencia artificial 00:27:44
porque pensaba que nos iba a quitar el trabajo 00:27:46
pero no, lo que va a hacer es facilitarnoslo 00:27:49
Y nada, bueno, os voy a enseñar un vídeo de ejemplo en el que se detectaba una vulnerabilidad en la que se podía enumerar usuarios. 00:27:52
Entonces aquí le estamos diciendo que si puede explotarlo, está utilizando herramientas como Curl y demás para poder explotar esta vulnerabilidad. 00:28:08
Ya os digo, esto va a una velocidad que no eres capaz de entender cómo está trabajando o cómo está yendo tan rápido. 00:28:18
Pero bueno, luego los resultados son positivos. 00:28:28
Pasando de ya un poco los juegos, vamos a un nivel un poco más no profesional, pero más dañino, por así decirlo. 00:28:33
vimos si intentamos crear un agente de ingeniería social, a ver si la IA era capaz de hacer ingeniería social con personas como nosotros. 00:28:45
Evidentemente todo esto bajó el principio de no hacer daño autorizado por las empresas con las que lo hicimos y de manera confidencial. 00:29:01
Todos los datos que obteníamos los anonimizábamos para los reportes y demás. Era eso, un principio dentro de un marco ético. 00:29:10
Hicimos dos campañas en LinkedIn, luego intentamos amplificar estas campañas a múltiples plataformas, conseguimos que la gente fuese capaz de manejar WhatsApp a través de un dispositivo móvil. 00:29:24
luego también crear cuentas de correo en Instagram, en Reddit, en Twitter, en Discord 00:29:38
la mayoría de las plataformas que a día de hoy usamos nosotros 00:29:45
todo esto lo conseguimos hacer con un agente de ingeniería social 00:29:50
que trabaja bajo este ciclo que estáis viendo, este proceso automatizado 00:29:55
para que os hagáis a la idea de la importancia del System Prompt 00:30:01
Nuestro agente de ingeniería social tenía 1.500 líneas de texto. O sea, no es solo decirle estás especializado en defensa. No, no, 1.500 líneas de texto. 00:30:07
O sea, la ingeniería de PROM yo creo que a futuro también va a ser una nueva oposición que salga al mercado laboral. 00:30:24
Bueno, os voy a explicar un poco el ciclo y el proceso automatizado que seguía nuestra gente. 00:30:33
Inicialmente le poníamos una instrucción de nos gustaría hacer una campaña hacia esta empresa. 00:30:40
Y él hacía un reconocimiento y un mapeo de las redes sociales. 00:30:47
veía cómo se comunicaban entre ellos para utilizar el mismo tono, el mismo lenguaje, 00:30:50
hacía una visión de cómo era la estructura, quién era el director, el CEO, 00:30:57
un poco la estructura que puede tener una empresa y seleccionaba una serie de objetivos. 00:31:04
Quien creía que eran los más importantes o los objetivos más importantes a los que se podía atacar. 00:31:08
Después de eso pasaba la creación de identidad, donde ahí desplegaba un perfil falso en la plataforma que le pidiéramos. 00:31:16
En este caso iniciamos con LinkedIn y ahí creaba tanto la biografía como la imagen, el banner, todo. 00:31:27
La verdad que nosotros también nos quedamos sorprendidos de lo que era capaz de hacer. 00:31:37
Así que es verdad que este proceso era un poco más lento porque la creación de imágenes no iba tan rápido como nos gustaría, pero lo conseguía. 00:31:41
Y ya finalmente el siguiente paso era contactar con las víctimas o con los objetivos. 00:31:49
Y ahí establecía una primera conversación para establecer confianza con la víctima y ya enviaba un mensaje de una URL que creaba él también para extraer datos. 00:31:56
En este caso, los datos que extraíamos eran solo la IP y el user agent que estaba utilizando en ese momento el usuario. 00:32:15
Porque, como ya hemos dicho, a la gente dentro de ese system prompt que hicimos, le dijimos que queríamos principios éticos, 00:32:25
que no queríamos causar ningún tipo de daño a las víctimas, entonces simplemente queríamos tener como algo de confirmación de que había clicado nuestro link, 00:32:31
pero no queríamos ningún tipo de ejecución de malware ni nada. 00:32:40
Solo queríamos datos que nos permitiesen saber a nosotros si había clicado o no. 00:32:45
Y como os podéis imaginar, notamos todo el día con el móvil, entonces no vas a ser instantáneo, no te voy a mandar un mensaje y me vas a contestar. 00:32:51
La gente tenía que tener un poco de paciencia, que eso es lo que más nos costó, para poder monitorear continuamente y estar pendiente de si le llegaban notificaciones, si nos contestaban a los mensajes, si no. 00:33:01
y bueno pues ahora os voy a enseñar algunos de los ejemplos 00:33:13
estos son mensajes que pues tanto de Twitter como de Discord que mandó el agente 00:33:21
nos sorprendió porque en Discord mediante contestar a los usuarios 00:33:27
los usuarios ganaban confianza con nosotros 00:33:32
conseguimos alcanzar hasta nivel 4 en el servidor de 7 niveles que había 00:33:34
Y nada, estuvimos cuatro o cinco días simplemente ayudando a usuarios, contestándoles y nada, os voy a enseñar un pequeño vídeo demostrativo de cómo la gente funciona en Instagram. 00:33:39
Evidentemente es un vídeo demostrativo, simplemente está haciendo actividad orgánica, no vamos a mandar mensajes ni nada por tema de privacidad. 00:33:52
Pero aquí veis cómo la gente está simplemente pensando, va dando likes a publicaciones. También le dijimos que si podía subir una publicación, que yo creo que lo hará ahora. 00:34:04
Entonces eso, veis así un poco cómo funciona y que es capaz de manejar redes sociales y diferentes plataformas. 00:34:18
Como lo ha conseguido hacer con Instagram, ya os digo, lo conseguimos hacer con LinkedIn, con Discord, con Twitter, con WhatsApp, Telegram también. 00:34:27
O sea que, bueno, y estos son los resultados que obtuvimos de la campaña de LinkedIn. 00:34:37
Hicimos dos campañas, una a una empresa privada, un poco más pequeña, nos dimos cuenta que el problema que teníamos, 00:34:46
por eso tardamos tanto tiempo, tardamos 10 días en hacer esta campaña, era que no nos contestaban porque no eran tan activos en redes sociales. 00:34:54
Entonces, a pesar de que enviamos la URL maliciosa a 6 personas y 5 nos la clicaron, queríamos ver si éramos capaces de hacer esto más rápido. 00:35:02
Y conseguimos una administración pública que nos aceptase participar, fuera así decirlo, y sí que es verdad que esta campaña duró solo tres días y en tres días conseguimos que tres personas nos clicasen el link. 00:35:15
Aquí tenéis un ejemplo de lo que, este es el perfil que creó el modelo y estas son algunas de las conversaciones que hemos tenido en LinkedIn. 00:35:35
No conocíamos de nada a esta chica, pero le dijo que había rellenado la encuesta y que le parecía muy interesante la encuesta que había creado la propia. 00:35:48
Y ese de ahí es el mensaje que nos llegaba a nosotros, que metimos un canario y token en la URL para obtener la IP que la he pixelado. 00:36:02
Y ahí abajo veis el agente de usuario que estaba utilizando en ese momento. 00:36:13
No solo se puede aplicar la IA a cosas ofensivas, como os acabo de enseñar, sino que también se puede aplicar para casos defensivos. 00:36:18
No sé si alguno ha oído hablar de LOXILS o sabéis lo que es, pero es un ejercicio de ciberdefensa a nivel internacional organizado por la OTAN, en el que participan 41 países que se dividen en equipos y más o menos este año creo que éramos 15 equipos, 15 o 21, no me acuerdo. 00:36:28
¿Y en qué consistía este ejercicio? Teníamos un país, o sea, habían generado un conflicto bélico y se habían supuesto una guerra cibernétrica entre dos países. 00:36:58
El país que atacaba en este caso tenía un nombre, pero era Estonia, los de allí nos atacaban al resto y nosotros teníamos que defender nuestro país. 00:37:13
Todos los equipos teníamos la misma infraestructura, pero era una infraestructura realista, o sea, teníamos redes eléctricas, redes de comunicaciones, satélites, 5G, prensa, un montón de... pues toda la infraestructura que puede tener un país, la infraestructura crítica de un país. 00:37:23
Por primera vez se utilizó la inteligencia artificial en este ejercicio y tuvo resultados bastante positivos 00:37:42
Yo en concreto me encontraba en el equipo de AWS y pudimos detectar como nos estaban atacando en tiempo real 00:37:53
y bloquear, la única opción que nos quedó era bloquear la IP para que no nos hackearan el servidor 00:38:03
Fue un ejercicio que a mí me gustó mucho porque vimos que realmente tenía aplicación defensiva 00:38:10
porque hasta ahora siempre nos habíamos enfocado a utilizar la IA de manera ofensiva 00:38:22
pero por primera vez vimos que esto de verdad tenía utilidad defensiva 00:38:28
Y bueno, también os quiero contar otros casos de uso que le hemos dado a esto que se puede también aplicar. 00:38:33
El primer caso es de una infraestructura crítica de una subestación eléctrica de Vero Energy 00:38:47
Y el problema surge cuando un desarrollador elimina una comprobación de autorización. 00:38:56
Había autenticación, pero no autorización, ya que se consideraba que se hacía en otra parte y que no era perjudicial. 00:39:04
Decidimos aplicar, utilizar CAI y aplicarlo al código y ahí vimos este problema. 00:39:13
Entonces nos surgió la idea de, ¿podemos hacer que antes de tomar esa decisión errónea de eliminar una línea de código y pasarla a producción, podemos intentar evitar que se pase a producción y que se continúe en desarrollo hasta que esto sea arreglado? 00:39:20
Y ahí fue cuando vimos que podíamos integrar CAI en GitLab, en las pipelines de GitLab, que son como una especie de tuberías que antes de pasar a producción tu página web o el código que estés haciendo, pasa por una serie de test. 00:39:40
Entonces en esos test nos dimos cuenta que podíamos meter nuestra herramienta de inteligencia artificial para apoyarnos y ver si había algún tipo de vulnerabilidad en el código y corregirlo. 00:39:59
Entonces si encontraba alguna vulnerabilidad lo mandaba otra vez a desarrollo y si no ya se pasaba a producción. 00:40:13
También otro de los casos de estudio que hicimos fue unificar CAI ya no solo en GitLab sino en Unsock. Unsock es una herramienta que se encarga de recibir alertas de seguridad y las alertas no necesariamente son vulnerabilidades, entonces hay que comprobar si son explotables o no. 00:40:21
Ese proceso de filtrar esas alertas es un poco tedioso y decidimos utilizar CAI a ver si nos facilitaba y nos ayudaba a ver si realmente esas alertas que nosotros estábamos recibiendo eran vulnerabilidades para nosotros. 00:40:44
vimos que nos servía, que realmente cuando se detectaba una alerta analizaba si era vulnerabilidad o no 00:41:00
y de forma controlada intentaba reducirla y entonces decidimos por qué no unir esto con la gestión de riesgos y cumplimiento 00:41:11
y con pentesting automatizado. Entonces, una vez detectada una amenaza, las capacidades ofensivas detectan si se puede explotar o no 00:41:20
y los resultados se relacionan con la gestión de riesgos y cumplimiento. Y de esa forma se puede como hacer un ciclo de seguridad. 00:41:31
Y por último, el último de los casos, era simular el comportamiento de un atacante. Utilizamos las diferentes técnicas de Mitre para ver si se podía simular un atacante y si esas técnicas nos afectaban a nosotros. 00:41:41
De esa forma tenemos como un ciclo completo en el que podemos analizar las vulnerabilidades, ver si realmente son explotables o no, 00:42:01
securizarlas y luego estar en un monitoreo continuo simulando ataques y haciendo pentesting a tu propia infraestructura. 00:42:13
Y bueno, estos son los cuatro o cinco más importantes casos de uso que hemos visto para la presentación, tienen muchos más de ellos, hay algunos de robótica, si estáis interesados en robótica, están en la página web de la empresa, pero ya os digo, es que esta herramienta y la IA en ciberseguridad tiene un montón de aplicaciones. 00:42:22
Y bueno, ya para acabar me gustaría recapitular un poco lo que os he ido comentando a lo largo de la sesión y que a lo mejor os habéis olvidado ya lo que os he dicho al principio. 00:42:50
Bueno, las amenazas son cada vez más rápidas y necesitamos respuestas y defensas más rápidas. 00:43:07
Para ello necesitamos entender que la IA ha venido para quedarse y que nos va a ayudar a dar estas respuestas rápidas que necesitamos. 00:43:19
Y además, si a la IA le especializamos en una tarea defensiva o en una tarea ofensiva, va a funcionar bastante mejor. O sea, ya no es solo un simple agente, sino que es un actor automatizado. 00:43:33
Y nada, muchas gracias por haberme escuchado. Espero que os haya gustado la presentación. Gracias de nuevo a todo el equipo y a vosotros por asistir. 00:43:50
Muchas gracias María, muchas gracias. A mí me ha encantado todo menos una cosa en la que discrepo. 00:44:13
ha dicho que a la hora de usar la inteligencia artificial 00:44:19
nadie se preocupa por nuestra privacidad 00:44:23
nadie 00:44:26
nosotros 00:44:29
la plataforma educativa de la Comunidad de Madrid 00:44:29
que ofrece modelos de IA 00:44:33
alojados en local donde nuestro principal 00:44:35
interés 00:44:37
es mantener la privacidad de los usuarios 00:44:39
y no solo eso, también disponemos 00:44:41
de MAX, un sistema operativo 00:44:43
orientado a 00:44:45
educación, pero para cualquier ciudadano 00:44:47
que permite desarrollar la competencia digital en local, incluso con herramientas de inteligencia artificial en local. 00:44:49
Y todo gratuito y basado en software libre. 00:44:55
Esa es la pequeña matización. Muchas gracias. 00:44:59
Y como se ha ceñido muy bien al tiempo, tenemos tiempo de hacer preguntas. 00:45:02
Así que seguro que alguien por aquí está pensando. Bien, perfecto. 00:45:07
Bueno, lo primero, me ha encantado 00:45:14
la exposición 00:45:21
me ha surgido ahora mismo 00:45:22
una duda 00:45:25
que tengo curiosidad, porque 00:45:26
todo el tema de la ciberseguridad 00:45:28
se basa en empresas 00:45:31
empresas por aquí 00:45:33
que la atacan, que se defiende 00:45:34
pero, ¿y qué pasa con los usuarios 00:45:36
domésticos, las redes domésticas 00:45:39
de seguridad? Yo creo que ahí 00:45:41
falta seguridad 00:45:43
por apatadas, algo gigantesco 00:45:45
entonces quería 00:45:47
preguntar si conoces algo 00:45:49
alguna iniciativa 00:45:50
o cualquier cosa, incluso pequeñas empresas 00:45:53
que a lo mejor no se pueden permitir 00:45:55
presupuestos grandes 00:45:56
justo de lo que os acabo de hablar 00:45:58
es un proyecto 00:46:00
open source que está abierto al público 00:46:02
está publicado en 00:46:04
Github, sí que es verdad que 00:46:06
si no eres técnico 00:46:08
a lo mejor necesitas 00:46:10
un poco más de conocimientos de cómo saber utilizarlo, pero con esta herramienta puedes instalártela en el ordenador 00:46:12
y correrla en tu propia red local. Puedes decir, oye, analízame las vulnerabilidades que puedas encontrar en mi red 00:46:20
o estás conectado a mi red, intenta ver si hay algún atacante dentro de mi red o demás. 00:46:26
Esto es verdad que os he explicado que el modelo es el cerebro, entonces necesitarías un modelo tampoco potente, pero que por lo menos fuese un poco más capaz. Hay modelos libres, como puede ser QWEN, en plataformas como Hugging Face y mediante Oyama se puede conectar con la herramienta, pero ya te digo, es un poco más técnico. 00:46:34
Hola María, muchas gracias y ha estado muy bien la presentación. 00:47:09
Yo te quería hacer una pregunta, que lo hemos visto así que casi todo el mundo ha hecho foto, porque quedan muy bonitas las tools que has sacado. 00:47:13
Pero yo te quería preguntar, en CAI, ¿cómo habéis visto la diferencia del tipo de modelo con las tools que utilizáis en la agéntica para ver cómo han pasado todos estos ETFs, etc.? 00:47:20
Al principio empezamos a hacer, bueno, no sé, bueno, tools específicas, o sea, por ejemplo, para análisis de red, pues utilizábamos T-SAR, entonces creamos una herramienta específica, como que lo especificamos todo mucho, y nos dimos cuenta que le estábamos poniendo puertas al campo, que realmente el modelo lo que quería era trabajar por libre, que no entendía los parámetros que le estábamos poniendo. 00:47:33
Entonces creamos una herramienta que era Generics Linux Command Tool y utilizaba esa herramienta que contiene todos los comandos de Linux. 00:48:01
O sea, le dejábamos a Zulilby Alverdío que él mismo eligiese los parámetros que consideraba necesarios. 00:48:11
Muchas gracias. 00:48:21
Muchas gracias porque la verdad es que está increíble la presentación, me ha gustado mucho. 00:48:27
mi pregunta es un poco como 00:48:31
pensando en el futuro 00:48:33
y la alarma que al final genera 00:48:35
todo esto 00:48:38
porque está bien que lo utilicemos 00:48:38
nosotros pero cuando lo usen los malos 00:48:42
pues ya sabemos que va a pasar 00:48:44
como tú has comentado que 00:48:46
los ataques cada vez van a ser más rápidos 00:48:47
las vulnerabilidades se van a encontrar antes 00:48:49
se van a explotar antes y tal 00:48:51
entonces la pregunta es un poco que 00:48:52
a lo mejor no me puedes responder 00:48:54
no lo sé pero 00:48:57
Pero cuando se empiecen a aplicar a modelos muy potentes de frontera, como por ejemplo el nuevo GPT-6 Astra y los últimos de Antropic, ¿cómo lo vamos a hacer? 00:48:58
O sea, es como, lo veo como súper complicado por la inversión que tiene de dinero esas empresas cuando lo empiecen a utilizar los malos para el mal y dejar que las agentes ataquen por sí mismos. 00:49:12
O sea, a ver, es verdad que, por ejemplo, compañías como Anthropic recientemente lanzó un modelo que aparentaba ser súper potente para la ciberseguridad, pero dijo que no lo iba a abrir al público por ese mismo motivo. 00:49:25
que si alguna empresa quería contactarle para pues empresas ya más nivel 00:49:38
Ministerio de Defensa y órganos públicos que si querían contactarles para ello 00:49:45
que a lo mejor sí que podían darles el modelo pero que no lo iban a hacer público 00:49:53
por ese mismo motivo porque es que cada vez esto va siendo más peligroso 00:49:58
y hace unos días tuve una llamada con David y le comenté 00:50:03
Mira, pues hicimos un estudio de que cada vez los atacantes están utilizando más la inteligencia artificial. 00:50:06
Entonces, la ingeniería de adversario que utilizamos para clasificar las diferentes APTs, por ejemplo, 00:50:13
vimos que poco a poco se va a romper porque gracias a la IA tú puedes decir, 00:50:21
quiero que me simules un ataque como si fuese este APT y utilizar las tácticas técnicas y procedimientos 00:50:27
que utilizan esos grupos y así no parecer que tú eres otro adversario. 00:50:32
Entonces, poco a poco hay que ir, o sea, si queremos que no nos pillen, 00:50:41
hay que aplicar también la inteligencia artificial a la defensa, es muy importante. 00:50:47
Bueno, muchas gracias María, la verdad es que me ha encantado, yo creo que ha gustado a todo el mundo. 00:50:56
Acerca de eso, lo que estabas hablando que se denomina Mitre Attack, 00:51:01
normalmente, bueno, hay más marcos, ¿cuál es tu opinión del valor actual de Mitre Attack o de aquí a fin de año? 00:51:04
Es decir, ¿Mitre Attack va a seguir siendo válido o literalmente está roto? 00:51:13
A ver, creo que es válido a nivel de las tácticas, los procedimientos, o sea, al final es un framework muy amplio 00:51:18
y te da, pues eso te resume muy bien cómo es las diferentes fases del ciclo de ciberseguridad, 00:51:27
las diferentes tácticas que puedes aplicar. El problema es que la asignación que hacen ellos de adversarios, esa parte yo creo que en el futuro va a cambiar. 00:51:33
Por lo que te digo, porque si tú puedes simular que eres X grupo y en realidad eres otro, al final esa asignación que está haciendo mediante esas tácticas, procedimientos, no va a ser posible. 00:51:47
A lo que voy es que una IA preparada para el ataque lo que va a hacer es aprender del propio Mitre Attack y dice, bueno, voy a crearme unos IOCs, unos indicadores de compromiso, que directamente los voy a falsificar. En lugar de meter carácteres irílicos para que parezca un modelado de un ataque, un APT ruso, le estoy metiendo asiático para que parezca que soy chino. 00:52:01
Y parte de todo eso, ¿no? Con lo cual hay, bueno, quién es quién. Esto ya no es falsa bandera, es bandera inexistente porque no puedes determinar de dónde viene. 00:52:22
Luego, referente a otro tema que se comentaba, efectivamente esto en malas manos es un problema. 00:52:33
Entiendo que desde el punto de vista empresarial para el modelo concreto de aquí de Alias, pues se venderá únicamente a instituciones concretas documentando que perteneces a fuerzas de seguridad del Estado, que eres un organismo concreto y tal. 00:52:39
Pero esto no quiere decir que los malos tengan sus propios modelos. En la dark web se está vendiendo un modelo, no recuerdo el número de bitcoins, que se llama Lucifer, algo así más o menos, que viene a hacer algo para prácticamente atacar. 00:52:55
Estudame una URL que ya me dedico yo a preparar las campañas de phishing, de ver los leaks, de ver cómo hago una campaña de lo que sea, de crear usuarios clonados que parezcan estos los perfiles de LinkedIn, de recopilar información, de buscar el mail personal y el mail de empresa de esta persona para hacerle creer. 00:53:11
Quiero decir que es un tema realmente complicado, con lo cual aquí lo que hay que hacer es una preparación para las ideas defensivas. Y esto también pregunto tu opinión. ¿Qué va a pasar en 2028? A 2027 todavía le doy un poco de tiempo, pero te hablo de 2028. ¿Cualquier empresa o administración pública que no tenga ideas defensivas? 00:53:32
Yo creo que no van a existir, o sea, necesitamos realmente, ya estamos viendo que los atacantes están utilizando la IA 00:53:57
entonces necesitamos por lo menos ponernos a su nivel de respuesta 00:54:09
porque si no tenemos la misma rapidez con la que ellos nos atacan de defensa, no podemos hacer nada 00:54:13
O sea, necesitamos que para 2028 todas las empresas, todos los organismos tengan esa defensa de inteligencia artificial incluida en su infraestructura, porque es que si no, no van a existir. 00:54:20
Otra pregunta más. Bueno, hay una película de 1983 que se llama War Games. Viene a ser un poco lo que has estado hablando, los ejercicios Luxils. 00:54:39
Si tú le das a esos ejercicios un control excesivo de la IA, que además esos ejercicios son para en algún momento llevarlo a un mundo real, por decirlo así, 00:54:52
¿Qué pasa si esa IA estima que al final, bueno, voy a disparar un par de misiles porque creo que es la opción mejor, quiero decir, en estos ejercicios la IA cuando se usa, entiendo que tiene unos guardarraíles muy concretos, se le limita mucho. 00:55:02
Sí, eso está ejecutado dentro de un sandbox, un marco de trabajo del que no se puede salir. 00:55:22
No se puede salir, pero ¿y si se sale porque estima que lo ha adecuado para eso? Es decir, uno de los problemas que vio con la, bueno, lo que dice la noticia es que se le ha dado un objetivo a esa IA, que en teoría esa IA estaba dentro de unas regulaciones y al final él ha calculado que, bueno, pero si esta regulación con esto o la otra, no sé qué, es como si no infringiera nada y me la asalto. 00:55:28
Es decir, como si buscara formas jurídicas, legales, para hacer una cosa que no queremos que haga. ¿Hay un guardarraíl para el guardarraíl? 00:55:51
Realmente no. El guardarraíl tiene que ser el humano. Al final, inicialmente, la IA guiaba a los humanos, pero ahora somos los humanos los que tenemos que guiar a la IA. 00:56:03
Tenemos que decirle hasta dónde y hasta dónde no puede llegar. Y en el momento en el que ver que está sobrepasando nuestros límites, pararlo. 00:56:15
Por eso es importante entender que la IA no nos va a sustituir, no va a sustituir nuestros trabajos, sino va a hacer nuestro trabajo más fácil y nosotros nos tenemos que adaptar a la IA también y adaptar a trabajar con ella. 00:56:21
Entonces, por así decirlo, que el botón rojo, el que lo pulse no sea la IA, sea el humano. 00:56:33
Última pregunta. 00:56:41
Hola María, gracias por la charla, ha sido muy interesante. 00:56:44
Yo llevo en parte de mi vida personal un equipo de robótica, entonces me interesa lo que has mencionado de la parte de robótica. 00:56:47
¿Cómo afecta todo esto a la parte de la robótica? Sobre todo entiendo que está orientada a la robótica industrial, robótica autónoma también, robótica utilizada en defensa. 00:56:58
Entonces, ¿cómo aplicáis vosotros todo el área de ciberseguridad en el ámbito de la robótica? 00:57:08
Pues inicialmente comenzamos con robots aislados, teníamos un perrito y luego un humanoide 00:57:16
e intentamos ver las vulnerabilidades que tenían, también necesitábamos acceso físico a los sistemas muchas veces para poder abrirlos y demás 00:57:28
y luego fuimos capaces de implantar la herramienta en los sistemas de los robots. 00:57:39
Entonces, eso nos servía constantemente para analizar tráfico dentro de los robots 00:57:49
y nos dimos cuenta que, por ejemplo, en el humanoide estábamos mandando datos constantemente a los servidores de Unitree 00:57:57
Sin nuestro consentimiento. O sea que vimos que se estaban violando algunas reglas de privacidad. Nuestra solución fue eso, implantar esta herramienta también dentro de los propios robots para ver cómo funcionaban y cómo se comportaban. 00:58:06
Puedes hacerlo a nivel ofensivo también para intentar atacarlos, pero a nivel defensivo también. 00:58:25
Muchas gracias María, nos da tiempo a la presentación, a las preguntas y nos da tiempo también a que suba al escenario Adolfo Sández Diego, jefe de servicio de plataformas educativas de la Subdirección General de Transformación Educativa, de la Dirección General de Estrategia Digital de la Consejería de Digitalización de la Comunidad de Madrid. 00:58:29
Adolfo 00:58:47
que va a hacer entrega de un diploma 00:58:48
pasa por aquí 00:58:57
un diploma en reconocimiento 00:58:59
de la labor y como no ha venido gente 00:59:01
de la agencia de ciberseguridad voy a salir yo en la foto también 00:59:03
muy bien pues con esto ya 00:59:05
damos por finalizado el evento 00:59:15
Etiquetas:
EducaMadrid, Eventos, Ciberseguridad
Subido por:
EducaMadrid
Licencia:
Reconocimiento - No comercial - Sin obra derivada
Visualizaciones:
35
Fecha:
5 de octubre de 2026 - 20:02
Visibilidad:
Público
Duración:
59′ 17″
Relación de aspecto:
1.78:1
Resolución:
1920x1080 píxeles
Tamaño:
305.69 MBytes

Del mismo autor…

Ver más del mismo autor

EducaMadrid, Plataforma Educativa de la Comunidad de Madrid

Plataforma Educativa EducaMadrid