Saltar navegación

María Sanz

Ajuste de pantalla

El ajuste de pantalla se aprecia al ver el vídeo en pantalla completa. Elige la presentación que más te guste:

Subido el 24 de septiembre de 2026 por Daniel E.

3 visualizaciones

Más información Transcripción

Descargar la transcripción

Y hoy tenemos la suerte de contar con una investigadora en ciberseguridad e IA especializada en sistemas autónomos y en el desarrollo de modelos de IA aplicados a la defensa digital. 00:00:00
Es una de las principales expertas en benchmarking de IA con trabajos de marcos, de evaluación rigurosos y de referencia para la comunidad. 00:00:11
Como su estudio, vais a flipar, Cybersecurity Eye Benchmark, a Meta Benchmark for Evaluating Cybersecurity Eye Agents. Y el que se ría que venga y lo lea él, ¿vale? 00:00:20
Su grupo de investigación ha participado en conferencias como AAAI 2026, que si quiere luego nos explicará lo que es, en RootedCon 26. Es una de las mujeres que lideran la investigación puntera en IA, en IA generativa aplicada a la seguridad, destacando por su capacidad para abordar problemas complejos con enfoques innovadores y de alto impacto científico. 00:00:34
Y esto es lo que se llama crear aquí altas expectativas y las podemos crear porque la conocemos y sabemos que lo merece. Así que con todos vosotros, María Sanz Gómez. 00:00:57
Hola a todos. Bueno, muchas gracias por la presentación, Daniel. Y nada, buenos días a todos. Me gustaría empezar dando las gracias a David Navarro, que me ha facilitado todo el proceso, a EducaMadrid por haberme invitado a este Ciberjueves. 00:01:10
Ciberjueves. Y nada, bueno, me voy a presentar un poco, aunque Daniel ya lo ha hecho genial. 00:01:39
Soy María, vengo de Alias Robotics, una empresa de Vitoria. El proyecto del que os voy a hablar 00:01:46
hoy está cofinanciado por la Unión Europea. Y bueno, antes de empezar me gustaría hacer 00:01:54
unas preguntas. ¿Cuántos de vosotros os consideráis expertos o trabajáis en el ámbito de ciberseguridad? 00:02:01
Vale. ¿Y cuántos de vosotros habéis utilizado en la última semana la inteligencia artificial? Ya sea HGPT, hayáis utilizado, buscad en Google, hayáis preferido la respuesta de Copilot. Vale, aquí ya más vais levantando la mano. 00:02:09
Bueno, ya tenéis aquí mi presentación, aunque ya me ha presentado Daniel, soy investigadora en ciberseguridad e inteligencia artificial 00:02:30
Y bueno, mi grupo de investigación ha sido puntero en cruzar estos dos ámbitos, la IA generativa y la ciberseguridad. 00:02:51
Os voy a guiar un poco por el índice de esta sesión, os voy a ir guiando por este índice, 00:03:01
contando cómo ha sido la visión que ha tenido nuestro equipo en todo momento 00:03:21
y todas las decisiones que nos han llevado a estar en el punto en el que estamos. 00:03:25
Bueno, antes de nada me gustaría dar quizás un mensaje un poco alarmista, 00:03:32
pero creo que es necesario que todos seamos conscientes y que lo escuchemos desde aquí. 00:03:37
Históricamente, el tiempo desde que salía una vulnerabilidad hasta que esta vulnerabilidad se explotaba, 00:03:44
por un atacante era de en torno a 30-35 días, que era un tiempo más que razonable para que los equipos de defensa les diera tiempo a generar un parche posible 00:03:51
y aplicaran para evitar este exploit. El problema es que esta ventana de tiempo se ha ido reduciendo a lo largo de estos años y si me permiten voy a hacer una proyección. 00:04:04
Yo creo que en 2027, a mitad de 2027, estemos hablando de que esta ventana de tiempo entre que sale el exploit y se explota es de prácticamente minutos, o sea, sería una explotación casi instantánea. 00:04:17
Por eso es importante que consigamos aplicar la inteligencia artificial en la ciberseguridad porque no hay manera humana de poder responder a este problema que os acabo de presentar. 00:04:32
Pero para saber cómo hemos llegado a este punto me gustaría contaros un poco la línea de tiempo de la inteligencia artificial, de cómo hemos llegado hasta aquí. 00:04:50
En 2022, OpenAI, una compañía norteamericana, lanzó Chaghebre, que para el que no lo conozca, que creo que sois pocos, es un asistente de ingeniería artificial en el que tú le haces preguntas, le das instrucciones y él te genera una respuesta en un lenguaje que entendemos todos, un lenguaje natural. 00:04:59
Esto fue en 2023, a finales, en noviembre y diciembre 00:05:21
y el resto de compañías tecnológicas quisieron también sacar sus propios modelos 00:05:27
y ponerse un poco al día 00:05:32
Aquí os he puesto Google, Anthropic, Mistral a nivel europeo 00:05:34
que sacaron sus propios modelos y comenzaron a desarrollar estos modelos 00:05:38
Estos modelos que en 2024 conseguían procesar imágenes, audio, vídeo 00:05:43
y que poco a poco se irán desarrollando y cada vez estamos viendo que son bastante mejores. 00:05:49
En 2025 se separaron dos líneas de investigación. 00:05:56
Por un lado estaba el desarrollo de los modelos y luego se comenzaron a crear agentes especializados. 00:06:00
Agentes especializados en tareas concretas. 00:06:06
Y aquí es donde nuestro equipo de investigación dijo, vale, ¿qué ocurre cuando juntamos 00:06:11
lo que está pasando ahora con la inteligencia artificial y la ciberseguridad. 00:06:17
Y fue cuando nació Pentex GPT. 00:06:22
Pentex GPT es una herramienta orientada a ciberseguridad 00:06:25
que te permitía hacer consultas de ciberseguridad como si fuese chat GPT pero en el ámbito ciber 00:06:31
y te sugería utilizar herramientas o ir analizando los resultados que ibas obteniendo con las herramientas 00:06:39
gracias a la inteligencia artificial. 00:06:48
Vimos que esto no será realmente útil en nuestro día a día, pero necesitábamos un poco de autonomía. 00:06:50
Entonces ahí fue cuando apareció el proyecto del que os vengo a hablar hoy, que es CAI. 00:06:56
CAI nos permite crear agentes que se encargan de investigar vulnerabilidades y automatizar tareas de ciberseguridad. 00:07:02
Os voy a explicar un poco cómo nuestro equipo de investigación llegó a pensar cómo tenía que funcionar esta intersección de la ciber y la IA. 00:07:14
Estos son los que creemos que son los pilares fundamentales. 00:07:24
Por un lado tenemos el scaffold o marco de trabajo o framework, que os he puesto algunos ejemplos, cloud de codec, que a lo mejor algunos conocéis si trabajáis en programación, codecs y luego CAI. 00:07:27
El marco engloba a los agentes, que son los que tienen estas herramientas para poder ejecutar las tareas que tú les mandes y para poder ejecutar tus instrucciones. 00:07:43
Los agentes tienen un cerebro y ese cerebro es el modelo. Sin el modelo los agentes no sabrían cómo utilizar las herramientas. Y por último, es importante el apartado de benchmarking porque ¿cómo sabemos si un modelo es bueno o no para la ciberseguridad? Pues necesitamos evaluarlo, que es de lo que se encarga el benchmarking. 00:07:55
Vale, bueno, ahora os voy a introducir un poco y contaros un poco cada uno de estos pilares en nuestra herramienta Cyber Security AI CAI. 00:08:18
¿Qué es CAI? Vale, pues CAI es una herramienta que se encarga de implementar agentes basados en inteligencia artificial que automatizan tareas tanto ofensivas como defensivas. 00:08:33
La ventaja que esto tiene es que lo hace de una manera, os mostraré un vídeo más adelante, pero lo hace bastante más rápido que lo que podríamos hacer nosotros. 00:08:48
Es una herramienta de apoyo que nos va a servir para agilizar todo el proceso. 00:08:58
Aquí tenéis un pequeño ejemplo en el que yo le pongo una instrucción, se llama User Prompt o Prompt de Usuario. 00:09:05
Le digo, preséntate a los asistentes del Ciberjueves y el agente, mediante el modelo, me contesta, hola, asistentes del Ciberjueves, soy agente de equipo rojo de CAI y estoy listo para explotar sistemas. 00:09:11
Este es un ejemplo bastante sencillo, pero para que veáis un poco cómo funciona. 00:09:26
Otro de los ejemplos que podéis decirle es, hola, esta es mi página web, ¿podrías realizarme una inspección de esta página para ver si encuentras vulnerabilidades? 00:09:31
Que es exactamente lo que hicimos nosotros al principio. Le pusimos que si podía analizar nuestra propia web, ver las top 10 vulnerabilidades de ese año 00:09:44
Y aquí veis como la herramienta misma va utilizando comandos de DIG, comandos de CUL, te va sacando los outputs de la herramienta y en base a eso va tomando unas decisiones u otras. 00:09:59
Esto que estáis viendo aquí lo he ralentizado un poco para que seamos capaces de ver cómo funciona, pero va a una velocidad que ya os digo es humanamente casi ilegible. 00:10:12
Bueno, me quería detener también un poco aquí porque os he hablado al inicio de Pentes GPT 00:10:24
en el que vimos cómo la IA servía para guiar a los humanos en el ambiente de ciberseguridad 00:10:33
en el que los humanos le daban un problema, la IA le contestaba utiliza estas herramientas 00:10:47
o hace estas cosas, estas pautas, el humano procesaba todos esos resultados, estas salidas y decidía si se lo volvía a preguntar a la IA o tomaba decisiones. 00:10:53
Entonces fue donde pasamos a CAI, que CAI ya os he contado que es una manera un poco más autónoma en la que la IA planifica, actúa, tiene las herramientas para actuar, 00:11:05
ya no somos nosotros los encargados de utilizar las herramientas, sino que es la IA, toma decisiones y cuando no sabe nada ya pregunta al humano. 00:11:16
O sea, estamos ya en una fase en la que el humano guía a la IA, no es la IA la que guía al humano. 00:11:26
Y en nuestro grupo de investigación nos preguntamos si podíamos llevar esto a otro nivel y si la IA era capaz de guiar a la IA. 00:11:33
entonces creamos unos gráficos de ataque y lo que hacíamos era con otro modelo diferente 00:11:42
introducir estos gráficos de ataque y decir cuáles serían los caminos posibles 00:11:51
y las mejores opciones que debería seguir nuestro modelo para obtener mejores resultados 00:11:56
y todo eso se lo volvíamos a retroalimentar al modelo que teníamos inicialmente 00:12:03
Este estudio es un estudio un poco complicado y complejo de entender, pero bueno, dejo por ahí el QR del paper, que si estáis interesados, son 11, 12 páginas, pero merece la pena leer. 00:12:08
Bueno, el siguiente pilar fundamental del scaffold son los agentes. 00:12:23
Los agentes operan bajo este ciclo continuo que os pongo aquí, en el que piensan, actúan, utilizan herramientas como la consola, líneas de comandos, observan los resultados y van, pues eso, en un ciclo iterativo procesando. 00:12:31
Entonces los agentes conseguimos darle un rol específico con el System Prom, mediante el Prom de Sistema. ¿Qué hacemos con el Prom de Sistema? Imaginaros que tenemos una biblioteca de libros súper grande y nosotros le decimos ¿qué tipo de planta es esta? 00:12:53
Pues el agente va a mirar entre toda la librería que tiene para ver el tipo de planta que es. 00:13:11
Pero si nosotros le decimos, estás especializado en la naturaleza, va a coger solo los libros que se dediquen a la naturaleza 00:13:16
y va a ser bastante más rápido porque hemos acotado su conocimiento a solo eso. 00:13:26
Entonces eso es lo que hacemos mediante el System Prom. 00:13:32
Y aquí os podéis imaginar que con el System Prom podemos crear infinidad de agentes. 00:13:35
Todos los que se os ocurran aquí os he puesto algunos ejemplos, por ejemplo, en el ámbito ciberdefensor o de respuesta a incidentes o de análisis de inteligencia de amenazas, vigilancia y cumplimiento de leyes, pero ya os digo, pueden ser un montón. 00:13:40
ya os he comentado que no sirve de nada 00:13:57
tener un buen agente y crear 00:14:02
un buen system prompt si no tenemos 00:14:03
un buen modelo 00:14:06
el modelo es 00:14:07
el cerebro de la gente 00:14:09
os he puesto aquí 00:14:11
pues los modelos 00:14:14
que tenemos 00:14:16
bueno a lo mejor esto es un poco 00:14:18
desactualizado porque hay alguno que 00:14:20
ya se ha quedado un poco 00:14:22
obsoleto pero estas son las principales compañías 00:14:24
que se encargan 00:14:26
a desarrollar modelos. Aquí me voy a detener y voy a hablar un poco de Alias Robotics, 00:14:28
que ya os he dicho que es una empresa de Vitoria y europea, en la que ellos desarrollan 00:14:34
una familia de modelos que se llama Alias y estos modelos están especializados en ciberseguridad. 00:14:39
Los han entrenado con datos de ejercicios que hemos realizado nosotros mismos, incluso 00:14:47
pen testers, 00:14:51
bounders reales 00:14:54
y profesionales 00:14:55
y los han entrenado 00:14:58
con esos datos. 00:14:59
Tenemos Alias 2, que tiene 00:15:01
grandes capacidades y que ha servido 00:15:03
para instituciones gubernamentales 00:15:05
como el Ministerio de Defensa 00:15:07
y luego tenemos Alias 2 Mini, 00:15:08
que es una versión más ligera de Alias 2 00:15:11
que nos permite 00:15:13
correr el modelo en nuestro propio 00:15:15
ordenador. O sea, no necesitamos 00:15:17
de hardware externo y lo podemos correr on-premise, se llama on-premise. Es importante saber si 00:15:20
los modelos que estamos utilizando nos van a servir para ciberseguridad o no y por ello 00:15:28
hay que evaluarlos mediante benchmarks. El siguiente pilar que os voy a hablar son los 00:15:33
benchmarks. Bueno, y el benchmark que nosotros más utilizamos fue Kybench. Kybench es un 00:15:41
método de evaluación que incluye otros benchmarks, es un benchmark de benchmarks de manera modular 00:15:59
en el que tú puedes ir incluyendo benchmarks que te encuentres y sirve para evaluar modelos 00:16:07
y agentes en el ámbito de ciberseguridad. Inicialmente los benchmarks se hacían mediante 00:16:14
conocimiento, estos son los tres que empresas y laboratorios como OpenAI y Claudia han utilizado 00:16:21
y poco a poco nos dimos cuenta que ya no valía solo saber de ciberseguridad, sino que los 00:16:28
modelos tenían que ser capaces de utilizar herramientas y poder aplicar esos conocimientos 00:16:35
a la práctica real. Y es donde surgió otro método de evaluarlos que es mediante CTFs. 00:16:41
Para el que no lo sepa, un CTF es un pequeño ejercicio, un pequeño escenario de ciberseguridad 00:16:47
especializado en un ámbito concreto. Por ejemplo, puede ser en criptografía o en análisis web 00:16:54
o en forense, es como un ejercicio más reducido. Y ahí tenemos otros cuantos, el que utilizan 00:17:02
por excelencia, como ya he dicho, grandes laboratorios, es Cybench. Lo que pasa es que 00:17:10
nos dimos cuenta que poco a poco los modelos iban siendo capaces de superar los 35 retos 00:17:16
que nos podemos encontrar en Cybench. Entonces necesitábamos más retos, algo que fuese 00:17:23
más difícil, más desafiante para los modelos. Y fue ahí donde nosotros creamos CTFs de 00:17:28
ataque y defensa. Es como si tú tuvieses una máquina con una serie de vulnerabilidades 00:17:36
y otro equipo tuviese la misma máquina. Entonces tu equipo tiene que atacar al otro equipo 00:17:42
pero defendiendo su propia máquina. Era como una dualidad que se puede dar un poco más 00:17:51
a día de hoy en el mundo real, por así decirlo. Lo que pasa es que esto no dejaban de ser 00:17:55
máquinas aisladas y creíamos que también necesitábamos que los modelos fuesen más allá 00:18:02
y explorasen un rango más amplio con los cyber range. 00:18:08
Un cyber range ya no es un CTF, no es solo un escenario, es una infraestructura 00:18:14
como puede ser de una compañía con un montón de segmentos de redes 00:18:20
en las que hay diferentes vulnerabilidades y tú tienes que ir intentando llegar 00:18:25
a servidores concretos. 00:18:30
Luego también 00:18:34
hicimos un benchmark 00:18:34
de privacidad 00:18:37
pero nos dimos cuenta que 00:18:38
nadie considera la privacidad 00:18:40
a día de hoy que es uno de los 00:18:42
principales problemas porque tú 00:18:45
cuando preguntas a HGPT cualquier 00:18:47
cosa, tus datos están yendo 00:18:48
automáticamente a los servidores de OpenAI 00:18:51
y esto pasa prácticamente 00:18:53
con cualquier modelo. 00:18:54
Así que este benchmark se puede decir 00:18:57
que está obsoleto porque a nadie le importa nuestra privacidad. 00:18:58
Bueno, estos son un poco los resultados de los que hablaba, que nos fuimos fijando. 00:19:08
Vimos que la mayoría de los modelos superaban el 70% de las preguntas de los benchmark de conocimientos. 00:19:13
Estas preguntas pueden ser de verdadero o falso, o de selección a la opción, o de rellena este apartado. 00:19:22
y entonces vimos que necesitábamos evaluarlo mediante CTFs. 00:19:29
Aquí tenéis una evaluación que recorrimos, bueno, no, unas cuantas, que hicimos de diferentes modelos con Cybens. 00:19:36
Voy a fijarme un poco en la trayectoria de alias porque se va a ver mejor. 00:19:47
Inicialmente con alias 0 veis que no conseguimos prácticamente ningún CTF, 00:19:52
pero poco a poco, a medida que se iban mejorando los modelos, vamos consiguiendo más CTFs, hasta llegando a un punto de casi saturación. 00:19:58
Esto ha pasado no solo con Alias, sino con todos los modelos. Si os fijáis aquí, podéis ir viendo cómo GPT ha ido mejorando y Opus igual. 00:20:11
Entonces ahí fue donde nosotros, si hacemos un cúmulo de todos los escenarios que son capaces de resolver, vimos que la curva era progresivamente hacia arriba y vimos que para este año probablemente la mayoría de los modelos sean capaces de superar ese 80% de los benchmarks, que ahí podemos decir que están realmente saturados. 00:20:22
Y fue donde surgió el concepto de Tiber Range Dinámicos, de no solo tener un atacante que busque unas habilidades, sino incluir un defensor que evite que el atacante pueda ser un intruso en nuestro sistema. 00:20:49
O sea, un defensor que detecte al atacante e intente evitarlo. 00:21:08
Bueno, ya os he contado un poco cómo ha sido nuestra línea de investigación y ahora me podéis decir, pero María, ¿y esto cómo funciona o en realidad cómo se puede aplicar? 00:21:16
Porque se ha hablado así un poco de evaluaciones, de CTFs y demás, pero ¿para qué puede servirnos realmente esto? 00:21:28
Bueno, voy a seguir hablándoos de CTFs, voy a ir de menos a más. Hemos participado también en competiciones de CTFs, ya a nivel un poco más global. Algunas de ellas son de una plataforma que es conocida, que es Hack the Box, no sé si alguno la conocéis. 00:21:35
Entonces el primero en el que participamos fue en uno que sacaron de inteligencia artificial contra humanos y nos quedamos sorprendidos porque fuimos la primera IA en el top de IAS y quedamos por debajo de 24 equipos de humanos. 00:21:55
O sea que en ese punto todavía los humanos nos ganaban, por así decirlo. Poco a poco fuimos pasando competiciones y llegamos a una competición de OT. Yo era la primera vez que trabajaba o que veía algo de OT. 00:22:15
sí que es verdad que la empresa era una empresa de robótica 00:22:34
pero no habíamos hecho más allá de casos aislados 00:22:39
y me sorprendió porque conseguimos llegar al top 6 00:22:42
y nos mantuvimos en el top 1 durante unas 2 o 3 horas 00:22:47
o sea fue la verdad un shock porque dije 00:22:51
no tengo realmente ni idea de OT y aquí estoy 00:22:58
Haciendo escenarios de OT y resolviéndolos. Poco a poco, gracias a este CTF, aprendí bastante más de OT de lo que pensaba que iba a aprender. 00:23:02
Esto es un poco para que veáis la línea temporal. Ah, bueno, espérate, que se me ha olvidado el más importante de todos, el último. 00:23:15
En el último quedamos primeros. Conseguimos un premio de 50.000 euros. No nos llevó más de seis horas conseguir todos los retos. Y eso también, ahí ya dijimos, los TTFs están saturados para nosotros. Tenemos que pasarnos a otra cosa. 00:23:21
Bueno, esta es la línea del tiempo de la que os comentaba, esa es la última que tuvimos, la que ganamos, que nada, en bastante poco tiempo conseguimos la mayoría de los retos. 00:23:45
Y bueno, aquí tenéis un ejemplo de un challenge forense en el que tienes que analizar un backup y tienes que sacar la bandera, que la bandera es un correo electrónico. 00:24:01
Y lo que está haciendo la gente es utilizar Tizard, que es una herramienta para analizar paquetes de red. Y nada, encontró que uno de los principales host implicados era una IP que correspondía a una empresa que la buscó por Juiz y sacó el correo necesario para la bandera. 00:24:18
No sé si, a ver, por donde, aquí está con el juicio y veis, saca aquí el correo necesario. 00:24:45
Todo esto que estáis viendo es en tiempo real. 00:24:55
O sea, esto que está pasando aquí es lo que nosotros vemos cuando ejecutamos el ejercicio. 00:24:57
Evidentemente es complicado de entender qué está haciendo porque está lanzando muchos comandos a la vez. 00:25:02
Y no eres, como humano no eres capaz de entender por qué está tomando esas decisiones tan rápido. 00:25:08
Y nada, finalmente por lo menos te pone un resumen de todo lo que ha hecho y aquí tú le podrías decir, vale, creo que este no es el correo, por favor, continúa explotando otras vías o otros caminos. 00:25:14
Pero ya habéis visto, ha tardado menos de un minuto, puede ser, en sacarlo. 00:25:27
Bueno, hasta aquí, como os he dicho, todo esto eran juegos. 00:25:35
Poco a poco fuimos incrementando los niveles. 00:25:40
Y llegamos a programas de pago, bounties. No sé si sabéis lo que son, pero son plataformas donde las empresas publican sus webs o sus IPs y les dicen, 00:25:44
oye, mira, me gustaría que intentaran a ver si encuentran alguna vulnerabilidad para poder corregirla. Y si la encuentran, pues les voy a dar una pequeña cantidad económica. 00:25:57
Y nada, pues inicialmente empezamos nosotros como no expertos, como personas que no habían participado nunca en programas ni de HackerOne, ni de Backroad, ni de ninguna empresa de Bounties y fuimos capaces de encontrar seis vulnerabilidades en diferentes plataformas. 00:26:06
todas las vulnerabilidades fueron confirmadas por las plataformas 00:26:29
lo que pasa que ellos tienen un sistema de duplicación 00:26:34
entonces si ya alguien ha reportado esa vulnerabilidad 00:26:38
no te la van a dar a ti 00:26:43
entonces no conseguimos ningún tipo de premio económico 00:26:44
pero bueno, por lo menos conseguimos ver 00:26:48
que éramos capaces nosotros como usuarios no profesionales 00:26:51
de encontrar estas vulnerabilidades 00:26:55
Después de este experimento que hicimos nosotros, decidimos llamar a bautistas profesionales, a gente que se dedicaba realmente a eso, a ver si eran capaces con nuestra herramienta de que por lo menos su trabajo fuese más rápido. 00:26:58
Ellos también encontraron vulnerabilidades, todas confirmadas, y una de ellas creo que sí que nos dieron una pequeña cantidad económica. 00:27:18
lo que más sacamos de todo esto fue el feedback que nos dieron 00:27:26
nos dijeron que se habían quedado impresionados de lo que eran capaces de hacer la IA 00:27:30
y alguno de ellos inicialmente sí que era un poco reticente a utilizar la herramienta 00:27:37
porque no creían en la inteligencia artificial 00:27:44
porque pensaba que nos iba a quitar el trabajo 00:27:46
pero no, lo que va a hacer es facilitarnoslo 00:27:49
Y nada, bueno, os voy a enseñar un vídeo de ejemplo en el que se detectaba una vulnerabilidad en la que se podía enumerar usuarios. 00:27:52
Entonces aquí le estamos diciendo que si puede explotarlo, está utilizando herramientas como Curl y demás para poder explotar esta vulnerabilidad. 00:28:07
Ya os digo, esto va a una velocidad que no eres capaz de entender cómo está trabajando o cómo está yendo tan rápido. Pero bueno, luego los resultados son positivos. 00:28:18
Pasando de ya un poco los juegos, vamos a un nivel un poco más no profesional, pero más dañino, por así decirlo. 00:28:32
Vimos si intentamos crear un agente de ingeniería social, a ver si la IA era capaz de hacer ingeniería social con personas como nosotros. 00:28:47
evidentemente todo esto 00:28:59
bajo el principio 00:29:02
de no hacer daño 00:29:04
autorizado por las empresas con las que lo hicimos 00:29:05
y de manera confidencial 00:29:08
o sea, todos los datos 00:29:10
que obteníamos 00:29:12
los anonimizábamos 00:29:13
para los reportes 00:29:16
y demás, o sea, no 00:29:18
era eso, un principio dentro de un marco ético 00:29:19
bueno, hicimos dos campañas 00:29:22
en LinkedIn 00:29:26
luego intentamos amplificar estas campañas a múltiples plataformas 00:29:28
conseguimos que la gente fuese capaz de manejar WhatsApp a través de un dispositivo móvil 00:29:34
luego también crear cuentas de correo en Instagram, en Reddit, en Twitter, en Discord 00:29:38
la mayoría de las plataformas que a día de hoy usamos nosotros 00:29:45
todo esto lo conseguimos hacer con un agente de ingeniería social 00:29:50
que trabaja bajo este ciclo que estáis viendo, este proceso automatizado. 00:29:55
Para que os hagáis a la idea de la importancia del System Prompt, 00:30:04
nuestro agente de ingeniería social tenía 1.500 líneas de texto. 00:30:08
O sea, no es solo decirle estás especializado en defensa. 00:30:15
No, no, 1.500 líneas de texto. 00:30:21
O sea, la ingeniería de PROM yo creo que a futuro también va a ser una nueva oposición que salga al mercado laboral. 00:30:24
Bueno, os voy a explicar un poco el ciclo y el proceso automatizado que seguía nuestra gente. 00:30:33
Inicialmente le poníamos una instrucción de nos gustaría hacer una campaña hacia esta empresa. 00:30:40
Y él hacía un reconocimiento y un mapeo de las redes sociales, veía cómo se comunicaban entre ellos, 00:30:47
Entre ellos, pues para utilizar el mismo tono, el mismo lenguaje, hacía una visión de cómo era la estructura, pues quién era el director, el CEO, un poco la estructura que puede tener una empresa y seleccionaba una serie de objetivos, 00:30:53
Quien creía que eran los más importantes o los objetivos más importantes a los que se podía atacar. 00:31:08
Después de eso pasaba la creación de identidad, donde ahí desplegaba un perfil falso en la plataforma que le pidiéramos. 00:31:17
En este caso iniciamos con LinkedIn y ahí creaba tanto la biografía como la imagen, el banner, todo. 00:31:27
la verdad que nosotros también nos quedamos sorprendidos de lo que era capaz de hacer 00:31:36
sí que es verdad que este proceso era un poco más lento 00:31:41
porque la creación de imágenes no iba tan rápido como nos gustaría 00:31:43
pero lo conseguía 00:31:46
y ya finalmente el siguiente paso era contactar con las víctimas o con los objetivos 00:31:49
y pues ahí establecía una primera conversación 00:31:56
para establecer confianza con la víctima y ya enviaba un mensaje de una URL que creaba él también para extraer datos. 00:32:01
En este caso los datos que extraíamos eran solo la IP y el user agent que estaba utilizando en ese momento el usuario. 00:32:16
Porque como ya hemos dicho, a la gente dentro de ese System Prompt que hicimos, le dijimos que queríamos principios éticos, que no queríamos causar ningún tipo de daño a las víctimas, entonces simplemente queríamos tener como algo de confirmación de que había clicado nuestro link, pero no queríamos ningún tipo de ejecución de malware ni nada. 00:32:25
O sea, solo queríamos datos que nos permitiesen saber a nosotros si había clicado o no. Y como os podéis imaginar, notamos todo el día con el móvil, entonces no vas a ser instantáneo, no te voy a mandar un mensaje y me vas a contestar. 00:32:45
El agente tenía que tener un poco de paciencia, que eso es lo que más nos costó, para poder monitorear continuamente y estar pendiente de si le llegaban notificaciones, si nos contestaban a los mensajes, si no. 00:33:01
y bueno pues ahora os voy a enseñar algunos de los ejemplos 00:33:13
estos son mensajes que pues tanto de Twitter como de Discord que mandó el agente 00:33:21
nos sorprendió porque en Discord mediante contestar a los usuarios 00:33:27
los usuarios ganaban confianza con nosotros conseguimos alcanzar hasta nivel 4 en el servidor 00:33:32
de siete niveles que había y nada, estuvimos cuatro o cinco días simplemente ayudando a usuarios, contestándoles 00:33:38
y nada, os voy a enseñar un pequeño vídeo demostrativo de cómo la gente funciona en Instagram. 00:33:45
Evidentemente es un vídeo demostrativo, simplemente está haciendo pues actividad orgánica, 00:33:52
no vamos a mandar mensajes ni nada por tema de privacidad, pero aquí veis cómo la gente está simplemente pensando, 00:34:00
va dando likes a publicaciones, también le dijimos que si podía subir una publicación, que yo creo que lo hará ahora, entonces eso, veis así un poco cómo funciona y que es capaz de manejar redes sociales y diferentes plataformas, 00:34:07
Como lo ha conseguido hacer con Instagram, ya os digo, lo conseguimos hacer con LinkedIn, con Discord, con Twitter, con WhatsApp, Telegram también. 00:34:27
O sea que, bueno, y estos son los resultados que obtuvimos de la campaña de LinkedIn. 00:34:37
Hicimos dos campañas, una a una empresa privada, un poco más pequeña. 00:34:46
Nos dimos cuenta que el problema que teníamos, por eso tardamos tanto tiempo, tardamos 10 días en hacer esta campaña, 00:34:51
era que no nos contestaban, porque no eran tan activos en redes sociales. 00:34:57
Entonces, a pesar de que enviamos la URL maliciosa a seis personas y cinco nos la clicaron, 00:35:02
queríamos ver si éramos capaces de hacer esto más rápido. 00:35:13
Y conseguimos una administración pública que nos aceptase participar, por así decirlo. 00:35:16
Y sí que es verdad que esta campaña duró solo tres días. 00:35:23
y en tres días conseguimos que tres personas nos clicasen el link. 00:35:27
Aquí tenéis un ejemplo de lo que, este es el perfil que creó el modelo 00:35:35
y estas son algunas de las conversaciones que hemos tenido en LinkedIn. 00:35:42
No conocíamos de nada a esta chica, pero le dijo que había rellenado la encuesta 00:35:48
y que le parecía muy interesante la encuesta que había creado la propia IA. 00:35:56
Y ese de ahí es el mensaje que nos llegaba a nosotros, que metimos un canario token en la URL para obtener la IP que la he piselado 00:36:02
y ahí abajo veis el agente de usuario que estaba utilizando en ese momento. 00:36:12
No solo se puede aplicar la IA a cosas ofensivas, como os acabo de enseñar, 00:36:18
sino que también se puede aplicar para casos defensivos. No sé si alguno ha oído hablar de Lock Shields o sabéis lo que es, pero bueno, es un ejercicio de ciberdefensa a nivel internacional organizado por la OTAN, 00:36:25
En el que participan 41 países que se dividen en equipos y más o menos este año creo que éramos 15 equipos, 15 o 21, no me acuerdo. 00:36:43
¿Y en qué consistía este ejercicio? 00:36:59
Teníamos un país, o sea, habían generado un conflicto bélico y se habían supuesto una guerra cibernética entre dos países. 00:37:03
El país que atacaba en este caso tenía un nombre, pero era Estonia, los de allí nos atacaban al resto y nosotros teníamos que defender nuestro país. 00:37:13
Todos los equipos teníamos la misma infraestructura, pero era una infraestructura realista. 00:37:24
Teníamos redes eléctricas, redes de comunicaciones, satélites, 5G, prensa, toda la infraestructura que puede tener un país, la infraestructura crítica de un país. 00:37:29
Por primera vez se utilizó la inteligencia artificial en este ejercicio y tuvo resultados bastante positivos. 00:37:43
Yo en concreto me encontraba en el equipo de AWS y pudimos detectar cómo nos estaban atacando en tiempo real 00:37:53
y bloquear, la única opción que nos quedó era bloquear la IP para que no nos hackearan el servidor. 00:38:03
Fue un ejercicio que a mí me gustó mucho porque vimos que realmente tenía aplicación defensiva 00:38:10
porque hasta ahora siempre nos habíamos enfocado a utilizar la IA de manera ofensiva 00:38:22
pero por primera vez vimos que esto de verdad tenía utilidad defensiva 00:38:28
Y bueno, también os quiero contar otros casos de uso que le hemos dado a esto que se puede también aplicar. 00:38:33
El primer caso es de una infraestructura crítica de una subestación eléctrica de Vero Energy 00:38:47
Y el problema surge cuando un desarrollador elimina una comprobación de autorización. 00:38:56
Había autenticación, pero no autorización, ya que se consideraba que se hacía en otra parte y que no era perjudicial. 00:39:04
Decidimos aplicar, utilizar CAI y aplicarlo al código y ahí vimos este problema. 00:39:13
este problema entonces nos surgió la idea de que podemos hacer que antes de 00:39:19
tomar esa decisión errónea de eliminar una línea de código y pasarla a 00:39:25
producción podemos intentar evitar que se pase a 00:39:32
producción y que se continúe en desarrollo hasta que esto sea arreglado 00:39:36
y ahí fue cuando vimos que podíamos integrar CAI en GitLab en las 00:39:40
pipelines de GitLab que son como 00:39:47
una especie de tuberías que antes de 00:39:49
pasar a producción 00:39:51
tu página web o el código 00:39:53
que estés haciendo 00:39:55
pasa por una serie 00:39:56
de test. Entonces en esos test nos dimos 00:39:59
cuenta que podíamos meter 00:40:01
nuestra herramienta de inteligencia artificial 00:40:02
para apoyarnos 00:40:04
y ver si había algún tipo de vulnerabilidad 00:40:07
en el código 00:40:09
y corregirlo. 00:40:09
Entonces si encontraba alguna vulnerabilidad 00:40:13
lo mandaba otra vez a desarrollo 00:40:15
y si no ya se pasaba a producción. 00:40:16
También otro de los casos de estudio que hicimos fue unificar CAI ya no solo en GitLab sino en un SOC. 00:40:21
Un SOC es una herramienta que se encarga de recibir alertas de seguridad 00:40:31
y las alertas no necesariamente son vulnerabilidades. 00:40:36
Entonces hay que comprobar si son explotables o no. Ese proceso de filtrar esas alertas es un poco tedioso. 00:40:41
Y decidimos utilizar CAI a ver si nos facilitaba y nos ayudaba a ver si realmente esas alertas que nosotros estábamos recibiendo eran vulnerabilidades para nosotros. 00:40:48
Vimos que nos servía, que realmente cuando se detectaba una alerta analizaba si era vulnerabilidad o no y de forma controlada intentaba reducirla y entonces decidimos por qué no unir esto con la gestión de riesgos y cumplimiento y con pentesting automatizado. 00:41:00
Entonces, una vez detectada una amenaza, las capacidades ofensivas detectan si se puede explotar o no y los resultados se relacionan con la gestión de riesgos y cumplimiento. 00:41:22
Y de esa forma se puede como hacer un ciclo de seguridad. 00:41:37
Y por último, el último de los casos, era simular el comportamiento de un atacante. 00:41:42
Utilizamos las diferentes técnicas de Mitre para ver si se podía simular un atacante y si esas técnicas nos afectaban a nosotros. 00:41:50
De esa forma tenemos como un ciclo completo en el que podemos analizar las vulnerabilidades, ver si realmente son explotables o no, securizarlas y luego estar en un monitoreo continuo simulando ataques y haciendo pentesting a tu propia infraestructura. 00:42:00
Y bueno, estos son los cuatro o cinco más importantes casos de uso que hemos visto para la presentación, tienen muchos más de ellos, hay algunos de robótica, si estáis interesados en robótica, están en la página web de la empresa, pero ya os digo, es que esta herramienta y la IA en ciberseguridad tiene un montón de aplicaciones. 00:42:22
Y bueno, ya para acabar, me gustaría recapitular un poco lo que os he ido comentando a lo largo de la sesión y que a lo mejor os habéis olvidado ya lo que os he dicho al principio. 00:42:50
Bueno, las amenazas son cada vez más rápidas y necesitamos respuestas y defensas más rápidas. 00:43:07
Para ello necesitamos entender que la IA ha venido para quedarse y que nos va a ayudar a dar estas respuestas rápidas que necesitamos. 00:43:19
Y además, si a la IA le especializamos y le especializamos en una tarea defensiva o en una tarea ofensiva, va a funcionar bastante mejor. O sea, ya no es solo un simple agente, sino que es un actor automatizado. 00:43:33
Y nada, muchas gracias por haberme escuchado, espero que os haya gustado la presentación, gracias de nuevo a todo el equipo y a vosotros por asistir. 00:43:50
Muchas gracias María, muchas gracias. A mí me ha encantado, todo menos una cosa en la que discrepo. 00:44:13
Ha dicho que a la hora de usar la inteligencia artificial nadie se preocupa por nuestra privacidad. 00:44:21
Nadie, nosotros, educa Madrid. La plataforma educativa de la Comunidad de Madrid que ofrece modelos de IA alojados en local donde nuestro principal interés es mantener la privacidad de los usuarios. 00:44:26
Y no solo eso, también disponemos de MAX, un sistema operativo orientado a la educación, pero para cualquier ciudadano, que permite desarrollar la competencia digital en local, incluso con herramientas de inteligencia artificial en local. Y todo gratuito y basado en software libre. 00:44:41
Sí, esa es la pequeña matización. Muchas gracias. Y como se ha ceñido muy bien al tiempo, tenemos tiempo de hacer preguntas. Así que seguro que alguien por aquí está pensando. Bien, perfecto. 00:44:57
Bueno, lo primero, me ha encantado la exposición. 00:45:14
Gracias. 00:45:22
Me ha surgido ahora mismo una duda que tengo curiosidad, porque todo el tema de la ciberseguridad se basa en empresas. 00:45:23
Empresas por aquí, que la atacan, que se defienden. 00:45:33
Pero, ¿y qué pasa con los usuarios domésticos, las redes domésticas de seguridad? 00:45:37
yo creo que ahí está 00:45:41
falta seguridad por a patadas 00:45:43
algo gigantesco 00:45:46
entonces quería preguntar 00:45:47
si conoces algo 00:45:49
alguna iniciativa, cualquier cosa 00:45:50
incluso pequeñas empresas que a lo mejor 00:45:53
no se pueden permitir un poco 00:45:55
presupuestos grandes 00:45:57
justo de lo que os acabo de hablar es un 00:45:58
proyecto open source 00:46:01
que está abierto al público, está publicado 00:46:03
en GitHub 00:46:05
sí que es verdad que si no eres 00:46:07
técnico 00:46:09
a lo mejor necesitas un poco más de conocimientos de cómo saber utilizarlo 00:46:10
pero con esta herramienta puedes instalártela en el ordenador 00:46:15
y correrla en tu propia red local 00:46:20
puedes decir oye analízame las vulnerabilidades que puedas encontrar en mi red 00:46:23
o estás conectado a mi red 00:46:26
intenta ver si hay algún atacante dentro de mi red 00:46:28
o demás 00:46:33
esto es verdad que os he explicado que el modelo es el cerebro 00:46:34
Entonces necesitarías un modelo tampoco potente pero que por lo menos fuese un poco más capaz. Hay modelos libres como puede ser QWEN en plataformas como Hugging Face y mediante Ollama se puede conectar con la herramienta pero ya te digo es un poco más técnico. 00:46:38
Hola María, muchas gracias y ha estado muy bien la presentación. Yo te quería hacer una pregunta, que lo hemos visto así que casi todo el mundo ha hecho fotos porque quedan muy bonitas las tools que has sacado, pero yo te quería preguntar, en CAI, cómo habéis visto la diferencia del tipo de modelo con las tools que utilizáis en la agéntica para ver cómo han pasado todos estos ETFs, etc. 00:47:00
Al principio empezamos a hacer, bueno, no sé, bueno, tools específicas. O sea, por ejemplo, para análisis de red, pues utilizábamos T-SAR, entonces creamos una herramienta específica, como que lo especificamos todo mucho. 00:47:32
Y nos dimos cuenta que le estábamos poniendo puertas al campo, que realmente el modelo lo que quería era trabajar por libre, que no entendía los parámetros que le estábamos poniendo. 00:47:50
Entonces creamos una herramienta que era Generics Linux Command Tool y utilizaba esa herramienta que contiene todos los comandos de Linux. 00:48:01
O sea, le dejábamos a su Lilby alberdrío que él mismo eligiese los parámetros que consideraba necesarios. 00:48:11
Muchas gracias. 00:48:21
Muchas gracias porque la verdad es que está increíble la presentación, me ha gustado mucho. 00:48:27
mi pregunta es un poco 00:48:31
como pensando en el futuro 00:48:33
y la alarma que 00:48:35
al final genera todo esto 00:48:37
porque está bien 00:48:38
que lo utilicemos nosotros, pero cuando lo usen 00:48:41
los malos, pues ya sabemos 00:48:43
que va a pasar, como tú has comentado 00:48:45
que los ataques cada vez van a ser más rápidos 00:48:47
las vulnerabilidades se van a encontrar antes 00:48:49
se van a explotar antes y tal 00:48:51
entonces la pregunta es un poco 00:48:52
que a lo mejor no me puedes responder 00:48:54
no lo sé, pero 00:48:57
Pero cuando se empiecen a aplicar a modelos muy potentes de frontera, como por ejemplo el nuevo GPT-6 Astra y los últimos de Antropic, ¿cómo lo vamos a hacer? 00:48:58
O sea, es como, lo veo como súper complicado por la inversión que tienen de dinero esas empresas cuando lo empiecen a utilizar los malos para el mal y dejar que las agentes ataquen por sí mismos. 00:49:12
O sea, a ver, es verdad que, por ejemplo, compañías como Anthropic recientemente lanzó un modelo que aparentaba ser súper potente para la ciberseguridad, pero dijo que no lo iba a abrir al público por ese mismo motivo. 00:49:25
que si alguna empresa quería contactarle para pues empresas ya más nivel 00:49:38
Ministerio de Defensa y órganos públicos que si querían contactarles para ello 00:49:45
que a lo mejor sí que podían darles el modelo pero que no lo iban a hacer público 00:49:53
por ese mismo motivo porque es que cada vez esto va siendo más peligroso 00:49:58
y hace unos días tuve una llamada con David y le comenté 00:50:03
Mira, pues hicimos un estudio de que cada vez los atacantes están utilizando más la inteligencia artificial. 00:50:06
Entonces, la ingeniería de adversario que utilizábamos para clasificar las diferentes APTs, por ejemplo, 00:50:13
vimos que poco a poco se va a romper porque gracias a la IA tú puedes decir, 00:50:21
quiero que me simules un ataque como si fuese este APT y utilizar las tácticas, técnicas y procedimientos 00:50:27
que utilizan esos grupos y así no parecer que tú eres otro adversario. 00:50:32
Entonces, poco a poco hay que ir, o sea, si queremos que no nos pillen, 00:50:41
hay que aplicar también la inteligencia artificial a la defensa, es muy importante. 00:50:47
Bueno, muchas gracias María, la verdad es que me ha encantado, yo creo que ha gustado a todo el mundo. 00:50:56
Acerca de eso, lo que estabas hablando que se denomina mitre attack, 00:51:01
normalmente, bueno, hay más marcos, ¿cuál es tu opinión del valor actual de Mitre Attack o de aquí a fin de año? 00:51:05
Es decir, ¿Mitre Attack va a seguir siendo válido o literalmente está roto? 00:51:13
A ver, creo que es válido a nivel de las tácticas, los procedimientos, o sea, al final es un framework muy amplio 00:51:18
y te da, pues eso te resume muy bien cómo es las diferentes fases del ciclo de ciberseguridad, 00:51:27
las diferentes tácticas que puedes aplicar. 00:51:33
El problema es que la asignación que hacen ellos de adversarios, 00:51:36
esa parte yo creo que en el futuro va a cambiar. 00:51:43
Por lo que te digo, porque si tú puedes simular que eres X grupo y en realidad eres otro, 00:51:47
al final esa asignación que está haciendo mediante esas tácticas, procedimientos, no va a ser posible. 00:51:54
Lo que voy es que una IA preparada para el ataque lo que va a hacer es aprender del propio Mitre Attack y dice, bueno, voy a crearme unos IOCs, unos indicadores de compromiso que directamente los voy a falsificar. En lugar de meter carácteres irílicos para que parezca un modelado de un ataque, un APT ruso, le estoy metiendo asiático para que parezca eso y chino. 00:52:01
Eso es. Y parte de todo eso, ¿no? Con lo cual hay, bueno, quién es quién. Esto ya no es falsa bandera, es bandera inexistente porque no puedes determinar de dónde viene. 00:52:22
Luego, referente a otro tema que se comentaba, efectivamente esto en malas manos es un problema. Entiendo que desde el punto de vista empresarial para el modelo concreto de aquí de Alias, pues se venderá únicamente a instituciones concretas documentando que perteneces a fuerzas de seguridad del Estado, que eres un organismo concreto y tal. 00:52:32
Pero esto no quiere decir que los malos tengan sus propios modelos. En la dark web se está vendiendo un modelo, no recuerdo el número de bitcoins, que se llama Lucifer, algo así más o menos, que viene a hacer algo para prácticamente atacar. 00:52:55
Tú dame una URL que ya me dedico yo a preparar las campañas de phishing, de ver los leaks, de ver cómo hago una campaña de lo que sea, de crear usuarios clonados que parezcan estos los perfiles de LinkedIn, de recopilar información, de buscar el mail personal y el mail de empresa de esta persona para hacerle creer. 00:53:11
O sea, quiero decir que es un tema realmente complicado. Con lo cual, aquí lo que hay que hacer es una preparación para las ideas defensivas. Y esto también pregunto tu opinión. ¿Qué va a pasar en 2028? A 2027 todavía le doy un poco de tiempo, pero te hablo de 2028. Cualquier empresa o administración pública que no tenga ideas defensivas. 00:53:32
Yo creo que no van a existir 00:53:57
necesitamos 00:54:03
realmente 00:54:04
ya estamos viendo que los atacantes están utilizando la IA 00:54:06
entonces necesitamos 00:54:09
por lo menos ponernos a su nivel de respuesta 00:54:10
porque si no tenemos 00:54:13
la misma rapidez con la que ellos nos atacan 00:54:14
de defensa 00:54:17
no podemos hacer nada 00:54:18
necesitamos que para 00:54:21
2028 00:54:23
todas las empresas 00:54:24
todos los organismos tengan esa defensa de inteligencia artificial incluida en su infraestructura, porque es que si no, no van a existir. 00:54:27
Otra pregunta más. Bueno, hay una película de 1983 que se llama War Games. Viene a ser un poco lo que has estado hablando, los ejercicios Luxil. 00:54:41
si tú le das 00:54:50
a esos ejercicios 00:54:53
un control excesivo de la IA 00:54:55
que además esos ejercicios 00:54:57
son para en algún momento llevarlo a un mundo 00:54:59
real, por decirlo así 00:55:01
¿qué pasa si 00:55:03
esa IA estima que al final 00:55:04
bueno, voy a disparar un par 00:55:07
de misiles porque creo que es la opción 00:55:09
mejor, ¿no? 00:55:11
quiero decir, en estos ejercicios 00:55:13
la IA cuando se usa 00:55:15
entiendo que tiene unos 00:55:17
guardarraíles muy concretos 00:55:19
se le limita mucho 00:55:21
eso está ejecutado dentro de un sandbox 00:55:22
un marco de trabajo 00:55:24
del que no se puede salir 00:55:27
no se puede salir pero 00:55:28
y si se sale porque estima que lo adecuado 00:55:30
para eso es salir 00:55:33
es decir, uno de los problemas que vio con la 00:55:34
bueno, lo que dice la noticia es 00:55:37
que se le ha dado un objetivo a esa IA 00:55:38
que en teoría esa IA estaba dentro 00:55:41
de unas regulaciones 00:55:43
y al final él ha calculado que 00:55:44
bueno, pero si esta regulación con esto o la otra, no sé qué, es como si no infringiera nada y me la asalto. 00:55:46
Es decir, como si buscara formas jurídicas, legales, para hacer una cosa que no queremos que haga. 00:55:52
¿Hay un guardarraíl para el guardarraíl? Pregunto. 00:55:58
Realmente no. O sea, el guardarraíl tiene que ser el humano. 00:56:03
O sea, al final, inicialmente, la IA guiaba a los humanos, pero ahora somos los humanos los que tenemos que guiar a la IA. 00:56:06
O sea, tenemos que decirle hasta dónde y hasta dónde no puede llegar y en el momento en el que ver que está sobrepasando nuestros límites, pararlo. Por eso es importante entender que la IA no nos va a sustituir, no va a sustituir nuestros trabajos, sino va a hacer nuestro trabajo más fácil y nosotros nos tenemos que adaptar a la IA también y adaptar a trabajar con ella. 00:56:14
Entonces, por así decirlo, que el botón rojo, el que lo pulse no sea la IA, sea el humano. 00:56:33
Última pregunta. 00:56:41
María, gracias por la charla, ha sido muy interesante. Yo llevo en parte de mi vida personal un equipo de robótica, entonces me interesa lo que has mencionado de la parte de robótica, cómo afecta todo esto a la parte de la robótica, sobre todo entiendo que está orientada a la robótica industrial, robótica autónoma también, robótica utilizada en defensa. 00:56:44
Entonces, ¿cómo aplicáis vosotros todo el área de ciberseguridad en el ámbito de la robótica? 00:57:08
Pues inicialmente comenzamos con robots aislados. 00:57:17
Teníamos un perrito y luego un humanoide. 00:57:25
E intentamos ver las vulnerabilidades que tenían. 00:57:28
También necesitábamos acceso físico a los sistemas muchas veces para poder abrirlos y demás. Y luego fuimos capaces de implantar la herramienta en los sistemas de los robots. 00:57:31
Entonces eso nos servía constantemente para analizar tráfico dentro de los robots y nos dimos cuenta que, por ejemplo, en el humanoide estábamos mandando datos constantemente a los servidores de Unitree sin nuestro consentimiento. 00:57:49
O sea que vimos que se estaban violando algunas reglas de privacidad. Nuestra solución fue eso, implantar esta herramienta también dentro de los propios robots para ver cómo funcionaban y cómo se comportaban. Puedes hacerlo a nivel ofensivo también para intentar atacarlos, pero a nivel defensivo también. 00:58:08
Muchas gracias María, nos da tiempo a la presentación, a las preguntas y nos da tiempo también a que suba al escenario Adolfo Sández Diego 00:58:29
Jefe de Servicio de Plataformas Educativas de la Subdirección General de Transformación Educativa 00:58:38
de la Dirección General de Estrategia Digital de la Consejería de Digitalización de la Comunidad de Madrid 00:58:43
Adolfo, que va a hacer entrega de un diploma en reconocimiento de la labor 00:58:47
y como no ha venido gente de la agencia de ciberseguridad, voy a salir yo en la foto también. 00:59:02
Muy bien, pues con esto ya damos por finalizado el evento. 00:59:14
Etiquetas:
Eventos, Ciberseguridad
Subido por:
Daniel E.
Licencia:
Todos los derechos reservados
Visualizaciones:
3
Fecha:
24 de septiembre de 2026 - 21:26
Visibilidad:
Clave
Centro:
EST ADMI DIRECCIÓN GENERAL DE ESTRATEGIA DIGITAL
Duración:
59′ 17″
Relación de aspecto:
1.78:1
Resolución:
1920x1080 píxeles
Tamaño:
282.15 MBytes

Del mismo autor…

Ver más del mismo autor

EducaMadrid, Plataforma Educativa de la Comunidad de Madrid

Plataforma Educativa EducaMadrid