1
00:00:00,370 --> 00:00:10,750
Y hoy tenemos la suerte de contar con una investigadora en ciberseguridad e IA especializada en sistemas autónomos y en el desarrollo de modelos de IA aplicados a la defensa digital.

2
00:00:11,750 --> 00:00:20,190
Es una de las principales expertas en benchmarking de IA con trabajos de marcos, de evaluación rigurosos y de referencia para la comunidad.

3
00:00:20,190 --> 00:00:34,909
Como su estudio, vais a flipar, Cybersecurity Eye Benchmark, a Meta Benchmark for Evaluating Cybersecurity Eye Agents. Y el que se ría que venga y lo lea él, ¿vale?

4
00:00:34,909 --> 00:00:57,409
Su grupo de investigación ha participado en conferencias como AAAI 2026, que si quiere luego nos explicará lo que es, en RootedCon 26. Es una de las mujeres que lideran la investigación puntera en IA, en IA generativa aplicada a la seguridad, destacando por su capacidad para abordar problemas complejos con enfoques innovadores y de alto impacto científico.

5
00:00:57,409 --> 00:01:10,030
Y esto es lo que se llama crear aquí altas expectativas y las podemos crear porque la conocemos y sabemos que lo merece. Así que con todos vosotros, María Sanz Gómez.

6
00:01:10,030 --> 00:01:39,640
Hola a todos. Bueno, muchas gracias por la presentación, Daniel. Y nada, buenos días a todos. Me gustaría empezar dando las gracias a David Navarro, que me ha facilitado todo el proceso, a EducaMadrid por haberme invitado a este Ciberjueves.

7
00:01:39,640 --> 00:01:45,760
Ciberjueves. Y nada, bueno, me voy a presentar un poco, aunque Daniel ya lo ha hecho genial.

8
00:01:46,459 --> 00:01:54,140
Soy María, vengo de Alias Robotics, una empresa de Vitoria. El proyecto del que os voy a hablar

9
00:01:54,140 --> 00:02:01,420
hoy está cofinanciado por la Unión Europea. Y bueno, antes de empezar me gustaría hacer

10
00:02:01,420 --> 00:02:09,099
unas preguntas. ¿Cuántos de vosotros os consideráis expertos o trabajáis en el ámbito de ciberseguridad?

11
00:02:09,639 --> 00:02:30,240
Vale. ¿Y cuántos de vosotros habéis utilizado en la última semana la inteligencia artificial? Ya sea HGPT, hayáis utilizado, buscad en Google, hayáis preferido la respuesta de Copilot. Vale, aquí ya más vais levantando la mano.

12
00:02:30,240 --> 00:02:51,319
Bueno, ya tenéis aquí mi presentación, aunque ya me ha presentado Daniel, soy investigadora en ciberseguridad e inteligencia artificial

13
00:02:51,319 --> 00:03:00,580
y mi grupo de investigación ha sido puntero en cruzar estos dos ámbitos, la IA generativa y la ciberseguridad.

14
00:03:01,340 --> 00:03:21,069
Os voy a guiar un poco por el índice de esta sesión, os voy a ir guiando por este índice,

15
00:03:21,069 --> 00:03:25,789
contando cómo ha sido la visión que ha tenido nuestro equipo en todo momento

16
00:03:25,789 --> 00:03:30,689
y todas las decisiones que nos han llevado a estar en el punto en el que estamos.

17
00:03:32,129 --> 00:03:36,750
Bueno, antes de nada me gustaría dar quizás un mensaje un poco alarmista,

18
00:03:37,370 --> 00:03:42,389
pero creo que es necesario que todos seamos conscientes y que lo escuchemos desde aquí.

19
00:03:44,810 --> 00:03:50,389
Históricamente, el tiempo desde que salía una vulnerabilidad hasta que esta vulnerabilidad se explotaba,

20
00:03:51,069 --> 00:04:04,669
por un atacante era de en torno a 30-35 días, que era un tiempo más que razonable para que los equipos de defensa les diera tiempo a generar un parche posible

21
00:04:04,669 --> 00:04:17,170
y aplicaran para evitar este exploit. El problema es que esta ventana de tiempo se ha ido reduciendo a lo largo de estos años y si me permiten voy a hacer una proyección.

22
00:04:17,170 --> 00:04:32,589
Yo creo que en 2027, a mitad de 2027, estemos hablando de que esta ventana de tiempo entre que sale el exploit y se explota es de prácticamente minutos, o sea, sería una explotación casi instantánea.

23
00:04:32,589 --> 00:04:49,589
Por eso es importante que consigamos aplicar la inteligencia artificial en la ciberseguridad porque no hay manera humana de poder responder a este problema que os acabo de presentar.

24
00:04:50,649 --> 00:04:59,970
Pero para saber cómo hemos llegado a este punto me gustaría contaros un poco la línea de tiempo de la inteligencia artificial, de cómo hemos llegado hasta aquí.

25
00:04:59,970 --> 00:05:21,110
En 2022, OpenAI, una compañía norteamericana, lanzó Chaghebre, que para el que no lo conozca, que creo que sois pocos, es un asistente de ingeniería artificial en el que tú le haces preguntas, le das instrucciones y él te genera una respuesta en un lenguaje que entendemos todos, un lenguaje natural.

26
00:05:21,110 --> 00:05:27,310
Esto fue en 2023 a finales, en noviembre y diciembre

27
00:05:27,310 --> 00:05:32,829
y el resto de compañías tecnológicas quisieron también sacar sus propios modelos

28
00:05:32,829 --> 00:05:34,110
y ponerse un poco al día

29
00:05:34,110 --> 00:05:38,069
Aquí os he puesto Google, Anthropic, Mistral a nivel europeo

30
00:05:38,069 --> 00:05:43,069
que sacaron sus propios modelos y comenzaron a desarrollar estos modelos

31
00:05:43,069 --> 00:05:49,870
Estos modelos que en 2024 conseguían procesar imágenes, audio, vídeo

32
00:05:49,870 --> 00:05:55,009
y que poco a poco se irán desarrollando y cada vez estamos viendo que son bastante mejores.

33
00:05:56,310 --> 00:05:59,709
En 2025 se separaron dos líneas de investigación.

34
00:06:00,449 --> 00:06:06,649
Por un lado estaba el desarrollo de los modelos y luego se comenzaron a crear agentes especializados.

35
00:06:06,910 --> 00:06:09,949
Agentes especializados en tareas concretas.

36
00:06:11,110 --> 00:06:17,689
Y aquí es donde nuestro equipo de investigación dijo, vale, ¿qué ocurre cuando juntamos

37
00:06:17,689 --> 00:06:22,209
lo que está pasando ahora con la inteligencia artificial y la ciberseguridad.

38
00:06:22,790 --> 00:06:24,850
Y fue cuando nació Pentex GPT.

39
00:06:25,449 --> 00:06:31,170
Pentex GPT es una herramienta orientada a ciberseguridad

40
00:06:31,170 --> 00:06:39,149
que te permitía hacer consultas de ciberseguridad como si fuese chat GPT pero en el ámbito ciber

41
00:06:39,149 --> 00:06:48,069
y te sugería utilizar herramientas o ir analizando los resultados que ibas obteniendo con las herramientas

42
00:06:48,069 --> 00:06:49,750
gracias a la inteligencia artificial.

43
00:06:50,310 --> 00:06:56,490
Vimos que esto no será realmente útil en nuestro día a día, pero necesitábamos un poco de autonomía.

44
00:06:56,490 --> 00:07:01,370
Entonces ahí fue cuando apareció el proyecto del que os vengo a hablar hoy, que es CAI.

45
00:07:02,129 --> 00:07:12,610
CAI nos permite crear agentes que se encargan de investigar vulnerabilidades y automatizar tareas de ciberseguridad.

46
00:07:14,069 --> 00:07:24,149
Os voy a explicar un poco cómo nuestro equipo de investigación llegó a pensar cómo tenía que funcionar esta intersección de la ciber y la IA.

47
00:07:24,930 --> 00:07:27,810
Estos son los que creemos que son los pilares fundamentales.

48
00:07:27,810 --> 00:07:41,850
Por un lado tenemos el scaffold o marco de trabajo o framework, que os he puesto algunos ejemplos, cloud de codec, que a lo mejor algunos conocéis si trabajáis en programación, codecs y luego CAI.

49
00:07:43,670 --> 00:07:55,250
El marco engloba a los agentes, que son los que tienen estas herramientas para poder ejecutar las tareas que tú les mandes y para poder ejecutar tus instrucciones.

50
00:07:55,250 --> 00:08:05,370
Los agentes tienen un cerebro y ese cerebro es el modelo. Sin el modelo los agentes no serían nada, no sabrían cómo utilizar las herramientas.

51
00:08:06,029 --> 00:08:14,250
Y por último, es importante el apartado de benchmarking, porque ¿cómo sabemos si un modelo es bueno o no para la ciberseguridad?

52
00:08:15,209 --> 00:08:18,269
Pues necesitamos evaluarlo, que es de lo que se encarga el benchmarking.

53
00:08:18,269 --> 00:08:32,850
Vale, bueno, ahora os voy a introducir un poco y contaros un poco cada uno de estos pilares en nuestra herramienta Cyber Security AI CAI.

54
00:08:33,070 --> 00:08:48,070
¿Qué es CAI? Vale, pues CAI es una herramienta que se encarga de implementar agentes basados en inteligencia artificial que automatizan tareas tanto ofensivas como defensivas.

55
00:08:48,269 --> 00:08:58,210
La ventaja que esto tiene es que lo hace de una manera, os mostraré un vídeo más adelante, pero lo hace bastante más rápido que lo que podríamos hacer nosotros.

56
00:08:58,210 --> 00:09:05,190
Es una herramienta de apoyo que nos va a servir para agilizar todo el proceso.

57
00:09:05,330 --> 00:09:11,889
Aquí tenéis un pequeño ejemplo en el que yo le pongo una instrucción, se llama User Prompt o Prompt de Usuario.

58
00:09:11,889 --> 00:09:26,009
Le digo, preséntate a los asistentes del Ciberjueves y el agente, mediante el modelo, me contesta, hola, asistentes del Ciberjueves, soy agente de equipo rojo de CAI y estoy listo para explotar sistemas.

59
00:09:26,850 --> 00:09:31,330
Este es un ejemplo bastante sencillo, pero para que veáis un poco cómo funciona.

60
00:09:31,330 --> 00:09:37,110
Otro de los ejemplos que podéis decirle, miráis, hola, esta es mi página web

61
00:09:37,110 --> 00:09:44,210
Podrías realizarme una inspección de esta página para ver si encuentras vulnerabilidades

62
00:09:44,210 --> 00:09:48,370
Que es exactamente lo que hicimos nosotros al principio

63
00:09:48,370 --> 00:09:59,409
Le pusimos que si podía analizar nuestra propia web, ver las top 10 vulnerabilidades de ese año

64
00:09:59,409 --> 00:10:12,190
Y aquí veis como la herramienta misma va utilizando comandos de DIG, comandos de CUL, te va sacando los outputs de la herramienta y en base a eso va tomando unas decisiones u otras.

65
00:10:12,769 --> 00:10:24,470
Esto que estáis viendo aquí lo he ralentizado un poco para que seamos capaces de ver cómo funciona, pero va a una velocidad que ya os digo es humanamente casi ilegible.

66
00:10:24,470 --> 00:10:33,970
Bueno, me quería detener también un poco aquí porque os he hablado al inicio de Pentes GPT

67
00:10:33,970 --> 00:10:47,730
en el que vimos cómo la IA servía para guiar a los humanos en el ambiente de ciberseguridad

68
00:10:47,730 --> 00:10:53,529
en el que los humanos le daban un problema, la IA le contestaba utiliza estas herramientas

69
00:10:53,529 --> 00:11:04,870
o hace estas cosas, estas pautas, el humano procesaba todos esos resultados, estas salidas y decidía si se lo volvía a preguntar a la IA o tomaba decisiones.

70
00:11:05,289 --> 00:11:16,289
Entonces fue donde pasamos a CAI, que CAI ya os he contado que es una manera un poco más autónoma en la que la IA planifica, actúa, tiene las herramientas para actuar,

71
00:11:16,289 --> 00:11:26,350
ya no somos nosotros los encargados de utilizar las herramientas, sino que es la IA, toma decisiones y cuando no sabe nada ya pregunta al humano.

72
00:11:26,509 --> 00:11:32,370
O sea, estamos ya en una fase en la que el humano guía a la IA, no es la IA la que guía al humano.

73
00:11:33,250 --> 00:11:42,809
Y en nuestro grupo de investigación nos preguntamos si podíamos llevar esto a otro nivel y si la IA era capaz de guiar a la IA.

74
00:11:43,610 --> 00:12:03,750
Entonces creamos unos gráficos de ataque y lo que hacíamos era con otro modelo diferente introducir estos gráficos de ataque y decir cuáles serían los caminos posibles y las mejores opciones que debería seguir nuestro modelo para obtener mejores resultados.

75
00:12:04,070 --> 00:12:08,710
Y todo eso se lo volvíamos a retroalimentar al modelo que teníamos inicialmente.

76
00:12:08,710 --> 00:12:23,049
Este estudio es un estudio un poco complicado y complejo de entender, pero bueno, dejo por ahí el QR del paper, que si estáis interesados, son 11, 12 páginas, pero merece la pena leer.

77
00:12:23,049 --> 00:12:30,929
Bueno, el siguiente pilar fundamental del scaffold son los agentes.

78
00:12:31,929 --> 00:12:50,909
Los agentes operan bajo este ciclo continuo que os pongo aquí, en el que piensan, actúan, utilizan herramientas como la consola, líneas de comandos, observan los resultados y van, pues eso, en un ciclo iterativo procesando.

79
00:12:53,049 --> 00:13:11,690
Entonces los agentes conseguimos darle un rol específico con el System Prom, mediante el Prom de Sistema. ¿Qué hacemos con el Prom de Sistema? Imaginaros que tenemos una biblioteca de libros súper grande y nosotros le decimos ¿qué tipo de planta es esta?

80
00:13:11,690 --> 00:13:16,330
Pues el agente va a mirar entre toda la librería que tiene para ver el tipo de planta que es.

81
00:13:16,970 --> 00:13:26,470
Pero si nosotros le decimos, estás especializado en la naturaleza, va a coger solo los libros que se dediquen a la naturaleza

82
00:13:26,470 --> 00:13:32,450
y va a ser bastante más rápido porque hemos acotado su conocimiento a solo eso.

83
00:13:32,870 --> 00:13:34,870
Entonces eso es lo que hacemos mediante el System Prom.

84
00:13:35,610 --> 00:13:40,409
Y aquí os podéis imaginar que con el System Prom podemos crear infinidad de agentes.

85
00:13:40,409 --> 00:13:57,429
Todos los que se os ocurran aquí os he puesto algunos ejemplos, por ejemplo, en el ámbito ciberdefensor o de respuesta a incidentes o de análisis de inteligencia de amenazas, vigilancia y cumplimiento de leyes, pero ya os digo, pueden ser un montón.

86
00:13:57,429 --> 00:14:02,470
ya os he comentado que no sirve de nada

87
00:14:02,470 --> 00:14:03,850
tener un buen agente y crear

88
00:14:03,850 --> 00:14:06,250
un buen system prompt si no tenemos

89
00:14:06,250 --> 00:14:07,070
un buen modelo

90
00:14:07,070 --> 00:14:09,450
el modelo es

91
00:14:09,450 --> 00:14:11,870
el cerebro de la gente

92
00:14:11,870 --> 00:14:14,110
os he puesto aquí

93
00:14:14,110 --> 00:14:16,549
pues los modelos

94
00:14:16,549 --> 00:14:18,129
que tenemos

95
00:14:18,129 --> 00:14:20,230
bueno a lo mejor esto un poco

96
00:14:20,230 --> 00:14:22,149
es actualizado porque hay alguno que

97
00:14:22,149 --> 00:14:24,289
ya se ha quedado un poco

98
00:14:24,289 --> 00:14:26,629
obsoleto pero estas son las principales compañías

99
00:14:26,629 --> 00:14:28,570
que se encargan

100
00:14:28,570 --> 00:14:34,269
a desarrollar modelos. Aquí me voy a detener y voy a hablar un poco de Alias Robotics,

101
00:14:34,269 --> 00:14:39,330
que ya os he dicho que es una empresa de Vitoria y europea, en la que ellos desarrollan

102
00:14:39,330 --> 00:14:46,409
una familia de modelos que se llama Alias y estos modelos están especializados en ciberseguridad.

103
00:14:47,009 --> 00:14:51,769
Los han entrenado con datos de ejercicios que hemos realizado nosotros mismos, incluso

104
00:14:51,769 --> 00:14:53,830
pen testers,

105
00:14:54,110 --> 00:14:55,750
bounders reales

106
00:14:55,750 --> 00:14:58,129
y profesionales

107
00:14:58,129 --> 00:14:59,190
y los han entrenado

108
00:14:59,190 --> 00:15:01,289
con esos datos.

109
00:15:01,990 --> 00:15:03,629
Tenemos Alias 2, que tiene

110
00:15:03,629 --> 00:15:05,789
grandes capacidades y que ha servido

111
00:15:05,789 --> 00:15:07,570
para instituciones gubernamentales

112
00:15:07,570 --> 00:15:08,990
como el Ministerio de Defensa

113
00:15:08,990 --> 00:15:11,389
y luego tenemos Alias 2 Mini,

114
00:15:11,590 --> 00:15:13,970
que es una versión más ligera de Alias 2

115
00:15:13,970 --> 00:15:15,190
que nos permite

116
00:15:15,190 --> 00:15:17,830
correr el modelo en nuestro propio

117
00:15:17,830 --> 00:15:20,049
ordenador. O sea, no necesitamos

118
00:15:20,049 --> 00:15:28,529
de hardware externo y lo podemos correr on-premise, se llama on-premise. Es importante saber si

119
00:15:28,529 --> 00:15:33,409
los modelos que estamos utilizando nos van a servir para ciberseguridad o no y por ello

120
00:15:33,409 --> 00:15:41,289
hay que evaluarlos mediante benchmarks. El siguiente pilar que os voy a hablar son los

121
00:15:41,289 --> 00:15:59,700
benchmarks. Bueno, y el benchmark que nosotros más utilizamos fue Kybench. Kybench es un

122
00:15:59,700 --> 00:16:06,659
método de evaluación que incluye otros benchmarks, o sea, es un benchmark de benchmarks de manera

123
00:16:06,659 --> 00:16:13,480
modular en el que tú puedes ir incluyendo benchmarks que te encuentres y sirve para

124
00:16:13,480 --> 00:16:19,759
evaluar modelos y agentes en el ámbito de ciberseguridad. Inicialmente los benchmarks

125
00:16:19,759 --> 00:16:26,279
se hacían mediante conocimiento, estos son los tres que empresas y laboratorios como

126
00:16:26,279 --> 00:16:33,539
OpenAI y Claudia han utilizado y poco a poco nos dimos cuenta que ya no valía solo saber

127
00:16:33,539 --> 00:16:39,419
de ciberseguridad, sino que los modelos tenían que ser capaces de utilizar herramientas y

128
00:16:39,419 --> 00:16:58,639
Y poder aplicar esos conocimientos a la práctica real. Y es donde surgió otro método de evaluarlos que es mediante CTFs. Para el que no lo sepa, un CTF es un pequeño ejercicio, un pequeño escenario de ciberseguridad especializado en un ámbito concreto.

129
00:16:58,639 --> 00:17:06,539
Por ejemplo, puede ser en criptografía o en análisis web o en forense, es como un ejercicio más reducido.

130
00:17:07,279 --> 00:17:13,660
Y ahí tenemos otros cuantos, el que utilizan por excelencia, como ya he dicho, grandes laboratorios es SciBench.

131
00:17:15,079 --> 00:17:25,599
Lo que pasa es que nos dimos cuenta que poco a poco los modelos iban siendo capaces de superar los 35 retos que nos podemos encontrar en SciBench.

132
00:17:25,599 --> 00:17:31,500
Entonces necesitábamos más retos, algo que fuese más difícil y más desafiante para los modelos.

133
00:17:31,980 --> 00:17:37,380
Y fue ahí donde nosotros creamos CTFs de ataque y defensa.

134
00:17:38,079 --> 00:17:45,460
Es como si tú tuvieses una máquina con una serie de vulnerabilidades y otro equipo tuviese la misma máquina.

135
00:17:46,079 --> 00:17:53,339
Entonces tu equipo tiene que atacar al otro equipo, pero defendiendo su propia máquina.

136
00:17:53,339 --> 00:18:00,099
Era como una dualidad que se puede dar un poco más a día de hoy en el mundo real, por así decirlo.

137
00:18:00,900 --> 00:18:13,779
Lo que pasa es que esto no dejaba de ser máquinas aisladas y creíamos que también necesitábamos que los modelos fuesen más allá y explorasen un rango más amplio con los cyber range.

138
00:18:13,779 --> 00:18:32,779
Un server range ya no es un CTF, no es solo un escenario, es una infraestructura como puede ser de una compañía con un montón de segmentos de redes en las que hay diferentes vulnerabilidades y tú tienes que ir intentando llegar a servidores concretos.

139
00:18:33,700 --> 00:18:53,140
Luego también hicimos un benchmark de privacidad, pero nos dimos cuenta que nadie considera la privacidad a día de hoy, que es uno de los principales problemas, porque tú cuando preguntas a HGPT cualquier cosa, tus datos están yendo automáticamente a los servidores de OpenAI.

140
00:18:53,140 --> 00:19:04,619
Y esto pasa prácticamente con cualquier modelo. Así que este benchmark se puede decir que está obsoleto porque a nadie le importa nuestra privacidad.

141
00:19:08,289 --> 00:19:11,809
Bueno, estos son un poco los resultados de los que hablaba, que nos fuimos fijando.

142
00:19:13,130 --> 00:19:22,069
Vimos que la mayoría de los modelos superaban el 70% de las preguntas de los benchmarks de conocimientos.

143
00:19:22,069 --> 00:19:29,390
Estas preguntas pueden ser de verdadero o falso, o de selección a la opción, o de rellena este apartado.

144
00:19:30,509 --> 00:19:35,849
Y entonces vimos que necesitábamos evaluarlo mediante CTFs.

145
00:19:36,450 --> 00:19:45,569
Aquí tenéis una evaluación que recorrí, bueno, no, unas cuantas, que hicimos de diferentes modelos con CYBENDS.

146
00:19:47,029 --> 00:19:51,710
Voy a fijarme un poco en la trayectoria de alias, porque se va a ver mejor.

147
00:19:52,069 --> 00:20:10,990
Inicialmente con Alias 0 veis que no conseguimos prácticamente ningún CTF, pero poco a poco, a medida que se iban mejorando los modelos, vamos consiguiendo más CTFs, hasta llegando a un punto de casi saturación.

148
00:20:10,990 --> 00:20:21,930
Esto ha pasado no solo con Alias, sino con todos los modelos. Si os fijáis aquí podéis ir viendo cómo GPT ha ido mejorando y Opus igual.

149
00:20:23,089 --> 00:20:35,569
Entonces ahí fue donde nosotros, si hacemos un cúmulo de todos los escenarios que son capaces de resolver, vimos que la curva era progresivamente hacia arriba.

150
00:20:35,569 --> 00:20:45,470
y vimos que para este año probablemente la mayoría de los modelos sean capaces de superar ese 80% de los benchmarks,

151
00:20:45,470 --> 00:20:49,029
que ahí podemos decir que están realmente saturados.

152
00:20:49,869 --> 00:20:54,410
Y fue donde surgió el concepto de Tiber Range Dinámicos,

153
00:20:54,890 --> 00:20:58,970
de no solo tener un atacante que busque una de las habilidades,

154
00:20:58,970 --> 00:21:08,349
sin incluir un defensor que evite que el atacante pueda ser un intruso en nuestro sistema.

155
00:21:08,730 --> 00:21:12,970
O sea, un defensor que detecte al atacante e intente evitarlo.

156
00:21:16,589 --> 00:21:21,130
Bueno, ya os he contado un poco cómo ha sido nuestra línea de investigación

157
00:21:21,130 --> 00:21:28,710
y ahora me podéis decir, pero María, ¿y esto cómo funciona o en realidad cómo se puede aplicar?

158
00:21:28,710 --> 00:21:35,829
porque se ha hablado así un poco de evaluaciones, de CTFs y demás, pero ¿para qué puede servirnos realmente esto?

159
00:21:36,509 --> 00:21:41,549
Bueno, voy a seguir hablando de CTFs, voy a ir de menos a más.

160
00:21:42,809 --> 00:21:49,210
Hemos participado también en competiciones de CTFs, ya a nivel un poco más global.

161
00:21:49,950 --> 00:21:55,829
Algunas de ellas son de una plataforma que es conocida, que es Hack the Box, no sé si alguno la conocéis.

162
00:21:55,829 --> 00:22:15,549
Entonces el primero en el que participamos fue en uno que sacaron de inteligencia artificial contra humanos y nos quedamos sorprendidos porque fuimos la primera IA en el top de IAS y quedamos por debajo de 24 equipos de humanos.

163
00:22:15,549 --> 00:22:34,630
O sea que en ese punto todavía los humanos nos ganaban, por así decirlo. Poco a poco fuimos pasando competiciones y llegamos a una competición de OT. Yo era la primera vez que trabajaba o que veía algo de OT.

164
00:22:34,630 --> 00:22:39,029
sí que es verdad que la empresa era una empresa de robótica

165
00:22:39,029 --> 00:22:42,130
pero no habíamos hecho más allá de casos aislados

166
00:22:42,130 --> 00:22:47,029
y me sorprendió porque conseguimos llegar al top 6

167
00:22:47,029 --> 00:22:51,730
y nos mantuvimos en el top 1 durante unas 2 o 3 horas

168
00:22:51,730 --> 00:22:58,069
o sea fue la verdad un shock porque dije

169
00:22:58,069 --> 00:23:02,349
no tengo realmente ni idea de OT y aquí estoy

170
00:23:02,349 --> 00:23:14,630
Haciendo escenarios de OT y resolviéndolos. Poco a poco, gracias a este CTF, aprendí bastante más de OT de lo que pensaba que iba a aprender.

171
00:23:15,250 --> 00:23:21,849
Esto es un poco para que veáis la línea temporal. Ah, bueno, espérate, que se me ha olvidado el más importante de todos, el último.

172
00:23:21,849 --> 00:23:45,369
En el último quedamos primeros. Conseguimos un premio de 50.000 euros. No nos llevó más de seis horas conseguir todos los retos. Y eso también, ahí ya dijimos, los TTFs están saturados para nosotros. Tenemos que pasarnos a otra cosa.

173
00:23:45,369 --> 00:24:01,529
Bueno, esta es la línea del tiempo de la que os comentaba, esa es la última que tuvimos, la que ganamos, que nada, en bastante poco tiempo conseguimos la mayoría de los retos.

174
00:24:01,529 --> 00:24:18,710
Y bueno, aquí tenéis un ejemplo de un challenge forense en el que tienes que analizar un backup y tienes que sacar la bandera, que la bandera es un correo electrónico.

175
00:24:18,710 --> 00:24:45,529
Y lo que está haciendo la gente es utilizar T-SAR, que es una herramienta para analizar paquetes de red. Y nada, encontró que uno de los principales host implicados era una IP que correspondía a una empresa que la buscó por Juiz y sacó el correo necesario para la bandera.

176
00:24:45,529 --> 00:24:55,059
No sé si, a ver, por donde, aquí está con el juicio y veis, saca aquí el correo necesario.

177
00:24:55,200 --> 00:24:56,920
Todo esto que estáis viendo es en tiempo real.

178
00:24:57,359 --> 00:25:02,220
O sea, esto que está pasando aquí es lo que nosotros vemos cuando ejecutamos el ejercicio.

179
00:25:02,339 --> 00:25:07,640
Evidentemente es complicado de entender qué está haciendo porque está lanzando muchos comandos a la vez.

180
00:25:08,240 --> 00:25:14,680
Y no eres, como humano no eres capaz de entender por qué está tomando esas decisiones tan rápido.

181
00:25:14,680 --> 00:25:27,500
Y nada, finalmente por lo menos te pone un resumen de todo lo que ha hecho y aquí tú le podrías decir, vale, creo que este no es el correo, por favor, continúa explotando otras vías o otros caminos.

182
00:25:27,920 --> 00:25:32,960
Pero ya habéis visto, ha tardado menos de un minuto, puede ser, en sacarlo.

183
00:25:35,720 --> 00:25:40,000
Bueno, hasta aquí, como os he dicho, todo esto eran juegos.

184
00:25:40,900 --> 00:25:44,160
Poco a poco fuimos incrementando los niveles.

185
00:25:44,160 --> 00:26:03,099
Y llegamos a programas de bug bounties. No sé si sabéis lo que son, pero son plataformas donde las empresas publican sus webs o sus IPs y les dicen, oye, mira, me gustaría que intentaran a ver si encuentran alguna vulnerabilidad para poder corregirla.

186
00:26:03,099 --> 00:26:06,700
Y si la encuentran, pues les voy a dar una pequeña cantidad económica.

187
00:26:07,700 --> 00:26:17,200
Y nada, pues inicialmente empezamos nosotros como no expertos, como personas que no habían participado nunca en programas

188
00:26:17,200 --> 00:26:21,559
ni de HackerOne, ni de Backroad, ni de ninguna empresa de Baubantis.

189
00:26:22,480 --> 00:26:29,079
Y fuimos capaces de encontrar seis vulnerabilidades en diferentes plataformas.

190
00:26:29,079 --> 00:26:34,119
todas las vulnerabilidades fueron confirmadas por las plataformas

191
00:26:34,119 --> 00:26:38,339
lo que pasa que ellos tienen un sistema de duplicación

192
00:26:38,339 --> 00:26:43,720
entonces si ya alguien ha reportado esa vulnerabilidad

193
00:26:43,720 --> 00:26:44,940
no te la van a dar a ti

194
00:26:44,940 --> 00:26:48,220
entonces no conseguimos ningún tipo de premio económico

195
00:26:48,220 --> 00:26:51,880
pero bueno, por lo menos conseguimos ver

196
00:26:51,880 --> 00:26:55,279
que éramos capaces nosotros como usuarios no profesionales

197
00:26:55,279 --> 00:26:58,720
de encontrar estas vulnerabilidades

198
00:26:58,720 --> 00:27:17,099
Después de este experimento que hicimos nosotros, decidimos llamar a vagantes profesionales, a gente que se dedicaba realmente a eso, a ver si eran capaces con nuestra herramienta de que por lo menos su trabajo fuese más rápido.

199
00:27:18,099 --> 00:27:26,200
Ellos también encontraron vulnerabilidades, todas confirmadas, y una de ellas creo que sí que nos dieron una pequeña cantidad económica.

200
00:27:26,200 --> 00:27:30,839
lo que más sacamos de todo esto fue el feedback que nos dieron

201
00:27:30,839 --> 00:27:37,400
nos dijeron que se habían quedado impresionados de lo que eran capaces de hacer la IA

202
00:27:37,400 --> 00:27:44,200
y alguno de ellos inicialmente sí que era un poco reticente a utilizar la herramienta

203
00:27:44,200 --> 00:27:46,660
porque no creían en la inteligencia artificial

204
00:27:46,660 --> 00:27:49,220
porque pensaba que nos iba a quitar el trabajo

205
00:27:49,220 --> 00:27:52,200
pero no, lo que va a hacer es facilitarnoslo

206
00:27:52,200 --> 00:28:07,759
Y nada, bueno, os voy a enseñar un vídeo de ejemplo en el que se detectaba una vulnerabilidad en la que se podía enumerar usuarios.

207
00:28:08,000 --> 00:28:18,440
Entonces aquí le estamos diciendo que si puede explotarlo, está utilizando herramientas como Curl y demás para poder explotar esta vulnerabilidad.

208
00:28:18,440 --> 00:28:28,299
Ya os digo, esto va a una velocidad que no eres capaz de entender cómo está trabajando o cómo está yendo tan rápido.

209
00:28:28,519 --> 00:28:32,140
Pero bueno, luego los resultados son positivos.

210
00:28:33,960 --> 00:28:45,539
Pasando de ya un poco los juegos, vamos a un nivel un poco más no profesional, pero más dañino, por así decirlo.

211
00:28:45,539 --> 00:28:59,640
vimos si intentamos crear un agente de ingeniería social, a ver si la IA era capaz de hacer ingeniería social con personas como nosotros.

212
00:29:01,200 --> 00:29:10,740
Evidentemente todo esto bajó el principio de no hacer daño autorizado por las empresas con las que lo hicimos y de manera confidencial.

213
00:29:10,740 --> 00:29:22,500
Todos los datos que obteníamos los anonimizábamos para los reportes y demás. Era eso, un principio dentro de un marco ético.

214
00:29:24,839 --> 00:29:38,759
Hicimos dos campañas en LinkedIn, luego intentamos amplificar estas campañas a múltiples plataformas, conseguimos que la gente fuese capaz de manejar WhatsApp a través de un dispositivo móvil.

215
00:29:38,759 --> 00:29:45,980
luego también crear cuentas de correo en Instagram, en Reddit, en Twitter, en Discord

216
00:29:45,980 --> 00:29:50,720
la mayoría de las plataformas que a día de hoy usamos nosotros

217
00:29:50,720 --> 00:29:55,680
todo esto lo conseguimos hacer con un agente de ingeniería social

218
00:29:55,680 --> 00:30:01,319
que trabaja bajo este ciclo que estáis viendo, este proceso automatizado

219
00:30:01,319 --> 00:30:07,460
para que os hagáis a la idea de la importancia del System Prompt

220
00:30:07,460 --> 00:30:24,119
Nuestro agente de ingeniería social tenía 1.500 líneas de texto. O sea, no es solo decirle estás especializado en defensa. No, no, 1.500 líneas de texto.

221
00:30:24,119 --> 00:30:32,880
O sea, la ingeniería de PROM yo creo que a futuro también va a ser una nueva oposición que salga al mercado laboral.

222
00:30:33,700 --> 00:30:38,980
Bueno, os voy a explicar un poco el ciclo y el proceso automatizado que seguía nuestra gente.

223
00:30:40,240 --> 00:30:46,180
Inicialmente le poníamos una instrucción de nos gustaría hacer una campaña hacia esta empresa.

224
00:30:47,299 --> 00:30:50,799
Y él hacía un reconocimiento y un mapeo de las redes sociales.

225
00:30:50,799 --> 00:30:56,279
veía cómo se comunicaban entre ellos para utilizar el mismo tono, el mismo lenguaje,

226
00:30:57,700 --> 00:31:03,480
hacía una visión de cómo era la estructura, quién era el director, el CEO,

227
00:31:04,039 --> 00:31:08,839
un poco la estructura que puede tener una empresa y seleccionaba una serie de objetivos.

228
00:31:08,960 --> 00:31:16,200
Quien creía que eran los más importantes o los objetivos más importantes a los que se podía atacar.

229
00:31:16,200 --> 00:31:27,420
Después de eso pasaba la creación de identidad, donde ahí desplegaba un perfil falso en la plataforma que le pidiéramos.

230
00:31:27,420 --> 00:31:36,759
En este caso iniciamos con LinkedIn y ahí creaba tanto la biografía como la imagen, el banner, todo.

231
00:31:37,880 --> 00:31:41,960
La verdad que nosotros también nos quedamos sorprendidos de lo que era capaz de hacer.

232
00:31:41,960 --> 00:31:49,400
Así que es verdad que este proceso era un poco más lento porque la creación de imágenes no iba tan rápido como nos gustaría, pero lo conseguía.

233
00:31:49,779 --> 00:31:56,119
Y ya finalmente el siguiente paso era contactar con las víctimas o con los objetivos.

234
00:31:56,119 --> 00:32:15,880
Y ahí establecía una primera conversación para establecer confianza con la víctima y ya enviaba un mensaje de una URL que creaba él también para extraer datos.

235
00:32:15,880 --> 00:32:25,119
En este caso, los datos que extraíamos eran solo la IP y el user agent que estaba utilizando en ese momento el usuario.

236
00:32:25,539 --> 00:32:31,720
Porque, como ya hemos dicho, a la gente dentro de ese system prompt que hicimos, le dijimos que queríamos principios éticos,

237
00:32:31,900 --> 00:32:40,319
que no queríamos causar ningún tipo de daño a las víctimas, entonces simplemente queríamos tener como algo de confirmación de que había clicado nuestro link,

238
00:32:40,319 --> 00:32:45,720
pero no queríamos ningún tipo de ejecución de malware ni nada.

239
00:32:45,880 --> 00:32:51,059
Solo queríamos datos que nos permitiesen saber a nosotros si había clicado o no.

240
00:32:51,880 --> 00:33:01,079
Y como os podéis imaginar, notamos todo el día con el móvil, entonces no vas a ser instantáneo, no te voy a mandar un mensaje y me vas a contestar.

241
00:33:01,539 --> 00:33:13,319
La gente tenía que tener un poco de paciencia, que eso es lo que más nos costó, para poder monitorear continuamente y estar pendiente de si le llegaban notificaciones, si nos contestaban a los mensajes, si no.

242
00:33:13,319 --> 00:33:21,240
y bueno pues ahora os voy a enseñar algunos de los ejemplos

243
00:33:21,240 --> 00:33:27,660
estos son mensajes que pues tanto de Twitter como de Discord que mandó el agente

244
00:33:27,660 --> 00:33:32,059
nos sorprendió porque en Discord mediante contestar a los usuarios

245
00:33:32,059 --> 00:33:34,500
los usuarios ganaban confianza con nosotros

246
00:33:34,500 --> 00:33:39,720
conseguimos alcanzar hasta nivel 4 en el servidor de 7 niveles que había

247
00:33:39,720 --> 00:33:52,119
Y nada, estuvimos cuatro o cinco días simplemente ayudando a usuarios, contestándoles y nada, os voy a enseñar un pequeño vídeo demostrativo de cómo la gente funciona en Instagram.

248
00:33:52,279 --> 00:34:04,480
Evidentemente es un vídeo demostrativo, simplemente está haciendo actividad orgánica, no vamos a mandar mensajes ni nada por tema de privacidad.

249
00:34:04,480 --> 00:34:15,480
Pero aquí veis cómo la gente está simplemente pensando, va dando likes a publicaciones. También le dijimos que si podía subir una publicación, que yo creo que lo hará ahora.

250
00:34:18,889 --> 00:34:27,030
Entonces eso, veis así un poco cómo funciona y que es capaz de manejar redes sociales y diferentes plataformas.

251
00:34:27,030 --> 00:34:36,489
Como lo ha conseguido hacer con Instagram, ya os digo, lo conseguimos hacer con LinkedIn, con Discord, con Twitter, con WhatsApp, Telegram también.

252
00:34:37,530 --> 00:34:45,849
O sea que, bueno, y estos son los resultados que obtuvimos de la campaña de LinkedIn.

253
00:34:46,889 --> 00:34:54,909
Hicimos dos campañas, una a una empresa privada, un poco más pequeña, nos dimos cuenta que el problema que teníamos,

254
00:34:54,909 --> 00:35:02,070
por eso tardamos tanto tiempo, tardamos 10 días en hacer esta campaña, era que no nos contestaban porque no eran tan activos en redes sociales.

255
00:35:02,329 --> 00:35:15,769
Entonces, a pesar de que enviamos la URL maliciosa a 6 personas y 5 nos la clicaron, queríamos ver si éramos capaces de hacer esto más rápido.

256
00:35:15,769 --> 00:35:35,190
Y conseguimos una administración pública que nos aceptase participar, fuera así decirlo, y sí que es verdad que esta campaña duró solo tres días y en tres días conseguimos que tres personas nos clicasen el link.

257
00:35:35,190 --> 00:35:47,530
Aquí tenéis un ejemplo de lo que, este es el perfil que creó el modelo y estas son algunas de las conversaciones que hemos tenido en LinkedIn.

258
00:35:48,809 --> 00:36:02,570
No conocíamos de nada a esta chica, pero le dijo que había rellenado la encuesta y que le parecía muy interesante la encuesta que había creado la propia.

259
00:36:02,570 --> 00:36:12,329
Y ese de ahí es el mensaje que nos llegaba a nosotros, que metimos un canario y token en la URL para obtener la IP que la he pixelado.

260
00:36:13,050 --> 00:36:17,170
Y ahí abajo veis el agente de usuario que estaba utilizando en ese momento.

261
00:36:18,789 --> 00:36:28,969
No solo se puede aplicar la IA a cosas ofensivas, como os acabo de enseñar, sino que también se puede aplicar para casos defensivos.

262
00:36:28,969 --> 00:36:57,369
No sé si alguno ha oído hablar de LOXILS o sabéis lo que es, pero es un ejercicio de ciberdefensa a nivel internacional organizado por la OTAN, en el que participan 41 países que se dividen en equipos y más o menos este año creo que éramos 15 equipos, 15 o 21, no me acuerdo.

263
00:36:58,969 --> 00:37:11,750
¿Y en qué consistía este ejercicio? Teníamos un país, o sea, habían generado un conflicto bélico y se habían supuesto una guerra cibernétrica entre dos países.

264
00:37:13,050 --> 00:37:23,650
El país que atacaba en este caso tenía un nombre, pero era Estonia, los de allí nos atacaban al resto y nosotros teníamos que defender nuestro país.

265
00:37:23,650 --> 00:37:42,349
Todos los equipos teníamos la misma infraestructura, pero era una infraestructura realista, o sea, teníamos redes eléctricas, redes de comunicaciones, satélites, 5G, prensa, un montón de... pues toda la infraestructura que puede tener un país, la infraestructura crítica de un país.

266
00:37:42,349 --> 00:37:53,869
Por primera vez se utilizó la inteligencia artificial en este ejercicio y tuvo resultados bastante positivos

267
00:37:53,869 --> 00:38:03,010
Yo en concreto me encontraba en el equipo de AWS y pudimos detectar como nos estaban atacando en tiempo real

268
00:38:03,010 --> 00:38:10,329
y bloquear, la única opción que nos quedó era bloquear la IP para que no nos hackearan el servidor

269
00:38:10,329 --> 00:38:22,010
Fue un ejercicio que a mí me gustó mucho porque vimos que realmente tenía aplicación defensiva

270
00:38:22,010 --> 00:38:28,130
porque hasta ahora siempre nos habíamos enfocado a utilizar la IA de manera ofensiva

271
00:38:28,130 --> 00:38:33,530
pero por primera vez vimos que esto de verdad tenía utilidad defensiva

272
00:38:33,530 --> 00:38:46,969
Y bueno, también os quiero contar otros casos de uso que le hemos dado a esto que se puede también aplicar.

273
00:38:47,909 --> 00:38:56,489
El primer caso es de una infraestructura crítica de una subestación eléctrica de Vero Energy

274
00:38:56,489 --> 00:39:03,969
Y el problema surge cuando un desarrollador elimina una comprobación de autorización.

275
00:39:04,489 --> 00:39:11,250
Había autenticación, pero no autorización, ya que se consideraba que se hacía en otra parte y que no era perjudicial.

276
00:39:13,429 --> 00:39:20,130
Decidimos aplicar, utilizar CAI y aplicarlo al código y ahí vimos este problema.

277
00:39:20,130 --> 00:39:40,309
Entonces nos surgió la idea de, ¿podemos hacer que antes de tomar esa decisión errónea de eliminar una línea de código y pasarla a producción, podemos intentar evitar que se pase a producción y que se continúe en desarrollo hasta que esto sea arreglado?

278
00:39:40,309 --> 00:39:59,969
Y ahí fue cuando vimos que podíamos integrar CAI en GitLab, en las pipelines de GitLab, que son como una especie de tuberías que antes de pasar a producción tu página web o el código que estés haciendo, pasa por una serie de test.

279
00:39:59,969 --> 00:40:12,949
Entonces en esos test nos dimos cuenta que podíamos meter nuestra herramienta de inteligencia artificial para apoyarnos y ver si había algún tipo de vulnerabilidad en el código y corregirlo.

280
00:40:13,349 --> 00:40:20,250
Entonces si encontraba alguna vulnerabilidad lo mandaba otra vez a desarrollo y si no ya se pasaba a producción.

281
00:40:21,250 --> 00:40:44,550
También otro de los casos de estudio que hicimos fue unificar CAI ya no solo en GitLab sino en Unsock. Unsock es una herramienta que se encarga de recibir alertas de seguridad y las alertas no necesariamente son vulnerabilidades, entonces hay que comprobar si son explotables o no.

282
00:40:44,550 --> 00:41:00,409
Ese proceso de filtrar esas alertas es un poco tedioso y decidimos utilizar CAI a ver si nos facilitaba y nos ayudaba a ver si realmente esas alertas que nosotros estábamos recibiendo eran vulnerabilidades para nosotros.

283
00:41:00,409 --> 00:41:11,389
vimos que nos servía, que realmente cuando se detectaba una alerta analizaba si era vulnerabilidad o no

284
00:41:11,389 --> 00:41:20,070
y de forma controlada intentaba reducirla y entonces decidimos por qué no unir esto con la gestión de riesgos y cumplimiento

285
00:41:20,070 --> 00:41:31,670
y con pentesting automatizado. Entonces, una vez detectada una amenaza, las capacidades ofensivas detectan si se puede explotar o no

286
00:41:31,670 --> 00:41:41,510
y los resultados se relacionan con la gestión de riesgos y cumplimiento. Y de esa forma se puede como hacer un ciclo de seguridad.

287
00:41:41,510 --> 00:42:00,369
Y por último, el último de los casos, era simular el comportamiento de un atacante. Utilizamos las diferentes técnicas de Mitre para ver si se podía simular un atacante y si esas técnicas nos afectaban a nosotros.

288
00:42:01,349 --> 00:42:12,570
De esa forma tenemos como un ciclo completo en el que podemos analizar las vulnerabilidades, ver si realmente son explotables o no,

289
00:42:13,750 --> 00:42:22,530
securizarlas y luego estar en un monitoreo continuo simulando ataques y haciendo pentesting a tu propia infraestructura.

290
00:42:22,530 --> 00:42:50,230
Y bueno, estos son los cuatro o cinco más importantes casos de uso que hemos visto para la presentación, tienen muchos más de ellos, hay algunos de robótica, si estáis interesados en robótica, están en la página web de la empresa, pero ya os digo, es que esta herramienta y la IA en ciberseguridad tiene un montón de aplicaciones.

291
00:42:50,230 --> 00:43:07,570
Y bueno, ya para acabar me gustaría recapitular un poco lo que os he ido comentando a lo largo de la sesión y que a lo mejor os habéis olvidado ya lo que os he dicho al principio.

292
00:43:07,570 --> 00:43:17,389
Bueno, las amenazas son cada vez más rápidas y necesitamos respuestas y defensas más rápidas.

293
00:43:19,110 --> 00:43:33,369
Para ello necesitamos entender que la IA ha venido para quedarse y que nos va a ayudar a dar estas respuestas rápidas que necesitamos.

294
00:43:33,369 --> 00:43:50,789
Y además, si a la IA le especializamos en una tarea defensiva o en una tarea ofensiva, va a funcionar bastante mejor. O sea, ya no es solo un simple agente, sino que es un actor automatizado.

295
00:43:50,789 --> 00:44:05,690
Y nada, muchas gracias por haberme escuchado. Espero que os haya gustado la presentación. Gracias de nuevo a todo el equipo y a vosotros por asistir.

296
00:44:13,599 --> 00:44:19,880
Muchas gracias María, muchas gracias. A mí me ha encantado todo menos una cosa en la que discrepo.

297
00:44:19,880 --> 00:44:23,360
ha dicho que a la hora de usar la inteligencia artificial

298
00:44:23,360 --> 00:44:26,260
nadie se preocupa por nuestra privacidad

299
00:44:26,260 --> 00:44:29,179
nadie

300
00:44:29,179 --> 00:44:29,659
nosotros

301
00:44:29,659 --> 00:44:33,380
la plataforma educativa de la Comunidad de Madrid

302
00:44:33,380 --> 00:44:35,300
que ofrece modelos de IA

303
00:44:35,300 --> 00:44:37,579
alojados en local donde nuestro principal

304
00:44:37,579 --> 00:44:39,360
interés

305
00:44:39,360 --> 00:44:41,079
es mantener la privacidad de los usuarios

306
00:44:41,079 --> 00:44:43,280
y no solo eso, también disponemos

307
00:44:43,280 --> 00:44:45,380
de MAX, un sistema operativo

308
00:44:45,380 --> 00:44:47,400
orientado a

309
00:44:47,400 --> 00:44:49,260
educación, pero para cualquier ciudadano

310
00:44:49,260 --> 00:44:54,860
que permite desarrollar la competencia digital en local, incluso con herramientas de inteligencia artificial en local.

311
00:44:55,360 --> 00:44:57,139
Y todo gratuito y basado en software libre.

312
00:44:59,159 --> 00:45:01,900
Esa es la pequeña matización. Muchas gracias.

313
00:45:02,519 --> 00:45:06,260
Y como se ha ceñido muy bien al tiempo, tenemos tiempo de hacer preguntas.

314
00:45:07,880 --> 00:45:14,460
Así que seguro que alguien por aquí está pensando. Bien, perfecto.

315
00:45:14,460 --> 00:45:21,199
Bueno, lo primero, me ha encantado

316
00:45:21,199 --> 00:45:22,400
la exposición

317
00:45:22,400 --> 00:45:25,300
me ha surgido ahora mismo

318
00:45:25,300 --> 00:45:26,880
una duda

319
00:45:26,880 --> 00:45:28,500
que tengo curiosidad, porque

320
00:45:28,500 --> 00:45:31,059
todo el tema de la ciberseguridad

321
00:45:31,059 --> 00:45:33,260
se basa en empresas

322
00:45:33,260 --> 00:45:34,739
empresas por aquí

323
00:45:34,739 --> 00:45:36,340
que la atacan, que se defiende

324
00:45:36,340 --> 00:45:39,280
pero, ¿y qué pasa con los usuarios

325
00:45:39,280 --> 00:45:41,199
domésticos, las redes domésticas

326
00:45:41,199 --> 00:45:43,059
de seguridad? Yo creo que ahí

327
00:45:43,059 --> 00:45:45,179
falta seguridad

328
00:45:45,179 --> 00:45:47,719
por apatadas, algo gigantesco

329
00:45:47,719 --> 00:45:49,320
entonces quería

330
00:45:49,320 --> 00:45:50,980
preguntar si conoces algo

331
00:45:50,980 --> 00:45:53,000
alguna iniciativa

332
00:45:53,000 --> 00:45:55,139
o cualquier cosa, incluso pequeñas empresas

333
00:45:55,139 --> 00:45:56,619
que a lo mejor no se pueden permitir

334
00:45:56,619 --> 00:45:58,719
presupuestos grandes

335
00:45:58,719 --> 00:46:00,440
justo de lo que os acabo de hablar

336
00:46:00,440 --> 00:46:02,619
es un proyecto

337
00:46:02,619 --> 00:46:04,840
open source que está abierto al público

338
00:46:04,840 --> 00:46:06,460
está publicado en

339
00:46:06,460 --> 00:46:08,579
Github, sí que es verdad que

340
00:46:08,579 --> 00:46:10,400
si no eres técnico

341
00:46:10,400 --> 00:46:12,500
a lo mejor necesitas

342
00:46:12,500 --> 00:46:20,139
un poco más de conocimientos de cómo saber utilizarlo, pero con esta herramienta puedes instalártela en el ordenador

343
00:46:20,139 --> 00:46:26,599
y correrla en tu propia red local. Puedes decir, oye, analízame las vulnerabilidades que puedas encontrar en mi red

344
00:46:26,599 --> 00:46:34,639
o estás conectado a mi red, intenta ver si hay algún atacante dentro de mi red o demás.

345
00:46:34,639 --> 00:46:59,599
Esto es verdad que os he explicado que el modelo es el cerebro, entonces necesitarías un modelo tampoco potente, pero que por lo menos fuese un poco más capaz. Hay modelos libres, como puede ser QWEN, en plataformas como Hugging Face y mediante Oyama se puede conectar con la herramienta, pero ya te digo, es un poco más técnico.

346
00:47:09,289 --> 00:47:12,730
Hola María, muchas gracias y ha estado muy bien la presentación.

347
00:47:13,309 --> 00:47:20,550
Yo te quería hacer una pregunta, que lo hemos visto así que casi todo el mundo ha hecho foto, porque quedan muy bonitas las tools que has sacado.

348
00:47:20,550 --> 00:47:33,210
Pero yo te quería preguntar, en CAI, ¿cómo habéis visto la diferencia del tipo de modelo con las tools que utilizáis en la agéntica para ver cómo han pasado todos estos ETFs, etc.?

349
00:47:33,210 --> 00:48:01,469
Al principio empezamos a hacer, bueno, no sé, bueno, tools específicas, o sea, por ejemplo, para análisis de red, pues utilizábamos T-SAR, entonces creamos una herramienta específica, como que lo especificamos todo mucho, y nos dimos cuenta que le estábamos poniendo puertas al campo, que realmente el modelo lo que quería era trabajar por libre, que no entendía los parámetros que le estábamos poniendo.

350
00:48:01,469 --> 00:48:11,550
Entonces creamos una herramienta que era Generics Linux Command Tool y utilizaba esa herramienta que contiene todos los comandos de Linux.

351
00:48:11,909 --> 00:48:20,750
O sea, le dejábamos a Zulilby Alverdío que él mismo eligiese los parámetros que consideraba necesarios.

352
00:48:21,650 --> 00:48:22,389
Muchas gracias.

353
00:48:27,030 --> 00:48:31,090
Muchas gracias porque la verdad es que está increíble la presentación, me ha gustado mucho.

354
00:48:31,090 --> 00:48:33,869
mi pregunta es un poco como

355
00:48:33,869 --> 00:48:35,610
pensando en el futuro

356
00:48:35,610 --> 00:48:38,250
y la alarma que al final genera

357
00:48:38,250 --> 00:48:38,789
todo esto

358
00:48:38,789 --> 00:48:42,110
porque está bien que lo utilicemos

359
00:48:42,110 --> 00:48:44,090
nosotros pero cuando lo usen los malos

360
00:48:44,090 --> 00:48:46,010
pues ya sabemos que va a pasar

361
00:48:46,010 --> 00:48:47,670
como tú has comentado que

362
00:48:47,670 --> 00:48:49,789
los ataques cada vez van a ser más rápidos

363
00:48:49,789 --> 00:48:51,429
las vulnerabilidades se van a encontrar antes

364
00:48:51,429 --> 00:48:52,710
se van a explotar antes y tal

365
00:48:52,710 --> 00:48:54,750
entonces la pregunta es un poco que

366
00:48:54,750 --> 00:48:57,570
a lo mejor no me puedes responder

367
00:48:57,570 --> 00:48:58,670
no lo sé pero

368
00:48:58,670 --> 00:49:12,130
Pero cuando se empiecen a aplicar a modelos muy potentes de frontera, como por ejemplo el nuevo GPT-6 Astra y los últimos de Antropic, ¿cómo lo vamos a hacer?

369
00:49:12,429 --> 00:49:25,730
O sea, es como, lo veo como súper complicado por la inversión que tiene de dinero esas empresas cuando lo empiecen a utilizar los malos para el mal y dejar que las agentes ataquen por sí mismos.

370
00:49:25,730 --> 00:49:38,949
O sea, a ver, es verdad que, por ejemplo, compañías como Anthropic recientemente lanzó un modelo que aparentaba ser súper potente para la ciberseguridad, pero dijo que no lo iba a abrir al público por ese mismo motivo.

371
00:49:38,949 --> 00:49:45,309
que si alguna empresa quería contactarle para pues empresas ya más nivel

372
00:49:45,309 --> 00:49:53,469
Ministerio de Defensa y órganos públicos que si querían contactarles para ello

373
00:49:53,469 --> 00:49:58,130
que a lo mejor sí que podían darles el modelo pero que no lo iban a hacer público

374
00:49:58,130 --> 00:50:03,130
por ese mismo motivo porque es que cada vez esto va siendo más peligroso

375
00:50:03,769 --> 00:50:06,210
y hace unos días tuve una llamada con David y le comenté

376
00:50:06,210 --> 00:50:13,050
Mira, pues hicimos un estudio de que cada vez los atacantes están utilizando más la inteligencia artificial.

377
00:50:13,789 --> 00:50:20,670
Entonces, la ingeniería de adversario que utilizamos para clasificar las diferentes APTs, por ejemplo,

378
00:50:21,550 --> 00:50:27,250
vimos que poco a poco se va a romper porque gracias a la IA tú puedes decir,

379
00:50:27,449 --> 00:50:32,849
quiero que me simules un ataque como si fuese este APT y utilizar las tácticas técnicas y procedimientos

380
00:50:32,849 --> 00:50:40,269
que utilizan esos grupos y así no parecer que tú eres otro adversario.

381
00:50:41,210 --> 00:50:45,849
Entonces, poco a poco hay que ir, o sea, si queremos que no nos pillen,

382
00:50:47,150 --> 00:50:52,090
hay que aplicar también la inteligencia artificial a la defensa, es muy importante.

383
00:50:56,519 --> 00:51:00,139
Bueno, muchas gracias María, la verdad es que me ha encantado, yo creo que ha gustado a todo el mundo.

384
00:51:01,199 --> 00:51:04,980
Acerca de eso, lo que estabas hablando que se denomina Mitre Attack,

385
00:51:04,980 --> 00:51:13,079
normalmente, bueno, hay más marcos, ¿cuál es tu opinión del valor actual de Mitre Attack o de aquí a fin de año?

386
00:51:13,179 --> 00:51:18,139
Es decir, ¿Mitre Attack va a seguir siendo válido o literalmente está roto?

387
00:51:18,980 --> 00:51:27,219
A ver, creo que es válido a nivel de las tácticas, los procedimientos, o sea, al final es un framework muy amplio

388
00:51:27,219 --> 00:51:33,179
y te da, pues eso te resume muy bien cómo es las diferentes fases del ciclo de ciberseguridad,

389
00:51:33,179 --> 00:51:46,699
las diferentes tácticas que puedes aplicar. El problema es que la asignación que hacen ellos de adversarios, esa parte yo creo que en el futuro va a cambiar.

390
00:51:47,500 --> 00:52:01,639
Por lo que te digo, porque si tú puedes simular que eres X grupo y en realidad eres otro, al final esa asignación que está haciendo mediante esas tácticas, procedimientos, no va a ser posible.

391
00:52:01,639 --> 00:52:22,139
A lo que voy es que una IA preparada para el ataque lo que va a hacer es aprender del propio Mitre Attack y dice, bueno, voy a crearme unos IOCs, unos indicadores de compromiso, que directamente los voy a falsificar. En lugar de meter carácteres irílicos para que parezca un modelado de un ataque, un APT ruso, le estoy metiendo asiático para que parezca que soy chino.

392
00:52:22,139 --> 00:52:32,199
Y parte de todo eso, ¿no? Con lo cual hay, bueno, quién es quién. Esto ya no es falsa bandera, es bandera inexistente porque no puedes determinar de dónde viene.

393
00:52:33,000 --> 00:52:38,460
Luego, referente a otro tema que se comentaba, efectivamente esto en malas manos es un problema.

394
00:52:39,159 --> 00:52:55,360
Entiendo que desde el punto de vista empresarial para el modelo concreto de aquí de Alias, pues se venderá únicamente a instituciones concretas documentando que perteneces a fuerzas de seguridad del Estado, que eres un organismo concreto y tal.

395
00:52:55,360 --> 00:53:11,659
Pero esto no quiere decir que los malos tengan sus propios modelos. En la dark web se está vendiendo un modelo, no recuerdo el número de bitcoins, que se llama Lucifer, algo así más o menos, que viene a hacer algo para prácticamente atacar.

396
00:53:11,659 --> 00:53:32,400
Estudame una URL que ya me dedico yo a preparar las campañas de phishing, de ver los leaks, de ver cómo hago una campaña de lo que sea, de crear usuarios clonados que parezcan estos los perfiles de LinkedIn, de recopilar información, de buscar el mail personal y el mail de empresa de esta persona para hacerle creer.

397
00:53:32,400 --> 00:53:57,940
Quiero decir que es un tema realmente complicado, con lo cual aquí lo que hay que hacer es una preparación para las ideas defensivas. Y esto también pregunto tu opinión. ¿Qué va a pasar en 2028? A 2027 todavía le doy un poco de tiempo, pero te hablo de 2028. ¿Cualquier empresa o administración pública que no tenga ideas defensivas?

398
00:53:57,940 --> 00:54:09,059
Yo creo que no van a existir, o sea, necesitamos realmente, ya estamos viendo que los atacantes están utilizando la IA

399
00:54:09,059 --> 00:54:13,460
entonces necesitamos por lo menos ponernos a su nivel de respuesta

400
00:54:13,460 --> 00:54:20,980
porque si no tenemos la misma rapidez con la que ellos nos atacan de defensa, no podemos hacer nada

401
00:54:20,980 --> 00:54:39,980
O sea, necesitamos que para 2028 todas las empresas, todos los organismos tengan esa defensa de inteligencia artificial incluida en su infraestructura, porque es que si no, no van a existir.

402
00:54:39,980 --> 00:54:50,099
Otra pregunta más. Bueno, hay una película de 1983 que se llama War Games. Viene a ser un poco lo que has estado hablando, los ejercicios Luxils.

403
00:54:52,000 --> 00:55:02,980
Si tú le das a esos ejercicios un control excesivo de la IA, que además esos ejercicios son para en algún momento llevarlo a un mundo real, por decirlo así,

404
00:55:02,980 --> 00:55:22,920
¿Qué pasa si esa IA estima que al final, bueno, voy a disparar un par de misiles porque creo que es la opción mejor, quiero decir, en estos ejercicios la IA cuando se usa, entiendo que tiene unos guardarraíles muy concretos, se le limita mucho.

405
00:55:22,940 --> 00:55:28,300
Sí, eso está ejecutado dentro de un sandbox, un marco de trabajo del que no se puede salir.

406
00:55:28,300 --> 00:55:51,739
No se puede salir, pero ¿y si se sale porque estima que lo ha adecuado para eso? Es decir, uno de los problemas que vio con la, bueno, lo que dice la noticia es que se le ha dado un objetivo a esa IA, que en teoría esa IA estaba dentro de unas regulaciones y al final él ha calculado que, bueno, pero si esta regulación con esto o la otra, no sé qué, es como si no infringiera nada y me la asalto.

407
00:55:51,739 --> 00:56:01,719
Es decir, como si buscara formas jurídicas, legales, para hacer una cosa que no queremos que haga. ¿Hay un guardarraíl para el guardarraíl?

408
00:56:03,760 --> 00:56:14,679
Realmente no. El guardarraíl tiene que ser el humano. Al final, inicialmente, la IA guiaba a los humanos, pero ahora somos los humanos los que tenemos que guiar a la IA.

409
00:56:15,159 --> 00:56:21,179
Tenemos que decirle hasta dónde y hasta dónde no puede llegar. Y en el momento en el que ver que está sobrepasando nuestros límites, pararlo.

410
00:56:21,179 --> 00:56:32,579
Por eso es importante entender que la IA no nos va a sustituir, no va a sustituir nuestros trabajos, sino va a hacer nuestro trabajo más fácil y nosotros nos tenemos que adaptar a la IA también y adaptar a trabajar con ella.

411
00:56:33,320 --> 00:56:38,739
Entonces, por así decirlo, que el botón rojo, el que lo pulse no sea la IA, sea el humano.

412
00:56:41,219 --> 00:56:42,039
Última pregunta.

413
00:56:44,380 --> 00:56:47,960
Hola María, gracias por la charla, ha sido muy interesante.

414
00:56:47,960 --> 00:56:57,719
Yo llevo en parte de mi vida personal un equipo de robótica, entonces me interesa lo que has mencionado de la parte de robótica.

415
00:56:58,280 --> 00:57:08,780
¿Cómo afecta todo esto a la parte de la robótica? Sobre todo entiendo que está orientada a la robótica industrial, robótica autónoma también, robótica utilizada en defensa.

416
00:57:08,960 --> 00:57:16,019
Entonces, ¿cómo aplicáis vosotros todo el área de ciberseguridad en el ámbito de la robótica?

417
00:57:16,019 --> 00:57:28,340
Pues inicialmente comenzamos con robots aislados, teníamos un perrito y luego un humanoide

418
00:57:28,340 --> 00:57:39,699
e intentamos ver las vulnerabilidades que tenían, también necesitábamos acceso físico a los sistemas muchas veces para poder abrirlos y demás

419
00:57:39,699 --> 00:57:49,940
y luego fuimos capaces de implantar la herramienta en los sistemas de los robots.

420
00:57:49,940 --> 00:57:57,159
Entonces, eso nos servía constantemente para analizar tráfico dentro de los robots

421
00:57:57,159 --> 00:58:06,219
y nos dimos cuenta que, por ejemplo, en el humanoide estábamos mandando datos constantemente a los servidores de Unitree

422
00:58:06,219 --> 00:58:24,860
Sin nuestro consentimiento. O sea que vimos que se estaban violando algunas reglas de privacidad. Nuestra solución fue eso, implantar esta herramienta también dentro de los propios robots para ver cómo funcionaban y cómo se comportaban.

423
00:58:25,179 --> 00:58:29,260
Puedes hacerlo a nivel ofensivo también para intentar atacarlos, pero a nivel defensivo también.

424
00:58:29,260 --> 00:58:47,380
Muchas gracias María, nos da tiempo a la presentación, a las preguntas y nos da tiempo también a que suba al escenario Adolfo Sández Diego, jefe de servicio de plataformas educativas de la Subdirección General de Transformación Educativa, de la Dirección General de Estrategia Digital de la Consejería de Digitalización de la Comunidad de Madrid.

425
00:58:47,380 --> 00:58:48,579
Adolfo

426
00:58:48,579 --> 00:58:57,059
que va a hacer entrega de un diploma

427
00:58:57,059 --> 00:58:59,199
pasa por aquí

428
00:58:59,199 --> 00:59:01,579
un diploma en reconocimiento

429
00:59:01,579 --> 00:59:03,300
de la labor y como no ha venido gente

430
00:59:03,300 --> 00:59:05,400
de la agencia de ciberseguridad voy a salir yo en la foto también

431
00:59:05,400 --> 00:59:15,619
muy bien pues con esto ya

432
00:59:15,619 --> 00:59:17,179
damos por finalizado el evento