1
00:00:00,370 --> 00:00:10,750
Y hoy tenemos la suerte de contar con una investigadora en ciberseguridad e IA especializada en sistemas autónomos y en el desarrollo de modelos de IA aplicados a la defensa digital.

2
00:00:11,750 --> 00:00:20,190
Es una de las principales expertas en benchmarking de IA con trabajos de marcos, de evaluación rigurosos y de referencia para la comunidad.

3
00:00:20,190 --> 00:00:34,909
Como su estudio, vais a flipar, Cybersecurity Eye Benchmark, a Meta Benchmark for Evaluating Cybersecurity Eye Agents. Y el que se ría que venga y lo lea él, ¿vale?

4
00:00:34,909 --> 00:00:57,409
Su grupo de investigación ha participado en conferencias como AAAI 2026, que si quiere luego nos explicará lo que es, en RootedCon 26. Es una de las mujeres que lideran la investigación puntera en IA, en IA generativa aplicada a la seguridad, destacando por su capacidad para abordar problemas complejos con enfoques innovadores y de alto impacto científico.

5
00:00:57,409 --> 00:01:10,030
Y esto es lo que se llama crear aquí altas expectativas y las podemos crear porque la conocemos y sabemos que lo merece. Así que con todos vosotros, María Sanz Gómez.

6
00:01:10,030 --> 00:01:39,640
Hola a todos. Bueno, muchas gracias por la presentación, Daniel. Y nada, buenos días a todos. Me gustaría empezar dando las gracias a David Navarro, que me ha facilitado todo el proceso, a EducaMadrid por haberme invitado a este Ciberjueves.

7
00:01:39,640 --> 00:01:45,760
Ciberjueves. Y nada, bueno, me voy a presentar un poco, aunque Daniel ya lo ha hecho genial.

8
00:01:46,459 --> 00:01:54,140
Soy María, vengo de Alias Robotics, una empresa de Vitoria. El proyecto del que os voy a hablar

9
00:01:54,140 --> 00:02:01,420
hoy está cofinanciado por la Unión Europea. Y bueno, antes de empezar me gustaría hacer

10
00:02:01,420 --> 00:02:09,099
unas preguntas. ¿Cuántos de vosotros os consideráis expertos o trabajáis en el ámbito de ciberseguridad?

11
00:02:09,639 --> 00:02:30,240
Vale. ¿Y cuántos de vosotros habéis utilizado en la última semana la inteligencia artificial? Ya sea HGPT, hayáis utilizado, buscad en Google, hayáis preferido la respuesta de Copilot. Vale, aquí ya más vais levantando la mano.

12
00:02:30,240 --> 00:02:51,319
Bueno, ya tenéis aquí mi presentación, aunque ya me ha presentado Daniel, soy investigadora en ciberseguridad e inteligencia artificial

13
00:02:51,319 --> 00:03:00,580
Y bueno, mi grupo de investigación ha sido puntero en cruzar estos dos ámbitos, la IA generativa y la ciberseguridad.

14
00:03:01,360 --> 00:03:21,069
Os voy a guiar un poco por el índice de esta sesión, os voy a ir guiando por este índice,

15
00:03:21,069 --> 00:03:25,789
contando cómo ha sido la visión que ha tenido nuestro equipo en todo momento

16
00:03:25,789 --> 00:03:30,689
y todas las decisiones que nos han llevado a estar en el punto en el que estamos.

17
00:03:32,129 --> 00:03:36,750
Bueno, antes de nada me gustaría dar quizás un mensaje un poco alarmista,

18
00:03:37,370 --> 00:03:42,389
pero creo que es necesario que todos seamos conscientes y que lo escuchemos desde aquí.

19
00:03:44,810 --> 00:03:50,389
Históricamente, el tiempo desde que salía una vulnerabilidad hasta que esta vulnerabilidad se explotaba,

20
00:03:51,069 --> 00:04:04,669
por un atacante era de en torno a 30-35 días, que era un tiempo más que razonable para que los equipos de defensa les diera tiempo a generar un parche posible

21
00:04:04,669 --> 00:04:17,170
y aplicaran para evitar este exploit. El problema es que esta ventana de tiempo se ha ido reduciendo a lo largo de estos años y si me permiten voy a hacer una proyección.

22
00:04:17,170 --> 00:04:32,589
Yo creo que en 2027, a mitad de 2027, estemos hablando de que esta ventana de tiempo entre que sale el exploit y se explota es de prácticamente minutos, o sea, sería una explotación casi instantánea.

23
00:04:32,589 --> 00:04:49,589
Por eso es importante que consigamos aplicar la inteligencia artificial en la ciberseguridad porque no hay manera humana de poder responder a este problema que os acabo de presentar.

24
00:04:50,649 --> 00:04:59,970
Pero para saber cómo hemos llegado a este punto me gustaría contaros un poco la línea de tiempo de la inteligencia artificial, de cómo hemos llegado hasta aquí.

25
00:04:59,970 --> 00:05:21,110
En 2022, OpenAI, una compañía norteamericana, lanzó Chaghebre, que para el que no lo conozca, que creo que sois pocos, es un asistente de ingeniería artificial en el que tú le haces preguntas, le das instrucciones y él te genera una respuesta en un lenguaje que entendemos todos, un lenguaje natural.

26
00:05:21,110 --> 00:05:27,310
Esto fue en 2023, a finales, en noviembre y diciembre

27
00:05:27,310 --> 00:05:32,829
y el resto de compañías tecnológicas quisieron también sacar sus propios modelos

28
00:05:32,829 --> 00:05:34,110
y ponerse un poco al día

29
00:05:34,110 --> 00:05:38,069
Aquí os he puesto Google, Anthropic, Mistral a nivel europeo

30
00:05:38,069 --> 00:05:43,069
que sacaron sus propios modelos y comenzaron a desarrollar estos modelos

31
00:05:43,069 --> 00:05:49,870
Estos modelos que en 2024 conseguían procesar imágenes, audio, vídeo

32
00:05:49,870 --> 00:05:55,009
y que poco a poco se irán desarrollando y cada vez estamos viendo que son bastante mejores.

33
00:05:56,310 --> 00:05:59,709
En 2025 se separaron dos líneas de investigación.

34
00:06:00,449 --> 00:06:06,649
Por un lado estaba el desarrollo de los modelos y luego se comenzaron a crear agentes especializados.

35
00:06:06,910 --> 00:06:09,949
Agentes especializados en tareas concretas.

36
00:06:11,110 --> 00:06:17,689
Y aquí es donde nuestro equipo de investigación dijo, vale, ¿qué ocurre cuando juntamos

37
00:06:17,689 --> 00:06:22,209
lo que está pasando ahora con la inteligencia artificial y la ciberseguridad.

38
00:06:22,790 --> 00:06:24,850
Y fue cuando nació Pentex GPT.

39
00:06:25,449 --> 00:06:31,170
Pentex GPT es una herramienta orientada a ciberseguridad

40
00:06:31,170 --> 00:06:39,149
que te permitía hacer consultas de ciberseguridad como si fuese chat GPT pero en el ámbito ciber

41
00:06:39,149 --> 00:06:48,069
y te sugería utilizar herramientas o ir analizando los resultados que ibas obteniendo con las herramientas

42
00:06:48,069 --> 00:06:49,750
gracias a la inteligencia artificial.

43
00:06:50,310 --> 00:06:56,490
Vimos que esto no será realmente útil en nuestro día a día, pero necesitábamos un poco de autonomía.

44
00:06:56,490 --> 00:07:01,389
Entonces ahí fue cuando apareció el proyecto del que os vengo a hablar hoy, que es CAI.

45
00:07:02,129 --> 00:07:12,610
CAI nos permite crear agentes que se encargan de investigar vulnerabilidades y automatizar tareas de ciberseguridad.

46
00:07:14,069 --> 00:07:24,129
Os voy a explicar un poco cómo nuestro equipo de investigación llegó a pensar cómo tenía que funcionar esta intersección de la ciber y la IA.

47
00:07:24,870 --> 00:07:27,810
Estos son los que creemos que son los pilares fundamentales.

48
00:07:27,810 --> 00:07:41,870
Por un lado tenemos el scaffold o marco de trabajo o framework, que os he puesto algunos ejemplos, cloud de codec, que a lo mejor algunos conocéis si trabajáis en programación, codecs y luego CAI.

49
00:07:43,670 --> 00:07:55,250
El marco engloba a los agentes, que son los que tienen estas herramientas para poder ejecutar las tareas que tú les mandes y para poder ejecutar tus instrucciones.

50
00:07:55,250 --> 00:08:18,269
Los agentes tienen un cerebro y ese cerebro es el modelo. Sin el modelo los agentes no sabrían cómo utilizar las herramientas. Y por último, es importante el apartado de benchmarking porque ¿cómo sabemos si un modelo es bueno o no para la ciberseguridad? Pues necesitamos evaluarlo, que es de lo que se encarga el benchmarking.

51
00:08:18,269 --> 00:08:32,850
Vale, bueno, ahora os voy a introducir un poco y contaros un poco cada uno de estos pilares en nuestra herramienta Cyber Security AI CAI.

52
00:08:33,070 --> 00:08:48,070
¿Qué es CAI? Vale, pues CAI es una herramienta que se encarga de implementar agentes basados en inteligencia artificial que automatizan tareas tanto ofensivas como defensivas.

53
00:08:48,269 --> 00:08:58,210
La ventaja que esto tiene es que lo hace de una manera, os mostraré un vídeo más adelante, pero lo hace bastante más rápido que lo que podríamos hacer nosotros.

54
00:08:58,210 --> 00:09:05,190
Es una herramienta de apoyo que nos va a servir para agilizar todo el proceso.

55
00:09:05,330 --> 00:09:11,889
Aquí tenéis un pequeño ejemplo en el que yo le pongo una instrucción, se llama User Prompt o Prompt de Usuario.

56
00:09:11,889 --> 00:09:26,009
Le digo, preséntate a los asistentes del Ciberjueves y el agente, mediante el modelo, me contesta, hola, asistentes del Ciberjueves, soy agente de equipo rojo de CAI y estoy listo para explotar sistemas.

57
00:09:26,850 --> 00:09:31,330
Este es un ejemplo bastante sencillo, pero para que veáis un poco cómo funciona.

58
00:09:31,330 --> 00:09:44,210
Otro de los ejemplos que podéis decirle es, hola, esta es mi página web, ¿podrías realizarme una inspección de esta página para ver si encuentras vulnerabilidades?

59
00:09:44,210 --> 00:09:59,389
Que es exactamente lo que hicimos nosotros al principio. Le pusimos que si podía analizar nuestra propia web, ver las top 10 vulnerabilidades de ese año

60
00:09:59,389 --> 00:10:12,190
Y aquí veis como la herramienta misma va utilizando comandos de DIG, comandos de CUL, te va sacando los outputs de la herramienta y en base a eso va tomando unas decisiones u otras.

61
00:10:12,769 --> 00:10:24,490
Esto que estáis viendo aquí lo he ralentizado un poco para que seamos capaces de ver cómo funciona, pero va a una velocidad que ya os digo es humanamente casi ilegible.

62
00:10:24,490 --> 00:10:33,970
Bueno, me quería detener también un poco aquí porque os he hablado al inicio de Pentes GPT

63
00:10:33,970 --> 00:10:47,730
en el que vimos cómo la IA servía para guiar a los humanos en el ambiente de ciberseguridad

64
00:10:47,730 --> 00:10:53,529
en el que los humanos le daban un problema, la IA le contestaba utiliza estas herramientas

65
00:10:53,529 --> 00:11:04,870
o hace estas cosas, estas pautas, el humano procesaba todos esos resultados, estas salidas y decidía si se lo volvía a preguntar a la IA o tomaba decisiones.

66
00:11:05,289 --> 00:11:16,289
Entonces fue donde pasamos a CAI, que CAI ya os he contado que es una manera un poco más autónoma en la que la IA planifica, actúa, tiene las herramientas para actuar,

67
00:11:16,289 --> 00:11:26,350
ya no somos nosotros los encargados de utilizar las herramientas, sino que es la IA, toma decisiones y cuando no sabe nada ya pregunta al humano.

68
00:11:26,509 --> 00:11:32,370
O sea, estamos ya en una fase en la que el humano guía a la IA, no es la IA la que guía al humano.

69
00:11:33,250 --> 00:11:42,809
Y en nuestro grupo de investigación nos preguntamos si podíamos llevar esto a otro nivel y si la IA era capaz de guiar a la IA.

70
00:11:42,809 --> 00:11:51,330
entonces creamos unos gráficos de ataque y lo que hacíamos era con otro modelo diferente

71
00:11:51,330 --> 00:11:56,929
introducir estos gráficos de ataque y decir cuáles serían los caminos posibles

72
00:11:56,929 --> 00:12:03,769
y las mejores opciones que debería seguir nuestro modelo para obtener mejores resultados

73
00:12:03,769 --> 00:12:08,710
y todo eso se lo volvíamos a retroalimentar al modelo que teníamos inicialmente

74
00:12:08,710 --> 00:12:23,049
Este estudio es un estudio un poco complicado y complejo de entender, pero bueno, dejo por ahí el QR del paper, que si estáis interesados, son 11, 12 páginas, pero merece la pena leer.

75
00:12:23,049 --> 00:12:30,929
Bueno, el siguiente pilar fundamental del scaffold son los agentes.

76
00:12:31,929 --> 00:12:50,909
Los agentes operan bajo este ciclo continuo que os pongo aquí, en el que piensan, actúan, utilizan herramientas como la consola, líneas de comandos, observan los resultados y van, pues eso, en un ciclo iterativo procesando.

77
00:12:53,049 --> 00:13:11,690
Entonces los agentes conseguimos darle un rol específico con el System Prom, mediante el Prom de Sistema. ¿Qué hacemos con el Prom de Sistema? Imaginaros que tenemos una biblioteca de libros súper grande y nosotros le decimos ¿qué tipo de planta es esta?

78
00:13:11,690 --> 00:13:16,330
Pues el agente va a mirar entre toda la librería que tiene para ver el tipo de planta que es.

79
00:13:16,970 --> 00:13:26,470
Pero si nosotros le decimos, estás especializado en la naturaleza, va a coger solo los libros que se dediquen a la naturaleza

80
00:13:26,470 --> 00:13:32,450
y va a ser bastante más rápido porque hemos acotado su conocimiento a solo eso.

81
00:13:32,870 --> 00:13:34,870
Entonces eso es lo que hacemos mediante el System Prom.

82
00:13:35,610 --> 00:13:40,409
Y aquí os podéis imaginar que con el System Prom podemos crear infinidad de agentes.

83
00:13:40,409 --> 00:13:57,429
Todos los que se os ocurran aquí os he puesto algunos ejemplos, por ejemplo, en el ámbito ciberdefensor o de respuesta a incidentes o de análisis de inteligencia de amenazas, vigilancia y cumplimiento de leyes, pero ya os digo, pueden ser un montón.

84
00:13:57,429 --> 00:14:02,470
ya os he comentado que no sirve de nada

85
00:14:02,470 --> 00:14:03,850
tener un buen agente y crear

86
00:14:03,850 --> 00:14:06,250
un buen system prompt si no tenemos

87
00:14:06,250 --> 00:14:07,070
un buen modelo

88
00:14:07,070 --> 00:14:09,450
el modelo es

89
00:14:09,450 --> 00:14:11,870
el cerebro de la gente

90
00:14:11,870 --> 00:14:14,110
os he puesto aquí

91
00:14:14,110 --> 00:14:16,549
pues los modelos

92
00:14:16,549 --> 00:14:18,110
que tenemos

93
00:14:18,110 --> 00:14:20,230
bueno a lo mejor esto es un poco

94
00:14:20,230 --> 00:14:22,149
desactualizado porque hay alguno que

95
00:14:22,149 --> 00:14:24,289
ya se ha quedado un poco

96
00:14:24,289 --> 00:14:26,629
obsoleto pero estas son las principales compañías

97
00:14:26,629 --> 00:14:28,570
que se encargan

98
00:14:28,570 --> 00:14:34,269
a desarrollar modelos. Aquí me voy a detener y voy a hablar un poco de Alias Robotics,

99
00:14:34,269 --> 00:14:39,330
que ya os he dicho que es una empresa de Vitoria y europea, en la que ellos desarrollan

100
00:14:39,330 --> 00:14:46,409
una familia de modelos que se llama Alias y estos modelos están especializados en ciberseguridad.

101
00:14:47,009 --> 00:14:51,769
Los han entrenado con datos de ejercicios que hemos realizado nosotros mismos, incluso

102
00:14:51,769 --> 00:14:53,830
pen testers,

103
00:14:54,110 --> 00:14:55,750
bounders reales

104
00:14:55,750 --> 00:14:58,129
y profesionales

105
00:14:58,129 --> 00:14:59,190
y los han entrenado

106
00:14:59,190 --> 00:15:01,289
con esos datos.

107
00:15:01,990 --> 00:15:03,629
Tenemos Alias 2, que tiene

108
00:15:03,629 --> 00:15:05,789
grandes capacidades y que ha servido

109
00:15:05,789 --> 00:15:07,570
para instituciones gubernamentales

110
00:15:07,570 --> 00:15:08,990
como el Ministerio de Defensa

111
00:15:08,990 --> 00:15:11,389
y luego tenemos Alias 2 Mini,

112
00:15:11,590 --> 00:15:13,970
que es una versión más ligera de Alias 2

113
00:15:13,970 --> 00:15:15,190
que nos permite

114
00:15:15,190 --> 00:15:17,830
correr el modelo en nuestro propio

115
00:15:17,830 --> 00:15:20,049
ordenador. O sea, no necesitamos

116
00:15:20,049 --> 00:15:28,529
de hardware externo y lo podemos correr on-premise, se llama on-premise. Es importante saber si

117
00:15:28,529 --> 00:15:33,409
los modelos que estamos utilizando nos van a servir para ciberseguridad o no y por ello

118
00:15:33,409 --> 00:15:41,289
hay que evaluarlos mediante benchmarks. El siguiente pilar que os voy a hablar son los

119
00:15:41,289 --> 00:15:59,690
benchmarks. Bueno, y el benchmark que nosotros más utilizamos fue Kybench. Kybench es un

120
00:15:59,690 --> 00:16:07,090
método de evaluación que incluye otros benchmarks, es un benchmark de benchmarks de manera modular

121
00:16:07,090 --> 00:16:14,409
en el que tú puedes ir incluyendo benchmarks que te encuentres y sirve para evaluar modelos

122
00:16:14,409 --> 00:16:21,049
y agentes en el ámbito de ciberseguridad. Inicialmente los benchmarks se hacían mediante

123
00:16:21,049 --> 00:16:28,809
conocimiento, estos son los tres que empresas y laboratorios como OpenAI y Claudia han utilizado

124
00:16:28,809 --> 00:16:35,450
y poco a poco nos dimos cuenta que ya no valía solo saber de ciberseguridad, sino que los

125
00:16:35,450 --> 00:16:41,009
modelos tenían que ser capaces de utilizar herramientas y poder aplicar esos conocimientos

126
00:16:41,009 --> 00:16:47,590
a la práctica real. Y es donde surgió otro método de evaluarlos que es mediante CTFs.

127
00:16:47,590 --> 00:16:54,350
Para el que no lo sepa, un CTF es un pequeño ejercicio, un pequeño escenario de ciberseguridad

128
00:16:54,350 --> 00:17:02,389
especializado en un ámbito concreto. Por ejemplo, puede ser en criptografía o en análisis web

129
00:17:02,389 --> 00:17:10,029
o en forense, es como un ejercicio más reducido. Y ahí tenemos otros cuantos, el que utilizan

130
00:17:10,029 --> 00:17:16,170
por excelencia, como ya he dicho, grandes laboratorios, es Cybench. Lo que pasa es que

131
00:17:16,170 --> 00:17:23,150
nos dimos cuenta que poco a poco los modelos iban siendo capaces de superar los 35 retos

132
00:17:23,150 --> 00:17:28,910
que nos podemos encontrar en Cybench. Entonces necesitábamos más retos, algo que fuese

133
00:17:28,910 --> 00:17:36,390
más difícil, más desafiante para los modelos. Y fue ahí donde nosotros creamos CTFs de

134
00:17:36,390 --> 00:17:42,329
ataque y defensa. Es como si tú tuvieses una máquina con una serie de vulnerabilidades

135
00:17:42,329 --> 00:17:51,109
y otro equipo tuviese la misma máquina. Entonces tu equipo tiene que atacar al otro equipo

136
00:17:51,109 --> 00:17:55,970
pero defendiendo su propia máquina. Era como una dualidad que se puede dar un poco más

137
00:17:55,970 --> 00:18:02,829
a día de hoy en el mundo real, por así decirlo. Lo que pasa es que esto no dejaban de ser

138
00:18:02,829 --> 00:18:08,970
máquinas aisladas y creíamos que también necesitábamos que los modelos fuesen más allá

139
00:18:08,970 --> 00:18:13,789
y explorasen un rango más amplio con los cyber range.

140
00:18:14,210 --> 00:18:20,670
Un cyber range ya no es un CTF, no es solo un escenario, es una infraestructura

141
00:18:20,670 --> 00:18:25,450
como puede ser de una compañía con un montón de segmentos de redes

142
00:18:25,450 --> 00:18:30,250
en las que hay diferentes vulnerabilidades y tú tienes que ir intentando llegar

143
00:18:30,250 --> 00:18:32,869
a servidores concretos.

144
00:18:34,150 --> 00:18:34,769
Luego también

145
00:18:34,769 --> 00:18:37,230
hicimos un benchmark

146
00:18:37,230 --> 00:18:38,549
de privacidad

147
00:18:38,549 --> 00:18:40,250
pero nos dimos cuenta que

148
00:18:40,250 --> 00:18:42,990
nadie considera la privacidad

149
00:18:42,990 --> 00:18:45,029
a día de hoy que es uno de los

150
00:18:45,029 --> 00:18:47,009
principales problemas porque tú

151
00:18:47,009 --> 00:18:48,869
cuando preguntas a HGPT cualquier

152
00:18:48,869 --> 00:18:51,049
cosa, tus datos están yendo

153
00:18:51,049 --> 00:18:53,130
automáticamente a los servidores de OpenAI

154
00:18:53,130 --> 00:18:54,769
y esto pasa prácticamente

155
00:18:54,769 --> 00:18:56,390
con cualquier modelo.

156
00:18:57,089 --> 00:18:58,990
Así que este benchmark se puede decir

157
00:18:58,990 --> 00:19:04,650
que está obsoleto porque a nadie le importa nuestra privacidad.

158
00:19:08,299 --> 00:19:11,819
Bueno, estos son un poco los resultados de los que hablaba, que nos fuimos fijando.

159
00:19:13,140 --> 00:19:22,059
Vimos que la mayoría de los modelos superaban el 70% de las preguntas de los benchmark de conocimientos.

160
00:19:22,059 --> 00:19:29,380
Estas preguntas pueden ser de verdadero o falso, o de selección a la opción, o de rellena este apartado.

161
00:19:29,380 --> 00:19:35,380
y entonces vimos que necesitábamos evaluarlo mediante CTFs.

162
00:19:36,440 --> 00:19:45,519
Aquí tenéis una evaluación que recorrimos, bueno, no, unas cuantas, que hicimos de diferentes modelos con Cybens.

163
00:19:47,000 --> 00:19:51,700
Voy a fijarme un poco en la trayectoria de alias porque se va a ver mejor.

164
00:19:52,440 --> 00:19:58,779
Inicialmente con alias 0 veis que no conseguimos prácticamente ningún CTF,

165
00:19:58,779 --> 00:20:11,000
pero poco a poco, a medida que se iban mejorando los modelos, vamos consiguiendo más CTFs, hasta llegando a un punto de casi saturación.

166
00:20:11,640 --> 00:20:21,920
Esto ha pasado no solo con Alias, sino con todos los modelos. Si os fijáis aquí, podéis ir viendo cómo GPT ha ido mejorando y Opus igual.

167
00:20:22,740 --> 00:20:49,019
Entonces ahí fue donde nosotros, si hacemos un cúmulo de todos los escenarios que son capaces de resolver, vimos que la curva era progresivamente hacia arriba y vimos que para este año probablemente la mayoría de los modelos sean capaces de superar ese 80% de los benchmarks, que ahí podemos decir que están realmente saturados.

168
00:20:49,019 --> 00:21:08,359
Y fue donde surgió el concepto de Tiber Range Dinámicos, de no solo tener un atacante que busque unas habilidades, sino incluir un defensor que evite que el atacante pueda ser un intruso en nuestro sistema.

169
00:21:08,359 --> 00:21:13,779
O sea, un defensor que detecte al atacante e intente evitarlo.

170
00:21:16,599 --> 00:21:28,700
Bueno, ya os he contado un poco cómo ha sido nuestra línea de investigación y ahora me podéis decir, pero María, ¿y esto cómo funciona o en realidad cómo se puede aplicar?

171
00:21:28,759 --> 00:21:35,819
Porque se ha hablado así un poco de evaluaciones, de CTFs y demás, pero ¿para qué puede servirnos realmente esto?

172
00:21:35,819 --> 00:21:55,839
Bueno, voy a seguir hablándoos de CTFs, voy a ir de menos a más. Hemos participado también en competiciones de CTFs, ya a nivel un poco más global. Algunas de ellas son de una plataforma que es conocida, que es Hack the Box, no sé si alguno la conocéis.

173
00:21:55,839 --> 00:22:15,559
Entonces el primero en el que participamos fue en uno que sacaron de inteligencia artificial contra humanos y nos quedamos sorprendidos porque fuimos la primera IA en el top de IAS y quedamos por debajo de 24 equipos de humanos.

174
00:22:15,559 --> 00:22:34,640
O sea que en ese punto todavía los humanos nos ganaban, por así decirlo. Poco a poco fuimos pasando competiciones y llegamos a una competición de OT. Yo era la primera vez que trabajaba o que veía algo de OT.

175
00:22:34,640 --> 00:22:39,019
sí que es verdad que la empresa era una empresa de robótica

176
00:22:39,019 --> 00:22:42,119
pero no habíamos hecho más allá de casos aislados

177
00:22:42,119 --> 00:22:47,039
y me sorprendió porque conseguimos llegar al top 6

178
00:22:47,039 --> 00:22:51,720
y nos mantuvimos en el top 1 durante unas 2 o 3 horas

179
00:22:51,720 --> 00:22:58,079
o sea fue la verdad un shock porque dije

180
00:22:58,079 --> 00:23:02,359
no tengo realmente ni idea de OT y aquí estoy

181
00:23:02,359 --> 00:23:14,619
Haciendo escenarios de OT y resolviéndolos. Poco a poco, gracias a este CTF, aprendí bastante más de OT de lo que pensaba que iba a aprender.

182
00:23:15,259 --> 00:23:21,859
Esto es un poco para que veáis la línea temporal. Ah, bueno, espérate, que se me ha olvidado el más importante de todos, el último.

183
00:23:21,859 --> 00:23:45,359
En el último quedamos primeros. Conseguimos un premio de 50.000 euros. No nos llevó más de seis horas conseguir todos los retos. Y eso también, ahí ya dijimos, los TTFs están saturados para nosotros. Tenemos que pasarnos a otra cosa.

184
00:23:45,359 --> 00:24:01,519
Bueno, esta es la línea del tiempo de la que os comentaba, esa es la última que tuvimos, la que ganamos, que nada, en bastante poco tiempo conseguimos la mayoría de los retos.

185
00:24:01,519 --> 00:24:18,700
Y bueno, aquí tenéis un ejemplo de un challenge forense en el que tienes que analizar un backup y tienes que sacar la bandera, que la bandera es un correo electrónico.

186
00:24:18,700 --> 00:24:45,519
Y lo que está haciendo la gente es utilizar Tizard, que es una herramienta para analizar paquetes de red. Y nada, encontró que uno de los principales host implicados era una IP que correspondía a una empresa que la buscó por Juiz y sacó el correo necesario para la bandera.

187
00:24:45,519 --> 00:24:55,049
No sé si, a ver, por donde, aquí está con el juicio y veis, saca aquí el correo necesario.

188
00:24:55,190 --> 00:24:56,930
Todo esto que estáis viendo es en tiempo real.

189
00:24:57,369 --> 00:25:02,230
O sea, esto que está pasando aquí es lo que nosotros vemos cuando ejecutamos el ejercicio.

190
00:25:02,349 --> 00:25:07,650
Evidentemente es complicado de entender qué está haciendo porque está lanzando muchos comandos a la vez.

191
00:25:08,170 --> 00:25:14,670
Y no eres, como humano no eres capaz de entender por qué está tomando esas decisiones tan rápido.

192
00:25:14,670 --> 00:25:26,670
Y nada, finalmente por lo menos te pone un resumen de todo lo que ha hecho y aquí tú le podrías decir, vale, creo que este no es el correo, por favor, continúa explotando otras vías o otros caminos.

193
00:25:27,910 --> 00:25:32,970
Pero ya habéis visto, ha tardado menos de un minuto, puede ser, en sacarlo.

194
00:25:35,710 --> 00:25:40,009
Bueno, hasta aquí, como os he dicho, todo esto eran juegos.

195
00:25:40,890 --> 00:25:44,170
Poco a poco fuimos incrementando los niveles.

196
00:25:44,670 --> 00:25:57,390
Y llegamos a programas de pago, bounties. No sé si sabéis lo que son, pero son plataformas donde las empresas publican sus webs o sus IPs y les dicen,

197
00:25:57,390 --> 00:26:06,710
oye, mira, me gustaría que intentaran a ver si encuentran alguna vulnerabilidad para poder corregirla. Y si la encuentran, pues les voy a dar una pequeña cantidad económica.

198
00:26:06,710 --> 00:26:29,089
Y nada, pues inicialmente empezamos nosotros como no expertos, como personas que no habían participado nunca en programas ni de HackerOne, ni de Backroad, ni de ninguna empresa de Bounties y fuimos capaces de encontrar seis vulnerabilidades en diferentes plataformas.

199
00:26:29,089 --> 00:26:34,130
todas las vulnerabilidades fueron confirmadas por las plataformas

200
00:26:34,130 --> 00:26:38,349
lo que pasa que ellos tienen un sistema de duplicación

201
00:26:38,349 --> 00:26:43,710
entonces si ya alguien ha reportado esa vulnerabilidad

202
00:26:43,710 --> 00:26:44,950
no te la van a dar a ti

203
00:26:44,950 --> 00:26:48,230
entonces no conseguimos ningún tipo de premio económico

204
00:26:48,230 --> 00:26:51,890
pero bueno, por lo menos conseguimos ver

205
00:26:51,890 --> 00:26:55,289
que éramos capaces nosotros como usuarios no profesionales

206
00:26:55,289 --> 00:26:58,730
de encontrar estas vulnerabilidades

207
00:26:58,730 --> 00:27:17,089
Después de este experimento que hicimos nosotros, decidimos llamar a bautistas profesionales, a gente que se dedicaba realmente a eso, a ver si eran capaces con nuestra herramienta de que por lo menos su trabajo fuese más rápido.

208
00:27:18,089 --> 00:27:26,210
Ellos también encontraron vulnerabilidades, todas confirmadas, y una de ellas creo que sí que nos dieron una pequeña cantidad económica.

209
00:27:26,210 --> 00:27:30,829
lo que más sacamos de todo esto fue el feedback que nos dieron

210
00:27:30,829 --> 00:27:37,390
nos dijeron que se habían quedado impresionados de lo que eran capaces de hacer la IA

211
00:27:37,390 --> 00:27:44,210
y alguno de ellos inicialmente sí que era un poco reticente a utilizar la herramienta

212
00:27:44,210 --> 00:27:46,650
porque no creían en la inteligencia artificial

213
00:27:46,650 --> 00:27:49,230
porque pensaba que nos iba a quitar el trabajo

214
00:27:49,230 --> 00:27:52,230
pero no, lo que va a hacer es facilitarnoslo

215
00:27:52,230 --> 00:28:07,769
Y nada, bueno, os voy a enseñar un vídeo de ejemplo en el que se detectaba una vulnerabilidad en la que se podía enumerar usuarios.

216
00:28:07,990 --> 00:28:18,430
Entonces aquí le estamos diciendo que si puede explotarlo, está utilizando herramientas como Curl y demás para poder explotar esta vulnerabilidad.

217
00:28:18,430 --> 00:28:32,150
Ya os digo, esto va a una velocidad que no eres capaz de entender cómo está trabajando o cómo está yendo tan rápido. Pero bueno, luego los resultados son positivos.

218
00:28:32,150 --> 00:28:45,650
Pasando de ya un poco los juegos, vamos a un nivel un poco más no profesional, pero más dañino, por así decirlo.

219
00:28:47,609 --> 00:28:59,650
Vimos si intentamos crear un agente de ingeniería social, a ver si la IA era capaz de hacer ingeniería social con personas como nosotros.

220
00:28:59,650 --> 00:29:02,789
evidentemente todo esto

221
00:29:02,789 --> 00:29:04,769
bajo el principio

222
00:29:04,769 --> 00:29:05,910
de no hacer daño

223
00:29:05,910 --> 00:29:08,789
autorizado por las empresas con las que lo hicimos

224
00:29:08,789 --> 00:29:10,750
y de manera confidencial

225
00:29:10,750 --> 00:29:12,450
o sea, todos los datos

226
00:29:12,450 --> 00:29:13,609
que obteníamos

227
00:29:13,609 --> 00:29:16,329
los anonimizábamos

228
00:29:16,329 --> 00:29:18,269
para los reportes

229
00:29:18,269 --> 00:29:19,250
y demás, o sea, no

230
00:29:19,250 --> 00:29:22,490
era eso, un principio dentro de un marco ético

231
00:29:22,490 --> 00:29:26,769
bueno, hicimos dos campañas

232
00:29:26,769 --> 00:29:28,450
en LinkedIn

233
00:29:28,450 --> 00:29:34,329
luego intentamos amplificar estas campañas a múltiples plataformas

234
00:29:34,329 --> 00:29:38,789
conseguimos que la gente fuese capaz de manejar WhatsApp a través de un dispositivo móvil

235
00:29:38,789 --> 00:29:45,970
luego también crear cuentas de correo en Instagram, en Reddit, en Twitter, en Discord

236
00:29:45,970 --> 00:29:50,730
la mayoría de las plataformas que a día de hoy usamos nosotros

237
00:29:50,730 --> 00:29:55,690
todo esto lo conseguimos hacer con un agente de ingeniería social

238
00:29:55,690 --> 00:30:01,329
que trabaja bajo este ciclo que estáis viendo, este proceso automatizado.

239
00:30:04,589 --> 00:30:07,450
Para que os hagáis a la idea de la importancia del System Prompt,

240
00:30:08,150 --> 00:30:13,930
nuestro agente de ingeniería social tenía 1.500 líneas de texto.

241
00:30:15,750 --> 00:30:20,750
O sea, no es solo decirle estás especializado en defensa.

242
00:30:21,750 --> 00:30:24,130
No, no, 1.500 líneas de texto.

243
00:30:24,130 --> 00:30:32,869
O sea, la ingeniería de PROM yo creo que a futuro también va a ser una nueva oposición que salga al mercado laboral.

244
00:30:33,710 --> 00:30:38,990
Bueno, os voy a explicar un poco el ciclo y el proceso automatizado que seguía nuestra gente.

245
00:30:40,250 --> 00:30:46,190
Inicialmente le poníamos una instrucción de nos gustaría hacer una campaña hacia esta empresa.

246
00:30:47,289 --> 00:30:53,130
Y él hacía un reconocimiento y un mapeo de las redes sociales, veía cómo se comunicaban entre ellos,

247
00:30:53,130 --> 00:31:08,849
Entre ellos, pues para utilizar el mismo tono, el mismo lenguaje, hacía una visión de cómo era la estructura, pues quién era el director, el CEO, un poco la estructura que puede tener una empresa y seleccionaba una serie de objetivos,

248
00:31:08,849 --> 00:31:16,210
Quien creía que eran los más importantes o los objetivos más importantes a los que se podía atacar.

249
00:31:17,589 --> 00:31:27,410
Después de eso pasaba la creación de identidad, donde ahí desplegaba un perfil falso en la plataforma que le pidiéramos.

250
00:31:27,529 --> 00:31:36,750
En este caso iniciamos con LinkedIn y ahí creaba tanto la biografía como la imagen, el banner, todo.

251
00:31:36,750 --> 00:31:41,950
la verdad que nosotros también nos quedamos sorprendidos de lo que era capaz de hacer

252
00:31:41,950 --> 00:31:43,829
sí que es verdad que este proceso era un poco más lento

253
00:31:43,829 --> 00:31:46,970
porque la creación de imágenes no iba tan rápido como nos gustaría

254
00:31:46,970 --> 00:31:49,430
pero lo conseguía

255
00:31:49,430 --> 00:31:56,109
y ya finalmente el siguiente paso era contactar con las víctimas o con los objetivos

256
00:31:56,109 --> 00:32:01,230
y pues ahí establecía una primera conversación

257
00:32:01,230 --> 00:32:15,890
para establecer confianza con la víctima y ya enviaba un mensaje de una URL que creaba él también para extraer datos.

258
00:32:16,069 --> 00:32:25,130
En este caso los datos que extraíamos eran solo la IP y el user agent que estaba utilizando en ese momento el usuario.

259
00:32:25,130 --> 00:32:45,710
Porque como ya hemos dicho, a la gente dentro de ese System Prompt que hicimos, le dijimos que queríamos principios éticos, que no queríamos causar ningún tipo de daño a las víctimas, entonces simplemente queríamos tener como algo de confirmación de que había clicado nuestro link, pero no queríamos ningún tipo de ejecución de malware ni nada.

260
00:32:45,710 --> 00:33:01,089
O sea, solo queríamos datos que nos permitiesen saber a nosotros si había clicado o no. Y como os podéis imaginar, notamos todo el día con el móvil, entonces no vas a ser instantáneo, no te voy a mandar un mensaje y me vas a contestar.

261
00:33:01,089 --> 00:33:13,329
El agente tenía que tener un poco de paciencia, que eso es lo que más nos costó, para poder monitorear continuamente y estar pendiente de si le llegaban notificaciones, si nos contestaban a los mensajes, si no.

262
00:33:13,329 --> 00:33:21,250
y bueno pues ahora os voy a enseñar algunos de los ejemplos

263
00:33:21,250 --> 00:33:27,670
estos son mensajes que pues tanto de Twitter como de Discord que mandó el agente

264
00:33:27,670 --> 00:33:32,069
nos sorprendió porque en Discord mediante contestar a los usuarios

265
00:33:32,069 --> 00:33:38,069
los usuarios ganaban confianza con nosotros conseguimos alcanzar hasta nivel 4 en el servidor

266
00:33:38,069 --> 00:33:45,150
de siete niveles que había y nada, estuvimos cuatro o cinco días simplemente ayudando a usuarios, contestándoles

267
00:33:45,150 --> 00:33:52,109
y nada, os voy a enseñar un pequeño vídeo demostrativo de cómo la gente funciona en Instagram.

268
00:33:52,309 --> 00:34:00,009
Evidentemente es un vídeo demostrativo, simplemente está haciendo pues actividad orgánica,

269
00:34:00,009 --> 00:34:07,589
no vamos a mandar mensajes ni nada por tema de privacidad, pero aquí veis cómo la gente está simplemente pensando,

270
00:34:07,589 --> 00:34:27,039
va dando likes a publicaciones, también le dijimos que si podía subir una publicación, que yo creo que lo hará ahora, entonces eso, veis así un poco cómo funciona y que es capaz de manejar redes sociales y diferentes plataformas,

271
00:34:27,039 --> 00:34:36,480
Como lo ha conseguido hacer con Instagram, ya os digo, lo conseguimos hacer con LinkedIn, con Discord, con Twitter, con WhatsApp, Telegram también.

272
00:34:37,539 --> 00:34:45,840
O sea que, bueno, y estos son los resultados que obtuvimos de la campaña de LinkedIn.

273
00:34:46,880 --> 00:34:51,019
Hicimos dos campañas, una a una empresa privada, un poco más pequeña.

274
00:34:51,179 --> 00:34:57,820
Nos dimos cuenta que el problema que teníamos, por eso tardamos tanto tiempo, tardamos 10 días en hacer esta campaña,

275
00:34:57,820 --> 00:35:02,079
era que no nos contestaban, porque no eran tan activos en redes sociales.

276
00:35:02,079 --> 00:35:13,539
Entonces, a pesar de que enviamos la URL maliciosa a seis personas y cinco nos la clicaron,

277
00:35:13,719 --> 00:35:15,780
queríamos ver si éramos capaces de hacer esto más rápido.

278
00:35:16,639 --> 00:35:23,019
Y conseguimos una administración pública que nos aceptase participar, por así decirlo.

279
00:35:23,820 --> 00:35:27,159
Y sí que es verdad que esta campaña duró solo tres días.

280
00:35:27,159 --> 00:35:35,179
y en tres días conseguimos que tres personas nos clicasen el link.

281
00:35:35,320 --> 00:35:42,159
Aquí tenéis un ejemplo de lo que, este es el perfil que creó el modelo

282
00:35:42,159 --> 00:35:47,519
y estas son algunas de las conversaciones que hemos tenido en LinkedIn.

283
00:35:48,820 --> 00:35:56,440
No conocíamos de nada a esta chica, pero le dijo que había rellenado la encuesta

284
00:35:56,440 --> 00:36:02,820
y que le parecía muy interesante la encuesta que había creado la propia IA.

285
00:36:02,820 --> 00:36:12,320
Y ese de ahí es el mensaje que nos llegaba a nosotros, que metimos un canario token en la URL para obtener la IP que la he piselado

286
00:36:12,320 --> 00:36:17,179
y ahí abajo veis el agente de usuario que estaba utilizando en ese momento.

287
00:36:18,800 --> 00:36:25,320
No solo se puede aplicar la IA a cosas ofensivas, como os acabo de enseñar,

288
00:36:25,320 --> 00:36:43,320
sino que también se puede aplicar para casos defensivos. No sé si alguno ha oído hablar de Lock Shields o sabéis lo que es, pero bueno, es un ejercicio de ciberdefensa a nivel internacional organizado por la OTAN,

289
00:36:43,320 --> 00:36:57,380
En el que participan 41 países que se dividen en equipos y más o menos este año creo que éramos 15 equipos, 15 o 21, no me acuerdo.

290
00:36:59,679 --> 00:37:02,519
¿Y en qué consistía este ejercicio?

291
00:37:03,099 --> 00:37:11,719
Teníamos un país, o sea, habían generado un conflicto bélico y se habían supuesto una guerra cibernética entre dos países.

292
00:37:13,320 --> 00:37:23,659
El país que atacaba en este caso tenía un nombre, pero era Estonia, los de allí nos atacaban al resto y nosotros teníamos que defender nuestro país.

293
00:37:24,179 --> 00:37:29,579
Todos los equipos teníamos la misma infraestructura, pero era una infraestructura realista.

294
00:37:29,579 --> 00:37:42,360
Teníamos redes eléctricas, redes de comunicaciones, satélites, 5G, prensa, toda la infraestructura que puede tener un país, la infraestructura crítica de un país.

295
00:37:43,320 --> 00:37:53,860
Por primera vez se utilizó la inteligencia artificial en este ejercicio y tuvo resultados bastante positivos.

296
00:37:53,860 --> 00:38:03,000
Yo en concreto me encontraba en el equipo de AWS y pudimos detectar cómo nos estaban atacando en tiempo real

297
00:38:03,000 --> 00:38:10,340
y bloquear, la única opción que nos quedó era bloquear la IP para que no nos hackearan el servidor.

298
00:38:10,340 --> 00:38:22,000
Fue un ejercicio que a mí me gustó mucho porque vimos que realmente tenía aplicación defensiva

299
00:38:22,000 --> 00:38:28,139
porque hasta ahora siempre nos habíamos enfocado a utilizar la IA de manera ofensiva

300
00:38:28,139 --> 00:38:33,519
pero por primera vez vimos que esto de verdad tenía utilidad defensiva

301
00:38:33,519 --> 00:38:46,960
Y bueno, también os quiero contar otros casos de uso que le hemos dado a esto que se puede también aplicar.

302
00:38:47,880 --> 00:38:56,500
El primer caso es de una infraestructura crítica de una subestación eléctrica de Vero Energy

303
00:38:56,500 --> 00:39:03,960
Y el problema surge cuando un desarrollador elimina una comprobación de autorización.

304
00:39:04,500 --> 00:39:11,260
Había autenticación, pero no autorización, ya que se consideraba que se hacía en otra parte y que no era perjudicial.

305
00:39:13,400 --> 00:39:19,500
Decidimos aplicar, utilizar CAI y aplicarlo al código y ahí vimos este problema.

306
00:39:19,500 --> 00:39:25,739
este problema entonces nos surgió la idea de que podemos hacer que antes de

307
00:39:25,739 --> 00:39:32,099
tomar esa decisión errónea de eliminar una línea de código y pasarla a

308
00:39:32,099 --> 00:39:36,960
producción podemos intentar evitar que se pase a

309
00:39:36,960 --> 00:39:40,320
producción y que se continúe en desarrollo hasta que esto sea arreglado

310
00:39:40,320 --> 00:39:47,519
y ahí fue cuando vimos que podíamos integrar CAI en GitLab en las

311
00:39:47,519 --> 00:39:49,519
pipelines de GitLab que son como

312
00:39:49,519 --> 00:39:51,260
una especie de tuberías que antes de

313
00:39:51,260 --> 00:39:53,340
pasar a producción

314
00:39:53,340 --> 00:39:55,699
tu página web o el código

315
00:39:55,699 --> 00:39:56,900
que estés haciendo

316
00:39:56,900 --> 00:39:59,519
pasa por una serie

317
00:39:59,519 --> 00:40:01,619
de test. Entonces en esos test nos dimos

318
00:40:01,619 --> 00:40:02,699
cuenta que podíamos meter

319
00:40:02,699 --> 00:40:04,940
nuestra herramienta de inteligencia artificial

320
00:40:04,940 --> 00:40:07,280
para apoyarnos

321
00:40:07,280 --> 00:40:09,320
y ver si había algún tipo de vulnerabilidad

322
00:40:09,320 --> 00:40:09,980
en el código

323
00:40:09,980 --> 00:40:12,940
y corregirlo.

324
00:40:13,360 --> 00:40:15,119
Entonces si encontraba alguna vulnerabilidad

325
00:40:15,119 --> 00:40:16,820
lo mandaba otra vez a desarrollo

326
00:40:16,820 --> 00:40:20,280
y si no ya se pasaba a producción.

327
00:40:21,699 --> 00:40:30,780
También otro de los casos de estudio que hicimos fue unificar CAI ya no solo en GitLab sino en un SOC.

328
00:40:31,519 --> 00:40:36,739
Un SOC es una herramienta que se encarga de recibir alertas de seguridad

329
00:40:36,739 --> 00:40:41,940
y las alertas no necesariamente son vulnerabilidades.

330
00:40:41,940 --> 00:40:48,340
Entonces hay que comprobar si son explotables o no. Ese proceso de filtrar esas alertas es un poco tedioso.

331
00:40:48,980 --> 00:41:00,380
Y decidimos utilizar CAI a ver si nos facilitaba y nos ayudaba a ver si realmente esas alertas que nosotros estábamos recibiendo eran vulnerabilidades para nosotros.

332
00:41:00,380 --> 00:41:22,519
Vimos que nos servía, que realmente cuando se detectaba una alerta analizaba si era vulnerabilidad o no y de forma controlada intentaba reducirla y entonces decidimos por qué no unir esto con la gestión de riesgos y cumplimiento y con pentesting automatizado.

333
00:41:22,519 --> 00:41:37,639
Entonces, una vez detectada una amenaza, las capacidades ofensivas detectan si se puede explotar o no y los resultados se relacionan con la gestión de riesgos y cumplimiento.

334
00:41:37,639 --> 00:41:41,519
Y de esa forma se puede como hacer un ciclo de seguridad.

335
00:41:42,739 --> 00:41:49,260
Y por último, el último de los casos, era simular el comportamiento de un atacante.

336
00:41:50,019 --> 00:42:00,380
Utilizamos las diferentes técnicas de Mitre para ver si se podía simular un atacante y si esas técnicas nos afectaban a nosotros.

337
00:42:00,380 --> 00:42:22,519
De esa forma tenemos como un ciclo completo en el que podemos analizar las vulnerabilidades, ver si realmente son explotables o no, securizarlas y luego estar en un monitoreo continuo simulando ataques y haciendo pentesting a tu propia infraestructura.

338
00:42:22,519 --> 00:42:50,219
Y bueno, estos son los cuatro o cinco más importantes casos de uso que hemos visto para la presentación, tienen muchos más de ellos, hay algunos de robótica, si estáis interesados en robótica, están en la página web de la empresa, pero ya os digo, es que esta herramienta y la IA en ciberseguridad tiene un montón de aplicaciones.

339
00:42:50,219 --> 00:43:07,559
Y bueno, ya para acabar, me gustaría recapitular un poco lo que os he ido comentando a lo largo de la sesión y que a lo mejor os habéis olvidado ya lo que os he dicho al principio.

340
00:43:07,559 --> 00:43:17,400
Bueno, las amenazas son cada vez más rápidas y necesitamos respuestas y defensas más rápidas.

341
00:43:19,199 --> 00:43:33,380
Para ello necesitamos entender que la IA ha venido para quedarse y que nos va a ayudar a dar estas respuestas rápidas que necesitamos.

342
00:43:33,380 --> 00:43:50,800
Y además, si a la IA le especializamos y le especializamos en una tarea defensiva o en una tarea ofensiva, va a funcionar bastante mejor. O sea, ya no es solo un simple agente, sino que es un actor automatizado.

343
00:43:50,800 --> 00:44:05,699
Y nada, muchas gracias por haberme escuchado, espero que os haya gustado la presentación, gracias de nuevo a todo el equipo y a vosotros por asistir.

344
00:44:13,610 --> 00:44:19,869
Muchas gracias María, muchas gracias. A mí me ha encantado, todo menos una cosa en la que discrepo.

345
00:44:21,329 --> 00:44:26,230
Ha dicho que a la hora de usar la inteligencia artificial nadie se preocupa por nuestra privacidad.

346
00:44:26,230 --> 00:44:41,070
Nadie, nosotros, educa Madrid. La plataforma educativa de la Comunidad de Madrid que ofrece modelos de IA alojados en local donde nuestro principal interés es mantener la privacidad de los usuarios.

347
00:44:41,070 --> 00:44:57,150
Y no solo eso, también disponemos de MAX, un sistema operativo orientado a la educación, pero para cualquier ciudadano, que permite desarrollar la competencia digital en local, incluso con herramientas de inteligencia artificial en local. Y todo gratuito y basado en software libre.

348
00:44:57,150 --> 00:45:14,469
Sí, esa es la pequeña matización. Muchas gracias. Y como se ha ceñido muy bien al tiempo, tenemos tiempo de hacer preguntas. Así que seguro que alguien por aquí está pensando. Bien, perfecto.

349
00:45:14,469 --> 00:45:22,389
Bueno, lo primero, me ha encantado la exposición.

350
00:45:22,449 --> 00:45:22,809
Gracias.

351
00:45:23,869 --> 00:45:33,110
Me ha surgido ahora mismo una duda que tengo curiosidad, porque todo el tema de la ciberseguridad se basa en empresas.

352
00:45:33,670 --> 00:45:36,409
Empresas por aquí, que la atacan, que se defienden.

353
00:45:37,050 --> 00:45:41,789
Pero, ¿y qué pasa con los usuarios domésticos, las redes domésticas de seguridad?

354
00:45:41,789 --> 00:45:43,369
yo creo que ahí está

355
00:45:43,369 --> 00:45:46,250
falta seguridad por a patadas

356
00:45:46,250 --> 00:45:47,789
algo gigantesco

357
00:45:47,789 --> 00:45:49,789
entonces quería preguntar

358
00:45:49,789 --> 00:45:50,969
si conoces algo

359
00:45:50,969 --> 00:45:53,690
alguna iniciativa, cualquier cosa

360
00:45:53,690 --> 00:45:55,630
incluso pequeñas empresas que a lo mejor

361
00:45:55,630 --> 00:45:57,130
no se pueden permitir un poco

362
00:45:57,130 --> 00:45:58,750
presupuestos grandes

363
00:45:58,750 --> 00:46:01,070
justo de lo que os acabo de hablar es un

364
00:46:01,070 --> 00:46:03,469
proyecto open source

365
00:46:03,469 --> 00:46:05,889
que está abierto al público, está publicado

366
00:46:05,889 --> 00:46:07,070
en GitHub

367
00:46:07,070 --> 00:46:09,710
sí que es verdad que si no eres

368
00:46:09,710 --> 00:46:10,389
técnico

369
00:46:10,389 --> 00:46:15,130
a lo mejor necesitas un poco más de conocimientos de cómo saber utilizarlo

370
00:46:15,130 --> 00:46:20,130
pero con esta herramienta puedes instalártela en el ordenador

371
00:46:20,130 --> 00:46:23,130
y correrla en tu propia red local

372
00:46:23,130 --> 00:46:26,610
puedes decir oye analízame las vulnerabilidades que puedas encontrar en mi red

373
00:46:26,610 --> 00:46:28,869
o estás conectado a mi red

374
00:46:28,869 --> 00:46:33,130
intenta ver si hay algún atacante dentro de mi red

375
00:46:33,130 --> 00:46:34,650
o demás

376
00:46:34,650 --> 00:46:38,369
esto es verdad que os he explicado que el modelo es el cerebro

377
00:46:38,369 --> 00:46:59,369
Entonces necesitarías un modelo tampoco potente pero que por lo menos fuese un poco más capaz. Hay modelos libres como puede ser QWEN en plataformas como Hugging Face y mediante Ollama se puede conectar con la herramienta pero ya te digo es un poco más técnico.

378
00:47:00,090 --> 00:47:32,820
Hola María, muchas gracias y ha estado muy bien la presentación. Yo te quería hacer una pregunta, que lo hemos visto así que casi todo el mundo ha hecho fotos porque quedan muy bonitas las tools que has sacado, pero yo te quería preguntar, en CAI, cómo habéis visto la diferencia del tipo de modelo con las tools que utilizáis en la agéntica para ver cómo han pasado todos estos ETFs, etc.

379
00:47:32,820 --> 00:47:50,820
Al principio empezamos a hacer, bueno, no sé, bueno, tools específicas. O sea, por ejemplo, para análisis de red, pues utilizábamos T-SAR, entonces creamos una herramienta específica, como que lo especificamos todo mucho.

380
00:47:50,820 --> 00:48:01,480
Y nos dimos cuenta que le estábamos poniendo puertas al campo, que realmente el modelo lo que quería era trabajar por libre, que no entendía los parámetros que le estábamos poniendo.

381
00:48:01,480 --> 00:48:11,539
Entonces creamos una herramienta que era Generics Linux Command Tool y utilizaba esa herramienta que contiene todos los comandos de Linux.

382
00:48:11,920 --> 00:48:20,739
O sea, le dejábamos a su Lilby alberdrío que él mismo eligiese los parámetros que consideraba necesarios.

383
00:48:21,639 --> 00:48:22,380
Muchas gracias.

384
00:48:27,099 --> 00:48:31,079
Muchas gracias porque la verdad es que está increíble la presentación, me ha gustado mucho.

385
00:48:31,079 --> 00:48:33,480
mi pregunta es un poco

386
00:48:33,480 --> 00:48:35,599
como pensando en el futuro

387
00:48:35,599 --> 00:48:37,460
y la alarma que

388
00:48:37,460 --> 00:48:38,780
al final genera todo esto

389
00:48:38,780 --> 00:48:41,559
porque está bien

390
00:48:41,559 --> 00:48:43,519
que lo utilicemos nosotros, pero cuando lo usen

391
00:48:43,519 --> 00:48:45,460
los malos, pues ya sabemos

392
00:48:45,460 --> 00:48:47,440
que va a pasar, como tú has comentado

393
00:48:47,440 --> 00:48:49,780
que los ataques cada vez van a ser más rápidos

394
00:48:49,780 --> 00:48:51,440
las vulnerabilidades se van a encontrar antes

395
00:48:51,440 --> 00:48:52,699
se van a explotar antes y tal

396
00:48:52,699 --> 00:48:54,239
entonces la pregunta es un poco

397
00:48:54,239 --> 00:48:57,579
que a lo mejor no me puedes responder

398
00:48:57,579 --> 00:48:58,679
no lo sé, pero

399
00:48:58,679 --> 00:49:12,119
Pero cuando se empiecen a aplicar a modelos muy potentes de frontera, como por ejemplo el nuevo GPT-6 Astra y los últimos de Antropic, ¿cómo lo vamos a hacer?

400
00:49:12,420 --> 00:49:25,719
O sea, es como, lo veo como súper complicado por la inversión que tienen de dinero esas empresas cuando lo empiecen a utilizar los malos para el mal y dejar que las agentes ataquen por sí mismos.

401
00:49:25,719 --> 00:49:38,940
O sea, a ver, es verdad que, por ejemplo, compañías como Anthropic recientemente lanzó un modelo que aparentaba ser súper potente para la ciberseguridad, pero dijo que no lo iba a abrir al público por ese mismo motivo.

402
00:49:38,940 --> 00:49:45,300
que si alguna empresa quería contactarle para pues empresas ya más nivel

403
00:49:45,300 --> 00:49:53,460
Ministerio de Defensa y órganos públicos que si querían contactarles para ello

404
00:49:53,460 --> 00:49:58,139
que a lo mejor sí que podían darles el modelo pero que no lo iban a hacer público

405
00:49:58,139 --> 00:50:03,139
por ese mismo motivo porque es que cada vez esto va siendo más peligroso

406
00:50:03,780 --> 00:50:06,219
y hace unos días tuve una llamada con David y le comenté

407
00:50:06,219 --> 00:50:13,039
Mira, pues hicimos un estudio de que cada vez los atacantes están utilizando más la inteligencia artificial.

408
00:50:13,800 --> 00:50:20,679
Entonces, la ingeniería de adversario que utilizábamos para clasificar las diferentes APTs, por ejemplo,

409
00:50:21,539 --> 00:50:27,239
vimos que poco a poco se va a romper porque gracias a la IA tú puedes decir,

410
00:50:27,440 --> 00:50:32,840
quiero que me simules un ataque como si fuese este APT y utilizar las tácticas, técnicas y procedimientos

411
00:50:32,840 --> 00:50:40,260
que utilizan esos grupos y así no parecer que tú eres otro adversario.

412
00:50:41,159 --> 00:50:45,840
Entonces, poco a poco hay que ir, o sea, si queremos que no nos pillen,

413
00:50:47,139 --> 00:50:52,079
hay que aplicar también la inteligencia artificial a la defensa, es muy importante.

414
00:50:56,539 --> 00:51:00,139
Bueno, muchas gracias María, la verdad es que me ha encantado, yo creo que ha gustado a todo el mundo.

415
00:51:01,219 --> 00:51:05,000
Acerca de eso, lo que estabas hablando que se denomina mitre attack,

416
00:51:05,000 --> 00:51:13,079
normalmente, bueno, hay más marcos, ¿cuál es tu opinión del valor actual de Mitre Attack o de aquí a fin de año?

417
00:51:13,179 --> 00:51:18,139
Es decir, ¿Mitre Attack va a seguir siendo válido o literalmente está roto?

418
00:51:18,980 --> 00:51:27,219
A ver, creo que es válido a nivel de las tácticas, los procedimientos, o sea, al final es un framework muy amplio

419
00:51:27,219 --> 00:51:33,199
y te da, pues eso te resume muy bien cómo es las diferentes fases del ciclo de ciberseguridad,

420
00:51:33,199 --> 00:51:35,659
las diferentes tácticas que puedes aplicar.

421
00:51:36,519 --> 00:51:42,679
El problema es que la asignación que hacen ellos de adversarios,

422
00:51:43,500 --> 00:51:46,699
esa parte yo creo que en el futuro va a cambiar.

423
00:51:47,400 --> 00:51:53,239
Por lo que te digo, porque si tú puedes simular que eres X grupo y en realidad eres otro,

424
00:51:54,840 --> 00:52:01,659
al final esa asignación que está haciendo mediante esas tácticas, procedimientos, no va a ser posible.

425
00:52:01,659 --> 00:52:22,139
Lo que voy es que una IA preparada para el ataque lo que va a hacer es aprender del propio Mitre Attack y dice, bueno, voy a crearme unos IOCs, unos indicadores de compromiso que directamente los voy a falsificar. En lugar de meter carácteres irílicos para que parezca un modelado de un ataque, un APT ruso, le estoy metiendo asiático para que parezca eso y chino.

426
00:52:22,139 --> 00:52:32,219
Eso es. Y parte de todo eso, ¿no? Con lo cual hay, bueno, quién es quién. Esto ya no es falsa bandera, es bandera inexistente porque no puedes determinar de dónde viene.

427
00:52:32,219 --> 00:52:55,360
Luego, referente a otro tema que se comentaba, efectivamente esto en malas manos es un problema. Entiendo que desde el punto de vista empresarial para el modelo concreto de aquí de Alias, pues se venderá únicamente a instituciones concretas documentando que perteneces a fuerzas de seguridad del Estado, que eres un organismo concreto y tal.

428
00:52:55,360 --> 00:53:11,659
Pero esto no quiere decir que los malos tengan sus propios modelos. En la dark web se está vendiendo un modelo, no recuerdo el número de bitcoins, que se llama Lucifer, algo así más o menos, que viene a hacer algo para prácticamente atacar.

429
00:53:11,659 --> 00:53:32,400
Tú dame una URL que ya me dedico yo a preparar las campañas de phishing, de ver los leaks, de ver cómo hago una campaña de lo que sea, de crear usuarios clonados que parezcan estos los perfiles de LinkedIn, de recopilar información, de buscar el mail personal y el mail de empresa de esta persona para hacerle creer.

430
00:53:32,400 --> 00:53:57,960
O sea, quiero decir que es un tema realmente complicado. Con lo cual, aquí lo que hay que hacer es una preparación para las ideas defensivas. Y esto también pregunto tu opinión. ¿Qué va a pasar en 2028? A 2027 todavía le doy un poco de tiempo, pero te hablo de 2028. Cualquier empresa o administración pública que no tenga ideas defensivas.

431
00:53:57,960 --> 00:54:03,260
Yo creo que no van a existir

432
00:54:03,260 --> 00:54:04,860
necesitamos

433
00:54:04,860 --> 00:54:06,280
realmente

434
00:54:06,280 --> 00:54:09,079
ya estamos viendo que los atacantes están utilizando la IA

435
00:54:09,079 --> 00:54:10,780
entonces necesitamos

436
00:54:10,780 --> 00:54:13,460
por lo menos ponernos a su nivel de respuesta

437
00:54:13,460 --> 00:54:14,519
porque si no tenemos

438
00:54:14,519 --> 00:54:17,579
la misma rapidez con la que ellos nos atacan

439
00:54:17,579 --> 00:54:18,719
de defensa

440
00:54:18,719 --> 00:54:21,019
no podemos hacer nada

441
00:54:21,019 --> 00:54:23,239
necesitamos que para

442
00:54:23,239 --> 00:54:24,340
2028

443
00:54:24,340 --> 00:54:27,199
todas las empresas

444
00:54:27,199 --> 00:54:39,960
todos los organismos tengan esa defensa de inteligencia artificial incluida en su infraestructura, porque es que si no, no van a existir.

445
00:54:41,900 --> 00:54:50,079
Otra pregunta más. Bueno, hay una película de 1983 que se llama War Games. Viene a ser un poco lo que has estado hablando, los ejercicios Luxil.

446
00:54:50,079 --> 00:54:53,639
si tú le das

447
00:54:53,639 --> 00:54:55,119
a esos ejercicios

448
00:54:55,119 --> 00:54:57,539
un control excesivo de la IA

449
00:54:57,539 --> 00:54:59,440
que además esos ejercicios

450
00:54:59,440 --> 00:55:01,340
son para en algún momento llevarlo a un mundo

451
00:55:01,340 --> 00:55:03,000
real, por decirlo así

452
00:55:03,000 --> 00:55:04,519
¿qué pasa si

453
00:55:04,519 --> 00:55:07,239
esa IA estima que al final

454
00:55:07,239 --> 00:55:09,380
bueno, voy a disparar un par

455
00:55:09,380 --> 00:55:11,440
de misiles porque creo que es la opción

456
00:55:11,440 --> 00:55:13,019
mejor, ¿no?

457
00:55:13,019 --> 00:55:15,380
quiero decir, en estos ejercicios

458
00:55:15,940 --> 00:55:17,559
la IA cuando se usa

459
00:55:17,559 --> 00:55:19,000
entiendo que tiene unos

460
00:55:19,000 --> 00:55:21,340
guardarraíles muy concretos

461
00:55:21,340 --> 00:55:22,940
se le limita mucho

462
00:55:22,940 --> 00:55:24,739
eso está ejecutado dentro de un sandbox

463
00:55:24,739 --> 00:55:27,280
un marco de trabajo

464
00:55:27,280 --> 00:55:28,320
del que no se puede salir

465
00:55:28,320 --> 00:55:30,159
no se puede salir pero

466
00:55:30,159 --> 00:55:33,219
y si se sale porque estima que lo adecuado

467
00:55:33,219 --> 00:55:34,579
para eso es salir

468
00:55:34,579 --> 00:55:37,039
es decir, uno de los problemas que vio con la

469
00:55:37,039 --> 00:55:38,760
bueno, lo que dice la noticia es

470
00:55:38,760 --> 00:55:41,280
que se le ha dado un objetivo a esa IA

471
00:55:41,280 --> 00:55:43,239
que en teoría esa IA estaba dentro

472
00:55:43,239 --> 00:55:44,400
de unas regulaciones

473
00:55:44,400 --> 00:55:46,360
y al final él ha calculado que

474
00:55:46,360 --> 00:55:51,739
bueno, pero si esta regulación con esto o la otra, no sé qué, es como si no infringiera nada y me la asalto.

475
00:55:52,099 --> 00:55:57,940
Es decir, como si buscara formas jurídicas, legales, para hacer una cosa que no queremos que haga.

476
00:55:58,519 --> 00:56:02,280
¿Hay un guardarraíl para el guardarraíl? Pregunto.

477
00:56:03,739 --> 00:56:06,159
Realmente no. O sea, el guardarraíl tiene que ser el humano.

478
00:56:06,679 --> 00:56:14,679
O sea, al final, inicialmente, la IA guiaba a los humanos, pero ahora somos los humanos los que tenemos que guiar a la IA.

479
00:56:14,679 --> 00:56:32,599
O sea, tenemos que decirle hasta dónde y hasta dónde no puede llegar y en el momento en el que ver que está sobrepasando nuestros límites, pararlo. Por eso es importante entender que la IA no nos va a sustituir, no va a sustituir nuestros trabajos, sino va a hacer nuestro trabajo más fácil y nosotros nos tenemos que adaptar a la IA también y adaptar a trabajar con ella.

480
00:56:33,320 --> 00:56:38,739
Entonces, por así decirlo, que el botón rojo, el que lo pulse no sea la IA, sea el humano.

481
00:56:41,239 --> 00:56:42,019
Última pregunta.

482
00:56:44,679 --> 00:57:08,780
María, gracias por la charla, ha sido muy interesante. Yo llevo en parte de mi vida personal un equipo de robótica, entonces me interesa lo que has mencionado de la parte de robótica, cómo afecta todo esto a la parte de la robótica, sobre todo entiendo que está orientada a la robótica industrial, robótica autónoma también, robótica utilizada en defensa.

483
00:57:08,780 --> 00:57:16,019
Entonces, ¿cómo aplicáis vosotros todo el área de ciberseguridad en el ámbito de la robótica?

484
00:57:17,039 --> 00:57:24,260
Pues inicialmente comenzamos con robots aislados.

485
00:57:25,000 --> 00:57:28,340
Teníamos un perrito y luego un humanoide.

486
00:57:28,980 --> 00:57:31,539
E intentamos ver las vulnerabilidades que tenían.

487
00:57:31,539 --> 00:57:49,940
También necesitábamos acceso físico a los sistemas muchas veces para poder abrirlos y demás. Y luego fuimos capaces de implantar la herramienta en los sistemas de los robots.

488
00:57:49,940 --> 00:58:08,219
Entonces eso nos servía constantemente para analizar tráfico dentro de los robots y nos dimos cuenta que, por ejemplo, en el humanoide estábamos mandando datos constantemente a los servidores de Unitree sin nuestro consentimiento.

489
00:58:08,219 --> 00:58:29,260
O sea que vimos que se estaban violando algunas reglas de privacidad. Nuestra solución fue eso, implantar esta herramienta también dentro de los propios robots para ver cómo funcionaban y cómo se comportaban. Puedes hacerlo a nivel ofensivo también para intentar atacarlos, pero a nivel defensivo también.

490
00:58:29,260 --> 00:58:38,920
Muchas gracias María, nos da tiempo a la presentación, a las preguntas y nos da tiempo también a que suba al escenario Adolfo Sández Diego

491
00:58:38,920 --> 00:58:43,820
Jefe de Servicio de Plataformas Educativas de la Subdirección General de Transformación Educativa

492
00:58:43,820 --> 00:58:47,420
de la Dirección General de Estrategia Digital de la Consejería de Digitalización de la Comunidad de Madrid

493
00:58:47,420 --> 00:59:02,099
Adolfo, que va a hacer entrega de un diploma en reconocimiento de la labor

494
00:59:02,099 --> 00:59:05,360
y como no ha venido gente de la agencia de ciberseguridad, voy a salir yo en la foto también.

495
00:59:14,409 --> 00:59:17,190
Muy bien, pues con esto ya damos por finalizado el evento.