1 00:00:02,540 --> 00:00:21,760 Hoy tenemos un Ciberjueves muy especial, tenemos un cierre distinto a cualquier otro Ciberjueves. Hoy contamos con la suerte de tener al consejero de Digitalización, Miguel López Valverde, que va a cerrar este evento y antes le va a hacer entrega a la ponente de un pequeño detalle. 2 00:00:21,760 --> 00:00:32,469 Así que, por favor, consejero, si quieren entregarle ese lugar. 3 00:00:32,770 --> 00:00:33,649 Muchísimas gracias. 4 00:00:36,270 --> 00:01:08,269 Y ahora sí, para dar por finalizado el acto, el consejero de Digitalización, Miguel López-Bobrera, va a clausurar la jornada. Adelante. 5 00:01:15,890 --> 00:01:19,030 Bienvenidos a todos aquí al Centro Digitaliza Madrid. 6 00:01:19,030 --> 00:01:27,870 Veo muchas caras sonrientes y mucha gente despierta. Significa que Raquel ha hecho un gran trabajo. He visto toda la presentación y, francamente, es impresionante. 7 00:01:28,609 --> 00:01:42,750 Bueno, quería saludar a su directora general de la Agencia de Ciberseguridad. También agradecer estas iniciativas de los Ciberjueves porque creo que es importante ver un poco el marco que está tomando la ciberseguridad. 8 00:01:42,750 --> 00:01:55,670 Yo leyéndome un poco el guión de hoy, y que llevamos mucho tiempo en la tecnología, y más en esta consejería que nos dedicamos solo a tecnología, pues claro, se está abriendo que hay unos nuevos vectores que se están abriendo. 9 00:01:56,049 --> 00:02:05,209 Al final, lo hablamos muchas veces, el riesgo, que hablamos del dominio cognitivo, al final, la suplantación, cada vez lo vemos más, cómo pueden manipular. 10 00:02:05,209 --> 00:02:12,250 Ahora antes era físico, ahora se vuelve a tener el modelo lógico, y es que ahora ya nos atacan a nosotros. 11 00:02:12,750 --> 00:02:39,789 Entonces hace que pensar y sobre todo en todo lo que estamos diseñando y preparando y sobre todo porque al final el vector humano es un vector muy débil, es influenciable y sobre todo se puede persuadir y es un vector de ataque que nosotros desde la administración pública y sobre todo con todos estos canales que estamos abriendo digitales de ayuda, de asistencia a los ciudadanos, 12 00:02:39,789 --> 00:02:45,990 pues tenemos que tener muchísimo cuidado y sobre todo mucha cautela, pues que no se suplante nada de lo que no tenga que suplantarse. 13 00:02:46,389 --> 00:02:52,430 Hay una medida que, aparte de que la Administración, pues nosotros estemos celosos en el tema de ciberseguridad, 14 00:02:52,530 --> 00:02:58,750 de todos los datos y nuestra relación, pero sobre todo es muy importante el sensibilizar a la población. 15 00:02:59,569 --> 00:03:04,370 Nosotros tenemos una cosa que hemos puesto en marcha, que son los centros de capacitación en las zonas rurales, 16 00:03:04,849 --> 00:03:07,090 que es un mundo sorprendente. ¿Por qué os lo digo? 17 00:03:07,090 --> 00:03:36,430 Porque yo he recorrido unos cuantos, hay formación en ciberseguridad, en estafas, en uso de la tecnología y te das cuenta que al final no solo caen los mayores, caemos todos, porque al final cada vez es más sofisticado las diferentes vías que están utilizando los de enfrente, principalmente es modelo económico, pero también estamos dándonos cuenta, y más en la parte cognitiva, cómo manipulan para que cosas que consideramos que son malas al principio se conviertan en cosas que son plausibles 18 00:03:36,430 --> 00:03:38,610 y que puedan convertirse en algo normalizado. 19 00:03:39,129 --> 00:03:40,129 Yo sé que hay que tener muchísimo cuidado. 20 00:03:40,469 --> 00:03:44,289 Al final, lo estamos viendo en la parte de IA, sobre todo en la IA generativa, 21 00:03:44,370 --> 00:03:46,090 porque en la IA tradicional, al final sabemos lo que hace. 22 00:03:46,430 --> 00:03:49,409 Pero en la IA generativa es muy importante el tenerla controlada y, sobre todo, 23 00:03:50,050 --> 00:03:53,210 ese eje en que tenemos que es no dar por sentado nada. 24 00:03:53,330 --> 00:03:56,169 Y lo estamos viendo. Al final, cuando tú utilizas la IA generativa, 25 00:03:56,889 --> 00:04:01,110 siempre tiene que haber alguien, un factor humano, que diga si eso es correcto o no es correcto. 26 00:04:01,110 --> 00:04:03,629 ¿Por qué? Porque nos mete unas trolas alucinantes. 27 00:04:04,289 --> 00:04:09,210 Y eso lo vemos. Al final, cualquiera que sabe de algo, dice, esto no puede ser correcto. Esto no tiene sentido. 28 00:04:09,650 --> 00:04:12,110 Entonces, es muy importante en eso. Lo vemos también en las redes sociales. 29 00:04:12,110 --> 00:04:19,850 Al final, hay otros modelos, más modelos sociales, o sea, sociológicos, de cómo se... 30 00:04:19,850 --> 00:04:22,649 Y lo estáis viendo. Al final, las redes sociales se enganchan. 31 00:04:23,370 --> 00:04:28,629 Yo me bajé todas y con TikTok te enganchas. Después tiras una hora y media y no te das cuenta de qué ha pasado el tiempo. 32 00:04:28,629 --> 00:04:36,389 ¿Por qué? Porque sabe cómo pensamos. Entonces nos va dando contenido muy personalizado y nos va dando contenido hacia donde quieren llevarnos. 33 00:04:36,829 --> 00:04:43,870 Lógicamente eso si metes un factor que es la parte cognitiva y cómo quieren manipularla, pues entonces ahí hacemos una tormenta perfecta. 34 00:04:44,410 --> 00:04:52,029 Entonces es muy importante que en esa parte seamos sensibles, vosotros que sois jóvenes y que vais a liderar nuestra tecnología y nuestro futuro digital, 35 00:04:52,029 --> 00:04:58,329 que lo tengáis ahora mismo presente porque estáis utilizándolo y sobre todo tenéis que ser conscientes hacia dónde va todo esto. 36 00:04:58,629 --> 00:05:23,310 Hay un punto también en el tema de ciberseguridad muy importante que es que, aparte de que sepamos qué hacen, hay otro gran concepto que se está poniendo en marcha ahora mismo que es la comunicación agéntica-agéntica, que es una cosa que pasó hace unos años, que se desconectó porque nadie podía explicar lo que estaba ocurriendo allí y, sobre todo, no solo lo que puede ocurrir ahí y porque es mucho más eficiente una máquina con una máquina porque habla su propio idioma. 37 00:05:23,310 --> 00:05:36,529 Nosotros, lógicamente, tenemos que traducir al modelo máquina. Pero es muy importante que nosotros estemos también sensibles de tal forma que sepamos lo que pasa y, sobre todo, los objetivos es qué va a salir de lo que hemos pedido. 38 00:05:37,029 --> 00:05:46,089 ¿Por qué? Porque también tiene sesgo. O sea, nosotros estamos viendo ahora mismo unos puntos más importantes en la agencia, es que todo el algoritmo y toda la guía que tenemos que no tenga ciberataques. 39 00:05:46,089 --> 00:06:13,569 Una aproximación que se está haciendo, que también estamos viendo, hablando con las multinacionales y con expertos, como en este caso Raquel, al final ¿qué estamos viendo? Estamos viendo que los agentes que estamos utilizando en IA, que muchos estamos programando IA en nuestro día, o a través de nuestro puesto de trabajo, o a través para aplicaciones, o asistentes de ayuda, o agéntica asistencial, lo que estamos viendo es que es un vector que puede ser atacado muy fácilmente. 40 00:06:13,569 --> 00:06:17,589 Entonces, se está considerando que la gente que haya va a funcionar como un usuario. 41 00:06:18,370 --> 00:06:25,569 O sea, estamos aplicando las mismas normas y las mismas protecciones para lo que hace un usuario que se conecta a un equipo como lo que hace un agente. 42 00:06:26,029 --> 00:06:28,110 Lógicamente es mucho más sofisticado, pero de la misma forma. 43 00:06:28,110 --> 00:06:35,170 Entonces, es muy importante y yo creo que viene muy bien y agradezco la celebración de estos Tiber Jueves porque nos hace pensar. 44 00:06:35,709 --> 00:06:42,970 Nos hace pensar y creo que nos debe hacer pensar a todos porque al final lo que es el futuro, la tecnología va muy rápido, pero tenemos que definirlo nosotros. 45 00:06:42,970 --> 00:06:58,949 O sea, no podemos permitir que ellos nos lleven por delante, o sea, que las máquinas y los algoritmos nos lleven por delante a nosotros. ¿Por qué? Porque simplemente lo digo, es un sistema de ayuda a nosotros. Si dejamos que empiecen a hacer cosas que no tienen que hacer, pues tenemos un problema y ahí están todas las películas futuristas que conocemos. 46 00:06:58,949 --> 00:07:01,769 ¿qué se ha hecho desde la comunidad? 47 00:07:01,850 --> 00:07:02,730 ¿qué estamos intentando hacer? 48 00:07:03,050 --> 00:07:04,230 pues al final montar un escudo 49 00:07:04,230 --> 00:07:06,209 yo creo que el escudo ya se nos ha quedado pequeño 50 00:07:06,209 --> 00:07:08,449 porque el escudo digital lo montamos para infraestructuras 51 00:07:08,449 --> 00:07:10,589 para aplicaciones, pero es que ya casi 52 00:07:10,589 --> 00:07:11,589 es un escudo social 53 00:07:11,589 --> 00:07:15,069 que ya es un escudo de protegernos a nosotros mismos 54 00:07:15,069 --> 00:07:16,750 entonces bueno, pues esa es una derivada 55 00:07:16,750 --> 00:07:18,029 como todo esto va tan rápido 56 00:07:18,029 --> 00:07:20,490 el escudo digital lo montamos hace un año 57 00:07:20,490 --> 00:07:22,730 ya se ha quedado obsoleto 58 00:07:22,730 --> 00:07:24,129 o sea, fijaros como está 59 00:07:24,129 --> 00:07:26,910 nos faltaba la dimensión humana 60 00:07:26,910 --> 00:07:27,730 la dimensión social 61 00:07:28,470 --> 00:07:31,750 Protegernos a nosotros, proteger a nuestros mayores, proteger a los niños, proteger a todos. 62 00:07:32,189 --> 00:07:39,529 Entonces, es uno de los trabajos que tenemos que empezar a poner, es su editora general, Macarney, tenemos que poner las pilas porque es muy importante. 63 00:07:39,610 --> 00:07:44,170 Y sobre todo, gobernarlo todo. Tenemos que intentar gestionarlo, explicarlo. 64 00:07:44,170 --> 00:07:52,930 O sea, muchas de las cosas que estamos viendo ahora mismo, se habla de tanta burocracia europea, lo que estamos haciendo principalmente es intentar que todo sea explicable. 65 00:07:52,930 --> 00:08:10,910 O sea, que lo que se va a poner en marcha se puede explicar, que se utilicen los datos como hay que utilizarlos, que no se utilicen datos para sesgos, controlar los sesgos. O sea, eso es muy, muy importante y yo creo que esto, como decía anteriormente, los ciberjueves nos permite sensibilizarnos y sobre todo, sobre todo, darnos cuenta hacia dónde podemos ir. 66 00:08:10,910 --> 00:08:15,009 la ciberseguridad del presente 67 00:08:15,009 --> 00:08:16,610 lógicamente no tiene que ver con la del futuro 68 00:08:16,610 --> 00:08:18,149 va muy rápido 69 00:08:18,149 --> 00:08:20,949 ya no se juega como decía anteriormente con el código 70 00:08:20,949 --> 00:08:22,449 o con la hardware o con el software 71 00:08:22,449 --> 00:08:24,769 sino ya que se está jugando con la propia mente 72 00:08:24,769 --> 00:08:27,110 con la identidad propia que tenemos 73 00:08:27,110 --> 00:08:28,569 las organizaciones 74 00:08:28,569 --> 00:08:31,149 y también la capacidad que tenemos nosotros 75 00:08:31,149 --> 00:08:31,910 para interactuar 76 00:08:31,910 --> 00:08:33,710 si hay sesgo 77 00:08:33,710 --> 00:08:36,629 de alguna forma esos modelos cognitivos 78 00:08:36,629 --> 00:08:38,029 están siendo manipulados 79 00:08:38,029 --> 00:08:40,210 nos van a llevar a cambiar nuestra propia identidad 80 00:08:40,210 --> 00:08:43,210 y eso que va a transformar la cultura 81 00:08:43,210 --> 00:08:44,669 que tenemos, transformar nuestros valores 82 00:08:44,669 --> 00:08:45,750 y transformar todo 83 00:08:45,750 --> 00:08:49,009 y yo creo que tenemos que ser conscientes 84 00:08:49,009 --> 00:08:50,250 de que eso puede ocurrir, por lo tanto 85 00:08:50,250 --> 00:08:52,350 por lo menos levantar la mano y decir 86 00:08:52,350 --> 00:08:54,549 oye, esto no está bien o si está bien 87 00:08:54,549 --> 00:08:57,129 y nada, yo no quiero 88 00:08:57,129 --> 00:08:58,649 aburrir mucho más porque veo que todavía 89 00:08:58,649 --> 00:09:00,549 seguís mirándome interesados 90 00:09:00,549 --> 00:09:02,889 por lo tanto hay que acabar en todo lo alto 91 00:09:02,889 --> 00:09:04,289 un cierre 92 00:09:04,289 --> 00:09:06,870 pero sobre todo que seáis conscientes 93 00:09:06,870 --> 00:09:08,090 todos vosotros que sois jóvenes 94 00:09:08,090 --> 00:09:14,090 que el futuro sois vosotros. Por lo tanto, todo esto que estamos viendo, que seáis sensibles a ello, 95 00:09:14,649 --> 00:09:20,950 que lo tengáis presente, que Masterclass, como ha dicho Raquel, son fundamentales para que nos levanten 96 00:09:20,950 --> 00:09:27,289 y que nos abran los ojos y sobre todo que seamos nosotros los que lideremos la tecnología y no la tecnología nosotros. 97 00:09:27,529 --> 00:09:27,970 Muchísimas gracias.