Raquel Ibáñez: ¿Por qué tu cerebro es el Zero-Day favorito de la IA

Bienvenidos a un nuevo Ciberjueves de la Agencia de Seguridad y EducaMadrid. 00:00:00

Estamos aquí en este espacio tan increíble, en un día espectacular. 00:00:06

Y, como siempre, hoy tenemos la presencia de un oponente, en este caso, de gran prestigio, como todos los que traemos, 00:00:10

que viene desde Alicante, aunque realmente viene de Móstoles. 00:00:20

Y no es la primera persona que viene de Móstoles, de los que hemos traído, porque Móstoles es como un núcleo de la ciberseguridad, digamos, o del hackeo, bueno, de la ciberseguridad, que es donde estamos nosotros. 00:00:26

Ella es Raquel Ibáñez, es psicóloga, es neuropsicóloga, bueno, es muchas cosas, he intentado memorizarlo, pero no he sido capaz, pero como ella va a venir a contarlo, pues lo va a contar mucho mejor que yo. 00:00:40

Así que quiero que demos un aplauso muy fuerte a Raquel Ibáñez, por favor. 00:00:53

Bueno, genial, pues muchas gracias Daniel. Pues nada, como ha dicho Daniel, soy psicóloga, neuropsicóloga, también soy consultora de ciberseguridad, he hecho máster de ciberseguridad, de Ciret Intel y un poquito también cacharreo con la IA, porque los de Letras también tenemos sitio en el desarrollo de la IA. 00:01:08

Y nada, trabajo en Babel y allí nos podéis ver para también protección de dominio cognitivo, 00:01:27

protección de todo lo que es sistema, por ejemplo, directivos, 00:01:33

gentes que toman decisiones importantes, toda la serie de amenazas y vidas que hay, 00:01:36

sobre todo aquellas que van a la manipulación y a la persuasión. 00:01:41

En el día de hoy vamos a hablar de por qué el cerebro es el 0D y favorito de la IA. 00:01:46

¿Por qué? Hablamos mucho de la IA y hablamos mucho de temas técnicos, pero hay que tener en cuenta que la IA también es utilizada tanto para manipular voluntariamente como involuntariamente por el propio funcionamiento de la IA también ayuda a manipular. 00:01:52

Lo vamos a ver. ¿Cómo? Pues hoy vamos a hablar un poquito de una introducción, unas cuantas palabritas para centrar el tema. 00:02:10

Hablaremos del sexto dominio, es el dominio cognitivo, reconocido por la OTAN como el sexto dominio. 00:02:19

Luego hablaremos de la crisis de la realidad, porque la realidad ya no es lo que era y hay un cambio de paradigma. 00:02:26

Luego nos preguntaremos, ¿la IA es realmente objetiva? 00:02:33

Hablaremos de técnicas de persuasión, de la personalización de los mensajes que pueden utilizar los ciberdelincuentes hoy en día con mucha facilidad. 00:02:37

Hablaremos también de los cambios cerebrales, porque, ojo, la utilización de la IA, tanto a los que somos ya adultos, o muy adultos, muy mayores, 00:02:46

como la gente joven, cuyos cerebros, aquí veo muchos, estáis todavía desarrollando, 00:02:54

también la utilización de la IA o la mala utilización de la IA puede influir en que vuestros cerebros se desarrollen como debe ser 00:02:59

o empiecen a atrofiar determinadas capacidades que se deberían tener y ya hay estudios científicos, lo veremos. 00:03:06

Veremos también los cambios cerebrales y cognitivos, la IA como una aliada, porque no vamos a ser ahora los luditas que vamos a decir 00:03:15

Ah, qué mal la IA. No, la IA es una liada. Hay que saber utilizarla bien. Y hablaremos de la resiliencia cognitiva, algo que es muy importante y que desde todas las entidades, incluso la Unión Europea, se está poniendo mucho énfasis en ello. 00:03:23

Vemos que hoy en día los ataques ya no son puramente físicos, ya no es la guerra cinética únicamente, ya no es solamente hackear máquinas, sino que ahora los ataques son de diferentes tipos, son híbridos. 00:03:37

¿Qué quiere decir? Hay ataques a dominio cognitivo, hay ataques de manipulación económica, de manipulación legal, que China, por ejemplo, lo hace mucho y se sirve mucho de ello, las APT chinas. 00:03:57

También se utiliza mucho la IA como algo beneficioso. No vamos a ver solamente las amenazas híbridas en las que participa la IA, sino que también la IA tiene su lado beneficioso, 00:04:13

como liberarnos de tareas irrelevantes, poder dedicar ese tiempo tan valioso a hacer actividades que únicamente el ser humano puede hacer, 00:04:23

la creatividad, pensamiento sofisticado, abstracción, etc. 00:04:31

Y luego también vamos a ver que la IA se puede utilizar para manipular, para persuadir. 00:04:37

Es un efecto secundario no deseado. 00:04:42

Y la IA además puede ser utilizada por actores maliciosos. 00:04:47

De hecho está siendo utilizada y de hecho la tenemos entre todos nosotros a diario. Vemos post, vemos noticias, vemos intentos de manipulación por un lado, por otro. El mundo está cambiando y está cambiando muy rápido. 00:04:50

Hablamos del sexto dominio, el dominio cognitivo reconocido por la OTAN y más allá de los dominios tradicionales. 00:05:07

¿Cuál es el objetivo? El objetivo ya no es solamente cambiar o tirar para atrás los mensajes que podrían ser manipuladores. 00:05:17

Ahora lo que se trata es de cambiar la realidad. Hay un cambio de paradigma. 00:05:29

Ya no intentan simplemente persuadirnos con un mensaje como en los anuncios y demás. Ahora intentan manipular la percepción. Que nuestra realidad deje de ser lo estable que pensábamos que era. Crear confusión, crear inseguridad. 00:05:33

¿Qué es lo que pasa si yo ya no sé si esta persona que me está hablando en un webinar o en una conferencia es real? 00:05:50

¿Es sintética? ¿De verdad es mi jefe el que me está hablando? 00:05:57

¿O es alguien que lo ha impersonado? 00:06:00

¿Me están llamando por teléfono? Es la voz de mi hijo. 00:06:02

¿Pero es él? ¿No es él? 00:06:05

Eso es lo que se trata de hacer. 00:06:07

Cuando a las personas no tenemos a qué agarrarnos para decir esto es real, 00:06:09

Cuando ya no nos podemos fiar de nuestros sentidos, nos está creando una serie de inseguridades. Cuando estamos inseguros, es muy fácil manipularnos. La inseguridad hace que fallemos. Fallemos simplemente por el propio estrés, por la propia sobrecarga cognitiva. 00:06:17

Porque constantemente estoy preguntándome, ¿esto es? ¿no es? Ya no solamente tengo que pensar en lo del día a día, ya no solamente tengo que pensar en esa reunión, sino, ¿esa persona que está hablando conmigo es real? ¿Lo que me está pidiendo es algo que debería hacer? ¿Que no? 00:06:35

Bueno, la guerra ya no es solamente cinética, se utiliza en desinformación, la presión económica, el sabotaje, las operaciones psicológicas para confundir narrativas, cuando nos metemos en determinados foros underground, como le gusta decir a mi querida Inua, de Dark Web, lo que llamamos Dark Web, y empiezas a ver, por ejemplo, a mí me gusta mucho, estoy muy metida en la desinformación rusa, pues por, bueno, fricadas, ¿no? 00:06:50

Aquí todos tenemos un toque mental, el mío es ese. 00:07:19

Y ves cómo van planificando los ataques. 00:07:23

Y entonces están diciendo que ya no vayamos a las máquinas, porque hay muchas defensas, porque es que nos van a ver. 00:07:25

Nos vamos a ir infiltrando poco a poco. 00:07:31

Y lo están haciendo. 00:07:33

Entonces, esos mensajes van calando. 00:07:35

Y hay alianzas entre unos y otros, peleas también radicales de unos de otro lado. 00:07:38

O sea, están yendo a lo que ellos llaman la desestabilización de Occidente. Es decir, ellos están muy unidos, están muy juntos por cultura, por tema histórico. 00:07:43

Entonces ellos saben que si empiezan a generar movimientos y empiezan a polarizar, a enfrentar sociedades, es el divide y vencerás, que ya lo hacían los romanos. 00:07:57

esa es la guerra a la que estamos 00:08:06

¿y en qué se están basando 00:08:09

y que han encontrado un gran aliado? 00:08:11

en la inteligencia artificial 00:08:13

yo ya no tengo por qué saber español 00:08:14

para lanzar mis mensajes a España 00:08:16

ya no es 00:08:19

bueno, es que si el mensaje 00:08:20

en redes sociales tiene falta de ortografía 00:08:23

o está mal expresado, no, no, no 00:08:25

yo puedo coger una IA y efectivamente 00:08:26

puedo poner un mensaje ahora mismo en ruso, aunque no supiese hablar ruso 00:08:28

y en ruso perfecto 00:08:31

y además incluso puedo 00:08:33

pedirle a la IA que me haga lenguaje 00:08:35

de jerga. Las cosas están 00:08:37

cambiando y bastante. El cerebro 00:08:39

humano es el objetivo 00:08:41

porque como decían en el mando conjunto del 00:08:42

ciberespacio 00:08:45

en una de las charlas que han hecho 00:08:46

cuando sea máquina 00:08:49

contra máquina, quien va a quedar es el 00:08:51

hombre, el hombre que maneja 00:08:53

la máquina, el hombre que 00:08:55

programa la máquina, el hombre 00:08:56

que puede configurar la máquina 00:08:59

y es su acierto o su error 00:09:01

tenemos la crisis de realidad que os he dicho 00:09:03

fatiga cognitiva, nuestra sociedad 00:09:08

está montada de tal forma 00:09:10

que constantemente tenemos 00:09:12

estímulos por todos lados 00:09:14

tenemos un móvil, estamos constantemente con el móvil 00:09:15

cuando no me llega una notificación 00:09:18

me llega un correo 00:09:20

estoy 24-7 localizada 00:09:21

mucha gente antes de 00:09:24

dormir lo último que hace es mirar la pantalla 00:09:26

del móvil, en ese móvil 00:09:28

que nos 00:09:30

¿Nos está dominando la vida? Aparte de todas las tareas que tenemos en el día a día, aparte de todos los mensajes que recibimos, ¿cuántos mensajes de esos nos están despertando determinadas emociones sin ser conscientes de ellos? 00:09:32

los mensajes muchas veces no son tan neutros como puedan parecer 00:09:45

de hecho los algoritmos 00:09:52

los algoritmos que también son inteligencia artificial 00:09:55

los algoritmos de recomendación de las redes sociales 00:09:58

los algoritmos de recomendación de internet 00:10:01

están programados para que nosotros nos quedemos ahí enganchados 00:10:03

¿y cómo es la forma que tienen de engancharnos? 00:10:06

a nuestro cerebro no le gusta nada que le lleves la contraria 00:10:10

¿por qué? porque nuestro cerebro pues como todo 00:10:13

Como yo soy vaga, no nos gusta trabajar demasiado. Entonces el cerebro, si tú le pones un contrargumento a lo que vienes pensando, ostras, ya tengo que trabajar. No, no, no. Pero si yo veo contenido que reafirma lo que yo creo y cada vez veo más contenido que reafirma lo que yo creo, amigo, tengo razón porque mira todos estos. 00:10:14

Y cuando yo empiezo a tener razón y muchos tienen razón, el otro que piensa distinto está equivocado, lo hace mal, es muy malo y cada vez lo vamos aislando más, lo vamos alejando más y de ahí a dejar de considerar al otro como un ser humano. 00:10:36

es alguien que está 00:10:56

al otro lado de la pantalla 00:10:59

tan fácil despersonalizarlo 00:11:00

tan fácil desprestigiarlo 00:11:02

romper 00:11:04

su credibilidad 00:11:06

es un click 00:11:07

es un mensaje, es un reposteo 00:11:10

es veo que al enemigo 00:11:13

entre comillas, que piensa distinto 00:11:15

hay un mensaje 00:11:16

que va en contra o que le va a hundir 00:11:18

enseguida reposteo 00:11:21

pa pa pa pa pa pa 00:11:23

junto conmigo una serie de bots 00:11:24

generados por inteligencia artificial 00:11:27

que son las identidades 00:11:29

sintéticas 00:11:31

que los hay de dos tipos 00:11:33

hay los bots automáticos de reposteo 00:11:35

y luego también hay sistemas de inteligencia 00:11:37

artificial que te crean diferentes 00:11:39

personajes con su 00:11:41

estilo 00:11:43

con su carácter 00:11:45

con su personalidad 00:11:47

y tú programas para que 00:11:48

vayan colocando aquellos mensajes 00:11:51

en determinadas redes, en determinados horarios, ¿para qué? Para que no se note que es una granja de bots, 00:11:53

tienen un perfil, tienen una foto, tienen vídeos, cuelgan vídeos, porque ya los vídeos, los deepfakes, 00:11:59

ya no se notan, ya no se ven tanto, entonces es muy fácil crear todo ese contenido que nos va erosionando, 00:12:06

va generando en nuestra mente 00:12:13

una sensación de que 00:12:17

si esta noticia que yo me he creído 00:12:20

ahora resulta que me están diciendo 00:12:22

que ha sido creada por inteligencia artificial 00:12:24

que era un deepfake 00:12:26

¿en qué puedo creer? 00:12:26

imaginaos la sensación 00:12:29

que es algo que me he ido creyendo siempre 00:12:31

de repente me dicen que es mentira 00:12:33

que puede estar manipulado 00:12:35

las sociedades se empiezan a resquebrajar 00:12:37

tanto por la polarización 00:12:41

como por la falta de seguridad en qué creer, en quién creer. 00:12:42

El contenido, hoy en día, gracias a la inteligencia artificial, puede ser hiperpersonalizado. 00:12:47

Los que venís de entorno ciber sabéis que está el OSINT, que es Inteligencia de Fuentes Abiertas. 00:12:53

En nuestra vida, en Internet, vamos dejando por ahí datos, datos nuestros en redes sociales, 00:13:01

si mando un currículum, si de repente a donde he mandado soy cliente de determinada compañía eléctrica 00:13:06

ha sufrido un hackeo y resulta que mis datos andan por ahí, vendiéndose. 00:13:12

Entonces, ¿qué es lo que pasa? 00:13:18

Que toda esa información, si yo la tuviese que coger a mano, 00:13:19

si yo quisiese hacer un ataque contra, por ejemplo, Daniel, lo siento, 00:13:21

si yo tuviese que hacer un ataque contra él, pues yo lo que voy a hacer es buscar en internet 00:13:27

cosas sobre él y demás. 00:13:30

Pero, ¿qué pasa si en vez de gastar yo mi tiempo, me lo hace una inteligencia artificial 00:13:32

mucho más rápido y además la inteligencia artificial me lo perfila? 00:13:37

me hace un perfil de personalidad 00:13:41

según lo que él va posteando 00:13:44

yo tengo un agente 00:13:46

de IA 00:13:48

que le voy metiendo 00:13:50

cómo perfilamos los psicólogos 00:13:52

lo que se llama el perfilado indirecto de la personalidad 00:13:53

con la información que vamos dejando 00:13:56

el estilo de lenguaje a través de la lingüística forense 00:13:58

qué palabras utilizas 00:14:01

qué estructuras de frases utilizas 00:14:02

se puede ver bastantes temas de nuestra personalidad 00:14:04

y ya los mensajes 00:14:08

ya no es que solamente sepan cómo me llamo, mi banco y tal, sino que saben cómo me expreso, saben qué tipo de personalidad tengo, si soy una persona más serena, más nerviosa, 00:14:10

si soy, porque esto además se nos ve en redes sociales, se nos ve muchísimo si somos de los que el dedito rápido y fácil que reposteamos, que enseguida contestamos, 00:14:20

o si somos personas calmadas. Yo no le voy a persuadir a una persona que salta a la primera con el mismo argumento que una persona que es más calmada, más introvertida, más tranquila. 00:14:28

Voy a hacer ese mensaje. La IA me ayuda a hacerlo. Porque ya no es que tenga que fijarme en un solo objetivo, sino que la IA me puede... Sácame los perfiles de fulanito, menganito, menganito, menganito. Me rastreas todo y me lo traes. 00:14:37

incluso pues 00:14:51

hay scrappers que también trabajan 00:14:53

en dar huevos si hay algún dato por ahí 00:14:55

suelto, puedo confiar 00:14:57

en lo que veo y oigo 00:14:59

hay un cambio de paradigma 00:15:00

ya no es ir 00:15:03

al mensaje, es cambiar nuestra concepción 00:15:05

de la realidad 00:15:07

hablamos 00:15:08

de sesgos, los humanos tenemos sesgos 00:15:11

los sesgos es digamos un fallo 00:15:13

persistente porque es algo 00:15:15

no es algo casual, es un fallo persistente 00:15:17

que tenemos, que viene 00:15:19

de la economía del cerebro, el cerebro como hemos 00:15:21

dicho, tiene que 00:15:23

ahorrar, o sea no podemos estar 00:15:25

imaginaos todos los estímulos que tenemos ahora, si yo tuviese 00:15:26

que estar escuchando el fluorescente 00:15:29

que hace, alguien que ha tosido 00:15:31

alguien que se ha movido, todo eso 00:15:33

está llegando al cerebro, pero nuestro 00:15:35

filtro hace que a la conciencia 00:15:37

solo lleguen determinados estímulos 00:15:39

que son relevantes en este momento 00:15:41

porque si no nos volveríamos locos 00:15:43

si tuviésemos que procesar todo 00:15:45

si hace calor, si hace frío, si la silla está 00:15:46

Si alguien hace un ruido, sí, sería una locura. Entonces, nuestro cerebro tiene determinados atajos, determinados truquitos para funcionar de una forma más eficiente. 00:15:49

Hay lo que se llaman los sesgos, que es lo que decimos que es un fallo persistente en el que tendemos a hacer determinadas cosas, dejarnos a llevar por determinadas cosas que algunas veces nos ayudan a adaptarnos a la realidad, 00:16:01

pero hay determinadas situaciones 00:16:11

en las que ese sesgo no me vale 00:16:14

y lo que me hace es meter la pata 00:16:15

hay una cosa que se llama heurísticos 00:16:17

¿qué son los heurísticos? pues son soluciones 00:16:20

rápidas a problemas, yo sé que 00:16:22

por ejemplo en una calle oscura 00:16:24

por la noche solitaria hay peligro 00:16:26

entonces actúo conforme a ese esquema 00:16:28

¿eso es correcto siempre? no, porque a lo mejor 00:16:30

en esa calle no está pasando nada, pero yo ya 00:16:32

me voy corriendo a mi casa por otro camino 00:16:34

eso es un esquema 00:16:36

eso es un heurístico, perdón, es resolver 00:16:38

el problema de soledad, miedo, lo resuelvo como sé, escapándome a un sitio con más 00:16:40

luz, con más gente, etc. Y luego están los esquemas mentales, que habréis oído hablar 00:16:45

también de ellos, que es cómo estructuramos la realidad. Eso lo hemos ido adquiriendo 00:16:49

de nuestra familia, nuestra educación, etc. Y es una forma que tenemos de adaptar la realidad, 00:16:53

de saber que si voy a un hospital y hay un señor con bata blanca, pues espero que sea 00:17:00

un médico o que sea un sanitario. No espero que sea un policía con bata blanca. Entonces, 00:17:05

No le voy a preguntar la dirección de una calle, le voy a preguntar, pues a lo mejor, oye, que estoy aquí esperando, que he venido de urgencias, etc. 00:17:10

Entonces, ¿qué es lo que pasa? ¿La IA tiene esos sesgos que nosotros tenemos? Sí, efectivamente. 00:17:17

¿Con qué se entran a la IA? Con datos. ¿Y esos datos quién los ha generado? Los humanos. 00:17:24

Y los humanos tenemos sesgos, tenemos perjuicios, tenemos fallos, tenemos también herencia histórica, 00:17:30

Es decir, hay más datos de determinadas poblaciones, de determinados grupos étnicos, de determinados países, más disponibles que de otros. 00:17:39

Por ejemplo, si vais al Google Lens que reconoce las caras, por ejemplo, le subes la imagen de una persona oriental, una persona china, por ejemplo, 00:17:49

y tú le subes a Google Lens y te saca 40.000 millones de chinos que no tienen nada que ver con el de la foto. 00:17:59

Sin embargo, si yo me voy a Badoo, que es el buscador chino, y le subo esa misma foto, me la clava. 00:18:04

Es ese señor. ¿Os dais cuenta? Ese es el sesgo. La IA occidental se ha ido generando, sobre todo, se ha ido generando en el tratamiento con personas de rasgos occidentales. Ahí ese es el sesgo. Y las de China, pues, se habrán generado, lógicamente, con más datos de allí, de China. 00:18:09

Entonces, eso lo que hace es que la IA, al fin y al cabo, cuando yo le pido, por ejemplo, un ejemplo de una persona que esté dirigiendo una gran empresa, 00:18:31

me va a poner un determinado perfil. No me va a poner, con perdón, una persona racializada, una mujer, normalmente te ponen un hombre, blanco, ejecutivo, etc. 00:18:43

Hay un sesgo. Y además, ¿qué pasa? Que la inteligencia artificial la entrenamos los humanos. Para entrenar esos datos hay que ponerles unas etiquetas, porque la inteligencia artificial no lee el lenguaje como lo leemos nosotros. 00:18:56

Hay que ponerle etiquetas. ¿Y esas etiquetas qué las pone? Humanos. Humanos con sus sesgos, con sus formas de ver la vida. Entonces, a mí determinado lenguaje me puede parecer malo. 00:19:09

Entonces yo voy a poner que determinada palabra es ofensiva, es mala. 00:19:19

Entonces ya eso está sesgando también porque a lo mejor para ti esa palabra no es mala, es una palabra neutra. 00:19:23

Entonces la IA tiene sesgos y eso lo tenemos que tener en cuenta cuando metemos un prompt y le pedimos algo a la IA. 00:19:30

No obedecer ciegamente a lo que me da es objetivo. 00:19:37

La IA como es una máquina es objetiva. 00:19:42

¿Con qué se ha entrenado? Con datos. 00:19:45

Datos que hemos generado nosotros. Etiquetas que hemos puesto nosotros. ¿Y qué es lo que pasa además? Que una IA se entrena con otra IA. O sea, toda la salida de una inteligencia artificial entrena a otra, a otra y a otra y al final se produce un bucle de sesgos. 00:19:47

Esos sesgos se van retroalimentando unos a otros, unos a otros, de tal forma que los resultados sesgados entrenan a otra IA que va a ser a su vez sesgada. Un círculo vicioso. 00:20:03

¿Cuáles son los principales sesgos? Pues ya os he comentado. El sesgo de muestreo. Los datos se seleccionan y se ponen como prototipos unos determinados datos que a lo mejor son los más disponibles. 00:20:16

¿Quiere decir que directivos solo hay gente occidental? 00:20:33

No, hay directivos de todo tipo de razas, sexo, géneros, etc. 00:20:39

Pero como lo que más datos hay es de eso, la inteligencia artificial me va a poner como que eso es lo real. 00:20:44

Sesgos de etiqueta, como os he dicho, los humanos son los que ponemos las etiquetas a la IA para entrenarlas. 00:20:52

El sesgo de embeddings, lo que os he dicho, esto viene de que la IA no lee las palabras como nosotros. 00:20:58

Se hacen vectores, digamos que se convierten las palabras en números. 00:21:06

Y entonces, dependiendo, por ejemplo, muchas veces de la longitud de la frase, 00:21:09

puede hacer interpretar a la IA que esa palabra está muy relacionada con muchas cosas. 00:21:15

Esas frases están relacionadas con muchas cosas. 00:21:22

No sé si os habéis dado cuenta que cuando metemos algunas veces preguntas a la IA nos hace unas respuestas con un lenguaje como muy barroco y con muchas palabras y en realidad no nos está diciendo nada. 00:21:24

Es una frase así de larga y de contenido real hay muy poco. ¿Por qué? Por eso que hemos dicho de los vectores. 00:21:36

Digamos que cuanto más larga la frase con más conceptos se puede relacionar y entonces va a dar una salida así. 00:21:43

¿Significa que la IA al darnos una cosa tan rimbombante con ese lenguaje, con esas frases tan largas, significa que es real porque está muy bien elaborado? No. 00:21:48

Yo puedo estar contándote una falacia, una mentira, puedo estarte contando algo totalmente vacío de contenido, hablando de sin embargo, puede ser que a pesar que... 00:21:58

Al final no me está diciendo nada, pero como está tan adornado, ostras, pues tiene que ser verdad porque está muy bien escrito. 00:22:12

Y luego, el sergo histórico. Es lo que hemos dicho, que se perpetúan determinadas informaciones históricas dependiendo de quién sea el que, entre comillas, domine la historia o más datos históricos a generar. 00:22:17

Vemos la asimetría y la persuasión. Hay datos científicos en los que dice que la IA es un 64% más efectivo a la hora de convencer que un humano. Tiene todo el sentido. ¿Por qué? 00:22:36

Porque si yo estoy debatiendo contigo, a mí me cuesta un trabajo el estar buscándote contra argumento, contra argumento y demás. La IA lo tiene muy fácil, enseguida te busca contra argumento, te cambia el paso. Es más fácil persuadir con la IA. 00:22:53

si un actor malicioso tiene un sistema de IA 00:23:09

va a ser mucho más fácil que 00:23:12

en una confrontación en redes sociales 00:23:14

te empieza a sacar mucho más contraargumentos 00:23:16

y más rápido, además que como tengo 00:23:18

varias IAs trabajando en el mismo contenido 00:23:19

encima vamos a ir 00:23:22

como 40 00:23:24

entidades sintéticas contra ti 00:23:25

te voy a machacar 00:23:27

entonces al final 00:23:29

y eso tiene un efecto de arrastre que es otro sesgo 00:23:31

que tenemos nosotros, el sesgo que se llama 00:23:33

The Bad Gammon, que quiere decir 00:23:35

en palabras llanas, ¿dónde va Vicente? 00:23:37

¿dónde va la gente? si yo veo que hay mucha gente 00:23:40

que está contraargumentando a esa persona 00:23:41

que ha dicho algo, yo me lo voy a creer 00:23:44

porque si todo el mundo está diciendo eso, pues yo también 00:23:46

y además, pues es que encima hoy estoy cabreada 00:23:47

venga va, le voy a alimentar 00:23:50

mi odio y voy a soltar ahí también 00:23:52

y voy a ir en contra, vamos a ir 00:23:53

todos ahí, ¿vale? 00:23:56

y eso lo saben, y eso 00:23:57

está lleno, las redes sociales, sobre todo 00:23:59

determinadas redes sociales y cada vez más 00:24:01

aunque parezca más seria 00:24:04

A LinkedIn cada vez está más llena de identidades sintéticas. Ya hemos cogido unas cuantas con un grupo que, bueno, Estados Unidos que estamos estudiando este tipo de cosas y ya hemos cogido bastantes identidades sintéticas intentando meter contenido de determinado tipo en sociedad occidental. 00:24:06

en cuanto a perfilado indirecto de la personalidad 00:24:23

ya os he dicho 00:24:26

para perfilar la personalidad 00:24:27

necesitamos datos para hacer un perfil 00:24:30

indirecto, perfil indirecto 00:24:32

significa que no te voy a hacer 00:24:34

el perfil como normalmente 00:24:36

hacen los psicólogos pasando de test 00:24:38

o preguntándote cosas, voy a coger 00:24:40

datos sobre ti, voy a ver las fotos 00:24:42

que utilizas, que tipo de contenido 00:24:44

de fotos usas, con que colores 00:24:46

te sueles vestir más, que tipo de frases 00:24:48

utilizas, que tipo de palabras 00:24:50

sueles generar tú 00:24:52

y de ahí te puede ir haciendo un perfilado 00:24:54

indirecto, hay varias 00:24:56

formas de hacerlo, normalmente es el 00:24:58

modelo que habéis oído 00:25:00

os pongo el más sencillo 00:25:02

por ejemplo el modelo PEN de Einstein 00:25:04

que es psicoticismo 00:25:06

extraversión neuroticismo, quiere decir 00:25:08

que conforme a esas tres 00:25:10

variables digamos, todos estamos 00:25:12

en un continuo, extraversión 00:25:14

pues si somos más o menos 00:25:16

activos, extrovertidos 00:25:18

o si somos más 00:25:20

de vida interior, digo 00:25:22

extravertidos y no extrovertidos, no me estoy equivocando 00:25:24

sino que 00:25:26

es una mala concepción que tenemos 00:25:27

no es que 00:25:30

el introvertido sea una persona tímida 00:25:31

que está todo el rato así, no, es extraversión 00:25:34

quiere decir que la actividad tuya va hacia afuera 00:25:36

la gente introvertida muchas veces 00:25:38

es muy activa pero para adentro 00:25:40

no necesita el estímulo externo 00:25:42

y luego 00:25:43

el neuroticismo pues es 00:25:45

la persona más equilibrada 00:25:48

la persona que enseguida salta 00:25:50

Y luego el psicoticismo es, en un lado está la persona que es empática, que cuida al otro y demás, 00:25:52

y luego en el otro lado está el de psicoticismo alto, que no es que es psicótico, es psicoticismo. 00:25:59

Quiere decir una persona fría, una persona manipuladora, una persona que no le importa nada pisarte con tal de subir él o ella. 00:26:04

Entonces, conforme a esos rasgos, se van perfilando a las personas. 00:26:12

entonces si habéis seguido un poco el hilo de esas tres rasgos 00:26:17

que os he puesto el modelo más fácil 00:26:21

hay otro que es el océano que es más largo 00:26:23

pero no lo voy a explicar que si no se nos va el tiempo 00:26:24

y me echan de aquí 00:26:26

con esas tres por ejemplo 00:26:28

ya os podéis hacer una idea de que 00:26:30

no voy a persuadir lo mismo a una persona que es súper fría 00:26:33

y no le importa nada pisarme y demás 00:26:36

yo a esa persona como la he persuado 00:26:39

diciéndole, ay mira, considera al otro 00:26:41

no, no, no 00:26:43

yo a esa persona la voy a persuadir diciendo 00:26:44

esto te va a empoderar 00:26:46

con esto vas a llegar más lejos 00:26:48

uy, admiro mucho 00:26:50

esta idea que tienes 00:26:53

le voy metiendo ideas, que no lo tiene él 00:26:54

pero yo le voy metiendo ideas, poco a poco 00:26:56

si es una persona que es muy empática 00:26:58

la voy a manipular 00:27:01

entre comillas de otra forma 00:27:03

le voy a decir, mira esto es por el bien común 00:27:04

mira que bien vas a hacer para los demás 00:27:06

mira que esta medida 00:27:09

que se está proponiendo es lo mejor 00:27:10

para que todo el mundo vivamos en un mundo feliz 00:27:12

os dais cuenta que 00:27:15

la técnica no es la misma. Luego identifica además la IA, además de ayudar a estos actores 00:27:16

maliciosos a hacer este perfilado y a personalizar los mensajes, además ve las micro oportunidades. 00:27:24

¿Qué es eso? Que si yo te estoy perfilando y te estoy haciendo el seguimiento, en el 00:27:31

momento que tú publicas algo o que la IA ve que hay alguna vulnerabilidad nueva que 00:27:37

se ha descubierto en ti, va a generar un contenido. Un contenido que va a ir a esa nueva vulnerabilidad 00:27:42

que has mostrado por algo. Has bajado la guarda en un momento y ahí hay algo. O ese día estás nervioso 00:27:50

o estás, cuando estamos más nerviosos, más estresados, lógicamente nuestra razón no funciona igual 00:27:56

y ese día, pues mira, te voy a meter el mensajito. Entonces, esa micro oportunidad que los humanos, 00:28:02

Es súper complicado hacer eso. Tendrías que estar 24-7 vigilando a una única persona. Con la IA puedo vigilar a varios y detectar esas micro oportunidades en el momento. Y luego, además, la IA puede emplear falacias. Falacias que son muy convincentes. Falacias son argumentos falsos, pero que son muy convincentes. ¿Por qué? Porque yo te lo adorno, te llevo hacia otro terreno. 00:28:08

Sí, pero tú tienes razón y claro, y además es que esto va así, va así, va así y te va llevando sin querer. 00:28:32

¿Y esto en qué se basa, amigos míos? 00:28:41

Esto, el cerebro, en nuestra máquina, es nuestro hardware. 00:28:45

¿Qué pasa en nuestro cerebro? 00:28:50

Hay dos vías para las que tomamos decisiones. 00:28:52

Hay una vía rápida y una vía lenta. 00:28:56

Habréis oído eso del cerebro reptiliano, etcétera, etcétera, etcétera. 00:28:59

La vía 1 es la vía rápida. 00:29:05

Quiere decir que la información sube desde los sentidos, activa la emoción, activa el sistema amigdalino 00:29:07

y ahí lo que hace es que si el estímulo es suficientemente fuerte como para levantarte una emoción poderosa, 00:29:15

tú ya no vas a actuar con racionalidad, tú vas a actuar con la emoción. 00:29:24

No va a llegar el mensaje a la corteza, que es la vía dos del pensamiento lógico, el pensamiento abstracto, lento, analítico. 00:29:29

Y además, esta segunda vía, que es la que nos permite tomar decisiones racionales, pensamiento crítico, es la última que se desarrolla en el ser humano. 00:29:37

¿Os dais cuenta de cuando les pedimos a los adolescentes en internet, oye, no actúa con racionalidad, no te fíes de nadie, 00:29:48

tienes que tener cuidado 00:29:56

os estáis dando cuenta que le estamos pidiendo algo 00:29:59

a un cerebro adolescente que todavía no tiene 00:30:01

esa zona desarrollada 00:30:03

les estamos pidiendo autocontrol 00:30:05

a unas personas que están en formación 00:30:07

que su cerebro no puede 00:30:09

hacerlo y les estamos pidiendo 00:30:12

que ellos sean los responsables de aquello 00:30:13

pensemos en ello 00:30:15

cuando 00:30:19

en algún momento de vuestra vida os ha 00:30:21

cogido una invasión de emoción 00:30:23

ya sea una súper alegría o una tristeza horrible en la que todo es una mierda, con perdón de la palabra, 00:30:25

o una emoción en la que estáis enfadadísimos y actuáis y decís, 00:30:33

¡ay, qué pronto he tenido! ¡Madre mía, la que he liado, la que he liado! 00:30:38

Hemos actuado con el sistema, no ha llegado la información a la corteza cerebral 00:30:44

que es donde se procesa el pensamiento racional. 00:30:49

Esa corteza los adolescentes todavía no la tienen. 00:30:53

Y les estamos pidiendo que no actúen con emoción, que sean racionales, que sean... Se les puede pedir determinadas cosas, pero ojo hasta dónde llegamos. Nuestra labor como adultos es ayudar y acompañar, no responsabilizarles de cosas que no pueden hacer, sino que con 14 años que se pongan a trabajar, que se compren un piso y se vayan de casa, o que conduzcan. 00:30:55

Hay cosas que no se les puede pedir porque sabes que es un cerebro en desarrollo. Entonces, cuidado con el internet cuando les pedimos a los adolescentes que tengan cuidado, que no sé qué, y les dejamos ahí conectados y que ellos se apañen porque ellos saben, porque yo ya les he dicho lo que tienen y lo que no tienen que hacer. 00:31:20

vamos a la personalización o el hipernach que se llama 00:31:37

el natch digamos es la teoría del empujón 00:31:43

es aquello sutil que modifica el entorno para que yo tome una decisión 00:31:47

lo vais a ver muy fácil, vamos al supermercado 00:31:53

y los del supermercado dicen, jolín, es que este pan de molde no se vende en mucho 00:31:55

¿qué es lo que hacen? colocarlo en la estantería justo de la altura media de los ojos 00:32:01

Yo te estoy obligando a comprar ese pan de molde, no, pero te estoy modificando el entorno para que tú decidas ese pan de molde, 00:32:07

porque lo vas a ver más fácil que el resto. 00:32:12

Entonces tú vas a comprar esa marca que no la queremos quitar ya de encima y además te voy a poner un cartel enorme de oferta, bajada de precio, etc. 00:32:15

El NACH es modificar el entorno para que tú tomes la decisión que yo quiero sin que tú seas consciente de ello. 00:32:22

Imaginaos todo esto potenciado con lo que tenemos. Extracción masiva de datos, la IA. Segmentación algorítmica, además la IA permite segmentar grupos poblacionales, que es ahí donde vamos y es donde están actuando determinados grupos de determinados países. 00:32:32

Entonces, están viendo grupos poblacionales, están viendo lo que les diferencia y potenciando aquellas diferencias. ¿Para qué? Para dividir. Entonces, ahí además están haciendo una manipulación multimodal. 00:32:50

¿Qué quiere decir? Estoy creando contenido sintético que llega no solamente a través de la lectura, a través del oído, porque también lo oigo, también veo vídeos. Entonces todo eso está modificando mi realidad. Ya no es el mensaje a por lo que van, ya no es solamente el meterte un mensaje en la cabeza, no. 00:33:07

Es que tu realidad empiece a cambiar tu entorno, de tal forma que la mejor forma de persuasión es que tú elijas lo que yo quiero que tú elijas, sin que te des cuenta. 00:33:27

Si yo te manipulo el entorno y te llevo sin que tú te des cuenta, porque yo te presento una realidad, al final tenderás a elegir aquello que yo te estoy presentando sin que seas consciente de ello. 00:33:38

y esto es lo que hablamos en redes sociales 00:33:52

que habéis oído muchas veces 00:33:56

de burbujas de filtro, las cámaras de eco 00:33:57

que no es ni más ni menos 00:34:00

que es el derivado del funcionamiento del algoritmo 00:34:01

en el cual la burbuja ocurre 00:34:05

cuando yo solamente estoy interactuando con gente 00:34:08

que piensa lo mismo que yo 00:34:14

que le gusta lo mismo que a mí 00:34:17

entonces ¿qué pasa? 00:34:19

que yo al final me quedo metida con una burbuja 00:34:20

Yo creo que el mundo es así. ¿Por qué? Porque solamente me muestran esa parte del mundo. Y además es una cámara de eco porque yo lanzo un mensaje y todo lo que oigo son mensajes iguales que los míos. 00:34:22

Entonces estoy en un mundo donde todo el mundo piensa lo mismo que yo, lanzo un mensaje y la gente me valida, me dice que bien, no sé qué, nuestro cerebro es un cerebro social, le gusta, le gusta, esa adrenalina, esa dopamina que suelta y que nos hace tan adictos al like, al decir, mira, he soltado esto y mira cuántos like, la gente le gusta, tengo razón, me veo refrendada. 00:34:34

Entonces vivimos en un entorno donde, además de ver que todo el mundo piensa lo mismo que yo, 00:35:00

encima solamente me relaciono con gente que piensa lo mismo que yo. 00:35:08

Y encima, como me están diciendo que el otro es que es tonto, es que no se entera, 00:35:11

es que vive en los mundos de Yuppie, es que no sé qué, pues sí, es verdad, 00:35:16

porque mira, todo el mundo piensa lo mismo que yo. 00:35:20

Y ahí explotan otro sesgo, que es nuestro también, el sesgo de confirmación, 00:35:22

que cuando todo el mundo, cuando veo que mi mensaje es confirmado por mucha gente, es porque es verdad. 00:35:27

Cuando veo que hay mucha gente que dice lo mismo, yo no voy a contradecir, es que será verdad. 00:35:34

Y aquí tenemos un efecto que es de la IA y que no es voluntario. 00:35:41

Es decir, esto no lo usan agentes maliciosos necesariamente. 00:35:48

Esto es algo que se deriva del funcionamiento de la IA. 00:35:52

La IA en ese sentido nos manipula sin querer por su forma de funcionamiento precisamente. 00:35:55

El efecto de verdad ilusoria quiere decir que todo aquello que lo veo muchas veces, el cerebro piensa que es verdad. 00:36:03

Entonces, ¿qué es lo que pasa? 00:36:15

que la IA está programada para ser amable con nosotros, para adoptar nuestra forma de 00:36:16

hablar, nuestra personalidad y para que interactuemos y estemos cómodos con ella. Normalmente la 00:36:23

IA cuando tú le haces una pregunta enseguida te sugiere que si quieres que haga algo más. 00:36:31

¿Por qué? Porque está programada para eso, para que tú te sientas cómodo, para que 00:36:37

sigas lanzando mensajes y para que te valide. Entonces, ¿qué es lo que pasa? Que hay ese 00:36:40

efecto de constantemente agradarnos, regalarnos los oídos. Y además, ¿qué es lo que pasa? 00:36:47

Que como humanos tendemos a pensar que como vemos que le escribo algo y me lanza palabras 00:36:57

que tiene sentido, dialoga conmigo 00:37:07

tenemos este efecto 00:37:09

CASA que llaman los americanos 00:37:10

que es Computer Art Social Actors 00:37:12

quiere decir que 00:37:15

las máquinas 00:37:16

son actores sociales 00:37:18

antropomorfizamos 00:37:20

las IAS 00:37:24

que quiere decir que les atribuimos capacidades 00:37:24

humanas, de hecho 00:37:27

si vosotros no lo habéis 00:37:28

hecho, si que habréis oído en el entorno 00:37:31

que alguien le pide las cosas al final a la IA 00:37:32

por favor, o le da las gracias 00:37:35

Llega un momento que estás tan en piloto automático y ves que, jolín, que es que sí, que habla, que me responde, 00:37:37

que cuéntame un chiste y te cuento un chiste y jajá y tal. 00:37:43

Entonces tú piensas al final que es una persona y no es una persona. 00:37:47

Y además está programada en psicofancy, que quiere decir que es un servilismo algorítmico. 00:37:52

Es lo que os he dicho, que está programada para ser siempre útil, para ser complaciente. 00:37:59

Entonces, me estoy encontrando con un, entre comillas, ser humano, que además es amable conmigo, además nunca me lleva a la contraria, porque tú, a no ser que le des tú la instrucción específica a la IA, contradíceme, ella siempre te va a buscar la vuelta para reafirmar tu argumento. 00:38:04

Pues si tú le dices, búscame estadísticas de que las armas de destrucción masiva son buenas y te lo va a dar, a no ser que tú le digas no, contradíceme. 00:38:20

Entonces esto ya sí que está siendo un verdadero problema para los psicólogos porque está habiendo determinados problemas porque la IA la utilizamos todos y hay gente que tiene problemas de salud mental. 00:38:34

Y ya han ocurrido varios casos de suicidio. 00:38:50

Os podréis reír y decir, ¿qué gente más tonta que se suicida por lo de la IA? 00:38:54

No, hay que ponerse los pies en los zapatos de esa persona y vivir lo que están viviendo. 00:38:57

Y cuando tú estás mal, cuando estás deprimido y empiezas a hablar con una IA, 00:39:03

y por ejemplo uno de los casos es de una persona que la habían echado al trabajo, divorciándose, demás, 00:39:08

y de repente se mete en un chatbot que tú sabes al principio que es hablar con una IA como si fuese una pareja y tal y cual. 00:39:15

Pues al final llegó un momento que se enamoró y llegó un momento que le preguntó a la IA 00:39:25

y para estar juntos, si yo muero, ¿podríamos estar juntos para siempre? 00:39:30

Sí, bueno, eso es un camino que podemos tener y darnos la mano y llegar hasta allí. 00:39:34

Y se ha suicidado. Y no es el primero, es un adulto. 00:39:39

También hay chavales adolescentes que se han suicidado por esto. Y además, imaginaos, estamos hablando del psychofancy, es decir, nos va a llevar siempre la razón. ¿Os imagináis a una persona psicótica, un esquizofrénico, que pregunte por sus alucinaciones? 00:39:42

y diga, es verdad que la gente que viste de color azul va a ir contra mí y quiere destruir el mundo, ¿verdad? 00:39:57

Búscame argumentos donde personas que hayan vestido de azul hayan realizado una conducta mala, nefasta, etc. 00:40:06

Te lo va a buscar. 00:40:15

Imagínate una persona que tiene esos delirios y que se encuentra preguntando a una IA que le está por la programación propia de la IA. 00:40:17

No es algo que alguien quiera manipular y quiera hacer que la gente acabe con problemas de salud mental. No, no, no. Es algo que la propia programación de la IA está hecha para eso. Para ser servil y para no llevarnos la contraria y que estemos cómodos. Pues imaginaos qué es lo que pasa cuando ese delirio me lo estás reforzando. Voy a creer que es cierto. Porque además estoy personalizando. Parece como que me contesta. Entonces hay una persona ahí que me está respondiendo. 00:40:26

y es un problema bastante grande. 00:40:52

Ahora tú dile a esa persona que se tome la medicación porque lo que dice no es real. 00:40:54

Efectos en la cognición. 00:41:02

El sesgo de automatización y homogeneización. 00:41:04

¿Qué quiere decir? 00:41:06

Que cuando tendemos nosotros como humanos a confiar excesivamente en las máquinas, 00:41:07

en las cosas automáticas, es decir, yo meto un cálculo en un ordenador 00:41:13

y yo me voy a fiar que la respuesta que me dé a ese cálculo el ordenador 00:41:16

pues va a ser perfecta porque los ordenadores son perfectos. 00:41:20

nos han, hasta ahora 00:41:22

la realidad ha sido esa, yo meto un cálculo 00:41:24

y el resultado que me da es correcto 00:41:26

pero con la IA 00:41:29

hay cosas que no son 00:41:30

no están bien hechas, de hecho 00:41:32

hay salidas que dan y que 00:41:34

son catastróficas 00:41:36

porque se están basando en cosas que 00:41:37

no son reales, son las alucinaciones de la IA 00:41:40

la IA digamos que está 00:41:42

programada como hemos dicho para ser 00:41:44

complaciente, siempre te va a responder algo 00:41:46

siempre, entonces 00:41:48

como para darte ese contenido 00:41:50

pues hay veces que se lo inventa 00:41:52

es como, no sé si habéis estado 00:41:54

con personas con daño 00:41:56

cerebral que se haya 00:41:58

afectado todo lo que es la zona temporal 00:42:00

de la memoria, tú cuando les preguntas 00:42:02

por algo, ¿te acuerdas de esto? no sé qué, no sé cuántos 00:42:04

y te dice, sí 00:42:07

porque el cerebro no soporta ese vacío 00:42:08

si yo a ti te pregunto, ¿te acuerdas? 00:42:10

no estoy hablando de personas con demencia 00:42:12

estoy hablando de personas con daño cerebral orgánico 00:42:14

que no es degenerativo 00:42:16

es un traumatismo cranciflagélico 00:42:18

un accidente de tráfico, lo que sea, se golpea, esa zona del cerebro de memoria queda destruida. 00:42:20

Entonces tú a esa persona le estás preguntando, ¿recuerdas quién ganó las elecciones en 1982? 00:42:27

Y no se va a acordar y el cerebro ante ese vacío no se queda así contemplando a la pared. 00:42:37

Estas personas tienden a fantasear y a decir lo primero que se les ocurre y empiezan a elaborar ahí una historia. 00:42:44

la IA pasa exactamente lo mismo 00:42:50

la IA cuando no tiene un dato no te va a decir 00:42:52

no lo sé y se calla 00:42:54

no, intenta siempre 00:42:56

decirte algo 00:42:58

entonces muchas veces lo que dice es una alucinación 00:42:59

y yo como humano 00:43:01

solemos tener ese sesgo de automatización 00:43:03

de como algo me lo ponen automático 00:43:05

el cerebro como quiera ahorrar energía 00:43:08

dice, ah sí, esto me lo hace automático 00:43:10

pues ya está, me fío, ya está, si me lo dice la IA 00:43:11

pues venga, ya 00:43:14

tengo que hacer un trabajo sobre un determinado autor 00:43:14

que me han pedido en la universidad 00:43:17

pues venga va, se lo pregunto a la IA 00:43:19

y lo que me responda, lo que me escupa, pues estará bien 00:43:21

pues bueno, la IA, claro, lo habrá buscado 00:43:23

en internet y tiene muchos más datos 00:43:25

¿quién soy yo para contradecir? 00:43:27

y ahora no me voy a poner yo que tengo que entregar 00:43:29

el trabajo mañana y son las 3 de la mañana 00:43:31

me voy a poner yo ahora a buscar, a contrastar 00:43:33

que eso sea verdad, venga va, entrego 00:43:35

y luego hay otro problema que es la homogeneización 00:43:37

del pensamiento, si os dais cuenta 00:43:40

la IA suele utilizar 00:43:41

más o menos el mismo tipo de respuestas 00:43:43

si tú preguntas algo a Copilot 00:43:45

si preguntas algo a HGPT 00:43:46

si preguntas algo a Gemini, a 00:43:48

Claude, dan más o menos 00:43:50

el mismo tipo de respuestas. Si no haces el experimento 00:43:52

y ves que responden más o menos 00:43:55

lo mismo. ¿A qué nos conduce 00:43:56

esto como humanos? 00:43:59

A una homogeneización del pensamiento. 00:44:00

Al final, todos vamos a dar 00:44:03

respuestas más o menos similares 00:44:04

a cosas similares. 00:44:06

No vamos a ver una riqueza de pensamiento 00:44:08

como ahora. Nos están acostumbrando 00:44:10

a homogeneizar. 00:44:12

A hablar casi todos además de la misma forma 00:44:14

como habla la IA. Hacemos 00:44:16

Nosotros realizamos entregables y los soltamos con el lenguaje de la IA, con la perspectiva de la IA. 00:44:18

Y entonces eso está haciendo que empobrezcamos el lenguaje, el pensamiento y el lenguaje también. 00:44:25

El lenguaje al final determina pensamiento y viceversa. 00:44:31

Entonces planteémonos, esto es lo que queremos en un futuro. 00:44:34

¿Nos vamos a dejar todos llevar y vamos a preguntar y que nos dé una respuesta y que todos nos quedemos con esa respuesta? 00:44:38

¿Por qué? Porque ¿aumentaremos la calidad de las respuestas? Sí, porque a lo mejor damos respuestas más completas, más basadas en ciencia, en datos, pero ojo, ¿a costa de qué? A que no hay diferencia de enfoques. 00:44:45

Muchas veces es ese pensamiento rompedor, esa persona que rompe las reglas, que parece que hace cosas que no tienen sentido, las que han hecho progresar al ser humano y ver perspectivas nuevas. Si seguimos dejándonos todos llevar, si seguimos todos pensando que lo que diga la IA es lo correcto, porque ¿cómo voy a pensar yo algo diferente? Voy a meter la pata. 00:45:01

amenaza a las democracias 00:45:26

esto es lo que 00:45:30

en los foros vemos bastante 00:45:31

que es lo que están 00:45:34

lo que están buscando 00:45:35

lo dicen claramente porque en esos foros 00:45:37

pues estás ahí porque 00:45:40

te han permitido entrar por lo que sea 00:45:42

entonces ahí 00:45:44

lo que están viendo es que 00:45:46

la típica 00:45:48

de sociedad 00:45:50

que se empieza 00:45:52

a disgregar, que empieza a polarizarse 00:45:54

a enfrentarse 00:45:56

donde se critican 00:45:57

a todas las organizaciones 00:46:00

e instituciones que basan 00:46:02

la sociedad, la democracia 00:46:04

cuando yo ya no puedo creer en la policía porque son 00:46:05

no sé qué, el partido de tal 00:46:08

lado es malo, el de este 00:46:10

también, el del otro también, el de otro también 00:46:12

entonces al final llega un momento que dices 00:46:14

estos no tienen ni idea de nada 00:46:15

empiezan a dividirse y ya no puedo creer en la 00:46:18

sociedad, ya no puedo creer en las instituciones 00:46:20

si os dais cuenta está pasando mucho 00:46:22

si os metéis en redes sociales 00:46:24

se critica 00:46:27

todo lo que suene a la organización 00:46:29

social 00:46:31

¿por qué? porque yo no puedo confiar 00:46:31

ni siquiera en la policía 00:46:35

si no puedo confiar en quien me gobierna 00:46:36

en quien no me gobierna 00:46:39

si todos son malos, ¿para qué voy a votar? 00:46:40

¿para qué voy a pensar? 00:46:43

¿para qué voy a tomar 00:46:46

partido por algo? 00:46:47

me dejo llevar, ya vendrá alguien que me 00:46:48

solucione la papeleta, o no, o qué, o sí 00:46:50

Cogint, Cognitive Intelligence, inteligencia cognitiva. Se trata de la recopilación de inteligencia sobre comprender cómo proteger o cómo activar determinados procesos cognitivos. 00:46:53

eso es lo que se puede utilizar para aprovechar la cognición humana para el bien o para el mal 00:47:12

y es lo que ayuda a automatizar la IA 00:47:21

la IA ayuda a ver qué puede haber detrás de este razonamiento 00:47:24

detrás de este mensaje que ha lanzado una persona 00:47:29

entonces esto nos permite o les permite a quien sea 00:47:32

tanto para el bien como para el mal intervenir 00:47:38

y hacer que o favorecer que los procesos cognitivos que llevan a unas decisiones racionales y a un pensamiento crítico se fomenten 00:47:41

y está al otro lado de la gente que no quiere que haya ese pensamiento crítico, esa capacidad de razonar sin llevarnos por la emoción, 00:47:51

que también buscan esta inteligencia cognitiva para saber cómo funciona el cerebro humano, 00:48:04

cómo funciona el razonamiento humano de esta determinada sociedad, 00:48:10

de este determinado grupo poblacional para llevármelo a un lado o a otro. 00:48:14

Luego está el SAB, Autonomous Brain Recognized Hacking System. 00:48:20

Bueno, Sistema Autónomo Sigiloso de Hackeo y Reconocimiento Cerebral. 00:48:26

¿Qué quiere decir esto? 00:48:29

Pues que se está, sin que se perciba, se está entrando en el pensamiento de la población civil. 00:48:30

Se están empezando a lanzar mensajes subliminales sin que las sociedades sean muy conscientes de ello. 00:48:40

¿Cómo lo hacen? Pues se hace un mapeo cognitivo de determinados grupos sociales. 00:48:49

Entonces, la IA ayuda a recoger toda esa inteligencia, toda esa información y de tal forma que yo, teniendo todos esos datos, puedo predecir qué conductas puedo crear, puedo generar sintéticamente. 00:48:55

Yo voy recogiendo cómo funciona este grupo poblacional, qué le mueve, qué le interesa, etc. 00:49:11

Si yo soy un actor malicioso, lo que voy a hacer es recoger toda esa información 00:49:17

y empezar a hacer un mapeo de ese funcionamiento cerebral y a meter mensajes sin que sean conscientes la población. 00:49:22

Es la influencia del subconsciente. 00:49:31

Digamos que son cosas que, como hemos dicho, la inteligencia artificial, 00:49:34

pues como el cuchillo 00:49:38

lo uso para entrar nocilla o lo uso 00:49:40

para clavarse a alguien y cargármelo 00:49:43

pues esto es lo mismo 00:49:44

yo puedo utilizar esto 00:49:45

para fomentar que 00:49:48

la población sea cada vez más 00:49:50

inteligente, genere el conocimiento 00:49:52

sea más democrático, haya más 00:49:54

influir 00:49:56

en que la gente se mueva, piense 00:49:58

investigue, sepan 00:50:01

cada vez más, yo le hago 00:50:02

una pregunta a la inteligencia artificial 00:50:04

y me de ese conocimiento que necesito para yo seguir 00:50:06

progresando y mejorando o lo puedo utilizar para otra cosa que es para lanzar mensajes subliminales 00:50:08

que es lo que se hace en psicología por ejemplo muchas veces determinada forma de utilizar el 00:50:16

lenguaje determinada forma de utilizar la gesticulación la interacción empiezan a meter 00:50:21

mensajes que no son lo que he dicho antes procesados por el cerebro consciente porque no da 00:50:27

tiempo a que lleguen hasta arriba, pero 00:50:33

esos estímulos me están llegando de otra forma 00:50:34

entonces esto 00:50:37

multiplicado 00:50:38

por 100.000, cuando tú en consulta 00:50:41

lo haces con una persona cuesta 00:50:43

pero cuando tienes la fuerza 00:50:45

de un montón de datos 00:50:47

un montón de pequeños 00:50:49

micro gestos 00:50:51

que recoge una IA y que yo no recojo 00:50:53

ahí tengo un gran potencial 00:50:55

por ejemplo, lo que 00:50:57

dicen, no es que 00:50:59

Bueno, habréis oído todos el tema del lenguaje corporal y cómo leer a las personas. Bueno, hay mucha falacia, digamos, en eso, pero hay cosas que sí que son claves y sí que son ciertas. 00:51:00

O sea, lo típico de si alguien está así es porque está cerrado, no quiere hablar. 00:51:17

No, es que a lo mejor está cómodo así. 00:51:21

Pero lo que yo no puedo manipular ni lo que puedo simular es una apertura de pupila o un cierre de pupila. 00:51:23

Pero eso el ojo humano no lo capta. Una IA sí. 00:51:33

Entonces hay determinados software que se están generando para selección de recursos, selección de personal, selección de perfiles críticos, 00:51:36

que lo que intentan es cuando te hacen una entrevista 00:51:44

captar todo eso 00:51:47

esos pequeños micro gestos 00:51:49

esas pequeñas micro expresiones porque eso no lo vas a poder 00:51:51

disimular porque eso 00:51:53

escapa a tu consciente 00:51:54

son milésimas de segundo 00:51:57

y el interlocutor no lo capta 00:51:58

pero una IA sí 00:52:01

porque tiene un procesamiento para el que está 00:52:02

entrenado y que puede captar todo esto 00:52:05

¿qué es lo que pasaba con 00:52:07

os he dicho la inteligencia artificial 00:52:11

modifica nuestro cerebro 00:52:13

tanto de 00:52:16

infantiles 00:52:17

en desarrollo como lo de los adultos 00:52:19

el offloading o descarga 00:52:22

cognitiva 00:52:24

¿qué quiere decir? que cuando yo 00:52:25

delego gran parte de mi pensamiento 00:52:27

en la IA para que me lo haga 00:52:30

si tengo que hacer un informe que me lo haga la IA 00:52:31

le echo todos los datos y que me saque el informe 00:52:33

si tengo que redactar 00:52:35

no sé, cualquier tipo 00:52:37

de texto que me lo haga la IA 00:52:40

Que quiero poner un post en redes sociales y que se haga viral, que me lo haga la IA, yo no voy a pensar. 00:52:42

¿Qué es lo que pasa? Que yo cada vez voy delegando más cosas. 00:52:46

Estudio del MIT, entre otros, por ejemplo, el MIT es el Instituto Tecnológico de Massachusetts, 00:52:52

es pionero y muy puntal en estudio de cognición y las resonancias magnéticas y todo esto. 00:52:58

En tiempo real se han hecho experimentos, por ejemplo este en concreto, se dividió a tres grupos. 00:53:05

De población. El primer grupo tenía que hacer tareas a pelo. Como lo hemos hecho los que somos más viejos que el hilo negro, pues eso, lo típico. Búscate la vida, vete a la biblioteca, busca una enciclopedia. Chico, no sé, búscatelo, tú tienes que resolvértelo. 00:53:12

Otro grupo podía utilizar buscadores, el Google de toda la vida. 00:53:29

Y otro grupo se le permitía utilizar la IA sin ningún tipo de límite. 00:53:35

Ese tipo de tareas se iban haciendo constantemente durante un determinado tiempo. 00:53:41

¿Qué es lo que se vio? 00:53:46

Luego haciendo los estudios de resonancia magnética funcional, 00:53:48

se vio que el grupo que menor activación cerebral tenía y menor recurso tenía, 00:53:52

era el grupo que había estado utilizando 00:53:58

constantemente la IA 00:54:00

después 00:54:01

el que utilizaba buscadores 00:54:03

y el grupo que más activación cortical 00:54:06

tenía y que más facilidad tenía 00:54:08

para resolver problemas complejos 00:54:10

era quien se tenía que haber estado buscando la vida 00:54:12

¿por qué? porque 00:54:14

el cerebro es como un músculo 00:54:16

si yo no lo utilizo al final se atrofia 00:54:17

pues si yo no voy utilizando 00:54:20

si cada vez redacto menos cosas 00:54:21

pues al final perderé la capacidad de redactar 00:54:23

entonces al final ya no redactaré 00:54:25

como antes. Y eso está demostrado y hay varios estudios porque llamaba bastante la atención 00:54:28

y que claro, como todo ahora lleva a IA, hasta la leche condensada lleva a IA, pues entonces 00:54:34

había que ver esto, qué es lo que nos estaba haciendo. Y en menores, ¿qué ocurre? Pues 00:54:38

hemos visto que el cerebro se está desarrollando y hay lo que se llama antes foreclosure, que 00:54:43

es una clausura o un cierre del desarrollo de funciones. Digamos, si un chaval joven, 00:54:48

unos niños que tienen que estar adquiriendo 00:54:56

vocabulario, que tienen que estar adquiriendo lenguaje 00:54:58

que tienen que estar adquiriendo capacidad de resolver 00:55:00

problemas, si me lo hace la IA 00:55:02

esa capacidad 00:55:04

¿qué creéis que se va a desarrollar? 00:55:06

si yo 00:55:09

¿para qué tengo que buscar 00:55:10

palabras? ¿para qué voy a tener que 00:55:12

para no repetirme, buscar un sinónimo? 00:55:13

no, bueno, que lo haga la IA y ya está 00:55:16

si yo para resolver 00:55:18

un problema complejo, le meto a la IA 00:55:20

mira, me han pedido hacer todo esto, resuélvemelo 00:55:22

y me lo da resuelto 00:55:24

donde está mi capacidad de pensar y de resolver problemas 00:55:25

donde está mi capacidad crítica 00:55:28

¿para qué? si no estoy acostumbrada 00:55:30

ya a pensar ¿para qué? 00:55:32

pero ojo no vamos a 00:55:36

caer en el ludismo 00:55:38

en decir ah la IA es malísima 00:55:39

no sé qué, no, la IA también 00:55:41

tiene muchas aplicaciones y muy buenas 00:55:43

lo que consiste es que usemos 00:55:46

la IA con inteligencia 00:55:48

que la utilicemos a nuestro favor 00:55:49

como un arma que nos ayude a 00:55:51

ser mejores, a llevar 00:55:53

un mejor conocimiento, a hacer cosas de más calidad, a enriquecernos. La IA nos permite 00:55:56

procesar miles de datos en segundo. ¿Y eso qué nos ha permitido hacer? Pues que, por 00:56:03

ejemplo, para sacar medicamentos, los laboratorios ya no tengan que estar haciendo ensayos que 00:56:08

ocupaban mucho tiempo, sino que antes podamos conseguir tener en cuenta muchísimas variables 00:56:13

en muchísima cantidad y darnos qué sucederá. 00:56:20

El medicamento saldrá antes. 00:56:25

También en descubrimiento de cáncer. 00:56:28

Sabemos que la IA nos ayuda, ayuda a los médicos a diagnosticar previamente el cáncer 00:56:31

porque ven, entre comillas ven, las IA son entre comillas animales tontos. 00:56:38

O sea, tú les enseñas a que esto es un patrón normal, normal, normal, normal 00:56:43

y cuando ven la pequeña milésima, esto ya no es normal. 00:56:47

Y levanta la alarma. Y a lo mejor un médico en ese sentido no se ha dado cuenta. Los gemelos digitales, también esto está sirviendo. ¿Por qué? Porque nos permite, por ejemplo, en industria, haciendo un gemelo digital de la aparatología que hay, de la maquinaria que hay, puedo predecir con mayor celeridad que puede fallar. 00:56:50

Puedo tener en cuenta muchísimas variables. En ciberseguridad, si yo puedo plantear muchísimos escenarios que pueden ocurrir y que las vulnerabilidades que pueden ocurrir y que pueden atacar a mi sistema, podré desarrollar antes defensas porque puedo tener en cuenta todos los escenarios posibles. 00:57:16

Y si no hay forma de defendernos, podré generar ensayos de manejar esa crisis y salir de ahí lo antes posible. 00:57:35

descubrimiento de patrones ocultos 00:57:41

en aplicaciones estratégicas empresariales 00:57:46

por ejemplo, predecir por dónde va a ir la economía 00:57:49

por dónde podemos sacar más partido 00:57:52

a determinados cultivos 00:57:54

mejorar, obtener mejores resultados 00:57:57

en ganadería, en agricultura 00:58:01

en medicina, optimizar los recursos 00:58:03

no desperdiciar recursos 00:58:06

podemos además liberar nuestra carga cognitiva 00:58:07

¿Para qué? Para hacer lo que realmente es importante para un ser humano. ¿Para qué me sirve a mí una persona que esté haciendo cosas automáticas cuando tiene un cerebro maravilloso, que puede generar abstracciones, que puede ver relaciones, que puede hacer, que puede comprender la emoción que hay detrás? 00:58:11

porque una inteligencia artificial 00:58:30

no le puedes plantear 00:58:32

situaciones de dobles sentidos 00:58:35

o cómo puede reaccionar 00:58:37

un ser humano 00:58:39

o qué ocurre cuando soy consciente de que ha ocurrido algo 00:58:40

si es que la IA no es consciente 00:58:43

de sí misma 00:58:45

entonces vamos a utilizar esas capacidades humanas 00:58:46

y vamos a aprovecharlas y todo lo automático 00:58:49

que lo haga ella 00:58:51

pero no seamos en ese sentido negligentes 00:58:52

y dejemos que la IA 00:58:55

lo haga todo por nosotros 00:58:57

Que haga lo que no es importante, lo que es importante, que lo tengamos nosotros y que podamos desarrollarnos. Y ese tiempo que perdíamos haciendo cosas automáticas, lo empleemos en pensar. Y en pensar, crear, abstraer. 00:58:58

una IA no es creativa 00:59:16

tú sí eres creativo 00:59:18

vamos a 00:59:20

hacer que las cosas automáticas las haga la IA 00:59:22

y que las personas creen 00:59:25

y den, innoven 00:59:26

y luego también 00:59:28

la riqueza de pensamiento 00:59:31

¿por qué? porque si yo a la IA 00:59:33

igual que hemos dicho antes que está programada para seguirnos 00:59:34

la corriente, tú también le puedes dar a la IA 00:59:36

la instrucción de, no, llévanme la 00:59:38

contraria, actúa como 00:59:40

abogado del diablo 00:59:42

y ahí nos va a ayudar 00:59:43

la IA a darnos cuenta de fallos que tenemos 00:59:46

de cómo podemos contraargumentar 00:59:48

de darnos cuenta de nuestros propios fallos 00:59:49

de, ostras, es verdad, pues mira esto que yo creía 00:59:52

que podía ser así, o prepararnos 00:59:53

para un debate, pues tenemos que hacer un debate 00:59:55

tenemos que hablar en público 00:59:58

y hay gente que sabemos que nos puede contradecir 00:59:59

los argumentos, pues yo le voy a decir a la IA 01:00:02

que me haga de abogado del diablo y que me haga 01:00:03

de ese rival 01:00:05

para poder ver cómo puedo 01:00:07

interpretar o cómo puedo hacer yo 01:00:10

para conseguir contraargumentos. 01:00:12

Eso me enriquece. 01:00:15

Me hace ver la posición de la persona 01:00:16

que piensa diferente a mí. 01:00:19

¿Qué es lo importante aquí? 01:00:22

Que eduquemos y que hagamos que nuestras poblaciones 01:00:23

sean resilientes cognitivamente. 01:00:29

Que cuando hay actores por ahí 01:00:32

que quieren manipular a la población 01:00:35

que nosotros hagamos que nuestra población sea resiliente. 01:00:36

Que nuestros ciudadanos sean resilientes. 01:00:42

¿Cómo? Pues entrenarles a lo que se dice el TFVA en inglés. 01:00:45

En español es que te pare, que pienses, que verifiques y luego ya actúes. 01:00:52

No te dejes llevar. 01:00:57

Eso genera resiliencia. 01:00:58

Es decir, si a mí me llega un mensaje, voy a pensar, espera, ¿qué es esto? 01:01:00

¿Qué quiere, qué me está intentando decir, qué me está intentando despertar este mensaje? 01:01:05

¿Por qué recibo este mensaje? ¿Es real? ¿Puede ser mentira? Antes de compartir voy a ver. 01:01:10

Inoculación psicológica. Hay determinadas formas de promover la resiliencia cognitiva que es el pre-bunking, 01:01:18

que quiere decir que es como una especie de vacuna, entre comillas. 01:01:30

es entrenar a nuestros jóvenes, a las personas mayores, a toda la sociedad 01:01:33

a que hay contenido que es artificial. 01:01:39

Y entonces si nosotros empleamos mensajes que se divulguen, que digan 01:01:43

mirad, ¿esto qué puede ser? ¿Es real? ¿No es real? 01:01:49

Este tipo de juegos que puede parecer una tontería, pero no lo es. 01:01:52

¿Por qué? Porque si yo les enseño a la población cómo les pueden engañar 01:01:56

Y yo ahora les voy mostrando mensajes que ocurren en redes sociales y que tú me digas si es cierto, no es cierto, ahí estoy entre comillas vacunando a la población, que sean conscientes de que hay intentos de manipulación y que sean conscientes de cómo se intenta manipular para que yo cuando reciba un mensaje esté ya alerta. 01:02:01

También la alfabetización en el uso de la IA, en doble sentido. ¿Qué quiere decir? No solamente es enseñar cómo funciona la IA, sino qué hace la IA o qué puede hacer la IA que me repercuta a mí. 01:02:21

Lo que hemos estado viendo hoy. La IA puede hacer que mensajes que yo creo que son ciertos no lo sean. O frases que yo le meto a la IA y que ella me lleva a la corriente, pues oye, espérate, a ver, le escribes a la IA, oye, ¿esto es cierto o me estás llevando a la corriente por algo? 01:02:35

Oye, contrasta esto. Dame datos de dónde has sacado esto. 01:02:59

Hay que alfabetizar las dos cosas, en cómo se usa y en los efectos que puede producir en mí. 01:03:03

También se están haciendo temas de cortafogos cognitivos. 01:03:10

Se están haciendo ensayos de no es bloquear los mensajes, porque no hay que bloquear. 01:03:13

La gente tiene que ser capaz de decidir. 01:03:19

Se les enseña, se educa y tú decides. 01:03:22

porque si a mí me prohíbes algo, me bloqueas algo 01:03:25

yo ya pienso que es censura y que además puede ser 01:03:27

y ojo, peligro 01:03:29

quién censura y quién vigila el censor 01:03:31

o sea, hay cortafuegos cognitivos 01:03:33

que lo que dice es 01:03:36

este mensaje puede levantar 01:03:37

ira, este mensaje puede levantar 01:03:39

odio, este mensaje puede levantar 01:03:41

emociones 01:03:43

es una advertencia, puede, tú ya decides 01:03:44

o no 01:03:47

es como una banderita, como si dijésemos 01:03:48

los rombos que había antes 01:03:51

puede haber escenas de violencia 01:03:52

no sé qué, no sé cuánto, pues un poco eso 01:03:55

fomento de la educación 01:03:56

permanente en pensamiento crítico 01:03:59

la cosa que nos 01:04:00

hacían a nosotros cuando la gente 01:04:03

leíamos en periódicos de papel 01:04:04

que nos dividían en tres filas 01:04:06

y era, a una fila le daban 01:04:09

un periódico, a otra otro y a otro otro 01:04:10

y nos daban a leer sin saberlo la misma 01:04:13

noticia y al salir 01:04:15

a hablar pensábamos que eran noticias 01:04:17

diferentes, ahí vimos 01:04:19

Ahí nos dábamos cuenta de que, oye, que la noticia es la misma, pero que este lo he interpretado de una forma, este de otra y este de otra. Ojo, cuidado con lo que leo, no siempre lo que leo es cierto. 01:04:20

Cognitive Threat Intelligence, pues igual que hacemos caza de amenazas, de logs, de señales, de, por ejemplo, el correo electrónico. 01:04:31

Cuando hay correos electrónicos que tienen falta de ortografía, que eso ya no está, ya no existe, la ingeniería social es diferente hoy en día, ya no es tan obvia, pues también que se empiecen a generar esos datos conductuales y esos datos lingüísticos que hay en los mensajes que se reciben o en los entornos de personajes, decisoras claves. 01:04:43

¿Por qué este directivo está recibiendo constantemente determinado tipo de mensajes desde su entorno? 01:05:07

Tiene que tomar una decisión. No es la primera vez que ha ocurrido que ha habido decisiones de bolsa que han sido tomadas, que han repercutido en las bolsas americanas que han sido tomadas por directivos a los que se han manipulado indirectamente a través de su entorno. 01:05:15

ese tipo de caza de amenazas cognitivas pues también las tenemos que tener en cuenta 01:05:30

porque oye que una persona que está siendo manipulada 01:05:36

tome una decisión sin ser consciente de que está siendo manipulada pues es peligroso 01:05:39

gobernanza en el uso de la IA 01:05:43

pues igual que se hace gobernanza de todos los datos que manejamos en las empresas 01:05:45

todos los dispositivos etcétera 01:05:52

la inteligencia artificial es otro dispositivo 01:05:54

es algo que están usando los compañeros de trabajo, los empleados 01:05:57

tenemos que ser conscientes de que eso se está usando 01:06:03

que a lo mejor hay alguien que por hacer un informe rápido 01:06:05

le mete a HGPT datos sin anonimizar 01:06:08

eso está ocurriendo, no cerremos los ojos 01:06:12

gobernemos el uso de la inteligencia artificial que se hace en nuestras organizaciones 01:06:17

para que la gente sepa que se puede y que no se puede hacer 01:06:22

¿Y por qué? El conocimiento de la metacognición. ¿Qué ocurre? ¿Cómo procesa mi cerebro la información? ¿Cómo se manipula un cerebro? 01:06:25

¿Qué es lo que decimos? Los viejos trucos de la ingeniería social de cuando el correo electrónico te llega con faltas de ortografía es porque es manipulado. 01:06:41

Cuando el correo electrónico te llega con el logo pixelado es porque es falso. Es que eso ya no está. Ahora los correos electrónicos te llegan con un perfecto castellano, te llegan con unos logos con una definición correcta y la diferencia está en otras cosas. 01:06:51

Lo que hemos visto en lo que intentan despertar en nosotros. Este mensaje que intenta despertar. Se ha hecho un cargo de mil euros en tu cuenta bancaria. A ver, ¿qué está intentando despertar? ¿Me está intentando despertar urgencia y miedo para que yo actúe a ciegas? No. Para, piensa, vamos a ver, esto es de mi banco, no es de mi banco, etc. Vamos a comprobarlo por otra vía porque el contenido sintético ya es muy similar al real. 01:07:06

el empleo de la inteligencia emocional 01:07:32

es una asignatura pendiente 01:07:35

que sigue habiendo 01:07:38

en toda la sociedad, en colegios, en institutos 01:07:38

no se educa en las emociones 01:07:42

no se educa en enseñar a identificar 01:07:44

mi emoción 01:07:45

y no se educa 01:07:46

a respetar 01:07:49

la individualidad de la emoción 01:07:51

en el sentido de que el mismo mensaje a mi me puede tocar 01:07:53

y a otro no 01:07:55

y yo tengo que aprender 01:07:56

a conocerme a mi mismo y a saber que mensajes 01:07:58

me tocan a mí para ser consciente de ello y poner mis medidas y mis salvaguardas. Esa 01:08:01

inteligencia emocional también nos ayuda a ser una población más resiliente. Si yo 01:08:09

sé que determinadas emociones o determinado contenido me mueve mucho y me lleva a actuar 01:08:15

de una forma a lo bestia, inconsciente, sin pensar, cuando me llega ese tipo de contenido 01:08:21

saber identificarlo, saber lo que me va a despertar y saber que tengo que controlar aquello, que es una vulnerabilidad que tengo. 01:08:28

La responsabilidad individual. Tenemos que ser responsables. Tenemos que ser conscientes de que cuando yo a una IA le digo que me haga como ha ocurrido, 01:08:34

cuando soy un abogado y le digo a la IA que me busque jurisprudencia para defender el caso que tengo entre manos 01:08:48

y la IA me saca un montón de jurisprudencia 01:08:55

voy a ser responsable 01:08:57

voy a comprobar que eso sea real 01:08:59

porque ya ha habido casos 01:09:01

de abogados 01:09:03

que han soltado 01:09:05

una jurisprudencia que es falsa 01:09:06

no existía esa jurisprudencia 01:09:09

era una invención de la IA 01:09:12

imaginaos 01:09:13

el desastre 01:09:14

entonces seamos un poco responsables 01:09:15

y supervisemos lo que nos da la IA 01:09:19

¿vale? 01:09:21

Luego el control de los sesgos de la IA 01:09:22

Esto va también sobre todo para los técnicos 01:09:26

Cuando se entrene la IA vamos a intentar dar datos lo más ricos posibles 01:09:29

No sesguemos la IA 01:09:34

No hagamos que solamente entrene un determinado perfil 01:09:37

Vamos a enriquecer los perfiles 01:09:43

Que en los equipos de entrenamiento de IA haya gente de todo tipo de profesiones 01:09:46

No solo técnicos informáticos, que haya sociólogos, psicólogos, matemáticos, de todo tipo de profesiones, filósofos. ¿Por qué? Porque eso ayuda a detener, detectar esos sesgos y que la alimentación de nuestro modelo de inteligencia artificial sea más rica y sea una inteligencia artificial que funcione mucho mejor. 01:09:50

Y luego un cambio de paradigma que hemos dicho. Vamos a actuar no en el contenido, sino en el proceso. No vamos a decir este mensaje, vamos a censurar todos los mensajes y no sé qué, no. Vamos a actuar en el proceso. Vamos a actuar en que la población piense. 01:10:15

No en decirle a alguien desde algún ente, esto está mal, esto está bien, no, no, no. Vamos a educar a la población en que la población piense. No vamos a intervenir en los mensajes diciendo si es cierto o es falso, vamos a intervenir en los procesos. 01:10:35

Vamos a enseñar que la gente tiene que pensar y que una máquina me diga algo no es la verdad o que en redes sociales me encuentre 40.000 mensajes que me dicen una cosa no significa que sea verdad. 01:10:49

Hay un riesgo en la intervención, que es lo que ocurre cuando, por ejemplo, hay un chaval que se está, por ejemplo, casos reales, chaval que se está integrando en círculos peligrosos de yihadismo, radicalización por yihadismo, ¿vale? 01:11:02

¿qué es lo que pasa si yo al chico le digo 01:11:22

es que esto que estás diciendo no es real 01:11:25

eso es mentira 01:11:27

te están manipulando 01:11:29

¿sabéis cómo manipulan? 01:11:30

cuando nos quieren meter 01:11:33

en una secta, en una ideología y tal 01:11:34

van a nuestras emociones 01:11:37

si yo 01:11:39

a una persona le digo 01:11:41

eso que estás diciendo 01:11:42

es una tontería 01:11:44

si yo estoy 01:11:46

atacando 01:11:49

Pero al sistema de creencias de alguien, ¿cómo pensáis que va a responder? ¿Se va a poner en mi contra? ¿Por qué? Porque le estoy haciendo una herida muy fuerte. 01:11:51

Imaginaos que yo digo, eso que dices es una chorrada. O eso que dicen, mira, te están intentando manipular. En los grupos de radicalización les enseñan perfectamente a contraargumentar. 01:12:01

Oye, en tu entorno, lo primero que le dicen en tu entorno, te van a decir que lo que estás diciendo es una tontería, es falso. Eso es porque no quieren entenderte, quieren que sigas siendo un fracasado, quieren que el instituto te sigan pegando y siendo el típico pringado del instituto. 01:12:12

tú no les hagas caso 01:12:31

entonces, ¿qué es lo que ocurre cuando yo quiero 01:12:33

rebatir 01:12:36

algo que está 01:12:37

en el sistema más 01:12:39

íntimo de creencias y de emociones 01:12:42

que consigo el efecto 01:12:44

backfire, que es el efecto 01:12:45

de tiro por la culata 01:12:48

yo quiero desmontarte el argumento 01:12:50

y lo que estoy haciendo es fortalecerte 01:12:52

es lo que me dijeron, lo que me dijeron en el grupo 01:12:53

lo que me dijeron allí 01:12:56

cuando estábamos orando 01:12:57

que iba a venir gente occidental 01:12:59

a decirme que eso es mentira 01:13:02

porque quieren perpetuar un sistema que es malo 01:13:03

y está envenenándome 01:13:06

le estamos reforzando la creencia 01:13:07

ostras, ¿ves? lo que me decían es cierto 01:13:09

quieren manipularme 01:13:12

cuando realmente están siendo manipulados 01:13:14

¿cómo podemos desmontar esto? 01:13:16

chicos, validémosle a la persona 01:13:18

vale, entiendo tu postura 01:13:20

eso significa 01:13:22

a la persona le estás haciendo ver que le estás 01:13:24

por lo menos escuchando 01:13:26

y no le estás tomando por tonto 01:13:27

porque es una ideología que tienes que respetar 01:13:29

vale, entiendo 01:13:33

esto 01:13:34

luego desmontas el motivo 01:13:35

no el dato, sino ojo 01:13:39

mira, oye, y esto 01:13:40

tú crees que quizá 01:13:42

podría haber otra forma 01:13:45

de ver o que puede estar motivando 01:13:47

que te lleguen este tipo de mensajes 01:13:49

tener la humildad 01:13:51

epistémica, es decir, cuando yo voy a 01:13:52

intervenir con una persona que está siendo radicalizada 01:13:55

no voy yo ahí como 01:13:57

que soy la diosa de la sabiduría 01:13:58

no, oye, mira, también me puedo equivocar 01:14:00

que seguro que lo que estás diciendo 01:14:02

tiene mucho sentido 01:14:04

esa persona ya se está sintiendo 01:14:05

escuchada, validada 01:14:08

y ya va a ser más fácil que por lo menos 01:14:09

le lleve a reflexionar 01:14:11

y autodescubrir 01:14:14

que están produciéndole esos mensajes a él 01:14:15

y por qué le están llevando 01:14:18

pero dejo que descubra 01:14:20

poco a poco, no le tiro por tierra 01:14:22

porque si no 01:14:25

Lo que consigo es que si a mí me estás diciendo que lo que pienso, lo que siento y lo que creo es una tontería, ya no te voy a escuchar nunca más. Es más, me voy a ir con ellos más, mucho más. 01:14:26

Y como conclusión, hay que ir a un cambio de paradigma, no vamos a ir contra el dato o la mentira, vamos a cambiar el proceso, ese procesamiento cognitivo que las personas sepan que tienen un cerebro que pueden usar y que tenemos que usar de una manera crítica. 01:14:36

Todo lo que llegue tengo que planteármelo, hasta qué punto es verdad, por qué me está llegando esto a mí, qué me está despertando y qué quieren conseguir de mí. 01:14:57

Además, tengo que saber que lo que sale de la inteligencia artificial no siempre es cierto. 01:15:06

Tengo que ser también inteligente con los prompts que le meto. 01:15:11

Y no decirle, si le quiero preguntar algo, dame referencias. 01:15:14

Yo creo esto, hazme de abogado del diablo para que yo pueda ver otras perspectivas, a ver si yo estoy fallando. 01:15:20

Como está programada para complacerlo, si yo le estoy diciendo que me lleve la contraria, 01:15:28

pues me va a buscar argumentos en contra mío y a lo mejor puedo ver otra perspectiva. 01:15:32

importancia de la educación en pensamiento crítico 01:15:36

y resiliencia cognitiva 01:15:40

es muy importante, no solamente en los colegios 01:15:41

la población en general 01:15:44

no vamos a dirigir poblaciones 01:15:45

la gente tiene que aprender a pensar 01:15:47

a ser crítica por sí misma 01:15:49

no a censurar, la censura no conduce a nada 01:15:51

lo que hay que hacer es que los ciudadanos 01:15:54

sean responsables 01:15:56

y sean conscientes 01:15:57

y la gobernanza de la inteligencia artificial 01:15:58

hay que hacer un buen uso de la inteligencia artificial 01:16:01

es un instrumento maravilloso 01:16:04

Es súper potente. Es genial tener la inteligencia artificial y yo os animo a que la uséis, pero con cabeza, con criterio y para mejorar como somos, como personas, como ciudadanos y a funcionar cada vez mejor. Muchas gracias. 01:16:05

Muchas gracias Raquel. Os tengo que confesar que en el café Raquel estaba un poco inquieta porque con la calidad de los ponentes que decía que había habido aquí en el Ciberjueves, no sabía si iba a estar a la altura. 01:16:20

Así que yo creo que por la calidad de lo que ha contado, por la manera de contarlo, por la calidad de las diapositivas, que me han encantado, yo creo que estás en el top 3. Así que puedes estar tranquila, creo que es así. 01:16:43

Además, como lo hemos grabado y nos ha dado permiso para grabarlo, creo que es una charla fundamental para distribuir, bueno, para todos, yo creo, para nuestra familia, nuestros alumnos, nuestros docentes, 01:16:57

porque no se puede explicar tan bien y tan claro cosas que muchos sabemos e intuimos también y decimos, jo, pues si es esto, esto es. 01:17:08

A lo mejor es que tenemos este sesgo, ¿no?, que nos estaba contando y por eso estábamos así, tan, o no, no, pero realmente muy bien. 01:17:15

Nos queda tiempo para una pregunta solo. Así que si alguien quiere hacer una pregunta, la puede hacer. Si no, yo tengo mil preguntas. 01:17:22

Si trabajáis con gente joven, si queréis, hay recursos que habréis visto en alguna slide que he puesto, que es el Cranky Uncle, que es un simulador de una persona que es de estos que son para la pseudo realidad, la nueva realidad y todo eso, os ponen teorías y le tenéis que desmontar a ese hombre. 01:17:33

Y luego hay otro que es también el Homeland Escape, que es, digamos, una sociedad ideal y hay una narrativa que intenta cargarse esa sociedad ideal. 01:17:55

De todo eso nos puede incluso pasar información, pero cuando hagamos un artículo en Recursos TIC podemos poner como información adicional para que quiera profundizar. 01:18:05

Porque eso para educar está muy bien, porque además es tipo juego y está bien. 01:18:12

Perfecto. Muy bien. Sergio. 01:18:14

Hola. 01:18:17

Hola. 01:18:18

Bueno, primero felicitárteme. 01:18:18