1
00:00:06,769 --> 00:00:07,870
Ya está, empieza.

2
00:00:08,730 --> 00:00:12,529
Imaginen por un momento que muchas de las decisiones que condicionan nuestra vida cotidiana,

3
00:00:12,730 --> 00:00:15,210
como qué ves, qué compras, si consigues un trabajo,

4
00:00:15,730 --> 00:00:20,329
no las toma una persona sino un sistema que no siente, muda y no entiende el mundo como nosotros.

5
00:00:20,910 --> 00:00:24,710
La inteligencia artificial ya participa en espacios que antes eran exclusivamente humanos

6
00:00:24,710 --> 00:00:28,289
y con cada avance surge una nueva pregunta que nos inquieta.

7
00:00:28,550 --> 00:00:31,429
¿Qué ocurre cuando las tecnologías comienzan a decidir sobre nosotros?

8
00:00:31,989 --> 00:00:36,490
En este proyecto se explora ese cruce delicado entre lo que podemos crear y lo que debemos permitir,

9
00:00:36,770 --> 00:00:42,030
Porque la inteligencia artificial no es solo código, sino es un reflejo de nuestras elecciones, de nuestros valores, de nuestros sesgos.

10
00:00:42,630 --> 00:00:47,909
Y si va a acompañarnos en el futuro, tal vez la cuestión más urgente no sea cómo funciona, sino cómo queremos que se comporte.

11
00:00:48,729 --> 00:00:54,009
Yo soy Mario Carrascoza Flores y voy a hablar sobre la ética como una guía en el desarrollo de estas inteligencias artificiales.

12
00:00:54,850 --> 00:00:59,509
Después de abrir la puerta a ese mundo donde las tecnologías comienzan a decidir junto a nosotros,

13
00:00:59,990 --> 00:01:03,350
es imposible no dar un paso atrás y preguntarnos algo mucho más profundo.

14
00:01:03,789 --> 00:01:06,030
¿Qué significa realmente tomar decisiones bien?

15
00:01:06,530 --> 00:01:10,250
Para poder entender la ética en la IA, primero necesitamos entender la ética en nosotros.

16
00:01:10,969 --> 00:01:15,150
La ética nace hace más de 2.000 años cuando pensadores como Platón, Sócrates o Aristóteles

17
00:01:15,150 --> 00:01:17,549
se preguntaban cómo debería vivirse una buena vida.

18
00:01:18,750 --> 00:01:22,170
Con el paso del tiempo empezamos a entender la ética no como una simple teoría,

19
00:01:22,349 --> 00:01:25,250
sino como una guía para diferenciar lo correcto de lo incorrecto.

20
00:01:25,790 --> 00:01:28,549
Y para analizar cualquier dilema, incluidos los de la inteligencia artificial,

21
00:01:28,549 --> 00:01:33,069
hoy trabajamos con tres grandes enfoques, la metaética, la ética normativa y la ética aplicada.

22
00:01:33,790 --> 00:01:38,090
Todo esto puede sonar muy antiguo, pero es justo lo que necesitamos para entender el desafío actual.

23
00:01:38,629 --> 00:01:45,349
Trasladar estas preguntas, las más malas que existen, a sistemas que no sienten, no entienden y sin embargo influyen cada vez más en cómo vivimos.

24
00:01:46,510 --> 00:01:51,170
Por ello, para poder guiar la inteligencia artificial también podemos observar diferentes corrientes filosóficas,

25
00:01:51,170 --> 00:01:55,170
como el deontologismo, el utilitarismo, la ética de la virtud y la ética del cuidado,

26
00:01:55,489 --> 00:02:02,609
donde cada una ofrece, por así decir, un marco distinto a acercar las divisiones de la inteligencia artificial a lo que nosotros consideramos correcto.

27
00:02:03,849 --> 00:02:05,989
Ahora bien, para poder aplicar la ética como una guía,

28
00:02:06,390 --> 00:02:08,889
es imprescindible conocer cómo funciona la inteligencia artificial

29
00:02:08,889 --> 00:02:10,610
y qué tipo de decisiones puede tomar.

30
00:02:11,069 --> 00:02:14,430
La inteligencia artificial está en todas partes, pero no todos la comprenden igual.

31
00:02:14,550 --> 00:02:15,669
¿Y cómo funciona realmente?

32
00:02:16,090 --> 00:02:18,750
Básicamente, la IA permite a las máquinas realizar una tarea

33
00:02:18,750 --> 00:02:20,990
que normalmente requiere de una inteligencia humana,

34
00:02:21,210 --> 00:02:23,289
como aprender, tomar decisiones, razonar.

35
00:02:23,889 --> 00:02:26,650
Según su capacidad, encontramos la IA estrecha, la IA general

36
00:02:26,650 --> 00:02:29,030
y la superinteligencia artificial, una gran incógnita.

37
00:02:29,449 --> 00:02:32,210
Y según su funcionalidad, encontramos tres tipos de aprendizaje.

38
00:02:32,210 --> 00:02:39,250
El aprendizaje supervisado, no supervisado y por refuerzo, que permiten a las inteligencias artificiales aprender de los datos de una manera distinta.

39
00:02:40,189 --> 00:02:46,449
Además, estas inteligencias artificiales utilizan aprendizaje profundo, o deep learning, que es el proceso mediante el cual aprenden estas tecnologías,

40
00:02:46,990 --> 00:02:53,530
utilizando redes neuronales para procesar información mucho más compleja y reconocer patrones de una manera mucho más eficaz.

41
00:02:53,750 --> 00:02:58,710
Así, la inteligencia artificial es capaz de entender el lenguaje, de predecir resultados y de identificar objetos,

42
00:02:59,289 --> 00:03:02,449
Ajustamos sus decisiones a los datos que recibe sin pensar por sí misma.

43
00:03:04,710 --> 00:03:08,889
Por ello, cuanto más aprende esta tecnología, más sorprendente puede ser lo que logra.

44
00:03:09,590 --> 00:03:14,530
Inteligencia artificial ya no es un concepto teórico, sino que está transformando nuestra vida cotidiana.

45
00:03:15,009 --> 00:03:17,990
Desde el test de Turing y la conferencia en Dortmund en 1956,

46
00:03:18,469 --> 00:03:21,569
surgieron los primeros programas que imitaban aspectos del pensamiento humano,

47
00:03:21,689 --> 00:03:23,250
como el logic theorist o el perceptron.

48
00:03:23,569 --> 00:03:27,030
Tras años de limitaciones, la inteligencia artificial ha logrado hitos públicos.

49
00:03:27,370 --> 00:03:28,830
Deep Blue venció a Kasparov en ajedrez.

50
00:03:28,830 --> 00:03:34,469
AlphaGo superó a Lee Sedona en el juego y modelos como GBT son capaces de generar contenido muy creativo.

51
00:03:35,189 --> 00:03:40,169
Por ello, hoy en día la inteligencia artificial no es solo promesa, sino es una herramienta real y transformadora

52
00:03:40,169 --> 00:03:45,629
que se integra en muchos ámbitos de nuestra vida, como el transporte, como por ejemplo la medicina, la generación de contenido.

53
00:03:46,789 --> 00:03:51,509
En muy poco tiempo, la inteligencia artificial ha logrado tomar decisiones que conviven con las nuestras.

54
00:03:51,969 --> 00:03:55,349
¿Qué noticias se vuelven visibles? ¿Qué tipo de música se nos recomienda cada día?

55
00:03:55,349 --> 00:03:58,590
¿O qué personas reciben una cierta atención prioritaria en un servicio?

56
00:03:59,810 --> 00:04:03,449
Para una máquina solo son cálculos, para nosotros son decisiones que afectan vidas.

57
00:04:03,949 --> 00:04:10,129
Y por ello está aquí el corazón de este proyecto, entender que la ética no es un freno, sino una brújula necesaria

58
00:04:10,129 --> 00:04:14,710
para entender cómo no crear inteligencia artificial sin pensar en sus consecuencias.

59
00:04:15,310 --> 00:04:19,009
Asimov y imaginó las famosas leyes de la robótica, que aunque fueron brillantes en la ficción,

60
00:04:19,370 --> 00:04:23,129
nos demuestran la dificultad de convertir valores humanos en reglas claras,

61
00:04:23,129 --> 00:04:27,149
ya que la vida no cabe en desinstrucciones y aunque la inteligencia artificial pueda actuar de forma lógica,

62
00:04:27,329 --> 00:04:28,670
también puede hacerlo de forma injusta.

63
00:04:28,829 --> 00:04:45,170
Por eso, esta parte del proyecto es esencial. Entender que la inteligencia artificial no solo consiste en programar, sino en decidir qué tipo de mundo queremos construir con ella. Por ello, no consiste en temer la tecnología, sino en decidir qué tipo de mundo queremos construir con ella y no darle más poder del que podemos supervisar.

64
00:04:46,129 --> 00:04:53,370
Después de ver cómo ha evolucionado la inteligencia artificial y en qué consiste, quise comprobar algo muy sencillo.

65
00:04:54,209 --> 00:05:05,569
Para ello, realicé cuatro hipótesis acerca de cómo la gente entiende hoy la inteligencia artificial, cuánta confianza hay en ella y hasta qué punto estas tecnologías son realmente objetivas.

66
00:05:06,110 --> 00:05:15,009
Estas cuatro hipótesis no surgieron al azar, sino de observar cómo la inteligencia artificial está transformando nuestra vida cotidiana sin que la mayoría de las personas conozca realmente cómo funciona.

67
00:05:16,149 --> 00:05:23,970
Para poner toda esta prueba, realizó un estudio con 102 personas, diferenciando sus niveles de estudio, diferenciando también sus edades y sus creencias religiosas.

68
00:05:24,589 --> 00:05:27,550
La primera hipótesis se centraba en el conocimiento de la inteligencia artificial.

69
00:05:28,170 --> 00:05:30,490
Esta está en todas partes, pero no todos la comprenden igual.

70
00:05:30,490 --> 00:05:33,189
En analizar las respuestas, se confirmó la tendencia.

71
00:05:33,569 --> 00:05:41,230
Los grupos con más nivel de estudio y más jóvenes fueron quienes más respuestas correctas tuvieron en relación a qué es la inteligencia artificial y cómo aprende.

72
00:05:41,230 --> 00:05:59,290
Sin embargo, aquellos que tenían una menor formación académica y aquellos con más edad mostraban mucha más confusión, aunque también puede verse que han tenido una menor exposición tecnológica. Además, estos grupos presentaban diferentes variaciones, lo que puede verse que el conocimiento no solo depende de la edad, sino también de la formación académica recibida.

73
00:05:59,290 --> 00:06:04,149
La confianza es la segunda hipótesis, la confianza en estas tecnologías

74
00:06:04,149 --> 00:06:07,910
y aquí el resultado fue muy claro, la confianza disminuye con la edad

75
00:06:07,910 --> 00:06:12,589
Los jóvenes aceptan más que la inteligencia artificial participe en decisiones complejas

76
00:06:12,589 --> 00:06:16,750
y los adultos mayores, sin embargo, muestran mucho más rechazo a la inteligencia artificial

77
00:06:16,750 --> 00:06:19,810
sobre todo cuando ésta puede llegar a tomar decisiones que afectan a la vida

78
00:06:19,810 --> 00:06:21,310
como la medicina en la guerra

79
00:06:21,310 --> 00:06:26,009
Por lo que esto confirma que quienes han crecido sin convivir tanto con estas herramientas

80
00:06:26,009 --> 00:06:28,029
priorizan mucho más el control humano

81
00:06:28,709 --> 00:06:33,050
La tercera hipótesis buscaba algo muy debatido y en vía, si estas tecnologías son realmente objetivas.

82
00:06:33,490 --> 00:06:38,310
Para ello pregunté a tres chatbots diferentes, chatbots de Copley y Dipsy, acerca de tres temas sensibles,

83
00:06:38,750 --> 00:06:41,250
como Nagasaki, Israel-Palestina y el Partido Comunista Chino.

84
00:06:41,629 --> 00:06:42,930
Las diferencias fueron evidentes.

85
00:06:43,410 --> 00:06:47,810
Algunos modelos evitaban posicionarse, mientras que otros mostraban opiniones mucho más marcadas,

86
00:06:47,810 --> 00:06:52,250
sobre todo con estas preguntas que involucraban los países donde habían sido desarrollados estos modelos.

87
00:06:52,610 --> 00:06:57,629
Por lo que esto confirma que los sesgos existen, y aunque estas tecnologías aprenden de datos,

88
00:06:57,629 --> 00:07:01,910
son datos creados por personas, con contextos, con valores, con preferencias.

89
00:07:02,970 --> 00:07:05,410
Y por último, quise analizar las respuestas de la inteligencia artificial

90
00:07:05,410 --> 00:07:07,850
y compararlas con los juicios morales de las personas.

91
00:07:08,389 --> 00:07:13,089
Para ello planteé diferentes dilemas éticos y curiosamente los tres chatbots coincidieron en las mismas respuestas.

92
00:07:13,509 --> 00:07:16,990
Sin embargo, solo una de ellas coincidió con la mayoría de los participantes de la encuesta.

93
00:07:17,610 --> 00:07:22,009
Además, la mayoría de los participantes mostraban una gran heterogeneidad a la hora de tomar decisiones,

94
00:07:22,009 --> 00:07:23,769
las decisiones que yo les había propuesto,

95
00:07:23,769 --> 00:07:27,649
sobre todo cuando estas decisiones involucran decisiones de vida o muerte

96
00:07:27,649 --> 00:07:29,589
o decisiones que ponen en riesgo la vida.

97
00:07:30,089 --> 00:07:33,850
Por lo que esto muestra que la inteligencia artificial puede imitar razonamientos éticos comunes

98
00:07:33,850 --> 00:07:36,589
pero no refleja exactamente lo que haría la mayoría de la sociedad.

99
00:07:37,670 --> 00:07:38,970
Este estudio revela algo clave.

100
00:07:39,129 --> 00:07:40,529
La inteligencia artificial no es neutra.

101
00:07:41,009 --> 00:07:42,589
La confianza varía con la generación

102
00:07:42,589 --> 00:07:45,730
y el conocimiento en inteligencia artificial no es tan alto como el que pensamos.

103
00:07:45,850 --> 00:07:48,870
La inteligencia artificial puede aproximarse a nuestros criterios rurales

104
00:07:48,870 --> 00:07:50,470
pero no piensa tal y como nosotros.

105
00:07:50,889 --> 00:07:53,230
Por lo que en ese entonces cuando surge una gran pregunta

106
00:07:53,230 --> 00:08:00,470
Si la inteligencia artificial va a tener cada vez más presencia en decisiones reales, ¿estamos preparados para entenderla, para controlarla, para cuestionarla?

107
00:08:01,629 --> 00:08:04,430
Después de este recorrido, entiendo algo que antes no veía.

108
00:08:04,829 --> 00:08:09,730
La inteligencia artificial no es esa mente brillante que podemos llegar a imaginar, pero tampoco es un misterio reservado a expertos.

109
00:08:10,230 --> 00:08:13,230
Es una tecnología poderosa, pero profundamente humana en su origen.

110
00:08:13,610 --> 00:08:17,670
No razona ni siente, simplemente transforma patrones en decisiones que afectan vidas.

111
00:08:18,250 --> 00:08:22,170
Si la inteligencia artificial avanza rápido, nosotros somos quienes debemos marcar su rumbo.

112
00:08:22,170 --> 00:08:24,470
si conseguimos guiarla con sentido

113
00:08:24,470 --> 00:08:26,589
con creatividad y con responsabilidad

114
00:08:26,589 --> 00:08:28,370
no solo estaremos modelando un futuro

115
00:08:28,370 --> 00:08:30,230
mucho más tecnológico, sino también

116
00:08:30,230 --> 00:08:32,509
mucho más humano. Muchas gracias

117
00:08:32,509 --> 00:08:35,110
por su atención y ahora queda a la disposición para sus consultas

118
00:08:35,110 --> 00:08:36,990
Con su permiso, ¿puedo volver a hablar?

119
00:08:37,289 --> 00:08:38,470
Sí, sí, sí. Gracias