Martina Salinas, proyecto 59-PA CSUCA-IDRC[1]
Primeramente, quiero agradecerles por la oportunidad de exponer en el día de hoy. Sabemos que los pueblos indígenas, en cuanto a la inteligencia artificial, se enfrentan a algunos problemas, pero también crean resistencia para mantener la vigencia de nuestra cultura y de nuestra identidad.
En este marco, uno de los principales desafíos creo que sería la infraestructura, porque para integrarse a esta comunidad de inteligencia artificial, primeramente necesitamos internet. Entonces, esto debe ser como más bien un programa institucional.
Sin internet no podemos partir de ahí; no hay inteligencia artificial. Entonces, esto es una parte y claro, también continuando con el mismo tema que expuso el Dr. Jon Subinas y Osvaldo Calle sobre los sesgos para participar, para tener una presencia en la era de la inteligencia artificial.
Es importante que quien proporcione estas informaciones y saberes, esta sabiduría que se va a integrar a las redes, sea una persona que esté trabajando en estos temas porque se puede malinterpretar al transcribir estas informaciones en las redes.
Entonces, cuando uno va a consultar sobre ciertos grupos indígenas, sobre su cultura, se detectan errores. Me ha sucedido que cuando voy a consultar sobre mi propio pueblo, encuentro información totalmente diferente a lo que he visto. Entonces, es un tema de cuidado. También hay que tomar en cuenta el consentimiento previo, libre e informado, porque para tener información veraz, hay que extraerla de fuentes veraces.
Mi tercer comentario es que no todo es malo, porque también hay cosas buenas.
Nosotros como jóvenes de los pueblos indígenas (me enfoco aquí en Panamá, en mi pueblo Ngäbe‑Buglé al que pertenezco), ahora estamos utilizando la inteligencia artificial para integrarnos a través de fundaciones.
Existen diversas fundaciones, asociaciones, movimientos de convocatoria social que utilizan las redes sociales para tener más seguidores y que sean como que vean lo que está sucediendo en el país. Puedo mencionar una página que me impacta mucho, creada por un joven durante la pandemia para promover lenguas indígenas entre la juventud porque se estaban perdiendo.
También hay que mencionar que en este mismo marco las redes están para que nos sirvamos de ellas y no que nos utilicen solamente para manejar nuestro conocimiento y que a la larga se pierda estos conocimientos. También existe una aplicación creada por un joven guna para romper esta brecha comunicacional entre indígenas y médicos que ingresan a las comunidades. Estos ejemplos son cosas positivas que habría que resaltar.
Quería también recalcar el rol de las mujeres, que somos las que estamos en este proceso de transmisión de conocimiento. Entonces, es importante ver todo este enfoque de inteligencia artificial desde la perspectiva de género para manejar estos conocimientos desde su propia experiencia, el camino que estamos llevando hacia un mundo un poco más conectado.
Inteligencia artificial: Historia, sesgos y la necesidad de políticas inclusivas
Gustavo Nuñez[2]
La inteligencia artificial no es algo nuevo; conocemos los paradigmas que la gobiernan desde la década del 1940, y sus estructuras fundamentales surgieron entonces. Entonces: ¿por qué aparece ahora con tanta importancia? La respuesta es que, para desarrollarse, se necesitaron dos cosas fundamentalmente: datos y hardware.
Primero, datos: muchos datos, muchísimos datos, ya que la inteligencia artificial, básicamente las redes neuronales, necesita aprender cosas para poder reproducirlas, innovar y generar nuevas ideas.
En segundo lugar, como básicamente se trata de operaciones matriciales, se necesitó hardware especializado que hasta las décadas de los 80 o 90 no teníamos. En ese momento comienza la gran eclosión.
En cuanto a los datos, para hacer alguna comparación, se estima que la cantidad de estrellas en el universo es del orden de (2^{24}) y la cantidad de datos que producimos por año es del orden de (2^{22}). Sin estos dos componentes no hubiera sido posible que esto hiciera eclosión en el último siglo.
Además, debe tomarse en cuenta el bagaje cultural que hoy tenemos. Una frase atribuida a Newton decía que podemos ver más lejos porque estamos parados sobre hombros de gigantes; eso quiere decir que es básicamente suicida no incorporar el conocimiento que tenemos desde hace muchos años. Eso refleja nuestra cultura y quiénes somos. No tiene sentido no incorporar cosas que están ahí y que nos hacen ser quienes somos.
En tercer lugar, hay un sesgo tecnológico que viene dado por los algoritmos, pero basado en el discurso latente. No me voy a meter en álgebra lineal; este no es por ahí, pero les quiero decir lo siguiente: en los modelos de redes neuronales profundas generativas, como Chat GPT, las palabras son manejadas como vectores que básicamente son conjuntos de números asociados a la probabilidad de que una palabra aparezca al lado de otra. Eso es una de las representaciones. Esa representación hace que la distancia entre palabras—por ejemplo, ocupación mujer y ocupación hombre*—pueda diferir. Estudios desde el año 2016 muestran que las distancias entre *ocupación hombre y ocupación mujer son similares en áreas de tecnología de la información y en el área de amas de casa; esto se conoce con el nombre técnico de daño por asignación.
Ahí está dado el sesgo en todo el discurso del aprendizaje de una inteligencia artificial, de un modelo de IA. Ese fenómeno es conocido en el procesamiento del lenguaje natural. Los algoritmos amplifican el sesgo, pero quiero hacer notar que el sesgo está subyacente en el texto con el que se alimenta y no necesariamente ocurre de manera intencional; sino que es el discurso dominante. El discurso dominante produce el sesgo y el modelo tiende a amplificarlo. Ese es un problema que ya está en estudio, sobre lo cual hay papers al respecto; no es algo que haya pasado inadvertido a la comunidad de inteligencia artificial.
Además, para generar un modelo de este tipo se necesita una cantidad enorme de recursos. Uruguay, por ejemplo, cuenta con un centro de supercomputación que depende de la Facultad de Ciencias y de la Facultad de Ingeniería; tengo entendido que allí se desarrolla parte de la investigación científica en Uruguay, país donde se demanda un porcentaje del PIB para asignar a la investigación científica.
Hoy estamos hablando de algoritmos verdes, que requieren menos recursos y, por lo tanto, quiero hacerles notar que se necesitan políticas para impulsar líneas de investigación útiles a nuestras comunidades. Sin eso, toda la investigación o tecnología que podamos aportar es simplemente importada.
[1] Ngäbe, ingeniera agrónoma en la especialidad de Manejo de Cuencas y Ambiente.
[2] Ingeniero en Sistemas, Magíster en Ingeniería en Computación (UDELAR- Uruguay), Consultor en OLTP (On Line Transaction Processing), Criptografía y Ciencia de Datos.