Comprender el comportamiento de la máquina

Un científico que separa la inteligencia artificial de las humanidades y las ciencias sociales. Investigadores de ambos campos piden una mayor colaboración interdisciplinaria para estudiar, entrenar y probar las máquinas. ¿Objetivo? Pueden ser más útiles para la sociedad.

Inteligencia artificial, medio ambiente y comportamiento

dice Blake Richards, profesor de la Escuela de Ciencias de la Computación y el Instituto Neurológico de Montreal en la Universidad McGill.

Este aprendizaje se basa en un sistema de «recompensas», como el caramelo que le damos a un perro para felicitarlo. “El propósito de una máquina es descubrir qué acciones realizar en función de sus observaciones, para aumentar su grupo de recompensas a largo plazo”, explica Doina Precup, quien también es investigadora en la Facultad de Informática de la universidad. Universidad. Sin embargo, como un perro algo glotón, una máquina a veces puede hacer todo lo posible para obtener estas recompensas, incluso si eso significa adoptar un comportamiento desproporcionado, inesperado o incluso peligroso.

Tomemos, por ejemplo, una máquina que ha internalizado el comportamiento «mal». «Si aprendes que la risa es algo bueno, es posible que empieces a reírte cada vez más, especialmente en los momentos equivocados», dice Mark Lanovaz. ¿Que haces en esta situacion? “Hay que volver a entrenarla jugando con su entorno, enseñarle que tiene que dejar de reírse en tal o cual situación”.

Jugar con el entorno para modificar comportamientos es algo que Marc Lanovaz sabe bien: es investigador en análisis de comportamiento y psicoeducación en la Universidad de Montreal. Lo que propone aquí concretamente -y en un artículo publicado en Perspectivas sobre la ciencia del comportamientoMarzo de 2022: el estudio del comportamiento humano se aplicará a las máquinas.

Inteligencia artificial, humanidades y ciencias sociales

Al igual que el análisis del comportamiento, existen muchas áreas de investigación en humanidades y ciencias sociales donde la inteligencia artificial ha hecho correr mucha tinta en los últimos años: filosofía, ética, psicología, etc. Estas áreas pueden ayudar a los ingenieros a probar y capacitar a la IA en diferentes situaciones que pueda encontrar, o incluso detectar y corregir posibles sesgos o malas conductas. Sin embargo, aunque tal colaboración interdisciplinaria es deseable, cada campo generalmente opera en «silos», sin comunicarse entre sí.

dice Thilo Hagendorff, especialista en ética de la IA de la Universidad de Tübingen, Alemania.

Pero creo que será necesario que los investigadores de humanidades adquieran este conocimiento y este vocabulario común para comprender los problemas a los que se enfrentan los ingenieros de IA. »

Estos obstáculos que complican la cooperación han sido bien identificados por investigadores de IA. “Las fronteras del conocimiento en nuestro campo se están moviendo muy rápidamente, por lo que es difícil para otras disciplinas saber dónde estamos en un tema en particular”, dice Blake Richards. Además, distintas disciplinas no publican de la misma manera, lo que acentúa aún más esta división entre campos. Doina Precup afirma: “En IA hay mucha publicación de congresos, pero no es de interés para los investigadores en filosofía o ciencias sociales, que principalmente publican libros o artículos en revistas de uno o dos autores”.

La inteligencia artificial y el bienestar humano

Sin embargo, todos estos investigadores están de acuerdo en que una mayor colaboración interdisciplinaria podría ser beneficiosa para la IA y para la sociedad.

Estudiar las interacciones de la máquina con su entorno significa no sólo evitar que se comporte con torpeza -como cuando se ríe de manera inapropiada- sino también y sobre todo garantizar que no interfiera negativamente en la vida humana. “Un algoritmo puede desarrollar todo tipo de comportamientos: dependerá de cómo los mejore”, dice Matthew Dougall, periodista científico y editor, quien recientemente tuvo la oportunidad de explorar estas cuestiones en el documental. Inteligencia artificial, ser o no ser.

«Por ejemplo, TikTok es un algoritmo que comprende rápidamente nuestro punto débil: juega con una parte de nuestro cerebro que activa la pequeña palanca de la saciedad. Por lo tanto, este tipo de algoritmo seguramente brindará un sistema que consumirá mucho tiempo, lo que hacer que desarrollemos reacciones de hiperconsumo”.

“Es importante hacer estas preguntas ahora y establecer un marco para guiar a la IA en la dirección correcta”, dice Blake Richards. Porque dentro de diez años, cuando la IA esté en el centro de nuestra vida diaria, puede que sea demasiado tarde. »