Yuval Noah Harari y Yoshua Bengio | «La inteligencia artificial es una oruga que puede convertirse en dinosaurio»

Tan increíble como es, la IA tal como la conocemos hoy tiene el potencial de convertirse rápidamente en «más poderosa que el Tyrannosaurus» y representar una amenaza existencial para los humanos, de ahí la urgencia de enmarcarla sin demora.

Ese es el mensaje transmitido el martes por el historiador israelí y autor de bestsellers Yuval Noah Harari y el renombrado académico de Quebec Joshua Bengio durante una conferencia celebrada en una sala llena como parte del evento de negocios creativos C2.Montreal en Place Ville-Marie.

Ambos expertos coincidieron en que la inteligencia artificial (IA) tiene el potencial de convertirse en una amenaza existencial para los humanos.

“La inteligencia artificial es diferente porque es una tecnología de toma de decisiones”, dijo Harari, quien habló por videoconferencia desde Israel. Cuchillo de pedernal o bomba atómica, el hombre necesita decidir si usarlo. Pero la IA toma las decisiones, quitándonos así parte de nuestro poder. »

Según el Sr. Bengio, profesor del Departamento de Ciencias de la Computación e Investigación Operativa de la Universidad de Montreal, la inteligencia artificial amenaza a corto plazo las próximas elecciones presidenciales de EE. UU. en noviembre de 2024.

Dentro de unos años, dijo, estas tecnologías podrían tener una inteligencia igual a la de los humanos y luego superarla.

«No sabemos si eso va a suceder. Pero si es así, es una amenaza existencial. Imagine una nueva especie altamente inteligente que nos mire como si estuviéramos mirando a una rana… ¿Estamos tratando con ranas, verdad?»

El Sr. Harari también expresó su preocupación por esta posibilidad. «Una IA es una oruga que puede convertirse en dinosaurio. No se necesitarían millones de años de evolución para que eso suceda: podríamos estar allí en unos pocos años».

Los dos hombres firmaron recientemente una carta abierta en la que pedían a todos los laboratorios de IA que dejaran de entrenar de inmediato sistemas de IA más potentes durante al menos 6 meses.

Para Yuval Noah Harari, es probable que las empresas privadas sigan buscando. Lo más urgente es que el gobierno controle la propagación. Por ejemplo, podemos tener una regla simple: la IA no puede hacerse pasar por un humano, debemos saber que estamos hablando con la IA. Durante miles de años, los humanos han tenido leyes contra la falsificación de dinero, y esas leyes están funcionando en gran medida. Necesitamos leyes similares sobre la falsificación de personas. »

Los gobiernos se han interesado recientemente en la IA debido a la popularidad de herramientas como ChatGPT. Pero los funcionarios electos continúan malinterpretando todo el potencial de esta tecnología, incluido lo que significa para el futuro de las democracias, denunció el Sr. Harari.

«La voluntad no está allí. Los políticos no hablan de eso en la campaña electoral, y el peligro es alto. La inteligencia artificial ya está trabajando, tomando decisiones sobre admisiones a universidades, préstamos de bancos».

La inteligencia artificial tiene el potencial de ayudar a los trabajadores a hacer parte de su trabajo, dijo Yoshua Bengio, pero el impacto económico sigue siendo incierto.

«Si la IA permitiera a un programador programar el doble de rápido, ¿necesitaríamos la mitad de programadores? ¿O necesitaríamos la misma cantidad de programadores, pero el doble de productivos? Es difícil de decir».

Yuval Noah Harari señala que el poder transformador de la comunidad de IA es incluso mayor que la revolución industrial del siglo XIX^H un siglo.

«La última gran revolución fue la revolución industrial. Se necesitaron varias generaciones para construir la empresa. Tuvimos muchas malas experiencias, como el Holocausto, en la construcción de sociedades industriales funcionales. No nos destruyó. Con la IA revolución, no podemos darnos el lujo de experimentar y fallar, porque no sobreviviremos al fracaso. «Nos pueden destruir».

Señala que, a corto plazo, muchos de los problemas de la humanidad pueden verse exacerbados por la inteligencia artificial. No queremos entrar en pánico, pero la transición va a ser difícil. Hitler tomó el poder con un 25% de desempleo durante solo 3 años. »

Ante la enormidad de la tarea, el Sr. Bengio señala que los humanos deben hacer lo mejor que puedan.

«Es nuestro deber moral. Solo podemos intentarlo, como con el cambio climático. Hay amenazas y hay beneficios. No soy ni optimista ni pesimista, pero es nuestro deber actuar».