a mayoría de nosotros habrá oído hablar del Reloj del Apocalipsis, que mide la proximidad de la humanidad a un desastre nuclear global y que actualmente se encuentra a unos aterradores 90 segundos de la medianoche.

Ahora, la IMD Business School de Lausana ha lanzado el Reloj de Seguridad de la IA. Su función es alertar al mundo de los peligros potenciales de la inteligencia artificial general no controlada, basándose en su grado de sofisticación, su capacidad de funcionar de forma independiente y su capacidad de integrarse con los sistemas del mundo real y adaptarse a ellos sin supervisión humana.

No se asuste: las manecillas de este Reloj de Seguridad de la IA no están marcando peligrosamente cerca de la medianoche, sino que están en una distancia más cómoda de 29 minutos. Pero, ¿qué pasaría si marcara la medianoche? ¿Apocalipsis o no? Nadie lo sabe.

Elon Musk cree que existe un riesgo de “entre el 20% y el 30%” de una “catástrofe existencial de la IA” para la humanidad (y parece estar decidido a que así sea). Los expertos están dando la voz de alarma, como informa IMD: “Geoff Hinton asigna un 10% de posibilidades de extinción humana en 30 años sin una regulación estricta, Dario Amodei y Yoshua Bengio estiman un 10-15% y un 10%, respectivamente, de una catástrofe de civilización, mientras que Ray Kurzweil predice una inteligencia de nivel humano para 2029”. El riesgo está aumentando y no se está haciendo nada para controlarlo. ¡Vaya!

El Reloj de Seguridad de la IA, como cualquier reloj, es un instrumento de medición que debe regularse con precisión, en lugar de depender únicamente de pronósticos. Para calcular con precisión la velocidad a la que avanzan sus manecillas, debe estar equipado con algún tipo de mecanismo de regulación, que es el objetivo de IMD. Al igual que ocurre con el movimiento de un reloj, la energía almacenada no debe liberarse sin control (de lo contrario, las manecillas girarían a una velocidad vertiginosa), sino que debe “ponerse en marcha” literalmente.

Desde su “tiempo” actual de 29 minutos hasta la medianoche, existe una posibilidad muy real de que el reloj de IMD avance a un ritmo mucho más rápido, a medida que implementemos efectivamente sistemas capaces de planificar, tomar decisiones o actuar de manera autónoma, sin intervención humana (como lo ilustran, por ejemplo, ciertos desarrollos recientes en armamento). De ahí el papel fundamental de la regulación. Como afirma IMD, el Reloj de Seguridad de la IA “evalúa las medidas regulatorias globales y nacionales (…) para identificar áreas donde las regulaciones mitigan con éxito los riesgos y donde se requieren más esfuerzos” con el objetivo de alertar a los responsables políticos para que las manecillas del reloj nunca se salgan de control.

Pregunta estúpida: ¿no podríamos regular el Reloj de Seguridad de la IA utilizando IA? Habiendo superado la inteligencia humana, ¿quizás nos salvaría de la extinción al suicidarnos? ¿Existe la empatía artificial? Tengo mis dudas.

Haga clic aquí para obtener más información