¡¡¡Plop!!!

IA vs Humanidad

Casi todo el mundo está celebrando lo maravilloso que es la Inteligencia artificial (IA).

Ya muchos científicos, filósofos, académicos, usuarios de redes, acuden a ésta por respuestas a sus interrogantes. Incluso es para muchos su diaria guía, su nuevo horóscopo, su herramienta esotérica.

Pero, ¿se ha puesto a pensar, estimado lector, en la posibilidad de que esa inteligencia artificial se vuelva contra usted, contra nosotros, contra toda la humanidad, al grado de querer destruirnos?

Varias personalidades con autoridad en la materia lo han señalado ,entre ellos a:

1.      Elon Musk, cofundador de OpenAI y actual líder en xAI, estima que existe entre un 10 % y 20 % de probabilidad de que una IA descontrolada acabe con nosotros.

2.      Roman Yampolskiy, investigador en seguridad de IA, predice una probabilidad de extinción de 99.9 % en los próximos 100 años.

3.      Expertos del sector, incluidos Geoffrey Hinton, Demis Hassabis, Dario Amodei y Yoshua Bengio han firmado un manifiesto donde advierten que "mitigar el riesgo de extinción por IA debe ser una prioridad global, comparable a pandemias y armas nucleares.

Pero, ¿cuáles podrían ser las causas de que, este invento humano, pudiera acabar con su propio creador?

1. Desalineación de objetivos: Una IA con metas mal definidas podría desarrollar subobjetivos letales.

2. Mal uso deliberado: usuarios de la IA malintencionados podrían usarla para crear virus biológicos, desencadenar ciberataques o guiar sistemas autónomos letales.

4. Competencia tecnológica acelerada: carreras entre grandes empresas o países, sin precauciones adecuadas, pueden llevar a desplegar sistemas potentes sin control.

Así que, sin ser Ave de mal agüero, habría que, si por las dudas, tomar las debidas precauciones y no andar después  lamentando nuestra indolencia.

Para ello proponemos:

- Políticas internacionales, que promuevan una regulación que abarque licenciamiento, transparencia, pruebas de seguridad y control de modelos de alto riesgo

- Controles técnicos de alineación y monitoreo:

-Implementar “evaluaciones de riesgo” continuas, auditorías de valor y herramientas que detecten comportamientos no intencionados.

- Investigación en inteligencia alineada:

Invertir en metodologías avanzadas para asegurar que los modelos comprendan y sigan valores humanos, incluyendo mecanismos para que se autocorrijan.

- Coordinación pública-privada:

Fomentar la cooperación entre laboratorios, gobiernos y academia para compartir riesgos, evitar duplicación y coordinar respuestas ante amenazas

- *Evitar carreras globales imprecisas*: promover enfoques con margen temporal (pausas, moratorias cortas), garantizando el desarrollo responsable, sobre incentivos económicos o geopolíticos

La posibilidad de que una IA destruya a la humanidad —ya sea súbitamente o vía erosión sistémica— es considerada “plausible” por múltiples expertos y desarrolladores. Sin embargo, también hay un claro consenso en que aún hay tiempo y herramientas para evitarlo. Requiere actuación conjunta: investigación en alineación, regulaciones firmes y una gobernanza internacional que sitúe la seguridad de la humanidad en el corazón del desarrollo de la IA.

++++

¿Por qué los políticos no temen a la inteligencia artificial?

Porque saben que, para mentir con tanta creatividad, ¡ni la IA tiene suficiente programación!

¡¡¡PLOP!!!