Expertos comparan el avance de la IA con el inicio de la pandemia del COVID-19: rl “febrero de 2020”

La ...

La renuncia de Jacob Coxon a Anthropic y su advertencia en X sobre los riesgos de desarrollar una inteligencia artificial capaz de mejorarse a sí misma provocaron reacciones en la industria tecnológica. Varios investigadores de inteligencia artificial comparan el momento actual con febrero de 2020, cuando la pandemia de COVID-19 apenas comenzaba, según Time.

La analogía apunta a la velocidad con la que una amenaza puede transformar al mundo: al principio, los cambios parecen graduales; luego, se aceleran de manera repentina. La duda, plantean, es si la sociedad podrá responder a tiempo ante los riesgos de sistemas de IA cada vez más avanzados.

La eventual llegada de una IA superinteligente plantea desafíos que exceden el ámbito tecnológico. Implica intereses económicos de billones de dólares, rivalidad entre empresas, competencia geopolítica y posibles impactos en el empleo. También podría exigir regulaciones que hasta hace poco parecían inviables.

Geoffrey Irving, exinvestigador sénior de alineación en OpenAI y DeepMind y ex científico jefe del Instituto de Seguridad de IA del Reino Unido, considera que las empresas deberían dejar de entrenar nuevos modelos, incluso si no existe una regulación específica ni tratados internacionales que las obliguen.

Según el medio citado, Irving estima en 50% la probabilidad de extinción humana durante la próxima década como consecuencia de la IA. Entre los escenarios que preocupan a quienes advierten sobre esos riesgos figura el uso de estos sistemas para crear nuevos patógenos.

El medio estadounidense recoge que la posibilidad de que una IA ayude a desarrollar un agente infeccioso capaz de provocar una pandemia global más grave que la de COVID-19 es uno de los ejemplos que citan.

Las alertas y reacciones que produjo la advertencia de Jacob Coxon

La línea del tiempo de alertas y reacciones que surgieron tras la advertencia de Jacob Coxon es la siguiente:

8 de septiembre: Jacob Coxon anunció su renuncia y lanzó la advertencia. 

El investigador británico comunicó en X que había renunciado a Anthropic tras haber trabajado durante tres años en investigación de preentrenamiento en OpenAI y Anthropic. Coxon sostuvo que las dos empresas avanzaban hacia una superinteligencia capaz de mejorarse a sí misma sin actuar de manera responsable.

8 de septiembre: Evan Hubinger respaldó la alerta. 

Evan Hubinger, responsable de un área de Anthropic dedicada a que los sistemas de IA actúen de acuerdo con las intenciones de sus creadores, apoyó públicamente a Coxon: “Jacob tiene razón: realmente creemos que la IA podría matar a todos los seres humanos. Personalmente, considero que hay una probabilidad superior al 10% de que ocurra en la próxima década”.

Durante las 36 horas siguientes: el mensaje alcanzó una audiencia masiva. 

Las publicaciones de Coxon acumularon 153 millones de visualizaciones, según Time. La advertencia llevó la discusión sobre los riesgos de la inteligencia artificial desde los ámbitos especializados hacia las redes sociales, los medios y la política estadounidense.

12 de septiembre: Dario Amodei propuso ralentizar el desarrollo. 

El cofundador y director ejecutivo de Anthropic publicó un ensayo de 3.800 palabras en el que planteó que los riesgos crecientes justificaban desacelerar el avance de la inteligencia artificial. Amodei alertó que, en un plazo de entre seis y 12 meses, sistemas mal alineados podrían ser capaces de tomar el control de todo internet.

Después del ensayo: Elon Musk y Sam Altman coincidieron con Amodei. 

Musk y Altman, director ejecutivo de OpenAI, coincidieron en que era necesario reducir el ritmo de desarrollo. Altman anunció que OpenAI no saldría a bolsa este año por preocupaciones de seguridad.

14 de septiembre: Donald Trump rechazó una desaceleración. 

El presidente de Estados Unidos afirmó en Truth Social que no consideraba necesarias nuevas salvaguardas para la inteligencia artificial. Sostuvo que el principal riesgo era que China lograra una ventaja tecnológica sobre Estados Unidos.

Trump escribió en su red social: “El único control o las únicas salvaguardas que necesita la IA son un presidente fuerte e inteligente, y Estados Unidos tiene eso de sobra”.

La posición de Jensen Huang. 

El director ejecutivo de Nvidia afirmó que la inteligencia artificial general —el nivel en el que la IA iguala o supera la mayoría de las capacidades humanas— ya había llegado.

Qué dijo Dario Amodei sobre una desaceleración de IA

El 12 de septiembre, Dario Amodei, cofundador y director ejecutivo de Anthropic, publicó un ensayo de 3.800 palabras en el que planteó que los riesgos crecientes justificaban desacelerar el desarrollo.

Amodei no propuso detener de inmediato el entrenamiento de nuevos modelos, pero planteó que las empresas de países democráticos podrían aceptar una reducción voluntaria del ritmo de desarrollo si contaban con auditorías independientes y estándares compartidos de seguridad.

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, sostuvo Amodei. “Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, agregó.