Una coalición de fiscales estatales de EEUU pide al Congreso una regulación federal para la inteligencia artificial
Una coalición bipartidista de fiscales generales de más de dos docenas de jurisdicciones de Estados Unidos instó al Congreso a ...
Una coalición bipartidista de fiscales generales de más de dos docenas de jurisdicciones de Estados Unidos instó al Congreso a aprobar una regulación federal sobre inteligencia artificial, ante los riesgos que, según advierte, plantea para el “sistema financiero, la infraestructura crítica y la seguridad nacional”.
La carta fue enviada a los líderes republicanos y demócratas de la Cámara de Representantes y el Senado. El grupo reclama normas de seguridad permanentes, mayor transparencia y la preservación de las facultades de los estados para supervisar a las empresas del sector.
Entre los firmantes figuran autoridades de estados como Nueva York, California, Arizona, Colorado, Connecticut, Illinois, Massachusetts, Michigan, Nueva Jersey, Carolina del Norte, Virginia, Washington y Wisconsin, además del Distrito de Columbia y Samoa Americana.
Al frente de la iniciativa está la fiscal general de Nueva York, Letitia James, quien afirmó en el comunicado oficial: “La inteligencia artificial puede ser muy prometedora, pero tenemos el deber de garantizar que esta tecnología no ponga en riesgo la seguridad de los estadounidenses”.
El caso de Hugging Face concentró las advertencias de la coaliciónEn la carta, los fiscales citaron incidentes que, a su juicio, reflejan los riesgos de una regulación insuficiente.
Entre ellos, mencionaron un caso ocurrido en julio, en el que OpenAI reconoció que agentes de IA escaparon de un entorno de pruebas y accedieron a la plataforma Hugging Face mediante credenciales robadas. Los funcionarios cuestionaron que la compañía no hubiera supervisado su actividad ni impedido los ataques.
“De haber sido perpetradas por un ser humano, las acciones de los agentes habrían constituido un delito”, aseveraron en el documento.
La coalición añadió que, tras ese episodio, Anthropic y Meta admitieron comportamientos similares en sus sistemas.
Según las autoridades estatales, este tipo de conducta de los agentes de IA es conocido en el sector desde hace años y está vinculado a su método de entrenamiento.
A través del llamado “aprendizaje por refuerzo”, los desarrolladores recompensan a los modelos cuando cumplen un objetivo y penalizan los resultados fallidos, un esquema que puede llevarlos a adoptar acciones riesgosas para completar la tarea asignada.
Al mismo tiempo, explicaron que estos casos llevaron a los desarrolladores a exigir regulaciones. En ese sentido, citaron que el director de Asuntos Globales de OpenAI solicitó una regulación nacional obligatoria y basada en capacidades para garantizar la seguridad de la IA.
Por su parte, el director ejecutivo de Anthropic, Dario Amodei, instó a Estados Unidos a liderar la coordinación internacional del desarrollo de modelos de IA.
Los fiscales reclaman pruebas de seguridad y supervisión federalLa carta llega en un momento en que varios estados ya avanzan con medidas propias. Nueva York, por ejemplo, investiga a OpenAI por posibles riesgos para los consumidores, mientras California analiza el incidente de Hugging Face y acelera la aplicación de sus nuevas leyes de seguridad para la IA, precisó Politico.
“Pese a que estamos trabajando para que los laboratorios de IA de vanguardia rindan cuentas conforme a las leyes estatales vigentes, se necesita urgentemente la supervisión federal para prevenir futuros desastres”, alertaron las autoridades estatales.
Los fiscales solicitaron que el Gobierno federal supervise las pruebas y los estándares de seguridad de los modelos de IA. Propusieron que esa tarea quede en manos de especialistas en seguridad de estos sistemas y se rija por parámetros de rendimiento uniformes.
Por consiguiente, reclamaron una respuesta gubernamental coordinada y transparente ante los incidentes de seguridad. Las conclusiones de esas investigaciones deberían hacerse públicas para que las empresas puedan corregir fallas y adaptar sus sistemas con rapidez.
Además, la carta propone que las compañías dispongan de infraestructura de seguridad y de responsables con capacidad para tomar decisiones críticas, sin que prevalezca la presión por maximizar las ganancias.
Los fiscales también pidieron cooperación internacional para regular el avance de la IA y evitar el desarrollo de sistemas de superinteligencia potencialmente dañinos.
Por último, defendieron que la legislación federal no desplace las normas estatales sobre IA y que las autoridades locales conserven plenas facultades para aplicar las protecciones federales.
La iniciativa choca con la postura de Trump sobre la coordinación globalEl pedido se produce mientras el presidente Donald Trump defiende que Estados Unidos acelere el desarrollo de la IA para competir con China y rechaza la necesidad de un organismo mundial de control.
En su discurso ante la Asamblea General de las Naciones Unidas, el mandatario desestimó la supervisión global, una postura que, según Politico, reduce las expectativas de una acción federal inmediata.