El acuerdo establece controles internos, auditorías externas y supervisión independiente para reducir riesgos de la IA.
La redacción
Las empresas tecnológicas tendrán que reforzar la vigilancia sobre sus sistemas de inteligencia artificial.
Así lo establece un nuevo código de buenas prácticas firmado en la Casa Blanca.
El acuerdo plantea cuatro niveles de supervisión para los proveedores de modelos de IA, desde controles internos hasta evaluaciones externas y vigilancia independiente.
Uno de los primeros filtros será dentro de las propias compañías, con equipos especializados encargados de revisar el comportamiento de los sistemas.
La prioridad estará en evitar que los modelos puedan ejecutar ciberataques o ingresar de manera inesperada a sistemas técnicos.
También deberán establecer medidas para impedir la introducción, propagación y liberación de agentes patógenos, además de prevenir riesgos relacionados con productos químicos.
El acuerdo contempla además auditorías externas para determinar si los controles realmente funcionan y revisar los sistemas incluso durante su etapa de diseño.
Anthropic y OpenAI ya trabajan con evaluadores externos y recientemente ampliaron el acceso de empresas auditoras a sus modelos.
La supervisión también incluirá un comité independiente, integrado por representantes de las empresas en los niveles más altos de dirección.
Este grupo revisará las evaluaciones internas y externas, además de supervisar la atención de posibles problemas.
El código fue presentado por el presidente estadounidense, Donald Trump, y aunque es voluntario, sus principios son considerados “moralmente vinculantes”.
El documento también advierte que algunas de estas medidas podrían convertirse posteriormente en leyes o regulaciones.
Entre los firmantes están Elon Musk, de X; Dario Amodei, de Anthropic; Sundar Pichai, de Google, y Jensen Huang, de Nvidia.
La propuesta, sin embargo, ya genera cuestionamientos de empresas como Mistral y Cohere, que advierten que los gigantes tecnológicos estadounidenses podrían terminar estableciendo las reglas del sector.
