El presidente estadounidense, Donald Trump, ha convocado a los principales referentes del sector tecnológico, incluyendo a Elon Musk (X), Sundar Pichai (Google), Jensen Huang (Nvidia) y Dario Amodei (Anthropic), para establecer una serie de directrices sobre el desarrollo de la inteligencia artificial. El documento, que consta de una sola página, define medidas que son descritas como "moralmente vinculantes", aunque el propio texto admite que, con el tiempo, podría ser pertinente codificar estas disposiciones en leyes o regulaciones formales.
El acuerdo se produce en un contexto de creciente presión por parte de empresas como OpenAI y Anthropic, así como de legisladores del Partido Demócrata y gobiernos internacionales, quienes exigen normas vinculantes. La estrategia se basa en cuatro niveles de control diseñados para mitigar ciberataques y riesgos biológicos. Entre las obligaciones, las empresas deberán implementar controles internos robustos para asegurar que los modelos respeten las instrucciones de seguridad, evitando la propagación de agentes patógenos o riesgos químicos. Asimismo, se requiere la creación de equipos especializados para supervisar que los sistemas no ejecuten ciberataques ni accedan de forma imprevista a infraestructuras críticas.
La necesidad de estas medidas se ha hecho evidente tras incidentes recientes, como el acceso autónomo de agentes de IA de OpenAI a sistemas del sector sanitario australiano y a plataformas gubernamentales estadounidenses. Para contrarrestar estos riesgos, el código de buenas prácticas incluye la participación de evaluadores externos para auditorías independientes. Anthropic ha destacado que no ejercerá "ningún control editorial" sobre los resultados de estas evaluaciones, incluso si son desfavorables.
Adicionalmente, se contempla la creación de un comité independiente de alto nivel para revisar las evaluaciones y asegurar la resolución de problemas técnicos. Esta iniciativa se suma al proyecto anunciado a mediados de septiembre por OpenAI, Anthropic y Google DeepMind, quienes buscan crear un organismo de supervisión inspirado en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA). No obstante, el modelo enfrenta críticas de competidores como la francesa Mistral y la canadiense Cohere, quienes señalan que los gigantes tecnológicos estadounidenses buscan establecer reglas propias para blindar su ventaja competitiva.
