La decisión de OpenAI de pausar el lanzamiento de su nuevo modelo surge tras una serie de incidentes de seguridad, incluyendo vulneraciones registradas en junio pasado en la plataforma de código abierto Hugging Face y en una dependencia del gobierno de Australia. Ante estos hechos, la compañía se ha comprometido a incrementar sus inversiones en procesos de alineación para asegurar que sus sistemas operen bajo valores e intereses humanos.
Al respecto, Jain señaló: “En todo lo relacionado con la seguridad y la alineación hay que encontrar un equilibrio. Es necesario hallar el punto medio adecuado entre mantenerse dentro del alcance del proyecto y, al mismo tiempo, evitar la negligencia en la forma en que el modelo aborda las tareas, incluso cuando encuentra obstáculos”.
Este movimiento ocurre a pesar del reciente lanzamiento de GPT-6 Astra a inicios de mes, un modelo que, según el director ejecutivo Sam Altman, cuenta con un “nuevo nivel de capacidad” y promete impulsar el emprendimiento, la creatividad y el crecimiento económico. La postura de Altman sobre la cautela ha sido compartida por Dario Amodei, CEO de Anthropic, quienes han solicitado ralentizar el desarrollo de la IA, una petición que ha encontrado resistencia en figuras como el presidente Donald Trump y líderes tecnológicos como Jensen Huang y Mark Zuckerberg.
Precisamente, este martes se llevará a cabo una reunión clave en Estados Unidos entre el presidente Donald Trump, el presidente de la Cámara de Representantes, Mike Johnson, y diversos líderes del sector. Entre los asistentes confirmados se encuentran Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Sundar Pichai (Google), Jensen Huang (Nvidia) y Greg Brockman (OpenAI).
El encuentro busca abordar las tensiones entre la Casa Blanca y las empresas del sector, especialmente tras las críticas del exinvestigador de Anthropic, Jacob Coxon, quien acusó a los laboratorios de vanguardia de “jugar con nuestras vidas”. Por su parte, el presidente Trump ha mantenido una postura firme contra la ralentización, argumentando que el avance tecnológico es crucial para la competencia estratégica entre Estados Unidos y China.
