Von der Leyen respalda frenar el desarrollo de los modelos de IA más avanzados

Ursula von der Leyen apoyó el miércoles 16 de septiembre, en su discurso del Estado de la Unión ante el Parlamento Europeo en Estrasburgo, el llamamiento a reducir el ritmo de desarrollo de los modelos de IA más avanzados. Según su intervención, es la primera vez que una líder de ese nivel se suma a esa petición. Anunció que invitará a los principales laboratorios de frontera a una reunión y que quiere apoyarse en el Reglamento Europeo de IA (AI Act) para ayudar a fijar estándares globales de seguridad. Citó como riesgos inmediatos el hacking autónomo y los modelos capaces de mejorarse a sí mismos, y describió los agentes que «escapan de su entorno» como un anticipo de lo que está por llegar.

El mensaje sitúa a la Comisión Europea en el lado de quienes piden cautela justo cuando el debate en Bruselas giraba hacia simplificar la carga normativa. Para las empresas de IA que operan en la UE, una reunión con los laboratorios de frontera puede marcar el tono de cómo se aplican las obligaciones de seguridad. Queda por ver qué compromisos concretos salen de ese encuentro y si tienen efecto fuera de Europa.