Demis Hassabis, CEO de Google DeepMind, presentó una propuesta detallada para supervisar el desarrollo de los modelos de inteligencia artificial más avanzados. La idea central es crear en Estados Unidos un organismo de estándares independiente, inspirado en FINRA, el regulador financiero, que se encargue de diseñar protocolos de evaluación para los sistemas de IA de frontera antes de su lanzamiento público.
Este nuevo cuerpo tendría la capacidad de establecer pruebas de seguridad y buenas prácticas comunes para toda la industria, además de poder coordinar una posible pausa o desaceleración en el desarrollo de modelos si se detectaran riesgos significativos. La propuesta contempla que las startups y los modelos dedicados exclusivamente a investigación queden exentos de esta supervisión, concentrando el escrutinio en los sistemas comerciales de mayor escala.
Hassabis enmarcó su planteamiento en un contexto de lo que describió como un momento de máxima incertidumbre tecnológica, señalando que nadie en el mundo puede predecir con certeza los próximos pasos de esta tecnología. Para él, mantener un optimismo cauteloso implica precisamente construir mecanismos de contención ahora, antes de que los sistemas alcancen capacidades más difíciles de supervisar.
La propuesta llega en un momento en que gobiernos y empresas tecnológicas discuten activamente cómo equilibrar la innovación con la seguridad pública, sin que exista todavía un marco regulatorio unificado en Estados Unidos. No está confirmado si el gobierno estadounidense adoptará formalmente este modelo ni en qué plazo podría implementarse una estructura de este tipo.
De concretarse, este organismo marcaría un cambio significativo en la forma en que se lanzan los modelos de IA más potentes, sumando una capa de validación externa a un proceso que hasta ahora ha dependido principalmente de las propias compañías desarrolladoras.