Nuevo plan para frenar el ritmo de la IA y sus implicaciones
Dario Amodei propone limitar la velocidad de desarrollo de la IA, una medida respaldada por OpenAI y SpaceX AI, pero que plantea desafíos para los modelos abiertos.
El investigador Dario Amodei ha publicado recientemente un ensayo titulado “We must pace the frontier”, en el que plantea la necesidad de moderar el ritmo al que se crean los sistemas de inteligencia artificial. La idea central es que, al controlar la velocidad de avance, se podrían evitar riesgos potenciales para la sociedad.
OpenAI y la iniciativa SpaceX AI han expresado su apoyo a la propuesta de Amodei. En el documento, sin mencionar explícitamente el concepto de “open weights” (pesos abiertos, es decir, los parámetros del modelo que cualquiera puede usar y modificar), se subraya que los modelos de código abierto son los que más están reduciendo los precios de la IA. Sin embargo, la mayoría de las medidas sugeridas, como la introducción de puntos de control basados en la capacidad del modelo, son fáciles de aplicar en laboratorios cerrados pero resultan complicadas para proyectos abiertos, donde cualquier persona puede acceder al código y los datos.
El plan de Amodei propone establecer “checkpoints” o hitos de capacidad: cuando un modelo alcance cierto nivel de desempeño, tendría que pasar una certificación antes de seguir avanzando. Esta estrategia busca equilibrar la innovación con la seguridad, aunque plantea un debate sobre cómo regular eficazmente a los desarrolladores de IA que operan de forma abierta y descentralizada.