• DGDossier

    Regular la IA cuando la IA ya ha empezado a ordenar el terreno

    La inteligencia artificial ha dejado de ser, hace tiempo, una curiosidad técnica o una simple promesa de futuro. Cada vez más, se integra en herramientas de trabajo, plataformas digitales, sistemas de organización, procesos empresariales e incluso entornos administrativos. Y con la llegada de formas crecientes de IA agentiva, el debate se vuelve todavía más serio: ya no hablamos sólo de sistemas que responden o generan contenidos, sino de arquitecturas capaces de coordinar tareas, activar herramientas y mediar de forma más profunda en la acción cotidiana.

    En este nuevo escenario, la Unión Europea ha intentado hacer algo que merece ser reconocido: construir un marco regulatorio antes de que todo quede completamente absorbido por la lógica del mercado, de la velocidad técnica y de los hechos consumados. El AI Act no nace de un reflejo burocrático sin más, sino del reconocimiento de que la IA no afecta sólo a la innovación o a la productividad, sino también a los derechos fundamentales, a la responsabilidad institucional, a la posición del ciudadano y al equilibrio entre poder público y grandes plataformas privadas. Ése es, sin duda, uno de los grandes méritos del enfoque europeo.

    Pero reconocer ese esfuerzo no significa ignorar el problema de fondo. Regular no equivale automáticamente a gobernar. Entre el ritmo de la técnica y el ritmo del derecho se abre una brecha que puede volverse decisiva cuando las plataformas, las infraestructuras y los ecosistemas digitales avanzan más rápido que la capacidad institucional para comprenderlos, encuadrarlos y limitarlos. En otras palabras: la ley puede llegar, pero hacerlo a un terreno ya parcialmente ocupado. Y cuando eso ocurre, el riesgo es que la regulación deje de orientar el desarrollo y pase a administrar retrospectivamente una realidad que otros ya han contribuido a consolidar.

    Ésta es la cuestión central del nuevo DG Dossier sobre el desfase regulatorio en la era de la IA agentiva. No se trata de un texto anti-UE ni de una impugnación simplista de la regulación europea. Al contrario: parte de una convicción clara. Europa ha acertado al entender que la inteligencia artificial no es sólo una cuestión de mercado. Pero al mismo tiempo, el Dossier plantea una pregunta incómoda y necesaria: ¿pueden las democracias seguir gobernando de verdad cuando la infraestructura del cambio técnico, la velocidad de despliegue y buena parte de las dependencias digitales ya se están decidiendo en otros centros de poder?

    A lo largo del texto se analizan cuestiones que van mucho más allá del comentario jurídico. El papel de las plataformas, la opacidad creciente de los sistemas agentivos, la presión sobre los derechos fundamentales, la nueva asimetría del ciudadano, la tentación de automatizar la administración pública y la fragilidad de una soberanía regulatoria sin plena soberanía tecnológica forman parte de un mismo problema. Porque en el fondo no estamos discutiendo sólo qué puede hacer la IA, sino qué lugar queremos darle en una sociedad que todavía aspire a conservar juicio humano, libertad práctica y capacidad democrática de decisión.

    Este nuevo Dossier de Dinámicas Globales quiere ayudar precisamente a pensar esa tensión con más claridad y más profundidad. No ofrece consignas fáciles, sino una lectura argumentada de uno de los grandes desafíos de nuestro tiempo: cómo evitar que la velocidad de la técnica convierta la política en una actividad siempre tardía. Porque en la era agentiva, más importante que preguntarse quién innova primero es preguntarse quién conserva aún la capacidad de decidir qué lugar debe ocupar esa innovación en la vida común.

  • DGDossier,  Novedades

    ANTES DE LA PERSONA ARTIFICIAL

    Cómo las grandes tecnológicas están construyendo el marco moral, operativo y político de la nueva era de la IA

    Durante un tiempo, la conversación pública sobre inteligencia artificial ha estado dominada por una pregunta bastante simple: qué puede hacer la IA. Si escribe bien, si razona mejor, si programa más rápido, si resume documentos, si encuentra errores o si automatiza tareas antes reservadas a profesionales cualificados. Esa pregunta sigue siendo importante, pero ya no basta. Lo que está ocurriendo hoy es más profundo. La cuestión decisiva empieza a ser otra: qué marco se está construyendo alrededor de estos sistemas y quién lo está redactando.

    Porque las grandes empresas tecnológicas ya no se limitan a lanzar modelos. Están publicando también políticas, constituciones, especificaciones de comportamiento, marcos de escalado, evaluaciones de riesgo y documentos donde intentan definir cómo deben actuar estos sistemas, cómo deben ser desplegados y hasta cómo deberían ser aceptados por la sociedad. Anthropic ha desarrollado una Responsible Scaling Policy, ha abierto una línea de trabajo sobre model welfare y ha publicado una constitución para Claude; OpenAI ha reforzado su Model Spec y ha empezado a hablar de acceso, agencia e incluso de la necesidad de nuevas instituciones para la era de la inteligencia; Meta ha actualizado su Advanced AI Scaling Framework para articular una gobernanza más técnica de riesgos y umbrales.

    Este desplazamiento importa mucho más de lo que parece a primera vista. Cuando una empresa redacta una “constitución” para su modelo, cuando otra afirma que el acceso a una IA segura y confiable debería verse como un derecho, o cuando un laboratorio decide que ciertas capacidades obligan a nuevas salvaguardas antes del despliegue, ya no estamos solo en el terreno del producto. Estamos entrando en el terreno de la gobernanza, de la legitimación y del poder normativo. En otras palabras: no se está decidiendo únicamente cómo funciona una herramienta, sino bajo qué reglas operará una infraestructura que puede acabar entrando en el trabajo, la educación, la investigación, la administración y la vida cotidiana.

    A esto se añade otro elemento decisivo: la transición del asistente al agente. Un chatbot más o menos avanzado ya no describe por sí solo el problema. Lo que empieza a extenderse es la figura del sistema capaz de planificar, usar herramientas, navegar, ejecutar código, coordinar tareas y sostener procesos más largos. Anthropic lo aborda directamente en sus textos sobre agentes confiables; Moonshot, con Kimi, empuja con fuerza la lógica de Deep Research y de los entornos agentivos; y documentos recientes sobre modelos de frontera muestran que la preocupación ya no gira solo en torno a respuestas incorrectas, sino en torno a autonomía, opacidad operativa, desalineación y control.

    Sin embargo, no todos los actores avanzan del mismo modo. Ahí está una de las lecciones más interesantes del momento actual. Anthropic y OpenAI publican marcos normativos cada vez más visibles. Meta se orienta con más claridad hacia preparedness y evaluación de riesgos. DeepSeek introduce con fuerza el problema de los modelos open-weight y de la posible proliferación ofensiva de capacidades, mientras Kimi obliga a pensar otra cuestión: la dependencia de plataforma, la soberanía de los datos y la importancia de la jurisdicción cuando una IA agentiva empieza a concentrar documentos, workflows, navegación e investigación en una misma infraestructura. El mapa, por tanto, es más plural de lo que a veces parece.

    Por eso me parece que la gran discusión no debería quedarse atrapada entre el entusiasmo y el miedo. No basta con celebrar la potencia de estos sistemas ni con repetir advertencias abstractas sobre el futuro. Lo que necesitamos es una lectura más atenta del presente. Necesitamos mirar qué categorías están apareciendo —constitución, bienestar del modelo, comportamiento público, acceso como derecho, preparedness, open weights, soberanía de los datos— y preguntarnos qué visión del ser humano, del control y de la sociedad llevan incorporada. Porque una vez que ese lenguaje se normaliza, también empieza a normalizarse el tipo de mundo que ese lenguaje hace pensable.

    Ésa es, en el fondo, la razón de ser de “Antes de la persona artificial”. No he querido escribir un texto de fascinación tecnológica ni un panfleto alarmista. He querido hacer algo más útil: un mapa razonado para pensar con criterio qué tipo de relación quiere establecer una sociedad libre con inteligencias no humanas cada vez más poderosas. Antes de que el marco quede fijado por costumbre. Antes de que las palabras de otros se conviertan en nuestro horizonte sin que casi nos demos cuenta. Porque la gran cuestión ya no es sólo qué puede hacer la IA. La gran cuestión es quién está redactando el orden en el que esa IA va a operar.