• DGFocus

    NUEVO DG FOCUS SOBRE EL MANIFIESTO PALANTIR

    El llamado manifiesto Palantir ha generado debate porque no se limita a presentar una visión empresarial sobre la tecnología. Sus 22 puntos, vinculados a las ideas de The Technological Republic, plantean algo mucho más amplio: una interpretación sobre Silicon Valley, el poder duro, la inteligencia artificial militar, la disuasión algorítmica, la cultura occidental, la religión, el pluralismo y el futuro estratégico de las democracias. No estamos, por tanto, ante una simple provocación corporativa, sino ante un síntoma de una transformación profunda del poder contemporáneo.

    En este nuevo DG Focus, titulado Poderes opacos y república tecnológica, propongo una lectura crítica y matizada de ese manifiesto. La intención no es rechazarlo automáticamente ni aceptarlo con fascinación. Algunos de sus diagnósticos merecen atención: la banalización de buena parte de Silicon Valley, la fragilidad estratégica de Occidente, los límites del poder blando y la entrada de la inteligencia artificial en el corazón de la defensa y de la geopolítica. Pero reconocer la existencia de esos problemas no significa aceptar sin más las soluciones que se proponen desde grandes empresas privadas situadas en zonas críticas de poder.

    El punto central del Focus es la aparición de una nueva clase de poder opaco. Ya no hablamos sólo de empresas que venden software o gestionan datos. Hablamos de actores tecnológicos que operan en ámbitos sensibles —defensa, seguridad, inteligencia, administración pública, ciberseguridad— y que, además, empiezan a formular una visión doctrinal sobre qué debe ser Occidente, cómo debe defenderse y qué papel debe ocupar la tecnología en su supervivencia. El proveedor tecnológico deja de hablar sólo como proveedor y empieza a hablar como intérprete del destino civilizatorio.

    A lo largo del Focus se comentan los principales bloques del manifiesto: la crítica a la “tiranía de las apps”, el falso dilema entre tecnología trivial de mercado y tecnología estratégica de defensa, las armas con IA, la disuasión algorítmica, el servicio nacional, la vida pública, la religión, el pluralismo cultural, la tentación securitaria y la figura del constructor tecnológico. En todos estos temas aparece una misma pregunta de fondo: ¿puede una democracia conservar su libertad si el poder que dice protegerla se vuelve cada vez más opaco, privatizado y difícil de controlar?

    Uno de los capítulos centrales aborda la diferencia entre la antigua disuasión nuclear y la nueva disuasión algorítmica. La amenaza nuclear exigía tiempo, infraestructura, enriquecimiento de uranio, instalaciones visibles y grandes capacidades estatales. En cambio, la amenaza informática en tiempos de IA puede ser más barata, más rápida, más distribuida y más difícil de atribuir. Por eso el argumento “si no lo hacemos nosotros, lo harán otros” puede funcionar como advertencia estratégica, pero no puede convertirse en principio moral absoluto. Una civilización no se mide sólo por lo que puede hacer, sino también por aquello que se niega a hacer.

    Este Focus también insiste en una reflexión antropológica que considero fundamental. Ni la lógica de mercado ni la lógica de seguridad bastan para pensar correctamente la tecnología. El mercado puede reducir al ser humano a consumidor, usuario o dato monetizable. El Estado estratégico puede reducirlo a recurso, riesgo, soldado, amenaza o variable de seguridad. Frente a ambos reduccionismos, hace falta recuperar una idea más robusta de persona: alguien dotado de dignidad, libertad interior, responsabilidad moral y sentido.

    NUEVO DG FOCUS SOBRE EL MANIFIESTO PALANTIR

    Enlace a Tienda

    La conclusión del Focus es clara: una democracia necesita poder para defenderse, pero ese poder debe seguir siendo gobernado. Occidente no se salvará sólo fabricando mejores sistemas de defensa. Se salvará, si lo hace, recordando por qué merece ser defendido. Y merece ser defendido cuando conserva una relación viva con la dignidad humana, la verdad, la libertad, la justicia, la responsabilidad, el arrepentimiento, la protección de los vulnerables y el control del poder.

    Poderes opacos y república tecnológica quiere ser, por tanto, una contribución al debate sobre IA, soberanía, seguridad y civilización. No es un texto contra la tecnología, ni contra la defensa, ni contra la innovación. Es una invitación a pensar qué ocurre cuando la tecnología deja de ser herramienta y se convierte en arquitectura de poder. Porque si el poder que dice proteger la democracia acaba escapando a la democracia, entonces la amenaza ya no vendrá sólo de fuera: habrá empezado a crecer dentro de la propia estructura que pretendía defendernos.

    Read More
  • DGDossier,  Novedades

    ANTES DE LA PERSONA ARTIFICIAL

    Cómo las grandes tecnológicas están construyendo el marco moral, operativo y político de la nueva era de la IA

    Durante un tiempo, la conversación pública sobre inteligencia artificial ha estado dominada por una pregunta bastante simple: qué puede hacer la IA. Si escribe bien, si razona mejor, si programa más rápido, si resume documentos, si encuentra errores o si automatiza tareas antes reservadas a profesionales cualificados. Esa pregunta sigue siendo importante, pero ya no basta. Lo que está ocurriendo hoy es más profundo. La cuestión decisiva empieza a ser otra: qué marco se está construyendo alrededor de estos sistemas y quién lo está redactando.

    Porque las grandes empresas tecnológicas ya no se limitan a lanzar modelos. Están publicando también políticas, constituciones, especificaciones de comportamiento, marcos de escalado, evaluaciones de riesgo y documentos donde intentan definir cómo deben actuar estos sistemas, cómo deben ser desplegados y hasta cómo deberían ser aceptados por la sociedad. Anthropic ha desarrollado una Responsible Scaling Policy, ha abierto una línea de trabajo sobre model welfare y ha publicado una constitución para Claude; OpenAI ha reforzado su Model Spec y ha empezado a hablar de acceso, agencia e incluso de la necesidad de nuevas instituciones para la era de la inteligencia; Meta ha actualizado su Advanced AI Scaling Framework para articular una gobernanza más técnica de riesgos y umbrales.

    Este desplazamiento importa mucho más de lo que parece a primera vista. Cuando una empresa redacta una “constitución” para su modelo, cuando otra afirma que el acceso a una IA segura y confiable debería verse como un derecho, o cuando un laboratorio decide que ciertas capacidades obligan a nuevas salvaguardas antes del despliegue, ya no estamos solo en el terreno del producto. Estamos entrando en el terreno de la gobernanza, de la legitimación y del poder normativo. En otras palabras: no se está decidiendo únicamente cómo funciona una herramienta, sino bajo qué reglas operará una infraestructura que puede acabar entrando en el trabajo, la educación, la investigación, la administración y la vida cotidiana.

    A esto se añade otro elemento decisivo: la transición del asistente al agente. Un chatbot más o menos avanzado ya no describe por sí solo el problema. Lo que empieza a extenderse es la figura del sistema capaz de planificar, usar herramientas, navegar, ejecutar código, coordinar tareas y sostener procesos más largos. Anthropic lo aborda directamente en sus textos sobre agentes confiables; Moonshot, con Kimi, empuja con fuerza la lógica de Deep Research y de los entornos agentivos; y documentos recientes sobre modelos de frontera muestran que la preocupación ya no gira solo en torno a respuestas incorrectas, sino en torno a autonomía, opacidad operativa, desalineación y control.

    Sin embargo, no todos los actores avanzan del mismo modo. Ahí está una de las lecciones más interesantes del momento actual. Anthropic y OpenAI publican marcos normativos cada vez más visibles. Meta se orienta con más claridad hacia preparedness y evaluación de riesgos. DeepSeek introduce con fuerza el problema de los modelos open-weight y de la posible proliferación ofensiva de capacidades, mientras Kimi obliga a pensar otra cuestión: la dependencia de plataforma, la soberanía de los datos y la importancia de la jurisdicción cuando una IA agentiva empieza a concentrar documentos, workflows, navegación e investigación en una misma infraestructura. El mapa, por tanto, es más plural de lo que a veces parece.

    Por eso me parece que la gran discusión no debería quedarse atrapada entre el entusiasmo y el miedo. No basta con celebrar la potencia de estos sistemas ni con repetir advertencias abstractas sobre el futuro. Lo que necesitamos es una lectura más atenta del presente. Necesitamos mirar qué categorías están apareciendo —constitución, bienestar del modelo, comportamiento público, acceso como derecho, preparedness, open weights, soberanía de los datos— y preguntarnos qué visión del ser humano, del control y de la sociedad llevan incorporada. Porque una vez que ese lenguaje se normaliza, también empieza a normalizarse el tipo de mundo que ese lenguaje hace pensable.

    Ésa es, en el fondo, la razón de ser de “Antes de la persona artificial”. No he querido escribir un texto de fascinación tecnológica ni un panfleto alarmista. He querido hacer algo más útil: un mapa razonado para pensar con criterio qué tipo de relación quiere establecer una sociedad libre con inteligencias no humanas cada vez más poderosas. Antes de que el marco quede fijado por costumbre. Antes de que las palabras de otros se conviertan en nuestro horizonte sin que casi nos demos cuenta. Porque la gran cuestión ya no es sólo qué puede hacer la IA. La gran cuestión es quién está redactando el orden en el que esa IA va a operar.

    Read More
  • DGFocus

    LA IA YA NO SÓLO RESPONDE: EMPIEZA A OPERAR

    La inteligencia artificial está dejando de ser una simple asistente para convertirse en una capa operativa del mundo digital. Cuando empieza a programar, auditar, detectar vulnerabilidades, actuar como agente e insertarse en la lógica del conflicto y de las infraestructuras críticas, ya no basta con admirar su eficacia: hay que preguntarse quién la gobierna, sobre qué opera y con qué controles.

    Durante años hemos hablado de la inteligencia artificial como si fuera, ante todo, una asistente avanzada: redactaba, resumía, traducía, sugería ideas y ayudaba a programar. Pero esa imagen empieza a quedarse atrás. Hoy emergen sistemas que no sólo producen contenido, sino que también programan, detectan vulnerabilidades, encadenan herramientas, actúan como agentes y se insertan en procesos técnicos y estratégicos cada vez más sensibles. La gran novedad no es sólo que la IA “sepa más”, sino que empieza a operar sobre el mundo digital.

    Disponible el nuevo DG Focus en la tienda online

    IA OPERATIVA

    Este Focus parte de esa constatación. Su idea central es que el verdadero problema ya no es únicamente la potencia de la IA, sino su combinación con varios factores que, juntos, alteran el equilibrio entre capacidad técnica, juicio humano y control político. Entre ellos destacan el potencial disruptivo de estas herramientas en manos equivocadas, la expansión de agentes con supervisión cada vez más tenue, la autonomía instrumental de sistemas que pueden optimizar más allá de lo previsto, el bycoding como nueva capa de producción de software opaco, y la concentración privada de capacidades con relevancia pública creciente.

    Uno de los cambios más importantes afecta al software. La IA ya no sólo ayuda a escribir código: empieza a convertirse en la capa a través de la cual se produce. Eso acelera la creación, pero también puede multiplicar la opacidad, la dependencia y la vulnerabilidad. La misma inteligencia artificial que ayuda a construir sistemas puede llegar a conocer mejor que nadie sus puntos débiles. Y cuando se combinan producción acelerada de software, revisión insuficiente y modelos cada vez más capaces de auditar o explotar fallos, aparece un círculo inquietante que no puede analizarse sólo en términos de productividad.

    A esto se suma la cuestión de los agentes IA. Cuando un sistema ya no se limita a responder, sino que encadena acciones, usa herramientas y mantiene objetivos a lo largo del tiempo, la supervisión humana puede degradarse. El humano sigue apareciendo en el esquema, pero muchas veces ya no gobierna de verdad el proceso. Por eso no basta con repetir que “hay un humano en el circuito”. La pregunta seria es otra: qué ve ese humano, cuándo interviene, qué comprende y si realmente puede detener o corregir lo que está ocurriendo.

    El problema se vuelve aún más grave cuando se observa quién controla estas capacidades. Una parte creciente de la seguridad digital, de la auditoría de software y de la gestión del riesgo técnico depende de actores privados con acceso privilegiado y con niveles altos de opacidad. Esto significa que infraestructuras cada vez más decisivas para la vida colectiva quedan mediadas por poderes técnicos que no están sometidos a un control democrático equivalente a su importancia real.

    Finalmente, todo esto tiene una dimensión geopolítica ineludible. La guerra actual no se libra sólo con medios cinéticos. El plano cibernético es ya un frente decisivo, y la IA introduce en él un salto cualitativo al acelerar reconocimiento, selección de objetivos y operaciones complejas bajo esquemas de supervisión insuficiente. En este contexto, la cuestión ya no es sólo tecnológica. Es también política, estratégica y cultural. La conclusión es clara: ya no basta con preguntar qué puede hacer la IA; hay que preguntar quién la gobierna, sobre qué opera y con qué controles efectivos. Cuando una tecnología deja de ser sólo una herramienta y empieza a convertirse en capa operativa del mundo, el pensamiento crítico debe ensancharse. Ya no basta con examinar mensajes o detectar sesgos; hace falta aprender a pensar en términos de infraestructuras, dependencia, supervisión real y poder opaco.

    Read More