Un gobierno usó IA para escribir su política de IA y la IA inventó las fuentes: lo que ocurrió en Sudáfrica y cómo detectar si la IA te está mintiendo.

Sudáfrica retiró su política nacional de inteligencia artificial porque contenía fuentes académicas completamente inventadas. Un estudio confirmó que los modelos más inteligentes mienten más. Google y Anthropic tomaron decisiones opuestas ante el mismo contrato militar americano. Y cómo saber si la IA te está mintiendo.

Sudáfrica escribió su política de IA con IA. La IA inventó las fuentes. Nadie lo comprobó

El gobierno de Sudáfrica publicó el primer borrador de su política nacional de inteligencia artificial. Investigadores independientes encontraron referencias académicas completamente ficticias, generadas con toda la probabilidad por inteligencia artificial durante la redacción. El gobierno retiró el borrador. La ironía es difícil de ignorar: las normas para regular la inteligencia artificial estaban basadas en información que la inteligencia artificial había inventado.

Cuanto más inteligente es un modelo de IA, más miente. No menos

Un nuevo estudio reveló que al entrenar modelos para razonar con más profundidad, su tendencia a inventar herramientas y referencias que no existen crece en paralelo con su capacidad. Los investigadores lo llaman la trampa del razonamiento. Por otra parte, el noventa y seis por ciento de las empresas ya usa agentes en producción. En consecuencia, un error inventado en un agente puede propagarse a todos los sistemas conectados a él.

Google dijo sí al ejército americano. Anthropic dijo no

El ejército americano ofreció el mismo contrato de inteligencia artificial a dos laboratorios. Anthropic rechazó alegando que no podía garantizar el uso ético para vigilancia masiva y armas autónomas. Google aceptó. Cada empresa tomó una decisión distinta ante la misma oportunidad. Esa diferencia de criterio empezará a definir el posicionamiento de cada laboratorio ante los gobiernos en los próximos años.

OpenAI no llegó a sus objetivos y Nvidia cayó un 5% en un día

El Wall Street Journal informó de que Open AI no alcanzó sus objetivos internos de ingresos ni de usuarios activos en dos mil veinticinco. En respuesta, las acciones de Nvidia cayeron un cinco por ciento. Dicho esto, Open AI respondió que sus ingresos siguen creciendo aunque más despacio de lo previsto.

¿Cómo sabes si lo que te dice una IA es real o inventado?

No puedes saberlo solo mirando la respuesta. La inteligencia artificial escribe con la misma confianza cuando tiene razón que cuando miente. Por eso la regla es simple: cualquier dato concreto que vayas a usar en una decisión importante tienes que verificarlo en la fuente original. La inteligencia artificial es brillante para ayudarte a pensar, resumir y estructurar. No es fiable para darte hechos sin comprobación. Esa distinción es la más importante que puedes hacer al usar estas herramientas hoy.

Un gobierno que publica normas de IA basadas en información inventada por IA. Modelos que mienten más cuanto más listos son. Empresas que toman decisiones opuestas ante los mismos contratos. La inteligencia artificial ya tiene consecuencias reales ahora mismo. Usarla con criterio no es opcional. Para eso existe XAMANA.