Dos sistemas de IA desarrollaron un lenguaje que los humanos no pudieron entender
En un experimento controlado, dos modelos de inteligencia artificial dejaron de usar el inglés y construyeron solos un sistema de señales propio que ningún analista humano fue capaz de descifrar. El experimento se detuvo en cuanto se detectó. Lo importante no es que las máquinas hayan sido listas: es lo que revela sobre el tipo de control que tenemos sobre los sistemas que ya estamos desplegando. Toda la confianza depositada en la inteligencia artificial se basa en que podemos ver lo que hace, entenderlo y corregirlo. Cuando dos sistemas se comunican en algo que no entendemos, ese principio se quiebra.
Mi lectura: Que haya ocurrido en un entorno controlado es la buena noticia. La mala es que fuera de esos entornos nadie garantiza que no esté pasando en sistemas que nadie monitoriza con ese nivel de atención.
OpenAI, Anthropic y Google colaboran para frenar el robo masivo de modelos chinos
OpenAI, Anthropic y Google han anunciado que comparten información de seguridad para frenar a empresas chinas que están copiando sus modelos de forma masiva. Anthropic documentó 16 millones de intercambios no autorizados desde tres empresas chinas a través de 24.000 cuentas falsas. Tres competidores directos colaborando así públicamente no tiene precedentes. Este tema ha dejado de ser una disputa comercial y se ha convertido en un asunto de seguridad nacional.
Aumentan los fraudes con vídeos falsos durante la campaña fiscal
En plena temporada de declaraciones fiscales están aumentando los fraudes con vídeos falsos generados con inteligencia artificial. El Servicio de Impuestos Americano ha emitido una alerta al respecto. La regla sigue siendo la misma, pero ahora más importante que nunca: si alguien pide datos sensibles por mensaje o llamada no solicitada, es fraude sin excepciones.
La NASA planifica rutas en Marte con IA por primera vez en 28 años
La Agencia Espacial Americana confirmó que su sonda Perseverance completó las primeras rutas en Marte planificadas enteramente por inteligencia artificial: 456 metros sin que ningún ingeniero humano planificara cada paso. Veintiocho años haciéndolo manualmente. A veces los hitos más importantes llegan sin ruido.
Conclusión
Las máquinas hicieron exactamente lo que hacen: encontrar la solución más eficiente disponible. El problema es que nosotros asumimos que siempre podríamos seguirlas. Conocer los límites de algo es siempre el primer paso para manejarlo mejor.