La casa de Sam Altman fue atacada dos veces en una semana y él mismo dijo que el miedo a la IA está justificado. El cofundador de Anthropic habló del riesgo último. Los modelos más potentes son los menos transparentes. Y el cien por cien del código de Anthropic ya lo escribe inteligencia artificial.
Atacaron la casa del CEO de OpenAI dos veces. Él dijo: el miedo a la IA está justificado
La vivienda de Sam Altman en San Francisco fue objetivo de dos ataques distintos en la misma semana a principios de abril. Altman lo hizo público y escribió: el miedo y la ansiedad por la inteligencia artificial están justificados. El poder no puede concentrarse demasiado. A esto se suma que el informe anual de Stanford revela que la transparencia de los modelos más potentes cayó de cincuenta y ocho a cuarenta sobre cien en un año. Cuanto más capaces son, menos sabemos cómo funcionan.
MI LECTURA: Que quien construye la herramienta diga que el miedo está justificado no es un detalle menor. Es una señal de que el debate sobre el control de esta tecnología ya no es teórico.
El cofundador de Anthropic habló del riesgo último: dejar que la IA se mejore a sí misma
El cofundador de Anthropic declaró que entre dos mil veintisiete y dos mil treinta tomará la decisión de si permite que la inteligencia artificial mejore a sí misma de forma recursiva, diseñando versiones más capaces sin supervisión humana en cada paso. Lo llamó explícitamente el riesgo último. Si ese proceso se acelera lo suficiente, en pocos ciclos podría producir sistemas cuyas capacidades los humanos ya no sean capaces de comprender ni de controlar.
Usuarios de 4chan descubrieron antes que Google uno de los avances más importantes de la IA
Una investigación publicada esta semana reveló que usuarios de cuatro chan descubrieron en dos mil veintidós que pedir a un modelo que razonara paso a paso mejoraba drásticamente sus respuestas. Google publicó ese mismo hallazgo en dos mil veintitrés como un avance académico propio. El descubrimiento real fue anterior y ocurrió fuera de los laboratorios.
El 100% del código de Anthropic ya lo escribe la IA. Los humanos ya no programan
El responsable de la herramienta de programación de Anthropic confirmó que prácticamente el cien por cien del código que se escribe dentro de la empresa lo genera inteligencia artificial. En paralelo, un investigador senior de Open AI confirmó que ya no escribe código a mano. Las empresas que construyen la inteligencia artificial del futuro han dejado de usar humanos para programarla.
¿Qué significa que la IA se mejore a sí misma y por qué es el riesgo último?
La mejora recursiva significaría que el propio modelo diseña versiones más capaces de sí mismo sin supervisión humana en cada iteración. El problema no es que la versión mejorada sea mala. El problema es que si el proceso se acelera lo suficiente, en pocos ciclos podría producir sistemas cuyas capacidades los humanos ya no sean capaces de comprender ni de controlar. Por eso los propios creadores ya le dan ese nombre.
Atacan la casa del CEO de Open AI. El cofundador de Anthropic habla del riesgo último. Los modelos más potentes son los menos transparentes. Y el código de las empresas de inteligencia artificial ya lo escribe la inteligencia artificial. Cerramos abril con la certeza de que este debate ya no espera. Las empresas que entiendan dónde estamos realmente tendrán una ventaja enorme. Para eso existe XAMANA.
Siguiente paso
¿Tu empresa ya está usando inteligencia artificial con criterio?
La diferencia entre probar herramientas y construir una ventaja real está en cómo se integra la inteligencia artificial dentro del negocio.
Visita XAMANA