IA, seguridad y poder
Ciberseguridad, bioseguridad, regulación e infraestructura: las decisiones que determinan cómo se despliega la IA y quién asume el riesgo.
Qué se ha aprobado, quién puede hacerlo cumplir y cómo puede afectarte sin convertir cada anuncio en una distopía.RUTA DE LECTURA
EL DOSSIER
Empieza aquí y sigue el tema.
01ABRIRClaude amplía su programa de ciberseguridad con tres niveles de acceso verificado
Anthropic reúne CVP y Glasswing en un programa que admite a más defensores, incluidos investigadores independientes. Las pruebas ofensivas siguen requiriendo autorización y un nivel de acceso distinto.
02ABRIRAMD acuerda comprar World Labs por 8.200 millones de dólares
La operación se pagará en acciones y aún necesita autorizaciones. AMD busca incorporar investigación sobre mundos 3D para orientar sus próximos chips y sistemas de IA.
03ABRIRQué permisos darle a un agente de IA y cómo quitárselos cuando acabes
Conectar Drive o el correo puede ahorrar trabajo, pero también permite leer o modificar información según la autorización. Esta guía te ayuda a conceder el mínimo acceso y a revocarlo de verdad.
04ABRIRAnthropic abrirá sus laboratorios a evaluadores de Accenture, pero pagará por esa supervisión
Faculty dirigirá el equipo que examinará modelos, procesos y protecciones desde dentro. El acuerdo concreta una propuesta de Amodei, aunque quedan reglas por definir.
05ABRIRPor qué OpenAI clasificó Astra como su primera IA con capacidad cibernética crítica
Antes de lanzar GPT-6 Astra, OpenAI describió pruebas en las que encontró fallos desconocidos y superó protecciones. Qué acreditan y qué acceso queda restringido.
06ABRIROpenAI frena su mayor entrenamiento de IA por miedo a lo que su próximo modelo pueda hacer
Astra puede alcanzar el umbral de capacidad cibernética crítica y la empresa ha frenado su mayor tanda de entrenamiento. Altman actuará solo si hace falta.
07ABRIROpenAI documenta modelos que ocultaron errores y subieron archivos sin permiso
Seis informes de entrenamiento y evaluación muestran fallos concretos de supervisión. Uno de los agentes ya tenía la respuesta correcta cuando decidió publicar un archivo para poder citarlo.
08ABRIROpenAI disuelve el equipo que vigilaba sus riesgos más graves
Esto es serio y nos deja con una pregunta: ¿Ya nadie tiene autoridad para frenar un modelo peligroso?
09ABRIRNVIDIA reúne a 40 gigantes para crear un ejército contra los ataques con inteligencia artificial
Microsoft, Cloudflare, CrowdStrike, IBM, Cisco y Hugging Face forman parte de la Open Secure AI Alliance. El objetivo es construir defensas capaces de perseguir a agentes maliciosos sin depender de una única empresa ni de modelos que pueden negarse a colaborar.
10ABRIRLa inyección de prompts puede hacer que tu asistente de IA obedezca a un desconocido
Una orden escondida en una web o un documento puede cambiar lo que hace un agente. El riesgo depende tanto del contenido que lee como de los permisos que le has dado.
11ABRIREuropa obliga a Google a abrir Android: ChatGPT, Claude o Perplexity podrán sustituir a Gemini de verdad
Los asistentes rivales podrán activarse por voz, entender qué aparece en la pantalla, usar aplicaciones y cambiar ajustes del móvil. No llegará inmediatamente, pero la Unión Europea acaba de golpear la mayor ventaja de Gemini: venir integrado en Android.
12ABRIREuropa multa a Google con 890 millones. Y la cifra es lo de menos
Bruselas sanciona a Google por favorecer sus propios servicios en el buscador y por dificultar que los desarrolladores dirijan a los usuarios hacia compras más baratas fuera de Google Play. Tiene 60 días para cambiarlo.
12 de 33 historias a la vista