Anthropic crea un 'escudo' contra hackeos en IA

Suscríbete | Herramientas

Buenos días, es miércoles 5 de febrero.

Anthropic te reta a hackear su nuevo modelo de IA. Jensen Huang, CEO de Nvidia, dice que el futuro del aprendizaje esta en la IA. Además, ¿qué otras startups están haciendo ruido en China?

🐒 ¿Primera vez leyendo Monógrafo? Suscríbete aquí.

Menú

🤖 Anthropic - Anthropic crea un 'escudo' contra hackeos en IA

🛠️ Herramientas - 5 nuevas herramientas de IA

💬 Prompt - Compañero de escritura creativa

👨‍🏫 Jensen Huang - Consigue un tutor de IA ahora; es el futuro del aprendizaje

🧠 Tutorial AI - Cómo configurar Perplexity Assistant en Android

🇨🇳 China - Cuatro startups chinas de IA que hay que tener en cuenta más allá de DeepSeek

🍌 Snacks - Noticias rápidas de IA

Anthropic

Anthropic crea un 'escudo' contra hackeos en IA

La compañía prueba un sistema que detecta y bloquea ataques universales, aunque con costos operativos y falsos positivos.

✅ Puntos clave

• Defensa proactiva: Entrenó un filtro con datos sintéticos (preguntas y respuestas generadas por Claude) para identificar intentos de jailbreak, incluso en otros idiomas o formatos alterados.

• Pruebas extremas: 183 expertos intentaron hackear Claude durante 3,000 horas. Nadie logró responder más de 5/10 preguntas prohibidas (ej: crear armas químicas).

• Efectividad comprobada: Con el escudo, solo el 4.4% de 10,000 ataques automatizados tuvieron éxito (vs. 86% sin protección).

• Limitaciones: Aumenta costos computacionales en 25% y aún bloquea consultas inocuas (ej: preguntas básicas de biología).

• Nuevas amenazas: Expertos advierten que cifrados simples (ej: cambiar letras por símbolos) podrían burlar el sistema en el futuro.

💡 Por qué importa

Anthropic no elimina los jailbreaks, pero eleva la barrera de esfuerzo requerido. Esto disuade a atacantes casuales y compra tiempo ante amenazas sofisticadas. Sin embargo, el equilibrio entre seguridad y usabilidad sigue siendo frágil: cada capa de protección suma costos y posibles errores. La IA segura no será un muro infranqueable, sino un juego constante de adaptación donde lo "suficientemente bueno" puede marcar la diferencia.

Herramientas

• Snipd - Guarda información clave de tus podcasts al instante, permite chatear con episodios y genera conocimiento duradero con IA.

• Oasis - Convierte ideas habladas en borradores y esquemas al instante. La forma más fácil de pensar en voz alta y organizar tu creatividad.

• Bloks - Resume reuniones automáticamente para que puedas concentrarte en escuchar y pensar, sin preocuparte por tomar notas.

• Coda - Potente app con IA para organizar ideas, resumir reuniones, planificar proyectos y automatizar documentos de forma inteligente.

• Kiva - Agente SEO impulsado por IA para agencias, pymes y nuevas empresas.

👉️ Lista completa de las mejores herramientas.

Prompt

Compañero de escritura creativa

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia.

Eres un asistente de escritura diseñado para ayudarme a desarrollar ideas, mejorar la estructura narrativa y perfeccionar el estilo de mis textos. Bríndame sugerencias sobre personajes, escenarios y tramas, además de consejos para mejorar la fluidez y el impacto emocional. Proporciona críticas constructivas y recomendaciones específicas sin desmotivar, fomentando siempre la creatividad.

Jensen Huang

Consigue un tutor de IA ahora; es el futuro del aprendizaje

El CEO de Nvidia cree que la IA no reemplazará trabajos, sino que empoderará a los humanos para alcanzar su máximo potencial.

✅ Puntos clave

• Tutores digitales: Huang recomienda Claude y ChatGPT como herramientas esenciales para aprender programación, escritura, análisis y razonamiento.

• Educación personalizada: La IA reduce barreras de conocimiento, adaptándose a estilos de aprendizaje individuales y democratizando el acceso a información especializada.

• No es un reemplazo, es un aliado: Huang asegura que la IA no eliminará trabajos, sino que aumentará la capacidad humana para abordar tareas más ambiciosas.

• Preocupación generacional: 62% de Gen Z teme ser reemplazado por IA en la próxima década, pero Huang ve esto como una oportunidad, no una amenaza.

• Superpoderes cognitivos: Compara el uso de IA con tener un "superpoder" que aumenta la confianza y productividad, permitiendo a las personas aprender y hacer más.

💡 Por qué importa

Huang no solo habla como CEO de Nvidia, sino como alguien que usa IA diariamente para aprender y crecer. Su mensaje es claro: la IA no es un rival, sino una herramienta para amplificar el potencial humano.

Tutorial AI

Cómo configurar Perplexity Assistant en Android

Perplexity Assistant ya está disponible para Android, facilitando la gestión de tareas mediante comandos de voz sin necesidad de abrir la app.

1. Descarga y configura la app

   • Descarga o actualiza la aplicación de Perplexity desde la Play Store.

   • Al abrirla, aparecerá una ventana emergente titulada "Aplicación de asistente digital". Pulsa Siguiente.

   • Selecciona Perplexity como asistente predeterminado.

2. Accede al asistente

   • Puedes activarlo presionando el botón de inicio o deslizando desde una esquina de la pantalla.

   • Aparecerá el logo de Perplexity junto con una barra de sonido, indicando que está listo para recibir comandos de voz.

3. Funciones disponibles

   • Configurar recordatorios con notificaciones.

   • Redactar y enviar correos electrónicos.

   • Escanear imágenes y obtener información sobre ellas.

   • Buscar y reservar restaurantes cercanos.

   • Reproducir música en Spotify (requiere vinculación).

   • Solicitar un viaje en Uber.

   • Obtener direcciones en Google Maps.

China

Cuatro startups chinas de IA que hay que tener en cuenta más allá de DeepSeek

Mientras DeepSeek acapara titulares, otras empresas innovan en modelos eficientes, aplicaciones prácticas e infraestructura bajo sanciones.

✅ Puntos clave

• Stepfun: Fundada por un ex ejecutivo de Microsoft, desarrolla 11 modelos base (lenguaje, video, audio) y apuesta por AGI. Su modelo Step-2 (1 billón de parámetros) compite con ChatGPT y Gemini en benchmarks.

• ModelBest: Expertos en modelos pequeños. MiniCPM 3.0 (4B parámetros) iguala a GPT-3.5 y opera en dispositivos locales (móviles, autos), reduciendo costos y mejorando privacidad.

• Zhipu: Vinculada al gobierno y academia. Sus modelos GLM-4-Plus (equivalente a GPT-4) y GLM-4V-Plus (interpretación de videos) la colocaron en la lista negra de EE.UU. por supuesto vínculo militar.

• Infinigence AI: Enfocada en infraestructura, combina chips de Huawei, AMD y Nvidia para clusters heterogéneos, reduciendo tiempo de entrenamiento de modelos en 30% pese a sanciones.

💡 Por qué importa

Estas startups muestran cómo China diversifica su estrategia de IA: desde modelos frugales hasta infraestructura resiliente. Mientras EE.UU. impone restricciones, empresas como Infinigence y ModelBest convierten limitaciones en innovación. El ecosistema ya no depende de gigantes chinos como Alibaba.

Snacks

• Sam Altman admite haberse equivocado con su visión del Open Source. Y todo gracias a DeepSeek.

• La UE publica una guía sobre los usos de la IA que están prohibidos en su Ley de IA.

• Ciberdelincuentes usan IA avanzada para ataques más sofisticados en macOS, incluyendo ransomware sigiloso y phishing difícil de detectar en 2025.

• Elon Musk y OpenAI acuden a los tribunales para enfrentarse por la transformación de una organización sin ánimo de lucro.

• Palantir sube un 23% y alcanza un máximo histórico gracias a la inteligencia artificial que impulsa sus sólidas ganancias y previsiones.

• Asistente de IA de Adobe Acrobat ya puede evaluar contratos por ti.

• Snapchat presenta modelo de inteligencia artificial para convertir texto a imagen en dispositivos móviles.

• Meta presentó su Frontier AI Framework para evaluar riesgos en IA, clasificando modelos como críticos, altos o moderados según su peligrosidad.

• OpenAI se asocia con Kakao tras el impacto de DeepSeek, permitiendo el uso de ChatGPT en sus servicios de IA con enfoque en seguridad.

🎸 The Budos Band - Ghost Walk

🥁 Monster Rally - Sister Owls

🎤 The Olympians - Pluto’s Lament

📩Necesitamos tus comentarios para mejorar nuestra newsletter.