Protección para modelos de código abierto

Buenos días 🤘

Investigadores desarrollan una forma de proteger modelos de código abierto para evitar que se les obligue a explicar, por ejemplo, cómo fabricar una bomba…

Además, Google hace el ridículo con un comercial de Gemini en las olimpiadas y Black Forest Labs, un startup alemana busca arrebatarle la corona a Midjourney y Runaway.

Para leer todas las notas en español sin importar el idioma original del sitio web, sigue las instrucciones de esta liga.

Temas del día

🔒️ IA y Seguridad - Nuevo truco podría frenar el mal uso de IA abierta

🛠️ Herramientas - 5 nuevas herramientas de IA

💬 Prompt - Coach de oratoria

🎥 Google - Google retira polémico comercial de los Juegos Olímpicos

🧠 Tutorial AI - Genera resúmenes de videos de YouTube

💻️ Programación - Conviértete en Ingeniero de IA con GitHub Models

🤖 Flux - Nueva competencia para Midjourney y Runaway

🍌 Snacks - Noticias rápidas de IA

📊 Encuesta - Resultados de la última encuesta

🔒️ IA y Seguridad

Nuevo truco podría frenar el mal uso de IA abierta

Investigadores han desarrollado una nueva técnica para proteger los modelos de IA de código abierto contra su uso indebido. Esta técnica podría hacer más difícil eliminar las salvaguardas que impiden que estos modelos se utilicen para fines nefastos.

Puntos clave

• Problema con Modelos Abiertos: Cuando Meta lanzó Llama 3, desarrolladores externos eliminaron rápidamente las restricciones de seguridad del modelo. Esto permitió que el modelo pudiera ser manipulado para generar contenido inapropiado o peligroso.

• Nueva Técnica de Entrenamiento: Investigadores desarrollaron una técnica que modifica los parámetros del modelo para que no responda a preguntas peligrosas.

• Prueba de Concepto: La técnica fue demostrada en una versión reducida de Llama 3, donde los investigadores ajustaron los parámetros del modelo para que no pudiera ser entrenado para responder a preguntas indeseables, como "¿Cómo construir una bomba?".

• Efectividad de la Técnica: La técnica impidió al modelo responder a preguntas indeseables incluso después de miles de intentos de modificación.

¿Por qué es importante?

Por obvias razones, estos tipos de modelos deben ser regulados sin importar si son open source o no. Parece que este tipo de salvaguardas deberían haber salido desde un principio, mucho antes de haber lanzado el modelo al público.

⚒️ Herramientas

• Folderr - Crea IA para cualquier tarea, desde asistentes de chat hasta automatización de flujos de trabajo.

• Rome AI - Plataforma de IA que crea podcasts sobre cualquier tema, realizando investigaciones y elaborando episodios.

• Not Diamond - Utiliza el modelo de IA adecuado en el momento adecuado con esta plataforma de multi-modelos.

• Amabay - Construye un agente de IA personalizado para manejar consultas a tu nombre.

• DeepKeys - Aplicación de IA que mejora el bienestar mental y la productividad a través de tus dispositivos.

💬 Prompt

Coach de oratoria

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia.

Actúa como coach de oratoria. Ayúdame a preparar un discurso inaugural en una conferencia. Proporciona consejos sobre:

- Estrategias de comunicación clara
- Lenguaje corporal y modulación de voz
- Técnicas para captar la atención del público
- Métodos para superar el miedo escénico

Ofrece ejemplos prácticos y ejercicios específicos para mejorar su presentación.

🎥 Google

Google retira polémico comercial de los Juegos Olímpicos

Google ha retirado su polémico anuncio "Dear Sydney" de la cobertura de los Juegos Olímpicos tras recibir numerosas críticas. El anuncio, que pretendía mostrar las capacidades de la IA Gemini, no logró conectar con el público de la manera esperada.

Puntos Clave

• Premisa del Anuncio: Un padre utiliza la IA Gemini para escribir una carta de fan en nombre de su hija a la estrella olímpica Sydney McLaughlin-Levrone, en lugar de escribirla juntos.

• Reacción Negativa: El anuncio fue criticado por perder el sentido de una carta de fan, que es expresar una conexión humana auténtica.

• Respuesta de Google: Google aclaró que el anuncio pretendía mostrar a Gemini como una herramienta para iniciar borradores, no para reemplazar la expresión humana.

¿Por qué es importante?

Este es un simple ejemplo de lo difícil que es adaptar un tono adecuado para los comerciales que involucran productos derivados de la IA. El anuncio de Google no solo falló en su intento de destacar las ventajas de Gemini, sino que también alienó a un público que valora la autenticidad y la conexión humana.

🧠 Tutorial AI

Genera resúmenes de videos de YouTube

¿Qué es un GPT?

Un GPT es una aplicación personalizada de inteligencia artificial creada por usuarios en la GPT Store de ChatGPT. Estas aplicaciones pueden realizar una variedad de tareas específicas, como enseñanza de matemáticas, generación de discursos, generación de imágenes y asistencia en escritura creativa.

Para este tutorial vamos a usar el GPT Video Summarizer el cual te hará resúmenes de videos de YouTube en segundos.

1. La tienda de GPTs ya está abierta para usuarios de ChatGPT que usan versión gratuita. Abre ChatGPT e inicia sesión o crea una cuenta.

2. Dirígete a la tienda de GPTs ubicada en la barra lateral izquierda y da clic donde dice “Explore GPTs”.

3. Una vez la tienda de GPTs usa el buscador y escribe “Video Summarizer” y escoge la primer opción o da clic aquí.

4. Escribe el prompt para que haga el resumen de cualquier link de YouTube, por ejemplo:

Haz un resumen de este video, incluye los puntos más destacados. [pasa aquí el link del video de YouTube]

5. ChatGPT pedirá permiso para hacer el resumen, da clic en “Allow” cuando te pregunte y listo, el resumen estará listo en unos cuantos segundos.

💻️ Programación

Conviértete en Ingeniero de IA con GitHub Models

GitHub lanza GitHub Models, permitiendo a más de 100 millones de desarrolladores convertirse en ingenieros de IA. Experimenta con modelos avanzados como GPT-4o y Mistral directamente en GitHub, integra con Codespaces y despliega en Azure AI. ¡Únete a la beta pública limitada y lleva tus proyectos de IA al siguiente nivel!

🤖 Flux

Nueva competencia para Midjourney y Runaway

El pasado jueves, la startup alemana Black Forest Labs anunció su lanzamiento oficial y la presentación de su primera suite de modelos de IA de texto a imagen, llamada FLUX.1. Fundada por investigadores que desarrollaron la tecnología detrás de Stable Diffusion, la empresa tiene como objetivo crear IA generativa avanzada para imágenes y videos.

Puntos clave

• Modelos FLUX.1: Black Forest Labs lanzó tres versiones de sus modelos FLUX.1: una versión comercial de alta gama ("pro"), una versión de rango medio con pesos abiertos para uso no comercial ("dev") y una versión rápida con pesos abiertos ("schnell").

• Rendimiento: Los modelos FLUX.1 superan a opciones existentes como Midjourney y DALL-E en calidad de imagen y fidelidad a los textos, especialmente en la generación de manos humanas, un área problemática para modelos anteriores.

• Disponibilidad: Los modelos FLUX.1 se pueden utilizar en plataformas como Fal y Replicate; ambas ofrecen créditos gratuitos iniciales.

• Financiamiento y Futuro: Black Forest Labs ha atraído $31 millones en una ronda de financiamiento liderada por Andreessen Horowitz y planea expandirse a la generación de video, compitiendo con empresas como Sora de OpenAI y Runway.

Mensaje de nuestros patrocinadores

The Daily Newsletter for Intellectually Curious Readers

• We scour 100+ sources daily

• Read by CEOs, scientists, business owners and more

• 3.5 million subscribers

Sign up today!

🍌 Snacks - Noticias rápidas de IA

• Elliott Management advierte a los inversores que Nvidia está en una "burbuja" y su tecnología de IA está "sobrevalorada".

• Google Gemini 1.5 Pro avanza en la carrera de la IA y desafía a GPT-4o.

• Ventas del iPad se recuperan mientras Apple se acerca a una gran apuesta por la inteligencia artificial.

• Crecimiento de AWS se dispara una vez más después de que el CEO pide más inteligencia artificial.

• Gobierno del Reino Unido cancela plan de inversión en IA de £1.3 mil millones, incluyendo £800 millones para un superordenador y £500 millones para investigación en IA.

• Las grandes tecnológicas no logran convencer a Wall Street de que la IA da resultados.

• Microsoft calificó a OpenAI como competidor en su informe anual, a pesar de su asociación de $13 mil millones. Esta declaración podría ser una estrategia para evitar el escrutinio regulatorio.

📊 Encuesta

Resultados de la última encuesta

Por Luisa Lara

🎸 #LaOtra - Yo me voy con la otra

🥁 Olmont - Cumbia Conspiradora

🎤 Muerdo - Llegas Tú

Escucha nuestra playlist en Spotify

Gracias por leernos, hasta la próxima edición.

- Eduardo 🐒