Monógrafo
Posts
ChatGPT supercargado y más barato

ChatGPT supercargado y más barato

AWS incluirá GPUs de NVIDIA en la nube

Eduardo González
November 07, 2023

Para leer todas las notas en español sin importar el idioma original del sitio web, sigue las instrucciones de esta liga.

Buenos días 🤘

OpenAI lanza su nuevo ChatGPT que promete muchas mejoras, desde nueva interfaz hasta los precios más bajos. Amazon, por su parte, permitirá a usuarios utilizar GPU de NVIDIA, sin duda un gran avance en el desarrollo de modelos y aplicaciones de IA.

Notas de hoy

🤖 ChatGPT con turbo y mas barato.
🛒 Vendedores de Amazon y Shopify utilizan IA para mejorar ventas.
💪 AWS permite alquilar GPUs de NVIDIA para proyectos de IA.
🚀 Lanzamiento de startup Bilingüe por Kai-Fu Lee.
💻️ Guia completa de orquestación de LLM con RAG de Ragna.

Además, tres herramientas para crear textos de marketing, hablar con asistentes de salud, aumentar alcance de ventas y 5 comandos de ChatGPT para optimizar las ventas de tu landing page.

Inteligencia Artificial

🤖 OpenAI revela GPT-4 Turbo: Más potente con protección de derechos de autor incluida (2 min de lectura)

OpenAI ha lanzado la versión preliminar de GPT-4 Turbo, que promete ser una opción más económica para los desarrolladores, a un costo de $0.01 por cada 1000 tokens de entrada, y $0.03 por cada 1000 tokens de salida. Esta reducción de precio significa que el uso de GPT-4 es ahora tres veces más barato que antes. Adicionalmente, OpenAI planea proteger a sus clientes contra posibles demandas por derechos de autor, siguiendo los pasos de gigantes tecnológicos como Google y Microsoft, a través de un nuevo programa llamado Copyright Shield. Estas actualizaciones vienen con la promesa de una versión de producción de GPT-4 Turbo que estará disponible en el corto plazo, aunque sin una fecha específica confirmada.

Midjourney

Por otro lado, GPT-4 Turbo se beneficia de una ventana de contexto extendida a 128K, que permite al modelo procesar equivalente a más de 300 páginas de texto en un solo mensaje, facilitando tareas más complejas y respuestas más elaboradas. Esta mejora sustancial sobre las versiones previas de 8K y 32K contextos se suma a la integración de capacidades como la interpretación de imágenes y la generación de texto a voz, así como a la compatibilidad con DALL-E 3 para solicitudes visuales. La actualización también se extiende a GPT-3.5 Turbo, que desde su lanzamiento en marzo, ahora presenta una ventana de contexto de 16K, y una estructura de precios reducida. Estas mejoras reflejan el compromiso de OpenAI con la evolución constante de sus modelos de lenguaje y su accesibilidad para un rango más amplio de aplicaciones y usuarios empresariales.

🛒 IA en Amazon y Shopify: Eficiencia y Margen Mejorado (3 min de lectura)

Los vendedores en plataformas como Amazon y Shopify están incorporando la inteligencia artificial (IA) para mejorar la eficiencia operativa y el entendimiento del cliente, lo cual se refleja en mejores márgenes de beneficio. Utilizan la IA para la redacción de descripciones de productos, la optimización de búsquedas SEO y la recopilación de opiniones, lo que les proporciona una perspectiva valiosa sobre la recepción del cliente hacia sus productos. Estas herramientas no solo ahorran tiempo sino que también reducen costos, ofreciendo a los emprendedores una solución práctica para la gestión de contenido y el análisis de mercado.

Robert Gomez dirige un negocio de accesorios para café llamado Kaffe

Por ejemplo, Matt Rollens de Dragon Glassware utiliza una herramienta de IA llamada Perci para crear listados de productos en Amazon, lo que le cuesta menos que contratar escritores freelance. Su enfoque se centra en la revisión y actualización de listados cada seis meses, asegurándose así de mantenerse relevante y visible en las búsquedas. A pesar de la eficiencia de estas herramientas, los vendedores como Rollens y Mikey Kim de Hemlock Park permanecen cautelosos, priorizando la precisión y la autenticidad de la voz de la marca. Olivier Toubia, de la Columbia Business School, reconoce tanto los riesgos como las ventajas potenciales de la IA, destacando su capacidad para personalizar el marketing y optimizar el retorno de inversión. Mientras tanto, Robert Gomez de Kaffe explora las capacidades de análisis de opinión de la IA para comprender y atender mejor a su clientela, reflejando la tendencia de integrar herramientas de IA en la estrategia comercial para una expansión más eficaz y rentable.

Empresas y Startups

💪 AWS permite a los clientes alquilar GPU de Nvidia para proyectos rápidos de IA (2 min de lectura)

Jason Marz / Getty Images

La creciente demanda de grandes modelos de lenguaje que operan con recursos de GPU ha llevado a la escasez y alto costo de hardware especializado, con Nvidia liderando el mercado. Para abordar la necesidad de acceso económico y eficiente a estos recursos, AWS ha introducido los bloques de capacidad Amazon EC2 para ML. Este servicio permite a los usuarios adquirir acceso a GPU de alto rendimiento por periodos de tiempo definidos, destinados a tareas específicas de IA, como el entrenamiento de modelos de machine learning o la ejecución de pruebas con modelos ya desarrollados.

La nueva oferta de AWS facilita la reserva de instancias con GPU Nvidia H100 Tensor Core, con configuraciones de hasta 64 instancias y 8 GPUs por instancia, permitiendo reservaciones por hasta 14 días. La estructura de precios y reserva se asemeja a la industria hotelera, proporcionando a los clientes una previsibilidad del costo total y la duración del uso. Este sistema de reserva anticipada también beneficia a Amazon al asegurar la ocupación y rentabilidad de sus recursos de GPU, alineando los precios con las fluctuaciones del mercado. El servicio ya está disponible en la región AWS de EE. UU. Este (Ohio), con la visibilidad total del costo antes de la compra, permitiendo ajustes basados en el presupuesto y necesidad de recursos del cliente.

🚀 Kai-Fu Lee Lanza Empresa de IA Abierta para Desafiar a los Gigantes Tecnológicos con Modelo Bilingüe (3 min de lectura)

La empresa emergente 01.AI, fundada por Kai-Fu Lee, ha lanzado su primer modelo de lenguaje de código abierto, el Yi-34B, en un esfuerzo por satisfacer la demanda de tecnologías de inteligencia artificial (IA) en China, donde los gigantes tecnológicos como OpenAI y Google no operan. Con un valor estimado en mil millones de dólares, la compañía ha asegurado la financiación de inversores prominentes, entre ellos Sinovation Ventures y Alibaba Cloud. A pesar de las restricciones de EE.UU. en la tecnología de chips, 01.AI ha logrado acumular un suministro adecuado de GPU para el desarrollo futuro y la formación de modelos. La empresa alardea de un equipo de más de 100 empleados, incluyendo expertos de la industria procedentes de corporaciones multinacionales y chinas de renombre.

El objetivo de la startup es más que el desarrollo de modelos de IA; busca ser un catalizador en el ecosistema tecnológico chino, facilitando a los desarrolladores la creación de aplicaciones innovadoras. A pesar de la competencia en el sector LLM, Lee se mantiene optimista sobre el potencial de las aplicaciones chinas en comparación con las estadounidenses, basándose en el exitoso ecosistema de Internet móvil de China. Con una estrategia clara de monetización y la apertura de parte de su código fuente, 01.AI se prepara para lanzar aplicaciones comerciales y fortalecer su presencia en el mercado de la IA. Lee enfatiza la importancia de un equipo dedicado y talentoso que trabaja hacia un objetivo común, marcando una diferencia significativa en la industria de la IA.

Programación

💻️ Tu guía completa para orquestación de IA con RAG de Ragna. (10 min de lectura)

Este tutorial te ayudará a aprender cómo utilizar Ragna, un marco de orquestación de IA basado en la tecnología de recuperación-generación aumentada (RAG) de código abierto, para escalar aplicaciones, desde la investigación hasta la producción. Descubre cómo aprovechar los modelos de lenguajes grandes (LLM) y cómo integrar la información actualizada en tus consultas de IA para respuestas más precisas y relevantes. Aprenderás a:

1. Usar la API de Python de Ragna para experimentar con los componentes de un modelo RAG y evaluar su rendimiento.

2. Crear aplicaciones web con la API REST de Ragna para integrar funcionalidades de RAG en diversos clientes como Slack y Mattermost.

3. Emplear la GUI basada en Panel de Ragna para la configuración de LLM y la interacción con el modelo, ya sea para soluciones listas para usar o para el desarrollo de aplicaciones web personalizadas.

4. Integrar bases de datos vectoriales y estrategias de tokenización para alimentar tu LLM con datos actualizados y fundamentales.

5. Comprender la tokenización, los modelos de incrustación y las bases de datos vectoriales para la búsqueda eficiente de la información más importante a tus consultas.

6. Implementar la búsqueda de similitud para extraer textos pertinentes y mejorar la precisión de las respuestas generadas por tu LLM.

Este tutorial también abordará por qué Ragna se destaca en el ecosistema de IA y cómo puede llenar un vacío para aquellos que necesitan una solución más transparente y menos dependiente del proveedor, con el control detallado sobre los componentes y un camino claro desde la experimentación hasta la producción.

IA que nos gusta

Copy.ai - Genera textos de marketing de alta conversión en segundos.

Docus - habla con un asistente de salud de IA, genere su informe de salud y valídelo con un médico de primer nivel de EE. UU. y Europa.

PotionPitch AI - Aumenta el alcance de ventas con personalización impulsada por IA (Chrome plug-in).

Comandos de ChatGPT

Optimiza tu landing page y genera más ventas con estos cinco comandos

Usando la fórmula AIDA, crea una landing page de 750 palabras que convenza a los posibles compradores de adquirir [producto] abordando sus posibles desafíos/retos y mostrando cómo tu producto puede solucionar su problema. Utiliza prueba social, incluyendo un testimonio de un cliente satisfecho que logró [resultado deseado].

Genera una landing page de 600 palabras que resalte las características y beneficios únicos de [producto] y muestre cómo es diferente de los competidores. Utiliza una tabla comparativa para demostrar su superioridad e incluye una oferta por tiempo limitado para ocasionar una sensación de urgencia.

Utilizando la fórmula APP, crea una página de aterrizaje de 500 palabras que apele a las emociones y deseos de los posibles compradores, centrándose en cómo [producto] puede hacerles sentir [emoción deseada]. Usa imágenes vívidas y narración de historias para evocar esas emociones.

Utilizando las 4 Cs de la redacción publicitaria, crea una página de aterrizaje de 600 palabras que resalte el contexto, cliente, conversación y llamado a la acción de [producto]. Usa una historia de “antes y después” para mostrar la transformación de un cliente que usó [producto].

Utilizando la fórmula de las 3 P's, crea una página de aterrizaje de 750 palabras que resalte el dolor, el problema y la promesa de [producto]. Usa una tabla de comparación para demostrar cómo [producto] es mejor que los competidores.