Contenidos
Los nuevos modelos PPLX de Perplexity aprovechan Internet para obtener datos en tiempo real Descubra cómo se comparan estos nuevos LLM en línea con GPT-3.5 y llama2-70b.
Perplexity, una startup con sede en San Francisco, ha presentado dos nuevos modelos de lenguajes grandes (LLM) en línea llamados pplx-7b-online y pplx-70b-online.
Estos LLM en línea tienen como objetivo superar las limitaciones clave de muchos LLM existentes: la incapacidad de proporcionar información actualizada y la tendencia a alucinar hechos inexactos.
¿Qué es un LLM en línea?
Los LLM en línea de Perplexity pueden aprovechar la información más reciente de Internet para generar respuestas, lo que los hace excepcionalmente capaces de responder consultas que dependen de eventos o datos recientes.
Por ejemplo, los modelos pueden informar los últimos resultados deportivos, los precios de las acciones o las últimas novedades de Google.
Esta conexión a tierra en tiempo real contrasta con los LLM fuera de línea como GPT-3.5, que dependen únicamente de sus datos de capacitación, que gradualmente se vuelven obsoletos.
Además, Perplexity emplea varias técnicas para maximizar la precisión de los hechos y minimizar la generación de información falsa.
Los modelos PPLX se basan en los modelos de código abierto mistral-7B y llama2-70B y Perplexity los ha ajustado específicamente en conjuntos de datos diversos y de alta calidad para optimizar su utilidad y factibilidad.
In-house search technology: our in-house search, indexing, and crawling infrastructure allows us to augment LLMs with the most relevant, up to date, and valuable information. Our search index is large, updated on a regular cadence, and uses sophisticated ranking algorithms to ensure high quality, non-SEOed sites are prioritized. Website excerpts, which we call “snippets”, are provided to our pplx-online models to enable responses with the most up-to-date information.
Tecnología de búsqueda interna: nuestra infraestructura interna de búsqueda, indexación y rastreo nos permite aumentar los LLM con la información más relevante, actualizada y valiosa. Nuestro índice de búsqueda es grande, se actualiza con regularidad y utiliza algoritmos de clasificación sofisticados para garantizar que se prioricen los sitios de alta calidad y sin SEO. Se proporcionan extractos del sitio web, que llamamos «fragmentos», a nuestros modelos pplx-online para permitir respuestas con la información más actualizada.
¿Cómo se comparan los modelos PPLX con GPT 3.5?
Las primeras pruebas proporcionadas por la compañía indican que los LLM en línea de Perplexity igualan o superan las capacidades de los LLM patentados líderes como GPT-3.5 en los puntos de referencia que miden la solidez, la utilidad y el conocimiento en todas las materias académicas.
La capacidad de los modelos PPLX para aprovechar la información en línea más reciente les permite proporcionar hechos y datos oportunos en respuesta a las consultas.
Cómo los LLM en línea superan los desafíos de precisión
Un artículo titulado “FRESHLLMS: Actualización de modelos de lenguaje grandes con aumento de motores de búsqueda” (en revisión) destacó las limitaciones críticas en los LLM tradicionales. under review
Se centró particularmente en la lucha de los LLM por mantenerse al día con el conocimiento global en constante evolución y su tendencia a producir respuestas objetivamente inexactas, conocidas como alucinaciones.
El documento propuso el punto de referencia FRESHQA, un sistema dinámico de respuesta a preguntas diseñado para evaluar la factibilidad de los LLM, e introdujo FRESHPROMPT, un método que mejora el rendimiento de los LLM al incorporar información actualizada de los motores de búsqueda.
A pesar de estos avances, el documento subrayó un desafío persistente para los LLM: mantener la frescura y precisión en sus respuestas, especialmente en dominios de conocimiento que cambian rápidamente.
Los nuevos LLM en línea de Perplexity están equipados de manera única para acceder y utilizar información en tiempo real de Internet, abordando el problema crítico de actualización y precisión que enfrentan la mayoría de los LLM con una fecha límite de conocimiento.
Los modelos PPLX demuestran una marcada mejora al abordar las limitaciones de la actualidad y la factualidad, abordando las preocupaciones planteadas en el documento FRESHLLMS.
Cómo acceder a los nuevos LLM en línea de Perplexity
Los modelos son accesibles públicamente a través de la interfaz web API y Labs de Perplexity, lo que permite a los desarrolladores integrar la tecnología en sus propias aplicaciones y sitios web. API
El lanzamiento de estos LLM en línea altamente capaces pero asequibles marca un momento crucial para la democratización de la IA, según Aravind Srinivas, director ejecutivo de Perplexity.
Excited to announce that pplx-api is coming out of beta and moving to usage based pricing, along with the first-ever live LLM APIs that are grounded with web search data and have no knowledge cutoff! https://t.co/VYXIjqdLy9
— Aravind Srinivas (@AravSrinivas) November 29, 2023
Estoy emocionado de anunciar que pplx-api saldrá de la versión beta y pasará a precios basados en el uso, junto con las primeras API LLM en vivo que se basan en datos de búsqueda web y no tienen límite de conocimiento. https://t.co/VYXIjqdLy9
– Aravind Srinivas (@AravSrinivas) 29 de noviembre de 2023 November 29, 2023
Conclusión
Al brindar acceso a la información y los conocimientos más recientes de la web, los modelos de Perplexity ayudan a nivelar el campo de juego entre las grandes empresas de tecnología y las organizaciones más pequeñas que buscan beneficiarse de la IA.
Con mayores mejoras de rendimiento en el horizonte, Perplexity visualiza un nuevo paradigma para la búsqueda y el descubrimiento de información centrado en interfaces conversacionales. Sus LLM en línea insinúan un futuro en el que podremos consultar a un asistente de IA como si fuera un experto humano y recibir respuestas oportunas, objetivas y matizadas. envisions
Imagen de portada: Jamie Jin/Shutterstock
Leer el articulo original en Search Engine Journal.
