Perplexity Computer agrega la capacidad de dividir tareas entre modelos locales y en la nube

Perplexity ha anunciado una nueva característica importante que pronto llegará a Perplexity Computer: la capacidad de dividir tareas entre modelos locales y en la nube.

Perplexity Computer es el sistema de agentes de la empresa para poner la IA a trabajar para usted.

La próxima función de distribución de tareas permitirá a Perplexity Computer cambiar entre modelos de IA en el dispositivo y modelos más potentes basados ​​en servidor para diferentes tareas.

La idea es que un sistema pueda manejar datos confidenciales localmente y al mismo tiempo acceder a modelos de interfaz de usuario más potentes cuando sea necesario.

Aquí está Perplexity sobre por qué está creando la nueva función de IA híbrida:

La inferencia agente híbrida está destinada a trabajos que incluyen datos confidenciales pero que requieren una IA potente. Cosas como registros financieros, información de salud y registros personales. El modelo compacto se ejecuta localmente en su dispositivo para determinar cuándo los datos confidenciales también deben conservarse localmente.

Mientras tanto, los trabajos que requieren todas las capacidades de un modelo de frontera se ejecutan en el servidor. La mayoría de las tareas del mundo real son una mezcla, por lo que la computadora personal las divide y coordina las partes. A diferencia de las herramientas que le piden que elija local o en la nube desde el principio, esto sucede por sí solo, tarea por tarea.

Perplexity dice que la funcionalidad híbrida de orquestación de IA llegará a Perplexity Computer en julio.

Historias relacionadas de perplejidad: