El resumen técnico
Escuchen, todos hemos estado esperando gafas con IA que realmente sirvan para algo sin tener que enviar todos nuestros datos a la nube. PrismML, un laboratorio fundado por investigadores de Caltech, acaba de anotar un tremendo triunfo para el procesamiento local. Han logrado reducir exitosamente su LLM 'Bonsai' para que corra directamente en la plataforma Snapdragon AR1 Gen 1 de Qualcomm.
En la Snapdragon Summit de esta semana, mostraron este modelo de 2 mil millones de parámetros. Está optimizado para visión y lenguaje, lo que significa que, teóricamente, tus gafas inteligentes podrían identificar lo que sea que estés mirando en tiempo real. ¿Lo mejor? No es solo un modelo pesado metido a la fuerza en un espacio pequeño; lograron comprimirlo 4 veces manteniendo un alto rendimiento.
Por qué importa
Siendo honestos: la industria está obsesionada actualmente con modelos de IA propietarios que, lowkey, actúan como vampiros de privacidad. PrismML está apostando por una IA de pesos abiertos que vive en tu hardware. Si logran que esto funcione, nos encamina a un futuro donde tu dispositivo se encarga de la carga pesada localmente, manteniendo tus datos fuera de un servidor cualquiera.
Esto tiene toda la energía de protagonista para el edge computing, pero no te emociones demasiado todavía: no existen actualmente gafas comerciales disponibles para el público que usen esta tecnología. Pero ni digas más; le seguiremos la pista a esto.
