Tenemos IA en casa
Adel El Hallak habló recientemente con Tom’s Guide sobre el futuro de la IA. Un empleado de Nvidia es un gran admirador de los modelos locales y tiene una minicomputadora DGX Spark que puede ejecutarlos. Sólo por tener un modelo local a su alcance, El Hallak se siente culpable si se olvida de fijar una tarea la noche antes de acostarse porque «de todos modos la tiene puesta», dijo en una entrevista con la editora Amanda Caswell.
Una conclusión de esta entrevista es estímulo de productividadpara maximizar el uso del tiempo y delegar responsabilidades mientras dormimos. La otra cara de la moneda es seguridad y control sobre los datos. En este punto, todos nuestros datos pasan por enormes servidores de inteligencia artificial y luego recibimos la respuesta. Nuestra información siempre reside en infraestructura de terceros. Por su parte, en lo que respecta a los modelos locales, El Hallak afirma que están mejorando, y si un modelo determinado se ejecuta en su propio equipo y nuestros datos nunca van más allá de nuestra PC. Además, no tenemos que preocuparnos suscripción mensual.
Sin embargo, la gran barrera en todo esto es el precio. Los ordenadores más baratos con DGX Spark cuestan alrededor de 22.000 PLN. zloty. Una suscripción a ChatGPT Plus o Claude cuesta alrededor de 80 PLN al mes, o menos de 1000 PLN al año. Por otro lado, no somos «dueños» de estos datos en el verdadero sentido, estamos limitados por el número de consultas y debemos tenerlos. acceso constante a Internet.
Por supuesto, es difícil creer que todo el mundo se apresure a utilizar DGX Spark, porque aparte de los desarrolladores de software, científicos e investigadores, pocas personas podrían permitírselo de una manera que realmente les ayudara a ganar dinero. Sin embargo, la caída ahueca la roca. El ecosistema de servicios en torno a la IA local se está desarrollandoy p.e. Perplexity lanzó Portable Computer, un servicio que proporciona un modelo de IA local, herramientas para agentes e infraestructura de software para conectar aplicaciones, ejecutar un sandbox, etc. Por supuesto, requiere DGX Spark. El Hallak de Nvidia lo ve como tendencia emergente.
Los modelos locales de IA pueden ayudar con la propagación Portátiles RTX Sparkque será lanzado en otoño de 2026 por, entre otros, Dell, HP, Lenovo, Asus, MSI, Acer y pronto también por Microsoft bajo la marca Surface. Su grupo de memoria unificada de 128 GB Debería ser suficiente para modelos de lenguaje grandes, y estos son productos de consumo normales en los que se pueden jugar, etc. Una cantidad tan grande de memoria también facilita la capacidad de realizar varias tareas en segundo plano y entretenerse al mismo tiempo.
Un empleado de Nvidia llama la atención sobre un factor importante en la implementación de modelos locales: los costes. «Hubo un cierto período en el que las empresas se jactaban de cuántos tokens usaban. Luego, cuando llegaron las facturas (todo se convirtió en) optimización de costos«Con el tiempo, los modelos locales podrán introducir sentido de propiedad de los datosQué independencia y estabilidad resultante de no tener que preocuparse por si los tokens se acabarán en un momento crucial.
