Claves para elegir tu próximo dispositivo tecnológico
La inteligencia artificial (IA) ha evolucionado rápidamente en los últimos años y está transformando la forma en que trabajamos, creamos y socializamos. También, es cosa de tiempo que lleguen las computadoras/notebook que puedan ejecutar IA de forma local (en el mismo equipo) versus a lo que hoy (junio 2024) se realiza de forma remota (vía internet). Dado esto, es importante señalar que cuando se esté analizando la compra de un computador/notbook en los próximos meses, aparte del procesador, memoria RAM, almacenamiento, velocidad de conexión, número de puertos USB, versión WiFi, entre otros, se deberá de también considera los TOPs y Tokens que pueda alcanzar. ¿Qué son estos últimos términos?
Sin duda, son los TOPs y Tokens son dos conceptos claves relacionados con la IA.
TOPs (Trillones de Operaciones por Segundo):- Los TOPs son una medida de rendimiento que se refiere a la cantidad de operaciones que un componente (como una NPU) puede realizar en un segundo.
- Por ejemplo, si una NPU tiene 50 TOPs, significa que puede ejecutar 50 trillones de operaciones en un segundo.
- Cuanto mayor sea el valor de TOPs, mayor será la capacidad de procesamiento.
NPU (Unidad de Procesamiento Neural):
- Las NPUs son componentes especializados para tareas de IA y aprendizaje profundo.
- Su potencia se mide en TOPs y es crucial para el rendimiento de los modelos de IA.
- Los tokens son unidades básicas de procesamiento en modelos de lenguaje, como los LLMs (grandes modelos de lenguaje).
- Representan palabras, subpalabras o caracteres en un texto.
- Cuantos más tokens pueda manejar un sistema, más complejas y precisas serán sus respuestas.
Gracias a los TOPs y Tokens, más la GPU, se podrá ejecutar IA en el mismo computador, notebook o celular (en un futuro) sin la necesidad de estar conectados a Internet o a un servicio online de IA, permitiendo así hacer más cosas de forma más rápida y con menos errores.
Por lo tanto, ¿en qué fijarse al momento que se deba de comprar un computador o notebook en los próximos meses y años?
Si planeas utilizar aplicaciones de IA o trabajar con modelos de lenguaje de forma local (en el propio equipo), se deberán de considerar:
- La potencia de la NPU (más TOPs es mejor).
- La cantidad de memoria RAM (para manejar grandes modelos de lenguaje).
- La capacidad de almacenamiento (para guardar datos y modelos).
- La calidad y capacidad de la GPU (si también piensas usar aplicaciones gráficas o creación de imágenes vía IA).
Recuerda que tus necesidades específicas determinarán qué características son más importantes para ti al momento de la compra. También, lo señalado aquí debe ser considerado para los celulares o móviles.
Comentarios