El nuevo benchmark de inteligencia artificial de Geekbench puede probar el rendimiento de CPU, GPU y NPU – guía en línea

Laboratorios de primates

Las unidades de procesamiento neuronal (NPU) se están volviendo algo común en los chips de Intel y AMD después de varios años de ser algo que se encontraba principalmente en teléfonos inteligentes y tabletas (y Mac). Pero a medida que más empresas se esfuerzan por realizar más procesamiento de IA generativa, edición de imágenes y chatbots localmente en el dispositivo en lugar de en la nube, poder medir el rendimiento de las NPU será más importante para las personas que toman decisiones de compra.

Entra Primate Labs, desarrolladores de Banco de pruebas GeekLa aplicación principal de Geekbench está diseñada para probar el rendimiento de la CPU y el rendimiento computacional de la GPU, pero durante los últimos años, la empresa ha estado experimentando con un proyecto paralelo llamado Aprendizaje automático de Geekbench (por “Machine Learning”) para probar el rendimiento de inferencia de las NPU. Ahora, mientras la iniciativa Copilot+ de Microsoft despega e Intel, AMD, Qualcomm y Apple presionan para mejorar el rendimiento de las NPU, Primate Labs está llevando Geekbench ML a la versión 1.0 y rebautizándolo como “Geekbench AI”, un cambio que presumiblemente lo ayudará a aprovechar la ola de rumores relacionados con la IA.

“Así como las cargas de trabajo limitadas por la CPU varían en la forma en que pueden aprovechar múltiples núcleos o subprocesos para escalar el rendimiento (lo que requiere métricas tanto de un solo núcleo como de múltiples núcleos en la mayoría de los puntos de referencia relacionados), las cargas de trabajo de IA cubren una variedad de niveles de precisión, según la tarea necesaria y el hardware disponible”, escribió John Poole de Primate Labs en Una publicación de blog sobre la actualización“Geekbench AI presenta su resumen de una variedad de pruebas de carga de trabajo realizadas con datos de precisión simple, datos de precisión media y datos cuantificados, que cubren una variedad utilizada por los desarrolladores en términos de precisión y propósito en los sistemas de IA”.

Además de medir la velocidad, Geekbench AI también intenta medir la precisión, lo cual es importante para las cargas de trabajo de aprendizaje automático que dependen de la producción de resultados consistentes (identificar y catalogar personas y objetos en una biblioteca de fotografías, por ejemplo).

Geekbench AI puede ejecutar cargas de trabajo de IA en su CPU, GPU o NPU (cuando tiene un sistema con una NPU compatible).
Agrandar / Geekbench AI puede ejecutar cargas de trabajo de IA en su CPU, GPU o NPU (cuando tiene un sistema con una NPU compatible).

Andrew Cunningham

Geekbench AI admite varios marcos de IA: OpenVINO para Windows y Linux, ONNX Para ventanas, QNN de Qualcomm en PC Arm con procesador Snapdragon, CoreML de Apple en macOS e iOS, y una serie de marcos específicos de proveedores en varios dispositivos Android. La aplicación puede ejecutar estas cargas de trabajo en la CPU, GPU o NPU, al menos cuando su dispositivo tiene una NPU compatible instalada.

En las PC con Windows, donde la compatibilidad con NPU y las API como DirectML de Microsoft aún están en progreso, Geekbench AI admite las NPU de Intel y Qualcomm, pero no las de AMD (todavía).

“Esperamos agregar soporte AMD NPU en una versión futura una vez que tengamos más claridad sobre la mejor manera de habilitarlos desde AMD”, dijo Poole a Ars.

Geekbench AI está disponible para Windows, macOS, Linux, iOS/iPadOS y Android. Su uso es gratuito, aunque una licencia Pro te ofrece herramientas de línea de comandos, la capacidad de ejecutar el benchmark sin cargar los resultados en el navegador de Geekbench y algunos otros beneficios. Aunque la aplicación ya está disponible en la versión 1.0, el equipo de Primate Labs espera actualizarla con frecuencia para incorporar nuevo hardware, nuevos marcos y nuevas cargas de trabajo según sea necesario.

“La IA cambia rápidamente”, continuó Poole en la publicación del anuncio, “así que anticipe nuevos lanzamientos y actualizaciones a medida que cambien las necesidades y las características de la IA en el mercado”.

Source link

Aureliano Teodoro es un reportero de tecnología que se centra en temas de vigilancia, privacidad y poder corporativo. Anteriormente fue redactor senior en Gawker y su trabajo también apareció en GQ, Vice y la revista New York Times, El País, entre otros medios.

Leave a Comment