Opera presenta devicetest.ai, la herramienta que evalúa la capacidad de los dispositivos para ejecutar IA localmente

Opera ha presentado devicetest.ai, una nueva herramienta diseñada para evaluar si los dispositivos están capacitados para ejecutar tareas de Inteligencia Artificial (IA) de forma local.

La compañía noruega Open es consciente de que no todos los dispositivos están cualificados actualmente para ejecutar tareas de IA complejas, por ejemplo, con el uso de modelos de lenguaje grandes (LLM) locales.

Por ello, ha desarrollado devicetest.ai, una herramienta "fácil de usar" con la que cualquier usuario podrá evaluar si sus equipos informáticos disponen de las especificaciones necesarias para ejecutar LLM de forma local.

Tal y como ha detallado en un comunicado, se trata de una herramienta útil tanto para usuarios que utilizan ocasionalmente la IA, como para personas que dispongan de equipos avanzados o investigadores que necesiten comparar distintos LLM.

A la hora de evaluar un dispositivo, la ha herramienta ofrece tres perfiles a escoger. Cada uno hace referencia a un LLM local, por tanto, tiene en cuenta las diferentes demandas y recursos que requiere cada modelo. Teniendo esto en cuenta, la compañía ha matizado que la elección del perfil debe basarse en las especificaciones que disponga el 'hardware' que se vaya a evaluar, para poder obtener resultados representativos.

En concreto, Opera ha señalado que devicetest.ai tiene en cuenta tres indicadores principales a la hora de evaluar el dispositivo. Por un lado, los tokens por segundo (TPS), con los que se mide la cantidad de palabras de cuatro caracteres, incluyendo los espacios, que el modelo puede procesar por segundo.

Por otro lado, se evalúa la latencia del primer token (FTL), es decir, el tiempo que tarda el modelo en generar la primera palabra tras recibir una indicación. Finalmente, se examina el tiempo de carga del modelo (MLT), lo que hace referencia al tiempo que tarda el 'hardware' en cargar el LLM en la memoria RAM del sistema.

Además, la devicetest.ai también proporciona resultados adicionales relacionados con diversas tareas típicas que ejecuta un LLM local. Así, estas tareas se ejecutan varias veces y se calculan promedios de TPS y FTL, con lo que ofrece "una visión más detallada del rendimiento del dispositivo".

Para utilizar la herramienta de evaluación de IA, los usuarios deben acceder a devicetest.ai con la última versión del navegador Opera Developer. Tras ello, bastará con pulsar en la opción 'Ejecutar prueba', seleccionar un perfil y clicar en 'Iniciar prueba'.

Según ha concretado la tecnológica, la prueba dura entre 3 y 20 minutos, dependiendo de las especificaciones del sistema y del perfil escogido. Finalmente, devicetest.ai muestra los resultados en pantalla determinando si se trata de un dispositivo apto o no. Estos resultados se pueden descargar como un archivo CSV para compararlos con análisis adicionales posteriores, igualmente, también es posible compartirlos a través de redes sociales.

Igualmente, Opera ha subrayado que los datos utilizados para llevar a cabo las pruebas solo se emplean para generar los resultados y comparar el rendimiento del dispositivo con otros usuarios. Sin embargo, "no se recopilan datos personales, ni se asocian con direcciones IP específicas".