Impulso inicial de diseño de IA con un semiconductor de red y colaboración con NVIDIA

La carrera armamentística en curso para desarrollar los modelos de IA más potentes puede ser hipnotizante, tentando a los observadores a esperar a que gane el modelo "correcto" antes de decidir qué construir con él. Eso sería un error para los diseñadores de producto, que deberían aprovechar la oportunidad de convertir las predicciones de modelos en algo útil, fiable y con valor práctico.

La colaboración entre Lattice Semiconductor y NVIDIA señala un cambio en el diseño de productos para la era de la IA. Al estandarizar las tuberías de sensores a IA con un diseño de referencia Sensor Bridge, están reduciendo la barrera para construir sistemas que perciben, interpretan y responden casi en tiempo real. Las aplicaciones ahora pueden ensamblarse de forma más modular, acelerando el desarrollo y permitiendo productos más inteligentes y responsivos.

A medida que la inteligencia se acerca al lugar donde se generan los datos, la limitación pasa de construir mejores modelos a diseñar cómo deberían comportarse esos modelos una vez que están integrados en sistemas del mundo real. Lo que el sistema nota, prioriza o ignora son parámetros clave de diseño que determinarán si un "producto de IA" se considera fiable, predecible y útil.

Los diseñadores pueden implementar el diseño de referencia utilizando el LF-SNR-ETH-EVN (Figura 1) de Lattice Semiconductor, una placa puente de sensor a Ethernet CertusPro-NX que convierte señales de sensores heterogéneas en flujos Ethernet estandarizados y de baja latencia que pueden ser consumidos por sistemas de IA en la periferia posteriores.

Figura 1: El LF-SNSR-ETH-EVN de Lattice Semiconductor toma la entrada de sensores heterogéneos y la transforma en flujos de datos rápidos y estructurados que serán procesados por módulos de borde de NVIDIA. (Fuente de la imagen: Lattice Semiconductor)

La plataforma de hardware de bajo consumo basada en FGPA se sitúa en el borde para transformar señales de sensores diversas y de bajo nivel en flujos de datos rápidos y estructurados que pueden procesarse por Ethernet en tiempo real. Consume datos en bruto de los sensores, normaliza y empaqueta esos datos, y los transmite para un procesamiento de baja latencia y alto rendimiento con potentes unidades gráficas de procesamiento (GPU).

La placa Lattice se integra con el puente de sensores NVIDIA Holoscan y los módulos de computadora de borde para proporcionar una pila completa de extremo a extremo para sistemas de IA de sensores en tiempo real. Este esfuerzo colaborativo facilita la integración de nuevos sensores y la transferencia eficiente de datos a las canaletas de inferencia de IA en plataformas de IA en el borde como IGX Orin y AGX Orin de NVIDIA.

Este enfoque transforma la nube en un papel de apoyo centrado en entrenar modelos, agregar datos entre implementaciones y gestionar actualizaciones y optimización a largo plazo del sistema, mientras que los módulos edge pueden centrarse en la percepción, interpretación y respuesta en tiempo real.

Creación de diseños sensor a IA

Los diseñadores pueden centrarse en construir rápidamente sistemas de sensor a IA y en agilizar cómo fluyen los datos desde las entradas físicas hacia la pila de inferencias de NVIDIA. En lugar de depender de entradas simuladas o suposiciones abstractas sobre cómo podría comportarse un sistema, pueden prototipar experiencias utilizando datos de sensores en tiempo real que fluyen a través de una tubería en funcionamiento.

Por ejemplo, un diseñador puede comenzar con una configuración real de sensor, como un sensor industrial o una cámara, con datos transmitidos a través del puente CertusPro-NX, para su transmisión por Ethernet, a una aplicación basada en Holoscan que se ejecute en hardware de borde para el procesamiento de inferencia de IA en tiempo real. Tradicionalmente, añadir un nuevo sensor generaba una cantidad significativa de trabajo de ingeniería, como escribir controladores personalizados, gestionar la integración a nivel de núcleo y construir pipelines de datos a medida solo para que la señal se convierta en una forma utilizable. Holoscan reduce la carga con una API estandarizada y una capa de transporte para procesar continuamente los datos de los sensores en el borde.

Los datos de los sensores se tratan de forma más uniforme como parte de un flujo de datos en tiempo real, lo que facilita la integración de nuevas fuentes en una cadena de IA existente sin necesidad de reestructurar toda la arquitectura de la aplicación.

Capa de traducción

La placa basada en FPGA en red funciona como una capa de traducción programable entre el mundo físico y el resto del sistema, reduciendo la necesidad de rediseñar el hardware cada vez que se introduce un nuevo sensor. Incluye bloques de construcción FPGA preconfigurados para manejar y adaptar datos de sensores, junto con una pila completa de software para recopilar, mover y procesar esos datos en hardware de IA en el borde de NVIDIA.

Este enfoque transforma la integración de sensores de una restricción de hardware a una decisión de diseño configurable, mejorando significativamente la flexibilidad del sistema a medida que evolucionan los requisitos del producto. Los equipos de diseño pueden integrar nuevos sensores o añadir entradas adicionales durante el proceso de desarrollo sin necesidad de una reestructuración extensa de toda la arquitectura.

La capacidad de modificar el comportamiento del producto antes de que los sistemas de producción completos estén operativos reduce el trabajo de integración personalizada y permite mejoras iterativas en la detección del sistema, los disparadores de acciones y la gestión de incertidumbres.

Conclusión

Los diseñadores de producto no pueden permitirse esperar a que se resuelvan las "guerras de modelos" de la IA. Ha llegado el momento perfecto para crear aplicaciones impulsadas por IA que puedan detectar, decidir y actuar sobre entradas en tiempo real y del mundo real. La colaboración entre Lattice Semiconductor y NVIDIA proporciona a los diseñadores pipelines de latencia ultra baja que permiten nuevas categorías de aplicaciones de IA en más dominios.