Cámara IDS EVS y visualización de datos de cambio con vectores de movimiento

Más allá de la frecuencia de imagen

Tecnología de sensores pionera

Las imágenes basadas en eventos también se conocen como tecnología de sensores neuromórficos, es decir, sensores con capacidad para procesar la información de forma similar al sistema nervioso humano. Para ello, tenemos que darnos cuenta de que la ventaja evolutiva de nuestro cerebro no es sólo que pueda procesar eficazmente enormes cantidades de datos procedentes de estímulos luminosos continuos de los fotorreceptores de nuestros ojos. La capacidad de reaccionar a cambios como diferencias de brillo, contrastes y movimientos es crucial, mientras que los estímulos uniformes se ignoran en gran medida. Esto significa que nos concentramos principalmente en los movimientos de una escena en lugar de volver a captar constantemente cada detalle estático de nuestro entorno. Esto permite a nuestro cerebro procesar rápidamente la información relevante sin verse inundado de datos innecesarios.

Para reproducir esta capacidad, Prophesee ha desarrollado, en colaboración con Sony, una electrónica de píxeles especial, cuya principal tarea es detectar y registrar únicamente los cambios. Si el contraste de un valor de píxel cambia por encima de un determinado valor umbral, se activa un "evento de cambio". Cada píxel actúa independientemente de sus vecinos y en tiempo real. Esto significa que no está vinculado a un marco temporal fijo (véase la frecuencia de imagen). El intervalo de tiempo mínimo entre dos eventos de píxel es una propiedad importante de este sensor y se denomina "resolución temporal". Sony especifica que es de 1 microsegundo para el sensor IMX636. Esto permite una exploración ultrarrápida y casi "sin espacios" de los movimientos. Para conseguir una velocidad de cambio tan rápida con sensores basados en imágenes, se necesitarían frecuencias de imagen de más de 10.000 imágenes por segundo.

¡Sin imágenes! Sólo cambios

Mientras que los sensores basados en imágenes siempre transmiten la cantidad completa de datos de toda la superficie del sensor a intervalos regulares, una cámara basada en eventos a menudo sólo genera una cantidad muy pequeña de datos en el mismo periodo de tiempo. Esto significa que los desarrolladores de aplicaciones no tienen que elegir entre altas frecuencias de cuadro y grandes cantidades de datos redundantes para capturar con precisión los eventos rápidos. Esto se debe a que la cantidad de datos generados por las cámaras EVS depende de la actividad en el campo de visión y se adapta automáticamente si cambian las condiciones de la escena. A diferencia de los sensores basados en imágenes con una frecuencia de imagen fija, los píxeles EVS sólo transmiten información y generan tráfico de datos cuando se producen cambios en el campo de visión.

(In)nitidez del movimiento

Debido a su tecnología, los sensores convencionales pueden producir desenfoque de movimiento durante los movimientos rápidos. Se produce cuando los límites de contraste (debidos, por ejemplo, a los bordes de los objetos) se desplazan por varios píxeles vecinos mientras se exponen. Cada píxel capta la luz procedente de distintas posiciones del objeto en movimiento. Cuanto más rápido sea el movimiento o más largo el tiempo de exposición, más difícil será obtener una imagen nítida y sin distorsiones. En cambio, los píxeles EVS analizan continuamente la luz incidente y sólo registran el aumento o la disminución de la cantidad de luz en un comparador. Si supera los valores umbral establecidos, generan eventos de cambio a ON u OFF con una precisión temporal de alrededor de un microsegundo. Incluso los movimientos más rápidos se escanean píxel a píxel mediante la tecnología EVS. Esto crea una secuencia de alta resolución (stream) de eventos de píxeles independientes que describen una trayectoria de movimiento sin ningún desenfoque de movimiento.

El diagrama de la intensidad luminosa muestra cuándo se generan los eventos ON y OFF.
Cada píxel EVS registra continuamente la luz incidente y genera un "evento de cambio" cada vez que la intensidad de la luz supera un determinado valor umbral, ya sea hacia arriba o hacia abajo.

Comparación de datos de cámaras basadas en imágenes y en eventos

Cámara basada en imágenes

Cámara basada en eventos

Datos


  • Imágenes completas del sensor


  • Eventos de píxeles

Información


  • Valores de brillo de todos los píxeles (0-255)

  • Información de color (RGB) para sensores de color


  • X/Y de la posición del evento

  • Polaridad del evento (ON/OFF)

  • Marca de tiempo

Volumen de datos


  • Frecuencia de imagen constante

  • Por defecto


  • asíncrono

  • contenido determinado

Calidad


  • alta resolución

  • Alta velocidad de datos


  • Alta resolución temporal

Menos datos: información más eficaz

Los datos de salida nativos de las cámaras EVS (posición de píxel X/Y, polaridad ON/OFF del evento, marca de tiempo T), es decir, el contenido informativo del flujo de eventos de cambio, son extremadamente compactos y eficientes, pero no proporcionan imágenes clásicas. Por eso son ideales para ser procesadas por máquinas y algoritmos, pero menos intuitivas o directamente utilizables por los humanos. Si seguimos queriendo visualizar el flujo de resultados en imágenes, éstas recuerdan a la imagen de una cámara 2D tras la detección de bordes. Esto se debe a que los cambios de contraste durante el movimiento son menos perceptibles en superficies iluminadas uniformemente y más perceptibles en los bordes de los objetos.

Como sólo se registran los datos pertinentes y, por tanto, una cantidad significativamente menor, los requisitos de almacenamiento y el esfuerzo de procesamiento se reducen considerablemente. Además, la información sobre eventos ya permite reconocer patrones y direcciones de movimiento. Los intervalos de tiempo entre los eventos registrados también pueden utilizarse para calcular directamente la velocidad a la que se mueve un píxel u objeto sin tener que procesar un gran número de imágenes, por ejemplo, para separar la información relevante de los datos de fondo estáticos innecesarios.

Gracias a la escasa cantidad de datos, muchos procesos pueden analizarse casi en tiempo real. Los sistemas multicámara también son mucho más fáciles de realizar, ya que requieren mucho menos esfuerzo técnico. Tanto las prestaciones de procesamiento de imágenes de los PC anfitriones como los periféricos consistentes en cableado, fuente de alimentación y similares pueden dimensionarse de forma más reducida y rentable.

El tiempo como información

Gracias a la precisión de microsegundos de la marca de tiempo y la posición de cada píxel, surgen posibilidades de aplicación completamente nuevas. Los eventos de cambio ya contienen información valiosa de la que puede derivarse otra información importante. Las cámaras convencionales con una frecuencia de imagen fija no pueden captarlos debido a su frecuencia de muestreo constante o se pierden en una gran cantidad de datos redundantes debido al tipo de salida.

Los datos de eventos para crear grabaciones a cámara lenta ofrecen una interesante opción de análisis. Al acumular los eventos de píxeles capturados en una cuadrícula temporal y generar imágenes completas del sensor a partir de ellos, se crean vídeos a cámara lenta con un "tiempo de exposición" variable. La velocidad de reproducción varía en función del tiempo de acumulación seleccionado y de la frecuencia de imagen de la pantalla. Va desde el tiempo real (cámara superlenta con un fotograma por evento) a la velocidad de movimiento real (a aproximadamente 1 fotograma cada 33 ms) hasta una imagen fija. Si se resumen todos los eventos registrados (en términos de tiempo), se hace visible el historial completo de movimientos.

También se puede extraer información sobre la velocidad y la dirección para realizar un análisis numérico preciso de los movimientos de los objetos. Para ello no es necesario ningún tratamiento de imagen más complejo. Si, por el contrario, se acumulan en una representación tridimensional la localización y la hora de varios eventos de píxeles en un intervalo de tiempo determinado, se crea una representación cualitativa del curso del movimiento. Esto, a su vez, ayuda a comprender cómo y por qué caminos se mueven los objetos en un dominio (temporal). Este procedimiento se utiliza, por ejemplo, en el análisis de flujos para la detección de alta precisión del movimiento de líquidos y gases.

Dos visualizaciones muestran una representación cualitativa y otra cuantitativa de los flujos de partículas alrededor de un objeto.
La acumulación de datos basados en eventos crea datos de análisis ideales para la visualización y cuantificación del flujo.

"Para aplicaciones que requieren frecuencias de cuadro excepcionales de 1000 hercios, como en la visualización de flujos, la implementación con cámaras basadas en imágenes suele ser muy compleja y costosa. Con la ayuda de la tecnología de cámara basada en eventos, alcanzamos frecuencias de imagen comparables de 10.000 fotogramas por segundo y más. Sin embargo, para transferir la cantidad de datos significativamente reducida, sólo necesitamos interfaces de PC estándar, como USB. Esto hace que esta innovadora tecnología de cámara sea especialmente interesante para las instituciones docentes y de investigación más pequeñas."

— Dr. André Brunn, Director de Desarrollo de Mecánica de Fluidos de la empresa iLA_5150 GmbH, con sede en Aquisgrán. —

Puede obtener más información sobre la visualización de flujos basada en eventos en nuestro informe de aplicación: A la casuística "Sólo cuenta el cambio"

Nuevos datos - nuevos conceptos de tratamiento

Sin embargo, para aprovechar esta nueva información de los sensores, los desarrolladores deben replantearse cómo dividir las secuencias de procesamiento basadas en imágenes, que antes eran cíclicas. Por supuesto, los datos de varios eventos pueden resumirse en fotogramas clásicos, de modo que incluso pueden procesarse como imágenes convencionales a una frecuencia de imagen constante. Sin embargo, este método no es necesariamente óptimo, ya que no aprovecha las ventajas de la dinámica de datos. Por ejemplo, la gran precisión temporal para movimientos rápidos y el procesamiento eficaz de menos datos a la vez, lo que también puede reducir el consumo de energía. Sólo con las funciones, herramientas y algoritmos adecuados se pueden extraer y procesar rápida y eficazmente patrones, movimientos, tiempos y estructuras a partir de los datos de los sucesos. Sin embargo, esto no se puede encontrar hoy en día en ninguno de los marcos de visión estándar conocidos (basados en imágenes).

Sin embargo, Prophesee y Sony, los fabricantes de la nueva tecnología de sensores, ya han desarrollado los métodos de procesamiento correspondientes y han puesto a disposición funciones útiles en un kit de desarrollo de software, el Metavision SDK, junto con documentación detallada y numerosos ejemplos. Esto permite a los usuarios ponerse en marcha de inmediato y utilizar rápidamente las nuevas posibilidades de esta innovadora tecnología.

Para utilizar la cámara IDS EVS "uEye XCP-E", sólo es necesario instalar el plug-in IDS HAL en el PC host. A continuación, la cámara queda inmediatamente lista para su uso en el SDK Metavision de Prophesee. Vea ahora el vídeo explicativo:

Alta precisión en tiempo real: ¿el SVE en el control de calidad?

Las capacidades de los sensores neuromórficos también pueden desempeñar un papel importante en la garantía y mejora de la calidad. Especialmente en aplicaciones en las que se requiere precisión, rapidez y eficacia en la detección de fallos. El valor añadido de poder registrar los cambios más pequeños de objetos y materiales en tamaño de píxel y en tiempo real es evidente, por ejemplo, en la supervisión de máquinas y procesos. Gracias a la alta resolución temporal, que llega hasta los microsegundos, se pueden visualizar incluso movimientos de alta frecuencia, como vibraciones o señales acústicas. Los análisis revelan patrones inusuales (por ejemplo, debidos al desgaste o a fallos de funcionamiento) en una fase temprana, lo que puede provocar daños o paradas de producción.

Como sólo perciben movimientos o contrastes, los sensores neuromórficos son mucho menos sensibles a los cambios de luz, lo que los hace muy superiores a los sistemas convencionales de procesamiento de imágenes en condiciones de iluminación muy variables (por ejemplo, reflejos, sombras). Cuando se trata de detección rápida de fallos, supervisión de procesos o inspecciones en condiciones difíciles, los procesos de aseguramiento de la calidad sólo pueden beneficiarse de las capacidades de los sensores neuromórficos.

EVS: ¿tendencia o necesidad?

Los sensores basados en eventos no capturan imágenes completas, sino sólo los cambios de píxeles a lo largo del tiempo. Sin embargo, pueden utilizarse para compilar dinámicamente visualizaciones muy diferentes, proporcionando a las aplicaciones mucha más información sobre el movimiento de la que podrían ofrecer las cámaras con sensores de imagen convencionales por sí solas. Por tanto, ¡las tecnologías no funcionan en competencia! Los sensores basados en eventos no son, por tanto, un sustituto general de las cámaras clásicas basadas en imágenes o incluso del procesamiento de imágenes basado en IA, sino más bien una tecnología complementaria. Abre nuevas posibilidades adicionales a la hora de grabar movimientos. En diversas aplicaciones, un solo tipo de sensor o de datos de resultados no es suficiente. A menudo es necesario combinar distintas informaciones y, por tanto, distintas categorías de cámaras para optimizar las necesidades de un cliente. Las cámaras basadas en eventos son, por tanto, componentes interesantes y valiosos para los análisis de movimientos rápidos, las tareas de control de calidad industrial, la robótica y los sistemas autónomos en general.

Nota de IDS
"Ya disponemos de una serie de ejemplos concretos de aplicación para el análisis de gases, líquidos y vibraciones para los que esta tecnología es idónea para el inicio de la producción en serie de la cámara uEye EVS."