Diferencia entre revisiones de «CUDA»
Línea 1: | Línea 1: | ||
− | |||
{{Ficha Software | {{Ficha Software | ||
| nombre = CUDA | | nombre = CUDA | ||
Línea 14: | Línea 13: | ||
− | '''CUDA''' son las siglas de ('''''C'''ompute '''U'''nified '''D'''evice '''A'''rchitecture'') que | + | '''CUDA''' son las siglas de ('''''C'''ompute '''U'''nified '''D'''evice '''A'''rchitecture'') que hace referencia tanto a un compilador como a un conjunto de herramientas de desarrollo creadas por [[nVidia]] que permiten a los programadores usar una variación del lenguaje de programación C para codificar algoritmos en GPUs de nVidia. |
− | hace referencia tanto a un compilador como a un conjunto de herramientas de desarrollo creadas | ||
− | por [[nVidia]] que permiten a los programadores usar una variación del lenguaje de programación C para codificar algoritmos en GPUs de nVidia. | ||
− | |||
Por medio de Adapter (patrón de diseño)wrappers se puede usar Python, Fortran y | Por medio de Adapter (patrón de diseño)wrappers se puede usar Python, Fortran y | ||
Java en vez de C/C++ y en el futuro también se añadirá FORTRAN, OpenCL y Direct3D. | Java en vez de C/C++ y en el futuro también se añadirá FORTRAN, OpenCL y Direct3D. | ||
− | |||
Funciona en todas las GPUs nVidia de la serie G8X en adelante, incluyendo GeForce, Quadro y la | Funciona en todas las GPUs nVidia de la serie G8X en adelante, incluyendo GeForce, Quadro y la | ||
línea Tesla. | línea Tesla. | ||
− | nVidia afirma que los programas desarrollados para | + | nVidia afirma que los programas desarrollados para la serie GeForce 8 también funcionarán sin modificaciones en todas las futuras tarjetas nVidia, gracias a la compatibilidad binaria. |
− | la serie GeForce 8 también funcionarán sin modificaciones en todas las futuras tarjetas nVidia,gracias a la compatibilidad binaria. | + | CUDA intenta explotar las ventajas de las GPUs frente a las CPUs de propósito general utilizando el paralelismo que ofrecen sus múltiples núcleos, que permiten el lanzamiento de un altísimo número de hilos simultáneos. Por ello, si una aplicación está diseñada utilizando numerosos hilos que realizan tareas independientes (que es lo que hacen las GPUs al procesar gráficos, su tarea natural), una GPU podrá ofrecer un gran rendimiento en campos que podrían ir desde la biología computacional a la criptografía por ejemplo. |
− | + | El primer SDK se publicó en febrero de 2007 en un principio para Windows, Linux, y más adelante en su versión 2.0 para Mac OS. Actualmente se ofrece para Windows XP Windows Vista, Windows 7, para Linux 32/64 bits y para Mac OS. | |
− | CUDA intenta explotar las ventajas de las GPUs frente a las CPUs de propósito general utilizando el | ||
− | paralelismo que ofrecen sus múltiples núcleos, que permiten el lanzamiento de un altísimo número de | ||
− | |||
− | hilos simultáneos. Por ello, si una aplicación está diseñada utilizando numerosos hilos que | ||
− | realizan tareas independientes (que es lo que hacen las GPUs al procesar gráficos, su tarea | ||
− | natural), una GPU podrá ofrecer un gran rendimiento en campos que podrían ir desde la biología | ||
− | computacional a la criptografía por ejemplo. | ||
− | + | '''Ejemplo de flujo de procesamiento CUDA''' | |
− | + | 1. Se copian los datos de la memoria principal a la memoria de la GPU | |
− | + | 2. La CPU encarga el proceso a la GPU | |
− | + | 3. La GPU lo ejecuta en paralelo en cada núcleo | |
− | |||
− | '''Ejemplo de flujo de procesamiento CUDA''' | ||
− | 1. Se copian los datos de la memoria principal a la memoria de la GPU | ||
− | 2. La CPU encarga el proceso a la GPU | ||
− | 3. La GPU lo ejecuta en paralelo en cada núcleo | ||
4. Se copia el resultado de la memoria de la GPU a la memoria principal | 4. Se copia el resultado de la memoria de la GPU a la memoria principal | ||
Línea 49: | Línea 32: | ||
* Lecturas dispersas: se puede consultar cualquier posición de memoria. | * Lecturas dispersas: se puede consultar cualquier posición de memoria. | ||
− | * Memoria compartida: CUDA pone a disposición del programador un área de memoria de 16KB que se | + | * Memoria compartida: CUDA pone a disposición del programador un área de memoria de 16KB que se compartirá entre threads. Dado su tamaño y rapidez puede ser utilizada como caché. |
− | compartirá entre threads. Dado su tamaño y rapidez puede ser utilizada como caché. | ||
* Lecturas más rápidas de y hacia la GPU. | * Lecturas más rápidas de y hacia la GPU. | ||
− | |||
* Soporte para enteros y operadores a nivel de bit. | * Soporte para enteros y operadores a nivel de bit. | ||
== Limitaciones == | == Limitaciones == | ||
− | * No se puede utilizar recursividad, punteros a funciones, variables estáticas dentro de funciones | + | * No se puede utilizar recursividad, punteros a funciones, variables estáticas dentro de funciones o funciones con número de parámetros variable. |
− | o funciones con número de parámetros variable | + | * No está soportado el renderizado de texturas. |
− | * No está soportado el renderizado de texturas | + | * En precisión simple no soporta números desnormalizados o NaNs. |
− | * En precisión simple no soporta números desnormalizados o NaNs | + | * Puede existir un cuello de botella entre la CPU y la GPU por los anchos de banda de los buses y sus latencias. |
− | * Puede existir un cuello de botella entre la CPU y la GPU por los anchos de banda de los buses y | + | * Los threads, por razones de eficiencia, deben lanzarse en grupos de al menos 32, con miles de hilos en total. |
− | sus latencias. | ||
− | * Los threads, por razones de eficiencia, deben lanzarse en grupos de al menos 32, con miles de | ||
− | hilos en total. | ||
− | |||
== El modelo CUDA == | == El modelo CUDA == | ||
− | CUDA intenta aprovechar el gran paralelismo, y el alto ancho de banda de la memoria en las GPUs en | + | CUDA intenta aprovechar el gran paralelismo, y el alto ancho de banda de la memoria en las GPUs en aplicaciones con un gran coste aritmético frente a realizar numerosos accesos a memoria principal, lo que podría actuar de cuello de botella. |
− | aplicaciones con un gran coste aritmético frente a realizar numerosos accesos a memoria principal, | ||
− | lo que podría actuar de cuello de botella. | ||
− | |||
El modelo de programación de CUDA está diseñado para que se creen aplicaciones que de forma | El modelo de programación de CUDA está diseñado para que se creen aplicaciones que de forma | ||
transparente escalen su paralelismo para poder incrementar el número de núcleos computacionales. | transparente escalen su paralelismo para poder incrementar el número de núcleos computacionales. | ||
− | Este diseño contiene tres puntos claves, que son la jerarquía de grupos de hilos, las memorias | + | Este diseño contiene tres puntos claves, que son la jerarquía de grupos de hilos, las memorias compartidas y las barreras de sincronización. |
− | compartidas y las barreras de sincronización. | + | |
+ | La estructura que se utiliza en este modelo está definido por un grid, dentro del cual hay bloques de hilos que están formados por como máximo 512 hilos distintos. | ||
− | |||
− | |||
− | |||
Cada hilo está identificado con un identificador único, que se accede con la variable threadIdx. | Cada hilo está identificado con un identificador único, que se accede con la variable threadIdx. | ||
Esta variable es muy útil para repartir el trabajo entre distintos hilos. | Esta variable es muy útil para repartir el trabajo entre distintos hilos. | ||
− | threadIdx tiene 3 componentes (x, y, z), coincidiendo con las dimensiones de bloques de hilos. Así, | + | threadIdx tiene 3 componentes (x, y, z), coincidiendo con las dimensiones de bloques de hilos. Así, cada elemento de una matriz, por ejemplo, lo podría tratar su homólogo en un bloque de hilos de dos dimensiones. |
− | cada elemento de una matriz, por ejemplo, lo podría tratar su homólogo en un bloque de hilos de dos | ||
− | dimensiones. | ||
− | Al igual que los hilos, los bloques se identifican mediante blockIdx (en este caso con | + | Al igual que los hilos, los bloques se identifican mediante blockIdx (en este caso con do |
componentes x e y). Otro parámetro útil es blockDim, para acceder al tamaño de bloque. | componentes x e y). Otro parámetro útil es blockDim, para acceder al tamaño de bloque. | ||
Línea 92: | Línea 62: | ||
== Invocaciones a un kernel == | == Invocaciones a un kernel == | ||
− | En una llamada a un kernel, se le ha de pasar el tamaño de grid y de bloque | + | En una llamada a un kernel, se le ha de pasar el tamaño de grid y de bloque. |
== Sincronización == | == Sincronización == | ||
− | Como los distintos hilos colaboran entre ellos y pueden compartir datos, se requieren unas | + | Como los distintos hilos colaboran entre ellos y pueden compartir datos, se requieren unas directivas de sincronización. En un kernel, se puede explicitar una barrera incluyendo una llamada a __syncthreads(), en la que todos los hilos se esperarán a que los demás lleguen a ese mismo punto. |
− | directivas de sincronización. En un kernel, se puede explicitar una barrera incluyendo una llamada | ||
− | a __syncthreads(), en la que todos los hilos se esperarán a que los demás lleguen a ese mismo | ||
− | punto. | ||
== Jerarquía de memoria == | == Jerarquía de memoria == | ||
Los hilos en CUDA pueden acceder a distintas memorias, unas compartidas y otras no. | Los hilos en CUDA pueden acceder a distintas memorias, unas compartidas y otras no. | ||
− | * En primer lugar, está la memoria privada de cada hilo, solamente accesible desde él mismo. | + | * En primer lugar, está la memoria privada de cada hilo, solamente accesible desde él mismo. |
− | * Cada bloque de hilos posee también un espacio de memoria, compartida en este caso por los hilos | + | * Cada bloque de hilos posee también un espacio de memoria, compartida en este caso por los hilos del bloque y con un ámbito de vida igual que el del propio bloque. |
− | del bloque y con un ámbito de vida igual que el del propio bloque. | ||
* Todos los hilos pueden acceder a una memoria global. | * Todos los hilos pueden acceder a una memoria global. | ||
− | Además, existen otros dos espacios de memoria más, que son de solo lectura y accesibles por todos | + | Además, existen otros dos espacios de memoria más, que son de solo lectura y accesibles por todos los hilos. Son la memoria constante y la de texturas.Todas las memorias de acceso global persisten mientras esté el kernel en ejecución. |
− | los hilos. Son la memoria constante y la de texturas. | ||
− | Todas las memorias de acceso global persisten mientras esté el kernel en ejecución. | ||
== Arquitectura CUDA == | == Arquitectura CUDA == | ||
− | Un multiprocesador contiene ocho procesadores escalares, dos unidades especiales para funciones | + | Un multiprocesador contiene ocho procesadores escalares, dos unidades especiales para funciones trascendentales, una unidad multihilo de instrucciones y una memoria compartida. El multiprocesador crea y maneja los hilos sin ningún tipo de overhead por la planificación, lo cual unido a una rápida sincronización por barreras y una creación de hilos muy ligera, consigue que se pueda utilizar CUDA en problemas de muy baja granularidad, incluso asignando un hilo a un elemento por ejemplo de una imagen (un pixel). |
− | trascendentales, una unidad multihilo de instrucciones y una memoria compartida. El multiprocesador | ||
− | crea y maneja los hilos sin ningún tipo de overhead por la planificación, lo cual unido a una | ||
− | rápida sincronización por barreras y una creación de hilos muy ligera, consigue que se pueda | ||
− | utilizar CUDA en problemas de muy baja granularidad, incluso asignando un hilo a un elemento por | ||
− | ejemplo de una imagen (un pixel). | ||
== Tarjetas Soportadas == | == Tarjetas Soportadas == | ||
Línea 344: | Línea 303: | ||
| | ||
− | == | + | == Fuente == |
* [http://www.nvidia.es/object/cuda_home_es.html Zona CUDA de Nvidia] | * [http://www.nvidia.es/object/cuda_home_es.html Zona CUDA de Nvidia] | ||
[[Categoría:Software]] | [[Categoría:Software]] |
Revisión del 08:00 30 may 2011
|
CUDA son las siglas de (Compute Unified Device Architecture) que hace referencia tanto a un compilador como a un conjunto de herramientas de desarrollo creadas por nVidia que permiten a los programadores usar una variación del lenguaje de programación C para codificar algoritmos en GPUs de nVidia.
Por medio de Adapter (patrón de diseño)wrappers se puede usar Python, Fortran y
Java en vez de C/C++ y en el futuro también se añadirá FORTRAN, OpenCL y Direct3D.
Funciona en todas las GPUs nVidia de la serie G8X en adelante, incluyendo GeForce, Quadro y la
línea Tesla.
nVidia afirma que los programas desarrollados para la serie GeForce 8 también funcionarán sin modificaciones en todas las futuras tarjetas nVidia, gracias a la compatibilidad binaria.
CUDA intenta explotar las ventajas de las GPUs frente a las CPUs de propósito general utilizando el paralelismo que ofrecen sus múltiples núcleos, que permiten el lanzamiento de un altísimo número de hilos simultáneos. Por ello, si una aplicación está diseñada utilizando numerosos hilos que realizan tareas independientes (que es lo que hacen las GPUs al procesar gráficos, su tarea natural), una GPU podrá ofrecer un gran rendimiento en campos que podrían ir desde la biología computacional a la criptografía por ejemplo.
El primer SDK se publicó en febrero de 2007 en un principio para Windows, Linux, y más adelante en su versión 2.0 para Mac OS. Actualmente se ofrece para Windows XP Windows Vista, Windows 7, para Linux 32/64 bits y para Mac OS.
Ejemplo de flujo de procesamiento CUDA 1. Se copian los datos de la memoria principal a la memoria de la GPU 2. La CPU encarga el proceso a la GPU 3. La GPU lo ejecuta en paralelo en cada núcleo 4. Se copia el resultado de la memoria de la GPU a la memoria principal
Sumario
Ventajas
CUDA presenta ciertas ventajas sobre otros tipos de computación sobre GPU utilizando APIs gráficas.
- Lecturas dispersas: se puede consultar cualquier posición de memoria.
- Memoria compartida: CUDA pone a disposición del programador un área de memoria de 16KB que se compartirá entre threads. Dado su tamaño y rapidez puede ser utilizada como caché.
- Lecturas más rápidas de y hacia la GPU.
- Soporte para enteros y operadores a nivel de bit.
Limitaciones
- No se puede utilizar recursividad, punteros a funciones, variables estáticas dentro de funciones o funciones con número de parámetros variable.
- No está soportado el renderizado de texturas.
- En precisión simple no soporta números desnormalizados o NaNs.
- Puede existir un cuello de botella entre la CPU y la GPU por los anchos de banda de los buses y sus latencias.
- Los threads, por razones de eficiencia, deben lanzarse en grupos de al menos 32, con miles de hilos en total.
El modelo CUDA
CUDA intenta aprovechar el gran paralelismo, y el alto ancho de banda de la memoria en las GPUs en aplicaciones con un gran coste aritmético frente a realizar numerosos accesos a memoria principal, lo que podría actuar de cuello de botella. El modelo de programación de CUDA está diseñado para que se creen aplicaciones que de forma transparente escalen su paralelismo para poder incrementar el número de núcleos computacionales. Este diseño contiene tres puntos claves, que son la jerarquía de grupos de hilos, las memorias compartidas y las barreras de sincronización.
La estructura que se utiliza en este modelo está definido por un grid, dentro del cual hay bloques de hilos que están formados por como máximo 512 hilos distintos.
Cada hilo está identificado con un identificador único, que se accede con la variable threadIdx. Esta variable es muy útil para repartir el trabajo entre distintos hilos. threadIdx tiene 3 componentes (x, y, z), coincidiendo con las dimensiones de bloques de hilos. Así, cada elemento de una matriz, por ejemplo, lo podría tratar su homólogo en un bloque de hilos de dos dimensiones.
Al igual que los hilos, los bloques se identifican mediante blockIdx (en este caso con do componentes x e y). Otro parámetro útil es blockDim, para acceder al tamaño de bloque.
Kernel
Un kernel en C para CUDA, es una función la cual al ejecutarse lo hará en N distintos hilos en lugar de en secuencial.
Invocaciones a un kernel
En una llamada a un kernel, se le ha de pasar el tamaño de grid y de bloque.
Sincronización
Como los distintos hilos colaboran entre ellos y pueden compartir datos, se requieren unas directivas de sincronización. En un kernel, se puede explicitar una barrera incluyendo una llamada a __syncthreads(), en la que todos los hilos se esperarán a que los demás lleguen a ese mismo punto.
Jerarquía de memoria
Los hilos en CUDA pueden acceder a distintas memorias, unas compartidas y otras no.
- En primer lugar, está la memoria privada de cada hilo, solamente accesible desde él mismo.
- Cada bloque de hilos posee también un espacio de memoria, compartida en este caso por los hilos del bloque y con un ámbito de vida igual que el del propio bloque.
- Todos los hilos pueden acceder a una memoria global.
Además, existen otros dos espacios de memoria más, que son de solo lectura y accesibles por todos los hilos. Son la memoria constante y la de texturas.Todas las memorias de acceso global persisten mientras esté el kernel en ejecución.
Arquitectura CUDA
Un multiprocesador contiene ocho procesadores escalares, dos unidades especiales para funciones trascendentales, una unidad multihilo de instrucciones y una memoria compartida. El multiprocesador crea y maneja los hilos sin ningún tipo de overhead por la planificación, lo cual unido a una rápida sincronización por barreras y una creación de hilos muy ligera, consigue que se pueda utilizar CUDA en problemas de muy baja granularidad, incluso asignando un hilo a un elemento por ejemplo de una imagen (un pixel).
Tarjetas Soportadas
|
|
|
|
|