#Вычисления на GPU (GPGPU - вычислений на видеокартах): CUDA, OpenCL, AMD APP и DirectCompute

@KReedlas · Регистрация: 30.08.2010

Author24 — интернет-сервис помощи студентам

GPGPU («GPU общего назначения») — техника использования графического процессора видеокарты для общих вычислений, которые обычно проводит центральный процессор, т.е. это набор аппаратных и программных технологий, которые позволяют использовать графические процессоры, для ускорения многих приложений (не только графических). Каждая из производителей графических ускорителей представила свои средста: NVIDIA - CUDA, AMD/ATI - AMD APP (ранее AMD Stream). Так же не так давно был представлен открытый язык вычислений - OpenCL - фреймворк (каркас программной системы) для написания компьютерных программ, связанных с параллельными вычислениями на различных графических (GPU) и центральных процессорах (CPU). Важно то, что OpenCL является полностью открытым стандартом, его использование не облагается лицензионными отчислениями. OpenCL разрабатывается и поддерживается некоммерческим консорциумом Khronos Group, в который входят много крупных компаний, включая Apple, AMD, Intel, nVidia, Sun Microsystems, Sony Computer Entertainment и другие.

Тысячи разработчиков программного обеспечения, ученых и исследователей широко используют CUDA в различных областях, включая обработку видео, астрофизику, вычислительную биологию и химию, моделирование динамики жидкостей, электромагнитных взаимодействий, восстановление изображений, полученных путем компьютерной томографии, сейсмический анализ и многое другое.
Данные технологии находят свое применение в научных иследованиях, обработке медиа данных, медицине и прочих сферах.

На рынке появляются приложения, задействующие эти технологии, но вот понастоящему интересных и стоющих продуктов лично я нашел не так много, например бесплатный видеокодировщик MediaCoder использует CUDA для ускорения конвертирования видео. Есть на сайте такие, кто использует мощности своей графической карты не только в играх? Делимся мнениями и впечатлениями...
_________________________________
Русскоязычный сайт по данной тематике: gpgpu.ru
Подробней о CUDA из wikipedia и на оф. сайте
Что люди говорят о CUDA
Подробнее о OpenCL (из wikipedia)
Оф. сайт OpenCL (анг.)
OpenCL Русскоязычный сайт
Подробней о DirectCompute (из wikipedia)
GPGPU и CUDA в частности (термины, история).
Статьи web'а:
Вычисления на GPU. Особенности архитектуры AMD/ATI Radeon.
nVidia CUDA: вычисления на видеокарте или смерть CPU?
Использование ресурсов GPU для выполнения распределенных вычислений (*.pdf)

@KReedlas · 24.02.2011, 19:03 **[ТС]**

OpenCL AMD University Kit: комплект учебных материалов по параллельным вычислениям

Компания AMD объявила о выпуске OpenCL University Kit, комплекта учебных материалов, которые могут использоваться университетами для преподавания курса программирования в стандарте OpenCL.

@snake32 · 25.02.2011, 03:09

Да... вот бы ещё на русском было бы, чтоб с первого раза понимать смысл...

Добавлено через 20 минут
Проголосовал за - у всех шансы высоки
Так как на самом деле, считаю, всё зависит от вливание денег в развитие от той или иной компании (я говорю про AMD и nVidia - OpenCL и CUDA соответственно). Можно сравнить с OpenGL и Direct3D, то есть пока Microsoft активно участвует в развитии Direct3D, то всё больше и больше приложений будут Direct3D под Windows. Но в мире есть ещё достаточно много ОС, где Direct3D не канает. И здесь OpenGL выходит вне конкуренции(Mak OS, Linux). Соответственно OpenCL и CUDA легко могут существовать и развиваться параллельно. Каждый в своей среде. Что и будем наблюдать ближайшие годы.(могу ошибаться)

@KReedlas · 27.02.2011, 22:42 **[ТС]**

Развитие вычислений на GPU: преимущества архитектуры Fermi

@ВАСЯ-ХИМИК · 28.02.2011, 06:00

Проголосовал, что у них нет будущего, так как развитие ЦП идет семимильными шагами, пока nVidia разберется со своей CUDA, Intel уже 5 новых процов выпустит...
будущее таких технологий считаю ограничено узко-специальными научными областями... а это уже немного нето....

@Lurker · 28.02.2011, 08:04

так как развитие ЦП идет семимильными шагами

тогда видеокарт десятимильными

@ВАСЯ-ХИМИК · 28.02.2011, 08:23

Сообщение от Lurker

тогда видеокарт десятимильными

согласен... самих видеокарт десятимильными, но не технологий вроде CUDA...

Добавлено через 2 минуты
Скорее уж далекое будущее за ЦП со всторенным видеоядром.....
вроде как-то так...

@Novice_1 · 28.02.2011, 09:08

Я пока не использую видюху для ускорения вычислений, но работаю над этим) Надеюсь у меня получится. Я только на этапе прочтения книжек. Их к сожалению не много. Проголосовал за CUDA. Мне кажется она более реальна потому что она уже реально используется. Про OpenCL не могу такого сказать, а AMD APP, вобще не слышал про такую.
Кстати, факты говорят о том, что будущее за параллельными вычислениями. Тема очень актуальная.

@KReedlas · 28.02.2011, 10:50 **[ТС]**

Кстати, факты говорят о том, что будущее за параллельными вычислениями. Тема очень актуальная.

полностью согласен, тема вполне актуальна.

Сообщение от ВАСЯ-ХИМИК

пока nVidia разберется со своей CUDA, Intel уже 5 новых процов выпустит...

То, что интел успеет за это время выпустить несколько новых поколений ЦП ни о чем не говорит, революции "на кремнии" уже не ожидается, близится технологический барьер в 22нм... Т.е. производительность ЦП увеличиться незначительно (ну в пару раз за счет оптимизации архитектуры, ну и за счет увеличения кол-ва ядер), но тенденция будет наблюдаться в параллельных вычислениях, где как раз хорошо должны себя показать GPGPU! Я считаю, что с CUDA пока не все так гладко лишь потому, что это еще достаточно новая технология (не говоря о других), и вообще это новое направление, требующее долгой работы и изучения, но перспективы, имхо, есть! В научных кругах эти технологии уже активно используются, скоро они будут широко доступны и массовым потребителям РС...

Сообщение от ВАСЯ-ХИМИК

Скорее уж далекое будущее за ЦП со всторенным видеоядром.

встроенная графика не когда не сможет составить конкуренцию мощным дискретным карта, как бы производители не старались и как бы сильно не продвинулся НТП. Если смотреть в далекое будущее то домашним пользователям уже не нужны будут мощные ПК, так как большинство приложения будут "облачными" и выполняться будут на удаленных мощных серверах

ПК будут больше похожи на итернет-терминалы (или что то вроде планшетов, вокруг которых сейчас большой азарт).

@KReedlas · 01.03.2011, 22:04 **[ТС]**

NVIDIA объявила о выходе новой версии набора инструментов NVIDIA CUDA для разработки параллельных приложений с помощью графических процессоров NVIDIA.
Новая версия CUDA 4.0

Набор инструментов NVIDIA CUDA 4.0 был создан, чтобы упростить параллельное программирование и позволить еще более широкому кругу разработчиков портировать свои приложения на GPU.

Добавлено через 8 часов 49 минут
Нижегородский государственный университет становится первым в России CUDA Research Center

Запущенная в июне 2010 года, инициатива NVIDIA по созданию «Исследовательских центров CUDA» сегодня объединяет около 100 ведущих университетов и исследовательских организаций по всему миру. Данный статус подтверждает международное признание достижений учебного заведения в проведении значимых исследований с использованием колоссальных возможностей графических процессоров (GPU) для решения самых сложных вычислительных задач.

@KReedlas · 03.03.2011, 16:05 **[ТС]**

Производительность AMD Radeon в математических вычислениях

дешевая потребительская видеокарточка радикально опережает в математических расчетах самые быстрые CPU…
Можно сказать, что теперь вычисления с двойной точностью превратились из слабого места GPU — в его преимущество.

И необходимо отметить, что на данный момент обычное программирование GPU с использованием OpenCL и Direct Compute сложно с точки зрения организации средств разработки, овладения программным интерфейсом, просто инициализации приложения. Пока ещё программная поддержка не устоялась и не достигла уровня развития средств разработки для CPU, так что для программирования GPU нужно быть квалифицированным разносторонним программистом, а не только уметь придумывать алгоритмы, как многие ученые. Это болезни роста, которые будут преодолены, но сейчас некоторые аспекты работы по созданию GPU-программ заставляют опытных разработчиков вспомнить молодость, когда среды программирования были не очень развиты.

С другой стороны, поддерживаемый AMD стандарт ОpenCL, в отличие от CUDA, является открытым, и вскоре можно ожидать появления большого количества OpenCL-оптимизированных математических библиотек, многие из которых будут доступны бесплатно

@snake32 · 03.03.2011, 18:49

Сообщение от TRilonX

Можно сказать, что теперь вычисления с двойной точностью превратились из слабого места GPU — в его преимущество.

Ну как бэ если только матрицы перемножать то - ДА. Далеко не все алгоритмы так хорошо распараллеливаются на элементарные математические инструкции. Обычные циклы и условия сильно тормозят GPU, a CPU не нужно ждать выполнения соседнего потока если там выполняется другая ветка. Короче, я хочу сказать, не всё так круто как рассказывают в статьях. Естественно, вычисления на GPU займут свою нишу в некоторых алгоритмах, но далеко не во всех.

@KReedlas · 03.03.2011, 20:34 **[ТС]**

Сообщение от snake32

вычисления на GPU займут свою нишу в некоторых алгоритмах, но далеко не во всех.

а никто про все ниши и не говорит: в хорошо распараллеливающихся задачах они обоснуются, а перемножение матриц (математические расчеты) очередной пример сферы применения.

@Evgen333 · 05.03.2011, 19:29

Если чесно, не силён в этих технологиях, но думаю конкуренция будет гнать всех вперёд. Пока NVIDIA CUDA и OpenCL на шаг впереди.Но это чисто моё мнение.

@KReedlas · 07.03.2011, 00:19 **[ТС]**

конкуренция вообще штука полезная... для потребителей конечно, но только в данном направлении ее еще как бы и нет. Nvidia достаточно агресивно продвигает свою технологию cuda, и это ее не дешево обходится... Но это все оправдает себя, без сомнения. Хотя все это на слуху уже несколько лет, но мы все еще пока наблюдаем только расцвет этого, много еще предстоит сделать, и многое уже сделано.
предыдущий год был достаточно продуктивным (в этих напралениях), думаю и этот будет как минимум не хуже

@KReedlas · 04.04.2011, 23:02 **[ТС]**

наткнулся на еще один бесплатный видеоконвертер с поддержкой CUDA - Freemake Video Converter (в дополнении MediaCoder). Положительная тенденция все таки наблюдается, что не может не радовать..

@KReedlas · 30.04.2011, 20:51 **[ТС]**

Чуствуется движение в этих направлениях:

AMD и MulticoreWare объединяют усилия, чтобы помочь разработчикам использовать OpenCL на APU AMD Fusion

Компания AMD объявила о сотрудничестве с компанией MulticoreWare, специализирующейся на разработке программных решений и инструментов для разработчиков. Целью сотрудничества названо предоставление разработчикам «продвинутого набора инструментов для оптимизации OpenCL». Таким образом, AMD и MulticoreWare приложат совместные усилия к тому, чтобы расширить распространение OpenCL в масштабах отрасли. Важно, что приложения, создаваемые с помощью упомянутого набора инструментов, рассчитаны на работу не только на системы на базе APU, но и на системы на дискретных CPU и GPU. источник

@KReedlas · 28.06.2011, 17:18 **[ТС]**

Нашел довольно интересную статью.
Краткое содержание статьи: Что лучше аппаратно ускоряет сжатие видео? Не такой простой вопрос, если копнуть глубже. В этом обзоре мы расскажем о сжатии видео и его декодировании при помощи Intel Quick Sync, nVidia CUDA и AMD APP, сравним различные кодеки и декодеры друг с другом, поговорим о качестве, производительности, ресурсах. В одном из предыдущих обзоров мы писали, что при сжатии видео качество на выходе было одинаковым для Intel и AMD, а результат при использованиии nVidia CUDA сильно от них отличался. Настало время разобраться в нюансах.

Сама статья

Результаты опроса: За какой технологией вы видите будущее GPGPU?
NVIDIA CUDA	12	46.15%
OpenCL	5	19.23%
AMD APP	1	3.85%
DirectCompute	1	3.85%
у них нет будущего	3	11.54%
у всех шансы высоки	4	15.38%
Голосовавшие: 26. Вы ещё не голосовали в этом опросе

@snake32 3409 / 1596 / 236 Регистрация: 26.02.2009 Сообщений: 7,850 Записей в блоге: 5
	03.03.2011, 18:49	12
	Сообщение от TRilonX Можно сказать, что теперь вычисления с двойной точностью превратились из слабого места GPU — в его преимущество. Ну как бэ если только матрицы перемножать то - ДА. Далеко не все алгоритмы так хорошо распараллеливаются на элементарные математические инструкции. Обычные циклы и условия сильно тормозят GPU, a CPU не нужно ждать выполнения соседнего потока если там выполняется другая ветка. Короче, я хочу сказать, не всё так круто как рассказывают в статьях. Естественно, вычисления на GPU займут свою нишу в некоторых алгоритмах, но далеко не во всех. 0

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	03.03.2011, 20:34 [ТС]	13
	Сообщение от snake32 вычисления на GPU займут свою нишу в некоторых алгоритмах, но далеко не во всех. а никто про все ниши и не говорит: в хорошо распараллеливающихся задачах они обоснуются, а перемножение матриц (математические расчеты) очередной пример сферы применения. 0

@Evgen333 142 / 130 / 1 Регистрация: 19.01.2011 Сообщений: 465
	05.03.2011, 19:29	14
	Если чесно, не силён в этих технологиях, но думаю конкуренция будет гнать всех вперёд. Пока NVIDIA CUDA и OpenCL на шаг впереди.Но это чисто моё мнение. 0

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	07.03.2011, 00:19 [ТС]	15
	конкуренция вообще штука полезная... для потребителей конечно, но только в данном направлении ее еще как бы и нет. Nvidia достаточно агресивно продвигает свою технологию cuda, и это ее не дешево обходится... Но это все оправдает себя, без сомнения. Хотя все это на слуху уже несколько лет, но мы все еще пока наблюдаем только расцвет этого, много еще предстоит сделать, и многое уже сделано. предыдущий год был достаточно продуктивным (в этих напралениях), думаю и этот будет как минимум не хуже 1

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	24.02.2011, 19:03 [ТС]	2
	OpenCL AMD University Kit: комплект учебных материалов по параллельным вычислениям Компания AMD объявила о выпуске OpenCL University Kit, комплекта учебных материалов, которые могут использоваться университетами для преподавания курса программирования в стандарте OpenCL. 1

@snake32 3409 / 1596 / 236 Регистрация: 26.02.2009 Сообщений: 7,850 Записей в блоге: 5
	25.02.2011, 03:09	3
	Да... вот бы ещё на русском было бы, чтоб с первого раза понимать смысл... Добавлено через 20 минут Проголосовал за - у всех шансы высоки Так как на самом деле, считаю, всё зависит от вливание денег в развитие от той или иной компании (я говорю про AMD и nVidia - OpenCL и CUDA соответственно). Можно сравнить с OpenGL и Direct3D, то есть пока Microsoft активно участвует в развитии Direct3D, то всё больше и больше приложений будут Direct3D под Windows. Но в мире есть ещё достаточно много ОС, где Direct3D не канает. И здесь OpenGL выходит вне конкуренции(Mak OS, Linux). Соответственно OpenCL и CUDA легко могут существовать и развиваться параллельно. Каждый в своей среде. Что и будем наблюдать ближайшие годы.(могу ошибаться) 0

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	27.02.2011, 22:42 [ТС]	4
	Развитие вычислений на GPU: преимущества архитектуры Fermi 0

@ВАСЯ-ХИМИК ВедьминКОТ 135 / 71 / 2 Регистрация: 31.03.2008 Сообщений: 606
	28.02.2011, 06:00	5
	Проголосовал, что у них нет будущего, так как развитие ЦП идет семимильными шагами, пока nVidia разберется со своей CUDA, Intel уже 5 новых процов выпустит... будущее таких технологий считаю ограничено узко-специальными научными областями... а это уже немного нето.... 0

@Lurker 6140 / 1898 / 14 Регистрация: 07.07.2008 Сообщений: 10,417
	28.02.2011, 08:04	6
	так как развитие ЦП идет семимильными шагами тогда видеокарт десятимильными 0

@ВАСЯ-ХИМИК ВедьминКОТ 135 / 71 / 2 Регистрация: 31.03.2008 Сообщений: 606
	28.02.2011, 08:23	7
	Сообщение от Lurker тогда видеокарт десятимильными согласен... самих видеокарт десятимильными, но не технологий вроде CUDA... Добавлено через 2 минуты Скорее уж далекое будущее за ЦП со всторенным видеоядром..... вроде как-то так... 0

@Novice_1 3 / 3 / 0 Регистрация: 07.02.2011 Сообщений: 81
	28.02.2011, 09:08	8
	Я пока не использую видюху для ускорения вычислений, но работаю над этим) Надеюсь у меня получится. Я только на этапе прочтения книжек. Их к сожалению не много. Проголосовал за CUDA. Мне кажется она более реальна потому что она уже реально используется. Про OpenCL не могу такого сказать, а AMD APP, вобще не слышал про такую. Кстати, факты говорят о том, что будущее за параллельными вычислениями. Тема очень актуальная. 2

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	28.02.2011, 10:50 [ТС]	9
	Кстати, факты говорят о том, что будущее за параллельными вычислениями. Тема очень актуальная. полностью согласен, тема вполне актуальна. Сообщение от ВАСЯ-ХИМИК пока nVidia разберется со своей CUDA, Intel уже 5 новых процов выпустит... То, что интел успеет за это время выпустить несколько новых поколений ЦП ни о чем не говорит, революции "на кремнии" уже не ожидается, близится технологический барьер в 22нм... Т.е. производительность ЦП увеличиться незначительно (ну в пару раз за счет оптимизации архитектуры, ну и за счет увеличения кол-ва ядер), но тенденция будет наблюдаться в параллельных вычислениях, где как раз хорошо должны себя показать GPGPU! Я считаю, что с CUDA пока не все так гладко лишь потому, что это еще достаточно новая технология (не говоря о других), и вообще это новое направление, требующее долгой работы и изучения, но перспективы, имхо, есть! В научных кругах эти технологии уже активно используются, скоро они будут широко доступны и массовым потребителям РС... Сообщение от ВАСЯ-ХИМИК Скорее уж далекое будущее за ЦП со всторенным видеоядром. встроенная графика не когда не сможет составить конкуренцию мощным дискретным карта, как бы производители не старались и как бы сильно не продвинулся НТП. Если смотреть в далекое будущее то домашним пользователям уже не нужны будут мощные ПК, так как большинство приложения будут "облачными" и выполняться будут на удаленных мощных серверах ПК будут больше похожи на итернет-терминалы (или что то вроде планшетов, вокруг которых сейчас большой азарт). 0

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	01.03.2011, 22:04 [ТС]	10
	NVIDIA объявила о выходе новой версии набора инструментов NVIDIA CUDA для разработки параллельных приложений с помощью графических процессоров NVIDIA. Новая версия CUDA 4.0 Набор инструментов NVIDIA CUDA 4.0 был создан, чтобы упростить параллельное программирование и позволить еще более широкому кругу разработчиков портировать свои приложения на GPU. Добавлено через 8 часов 49 минут Нижегородский государственный университет становится первым в России CUDA Research Center Запущенная в июне 2010 года, инициатива NVIDIA по созданию «Исследовательских центров CUDA» сегодня объединяет около 100 ведущих университетов и исследовательских организаций по всему миру. Данный статус подтверждает международное признание достижений учебного заведения в проведении значимых исследований с использованием колоссальных возможностей графических процессоров (GPU) для решения самых сложных вычислительных задач. 1

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	03.03.2011, 16:05 [ТС]	11
	Производительность AMD Radeon в математических вычислениях дешевая потребительская видеокарточка радикально опережает в математических расчетах самые быстрые CPU… Можно сказать, что теперь вычисления с двойной точностью превратились из слабого места GPU — в его преимущество. И необходимо отметить, что на данный момент обычное программирование GPU с использованием OpenCL и Direct Compute сложно с точки зрения организации средств разработки, овладения программным интерфейсом, просто инициализации приложения. Пока ещё программная поддержка не устоялась и не достигла уровня развития средств разработки для CPU, так что для программирования GPU нужно быть квалифицированным разносторонним программистом, а не только уметь придумывать алгоритмы, как многие ученые. Это болезни роста, которые будут преодолены, но сейчас некоторые аспекты работы по созданию GPU-программ заставляют опытных разработчиков вспомнить молодость, когда среды программирования были не очень развиты. С другой стороны, поддерживаемый AMD стандарт ОpenCL, в отличие от CUDA, является открытым, и вскоре можно ожидать появления большого количества OpenCL-оптимизированных математических библиотек, многие из которых будут доступны бесплатно 0

	28.06.2011, 17:18

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	04.04.2011, 23:02 [ТС]	16
	наткнулся на еще один бесплатный видеоконвертер с поддержкой CUDA - Freemake Video Converter (в дополнении MediaCoder). Положительная тенденция все таки наблюдается, что не может не радовать.. 0

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	30.04.2011, 20:51 [ТС]	17
	Чуствуется движение в этих направлениях: AMD и MulticoreWare объединяют усилия, чтобы помочь разработчикам использовать OpenCL на APU AMD Fusion Компания AMD объявила о сотрудничестве с компанией MulticoreWare, специализирующейся на разработке программных решений и инструментов для разработчиков. Целью сотрудничества названо предоставление разработчикам «продвинутого набора инструментов для оптимизации OpenCL». Таким образом, AMD и MulticoreWare приложат совместные усилия к тому, чтобы расширить распространение OpenCL в масштабах отрасли. Важно, что приложения, создаваемые с помощью упомянутого набора инструментов, рассчитаны на работу не только на системы на базе APU, но и на системы на дискретных CPU и GPU. источник 0

@KReedlas 1183 / 805 / 10 Регистрация: 30.08.2010 Сообщений: 2,686
	28.06.2011, 17:18 [ТС]	18
	Нашел довольно интересную статью. Краткое содержание статьи: Что лучше аппаратно ускоряет сжатие видео? Не такой простой вопрос, если копнуть глубже. В этом обзоре мы расскажем о сжатии видео и его декодировании при помощи Intel Quick Sync, nVidia CUDA и AMD APP, сравним различные кодеки и декодеры друг с другом, поговорим о качестве, производительности, ресурсах. В одном из предыдущих обзоров мы писали, что при сжатии видео качество на выходе было одинаковым для Intel и AMD, а результат при использованиии nVidia CUDA сильно от них отличался. Настало время разобраться в нюансах. Сама статья 0