Se mettre en commençant par une programmation parallèle

Vous devriez En vous apprendre à erlang . Pour grand bien.

Si vous êtes intéressé par le parallélisme dans le système d'exploitation X, assurez-vous de vérifier Grand Central Dispatch , d'autant plus que la technologie a été ouverte et peut bientôt voir une adoption beaucoup plus large.

Vous n'avez pas besoin de matériel spécial comme des cartes graphiques et des cellules pour effectuer une programmation parallèle. Votre processeur multi-fondamental simple profitera également de la programmation parallèle. Si vous avez de l'expérience avec C / C ++ et Objective-C, commencez par l'un de ceux-ci et apprenez à utiliser des threads. Commencez par des exemples simples tels que la multiplication de matrice ou la résolution de labyrinthe et vous en apprendrez à propos de ces problèmes Pesky (le logiciel parallèle n'est pas déterministe et plein de heisenbugs).

Si vous voulez aller dans le multiparallallisme massif, je choisirais opencl car il est le plus portable. Cuda a toujours une communauté plus grande, plus de documentation et des exemples et est un peu plus facile, mais vous une carte NVIDIA.

Je suggérerais d'aller chercher OpenMP et MPI Initialement, je ne suis pas sûr que cela compte que vous choisissez d'abord, mais vous devez absolument vouloir (à mon avis :-)) Apprendre les approches de mémoire partagées et distribuées en parallèle.

Je suggère d'éviter les threads opencl, Cuda, Posix, au début: obtenez une bonne mise à la terre dans les bases des applications parallèles avant de commencer à lutter avec la sous-structure. Par exemple, il est beaucoup plus facile d'apprendre à utiliser les communications de diffusion dans MPI qu'il ne s'agit de les programmer dans des threads.

Je colle avec C / C ++ sur votre Mac puisque vous les connaissez déjà et que vous êtes de bonnes bibliothèques open-source OpenMP et MPI pour cette plate-forme et ces langues.

Et, et pour certains d'entre nous, c'est un grand avantage, tout ce que vous apprenez sur C / C ++ et MPI (dans une moindre mesure, il est vrai que OpenMP aussi) vous servira bien lorsque vous êtes diplômé à de vrais supercalculateurs.

Tout subjectif et argumentatif, alors ignorez ceci si vous le souhaitez.

L'état partagé traditionnel et impératif avec les serrures n'est pas votre seul choix. Riche Hickey, le créateur de Clojure, un LISP 1 pour la JVM, fait un argument très convaincant contre l'état partagé. Il soutient essentiellement qu'il est presque impossible de bien avoir raison. Vous voudrez peut-être lire sur le message en passant des acteurs ALA Erlang ou des bibliothèques STM.

Peut-être que votre problème convient au Mapreduce paradigme. Il s'occupe automatiquement des problèmes d'équilibrage de la charge et de concurrence, le document de recherche de Google est déjà un classique. Vous avez une implémentation à une seule machine appelée Mars qui fonctionnent sur GPU, cela peut fonctionner correctement pour vous. Il y a aussi Phoenix qui exécute une carte-réduction sur les multipérapateurs multicœurs et symétriques.

Je commencerais avec MPI lorsque vous apprenez à gérer la mémoire distribuée. Le livre de Pacheco est un oldie mais une goodie, et MPI court bien de la Boîte sur OS X donnant maintenant une très bonne performance multicœur.