-1
votes

Problèmes de vitesse et de mémoire lors du déploiement de modèle d'apprentissage en profondeur

J'ai besoin de construire un modèle d'apprentissage profond pour la classification de l'image. J'ai besoin de former un modèle d'apprentissage profond sur ces données, puis de le déployer sur de vraies machines.

En conclusion, mes principaux problèmes sont les suivants:

  • Les images sont très grandes, ce qui conduit cuda aux problèmes de mémoire. Que dois-je faire pour empêcher mon modèle qui manque de limite de mémoire?

  • En outre, j'ai besoin d'une inférence très rapide, car le modèle sera utilisé sur un environnement de déploiement réel. La vitesse est très importante pour une réponse rapide.

    J'ai besoin de résoudre les deux problèmes pour déployer mon modèle.


0 commentaires

3 Réponses :


-1
votes

Je pense que vous avez besoin de meilleure carte GPU comme un apprentissage profond est la machine affamée.


0 commentaires

2
votes

Je pense qu'il est important de réduire la taille des images. les remodeler si nécessaire, ce qui peut réduire considérablement le coût de la mémoire.


0 commentaires

1
votes

Je pense que vous pouvez essayer différentes formes de lot. Becasue La taille du lot est directement liée à la formation et à la vitesse d'inférence de l'apprentissage profond. Mais je pense que la meilleure carte de machine GPU est plus importante pour la classification de l'image avec un réseau d'apprentissage profond.


0 commentaires