2
votes

L'utilisation de la mémoire est proche de la limite dans Google Colab

J'utilise Google Colab pour entraîner mon modèle. Après l'entraînement, je veux changer de modèle mais je ne peux pas car il n'y a pas assez de RAM pour cela. J'ai essayé de réattribuer l'ancien modèle à Aucun mais la RAM utilisée n'a pas diminué.

 entrez la description de l'image ici

Je ne veux pas fermer la session et recommencer depuis le début. Existe-t-il un moyen de libérer de la RAM utilisée dans google colab?


2 commentaires

Vous pouvez essayer d'utiliser import gc puis gc.collect () après les cellules, où vous effectuez des calculs coûteux tels que former un modèle ou faire de l'ingénierie des fonctionnalités. J'espère que cela aide à libérer de la RAM de votre colab


Essayez de supprimer les données intermédiaires créées lors de l'ingénierie et du nettoyage des fonctionnalités.


3 Réponses :


0
votes

Colab ne prend pas en charge cette fonctionnalité. La seule option est de tout recommencer.


0 commentaires

1
votes

Pour contourner le problème pour augmenter votre RAM à 25 Go, vous pouvez exécuter le code ci-dessous et attendre que le notebook affiche l'option d'augmentation de RAM. Voilà, vous avez augmenté la RAM à 25 Go.

d =[]
while(1):
  d.append('1')


0 commentaires

0
votes

Colab ne fournit pas cette fonctionnalité pour augmenter la RAM maintenant.

La solution de contournement que vous pouvez choisir est de supprimer toutes les variables dès qu'elles sont utilisées. Deuxièmement, essayez de vider vos résultats de variables intermédiaires à l'aide des bibliothèques pickle ou joblib. donc si la RAM plante pour que vous n'ayez pas à tout recommencer.

exemple:

from sklearn.externals import joblib
from google.colab import files

#you can save variable into file on colab files

joblib.dump(var,  'var.pkl')   
 
#this will download file to your local downloads

files.download('var.pkl')       

#reload your saved data.

var = joblib.load('var.pkl')    


0 commentaires