Στους θερινούς Ολυμπιακούς Αγώνες, οι αθλητές συναγωνίζονται σε πολλά αθλήματα, συμπεριλαμβανομένης της γυμναστικής. Αυτή η πειθαρχία είναι παρούσα στο πρόγραμμα αγώνων από τους πρώτους Ολυμπιακούς Αγώνες του 1896 στην Αθήνα.
Η γυμναστική είναι ένα από τα αθλήματα που μπορούν να φέρουν πολλά μετάλλια σε έναν συγκεκριμένο αθλητή και εθνική ομάδα. Το σύγχρονο πρόγραμμα των Ολυμπιακών Αγώνων προβλέπει την παρουσίαση 14 βραβείων. Οι άνδρες αγωνίζονται για βραβεία στο απόλυτο πρωτάθλημα, τον ανταγωνισμό ομάδων, ασκήσεις στο πάτωμα, θόλο, ασκήσεις σε παράλληλα ράβδους, δαχτυλίδια, ένα άλογο και ένα σταυρό. Στις γυναίκες, τα τελευταία τέσσερα κελύφη αντικαθίστανται από ανόμοια δοκάρια και κορμό.
Στους πρώτους Ολυμπιακούς Αγώνες το 1896, οι αγώνες για τους άνδρες έγιναν μόνο στη γυμναστική. Τα περισσότερα από τα βραβεία - 10 - παραλήφθηκαν από αθλητές της Γερμανικής Αυτοκρατορίας. Επίσης άξιες ήταν οι ομάδες της Ελλάδας και της Ελβετίας.
Το 1908, οι αθλήτριες από τη Ρωσική Αυτοκρατορία διεξήχθησαν για πρώτη φορά στους Ολυμπιακούς Αγώνες. Αυτοί ήταν αθλητές από τη Φινλανδία και έπαιζαν με το όνομα της χώρας τους, αν και κάτω από τη ρωσική σημαία. Η φινλανδική ομάδα έλαβε μπρούτζο σε ομαδικούς αγώνες.
Για πρώτη φορά, οι γυναίκες συμμετείχαν σε αγώνες γυμναστικής στους Ολυμπιακούς Αγώνες του 1928 στο Άμστερνταμ. Στη συνέχεια τους επιτράπηκε μόνο σε ομαδικούς διαγωνισμούς. Μεταξύ των γυναικείων ομάδων, οι Κάτω Χώρες κατέλαβαν την πρώτη θέση.
Το 1952, το πρόγραμμα ανταγωνισμού επεκτάθηκε σημαντικά. Συγκεκριμένα, μεταξύ των γυναικών άρχισε να υπάρχει απόλυτη υπεροχή, καθώς και διαγωνισμοί σε μεμονωμένες συσκευές. Οι Ολυμπιακοί του Ελσίνκι ήταν ένας θρίαμβος για τις σοβιετικές αθλήτριες. Αυτή ήταν η πρώτη συμμετοχή τους στους Ολυμπιακούς Αγώνες. Ως αποτέλεσμα, οι αθλητές από την ΕΣΣΔ κέρδισαν 22 μετάλλια, εκ των οποίων χρυσά στην ομάδα ανδρών και γυναικών και απόλυτα πρωταθλήματα.
Στα επόμενα παιχνίδια, η επιτυχία των σοβιετικών αθλητών επαναλήφθηκε. Στο πλαίσιο της σοβιετικής ομάδας, η Λάρισα Λάτνηνα, γυμναστής, άρχισε να παίζει, έλαβε τα περισσότερα ολυμπιακά μετάλλια στην ιστορία του αθλητισμού.
Από τη δεκαετία του '60, το πρόγραμμα των διαγωνισμών στη γυμναστική δεν έχει αλλάξει. Ωστόσο, εισήχθησαν νέες απαιτήσεις για τους αθλητές. Από τη δεκαετία του '90 μέχρι τους αγώνες, δεν επιτρέπονται κορίτσια κάτω των 16 ετών, αν και προηγουμένως υπήρχαν περιπτώσεις λήψης μεταλλίων και δεκατεσσάρων ετών.
Οι επιτυχίες της Ρωσίας, σε σύγκριση με τη Σοβιετική Ένωση, σε αυτό το άθλημα έχουν γίνει πιο μετριοπαθείς. Ωστόσο, υπάρχει η ελπίδα ότι η κατάσταση θα εξαντληθεί με την εμφάνιση μιας νέας γενιάς νεαρών αθλητών στα μεγάλα αθλήματα.