Ο Γιώργος Καλαφάτης ιδρύει στις 3 Φεβρουαρίου 1908 το ποδοσφαιρικό τμήμα του Παναθηναϊκού Αθλητικού Ομίλου (Ποδοσφαιρικός Όμιλος Αθηνών). Συνέλαβε την ιδέα επηρεασμένος από την εμφάνιση του ποδοσφαίρου στους Ολυμπιακούς Αγώνες του 1906, στους οποίους έλαβε μέρος. Ο Καλαφάτης ήταν αθλητής του Πανελληνίου και πιστός εραστής του ποδοσφαίρου. Στον Πανελλήνιο, όμως, καταργήθηκε το ποδοσφαιρικό τμήμα για χάρη του στίβου. Και έτσι ο Καλαφάτης άρχισε να σκέφτεται τη δημιουργία ενός νέου συλλόγου, ο οποίος θα είχε ως βάση το ποδόσφαιρο.
Είναι ο πρώτος οραματιστής της παναθηναϊκής ιδέας και κύριος ιδρυτής του Ομίλου μαζί με άξιους συνεργάτες. Ο Καλαφάτης ήθελε ο σύλλογος που θα ίδρυε, να μην ήταν σαν τους άλλους, τους συνοικιακούς, αλλά να καλύπτει όλη την πρωτεύουσα και σταδιακά να αναπτυχθεί σε όλη την Ελλάδα. Ένα από τα βασικά χαρίσματα του ιδρυτή του Παναθηναϊκού ήταν η διορατικότητά του. Η συνάντηση για την ίδρυση του συλλόγου γίνεται στο Πολύγωνο. Προεδρεύων στην πρώτη συνεδρία των μελών ο Αλέξανδρος Καλαφάτης, αλλά ο άνθρωπος που κινεί τα νήματα. Το δημιούργημά τους έλαβε την έκταση και τη δόξα που το κατέστησαν πανελληνίως δημοφιλές και παγκοσμίως γνωστό.
Το πρώτο του επίσημο ματς ο ΠΟΑ το έδωσε στα Τρίκαλα στις 9 Σεπτεμβρίου 1908 με αντίπαλο τον Πειραϊκό Σύνδεσμο, τον οποίο κέρδισε με το επιβλητικό 9-0. Παίκτης – προπονητής του ΠΟΑ, που εμφανίσθηκε στο γήπεδο με κόκκινη φανέλα και λευκό παντελονάκι, ήταν ο ιδρυτής του Γιώργος Καλαφάτης, που σημείωσε και τρία γκολ. Τα υπόλοιπα τέρματα πέτυχαν οι Σταυρόπουλος (3), Μισακιάν, Πάσχος και Γρανίτσας. Από τότε χρονολογούνται οι κόντρες Αθηναίων και Πειραιωτών στο ποδόσφαιρο, που σήμερα εκφράζονται από τα ντέρμπι Παναθηναϊκού και Ολυμπιακού. Το γήπεδο της ομάδας ήταν στην οδό Πατησίων, εκεί που σήμερα βρίσκεται το Οικονομικό Πανεπιστήμιο Αθηνών (πρώην ΑΣΟΕΕ). Ένας από τους πιο διάσημους αθλητές που φόρεσαν την ερυθρόλευκη φανέλα του ΠΟΑ ήταν ο ολυμπιονίκης Κώστας Τσικλητήρας.
Ο ΠΟΑ δεν μακροημέρευσε. Πρόλαβε, πάντως, να κατακτήσει την τρίτη θέση στο πρώτο πρωτάθλημα Κέντρου, που διοργάνωσε ο ΣΕΓΑΣ, στον οποίο τότε υπαγόταν το άθλημα του ποδοσφαίρου (Πρωταθλητής αναδείχθηκε ο Πειραϊκός και δεύτερη η ομάδα του Γουδή). Το 1910 ο Καλαφάτης με τους περισσότερους παίχτες αποχώρησαν, λόγω των αγεφύρωτων διαφορών τους με τον χρηματοδότη της ομάδας Μαρίνο Μαρινάκη και ίδρυσαν τον Πανελλήνιο Ποδοσφαιρικό Όμιλο (ΠΠΟ). Μαζί τους συντάχθηκε και η μεγάλη μάζα των οπαδών του ΠΟΑ. Η νέα έδρα του ΠΠΟ βρισκόταν στην Πλατεία Αγάμων (σημερινή Πλατεία Αμερικής). Το 1911 θα έλθει ο πρώτος τίτλος για τη νεοσύστατη ομάδα, με την κατάκτηση του πρωταθλήματος ΣΕΓΑΣ. Ο ΠΠΟ κέρδισε κατά σειρά το Γουδί με 12-0 και τον Πειραϊκό Σύνδεσμο με 11-1. Οι 11 του πρώτου τίτλου: Δεμερτζής, Ρέππας, Μισακιάν, Σαπούνας, Παπαγεωργίου, Πάσχος, Γαρουφαλιάς, Καλαφάτης, Μαντζάκος, Δουκάκης και Ρόκκος.
Το 1912 ο ΠΠΟ προσέλαβε τον πρώτο ξένο προπονητή που ήρθε ποτέ στην Ελλάδα. Ήταν ο άγγλος Τζον Κάμπελ από το Πανεπιστήμιο της Οξφόρδης, που έμαθε στους παίχτες του ΠΟΑ τα βασικά του αθλήματος. Έμεινε δύο χρόνια στην Αθήνα, αλλά άφησε ανολοκλήρωτο το έργο του, επειδή κάθε αθλητική κίνηση διακόπηκε έως το 1918, εξαιτίας των Βαλκανικών Πολέμων και του Α’ Παγκοσμίου Πολέμου. Η πλειονότητα των αθλητών στρατεύτηκε και κάποιοι από αυτούς έχασαν τη ζωή τους στα μέτωπα, όπως ο Κώστας Τσικλητήρας.
Με το τέλους του πολέμου το 1918 η αθλητική δραστηριότητα ξανάρχισε και ο Πανελλήνιος Ποδοσφαιρικός Όμιλος (ΠΠΟ) μετονομάστηκε σε Πανελλήνιο Ποδοσφαιρικό και Αθλητικό Όμιλο (ΠΠΑΟ) για να συμπεριλάβει και άλλα αθλήματα εκτός του ποδοσφαίρου. Αλλαγές είχαμε και στο χρώμα της ομάδας, που από κόκκινο έγινε πράσινο, με πρωτοβουλία του Κωνσταντινουπολίτη Μιχάλη Παπάζογλου (εκ των ιδρυτών της ΑΕΚ αργότερα). Δική του ιδέα ήταν και το τριφύλλι, που του θύμιζε την ομάδα του, τη Χαλκηδόνα. Το νέο έμβλημα της ομάδας σχεδίασε ο Γιώργος Χατζόπουλος, διευθυντής της Εθνικής Πινακοθήκης και μέλος του συλλόγου.
Το 1922 η ΕΠΣΕ διοργάνωσε το πρώτο πρωτάθλημα Αθηνών – Πειραιώς, που διάρκεσε από τον Ιανουάριο έως τον Απρίλιο. Ο ΠΠΑΟ τερμάτισε πρώτος, αήττητος και χωρίς να δεχθεί γκολ. Τα αποτελέσματα: ΠΠΑΟ – Πειραϊκός Σύνδεσμος 0-0, ΠΠΑΟ – Αθηναϊκός Γκύζη (μετέπειτα Βύρωνα) 7-0, ΠΠΑΟ – Σχολή Ευελπίδων 3-0, ΠΠΑΟ – Κυπριακός 5-0 και ΠΑΟ – Πειραϊκή Ένωση 3-0. Οι 11 που κατέκτησαν το πρωτάθλημα ήταν: Καλογερόπουλος, Κρίσπης, Απόστολος Νικολαΐδης (μετέπειτα πρόεδρος του Παναθηναϊκού), Χρυσοχοίδης, Βλαχόπουλος, Καντώνης, Ζάκκας, Σούτσος, Ασπρογέρακας, Λουκάς Πανουργιάς (μετέπειτα πρόεδρος του Παναθηναϊκού και της ΕΠΟ) και Σταθόπουλος.
Στην γενική συνέλευση της 15ης Μαρτίου 1924 η ομάδα έλαβε το οριστικό της όνομα: Παναθηναϊκός Αθλητικός Όμιλος (ΠΑΟ). Τα μέλη του συλλόγου ζήτησαν ένα βραχύτερο όνομα, που να μην περιέχει τη λέξη «Πανελλήνιος». Ήθελαν να απογαλακτιστούν από το μητρικό σωματείο (ΠΓΣ) και να αποφύγουν τη σύγχυση που δημιουργούσε στην αλληλογραφία η ύπαρξη δύο Πανελληνίων (ΠΓΣ και ΠΠΑΟ).
Την ίδια χρονιά, ο Παναθηναϊκός, έπειτα από δίχρονη περιπέτεια, απέκτησε νέα ποδοσφαιρική έδρα στην περιοχή της Περιβόλας Αμπελοκήπων, εκεί που σήμερα βρίσκεται το γήπεδο «Απόστολος Νικολαΐδης». Η διαμόρφωση του οικοπέδου που του παραχώρησε ο Δήμος Αθηναίων το 1922 έγινε και με την προσωπική εργασία των μελών και των ποδοσφαιριστών της ομάδας. Έτσι, στην αρχή της Λεωφόρου Αλεξάνδρας βρίσκεται η έδρα του Πανελληνίου, από τα σπλάχνα του οποίου προήλθε ο Παναθηναϊκός, που εδρεύει στο τέλος του μεγάλου δρόμου.
Τμήματα του συλλόγου
Κατά τη διάρκεια της ιστορίας του ο Σύλλογος μετράει 47 διαφορετικά τμήματα.
- Ποδόσφαιρο (ίδρυση άνδρες 1908 -γυναίκες 1924)
- Ξιφασκία (ίδρυση 1926)
- Στίβο (ίδρυση 1919)
- Βόλεϊ (ίδρυση 1919 άνδρες-1926 γυναίκες)
- Μπάσκετ (ίδρυση 1919 άνδρες-1937 γυναίκες)
- Πινγκ πονγκ (ίδρυση 1939)
- Τένις (ίδρυση 1911, επανίδρυση 1926 και επανασύσταση 1984)
- Ποδηλασία (ίδρυση 1926)
- Σκοποβολή (ίδρυση 1928)
- Χόκεϊ επι χόρτου (ίδρυση 1910 και επανασύσταση το 1928 και έπειτα το 2014)
- Κολύμβηση (ίδρυση 1925)
- Πόλο (ίδρυση άνδρες 1928-γυναίκες 1979)
- Χάντμπολ (ίδρυση άνδρες 1929-γυναίκες 1981)
- Κωπηλασία (1932)
- Πυγμαχία (ίδρυση 1926)
- Καταδύσεις (ίδρυση 1947)
- Άρση Βαρών (ίδρυση 1958)
- Σκάκι (ίδρυση 1948)
- Ενόργανη Γυμναστική (ίδρυση 1927)
- Θαλάσσιο Σκι (ίδρυση 1965)
- Πάλη (ίδρυση 1949)
- Μοντέρνο Πένταθλο (ίδρυση 1977)
- Τζούντο (ίδρυση 1978)
- Τοξοβολία (ίδρυση 1981)
- Ιστιοπλοΐα (ίδρυση 1987)
- Ποδοαντισφαίριση (ίδρυση 1989)
- Συγχρονισμένη Κολύμβηση (ίδρυση 1992)
- Ράγκμπι (ίδρυση 2013 άνδρες-2014 γυναίκες)
- Μπέιζμπολ (ίδρυση 2014)
- Κικ Μπόξινγκ (ίδρυση 2015)
- Σουηδική γυμναστική (ίδρυση 1926)
- Πρακτική σκοποβολή (ίδρυση 1997)
- Ορειβασίας (ίδρυση 1926)
- Αεροβική γυμναστική (1983)
- Κρίκετ (1950)
- Μπιτς βόλεϊ ανδρών-γυναικών (ίδρυση 2016)
- Esports (2016)
- Ποδόσφαιρο σάλας (1997)
- Μπάσκετ με αμαξίδιο (2018)
- Ξιφασκία με αμαξίδιο (2019)
- Σκοποβολή ΑμεΑ (2019)