Την εκστρατεία κατά των Περσών, είχε ήδη αποφασίσει να θέσει σε λειτουργία, μόλις ανέβηκε στο θρόνο της Μακεδονίας. Ο πατέρας του, Φίλιππος, είχε ήδη βάλει τις βάσεις αυτού του σχεδίου και του είχε μάθει από παιδί να μην έχει τίποτα άλλο στο νου του παρά αυτόν τον σκοπό. Ο Φίλιππος αφού είχε νικήσει τους Ιλλυριούς και τους Θράκες, τους Παίονες και τους Σκύθες, επέβαλε στους Έλληνες να συνενωθούν και με αυτόν αρχηγό να ξεκινήσουν την εκστρατεία, με πρόσχημα την απελευθέρωση των ελληνικών αποικιών της Ασίας και την τιμωρία των απογόνων του Ξέρξη. Η δολοφονία του Φίλιππου άφησε στα χέρια του 20χρονου Αλέξανδρου την αποστολή αυτή.
Α) Πέρασμα στη Μικρά Ασία[]
Το 335 π.Χ. έστειλε τον Παρμενίωνα για να εξασφαλίσει το πέρασμα της Προποντίδας. Την άνοιξη του 334 π.Χ., αφήνοντας πίσω του τοποτηρητή της Μακεδονίας τον Αντίπατρο, πέρασε τον Ελλήσποντο με στρατό 30.000 πεζών και 5.000 και πλέον ιππέων, ενώ ο στόλος του απαρτιζόταν από 160 πλοία. Οι προμήθειες έφταναν για 30 μέρες και οι οικονομικοί πόροι ανέρχονταν περίπου στα 70 χρυσά τάλαντα.
Η στρατιωτική δύναμη ήταν ομολογουμένως μικρή σε σχέση με τα σχέδια του Αλεξάνδρου. Οι Πέρσες, με την απέραντη αυτοκρατορία τους που περιελάμβανε πολλούς λαούς και φυλές, θα μπορούσαν να αντιπαρατάξουν πολύ μεγαλύτερο στρατό, αλλά ο Αλέξανδρος βασιζόταν στην ταχύτητα και την τόλμη καθώς και στις καλά εκπαιδευμένες και εξοπλισμένες μακεδονικές φάλαγγες του και το βαρύ ιππικό των Εταίρων.
Η μακεδονική φάλαγγα αποτελούνταν από πεζέταιρους οπλισμένους με σάρισα, δόρυ μήκους 6 μέτρων, πιθανόν επινόηση του Φιλίππου Β'.Το ιππικό επάνδρωναν οι ευγενείς, οι Εταίροι όπως ονομάζονταν. Το στρατό συμπλήρωναν σώματα ακοντιστών, τοξοτών και πελταστών. Μολονότι τον πυρήνα του στρατού αποτελούσαν οι Μακεδόνες, στις γραμμές του περιλαμβάνονταν πολεμιστές από ελληνικές πόλεις-κράτη και από τα βασίλεια της Μικράς Ασίας. Αυτή την ετερογενή δύναμη ένωναν οι δεσμοί πειθαρχίας, εκπαίδευσης και οργάνωσης, αλλά και η αφοσίωση που ενέπνεε ο Αλέξανδρος.
Οι επικεφαλής του στρατού του ήταν όλοι Μακεδόνες. Δεύτερος στην τάξη στρατηγός μετά από αυτόν ήταν ο Παρμενίων, παλιός συμπολεμιστής του πατέρα του. Ακολουθούσαν οι γιοί του Παρμενίωνα, Φιλώτας και Νικάνωρ, ο Αμύντας, ο Περδίκκας, ο Κρατερός, ο Πτολεμαίος, και ο Μελέαγρος. Διοικητής των Ελλήνων συμμάχων ήταν ο Αντίγονος, και των μισθοφόρων ο Μένανδρος. Ο Αλέξανδρος ως ο ανώτατος στρατιωτικός διοικητής, διαχειρίστηκε πολύ αποτελεσματικά τη στρατιωτική οργάνωση, κινητοποίηση, και την άμεση δράση των στρατιωτικών δυνάμεων. Ένα από τα αξιώματά του ήταν: βάδιζε χωριστά και πολέμα ενωμένος.
Ύστερα από μια σκληρή πορεία μέσω της Θράκης, ο Μέγας Αλέξανδρος πέρασε χωρίς δυσκολία τον Ελλήσποντο. Οι Πέρσες τον άφησαν να περάσει το στενό χωρίς να φέρουνε καμιά αντίσταση. Έτσι βρέθηκε στα ακρογιάλια της Ιωνίας, εκεί που βρίσκονται σήμερα τα δυτικά παράλια της Τουρκίας. Αμέσως μετά την απόβαση του στρατού, τέλεσε θυσίες και επισκέφτηκε την Τροία.
Β) Μικρά Ασία[]
Ο Αλέξανδρος οδήγησε το στρατό του στον ποταμό Γρανικό, όπου περίμεναν για να δώσουν μάχη οι περσικές δυνάμεις οδηγούμενες από τους τοπικούς σατράπες και τον Μέμνονα τον Ρόδιο. Η μάχη του Γρανικού, που έγινε τον Μάιο του 334 π.Χ. ανέδειξε νικητή τον Αλέξανδρο. Ο ίδιος ο Αλέξανδρος κινδύνευσε αλλά σώθηκε από την παρέμβαση του Κλείτου του Μέλα, και κατόπιν οι Πέρσες αιφνιδιάστηκαν από το μακεδονικό ιππικό που διέσχισε τον ποταμό και τράπηκαν σε φυγή. Οι απώλειες των Μακεδόνων ήταν μόνο 110 άνδρες, ενώ ανάμεσα στους Πέρσες νεκρούς υπήρξαν και πολλοί ηγεμόνες τους.
Η ήττα των Περσών άνοιξε τον δρόμο στον Αλέξανδρο για την κατάκτηση όλης της Μικράς Ασίας. Οι Σάρδεις και η Έφεσος παραδόθηκαν. Η Μίλητος και η Αλικαρνασσός αντιστάθηκαν αλλά τελικά κατακτήθηκαν μετά από πολιορκία. Πάνω από τριάντα πόλεις της Λυκίας παραδόθηκαν, ενώ κατακτήθηκε και η Παμφυλία. Διαμέσου των υψιπέδων της Πισιδίας και της Φρυγίας, ο Αλέξανδρος έφτασε στο Γόρδιο, όπου έλυσε το Γόρδιο δεσμό. Σύμφωνα με τον τότε θρύλο, όποιος έκανε κάτι τέτοιο, θα κατακτούσε ολόκληρη την Ασία.Πέρασε το χειμώνα παρακολουθώντας τις κινήσεις των Περσών και ετοιμάζοντας τις δυνάμεις του για νέα εξόρμηση. Στις ιωνικές πόλεις που κατέκτησε, κατάργησε τα ολιγαρχικά και τυραννικά πολιτεύματα που είχαν επιβάλει οι Πέρσες και εγκατέστησε δημοκρατίες, καταργώντας παράλληλα τη βαριά φορολογία.