Küçük Mustafa, Şemsi Efendi İlkokulu'ndan sonra bir süre Selânik Mülkiye Rüştiyesi'ne devam etti ise de Kaymak Hafız adlı Arapça öğretmeninin kendisine haksız yere sopa ile vurması üzerine bu okuldan ayrıldı ve Askerî rüştiyeye giden bir komşu çocuğunun giyimini ve genel olarak subayların kılığını pek beğenen küçük Mustafa, askerî rüştiiyeye girmek ister; askerlikten ürken annesi ise bunu istemez, ancak Mustafa bir akrabasının delaletiyle okulun kabul zamanında askerî rüştiyeye gidip imtihan verir ve okula alınır (1893). Böylelikle annesine karşı bir olup-bitti yapmış ve kendisine en uygun gelecek yola girmiş bulunur. Yazları, dayısı Hüseyin Efendi'nin yanına gider, okul zamanına kadar çiftlikte kalırdı. Mustafa bu okulu gerçekten sevmişti. Arkadaşları arasında zekâsı ve üstün yetenekleri ile kısa zamanda kendisini gösterdi ve öğretmenlerinin sevgisini kazandı; öğretmenleri neredeyse kendisine bir arkadaş muamelesi yapma gereğini hissetmişlerdi. 

Bu okulda matematik öğretmenliği yapan Yüzbaşı Mustafa Efendi, genç öğrencisinin yetenekleri ve zekâsı karşısında sınıftaki diğer Mustafa'larla aralarındaki farkı belirtmek üzere öğrencisinin adının sonuna " Kemal " ismini ilâve etti. Artık genç öğrenci Mustafa Kemal olmuştu.

Burada Ömer Naci ile arkadaşlık yaptı. İlerde ünlü bir hatip olarak tanınacak olan bu kişi, Mustafa Kemal'in hitabet ve edebiyat sevgisinde etkin rol oynadı. Yakın arkadaşlarından biri olacak olan Ali Fethi ( Okyar ) de bu okulda öğrenci idi. Genç Mustafa Kemal, askerî öğreniminin yanı sıra yabancı dil öğrenimini de ihmal etmiyor yazları izinli olarak Selânik'e döndüğü zaman Fransızca dersleri alıyordu.

Genç Mustafa Kemal, Manastır Askerî İdadisi'ni de başarı ile bitirerek 13 Mart 1899 tarihinde İstanbul'da Harp Okulu'na girdi. 3 senelik başarılı bir Harbiye öğreniminden sonra 10 Şubat 1902'de bu okulu Teğmen rütbesiyle bitirdi ve öğrenimine Harp Akademisi'nde devam etti. 1903 yılında Üsteğmen olmuştu.
 

Harp Okulu'nda ve Harp Akademisi'nde de zekâsı, yetenekleri ve üstün kişiliği ile kendisini arkadaşlarına ve öğretmenlerine tanıtmış, onların içten sevgi ve saygısını kazanmıştı. Askerlik derslerine büyük ilgisi yanında matematiğe, edebiyata ve güzel söz söylemeye karşı da merakı ve eğilimi vardı.

Harbiye'de ve Harp Akademisi'nde, memleket ve millet davaları ile ilgilenmesi, düşüncelerini cesaretle ifadeden çekinmemesi sebebiyle aydın ve inkılâpçı bir subay olarak tanınmıştı. Devir istibdat idaresi idi ve bu davranışları aleyhine olabilirdi; ancak çevresince gerçekten çok sevilişi, düşüncelerinde samimi oluşu, onun herhangi bir tertibe kurban gitmesini önlemişti. Bununla beraber Harp Akademisi'nden mezuniyetini izleyen günlerde istibdat ve padişahlık rejimi aleyhindeki düşünceleri ve durumu, şüphe çekerek birkaç ay İstanbul'da tutuklu kaldı; sonra bir nevi sürgün olarak vazife ile 5 Şubat 1905 tarihinde Suriye bölgesine, Şam'a atandı.