ولد عام 1928 في بلدة تاوريرت ميمون (آث يني) الأمازيغية بالجزائر، وانتقل مع عائلته إلى بلدة عين الأربعاء (ولاية عين تموشنت) حيث درس دراسته الابتدائية بها. ثم واصل دراسته الثانوية في وهران لدى الآباء البيض ،يذكر أركون أنه نشأ في عائلة فقيرة، وكان والده يملك متجراً صغيراً في قرية اسمها (عين الأربعاء) شرق وهران، فاضطر ابنه محمد أن ينتقل مع أبيه، ويحكي أركون عن نفسه بأن هذه القرية التي انتقل إليها كانت قرية غنية بالمستوطنين الفرنسيين وأنه عاش فيها “صدمة ثقافية”، ولما انتقل إلى هناك درس في مدرسة الآباء البيض التبشيرية، والأهم من ذلك كله أن أركون شرح مشاعره تجاه تللك المدرسة حيث يرى أنه (عند المقارنة بين تلك الدروس المحفزة في مدرسة الآباء البيض مع الجامعة، فإن الجامعة تبدو كصحراء فكرية) .
ثم درس الأدب العربي والقانون والفلسفة والجغرافيا بجامعة الجزائر ثم بتدخل من المستشرق الفرنسي لوي ماسينيون (Louis Massignon) قام بإعداد التبريز في اللغة والآداب العربية في جامعة السوربون في باريس . ثم اهتم بفكر المؤرخ والفيلسوف ابن مسكويه الذي كان موضوع أطروحته.
فارق الحياة في 14 سبتمبر 2010م عن عمر ناهز 82 عاما بعد معاناة مع المرض في العاصمة الفرنسية ودفن بالمغرب