تشير المصادر الى أنه سُمي بمسجد الجن لأنه بُني عند المكان الذي اجتمع فيه رسول الله صلى الله عليه وسلم بالجن، يُسمى أيضاً مسجد الحرس، لأن صاحب الحرس كان يطوف بمكة المكرمة حتى إذا انتهى إليه وقف عنده ولم يَجُزه حتى يتوافى عنده عرفاؤه وحرسُه. ومسجد الجن من المساجد التي كانت قائمةً بمكة منذ القرن الثاني الهجري، وشهد عدة تجديدات خلال عصر الخلافة الإسلامية والتي استمرت حتى عصرنا الحاضر.