הלויים הם גם שומרים בבית המקדש. היו להם עמדות בעשרים ואחד מקומות בעזרה ובהר הבית. שמירה זו היא מצות עשה.
תפקיד השמירה היה לא להגן על בית המקדש, אלא להזהיר טמאים וזרים שלא יכנסו למקומות האסורים להם. כמו כן, שמירה זו הייתה לכבוד ה', כמו שבארמון של מלך שומרי הארמון נועדו לשם כבוד. בנוסף לכך, הלויים היו ממונים על השערים ותפקידם היה לפתוח ולסגור את שערי המקדש.