اگرچه بعضى از مورّخان اصرار دارند كه در عصر سه خليفه اوّل، زندان به معنى محلّ خاص براى نگهدارى مجرمان نبوده و در عصر امير مؤمنان(ع) ساخته شده؛ ولى قرائنی وجود دارد كه مى گويد «عمر» اولين كسى بود كه زندان تأسيس كرد. مسأله خريدن خانه اى در مكّه توسط عمر براي زندانی كردن مجرمین، يكی از قرائن است. زندانی كردن شعرا در عصر خليفه دوّم به خاطر سرودن اشعاری كه ناخوشايند خليفه يا مخالف شرع بود و هم چنين سرودن اشعار از درون زندان داير بر عذرخواهى و بى گناهى شعراء گواه ديگرى بر وجود زندان در آن عصر بوده است.