Tidak gampang bagi Rasulullah dalam menjalani awal kehidupannya di Madinah. Banyak masalah yang telah menantinya. Umat Islam yang berasal dari Mekkah (kaum Muhajirin) tidak memiliki makanan, terlebih pekerjaan. Di Madinah saat itu sudah tinggal masyarakat asli Madinah yang disebut sebagai kaum Anshar. Antara kaum Muhajirin dan kaum Anshar mereka dapat bersaing untuk merebut hati Rasulullah. Kaum Khazraj dan Aus masih memiliki kemungkinan untuk bertikai lagi, musuh yang berasal dari Quraisy di Mekkah atau kaum Yahudi tetangga mereka sendiri dapat menyerang setiap saat.
Pada saat-saat sulit seperti itu, Rasulullah kemudian mencetuskan gagasan yang cemerlang menerut Ilmu strategi. Gagasan itu sangat memenuhi kriteria karena "sangat sederhana" dan "sangat mudah untuk diterapkan." Startegi tersebut adalah menjadikan saudara antara satu orang dengan orang lain tanpa memandang asal usul, suku bangsa, dan Mekah atau Madinah (kota Madinah waktu itu masih bernama Yatsrib). Gagasan yang Rasulullah gunakan waktu itu saat ini sudah banyak digunakan dalam berbagai pelatihan "training" yang terus dikembangkan oleh orang-orang barat. Di barat mereka menggunakan istilah 'buddy system', yairu setiap dua orang saling "menjaga" dengan cara membantu dan mengingatkan diantara keduanya.
Dalam salah satu riwayat menyebutkan bahwa, Abdurrahman ibn Auf dipersaudarakan oleh Rasulullah dengan seorang Ashar yairu Sa'ad ibn Rabi'. Sa'ad sebagai orang asli Madinah menawarkan sebagian hartanyanya untuk digunakan dan dikelola, namun Abdurrahman menolak tawaran tersebut. Ia hanya meninta kepada Sa'ad untuk menunjukkan jalan menuju ke pasar. Di sana Abdurrahman berniaga mentega dan keju hingga ia mendapatkan keuntungan yang besar dan sukses. Dalam riwayat lain menjelaskan bahwa Abdurahman mendapatkan pinjaman uang, dengan uang itu ia membeli sepetak tanah disamping pasar yang terlebih dahulu ada.
Pada saat itu pasar pasar yang adalah milik seorang Yahudi yang menerpakan konsep seperti Mall saat ini. Dimana setiap orang dapat berdagang di pasar tersebut dengan syarat harus menyewa tempat kepada pemilik tanah/pasar. Konsep seperti itu kemudian dirubah oleh Abdurahman ibn Auf, dengan mengumumkan bahwa setiap pedagang dengan bebas berniaga di pasarnya (tanah yang ia beli) tanpa membayar uang sewa sepeserpun. Ia menerapkan konsep bagi hasil bagi yang untuk dalam berniaga saja, sedangkan yang tidak memiliki keuntungan tidak perlu untuk berbagi hasil.
Setelah gagasan persaudaraan itu diterpakan, nabi Muhammad saw. kemudian membangun moral atau akhlak masyarakat. Nabi berkeyakinan bahwa, akhlak menjadi pondasi awal membangun masyarakat, tanpa moral yang baik masyarakat akan hancur. Rasulullah menekanakan pada pentingnya manusia berlakuu sopan santun dan saling menghormati antara satu dengan yang lain. Beliau menunjukkan keutamaan manusia untuk berusaha dan bekerja, bukan menjadi peminta-minta (pengemis). Dalam hadisnya beliau menegaskan bahwa "tangan di atas (artinya memberi) lebih utama daripada tangan di bawah (artinya menerima). Selain itu juga tentang keharusan manusia untuk saling membantu tetangga atau orang lain yang sedang kesusahan tanpa melihat latar belakang suku maupun agama. Nabi Muhammad saw. juga melarang umat Islam untuk menghormatinya secara berlebihan, sehingga nantinya tidak terjadi kesyirikan seperti yang dilakukan oleh umat sebelumnya kepada Nabi mereka.
Pada Masa awal Islam di Madinah ini Nabi Muhammad saw. mulai mengajarkan tatacara shalat, puasa, hingga zakat. Pentinganya shalat berjamaah juga diseru oleh Rasulullah.
Pada tahun kedua Hijriah, di Madinah terjadi dialog antara Rasulullah dengan sahabat-sahabatnya tentang cara untuk mengingatkan kaum Muslimin akan waktu shalat. Ada yang mengusulkan agar pada waktu shalat dikibarkan bendera, dan bagi yang melihat bendera itu agar memberitahu kepada orang lain di depan umum. Ada sebagian sahabat yang mengusulakn untuk menggunakan terompet seperti yang dilakukan oleh kaum yahudi, ada pula yang mengusulkan untuk mengguankan lonceng seperti yang dilakukan oleh kaum Nasrani.
Ada seorang sahabat yang mengusulkan agar pada saat waktu shalat tiba api dinyalakan di tempat yang tinggi, sehingga dengan mudah dapat dilihat oleh semua orang ke tempat itu, atau setidaknya asapnya dapat dilihat oleh orang yang berada di kejauhan, dan bagi yang melihat api dan asap itu agar datang untuk menghadiri shalat.
Semua usulan itu tak satupun diterima oleh Rasulullah dengan alasan-alasan yang rasional, kemudian Nabi menukarkannya dengan kalimat assalatul jami'ah (marilah shalat jamah). Musyarawah tidak dilakukan satu hari saja. Hingga suatu ketika pada saat shalat subuh, seorang sahabat Rasulullah yang bernama Abdullah ibn Zaid menceritakan tentang mimpinya yang bertemu seseorang, kemudian orang itu mengajarinya panggilan Adzan. Kemudian Rasullah meminta Bilal untuk menyerukan azan yang diajarkan oleh Abdullah ibn Zaid kepadanya.
Sejak saat itu, ketika waktu shalat tiba, Bilal-lah yang selalu mengumandangkan azan di atas atap rumah seorang wanita yang berasal dari Banu Najjar di samping Masjid Nabawi, pada saat itu tempat itu lebih tinggi dibandingkan atap masjid.
Selain persoalah aqidah, ibadah, dan akhlah, Rasulullah juga berkonsetrasi membangun sistem kenegaraan, sehingga Madinah kemudian menjadi sebuah 'Republik Kota', seuah gagasan kenegaraan yang saat ini juga digunakan oleh beberapa negara di dunia, seperti Singapura. Rasulullah merumuskan sebuah deklarasi yang mengikat seluruh warga yang tinggal di dalam kota Madinah.
Untuk kepentingan bersama, Rasulullah merumuskan suatu deklarasi yang gunanya untuk mengikat seluruh warga kota Madinah. Isi dari deklarasi itu menekankan pada jaminan kebebasan bergama bagi pemeluk-pemeluknya. Deklarasi itu ditanda tangani bersama Yahudi Bani Auf, Bani Quraiza, Banu Nadzir dan Bani Qainuqa.
Hubungan harmonis yang terjalin antara umat Islam dan pemeluk agama Yahudi tersebut menarik perhatian banyak kalangan termasuk kalangan Nasrani yang pada saat itu mengusai peta politik di kancah global melalui dominasi Kerajaan Romawi. Dari situlah Golongan Nasrani berkeinginan untuk melakukan dialog antar agama, dan datanglah rombongan Nasrasi yang dalam satu riwayat disebutkan menggunakan 60 kendaraan berkunjung ke Madinah - Republik Kota yang baru berdiri.
Pada masa awal Islam di madinah ini, kaum muslimin masih menghadap ke Baitul Maqdis-Yerusalem saat beribadah, sama dengan kaum Yahudi. Namun dikemudian hari turun wahyu dari Allah agar umat Islam saat beribadah menghadap ke Ka'bah di Mekah. Wahyu tersebut turun saat Nabi Muhammad saw. beserta beberapa orang sahabatnya sedang melaksanakan shalat Dzuhur di rumah seorang janda tua. Rasulullah beserta beberapa sahabatnya ini datang untuk mengunjungi perempuan janda tua tersebut yang baru saja meninggal keluarganya. Salah satu riwayat menyebutkan bahwa waktu itu Rasulullah saw. bersama sahabat-sahabatnya hendak pulang sebelum datangnya waktu dzuhur, namun perempuan itu selaku tuan rumah menahannya agar makan siang yang sedang disiapkan.
Ketika datang waktu dzuhur, seperti biasanya, Nabi Muhammad saw. bersama sahabat-sahabatnya shalat menghadap ke baitul Maqdis di Yerusalem, kalau dari kota Madinah berarti Yerusalem berada di arah utara. Ketika wahyu itu turun di saat shalat, Nabi Muhammad saw. langsung membalikkan badannya menghadap ke selatan, yaitu ke arah ka'bah di Mekah. Saat ini rumah perempuan itu dijadikan sebagai Masjid yang memiliki dua kiblat, yang satu menghadap ke sebalah Utara - Baitul Maqdis Yerusalem, dan yang satunya lagi menghadap ke selatan - Masjidil Haram Mekkah. Masjid itu disebut sebagai Masjid Qiblatain.
Pada saat-saat sulit seperti itu, Rasulullah kemudian mencetuskan gagasan yang cemerlang menerut Ilmu strategi. Gagasan itu sangat memenuhi kriteria karena "sangat sederhana" dan "sangat mudah untuk diterapkan." Startegi tersebut adalah menjadikan saudara antara satu orang dengan orang lain tanpa memandang asal usul, suku bangsa, dan Mekah atau Madinah (kota Madinah waktu itu masih bernama Yatsrib). Gagasan yang Rasulullah gunakan waktu itu saat ini sudah banyak digunakan dalam berbagai pelatihan "training" yang terus dikembangkan oleh orang-orang barat. Di barat mereka menggunakan istilah 'buddy system', yairu setiap dua orang saling "menjaga" dengan cara membantu dan mengingatkan diantara keduanya.
Dalam salah satu riwayat menyebutkan bahwa, Abdurrahman ibn Auf dipersaudarakan oleh Rasulullah dengan seorang Ashar yairu Sa'ad ibn Rabi'. Sa'ad sebagai orang asli Madinah menawarkan sebagian hartanyanya untuk digunakan dan dikelola, namun Abdurrahman menolak tawaran tersebut. Ia hanya meninta kepada Sa'ad untuk menunjukkan jalan menuju ke pasar. Di sana Abdurrahman berniaga mentega dan keju hingga ia mendapatkan keuntungan yang besar dan sukses. Dalam riwayat lain menjelaskan bahwa Abdurahman mendapatkan pinjaman uang, dengan uang itu ia membeli sepetak tanah disamping pasar yang terlebih dahulu ada.
Pada saat itu pasar pasar yang adalah milik seorang Yahudi yang menerpakan konsep seperti Mall saat ini. Dimana setiap orang dapat berdagang di pasar tersebut dengan syarat harus menyewa tempat kepada pemilik tanah/pasar. Konsep seperti itu kemudian dirubah oleh Abdurahman ibn Auf, dengan mengumumkan bahwa setiap pedagang dengan bebas berniaga di pasarnya (tanah yang ia beli) tanpa membayar uang sewa sepeserpun. Ia menerapkan konsep bagi hasil bagi yang untuk dalam berniaga saja, sedangkan yang tidak memiliki keuntungan tidak perlu untuk berbagi hasil.
Setelah gagasan persaudaraan itu diterpakan, nabi Muhammad saw. kemudian membangun moral atau akhlak masyarakat. Nabi berkeyakinan bahwa, akhlak menjadi pondasi awal membangun masyarakat, tanpa moral yang baik masyarakat akan hancur. Rasulullah menekanakan pada pentingnya manusia berlakuu sopan santun dan saling menghormati antara satu dengan yang lain. Beliau menunjukkan keutamaan manusia untuk berusaha dan bekerja, bukan menjadi peminta-minta (pengemis). Dalam hadisnya beliau menegaskan bahwa "tangan di atas (artinya memberi) lebih utama daripada tangan di bawah (artinya menerima). Selain itu juga tentang keharusan manusia untuk saling membantu tetangga atau orang lain yang sedang kesusahan tanpa melihat latar belakang suku maupun agama. Nabi Muhammad saw. juga melarang umat Islam untuk menghormatinya secara berlebihan, sehingga nantinya tidak terjadi kesyirikan seperti yang dilakukan oleh umat sebelumnya kepada Nabi mereka.
Pada Masa awal Islam di Madinah ini Nabi Muhammad saw. mulai mengajarkan tatacara shalat, puasa, hingga zakat. Pentinganya shalat berjamaah juga diseru oleh Rasulullah.
Pada tahun kedua Hijriah, di Madinah terjadi dialog antara Rasulullah dengan sahabat-sahabatnya tentang cara untuk mengingatkan kaum Muslimin akan waktu shalat. Ada yang mengusulkan agar pada waktu shalat dikibarkan bendera, dan bagi yang melihat bendera itu agar memberitahu kepada orang lain di depan umum. Ada sebagian sahabat yang mengusulakn untuk menggunakan terompet seperti yang dilakukan oleh kaum yahudi, ada pula yang mengusulkan untuk mengguankan lonceng seperti yang dilakukan oleh kaum Nasrani.
Ada seorang sahabat yang mengusulkan agar pada saat waktu shalat tiba api dinyalakan di tempat yang tinggi, sehingga dengan mudah dapat dilihat oleh semua orang ke tempat itu, atau setidaknya asapnya dapat dilihat oleh orang yang berada di kejauhan, dan bagi yang melihat api dan asap itu agar datang untuk menghadiri shalat.
Semua usulan itu tak satupun diterima oleh Rasulullah dengan alasan-alasan yang rasional, kemudian Nabi menukarkannya dengan kalimat assalatul jami'ah (marilah shalat jamah). Musyarawah tidak dilakukan satu hari saja. Hingga suatu ketika pada saat shalat subuh, seorang sahabat Rasulullah yang bernama Abdullah ibn Zaid menceritakan tentang mimpinya yang bertemu seseorang, kemudian orang itu mengajarinya panggilan Adzan. Kemudian Rasullah meminta Bilal untuk menyerukan azan yang diajarkan oleh Abdullah ibn Zaid kepadanya.
Sejak saat itu, ketika waktu shalat tiba, Bilal-lah yang selalu mengumandangkan azan di atas atap rumah seorang wanita yang berasal dari Banu Najjar di samping Masjid Nabawi, pada saat itu tempat itu lebih tinggi dibandingkan atap masjid.
Selain persoalah aqidah, ibadah, dan akhlah, Rasulullah juga berkonsetrasi membangun sistem kenegaraan, sehingga Madinah kemudian menjadi sebuah 'Republik Kota', seuah gagasan kenegaraan yang saat ini juga digunakan oleh beberapa negara di dunia, seperti Singapura. Rasulullah merumuskan sebuah deklarasi yang mengikat seluruh warga yang tinggal di dalam kota Madinah.
Untuk kepentingan bersama, Rasulullah merumuskan suatu deklarasi yang gunanya untuk mengikat seluruh warga kota Madinah. Isi dari deklarasi itu menekankan pada jaminan kebebasan bergama bagi pemeluk-pemeluknya. Deklarasi itu ditanda tangani bersama Yahudi Bani Auf, Bani Quraiza, Banu Nadzir dan Bani Qainuqa.
Hubungan harmonis yang terjalin antara umat Islam dan pemeluk agama Yahudi tersebut menarik perhatian banyak kalangan termasuk kalangan Nasrani yang pada saat itu mengusai peta politik di kancah global melalui dominasi Kerajaan Romawi. Dari situlah Golongan Nasrani berkeinginan untuk melakukan dialog antar agama, dan datanglah rombongan Nasrasi yang dalam satu riwayat disebutkan menggunakan 60 kendaraan berkunjung ke Madinah - Republik Kota yang baru berdiri.
Pada masa awal Islam di madinah ini, kaum muslimin masih menghadap ke Baitul Maqdis-Yerusalem saat beribadah, sama dengan kaum Yahudi. Namun dikemudian hari turun wahyu dari Allah agar umat Islam saat beribadah menghadap ke Ka'bah di Mekah. Wahyu tersebut turun saat Nabi Muhammad saw. beserta beberapa orang sahabatnya sedang melaksanakan shalat Dzuhur di rumah seorang janda tua. Rasulullah beserta beberapa sahabatnya ini datang untuk mengunjungi perempuan janda tua tersebut yang baru saja meninggal keluarganya. Salah satu riwayat menyebutkan bahwa waktu itu Rasulullah saw. bersama sahabat-sahabatnya hendak pulang sebelum datangnya waktu dzuhur, namun perempuan itu selaku tuan rumah menahannya agar makan siang yang sedang disiapkan.
Ketika datang waktu dzuhur, seperti biasanya, Nabi Muhammad saw. bersama sahabat-sahabatnya shalat menghadap ke baitul Maqdis di Yerusalem, kalau dari kota Madinah berarti Yerusalem berada di arah utara. Ketika wahyu itu turun di saat shalat, Nabi Muhammad saw. langsung membalikkan badannya menghadap ke selatan, yaitu ke arah ka'bah di Mekah. Saat ini rumah perempuan itu dijadikan sebagai Masjid yang memiliki dua kiblat, yang satu menghadap ke sebalah Utara - Baitul Maqdis Yerusalem, dan yang satunya lagi menghadap ke selatan - Masjidil Haram Mekkah. Masjid itu disebut sebagai Masjid Qiblatain.