ইমাম বুখারী স্বীয় শিক্ষক ইসহাক ইবনে রাহওয়াইহ থেকে এই গ্রন্থ রচনার প্রেরণা লাভ করেন।
একদিন তিনি একটি এমন গ্রন্থের আশা ব্যক্ত করেন যাতে শুধু সহীহ হাদীস লিপিবদ্ধ থাকবে। তাঁর ছাত্রদের মাঝে ইমাম বুখারী তখন এই কঠিন কাজে অগ্রসর হন।[৩] ২১৭ হিজরী সালে মাত্র ২৩ বছর বয়সে তিনি মক্কা শহরের হারাম শরীফে এই গ্রন্থের জন্য হাদীস সংকলন শুরু করেন। দীর্ঘ ১৬ বছর পর ২৩৩ হিজরী সনে এর সংকলনের কাজ সমাপ্ত হয়।
বুখারী শরীফের জন্য হাদীস সংকলন কালে তিনি প্রতিদিন রোজা রাখতেন এবং প্রতিটি হাদীস পাণ্ডুলিপিতে সন্নিবেশনের পূর্বে গোসল করে দু' রাকাত নফল নামাজ আদায় করে মুরাকাবা ও ধ্যানের মাধ্যমে হাদীসের বিশুদ্ধতা সম্পর্কে নিশ্চিত হতেন। এ গ্রন্থে তিনি কেবল ‘‘সহিহ হাদীস’’ সংকলন করেননি, বরং সহিহ হাদীসের মধ্যে যেগুলো তার নির্ধারিত শর্ত উত্তীর্ণ হয়েছে কেবল সেগুলো গ্রহণ করেছেন। তিনি স্বয়ং বলেছেন, "আমি জা'মে কিতাবে সহিহ হাদিস ব্যতীত অন্য কোন হাদিস বর্ণনা করিনি। তবে কলেবর বড় হয়ে যাওয়ার আশঙ্কায় অনেক সহিহ হাদিসকে বাদ দিয়েছি। তিনি আরও বলেছেন, ‘‘আমি আমার কিতাবে প্রতিটি হাদিস লেখার পূর্বেই গোসল করেছি এবং দু রাকা‘আত সলাত আদায় করে নিয়েছি।’’
