به نقش علمی بیشتری در شام و دمشق ایفا نمودند. چنان که ذهبی می‌گوید: ابودرداء عالم شام و قاری دمشق و فقیه و قاضی آن دیار به حساب می‌رفت. و از معدود قاریان صحابه بود.(3)  او به اهل شام می‌گفت: می‌بینم که عالمان شما فوت می‌کنند و دیگران هم به دنبال علم نمی‌روند! قبل از این که علم برداشته شود، آن‌را بیاموزید چرا که علم با مردن علما، برداشته می‌شود.(4)  همچنین می‌گفت: عالم باش یا متعلم و یا دوستدار آن‌ها و یا پیرو آن‌ها و غیر از این چهار گروه مباش که نابود می‌شوی. حسن بصری می‌گوید: اگر کسی غیر از این‌ها باشد مبتدع می‌شود.(5) 
همچنین می‌گفت: دنبال علم بروید و اگر نتوانستید، اهل علم را دوست داشته باشید و اگر آن‌ها را دوست نداشتید حداقل با آن‌ها دشمنی نورزید.(6) 
و در جایی دیگر می‌گوید: علم را فرا گیرید و به دیگران بیاموزید، چرا که علم فرا گرفتن و علم یاد دادن در پاداش با هم برابراند و در غیر این دو شغل، خیری وجود ندارد.(7)  و می‌گفت: عالم نمی‌شوی تا آن‌که بر آن‌چه‌ می‌دانی عمل نکنی(8)  و نیز از او منقول شده که گفته است: آن‌قدر فقیه مشو که قرآن را با چندین چهره ببینی.(9)  باری به ابودرداء گفتند: تو چرا شعر نمی‌گویی. در حالی که هر کدام از انصار شعری گفته‌اند؟ گفت: من هم شعری سروده‌ام و آن این است: 
یرید المرأ ان یعطی منـاه		و یأبـی الله الا م، ـا أرادا
یقول المرأ فائلاتی و مالی		و تقوی الله افضل ما استفاد(10) 
«انسان می‌خواهد به همه‌ی آرزوهای خود برسد اما خدا جز آن‌چه‌ خودش می‌خواهد به او نمی‌دهد. انسان از مال و فایده سخن می‌گوید در حالی که تقوای الهی از هر آن‌چه‌ او به دست می‌آورد بهتر است».
و در روایتی آمده است که وقتی عمربن خطاب می‌خواست ابودرداء را استاندار شام تعیین کند او ابا ورزید و هنگامی که با اصرار عمر روبرو شد گفت: من فقط برای آموزش کتاب خدا و سنت پیامبر و امامت آن‌ها می‌روم. عمر(رض) نیز پذیرفت.(11)  
و به خاطر توجه ابودرداء به بخشهای مختلف علوم دینی، جایگاه ویژه‌ای در دلهای مسلمانان باز کرده بود و طلاب زیادی پیرامون او جمع می‌شدند و از مسايل میراث، حساب، حدیث و حتی شعر از او می‌پرسیدند. بنابراین او تأثیر شگرفی در میادین علمی شام از خود به جای گذاشت به ویژه در آموزش قرآن. گفتنی است که ابودرداء واعظی چیره دست نیز بود چنان که باری خطاب به اهل شام چنین گفت: ای اهل شام! چرا گرد می‌آورید آن‌چه‌ که نمی‌خورید و می‌سازید آن‌چه‌ که در آن سکونت نمی‌کنید و آرزوهایی در سر می‌پرورانید که هرگز به آن‌ها نمی‌رسید و بدانید که قوم عاد و ثمود از شهر بصرا تا عدن را مملو از اموال و نعمتها و فرزندان کرده بودند، اکنون آیا شما حاضر هستید آن‌چه‌ را كه آن‌ها از خود به جای گذاشته بودند به دو درهم از من بخرید؟(12) 
این تعالیم با سیاستی که عمربن خطاب در پیش گرفته بود و امت را به صورت آماده باش برای جهاد و آخرت قرار می‌داد، هماهنگ بود و اما معاذ بن جبل خزرجی کسی بود که نخست اهل یمن و سپس اهل شام از او استفاده بردند و عبدالله بن مسعود(رض) همواره از او به نیکی یاد می‌کرد و می‌گفت: معاذ امتی بود كه از پروردگارش فرمان می‌برد. 
(کَانَ أُمَّةً قَانِتًا لِلّهِ حَنِيفًا وَلَمْ يَکُ مِنَ الْمُشْرِکِينَ) النحل: ١٢٠ 
«پيشوائي بود (جامع همه فضائل اخلاقي) و مطيع (فرمان الهي) و حقّگراي (بيزار از باطل و كناره‌گير از بديها) و او از زمره مشركان (چون شما) نبوده است».
پرسیدند: امت یعنی چه؟ گفت: یعنی کسی که راه‌های خیر را به مردم آموزش دهد. و قانت کسی است که مطیع پروردگار باشد.(13)  و معاذ چنین بود. ابن مسعود(رض)، معاذ را به ابراهیم خلیل(ع) تشبیه داد چرا که او دارای علمی وسیع و جایگاه فقهی و اخلاقی ممتازی بود و مسلمانان به جلالت شأن او اعتراف داشتند.
چنان که عمربن خطاب گفت: زنان از این که فرزندی مانند معاذ به دنیا بیاورند عاجز شده‌اند.(14)  و معمولا عمر(رض) در کارهای بزرگ از اهل شوری که از میان انصار معاذ، ابی بن کعب و زید بن ثابت اعضای آن بودند مشورت می‌گرفت.(15)  چرا که این‌ها فقهای برجسته و کارشناسان رویدادها و حوادث و جزو مفتیان زمان رسول خدا(ص) بودند. بنابراین عبدالله بن عمر(رض) دوست داشت که برای او احادیثی که معاذ و ابودرداء راویان آن‌ها بودند، بیان کند و می‌گفت: از دو مرد عاقل برایم روایت کنید. گفتند: دو مرد عاقل کیستند؟ گفت: معاذ و ابودرداء انصاری.(16) 
باری عمربن خطاب در جابیه خطبه‌ای ایراد کرد و گفت: در مسايل فقهی به معاذ مراجعه کنید.(17)  و در آغاز خلافت ابوبکر، عمر(رض) با خارج شدن معاذ از مدینه و اعزام او به شام مخالف بود و می‌گفت: فقدان معاذ از مدینه برای این شهر و ساکنان آن از نظر فقهی زیان آور است. و من در این باره با ابوبکر صحبت کردم اما او نپذیرفت و گفت: چگونه مردی را نگه دارم که به قصد شهادت در راه خدا بیرون می‌شود. من گفتم: به خدا سوگند که گاهی انسان در خانه‌ی خود نیز با شهادت می‌میرد.(18) 
اما بعدها خود عمرفاروق (رض) صلاح کار را در این دانست که معاذ را برای آموزش دادن تعالیم اسلام به مردم شام به آن سامان اعزام نماید و او را به سکونت در شام امر کند و حقا که معاذ از خود تأثیر علمی شگرفی در شام گذاشت چنان که ابو مسلم خولانی می‌گوید: من وارد مسجد حمص شدم. در آن‌جا حدود سیصد نفر از اصحاب بزرگسال پیامبر را دیدم که پیرامون جوانی دارای چشمان سیاه و دندانهای براق نشسته بودند و اگر برای آن‌ها سؤالی پیش می‌آمد به آن مرد جوان مراجعه می‌کردند. من از کسی که نزدیک من نشسته بود پرسیدم او کیست؟ گفت: او معاذ بن جبل است.(19) 
معاذ (رض) همواره به فراگیری علم تشویق می‌نمود و می‌گفت: علم بیاموزید که آموختن آن برای رضای خدا، تقوا و طلب آن عبادت و مذاکره‌ی آن تسبیح و جستجو در آن جهاد و تعلیم آن به دیگران صدقه است و می‌افزود که علم راهنمای حلال و حرام و رفیق غربت و همنشین تنهایی و اسلحه‌ی انسان در مقابل دشمن و راهنمای او در شادمانی و پریشانی است. و خدا ملتی را به وسیله‌ی آن سربلند می‌کند و آن‌ها را امامان هدایت و چراغهای فروزان جهت راهنمایی دیگران قرار می‌دهد.(20) 
معاذ همچنان در شام به آموزش و تربیت مردم پرداخت تا این که در وبای معروف عمواس درگذشت. وقتی که بیمار بود اطرافیانش گریه می‌کردند. پرسید چرا گریه می‌کنید؟ گفتند: به خاطر علمی که با مرگ شما از بین می‌رود. گفت: علم و ایمان تا قیامت بر جای خود باقی هستند و آن‌ها را در کتاب خدا و سنت پیامبرخواهید یافت و افزود که هر سخنی را بر کتاب خدا عرضه کنید و کتاب خدا را بر هیچ سخنی عرضه ننمايید.(21) 
آری، معاذ قرآن را ترازویی معرفی کرد که باید هر چیز را با آن سنجید و محک زد نه این که قرآن بر اساس چیز دیگری موازنه شود. و همین بود روش و منهج معاذ که تا آخر عمر بدان پایبند بود و در حالی که آخرین لحظات عمر خود را سپری می‌کرد و بیهوش می‌شد همین که به هوش می‌آم