השיר נכתב בעיקבות סיפור ששמעה בתכנית לט"ו בשבט ששודרה ב"קול ישראל". שלמה ניצן סיפר שם על הרבי נחמן מברסלב, שהיה אדמו"ר באוקראינה ובתורתו מקום חשוב ביותר לניגון.
הרבי כתב: "דע לך, כי כל רועה ורועה יש לו ניגון מיוחד לפי העשבים ולפי המקום שהוא רועה שם, כי כל בהמה ובהמה יש לה עשב מיוחד שהיא צריכה לאוכלו. גם אם אינו רועה תמיד במקום אחד, ולפי העשבים והמקום שרועה שם, כן יש לו ניגון, כי כל עשב ועשב יש לו שירה. ומשירת העשבים נעשה ניגון של רועה".
נעמי שמר התקשרה לשלמה ניצן אחרי השידור ואמרה לו שבתוך הסיפור שהוא סיפר כבר נמצאת המנגינה שתתאים לו.
היא שינתה קצת את המילים כדי שיתאימו ללחן שהתנגן בראשה והשיר בוצע לראשונה ב-1976 בהצגה "מסעות בנימין השלישי".
נעמי שמר הקליטה אותו מאוחר יותר לאלבומה "על הדבש ועל העוקץ" שיצא ב-1981.
בניגוד לסיפור הפשוט של ר' נחמן, יש בשיר של נעמי שמר היגיון פילוסופי עמוק.
השיר הוא השתלשלות לוגית שבה כל מסקנה מובילה למסקנה נשגבת יותר:
יש הרבה מיני עשבים.
כל עשב מיוחד לרועה.
הרועה מחבר עליו ניגון.
ניגון שכזה ממלא את הלב.
ניגון שכזה הוא בהכרח יפה.
ניגון מיוחד יוצר את התפילה.
תפילה יוצרת את עבודת השם.
כל זה גורם תשוקה לארץ הקודש.
מהעשבים הפשוטים נעשה ניגון עליון.
