Prvé básne písal ako žiak ľudovej školy v Závažnej Porube, ktorých rukopisy sa zachovali a sú vystavené v  rodnom dome Milana Rúfusa v Závažnej Porube, ktorý je prístupný verejnosti od  decembra 2008.  Svoje básne publikoval v časopisoch Prameň, Nový rod, Mladá tvorba a Borba. Inšpiroval sa slovenskou ľudovou slovesnosťou a dielami viacerých slovenských maliarov. Okrem tvorby pre dospelých sa venoval tiež písaniu kníh pre deti a mládež. Tvorbou patrí k najvýraznejším básnickým zjavom. Predstavil sa ako básnik s autonómnym pohľadom na životné a morálne hodnoty ľudského konania, na lásku, pravdu, krásu, utrpenie i tragiku človeka i sveta druhej polovice 20. storočia. Veľmi vnímavo a citlivo hľadá zmysel a podstatu ľudského života. Hlboko načrel do jeho starostí, bolestí, neistôt, radosti, šťastia i vzdoru. Je to poézia vysokých ideových, morálnych a estetických hodnôt zakotvená v mnohorozmernom priestore ľudského sveta.
Venoval sa prekladom z nórčiny, španielčiny, ruštiny a češtiny. Jeho diela vyšli v angličtine, bulharčine, češtine, francúzštine, maďarčine, nemčine, nórčine, poľštine, rómčine, ruštine, taliančine a ďalších jazykoch.
Básnik svoje prvé básne publikoval v časopisoch:
• Prameň,
• Nový rod,
• Mladá tvorba,
• Borba,
• Romboid.
Debutoval básnickou zbierkou Až dozrieme (1956), ktorá vyslovila názory a pohľad na svet, ich ľudské a občianske vnútro. Bola to vlastne druhá zbierka.
Z jeho prvotín vyšiel prísny výber s názvom: Chlapec a Chlapec maľuje dúhu.